ВЗАИМОДЕЙСТВИЕ ЧЕЛОВЕКА-ОПЕРАТОРА С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ: ПРОБЛЕМА КАЛИБРОВКИ ДОВЕРИЯ

Аннотация. В последнее время все большее внимание уделяется развитию систем с элементами искусственного интеллекта, что связано с их многочисленными потенциальными преимуществами, такими как безопасность и повышение эффективности труда. Одним из ключевых факторов, влияющих на внедрение технологий искусственного интеллекта является уровень доверия пользователей к ним. Развитие доверия - это динамический процесс, и для безопасного применения ИИ-систем уровень доверия пользователей должен соответствовать реальным возможностям системы. В противном случае, возможно возникновения отношения «сверхдоверия» и «свернедоверия». В первом случае пользователи переоценивают возможности системы, что может приводить к ошибкам в деятельности и в том числе к несчастным случаям. Сверхнедоверие, напротив, связано с отказом от исправной автоматики, что негативно сказывается на эффективности труда и повышает нагрузку на человека-оператора. Существование феноменов «сверхдоверия» и «сверхнедоверия» ставит перед разработчиками ИИ-систем вопрос о поддержке оптимального уровня доверия пользователя к системе во время взаимодействия с ней. Процесс обеспечения баланса между надежностью системы и доверием пользователя к ней называется «калибровкой» доверия, а результатом этого процесса является отношение «откалиброванного» доверия. Данная статья является литературным обзором современных зарубежных исследований проблемы калибровки доверия пользователей ИИ-системам за 5 лет (в период с 2018 по 2023 гг.). Таким образом, в работе анализируется проблема «калибровки» доверия, дается определение процесса «калибровки» доверия доверия пользователей ИИ-системам. Также приводятся основные исследовательские модели калибровки доверия ИИ-системам (в том числе модель К. Хоффа и М. Башир и модель Й.Крауса). Рассматриваются практические рекомендации разработчикам ИИ-систем, способствующие калибровке доверия пользователя. Рекомендации направлены на повышение прозрачности системы (прозрачность ограничений, прозрачность намерений). Обсуждаются направления перспективных исследований.