ФЕНОМЕНЫ СВЕРХДОВЕРИЯ И СВЕРХНЕДОВЕРИЯ ОПЕРАТОРА К ИНТЕРФЕЙСУ «ЧЕЛОВЕК - ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ»
Обознов А.А., Акимова А.Ю., Рунец О.В.
Oboznov, А. А., Akimova, А. Yu. & Runets, O.V. The phenomena of operator over-trust and over-mistrust to the interface "human - artificial intelligence
DOI: 10.38098/ipran.opwp_2021_19_2_001
Скачать полный текст статьи (.pdf)
Аннотация: Статья посвящена рассмотрению феноменов доверия / недоверия оператора к интерфейсу «человек - искусственный интеллект». Приводится обоснование модели влияния феноменов сверхдоверия и сверхнедоверия информации, получаемой от интерфейса «человек–искусственный интеллект» на надежность и эффективность деятельности оператора беспилотных воздушных транспортных средств. Указанные феномены выражают субъективную уверенность оператора (без объективных на то оснований) в достоверности и / или применимости в своей деятельности получаемой информации, либо её недостоверности и / или неприменимости. Рассмотрены негативные проявления сверхдоверия - некритическое использование оператором информации от интерфейса «Ч - И» (в том числе и ложной), и сверхнедоверия – некритическое отрицание достоверной информации от интерфейса. Приводятся данные исследований, по результатам которых выявлены внутренние и внешние детерминанты изменения субъективных оценок надежности и освоенности техники. Рассматривается возможность целенаправленного управления выраженностью доверия / недоверия информации от интерфейса «Ч - И» для исключения негативного влияния их крайних значений. Показано, что влияние доверия / недоверия оператора технике, в том числе, к автоматизированным системам управления и автоматике на надежность и эффективность операторской деятельности, необходимо рассматривать в сочетании с доверием / недоверием оператора к себе как профессионалу. В статье предлагаются рекомендации по оптимизации уровней доверия / недоверия оператора к информации, получаемой от интерфейса «Ч - И». Они направлены на формирование у оператора адекватных оценок надежности и освоенности (понимания) используемых для создания этой информации методов искусственного интеллекта.
Ключевые слова: доверие / недоверие технике, сверхдоверие и сверхнедоверие информации от интерфейса «человек – искусственный интеллект», доверие / недоверие себе как профессионалу.
Abstract: The article is devoted to the consideration of the phenomena of operator trust / distrust in the interface "human - artificial intelligence". The substantiation of the model of the influence of the phenomena of over-trust and over -distrust of information received from the interface "human-artificial intelligence" on the reliability and efficiency of the operator of unmanned aerial vehicles is given. These phenomena express the operator's subjective confidence (without objective grounds) in the reliability and / or applicability of the information received in his activities, or its unreliability and / or inapplicability. Negative manifestations of over-trust - uncritical use of information from the "H - I" interface (including false ones) by the operator, and over-distrust - uncritical denial of reliable information from the interface are considered. The research data are presented, indicating the possibility of purposeful management of the severity of trust / distrust of information from the "H - I" interface in order to exclude the negative influence of their extreme values. It is shown that the influence of operator's trust / distrust in equipment, including in automated control systems and automation, on the reliability and efficiency of operator activities, must be considered in combination with the operator's trust / distrust in himself as a professional. The article proposes recommendations for optimizing the operator's trust / distrust levels in information received from the "H - I" interface. They are aimed at forming adequate estimates of the operator's reliability and mastery (understanding) of the artificial intelligence methods used to create this information.
Key words: trust / distrust in equipment, over-trust and over-distrust of information from the "human-artificial intelligence" interface, trust / distrust to oneself as a professional.
Библиографическая ссылка на статью:
Обознов А. А., Акимова А. Ю., Рунец О. В. Феномены сверхдоверия и сверхнедоверия оператора к интерфейсу «человек - искусственный интеллект»// Институт психологии Российской академии наук. Организационная психология и психология труда. 2021. Т. 6. № 2. С. 4 – 20. DOI: 10.38098/ipran.opwp_2021_19_2_001.
Oboznov, А. А., Akimova, А. Yu. & Runets, O.V. (2021) Fenomeny sverhdoverija i sverhnedoverija operatora k interfejsu «chelovek - iskusstvennyj intellekt» [The phenomena of operator over-trust and over-mistrust to the interface "human - artificial intelligence] Institut psikhologii Rossiyskoy akademii nauk. Organizatsionnaya psikhologiya i psikhologiya truda [Institute of Psychology of the Russian Academy of Sciences. Organizational psychology and psychology of work]. 6 (2), 4 – 20. DOI: 10.38098/ipran.opwp_2021_19_2_001.