ИНФОРМАЦИОННЫЕ ВОЙНЫ С ИСПОЛЬЗОВАНИЕМ СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: АНАЛИЗ ПСИХОЛОГИЧЕСКИХ МЕХАНИЗМОВ ВОЗДЕЙСТВИЯ

Т.А. Нестик, Е.А. Михеев

INFORMATION WARS USING ARTIFICIAL INTELLIGENCE SYSTEMS: ANALYSIS OF PSYCHOLOGICAL MECHANISMS OF INFLUENCE

T. A. Nestik, E. A. Mikheev

Аннотация. В статье рассматривается проблема механизмов психологического воздействия в ходе информационных войн с использованием технологий искусственного интеллекта. Обращается внимание на психологические эффекты групповой поляризации и подтверждения уже сложившегося мнения посредством «информационного джерримендеринга». Рассматриваются способы противодействия распространению «фейковых» новостей и дезинформации в социальных сетях. Приводятся результаты эмпирического исследования обеспокоенности использованием цифровых технологий для слежки за гражданами через интернет и манипулирования общественным мнением, а также результаты исследования предикторов, влияющих на озабоченность молодежи использованием систем искусственного интеллекта для манипулирования общественным мнением. Делается вывод о том, что использование только технических решений для защиты от дезинформации в условиях низкого социального доверия может приводить к обратным эффектам: способствовать развитию зависимости от цифровых технологий и избеганию самостоятельной оценки полученной информации, усилению подозрения пользователей относительно возможности манипулирования общественным мнением с помощью цифровых технологий.

Ключевые слова: информационные войны, искусственный интеллект, психологический механизм, дезинформация, астротурфинг, групповая поляризация, информационный джерримендеринг, групповая идентификация, эхо-камеры.

Abstract. The article deals with the problem of psychological mechanisms of influence in the course of information wars using artificial intelligence technologies. Attention is drawn to the psychological effects of normative influence, interpersonal attraction on the basis of perceived similarity, the creation of homogeneous communities and group polarization ("echo chambers"). Theoretical reasoning is supported by the results of domestic and foreign studies. The ways of countering the spread of "fake" news and misinformation in social networks are considered. The results of the empirical study concerns the use of digital technologies to spy on citizens via the Internet and manipulate public opinion, as well as the results of a study of predictors influencing the concern of youth use of artificial intelligence systems for the manipulation of public opinion.

Keywords: information warfare, artificial intelligence, psychological mechanism, disinformation, astroturfing, group polarization, information jerrymandering, group identification, echo chambers.

Библиографическая ссылка на статью:

Нестик Т.А., Михеев Е.А. Информационные войны с использованием систем искусственного интеллекта: анализ психологических механизмов воздействия // Институт психологии Российской академии наук. Организационная психология и психология труда. 2019. Т. 4. № 4. С. 148-174.

Nestik T.A., Mikheev E.A. (2019). Informacionnye vojny s ispol'zovaniem sistem iskusstvennogo intellekta: analiz psihologicheskih mehanizmov vozdejstvija [Information wars using artificial intelligence systems: analysis of psychological mechanisms of influence]. Institut Psikhologii Rossiyskoy Akademii Nauk. Organizatsionnaya Psikhologiya i Psikhologiya Truda [Institute of Psychology of the Russian Academy of Sciences. Organizational Psychology and Psychology of Labor], 4 (4), 148-174.