Доверие и недоверие недостоверной информации в Интернете
А.Н. Лебедев
Рассматривается проблема доверия и недоверия недостоверной информации, распространяемой в Интернете. Обсуждаются вопросы природы фейковых сообщений, психологических механизмов возникновения и распространения фейков, психологических характеристик и мотивации распространителей недостоверной информации и др. Также уделяется внимание методам распознавания фейков, как экспертным, так и выполняемым программами искусственного интеллекта. Представлены результаты исследований, проводимых в ряде исследовательских организаций США, в частности, в Массачусетском Технологическом Институте, в Мичиганском институте науки о данных, университете Ланкастера, Калифорнийском университете, университете штата Огайо, университете штата Северная Каролина и др. Представлено описание отличий распространяемой в Интернете недостоверной информации от достоверной, а также данные о влиянии социальной среды и когнитивных ошибок пользователей на распространение недостоверной информации. Рассмотрено влияние фейков на отношение к известным рекламным брендам. Исследования показывают, что ложные новости, например, в социальной сети Twitter, распространяются намного быстрее, чем правдивые, и в гораздо большем объеме. Было установлено, что распространение фейковой информации почти не связано с ботами, запрограммированными на ее распространение. В наибольшей степени это определяется именно действиями людей. Отмечается, что, поскольку исследования доверия и недоверия информации в Интернете представляют огромный интерес для бизнеса, их результаты оказываются малодоступными широкой общественности. Это делает исследования по данной проблематике крайне актуальными для социальной и экономической психологии.
Ключевые слова: доверие и недоверие, социальное влияние, психологическое манипулирование, фейки, пранкерство, симулякры, брендинг.
The problem of studying the trust and distrust of unreliable information distributed on the Internet is considered. The article discusses the nature of fake messages, the psychological mechanisms of the emergence and spread of fakes, the psychological characteristics and motivation of distributors of false information, and so on. Attention is also paid to methods for recognizing fakes, both expert and performed by artificial intelligence programs. The results of research conducted in several research organizations in the United States at the Massachusetts Institute of Technology, the Michigan Institute of data science, Lancaster University, the University of California, Ohio state University, North Carolina state University, etc. are presented. The article describes the differences between false information distributed on the Internet and reliable information, as well as data on the impact of the social environment and cognitive errors of users on the dissemination of false information. The problem of the influence of fakes on the attitude to well- known advertising brands is considered. Research shows that false news, for example, on the social network Twitter, spreads much faster than true news, and in a much larger volume. It was found that the spread of fake information is almost not associated with bots programmed to distribute such information. To the greatest extent, this is determined by the actions of people. It is noted that since research on trust and distrust of information on the Internet is of great interest to businesses, their results are not accessible to the General public. This makes research on this issue extremely relevant for social and economic psychology.
Keywords: trust and distrust, social influence, psychological manipulation, fakes, pranking, simulacrum, branding.
Проблема доверия и недоверия информации для различных отраслей психологии (см., например: Доверие и недоверие в условиях..., 2013; и др.) становится все более актуальной в связи с развитием сети Интернет. Фактически его слабая контролируемость специальными государственными и общественными организациями создает условия для сознательного или неосознанного распространения в сети недостоверной информации, в частности так называемыхфейков и симулякров (Сокал, Брикмон, 2002).
В настоящее время проблема стала настолько глобальной, что правительства многих стран принимают специальные законы с целью ограничения фейков в Интернете, поскольку их распространение оказывается потенциально опасным не только для структур государственного управления и экономики, но и для организаций, обеспечивающих национальную безопасность (Абазов, 2018).
Специалистами в области глобальных информационных процессов многих стран неоднократно высказывалось мнение, что пранкерство и фейки в интенсивно изменяющемся мире могут не только создавать условия для появления экстремистских настроений, но и реально провоцировать международные военные конфликты (Levine, 2014).
Сегодня многие философы, социологи и общественные деятели говорят о переходе цивилизации в XXI в. на новый этап развития, где на смену одной форме мифологического сознания (религиозной) приходит новая (виртуально-футуристическая). В настоящее время появление простых и доступных компьютерных видео- и аудио-редакторов, а также технологий обмена информацией, позволяет огромному количеству анонимных авторов, используя относительно простые домашние компьютеры, распространять недостоверные сведения и, тем самым, манипулировать аудиторией, сталкивая друг с другом не только отдельных пользователей, но и целые организации и даже страны (троллинг) (Goel et al., 2016).
При этом информация может быть абсолютно недостоверной (фейк) или частично искаженной (симулякр). Без психологических исследований оценить степень искажения информации и уровень доверия (недоверия) к ней на уровне математического моделирования в настоящее время не представляется возможным. Но в отсутствии таких моделей любые стратегии сдерживания распространения фейков не обеспечивают эффективного вложения существенных финансовых средств (Дьяков, 2008).
Например, в настоящее время в Интернете можно найти тысячи вполне убедительных и на первый взгляд «достоверных» видеосюжетов с изображением движущихся «живых организмов», которые в природе не существуют и которые являются плодом воображения недобросовестных или «бескорыстных» распространителей фейков и симулякров. В ближайшие десятилетия это может нанести вред не только широким слоям населения, но и науке как основной силе, противодействующей мифам и заблуждениям. Возможно, ученым рано или поздно придется разбираться с тем, реальны ли, например, наполнившие сегодня Интернет многочисленные видеоматериалы с иллюстрациями якобы обнаруженных в океане живых существ с телом рыбы и головой животного и даже человека. В этом случае неспециалисту бывает сложно ответить на вопрос: на этих кадрах представлены «результаты секретных опытов в области генной инженерии», как утверждают распространители информации, или это фейки, сознательно созданные для введения в заблуждение не только обычных людей, но и ученых.
Изучение механизмов распространения недостоверной информации в Интернете.
Изучению фейков в Интернете в мире с каждым годом уделяется все больше внимания. Так, например, в исследованиях ученых Массачусетского Технологического Института было показано, что фейковые новости распространяются в социальной сети Twitterбыстрее, чем правдивые, и в гораздо большем объеме. Было установлено, что движение фейковой информации почти не связано с ботами, запрограммированными именно для этого. В наибольшей степени это определяется именно действиями людей - они намного быстрее продвигают неточную и фейковую информацию (Vosoughi et al., 2018).
Так в процессе эксперимента авторы исследования удалили всех ботов из сетевой группы, после чего различия между распространением ложных и правдивых новостей практически свелись к нулю. В исследовании было показано, что фейковые новости на 70% чаще передавались пользователями Твиттер, чем правдивые. То есть, чтобы подвергнуть информационному охвату 1500 пользователей, отмечают авторы, требуется в шесть раз больше правдивых историй, чем фейковых. При этом ложь распространяется (достигает каскадной глубины) в 10 и даже в 20 раз быстрее, чем достоверные сведения.
Было проанализировано около 126000 каскадов новостных лент, которые размещались в Twitterболее 4,5 миллионов раз приблизительно 3 миллионами человек в период с 2006 по 2017 гг. Из этих каскадов самую большую категорию новостей, около 45000, составляла политика, за ней - городские легенды, бизнес, терроризм, наука, развлечения и стихийные бедствия. Распространение ложных историй было более выраженным для политических новостей, чем для других. Пытаясь ответит на вопрос, почему ложь распространяется быстрее, чем правда, авторы исследования предположили, что все дело в новизне - в том, что людям в большей степени нравятся новые вещи, поэтому они с большей охотой делятся новой информацией. То есть в социальных сетях пользователь может привлечь внимание, став первым, кто поделился ранее неизвестной (хотя и, возможно, ложной) информацией - тот, кто делится новым, выглядит более осведомленным.
Разумеется, нельзя исключать и иное, не менее правдоподобное, на наш взгляд, объяснение. Фейки, как правило, предназначены для того, чтобы произвести впечатление на аудиторию, и именно эта мотивация является ведущей для их распространителей. В этом случае можно предположить, что механизм привлекательности фейков оказывается похожим на тот, который часто используется для привлечения внимания потребителей в рекламе и маркетинге. Этот механизм получил название «коммуникация для коммуникации» (Лебедев-Любимов, 2010; Лебедев, Гордякова, 2015). В этом случае рекламный материал подается так, чтобы потребитель мог с выгодой для собственной самооценки преподнести его другим людям в референтной группе. Действительно, очень часто фейки получают распространение именно потому, что они привлекательны для перепостов и позволяют обратить внимание на персону автора поста.
Исследователи фейков в Интернете часто подчеркивают то, что распространение ложных и правдивых новостей имеет различный «эмоциональный профиль» - люди чаще реагируют на фейковые новости удивлением и отвращением. Напротив, правдивые истории вызывают у них эмоциональное состояние предвкушения и доверия. Так, S. Vosoughi полагает, что если некоторые люди сознательно распространяют ложные новости, а другие делают это невольно, то это явление представляет собой проблему, состоящую, как минимум, из двух частей, что на практике потребует разных стратегий решения (Vosoughi et al., 2018).
Исследование влияния предупреждающих надписей о ложных новостях
После президентских выборов в США в 2016 г. компания Facebook начала размещать предупреждающие баннеры о новостях, которые экспертные компании оценили как недостоверные. После этого выяснилось, что предупреждение о том, что некоторые сообщения могут быть фальшивыми, увеличивало доверие пользователей к другим ложным сообщениям, на которых таких предупреждений не было, то есть постоянное напоминание о возможных недостоверных сообщениях, наоборот, снижало уровень недоверия к другим новостям (повышало доверие), хотя традиционное представление состоит в том, что должно было бы быть как раз наоборот. Это явление говорит в пользу представлений о доверии и недоверии не как о полюсах одного континуума, а как о относительно самостоятельных психологических феноменах (Купрейченко, 2008).
Если в массиве информационных сообщений некоторые из них будут помечены предупреждениями о том, что эта информация проверена кем-то (например, авторитетным экспертом), то остальной контент воспринимается читателем также, как проверенная информация (хотя может оказаться ложью), и, как следствие, оценивается как более достоверный. Непомеченные новости становятся более легитимными, что исследователями было названо «эффектом подразумеваемой правды» или «эффектом истины».
Исследователями Массачусетского Технологического Института было проведено онлайн исследование (N=6739) на платформе Amazon Mechanical Turk. Участникам эксперимента были представлены различные заголовки истинных и ложных новостей в формате Facebook. Ложные истории были выбраны на веб-сайте Snopes.com и включали заголовки, такие как «BREAKINGNEWS: Хиллари Клинтон подала на развод в судах Нью-Йорка» и «Сенатор-республиканец обнародовал план по отправке всех учителей Америки через морской учебный лагерь» (Pennycook et al., 2020). Количество правдивых и ложных историй было одинаковым. Участники исследования были разделены на две группы. В экспериментальной группе некоторые истории были помечены предупреждающими надписями «Ложь» или «Правда». В контрольной группе подобных предупреждений не было вовсе. Участников исследования спрашивали о том, какой новостью (историей) они бы поделились в социальных сетях.
В результате было показано, что предупреждение о ложности информации в целом снижает вероятность того, что люди поделятся ею. Так, в контрольной группе (где предупреждений не было) ложными историями готовы были поделиться 29,8% респондентов. А в экспериментальной группе эта цифра снизилась до 16,1% - то есть определенное количество людей все равно было готово делиться ложной информацией даже после предупреждения о ее неправдоподобии.
Также исследователи зафиксировали эффект предполагаемой правды в экспериментальной группе. Из оставшихся непомеченных сообщений читатели готовы были поделиться 36,2% ложных историй, на которых отсутствовали какие-либо надписи-предупреждения. Эти непомеченные сообщения (на фоне с сообщениями, помеченными как ложные) воспринимались как проверенные, а значит более достоверные.
С другой стороны (в другой экспериментальной серии), когда в блоке информационных сообщений, наряду с маркерами «ложь», появлялись сообщения с маркерами «правда», количество ложных новостей, которыми респонденты хотели бы поделиться, снижалось в экспериментальной группе до 13,7%, а в контрольной до 26,9%. Один из участников исследования Д. Дж. Рэнд считает, что одновременное размещение предупреждений о ложности и правдивости информации заставляет воспринимать истории без маркеров как еще непроверенные. В этой ситуации подразумеваемый эффект истины фактически перевернут.
Таким образом, данное исследование не только обращает внимание на воздействие предупреждений на восприятие какого-то конкретного информационного сообщения, но и на влияние подобных предупреждений на весь массив информации, в который включено данное сообщение.
Влияние аудитории на распространение новостей в социальных сетях.
В некоторых исследованиях авторы ставят задачу изучения социально-психологических факторов, которые способствуют появлению и распространению фейковой информации. Так, в исследовании, проведенном в Колумбийском университете, было показано, что лишь очень малая доля заголовков, которые выпускают редакторы новостей в Twitter, привлекает внимание аудитории. Однако истории, рекомендованные друзьями, вызывают наибольше количество кликов пользователей. Изучая процесс поиска новостей в социальных сетях, исследователи обнаружили, что ссылки на читателей вызвали 61% (почти 10 млн.) кликов в случайной выборке новостных историй, опубликованных в Twitter (ColumbiaUniversitySchool..., 2016).
Было установлено, что социальные сети в 2014 г. обогнали естественный поиск информации в интернете, притягивая к себе 30% всего трафика. Также отмечается, что несмотря на растущее влияние социальных сетей, относительно мало известно о том, как люди потребляют новости на этих платформах.