Исследователи собрали открытые данные от 280 млн. подписчиков в Twitter, которые потенциально просматривали и делились ссылками на новости, и проанализировали, сколько кликов по этим ссылкам было получено. Из одного процента твитов исследователи выбрали все URL-адреса, связанные с пятью новостными агентствами - BBC, Huffington Post, CNN, New York Times и Fox, в течение месячного периода летом 2015 г.
Цель данного исследования состояла в том, чтобы выяснить, какие истории из их выборки твитов будут опубликованы и получат больше лайков и перепостов. В частности, было обнаружено, что 85% «кликов» (просмотров) по твитам, связанным с BBC, были получены по рекомендациям читателей. Результаты также показали, что люди быстрее делятся новостями, чем читают их до конца. Как утверждают исследователи, 59% всех ссылок, представленных в выборке, остались незамеченными и, по-видимому, непрочитанными.
Обычно люди формируют мнение, основанное на кратком изложении или информационном резюме, не предпринимая усилий, чтобы углубиться в текст. Исследование показало, что публикации в Twitterимеют относительно длительный срок хранения. В то время как более 90% ссылок в исследовании были распространены в течение нескольких часов, большинство из них были просмотрены и предположительно прочитаны гораздо позже. Исследование показало также, что 70% кликов произошло после первого часа, а 18% - на второй неделе. Также отмечалось, что обмен контентом и его фактическое чтение плохо коррелируют. По мнению исследователей, лайки и перепосты не являются значимым показателем популярности контента.
Сегодня исследователи Интернета отмечают, что социальные сети изменили многие профессии, включая журналистику, позволив каждому стать автором и издателем с персональной аудиторией. Но в связи с появлением огромного количества недостоверной информации и откровенной фальсификации публикуемых сведений, такие популярные новостные платформы, как Facebook и Twitter, теперь все чаще вынуждены контролировать то, что передается по сети, создавая для этого специальные технологии, включая программы искусственного интеллекта.
Методы распознавания недостоверной информации.
В связи с проблемой противодействия распространению в Интернете недостоверной информации актуальной становится задача разработки методов выявления фейков. В исследовании, поддержанным Мичиганским институтом науки о данных и Национальным научным фондом США, проводилось изучение данного вопроса и разработка методик выявления недостоверной информации. Данные исследования показали, что алгоритмы искусственного интеллекта справляются с обнаружением фейковых новостей намного лучше, чем люди, причем не только обычные пользователи, но и многие эксперты (Pйrez-Rosas et al., 2017).
Интеллектуальные компьютерные программы идентифицируют контрольные лингвистические сигналы в фальшивых новостях эффективнее и, по мнению исследователей, могут предоставить таким новостным агрегаторам и социальным сетям, как, например, Новости Google, эффективное оружие в борьбе с дезинформацией. По результатам исследования интеллектуальные программы находят до 76% информационных подделок, а эксперты - лишь 70%. Отследить фальшивые истории до того, как они будут иметь реальные последствия, достаточно трудно, поскольку агрегаторы и сайты социальных сетей сегодня сильно полагаются на людей-редакторов, которые часто не могут анализировать и фильтровать такой большой наплыв новостей. Часто к тому времени, когда фальшивая история разоблачается, ущерб уже нанесен.
На основе Amazon Mechanical Turk с помощью краудсорсинга в условиях эксперимента исследователи привлекли группу добровольцев к распространению в сети фальшивых новостей. Участникам эксперимента, платили за то, что они превращали короткие актуальные новости в похожие, но поддельные новости, имитируя журналистский стиль статей. В конце процесса исследовательская группа имела набор из 500 реальных и фальшивых новостей. Исследователи загрузили маркированные истории в алгоритм, который выполнял лингвистический анализ, обучая себя различать реальные и фальшивые новости. Затем был взят набор реальных и фальшивых новостей, собранных непосредственно из интернета, что как раз и привело к 76% успеха (Dizikes, 2020).
Таким образом, применяемый для выявления недостоверной информации искусственным интеллектом (ИИ) лингвистический анализ, анализируя такие количественные признаки, как грамматическая структура, выбор слов, пунктуация и сложность, оказывается более эффективным. Он работает быстрее, чем люди, и его можно использовать с различными типами новостей. Это опять же подтверждает концепцию А. Тверски и Д. Канемана, в которой утверждается, что людям в силу их эмоциональности свойственны многочисленные когнитивные ошибки, допускаемые в процессе анализа ситуаций и принятия решений. Сегодня человека гораздо легче обмануть, чем программу искусственного интеллекта, хотя в целом проблема пока еще не имеет однозначного решения (Канеман, 2014).
Авторы проекта пришли к выводу, что лингвистические алгоритмы, которые анализируют письменную речь, сегодня довольно распространены, но задача построения детектора фальшивых новостей заключается не в разработке самого алгоритма, а в поиске правильных данных, с помощью которых можно обучить этот алгоритм.
Фальшивые новости появляются и быстро исчезают, что затрудняет их сбор. Они также появляются в разных жанрах, что еще больше усложняет процесс сбора информации. Сатирические новости, например, легко собирать, но использование иронии и абсурда делает задачу обучения ИИ алгоритму обнаружения достаточно сложной.
Изучение психологических характеристик распространителей фейков
Исследование черт таких людей и тех, кто им верит, связано со значительными техническими и психологическими трудностями.
Исследователи из Университета Ланкастера, изучавшие различные способы обмана, провели сравнительный психолингвистический анализ первоапрельских шуток, рассылаемых по Интернету, и фейковых новостей и установили значительное сходство мистификаций, публикуемых СМИ, и обычных фейков. Участники проекта собрали данные, проанализировав более чем 500 шуток, распространяемых на более чем 370 веб-сайтах за 14 лет. Оказалось, что такие шутки лингвистически во многом совпадают с многочисленными фейками, тиражируемыми в Интернет. Поскольку авторы первоапрельских шуток обычно не скрывают своего авторства, а наоборот выражают радость, что им удалось «развести» аудиторию, появляется возможность изучать «цифровые следы» и выявлять тех, кто распространяет фейки. Было установлено, что информация такого рода, как правило, содержит менее сложную лексику и более длинные предложения, чем правдивые новости. Было показано, что последние включают в себя намного больше таких данных, как имена, места, даты и время. Это редко используется как в первоапрельских шутках, так и в фейках (Lancaster University, 2019).
Однако имена собственные, например, такие личные имена видных политиков, как «Трамп» или «Хиллари», встречаются в поддельных новостях чаще, чем в подлинных новостных статьях или первоапрельских шутках, в которых их значительно меньше. Такие местоимения первого лица, как «мы», также являются характерной особенностью как первоапрельских, так и фальшивых новостей. Это противоречит традиционному мышлению, которое используется для обнаружения обмана, которое «предполагает», что лжецы используют меньше местоимений от первого лица.
Исследователи установили ряд закономерностей, по которым можно отличить фейковые новости от подлинных. Оказалось, что последние как правило:
• короче в длину,
• содержат больше уникальных слов,
• представлены более длинными предложениями,
• легче читаются,
• о будущих событиях говорят неопределенно,
• содержат больше ссылок на настоящее,
• уделяют меньше внимания событиям прошлого,
• в них чаще используются имена собственные,
• в них больше местоимений от первого лица,
• используют упрощенный язык,
• содержат очень мало дат,
• содержат меньше знаков препинания,
• менее формальны и содержат больше ненормативной лексики и орфографических ошибок.
Влияние ложных новостей на формирование ложных воспоминаний.
Исследования влияния фейков на психику пользователей социальных сетей позволили ряду авторов доказать, что распространение недостоверной информации наносит вред, который очень часто недооценивается и отдельными людьми, и обществом. Согласно одному из последних исследований, проведенных в США, избиратели могут сформировать ложные воспоминания, увидев сфабрикованные новости, особенно если они соответствуют их политическим убеждениям. Исследователи предполагают, что результаты указывают на то, как избиратели могут повлиять на такие предстоящие политические события, как, например, президентская гонка в США в 2020 г. (Murphy et al., 2019).
Данное исследование проводилось в течение недели, предшествующей референдуму 2018 г. по легализации абортов в Ирландии. Элизабет Лофтус, на сегодня ведущая исследовательница памяти из Калифорнийского университета, и ее сотрудники спросили в режиме онлайн у 3140 имеющих право голоса избирателей, планируют ли они голосовать на референдуме, и как именно?
Затем экспериментаторы представили каждому респонденту шесть новостных репортажей, два из которых были выдуманными историями, в них были изображены участники кампании, занимающиеся чем-то незаконным или подстрекательством. После прочтения каждого рассказа респондентов спрашивали, слышали ли они о событии, описанном в рассказе ранее. Если да, то они должны были сообщить какие-либо конкретные воспоминания об этом. Исследователи сообщили избирателям, имеющим право голоса, что некоторые из прочитанных ими историй были сфабрикованы, и предложили идентифицировать любые истории, которые они считали фальшивыми. После этого респонденты выполняли психодиагностический тест на оценку их когнитивных способностей.
Почти половина респондентов сообщили о том, что они знают (слышали, читали, видели) по крайней мере об одном из выдуманных событий. Многие из них «вспомнили» подробности того, о чем говорилось в сфабрикованных новостях. Лица, выступавшие за легализацию аборта, чаще всего вспоминали ложь о противниках референдума. Те, кто был против легализации, с большей вероятностью помнили ложь о его сторонниках. Многие опрошенные не смогли признать, что не правы даже после того, как узнали, что часть информации была вымышленной. Авторы исследования пришли к выводу, что избирателям через Интернет можно внушить эти полностью сфабрикованные воспоминания, несмотря на явное предупреждение о том, что им показывали поддельные новости.
Эксперимент показал, что респонденты с более низким баллом по когнитивному тесту были склонны к формированию ложных воспоминаний не более, чем испытуемые с более высокими баллами. Однако они с большей вероятностью «вспоминали» ложные истории, которые соответствовали их собственному мнению. Эти данные показывают, что люди с более высокими когнитивными способностями могут с большей вероятностью подвергнуть сомнению свои личные предубеждения, а также источники новостей. Э. Лофтус утверждает, что понимание психологических эффектов фальшивых новостей крайне важно, учитывая, что сложные технологии облегчают создание не только фальшивых новостных сообщений и изображений, но и фальшивых видео (Murphy et al., 2019).
Когнитивные ошибки пользователей и распространение недостоверной информации.
В другом исследовании Дж. Коронел, Ш. Поулсен и М. Свитцер (Coronel et al., 2019) из университета штата Огайо (США) было установлено, что, наряду с фейковыми новостями и политическими блогами, есть еще один источник дезинформации на спорные темы - это сами люди. Исследование показало, что люди, склонные предоставлять точные статистические данные по спорным вопросам, как правило, сами неправильно запоминают эти цифры, поскольку неосознанно стараются соответствовать общепринятым социальным предубеждениям.
Например, когда людям говорят, что число мексиканских иммигрантов в Соединенных Штатах в последнее время сократилось (что верно), но это противоречит их представлениям, то они запоминают то, во что верят. И когда люди передают эту созданную ими дезинформацию, цифры могут все больше и больше отдаляться от истины. По мнению руководителя проекта Джейсон Коронела, человек может генерировать свою собственную дезинформацию, а не только лишь принимать ее из каких-либо внешних источников.
Исследователи полагают, что часто пользователи делают это не нарочно, но их собственные предубеждения могут сбить их с правильного пути. Проблема становится еще более серьезной, когда люди делятся своей дезинформацией с другими пользователями Интернета.
В одном эксперименте 110-ти его респондентам были предложены краткие письменные описания четырех социальных проблем, связанных с числовой информацией. Две проблемы были сформулированы с использованием числовых данных, совпадающих с общепринятой точкой зрения. Остальные две содержали не совсем достоверную информацию. Участникам исследования было предложено записать цифры, которые содержались в описаниях четырех проблем. Но им не сообщили заранее, что придется запоминать цифры. Исследователи обнаружили, что люди обычно дают правильные числовые соотношения по вопросам, по которым статистика соответствовала тому, как люди оценивают ситуацию. Но когда дело доходит до вопросов, где цифры идут вразрез с убеждениями, то испытуемые с гораздо большей вероятностью запоминают цифры, которые соответствуют их убеждениям, а не истине. Это факт аналогичен известному эффекту «привязки к числу», описанному А. Тверски и Д. Канеманом, хотя, возможно, имеет иную психологическую природу (Канеман, 2014).