Федеральное государственное автономное образовательное учреждение высшего образования
"Национальный исследовательский университет
"Высшая школа экономики""
Факультет коммуникаций, медиа и дизайна
Выпускная квалификационная работа
Изменение доверия к журналистскому контенту в связи с распространением технологии дипфейк
Гаврищук Анастасия Ярославовна
Москва 2020
Оглавление
Введение
Глава 1. Теоретические принципы распространения дипфейков в медиа
1.1 От фейка до дипфейка: происхождение новой технологии
1.2 Классификация дипфейков
1.3 Тенденции в современной журналистике в контексте изменения доверия к журналистским материалам
Глава 2. Влияние дипфейков на журналистику и способы их обнаружения
2.1 Последовательные шаги для создания дипфейка
2.2 Способы обнаружения дипфейков
2.3 Предпосылки правового регулирования дипфейков и опыт их обнаружения: универсальные рекомендации для сотрудников медиа
Заключение
Список использованной литературы и источников
Приложения
Введение
Современный человек потребляет очень много информации: примерно 40% своего бодрствования мы проводим в сети Чуть меньше сна: сколько времени россияне сидят в интернете // газета.ru URL: https://www.gazeta.ru/tech/2020/02/12/12956929/we_are_social.shtml (дата обращения: 15.04.2020).. Следствие этого - информационные перегрузки, которые способствовали появлению термина digital detox - полного отказа от гаджетов как способа отдохнуть и привести свой организм в порядок. Обилие информации и широкий доступ к ней приводят к ситуации, когда "снижается эффективность ее обработки, анализа и интерпретации" Информационная перегрузка // Национальный исследовательский университет "Высшая школа экономики" URL: https://iq.hse.ru/news/215584230.html (дата обращения: 15.04.2020)., что порождает большое количество фейков - непроверенных новостей, которые появляются даже в серьезных изданиях. "Сегодняшние интернет-пользователи имеют склонность делиться всем, что схоже с их мировоззрением или убеждениями, независимо от подлинности" How can journalists help solve the global problem of deepfakes? // WNIP URL: https://whatsnewinpublishing.com/how-can-journalists-help-solve-the-global-problem-of-deepfakes/ (дата обращения: 20.04.2020)., - пишут авторы статьи "How can journalists help solve the global problem of deepfakes?". медиа дипфейк журналистика
Так, ИА "Панорама", который позиционирует себя как сатирическое издание, публикует фейковые новости на злободневные темы. Несмотря на то, что интернет-портал не скрывает своей направленности, многие СМИ не перепроверяют опубликованные там материалы. Так произошло со статьей "Искусственный интеллект, разработанный в Сколково, посоветовал россиянам бежать из страны" Искусственный интеллект, разработанный в Сколково, посоветовал россиянам бежать из страны // ИА "Панорама" URL: https://panorama.pub/25978-iskusstvennyj-intellekt.html (дата обращения: 09.03.2020)., которая распространилась среди более серьезных источников (Тверь 24, Кузбасские новости, каналы на Яндекс. Дзене). Количество репостов в социальные сети было огромным, и потребители контента действительно поверили в написанное. Согласно отчету Reuters Institute Reuters Institute Digital News Report 2019 // Reuters Institute URL: https://reutersinstitute.politics.ox.ac.uk/sites/default/files/inline-files/DNR_2019_FINAL.pdf (дата обращения: 09.03.2020). в 2019 году, больше половины людей во всем мире обеспокоены тем, что недостаточно хорошо умеют отделять реальные и поддельные новости в интернете.
В контексте этого для сотрудников СМИ особо важно отличать фейки - заведомо ложные сведения - от правды: проверять, кто является источником информации, убеждаться, что фотография действительно была сделана на месте события и руководствоваться здравым смыслом. Но наряду с фейками, с которыми можно бороться, если тщательно перепроверять информацию, в последние годы появилась более серьезная угроза - дипфейки. Дипфейк - это метод синтеза фото или видео, основанный на принципах машинного обучения. Обладая высоким уровнем достоверности, дипфейки уже сейчас становятся настолько качественными, что ставят под угрозу авторитет СМИ, репутацию звезд и политиков, которые всегда находятся под прицелом создателей дипфейков.
Существуют положительные и отрицательные примеры использования дипфейков. К отрицательным можно отнести дипфейки, которые наносят вред репутации человека, а также те из них, которые создаются с целью мошенничества и шантажа. Например, одной из жертв дипфейка стала Нэнси Пелоси, спикер Палаты представителей Конгресса США. На поддельном видео она выступает в состоянии алкогольного опьянения. После скандала удалось доказать невиновность политика и удалить видео, но качество подделки было настолько высоким, что вызвало беспокойство общественности.
Новая технология может использоваться и с положительной стороны: для нужд киноиндустрии, создания качественной графики и в искусстве. Индийский политик Маной Тивари прославился тем, что сделал дипфейк на самого себя - в ходе предвыборной гонки он снял агитационный ролик, который с помощью новой технологии был озвучен на разных языках, чтобы привлечь больше избирателей. "Технология дипфейков помогла нам усилить кампанию, как ничто другое. С помощью ролика на хариани мы убедительно донесли послание целевой аудитории, на чьём языке кандидат не говорит" Индийский политик сделал дипфейки собственной речи на других языках, чтобы привлечь больше избирателей // TJournal URL: https://tjournal.ru/internet/144420-indiyskiy-politik-sdelal-dipfeyki-sobstvennoy-rechi-na-drugih-yazykah-chtoby-privlech-bolshe-izbirateley (дата обращения: 10.03.2020)., - так прокомментировала видео пресс-служба политика. В исходном видео заменили только движение губ, чтобы озвучка выглядела более реалистично, и это удалось: отличить оригинальное видео от сгенерированного практически невозможно. Этот опыт открыл новые горизонты для озвучивания фильмов на других языках.
Таким образом, актуальность нашей темы состоит в том, что технология дипфейк стремительно развивается и проникает во многие сферы: в политику, сферу развлечений, в средства массовой информации.
Объектом нашего исследования выступает технология дипфейк, а предметом - ее влияние и воздействие на журналистику. В ходе написания работы мы ставим несколько исследовательских вопросов:
1. Как технология дипфейк влияет на медиаиндустрию?
2. Как технология дипфейк влияет на доверие к журналистскому контенту?
3. Как журналист может отличать дипфейк контент от реального, не обладая техническими средствами?
Для того, чтобы ответить на эти вопросы, мы рассматриваем технологию дипфейк, цели ее использования. Также мы хотим проследить, как общественные институты относятся к новой технологии и какие меры применяют для ее регулирования.
Цель исследования - изучение влияния технологии дипфейк на индустрию производства новостей. Для достижения этой цели поставлены следующие задачи:
1. рассмотреть теоретический аспект используемых в исследовании понятий;
2. проанализировать изменения, происходящие в медиа;
3. рассмотреть технологию дипфейк и изучить объем технических знаний, требуемых для освоения данной технологии;
4. провести исследовательские интервью с работниками data science индустрии, которые используют технологию дипфейк;
5. сделать выводы о влиянии технологии дипфейк на журналистику;
6. сформировать рекомендации по распознаванию дипфейков для сотрудников медиа.
Наша тема обладает низкой степенью научной разработанности. Однако в своей работе мы можем опираться на некоторые исследования, в которых говорится о влиянии фейков на журналистику, а также на теоретические разработки, связанные с дипфейками. Наша работа опирается на следующие теоретические блоки: во-первых, это книги и статьи, так или иначе связанные с дипфейками. Здесь мы опираемся на три основных источника: книгу Кайлаш Ахирвар "Состязательные сети", книгу Ф. Шолле "Глубокое обучение на Python", книгу С. Николенко, А. Кадурина, Е. Архангельской "Глубокое обучение. Погружение в мир нейронных сетей". Так как разработки в области дипфейков стремительно развиваются и в работе нам важно использовать самые актуальные из них, мы будем активно обращаться к открытому коду на Github, в сообщество proglib, Habr и к платформе соревнований по машинному обучению Kaggle. Следующий теоретический блок - статьи, связанные с доверием к журналистике. Здесь мы обращаемся к статьям А. Ефанова, С. Ильченко, к работе Ф. Фукуямы "Доверие: социальные добродетели и путь к процветанию", которые отражают взгляд на доверие, как на ключевой параметр для общества, от которого зависит его развитие. Наконец, последний теоретический блок - журналистские материалы о дипфейках и тех вызовах, которые несет собой новая технология. В последние несколько лет такие материалы публиковались в RT, The Guardian, The New York Times и других СМИ.
В нашей работе используется следующая эмпирическая база: исследовательские интервью с участниками соревнования по обнаружению дипфейков о том, какие методы они используют для обнаружения дипфейков.
Содержательным итогом работы является создание общих рекомендаций для журналистов, как минимизировать негативное вмешательство дипфейк-новостей в СМИ, как выявлять такие новости.
Выпускная квалификационная работа имеет традиционную структуру, состоящую из введения, теоретической и практической глав и заключения. Во введении указаны цели и задачи работы, основная проблематика, объект и предмет исследования, а также ее содержательный итог. В первой главе мы даем определение процессам, происходящим в медиа. Освещаем важность владения техническими навыками в работе журналиста, важность базовых навыков программирования и анализа данных, рассматриваем вопросы снижения доверия к журналистскому контенту. Также мы рассматриваем феномен фейка и дипфейка, описываем их происхождение и влияние на медиаиндустрию. Углубляясь в анализ дипфейков, мы даем обзор каждого его вида и приводим самые яркие примеры.
Во второй главе мы рассматриваем дипфейки с технической точки зрения, погружаемся в суть машинного обучения. Также мы оцениваем сложность создания собственного дипфейка, рассматриваем его исходный код. В контексте этого мы освещаем соревнование по распознаванию дипфейков на платформе для соревнований по машинному обучению Kaggle, делимся решениями участников и проводим серию исследовательских интервью с лучшими из них. Участники отвечают на вопросы, связанные со сложностью написания дипфейков, а также оценивают угрозу от этой технологии для медиа. В этой главе мы рассматриваем судебную практику, связанную с дипфейками, и первые попытки регулировать новую технологию законодательно.
В заключении подводятся итоги проведенному исследованию и даются практические советы по распознаванию дипфейков для сотрудников СМИ, которые должны помочь журналистам отличать дипфейки.
Глава 1. Теоретические принципы распространения дипфейков в медиа
1.1 От фейка до дипфейка: происхождение новой технологии
Чтобы разобраться в феномене дипфейка, для начала рассмотрим то, откуда он берет начало - фейк. Что же такое фейковые новости?
Само слово "фейк" в переводе с английского означает "подделка". То есть распространение фейковых новостей в СМИ - это распространение заведомо ложной информации. Но какая в этом выгода для сотрудников СМИ? Согласно исследованию ученых из Массачусетского университета, фальшивые новости в целом более привлекательны для читателей и набирают примерно в шесть раз больше просмотров, чем реальные новости, а ретвитят фейки на целых 70% чаще False news 70 percent more likely to spread on Twitter: study // Reuters URL: https://www.reuters.com/article/us-usa-cyber-twitter/false-news-70-percent-more-likely-to-spread-on-twitter-study-idUSKCN1GK2QQ (дата обращения: 10.03.2020).. Виной тому - сама суть фейковых новостей: от громких заголовков до сенсационного содержимого. "Массовая аудитория на инстинктивном уровне зачастую ждет фейковых новостей (в прошлом эту функцию выполняли слухи) и получает их от недобросовестных поставщиков, в качестве которых могут выступать как юридические, так и физические лица" Фейковые новости как феномен современности // CyberLeninka URL: https://cyberleninka.ru/article/n/feykovye-novosti-kak-fenomen-sovremennosti (дата обращения: 03.03.2020)..
Привлекательность фейковых новостей обусловлена и тем, что зачастую люди преувеличивают масштабность произошедшего события и уверены, что власть от них что-то скрывает. Это явление получило название теорий заговора, которые, как пишет У. Эко в своих интервью, вызывают интерес у человека, как все необъяснимое и таинственное. У. Эко связывает теории заговора с подозрительностью и недоверчивостью людей: "Есть болезнь, овладевшая и культурой и политикой нашего времени… Имя ее - Синдром подозрительности. Методология ее - "копание глубже". Предполагается, что за каждым явлением таится еще одно, более сложное, а за тем - еще одно и так далее... Болезненная подозрительность составляет бесконечную цепочку предположений, недоказуемых и секретных" Эко У. Средние века уже начались // Иностранная литература. - 1994. - №4. - С. 258-267..
Один из примеров фейковой новости - трагедия в торговом центре "Зимняя вишня" в Кемерово, после которой в СМИ распространилась информация о гораздо большем количестве погибших и пострадавших, чем на самом деле.
Фейковые новости в СМИ возникают с развитием самих средств массовой информации, но официальное название закрепилось за ними не так давно. Появление отдельного термина было спровоцировано предвыборной гонкой в США, когда фейковые новости распространялись более интенсивно, чем реальные, и вызвали более 8 миллионов откликов на Facebook. The Guardian в статье "What is fake news? How to spot it and what you can do to stop it" также подчеркивает влияние фейковых новостей на исход президентских выборов. Например, 73% избирателей Трампа считали, что миллиардер-финансист Джордж Сорос заплатил протестующим, чтобы сорвать митинги республиканского кандидата What is fake news? How to spot it and what you can do to stop it // The Guardian URL: https://www.theguardian.com/media/2016/dec/18/what-is-fake-news-pizzagate (дата обращения: 02.02.2020)..
В той же статье The Guardian призывает читателей к ответственному отношению к новостям, что поможет не распространять фейки дальше. А именно: делиться только новостями из проверенных источников, не поддерживать СМИ, разжигающие ненависть и отрицательные эмоции ("hate-clicking"), и всегда разговаривать с близкими, если они распространяют фейковые истории.
А. Суходолов в статье "Феномен "фейковых новостей" в современном медиапространстве" выделяет три вида фейковых новостей по типу их создания. Первый тип - полностью фейковая новость. К таким новостям можно отнести многочисленные сообщения в СМИ, которые пытаются рассказать альтернативную версию появления коронавируса - от тайного биологического оружия США Станислав Соколов: китайский коронавирус - биологическое оружие США? // Pogovorim.by URL: https://pogovorim.by/22291-koronavirus-biologicheskie-oruzhie-ssha-kitay-2019-2020.html (дата обращения: 10.02.2020). до вырвавшегося из-под контроля эксперимента самих китайцев. Полностью фейковые новости обладают высокой степенью сенсационности, но не все могут заподозрить в них фейк: ведь зачастую в них ссылаются на слова ученых, политиков и других влиятельных фигур.