Второй тип фейка - новости, правдивые частично. Такие новости обычно появляются после крупных трагедий, когда количество жертв еще точно не известно, и в информационном пространстве преувеличивается число пострадавших, чтобы вызвать больший отклик и большую сенсационность.
В третью группу фейков входят новости, искажающие реальные события. Это может быть вырванная из контекста цитата, некорректный перевод какого-либо высказывания. Даже то, какие факты журналист выбирает при написании статьи, может исказить ее смысл. Такие фейки распознать труднее всего, но и используются они чаще других как способ манипулирования общественным мнением.
Что такое дипфейк и как он появился? Дипфейк - это технология искусственного интеллекта, с помощью которой можно создавать новые изображения на основе других. С помощью алгоритмов машинного обучения можно обучить нейросеть самостоятельно генерировать фото или видео на основе кадров, которые мы отберем. В более частном случае дипфейки используются для замены лиц на фото или видео: можно менять местами актеров в фильмах, или же создавать дипфейки на политических деятелей. Технологию создал в 2017 году пользователь reddit с ником Deepfakes, от этого ника и пошло ее название. Программист использовал известные инструменты для работы с машинным обучением и нейросетями - открытую библиотеку Keras. Затем для создания более совершенных дипфейков был создан алгоритм GAN - генеративно-состязательных нейронных сетей, который способен улучшать создаваемые им самим фото или видео. GAN состоит как бы из двух частей: первая пытается создать настолько качественный дипфейк, чтобы он был неотличим от реальной картинки, а вторая часть "штрафует" первую, если смогла обнаружить на сгенерированной картинке какие-то несоответствия. Таким образом, обе части алгоритма способны обучаться бесконечно долго: первая часть каждый раз будет выдавать все более совершенный дипфейк, а вторая будет постоянно совершенствоваться в нахождении ошибок. Таким образом, обе части алгоритма находятся в соревновании друг с другом (отсюда в названии алгоритма слово "состязательные"), пока этот процесс не будет остановлен программистом.
Дипфейки можно назвать частным случаем фейков: они обладают всей сенсационностью и виральностью фейковых новостей. Отличить дипфейк от реальности становится все труднее, так как качество подделок постоянно улучшается. Такая технология может представлять серьезную угрозу для репутации средства массовой информации, которое не сможет вовремя обнаружить подделку и опубликует такую новость.
Том Ван де Веге считает, что те СМИ, которые не смогут отличить дипфейк от реальности, станут главной мишенью для новой технологии. Публикация дипфейка в качестве новостного сюжета может "нанести ущерб репутации СМИ и еще больше подорвать доверие общественности к медийным институтам" Там же..
Но не меньшей опасности подвержены медийные личности, с участием которых может быть создано фейковое видео и растиражировано, как реальный новостной сюжет. Фейковые новости о журналистах - уже не редкость, и один из таких случаев произошел с ведущей бельгийского телеканала VRT News Ханной Декутер, которую якобы уволили за то, что она рекламирует товары для похудения и косметику Why is Hanne Decoutere so peeved? // VRT NWS URL: https://www.vrt.be/vrtnws/en/2019/02/27/why-is-hanne-decoutere-so-peeved/ (дата обращения: 10.02.2020)..
Еще один случай с использованием дипфейка в отношении журналиста произошел в Индии. Его жертвой стала журналист-расследователь Рана Айюб, которая писала о насилии над детьми в своей стране. Националистическая партия Индии выступила в поддержку насильника, а Рану Айюб пригласили выступить на BBC, где она рассказывала о том, как власть в ее стране покрывает преступления. Вскоре после этого громкого скандала в сети появился дипфейк порнографического содержания на журналистку, который как вирусный ролик распространился по всей Индии. Началась настоящая травля Раны Айюб: в полиции отказывались принимать ее заявление и удалять ролик, а незнакомые люди каждую секунду писали ей оскорбительные комментарии. Последствия этого навсегда останутся с журналисткой: "Я всегда думала, что никто не может причинить мне вред или запугать, но этот случай действительно повлиял на меня так сильно, что я не могла себе этого представить" I Was The Victim Of A Deepfake Porn Plot Intended To Silence Me // URL: https://www.huffingtonpost.co.uk/entry/deepfake-porn_uk_5bf2c126e4b0f32bd58ba316?guce_referrer=aHR0cHM6Ly93d3cuZ29vZ2xlLmNvbS8&guce_referrer_sig=AQAAAC6Ay04Tlda6iImxNR74VOSAJ8GJ_h2pDhDSPWs4CJQHedRAsPsfZDkLRyRBud1oX4j4MGSkMLVbnM7_vjwa9EZs1V7MQM-to8wfRbCzhH9iR6rDbL0x8hPDXrZmMn5HBxVvC2ZSQGqKVcLBAtEWjfUAh_gL8RAOOaDSVFC1cePL&guccounter=2 (дата обращения: 02.02.2020)..
1.2 Классификация дипфейков
Компания Deeptrace Labs провела масштабное исследование сайтов, форумов и YouTube каналов, чтобы выявить среди публикуемого контента дипфейки. Исследование началось еще в 2017 году, а в 2019 компания смогла выявить более 14 000 дипфейк-видео. 96% из них составляла порнография, а основными жертвами стали женщины-звезды, лица которых "приклеили" на тела порноактрис. Более 90% контента так или иначе относится к западным деятелям, но технология дипфейк проникает и в другие страны, становясь глобальным явлением.
В 2017 году с появлением GAN - генеративно-состязательных нейронных сетей, благодаря которым возможно создание изображений высокой степени достоверности - начали появляться видео с обнаженными актерами и актрисами. Первой пострадавшей от новой технологии была актриса Галь Гадот, затем начали выходить ролики со Скарлетт Йохансон, Тейлор Свифт и другими голливудскими знаменитостями. Несмотря на то, что первые видео не отличались реалистичностью, развитие технологии не стоит на месте, что влечет за собой создание все более правдоподобных роликов. Актер Лу Денниг в интервью Fox News выражает опасение, что дипфейки могут негативно отразиться на репутации медийных личностей, так как зрители могут принять эти ролики за правду Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise // Fox News URL: https://www.foxnews.com/tech/terrifying-high-tech-porn-creepy-deepfake-videos-are-on-the-rise (дата обращения: 02.02.2020)..
В 2019 году создали приложение DeepNude, которое способно раздеть не только знаменитость, но и любого человека. Достаточно загрузить одну фотографию - и нейросеть сгенерирует такое же изображение, но уже с обнаженным человеком. Появление приложения вызвало рекордное количество скачиваний, а уже через несколько дней создатели объявили о его закрытии.
Именно эти скандальные новости вызвали активный интерес к дипфейкам, после чего стали появляться и другие видео - пародийные. Создатели дипфейков заменяли актеров в популярных фильмах на других, чтобы добиться комического эффекта. Так произошло с Николасом Кейджем, лицо которого использовали в большом числе пародий Deepfake: как нейросети раздевают знаменитостей и сводят нас с ума - и чем это опасно // URL: https://disgustingmen.com/tehno/deepfake/ (дата обращения: 02.02.2020)., например, этим актером заменили Таноса из Вселенной "Марвел" и Нео из фильма "Матрица".
Некоторые пародийные дипфейки появились для того, чтобы улучшить сцены в фильмах, которые, по мнению фанатов, были сняты недостаточно хорошо. Например, создателями дипфейков была доработана сцена из фильма "Мумия возвращается" с превращением Дуэйна "Скалы" Джонсона в Царя скорпионов DeepFake (дипфейк) - реалистичная замена лиц на видео при помощи нейронных сетей // URL: https://yablyk.com/335033-deepfake-dipfejk-realistichnaya-zamena-lic-na-video-pri-pomoshhi-nejronnyx-setej/ (дата обращения: 03.02.2020).. В других пародиях создатели дипфейков меняют не понравившихся актеров на других, которые, по их мнению, больше подходят на роль. После выхода телесериала "Ведьмак" фанаты, разочарованные выбором актрисы на роль Йеннифер, заменили ее лицо на лицо Евы Грин. Таким образом, технология дипфейк открывает огромный простор для создания пародий и творчества фанатов.
В Голливуде на дипфейки возлагают большие надежды как на возможность выводить спецэффекты на качественно иной уровень. В частности, открывается возможность озвучивания фильмов с помощью дипфейков, так, чтобы мимика и движения губ актеров менялись в зависимости от языка, на который происходит перевод. Дипфейки также могут быть полезны, когда речь идет о замене лиц в кино: в документальных фильмах об исторических персонажах больше не придется прибегать к дорогостоящей компьютерной графике, достаточно лишь нескольких изображений известной личности. То же самое касается дипфейков на актеров, которые погибли во время съемочного процесса.
Существуют приложения по созданию дипфейков - например, Doublicat. Пользователю на выбор предлагается ограниченное количество GIF-анимаций, которые представляют собой короткие нарезки из известных фильмов. Пользователю достаточно загрузить свою фотографию, и приложение создаст дипфейк на основе исходной анимации.
Джорджио Патрини из лаборатории Deeptrace Labs, которая занимается выявлением фейковых фото, видео и сайтов, отмечает, что пародийные дипфейки, в отличие от порнографических дипфейков, являются условно безобидными: "Я бы не сказал, что эти варианты применения дипфейков позитивны, но они не являются вредоносными по умолчанию" К чему привело развитие дипфейков и что будет дальше // URL: https://news.rambler.ru/other/42984873-k-chemu-privelo-razvitie-dipfeykov-i-chto-budet-dalshe/?updated (дата обращения: 03.02.2020)..
Несмотря на то, что две предыдущие категории дипфейков могут нанести вред чести и достоинству тем, кто становится их действующими лицами, есть еще более опасная категория - дипфейки на политических лидеров и глав государств. Один ролик может не только разрушить карьеру политика, но и дестабилизировать политическую ситуацию целых стран. Однако, по статистике Deeptrace Labs, политических дипфейков гораздо меньше, что связано с меньшим интересом аудитории к таким видео. Патрини отмечает: "Я думаю, что это может быть связано с виральностью, которая ассоциируется с непорнографическими дипфейками. Создатели - это, прежде всего, любители, которые пытаются делать качественные подделки. Выбор известных персонажей, таких как Илон Маск, Дональд Трамп или Николас Кейдж, означает, что ваш дипфейк с большей вероятностью получит много просмотров, а также добавляет в видео элемент комедии" Там же. Известными примерами сатирических политических дипфейков являются подмена лица Ангелы Меркель на лицо Дональда Трампа в одном из выступлений канцлера Германии Merkel Trump Deepfake // YouTube URL: https://www.youtube.com/watch?v=5hZOcmqWKzY (дата обращения: 05.03.2020)., а также замена лица президента Аргентины Маурисио Макри на лицо Адольфа Гитлера Adolf Hitler "Downfall Movie" to Mauricio Macri. (Faceswap Deeplearning) // YouTube URL: https://www.youtube.com/watch?v=M8t6hGRtDac (дата обращения: 05.03.2020).. Такие дипфейки создаются в качестве сатиры, а не с целью вызвать скандал или дестабилизировать политическую ситуацию.
Действительно крупных скандалов, связанных с политиками в дипфейк-видео, гораздо меньше. Один из таких примеров - видеозапись новогоднего выступления президента страны Али Бонго, которое вызвало беспорядки в Габоне. Оппозиция назвала видео дипфейком, что спровоцировало военный переворот в стране. Хотя до сих пор не установлено, является ли видео подделкой, данный пример показывает потенциальную разрушительную силу дипфейков.
Использовать нейросети в искусстве начали не так давно, но, несмотря на это, уже появились первые положительные примеры использования технологии. Один из самых масштабных экспериментов в этой сфере - перформанс, который подготовили в музее Сальвадора Дали в честь 115-летия со дня его рождения. Посетителей выставки встречала виртуальная копия художника, практически не отличимая от него. На создание видео было потрачено 1000 часов машинного обучения, были использованы 6000 фотографий и снято 145 видео с актером похожих пропорций.
Использование дипфейков для создания произведений искусства называют нейросетевым творчеством. Потенциальные возможности дипфейков впечатляют: на данный момент нейросети умеют создавать живые картины, писать стихи и музыку. Для того, чтобы создать такой дипфейк, программисту необходимо показать нейросети датасет, объединенный чем-то общим. По такому принципу построен дипфейк Нейросетевая Оборона, который на текстах "Гражданской Обороны" обучился создавать собственные тексты песен.
Оживление картин, умерших художников или писателей дает возможность познакомиться с классиками в новом формате, пообщаться с ними на понятном для современных людей языке. Исследователи в области искусственного интеллекта компании Самсунг в Москве (Samsung AI Center) экспериментировали с созданием коротких видео на основе всего одной фотографии. Используя свои разработки на основе генеративно-состязательных нейронных сетей, исследователи создали целую серию "живых портретов" с Леонардо да Винчи, Мерлин Монро, Альбертом Эйнштейном и Моной Лизой.
Свой вклад в отношении к дипфейкам как к искусству внес и Яндекс. Компания создала виртуальную галерею нейросетевого искусства с картинами-дипфейками. Картины можно приобретать в частные коллекции, при этом у одной картины может быть только один владелец. Этот пример стирает грань между традиционным искусством и искусством, которое появилось благодаря написанному коду. Как отмечают создатели проекта, они умышленно ограничили количество картин, чтобы создать уникальную в своем роде галерею, а не очередной ресурс, на котором будет генерироваться бесчисленное количество изображений. "Искусственный интеллект становится всё более привычным инструментом в наших делах - в некоторых, возможно, и чем-то большим. Соавтором. Творческий процесс художника, композитора, писателя вполне может включать применение нейросетей. Само понятие творчества становится сложнее. (Например: не является ли автор нейросети-художника - художником?)" Галерея нейросетевого искусства // Яндекс URL: https://yandex.ru/lab/ganart (дата обращения: 19.04.2020)., - пишут авторы о своей галерее.