2.3 Предпосылки правового регулирования дипфейков и опыт их обнаружения: универсальные рекомендации для сотрудников медиа
О необходимости правового регулирования искусственного интеллекта впервые заговорили в Южной Корее. В 2008 году там вышел "Закон о продвижении разработки и распространения искусственного интеллекта роботов". В законе прописываются его цели - "содействие повышения качества жизни граждан и национальной экономики путем разработки и продвижения политики устойчивого развития индустрии искусственного интеллекта роботов" The National Law Information Center is the Korean representative legal informalion web site URL: http://law.go.kr/LSW/eng/engLsSc.do?menuId=2§ion=lawNm&query=robot&x=18&y=29#liBgcolor4 (дата обращения: 07.04.2020).. Разработан план развития искусственного интеллекта, который включает в себя развитие науки, инфраструктуры для нужд разработки роботов, этические аспекты и финансовую составляющую проекта. В США над развитием искусственного интеллекта задумались в 2011 году, выпустив Дорожную карту развития робототехники. В Японии в 2015 году были разработаны принципы, контролирующие безопасность использования роботов "Новая стратегия роботов. Японская стратегия роботов: обзор, стратегия, план действий", в этом же году в Китае выпускают программу по развитию робототехники на ближайшее десятилетие "Сделано в Китае - 2025". Новая цифровая реальность повлияла на степень абстракции законодательных актов: теперь это не планы по техническому развитию, а законы, регулирующие существующие технологии. Например, развитие беспилотного транспорта регулируется законодательными актами Германии, а цифровизация и повышение доступности госуслуг отражены в программе цифровой экономики РФ.
В законодательной базе ряда стран существуют законы, которые вводят уголовное или административное наказание за распространение фейковой информации, при этом наказанию могут подвергаться не только СМИ, но и блогеры, а также обычные граждане, распространяющие неправду. В Китае, Италии и Казахстане за распространение фейковых новостей предусмотрено тюремное заключение. В других странах, например, Германии или Индонезии, законы гораздо мягче: власти могут попросить удалить фейковую информацию, а в случае отказа наложить штраф. Во Франции власти во время избирательных кампаний наделяются правом самостоятельно удалять недостоверную информацию. В России за распространение фейков накладываются штрафы, сумма которых различается в зависимости от категории граждан, а в случае повторных нарушений сумма штрафа становится больше. Примечательно, что распространение фейковых новостей о коронавирусе в России влечет за собой не только административное, но и уголовное наказание.
В контексте этого интересно проанализировать попытки регулирования дипфейков в разных странах. Правовые меры по отношению к ним уже применяются как на уровне некоторых государств, так и в интернете. Например, Facebook на основе конкурсных решений участников соревнования на Kaggle будет разрабатывать свой алгоритм по обнаружению дипфейков, чтобы блокировать сгенерированный контент, а Google обновил правила использования своих сервисов, добавив пункты про блокировку дипфейков.
С 1 января 2020 года в Китае вступил в силу закон, согласно которому публикация любой недостоверной информации, включая дипфейки, становится уголовно наказуемым преступлением. Кроме того, любые элементы контента с использованием виртуальной реальности или созданные при помощи искусственного интеллекта должны быть специально промаркированы. Власти Китая особенно серьезно отнеслись к угрозам, которые несет собой развитие дипфейков. На сайте Управления киберпространством Китая опубликована стенограмма пресс-брифинга, где говорилось о важности противодействия новой технологии: "Технология дипфейк может поставить под угрозу национальную безопасность, нарушить социальную стабильность, социальный порядок и законные права и интересы других лиц" China seeks to root out fake news and deepfakes with new online content rules // Reuters URL: https://www.reuters.com/article/us-china-technology/china-seeks-to-root-out-fake-news-and-deepfakes-with-new-online-content-rules-idUSKBN1Y30VU (дата обращения: 07.04.2020)..
В США разрабатываются четыре законопроекта, касающихся дипфейков. В законопроектах говорится об обязательной пометке, что данный контент был сгенерирован, а также о необходимости указывать его создателей. Такие меры помогут накладывать штрафы на распространителей дипфейков, чьи видео несут потенциальную угрозу. В Калифорнии подобные законопроекты уже подписаны губернатором: они касаются тех дипфейков, которые используются в политических целях в качестве манипуляции и дискредитации, а также любых дипфейков, относящихся к порнографическим. Автор этих законопроектов Марк Берман считает, что особенно важно регулировать политические дипфейки: "Избиратели имеют право знать, когда видео, аудио и изображения, которые им показывают, искусственно созданы для того, чтобы повлиять на то, кому они отдадут свой голос на предстоящих выборах. Они имеют право знать, что такие видео манипулируют ими и не имеют ничего общего с реальностью. В контексте выборов способность приписывать кандидату лживые речи или поступки, которых никогда не было, превращают дипфейки в мощный и опасный инструмент в арсенале тех, кто хочет вести дезинформационные кампании, чтобы сбить с толку избирателей" Губернатор Калифорнии подписал законы о борьбе с видео-фейками // URL: https://yandex.ru/turbo?text=https%3A%2F%2Fvz.ru%2Fnews%2F2019%2F10%2F15%2F1003069.html (дата обращения: 01.04.2020).. Однако Американский союз гражданских свобод выступает против законопроекта, видя в нем в первую очередь угрозу свободе слова, когда любые компрометирующие ролики будут восприняты избираемыми как дипфейки: "Это приведет только к замешательству избирателей, затяжным судебным процессам и подавлению свободы слова" Там же.
Такие меры - ответ на те вызовы, которые ставит перед нами развитие искусственного интеллекта. Отсутствие правового регулирования стимулирует рост киберпреступности, а жертвы таких преступлений рискуют не только своей репутацией, но и финансовыми потерями. Одно из первых преступлений, связанных с дипфейками, произошло в марте 2019 года. По данным Wall Street Journal Fraudsters Used AI to Mimic CEO's Voice in Unusual Cybercrime Case // The Wall Street Journal URL: https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402 (дата обращения: 02.04.2020)., директор британской энергетической компании был ограблен более чем на 200 тысяч долларов. Он думал, что разговаривает по телефону со своим начальником, который попросил его отправить средства венгерскому поставщику. Звонивший сказал, что запрос был срочным, и приказал исполнительному директору заплатить в течение часа. Это не насторожило пострадавшего: такие срочные операции приходилось проводить и раньше, а голос, интонация, манера разговора мошенника и даже немецкий акцент были абсолютно идентичны голосу его начальника. Филипп Аманн, руководитель отдела стратегии Европейского центра киберпреступности, прогнозирует увеличение числа подобных преступлений, если они будут приносить мошенникам прибыль и дальше. Компания Symantec сообщает, что они смогли выявить еще как минимум три случая, в которых мошенники создавали дипфейки на основе аудиозаписей голоса. В одном из таких случаев сумма ущерба превышала миллион долларов. Все четыре преступления предположительно совершены разными людьми, что позволяет говорить о зарождении нового вида преступлений с использованием дипфейк-технологий.
Инструментов борьбы с такими преступлениями пока нет. Единственная универсальная рекомендация - всегда стараться подтверждать важные финансовые операции лично, или же использовать для этого несколько каналов связи одновременно.
В контексте этого как для крупных компаний, так и для правовых структур и СМИ становится важным критически относится к доказательствам, которые строятся на основании фотографий, видеозаписей или аудиофайлов. Но принятие таких строгих мер сделают судебную систему беззащитной перед потоком исков, которые последуют, как только новые нормы проверки на подлинность распространятся более широко. Джастин Мур, специалист по информатике в Лос-Аламосской национальной лаборатории, смоделировал ситуацию с ограблением, чтобы показать уязвимость судебной системы перед дипфейками. Для того, чтобы осудить невиновного человека, достаточно создать алгоритм, который примет на вход лицо жертвы, а на выход даст видео, где тот занимается ограблением. После этого достаточно передать видео в систему безопасности ограбленного заведения. Мур считает, что если суды для вынесения приговора будут по-прежнему основываться на том, что можно легко подделать - видео или фото - подставить любого человека будет очень просто. Но если суды будут игнорировать любую визуальную информацию, они не смогут доказать виновность действительно опасных преступников. "Может так получиться, что мы не будем доверять никаким фотографическим свидетельствам, - говорит он, - а мне в таком мире жить не хочется" Эти новые уловки пока ещё способны перехитрить видеоролики от Deepfake // Хабр URL: https://habr.com/ru/post/429192/ (дата обращения: 12.04.2020)..
Особенно тяжело придется журналистам-расследователям, которые публикуют материалы о личностях, замеченных в каких-либо злоупотреблениях. Журналисты RT первыми задумались об этой проблеме: "Люди, которые обвиняются в чем-то на основе видео, смогут прибегнуть к "правдоподобному отрицанию", заявив, что кадры были подделаны. Это сделает присутствие надежных свидетелей любого преступления еще более важным" Deepfake technology shows the emperor (or the girl of your dreams) has no clothes // RT URL: https://www.rt.com/op-ed/463137-deep-fake-technology-nude/ (дата обращения: 07.03.2020).. В статье "Six lessons from my deepfakes research at Stanford" также поднимается вопрос о правовом регулировании дипфейков. Автор считает, что подобные инициативы следует принимать с осторожностью, так как такие законы могут быть "направлены против журналистов, оппозиции или правозащитников" Six lessons from my deepfakes research at Stanford // Medium URL: https://medium.com/jsk-class-of-2019/six-lessons-from-my-deepfake-research-at-stanford-1666594a8e50 (дата обращения: 02.02.2020)..
Законы должны подстраиваться под меняющиеся технологии, а суды при вынесении приговора обязаны опираться не только на видео или фото, но и на другие материалы. Журналисты, чтобы сохранить доверие своей аудитории, обязаны проверять информацию не только на фейк, но и на дипфейк, руководствуясь логикой и используя современные технологии. Разработка автоматизированных инструментов для обнаружения дипфейков пока находится в самой начальной стадии. Пройдет не один год, пока первые наработки будут выглядеть как полноценные программы, удобные для работы СМИ. Но уже сейчас сотрудники редакций могут обезопасить себя, просто внимательно просмотрев присланный материал.
Мы поговорили с участниками соревнования на Kaggle, чтобы выяснить, какими способами можно убедиться в подлинности изображения или видеозаписи, если нет возможности использовать специализированные программы, а также о том, может ли распространение дипфейков нанести вред репутации СМИ.
Андрей Кирьясов, смотря на дипфейки, замечал изменение пропорций в лицах по сравнению с оригиналом, изменение яркости, тональности. Он советует также внимательнее рассматривать видео и изображение на предмет различных артефактов, изменения резкости, когда она не должна меняться. Например, если лицо человека находится в фокусе, но на границах лица (в области щек, лба и в особенности - шеи) мы видим явное замыливание, то, скорее всего, видео не является достоверным. Работает это и в обратную сторону: если какие-то части изображения намного резче, чем остальные, при этом мы видим разные по размеру текстуры - скорее всего, мы имеем дело с дипфейком. Наглядный пример в Приложении 2.
Никита Однобоков также отмечает искажения в области лица для дипфейков. При этом он акцентирует внимание на том, что лучше всего такие искажения видны при движении человека, либо же при движении головой и активной мимике. Пример искажения мы можем увидеть в Приложении 3, где на границе лица и шеи девушки появилось размытое пятно, которое является свидетельством того, что изображение является сгенерированным. На этом же примере мы видим, как нейросеть пыталась воссоздать сережку, которая при детальном рассмотрении выглядит совсем ненатурально.
Другой участник соревнования, пожелавший остаться анонимным, обращает внимание на то, что на дипфейк-видео люди моргают реже, чем в реальности, ссылаясь на статью Сывей Люя, которая была проиллюстрирована в параграфе 2.2. Также участник соревнования обращает внимание на разное разрешение сгенерированных частей видео и исходных, разное освещение и цветопередачу частей видео. Несмотря на то, что эти подсказки помогают распознать многие дипфейки, участник соревнования считает, что в ближайшее время качество сгенерированного контента заметно повысится, и человеческий глаз не сможет распознать его.
Влад Артемьев считает, что худшие дипфейки отличить от реальных очень просто, однако существуют и такие, которые созданы настоящими профессионалами, и идентифицировать их, просматривая видео с обычной скоростью, невозможно. Участник соревнования предлагает такой способ: "если вырезать лицо и небольшое пространство вокруг него, наблюдать за этим лицом каждый кадр, то на каком-то из кадров возможно найти дефект, особенно на границах лица". Такой способ имеет ряд очевидных недостатков: сотрудники крупных редакций просто не смогут просматривать каждое видео настолько детально. Но для случаев, когда СМИ не уверены в правдивости какой-либо видеозаписи, которая выглядит очень реально, такой способ может быть очень полезен.
Участники соревнования по-разному относятся к потенциальным угрозам, которые таит в себе дипфейк-контент. Андрей Кирьясов считает, что распространение дипфейков - это еще одна проблема для СМИ, и все материалы, полученные из недостоверных источников, необходимо подвергать сомнению. Потребители контента СМИ "живут в мире недостоверности", в ситуации, когда нужно быть особенно внимательными к тому, что мы принимаем на веру. Из-за этого возникает дефицит доверия к СМИ, как к "сильному инструменту влияния, которым многие захотят воспользоваться". Никита Однобоков, напротив, не видит в появлении дипфейков ничего необычного или пугающего. Он считает, что новый инструмент очень похож на Photoshop, который кардинально не изменил доверие граждан к средствам массовой информации. "Не то, чтобы перестанут верить в реальность всех видео, но реальность отдельных видео будут чаще ставить под сомнение", - так отвечает он на вопрос об опасностях новой технологии. Влад Артемьев видит угрозу в новой технологии, однако верит, что инструменты распознавания всегда будут на шаг впереди дипфейков, а значит, смогут без труда их выявлять. Единственная проблема - оснащение таким инструментом редакций. Анонимный участник соревнования считает, что дипфейки в ближайшее время будут представлять серьезную угрозу. Сложность создания дипфейков постоянно падает, возникают все новые и новые инструкции, как создать их с нуля. Вполне возможно, что скоро появится приложение, которое будет еще удобнее для простого пользователя: не нужно будет иметь базовые навыки программирования, чтобы запускать код на компьютере. Достаточно будет открыть приложение, загрузить в него исходную видеозапись и несколько видео, которыми нужно заменить фрагменты исходного. Мощная видеокарта, несколько часов времени - и качественный дипфейк будет готов. Цели его создания и уровень ответственности того, кто создал очередной дипфейк, - на эти вопросы мы будем отвечать в будущем.