Барак Обама ругает Дональда Трампа последними словами, а спикер палаты представителей конгресса США Нэнси Пелоси, кажется, пьяна. Оба случая, вызвавшие политические скандалы, зафиксированы на видео, но эти видео — подделки. Сейчас каждый такой фейк вызывает волну обсуждений, но через 10–15 лет изображения и видео, сгенерированные нейросетями, станут частью нашего повседневного опыта. Сможем ли мы защитить себя от недобросовестного использования своих образов? Захотим ли знать, какое из окружающих лиц настоящее, а какое сгенерировано искусственным интеллектом? Как создаются дипфейки и какое будущее их ждет?

Что такое дипфейки и как их создают

Дипфейками называют фотореалистичные изображения и видео, созданные глубокими нейросетями. Этот термин применяют журналисты, исследователи пользуются им гораздо реже.

Нейросети уже способны генерировать реалистичные человеческие лица и голоса. Яркий тому пример — проекты GAN 2.0 и Deep Style GAN от Nvidia. На их основе был создан сайт This Person Does Not Exist, который при обновлении странички каждый раз генерирует новое, несуществующее лицо. Эти изображения с трудом можно отличить от реальных фотографий людей. То же самое можно сказать и о речи Барака Обамы, сгенерированной нейросетью и представленной на конференции SIGGRAPH 2017 года: распознать в ней подделку на глаз практически невозможно.

С точки зрения математических операций нейросети, которые создают статичные картинки и видео, не отличаются друг от друга. Однако они решают разные задачи. При создании видео необходимо создавать последовательность изображений: движущаяся рука человека не должна резко дергаться от кадра к кадру, а освещение — меняться (кроме случаев, когда это задумано режиссером). Связность переходов обеспечивают модификации алгоритма, которые при формировании нового кадра учитывают то, что было в предыдущем. 

Чтобы человек на видео был трехмерным, необходимо загрузить в нейросеть фотографии объекта, сделанные с разных ракурсов. Снимки должны быть максимально качественными и более-менее одинаковыми: если взять фотографии одного и того же человека с бородой и без, результат окажется плачевным. Поэтому опасаться, что злоумышленники создадут дипфейк на основе вашего образа, взяв фото из соцсетей, не стоит. Для того чтобы создать качественное искусственное изображение на основе фотографий, придется сделать несколько снимков, снятых с разных ракурсов, вручную создать 3D-модель, синтезировать множество отдельных изображений этой 3D-модели и загрузить их в нейросеть. 

Когда дипфейки нужны

Производители современных чат-ботов и антропоморфных роботов сознательно избегают полного сходства робота с человеком. 

Во-первых, чтобы робот мог починить холодильник, ему не нужно человеческое лицо. Японский робототехник Хироси Исигуро, который создает идеально похожих на людей роботов, заявляет, что он это делает лишь для того, чтобы продемонстрировать возможности современных технологий. Никакой полезной нагрузки это сходство не несет. 

Во-вторых, системы генерации изображений пока неидеальны: имитации всегда рано или поздно выдают себя. Дипфейки обладают отличной от человека мимикой и двигаются не совсем так, как это делает реальный человек, — например, слишком часто моргают или крутят головой. Любому, кто это замечает, становится жутко. Этот психологический эффект называется uncanny valley («зловещая долина»). Чтобы пользователи с ним не сталкивались, производители уходят от попыток полной имитации человеческой внешности. 

Однако существуют отрасли, где визуальное сходство необходимо: кинематограф, спецэффекты, приложения телеприсутствия и нейроаватары. Даже FaceTime, популярное приложение для видеозвонков, работает в этом направлении. Подобные технологии ждет большое будущее и в индустрии видеоигр.

Системы искусственного интеллекта позволяют создать цифрового клона на основе данных, оставшихся после смерти человека. Существуют фирмы, которые используют разговоры и тексты умерших для генерации чат-ботов, разговаривающих как погибшие, а прижизненные видео и фотографии позволяют создать их цифровые аватары.

Эти возможности порождают множество этических дилемм. Имеем ли мы право использовать образ умершего человека так, чтобы его образ мог выполнять функции, для которых ему было необходимо биологическое тело, например общаться? Можно ли таким образом «доснять» фильм, если актер погиб до завершения съемок? Или использовать 3D-аватар умершей знаменитости для создания совершенно нового фильма, а после использовать его образ в рекламе? С юридической точки зрения право распоряжаться образом человека посмертно переходит к родственникам — это они разрешают или не разрешают использовать образ погибшего. Но не затрагивает ли это фундаментальные права личности? Эти и многие другие вопросы пока остаются открытыми. 

Когда дипфейки опасны

Технология не может самостоятельно решать, что хорошо, а что плохо. Действия технологии напрямую зависят от того, для достижения каких целей она была запрограммирована. Например, искусственный интеллект IBM Project Debater участвует в дебатах. По уровню мастерства он не уступает чемпионам мира по дебатам, программе под силу убедить многих. Это не может не пугать, ведь цель компьютера задана другим человеком. 

Основной страх, связанный с дипфейками, заключается в возможности менять на видео изображение одного человека на изображение другого. Высокореалистичные фейковые фото и видео могут использоваться для дезинформации, мошенничества, провокаций и кибербуллинга. Злоумышленник может заменить лицо человека на видео и обвинить его в правонарушении, шантажировать родственников пропавшего без вести сгенерированным фото или видео, влиять на решения избирателей вбросами фейковых видео в Сеть. 

В 2019 году дипфейки впервые вызвали геополитические потрясения. В конце мая Дональд Трамп опубликовал ролик с председателем конгресса США Нэнси Пелоси, в котором она выглядела пьяной. Скорость видео была уменьшена на 25% по сравнению с оригиналом, а голос изменен так, чтобы казалось, будто она говорит скомканно. После появления этого видео конгресс США запустил расследование и заявил, что такие видео могут нанести непоправимый ущерб выборам 2020 года. С развитием технологий ситуация может стать хуже.

Можно ли отличить фейковое изображение на глаз

Первые несколько секунд человек не может сказать, какая перед ним картинка: сгенерированная или реальная. Но если присмотреться, отличить сгенерированные изображения от реальных на глаз пока еще возможно.

В первую очередь надо обращать внимание на размер изображения. Создавать реалистичные картинки высокого разрешения гораздо сложнее, чем маленькие, поэтому большим изображениям все еще можно доверять. Во-вторых, присматривайтесь к лицам, чтобы найти ненатуральные асимметрии. Например, разрез левого глаза может не соответствовать разрезу правого. В-третьих, одежда или украшения даются нейросетям гораздо хуже, чем лица. В-четвертых, дипфейки часто выдает нереалистичный или слишком абстрактный и размытый фон. 

Отдельный класс дипфейковых подходов включает в себя замену изображения лица одного человека на другое. Это явление называют еще faceswap. Присмотревшись, можно заметить шов или несоответствие освещения лица освещению всего снимка. 

А на видео нужно следить за тем, как меняется лицо человека с течением времени. Странное моргание, к примеру, — это признак дипфейка. 

Помимо вышеперечисленных способов, дипфейк можно отследить по родословной файла. Для этого можно использовать стандартные методы верификации — например, статистику шумов изображения, которая позволяет вычислить модель фотоаппарата, с помощью которого был сделан кадр.