В нескольких словах
Создание и распространение видео с использованием генеративного ИИ, в котором Дональд Трамп представлен в сатирическом ключе, поднимает важные вопросы о потенциальных рисках и манипуляциях, связанных с развитием ИИ. Необходимость регулирования и контроля над генеративным ИИ становится все более актуальной, чтобы предотвратить дезинформацию и злоупотребления в политической и социальной сферах.
Видео, показывающее восстановленную Газу как курорт, где президент Дональд Трамп пьет коктейли с премьер-министром Израиля Биньямином Нетаньяху, вызвало возмущение не только своим содержанием, но и способом создания. Соло Авиталь, создатель этого видео с использованием генеративного искусственного интеллекта, способного создавать новый контент с помощью продвинутых моделей, предупреждает о рисках, которые эта технология может представлять для человечества.
По его словам, генеративный ИИ сравним с радиоадаптацией «Войны миров» Орсона Уэллса в 1938 году. Тогда Уэллс представил предполагаемое вторжение марсиан в Нью-Джерси как новостной бюллетень в реальном времени, что вызвало панику среди радиослушателей. В интервью The New Yorker Авиталь предположил, что такая же ситуация может возникнуть с видео, где «Трамп объявляет о начале Третьей мировой войны и запуске ядерного оружия по России». Скорость развития генеративного ИИ позволяет создавать подобные материалы настолько быстро и точно, что они все больше приближаются к реальности.
Именно это и произошло с Авиталем. Американский кинематографист, родившийся в Израиле, создал видео в начале февраля со своим партнером и соотечественником Ариэлем Вроменом, чтобы поэкспериментировать с новым программным обеспечением генеративного ИИ, разработанным компанией Arcana Labs из Лос-Анджелеса. Им потребовалось всего восемь часов, «за один присест и за двумя чашками кофе», рассказал он в интервью BBC. The New Yorker он сообщил, что цель была сатирической: «дать палестинцам роскошный образ жизни в стиле Дубая» и иронизировать над манией величия Трампа. Тем не менее, Авиталь дал понять, что он не «совсем против» плана создания Ривьеры на Ближнем Востоке: «Что, если Трамп действительно захватит Газу? Я имею в виду, это не плохая идея», хотя и уточнил, что это не «реалистичное» предложение, если оно не включает палестинцев.
Орсон Уэллс репетирует радиопередачу классической «Войны миров» Г.Д. Уэллса, 10 октября 1938 года. Universal History Archive (Universal Images Group via Getty Images)
Видео было распространено создателями среди друзей и семьи, после чего его партнер загрузил его в свой аккаунт в Instagram, где оно продержалось всего пару часов. «Я думал, что у нас будут проблемы с президентом, я думал, что мы оскорбим Белый дом», — сказал Авиталь в беседе с BBC. Он не ожидал, что Дональд Трамп поделится им в своей учетной записи в социальной сети Truth Social, которую он превратил в своего рода официальный канал своего правительства, где у него более девяти миллионов подписчиков.
Папа Франциск в пальто от Balenciaga на изображении, сгенерированном искусственным интеллектом.
«Представьте, если бы мы потратили на это больше восьми часов. Через неделю вы не смогли бы определить, было ли это видео сделано с помощью ИИ или снято на камеру», — сказал Авиталь общественному радио Соединенного Королевства. Уже было несколько изображений и видео, созданных с помощью этого типа генеративного ИИ, которые пользователи социальных сетей приняли за чистую монету, например, изображение папы Франциска в белой куртке Balenciaga в 2023 году. Однако политическое использование этого программного обеспечения становится все более распространенным. Совсем недавно, в четверг, Народная партия вызвала скандал, опубликовав видео, созданное с помощью генеративного ИИ, под названием «Остров коррупции», на котором был изображен президент Педро Санчес на острове с картой Доминиканской Республики и флагом страны.
Аккаунт Arcana Labs в Instagram показывает технические возможности программного обеспечения, разработанного компанией. На многих их видео изображены люди, элементы и фантастические персонажи, которые трудно идентифицировать как поддельные. «Разработано голливудскими кинематографистами», — говорится в биографии компании. Авиталь, один из тех продюсеров, для которых создана модель ИИ, настаивал на том, что именно в качестве кинематографиста он создал видео: «Мы рассказчики, а не провокаторы», — заявил он в четверг британской газете The Guardian. По его словам, Трамп опубликовал видео без сатирического контекста, задуманного его создателями, и сделал это без его «согласия или ведома».
Европейский союз опережает всех в регулировании ИИ, хотя и отстает в гонке за его создание. Только в июле 2024 года Брюссель опубликовал Постановление (ЕС) 2024/1689 об искусственном интеллекте, целью которого является рационализация использования ИИ и обеспечение того, чтобы его использование соответствовало ценностям и основным правам ЕС. Тем не менее, скорость, с которой развивается эта продвинутая модель искусственного интеллекта, грозит сделать устаревшими любые попытки ее регулирования.