Дипфейк и фейковые материалы: история и опасность манипулятивного контента
Дипфейк (от английского Deepfake) — технология создания поддельных изображений, видео- и аудиоматериалов при помощи искусственного интеллекта, генерируемых на основе реальных материалов, чьё название происходит от анонимного пользователя Reddit с ником «deepfakes», опубликовавшего в конце 2017 года подделанный порнографический контент со знаменитостями.
Происхождение технологии: от Video Rewrite 1997 года до GAN
Технологию начали разрабатывать ещё в 1990-х годах — в 1997 году проект Video Rewrite представил симуляцию речи, где движения рта на видео совпадали с аудиодорожкой, что стало первым шагом в сторону современных дипфейков, однако сам термин появился лишь в 2017 году. Актуальная итерация технологии восходит к 2014 году, когда студент Стэнфордского университета Ян Гудфеллоу разработал программный метод получения новых синтетических материалов с помощью уже собранной базы данных, а с 2017 года активно развиваются генеративные состязательные сети (GAN), значительно упростившие процесс создания правдоподобных подделок.
Скандальное происхождение названия на Reddit
Происхождение названия «дипфейк» связано с неприятным инцидентом — в конце 2017 года на платформе Reddit пользователь под ником deepfakes загрузил видеоматериалы порнографического содержания, где лица были заменены на лица звёзд без их согласия, а история вызвала большой общественный резонанс, после чего дипфейками стали называть все материалы, где искусственный интеллект заменяет внешность или голос человека.
Резкий рост мошеннических атак с использованием технологии
Поддельные изображения всё чаще применяют для мошенничества — злоумышленники выманивают у людей деньги, транслируя им звонок с якобы голосом близкого человека, а только за первую половину 2023 года число подобных атак с использованием дипфейков возросло на 704 процента, что подтверждает стремительное распространение технологии именно в криминальном, а не развлекательном контексте.
Легитимное применение в кино и музейных проектах
Помимо мошеннических схем, дипфейк применяется и в легитимных целях — для кино технология позволяет решать вопросы автоматизации, например, в сценах с рискованными трюками, помогая не подвергать риску жизни актёров и каскадёров, а также активно используется в озвучке. Технология применялась и в музейном пространстве — в Музее Сальвадора Дали во Флориде в честь 115-летия художника была организована выставка «Дали жив», где сгенерированный искусственным интеллектом прототип художника общался с посетителями, рассказывал истории о своих картинах и жизни, а также делал с ними селфи, демонстрируя творческий потенциал технологии наряду с её очевидными рисками для общества.
