ЮНИСЕФ призвал срочно бороться с дипфейками сексуального насилия над детьми

Детский фонд ООН (ЮНИСЕФ) призвал правительства и цифровые компании принять срочные меры против растущей угрозы материалов сексуального насилия над детьми, создаваемых с помощью искусственного интеллекта (дипфейков).

Об этом говорится в заявлении фонда.

«ЮНИСЕФ тревожит стремительный рост сексуализированных изображений, созданных с помощью ИИ, включая случаи манипуляции фотографиями детей и их сексуализации», – отмечается в заявлении фонда.

Особую обеспокоенность вызывают так называемые «нудификации» – когда ИИ «снимает» или изменяет одежду на фото с целью создания сфабрикованных обнаженных изображений несовершеннолетних.

«Сексуализированные изображения детей, созданные или измененные с использованием инструментов ИИ, являются материалами сексуального насилия над детьми (CSAM). Дипфейк-насилие – это насилие, и вред, который оно причиняет, вовсе не «поддельный», – подчеркнули в ЮНИСЕФ.

Отмечается, что при этом ребенок становится прямой жертвой.

«Даже при отсутствии идентифицируемой жертвы материалы сексуального насилия над детьми, созданные с помощью искусственного интеллекта, подпитывают спрос на насильственный контент и создают серьезные трудности для правоохранительных органов в выявлении и защите детей, которым нужна помощь», – отмечается в заявлении.

ЮНИСЕФ предупреждает, что многие модели ИИ разрабатываются без достаточных мер безопасности, а интеграция генеративных инструментов в соцсети усиливает риск быстрой и массовой циркуляции опасного контента.

Рекомендации Детского фонда ООН:

– все правительства должны расширить определения материалов сексуального насилия над детьми (CSAM), включив в них контент, созданный с помощью ИИ, и криминализировать его создание, заказ/получение, хранение и распространение;

– разработчики ИИ должны внедрять подходы «безопасность по замыслу» (safety-by-design) и надежные защитные барьеры, чтобы предотвратить злоупотребления моделями ИИ;

– цифровые компании должны предотвращать распространение материалов сексуального насилия над детьми, созданных с помощью ИИ, а не просто удалять их после того, как насилие уже произошло; усиливать модерацию контента, инвестируя в технологии выявления.

«Вред от дипфейк-насилия реален и требует срочных действий. Дети не могут ждать, пока закон «догонит» реальность», – заявили в ЮНИСЕФ.