СМИ: ChatGPT предоставлял пошаговые инструкции по созданию биологического оружия

ИИ-модель ChatGPT от компании OpenAI по запросам пользователей предоставляла подробные и точные инструкции по созданию биологического оружия и ядов.

Об этом сообщила газета The Wall Street Journal (WSJ).

По данным издания, среди запросов пользователей были вопросы о распылении патогенов, модификации вируса кори, устойчивой к вакцинации, а также о приготовлении рицина - яда, запрещенного международными договорами. В одном из случаев пользователь, получив инструкции подобного характера, упомянул о намерении убить своих родителей. Компания OpenAI заблокировала аккаунты этих пользователей, однако не уведомила о ситуации правоохранительные органы, поскольку в США до сих пор нет федеральных законов, обязывающих ИИ-компании информировать о подобных инцидентах.

Источники сообщили изданию, что ответы чат-бота были изучены экспертами в сфере терроризма и биологии. По их мнению, некоторые их инструкций были «смертельно точными».

Как отмечает WSJ, высокопоставленные чиновники Белого дома и Министерства обороны США обсуждали угрозу использования ИИ для разработки биологического оружия еще во время президентского срока Джо Байдена. Правительство страны пытается ужесточать контроль за ИИ моделями - недавно Министерство торговли на время ограничило использование двух моделей Anthropic за рубежом, напоминает газета.

По информации газеты, федеральные законы США обязывают ИИ-компании следить за тем, чтобы модели не использовались для создания порнографических материалов с детьми. Однако в том, что касается других сфер, компании сами решают, «где проводить линию», пишет WSJ.