АВТОРСКИЕ СТАТЬИ
Прокуратура Калифорнии обвинила OpenAI в создании опасных моделей искусственного интеллекта

Прокуратура Калифорнии обвинила OpenAI в создании опасных моделей искусственного интеллекта

A- A+

Генеральная прокуратура штата Калифорния (США) подала иск против компании OpenAI, разработчика чат-бота ChatGPT. Ведомство обвиняет компанию в введении общественности в заблуждение и создании угрозы безопасности при тестировании моделей искусственного интеллекта.

Об этом сообщила пресс-служба Министерства юстиции штата.

«Мое ведомство подает в суд на OpenAI за разработку опасных моделей искусственного интеллекта (ИИ) без внедрения необходимых мер безопасности для защиты общества. Действия OpenAI привели к повышению реальных рисков в сфере кибербезопасности и создали угрозу безопасности, здоровью и благополучию людей», - говорится в заявлении генерального прокурора Калифорнии Роба Бонты.

По словам Бонты, всего было зафиксировано около 80 случаев несанкционированной активности с участием моделей ИИ, в том числе кибератака на платформу Hugging Face. Власти Калифорнии утверждают, что OpenAI нарушила законодательство штата и не приняла достаточных мер предосторожности при тестировании своих продуктов.

Представитель OpenAI Дрю Пусатери в комментарии газете Los Angeles Times, в свою очередь, заявил, что после инцидента с Hugging Face компания усилила меры безопасности и внедрила дополнительную систему контроля за непреднамеренной активностью моделей. Он также подчеркнул, что OpenAI продолжит взаимодействовать с прокуратурой штата.

В октябре газета The Washington Post со ссылкой на заявление OpenAI сообщила, что ИИ-агенты компании, предположительно, пытались обойти системы защиты более чем 100 организаций. По данным разработчика, о подобных случаях некорректного поведения ИИ-агентов были проинформированы свыше сотни компаний.

Ранее OpenAI признала, что ее ИИ-агенты получили несанкционированный доступ к данным государственной системы здравоохранения Австралии, а также пытались сканировать сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам (SEC). Кроме того, компания расследует еще одно сообщение о попытке ИИ-агентов взломать сайт Министерства образования США.

в начало