новости в тренде
Будьте в курсе новостей первыми
Генеральная прокуратура штата Калифорния (США) подала иск против компании OpenAI, разработчика чат-бота ChatGPT. Ведомство обвиняет компанию в введении общественности в заблуждение и создании угрозы безопасности при тестировании моделей искусственного интеллекта.
Об этом сообщила пресс-служба Министерства юстиции штата.
«Мое ведомство подает в суд на OpenAI за разработку опасных моделей искусственного интеллекта (ИИ) без внедрения необходимых мер безопасности для защиты общества. Действия OpenAI привели к повышению реальных рисков в сфере кибербезопасности и создали угрозу безопасности, здоровью и благополучию людей», - говорится в заявлении генерального прокурора Калифорнии Роба Бонты.
По словам Бонты, всего было зафиксировано около 80 случаев несанкционированной активности с участием моделей ИИ, в том числе кибератака на платформу Hugging Face. Власти Калифорнии утверждают, что OpenAI нарушила законодательство штата и не приняла достаточных мер предосторожности при тестировании своих продуктов.
Представитель OpenAI Дрю Пусатери в комментарии газете Los Angeles Times, в свою очередь, заявил, что после инцидента с Hugging Face компания усилила меры безопасности и внедрила дополнительную систему контроля за непреднамеренной активностью моделей. Он также подчеркнул, что OpenAI продолжит взаимодействовать с прокуратурой штата.
В октябре газета The Washington Post со ссылкой на заявление OpenAI сообщила, что ИИ-агенты компании, предположительно, пытались обойти системы защиты более чем 100 организаций. По данным разработчика, о подобных случаях некорректного поведения ИИ-агентов были проинформированы свыше сотни компаний.
Ранее OpenAI признала, что ее ИИ-агенты получили несанкционированный доступ к данным государственной системы здравоохранения Австралии, а также пытались сканировать сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам (SEC). Кроме того, компания расследует еще одно сообщение о попытке ИИ-агентов взломать сайт Министерства образования США.
новости в тренде