Разработчики искусственного интеллекта сталкиваются со стрессом из-за рисков для общества

Специалисты крупнейших мировых компаний и организаций, работающих в сфере искусственного интеллекта (ИИ), все чаще испытывают серьезное психологическое давление, обусловленное причастностью к разработке систем, способных, по их оценкам, причинить значительный ущерб обществу.

Такие данные приводит газета Financial Times.

Как стало известно из источников издания, ряд работников британского Института безопасности ИИ (AI Safety Institute, AISI) - мирового лидера в области независимой оценки передовых моделей - были вынуждены прервать свою деятельность в связи со стрессом и направлены на психологические консультации.

О схожих трудностях открыто заявляли представители компаний Anthropic, OpenAI и Google DeepMind. Свыше десятка ключевых экспертов из этих трех крупнейших западных исследовательских лабораторий в области ИИ покинули свои должности за минувшие два года, как сообщает FT, указывая на обеспокоенность недостаточным вниманием руководства к вопросам безопасности, а также на тревогу в связи с темпами и угрозами, которые несет развитие технологии. Подобные решения принимались под воздействием «психологического напряжения или убежденности в том, что результаты их деятельности представляют опасность для широкой общественности», отмечается в материале.

Один из сотрудников DeepMind на условиях анонимности рассказал, что деятельность по обеспечению безопасности ИИ несет высокий риск профессионального выгорания, поскольку воспринимается как «неподъемная задача».

«Работа с системами искусственного интеллекта в целом создает угрозу для психического здоровья, поскольку невозможно предугадать, каким образом будут применяться разрабатываемые технологии», - пояснил он, упомянув апрельское соглашение Google с Пентагоном, открывающее возможность задействования ИИ-систем в секретных военных операциях.

«Множество людей подавлены, наблюдается значительный отток кадров и большое количество отпусков по причине ухудшения психического здоровья. Отчасти это связано с ощущением утраты контроля над ситуацией, а также с осознанием того, что ты причастен к созданию чего-то, что наносит реальный вред», - подчеркнул собеседник издания.

Между тем 12 сентября руководитель Anthropic Дарио Амодеи выступил с публикацией, в которой призвал снизить скорость разработки передовых ИИ-моделей. По его мнению, скоординированное торможение работы над прорывными технологиями позволит ИИ-компаниям получить дополнительные один-два года до того момента, когда модели выйдут на критические уровни развития, и предотвратить серьезные ошибки. Генеральный директор OpenAI Сэм Альтман впоследствии признал вероятность появления ИИ, который окажется вне контроля человека.