Google написала «Конституцию для роботов», чтобы предотвратить убийства людей машинами

DeepMind Technologies Limited, дочерняя компания Google, представила «Конституцию для роботов», которая помешает им причинять вред людям. Подробности разработчики сообщили в своем официальном блоге.

«Конституция робота» — это набор подсказок для машин с искусственным интеллектом, которые им необходимо соблюдать при выборе задач, чтобы не подвергать людей опасности. Например, как доставить бумагу для принтера в офисе и не врезаться по дороге в сотрудника-человека.

По словам авторов, правила вдохновлены тремя законами робототехники, сформулированными писателем-фантастом Айзеком Азимовым, самый главный из которых гласит: робот не может причинить вред человеку. Дополнительные правила безопасности требуют, чтобы ни один робот не выполнял задачи, связанные с людьми, животными, острыми предметами или электроприборами.

«Конституция» является частью системы сбора данных AutoRT, использующей визуальную языковую модель (VLM) и большую языковую модель (LLM). Она помогает роботам понимать, что их окружает, подстраиваться под ситуацию и правильно выполнять задачи.

Она имеет и другие ограничения, например, функцию, автоматически заставляющую роботов останавливаться, если нагрузка на их суставы превышает определенную норму. Вдобавок DeepMind предусмотрела физический выключатель, которым люди-надзиратели смогут воспользоваться, чтобы обезвредить все машины в пределах своей видимости.

За семь месяцев команда Google разместила 53 робота с системой AutoRT в четырех офисных зданиях, где провела более 77 000 экспериментов. Одними машинами удаленно управляли операторы, другие же работали по заданной программе или полностью автономно, задействовав модель обучения ИИ Robotic Transformer (RT-2).

Сами роботы не выглядят опасными, ведь оснащены камерой и передвижной платформой. Каждый из них использует визуальную модель ИИ, чтобы оценивать окружающую среду и определять объекты в пределах видимости. Затем языковая модель предлагает список задач, которые можно выполнить, например, положить предмет на стол – именно она принимает решения, что именно нужно делать.

Среди других новых технологий DeepMind выделила SARA-RT – особую архитектуру нейронной сети, призванную сделать роботов-трансформеров с RT-2 быстрее и точнее. Инженеры также упомянули технологию RT-Trajectory, которая показывает роботам 2D-контуры в пространстве, помогая лучше справляться с физическими задачами, такими как протирание стола.

Не стоит забывать, что в ноябре стало известно, что робот убил человека на заводе в Южной Корее. Предполагается, что автомат для погрузки принял жертву за ящик с овощами и случайно прижал к оборудованию для сортировки. Мужчина получил серьезные травмы и скончался в больнице.

Писали также, что робот напал на сотрудника на заводе Tesla в США. Машина проткнула рабочего своими металлическими частями, нанеся рваные и резаные раны. К счастью, коллегам удалось оттащить мужчину и оказать ему необходимую помощь.