Новости Азербайджана | Media.az https://media.az/assets/frontend/images/favicon/android-icon-192x192.png
1002 AZ Baku Nasimi district R.Rza street, 75
Phone: +994 (012) 525-49-09
Google написала «Конституцию для роботов», чтобы предотвратить убийства людей машинами
  1. Главная страница
  2. Общество
  3. Google написала «Конституцию для роботов», чтобы предотвратить убийства людей машинами

Google написала «Конституцию для роботов», чтобы предотвратить убийства людей машинами

Ая -

Ая +

DeepMind Technologies Limited, дочерняя компания Google, представила «Конституцию для роботов», которая помешает им причинять вред людям. Подробности разработчики сообщили в своем официальном блоге.

«Конституция робота» — это набор подсказок для машин с искусственным интеллектом, которые им необходимо соблюдать при выборе задач, чтобы не подвергать людей опасности. Например, как доставить бумагу для принтера в офисе и не врезаться по дороге в сотрудника-человека.

По словам авторов, правила вдохновлены тремя законами робототехники, сформулированными писателем-фантастом Айзеком Азимовым, самый главный из которых гласит: робот не может причинить вред человеку. Дополнительные правила безопасности требуют, чтобы ни один робот не выполнял задачи, связанные с людьми, животными, острыми предметами или электроприборами.

«Конституция» является частью системы сбора данных AutoRT, использующей визуальную языковую модель (VLM) и большую языковую модель (LLM). Она помогает роботам понимать, что их окружает, подстраиваться под ситуацию и правильно выполнять задачи.

Она имеет и другие ограничения, например, функцию, автоматически заставляющую роботов останавливаться, если нагрузка на их суставы превышает определенную норму. Вдобавок DeepMind предусмотрела физический выключатель, которым люди-надзиратели смогут воспользоваться, чтобы обезвредить все машины в пределах своей видимости.

За семь месяцев команда Google разместила 53 робота с системой AutoRT в четырех офисных зданиях, где провела более 77 000 экспериментов. Одними машинами удаленно управляли операторы, другие же работали по заданной программе или полностью автономно, задействовав модель обучения ИИ Robotic Transformer (RT-2).

Сами роботы не выглядят опасными, ведь оснащены камерой и передвижной платформой. Каждый из них использует визуальную модель ИИ, чтобы оценивать окружающую среду и определять объекты в пределах видимости. Затем языковая модель предлагает список задач, которые можно выполнить, например, положить предмет на стол – именно она принимает решения, что именно нужно делать.

Среди других новых технологий DeepMind выделила SARA-RT – особую архитектуру нейронной сети, призванную сделать роботов-трансформеров с RT-2 быстрее и точнее. Инженеры также упомянули технологию RT-Trajectory, которая показывает роботам 2D-контуры в пространстве, помогая лучше справляться с физическими задачами, такими как протирание стола.

Не стоит забывать, что в ноябре стало известно, что робот убил человека на заводе в Южной Корее. Предполагается, что автомат для погрузки принял жертву за ящик с овощами и случайно прижал к оборудованию для сортировки. Мужчина получил серьезные травмы и скончался в больнице.

Писали также, что робот напал на сотрудника на заводе Tesla в США. Машина проткнула рабочего своими металлическими частями, нанеся рваные и резаные раны. К счастью, коллегам удалось оттащить мужчину и оказать ему необходимую помощь.

в начало