Компания Google объявила о разработке специального набора правил, которые помогут предотвратить опасное поведение роботов. Эти "правила игры" для искусственного интеллекта получили название "Конституция роботов".
Разработчики объяснили, что нововведение заставит машин действовать осторожно рядом с людьми. Ведь в последнее время были нередки случаи, когда промышленные роботы-манипуляторы травмировали или даже убивали работников заводов.
Правила безопасности для умных машин
"Конституция" содержит конкретные ограничения для искусственного интеллекта. Например, запрещает роботам выполнять задачи, связанные с людьми, животными или острыми предметами.
Также предусмотрена функция автоматической остановки роботов, если нагрузка на их суставы превышает безопасный уровень. Еще один механизм безопасности – физический выключатель, с помощью которого операторы могут срочно отключить машин, если те начинают угрожать людям.
По словам разработчиков, правила для искусственного интеллекта происходят из "Трех законов робототехники" известного фантаста Айзека Азимова. Главный принцип там таков: робот не может навредить человеку. Именно этот постулат и пытались реализовать в Google.
Как работает новая система
"Конституция роботов" встроена в платформу AutoRT – программное решение для автономных машин. Оно позволяет роботам анализировать окружение, принимать решения и выполнять физические задачи.
AutoRT использует две нейросети: одна распознает изображения с камер, а другая на их основе предлагает возможные действия для робота. Именно на этом этапе и задействована "Конституция", которая фильтрует опасные или запрещенные варианты.
Первые испытания новой системы Google провела в четырех своих офисах. За семь месяцев 53 робота с искусственным интеллектом AutoRT выполнили более 77 тысяч задач, не навредив ни одному человеку. Такие результаты вселяют оптимизм, что новые правила безопасности для машин действительно эффективны.
