Ученые создадут «большую красную кнопку» для выключения искусственного интеллекта
Исследователи из Оксфордского университета и лаборатории DeepMind, принадлежащей Google, начали работу над системой аварийного выключения для самообучающихся алгоритмов. Об этом сообщает Business Insider со ссылкой на Институт изучения машинного интеллекта (MIRI).
«Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения.»
Авторы отмечают, что самообучающиеся алгоритмы могут со временем обнаружить какой-нибудь механизм обхода или игнорирования штатной стоп-команды оператора. По словам исследователей, цель работы — создание фреймворка, который не позволит искусственному интеллекту найти способ игнорирования команды отключения.
Также «большая красная кнопка» должна гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации, а также предотвратить совершение действий, которые могут привести к «необратимым последствиям».
Вопросы безопасности, связанные с разработкой систем искусственного интеллекта, озвучивались и ранее. В 2015 году Илон Маск, Стивен Хокинг, Ноам Хомский, Стив Возняк и многие другие ученые, бизнесмены, знаменитости, исследователи и специалисты в области робототехники и искусственного интеллекта подписали открытое письмо, предостерегающее производителей оружия от создания полностью автономных боевых систем.
Он предназначен для разгрузки грузовых полуприцепов и контейнеров
Японская компания Mujin, занимающаяся разработкой роботов для работы на складах и систем управления для них, показала работу своего робота TruckBot, предназначенного для разгрузки содержимого трейлеров и грузовых контейнеров. Видео доступно на YouTube-канале компании. Разгрузка содержимого автомобильных полуприцепов и грузовых контейнеров на складах и в логистических центрах может требовать довольно много времени, выступая в роли «бутылочного горлышка», из-за которого в цепочке поставок возникают задержки. Кроме того, зачастую эта физически изнурительная работа выполняется рабочим персоналом вручную, что может представлять угрозу для здоровья людей. Решением этих проблем мог бы стать робот TruckBot, который разрабатывается японской компанией Mujin. Основанная в 2011 году в Токио компания специализируется на создании роботов для складских и логистических работ, а также разработке систем управления для них. Робот TruckBot предназначен для разгрузки грузовых прицепов и контейнеров. Основной элемент его конструкции — подвижная грузовая стрела с транспортерными лентами и роликами наверху. Стрела может отклоняться по вертикали и горизонтали, а также двигаться вперед вместе с рамой робота, проникая вглубь разгружаемого грузового контейнера или прицепа на расстояние до 15 метров. Система управления определяет с помощью камер положение объекта в грузовом контейнере. После этого стрела подводится к объекту и с помощью вакуумных присосок захватывает, подтягивает и устанавливает его на транспортерную ленту. По ней груз попадает на конвейер, установленный позади робота, который перемещает его дальше, например, на сортировку. Таким образом TruckBot способен разгрузить 1000 единиц груза, каждый массой до 22 килограмм за час работы. TruckBot может работать самостоятельно или быть частью группы, состоящей из нескольких роботов разного назначения и конвейеров, объединенных в единую систему, предназначенную для разгрузки, погрузки, сортировки, паллетирования и депаллетирования грузов. Для управления этой системой служит другая разработка компании — система управления MujinController. Использование специализированных роботов, таких как TruckBot, разработанных для выполнения одной конкретной задачи, способно повысить эффективность работы. Однако, их установка может потребовать внесения изменений или даже перестройки помещений. Человекоподобные роботы, созданием которых в последнее время занимается все больше компаний, будут лишены такого недостатка. Благодаря своей антропоморфности они способны передвигаться по тем же помещениям и взаимодействовать с теми же инструментами, что и люди, без необходимости что-либо специально изменять. Например, недавно американская компания Apptronik представила раннюю версию человекоподобного робота Apollo для складской работы.
