Схематичное объяснение действий повысило доверие людей к роботу

Американские инженеры научили робота перенимать у людей навык открывания банок, а также объяснять планируемые действия несколькими способами. Эксперименты на добровольцах, которым робот объяснял свои действия разными методами, показали, что объяснения в виде последовательности базовых действий, совмещенные с их графическим схематическим представлением, обеспечивают наибольшую уверенность в действиях робота со стороны людей. Статья опубликована в журнале Science Robotics.

Некоторые исследования в области робототехники направлены не на создание самих роботов, а на исследование аспектов восприятия роботов людьми. Например, существует феномен «зловещей долины», заключающийся в том, что увеличение реалистичности робота делает его более привлекательным лишь до определенного порога, после которого реалистичность вызывает негативные эмоции. Есть и множество других аспектов, влияющих на доверие между людьми и машинами, в том числе ясность текущих действий и намерений машины. К примеру, разработчики беспилотных автомобилей, такие как Ford и Mercedes, экспериментируют с различными световыми сигналами, позволяющими пешеходам понимать планы беспилотников и меньше бояться их на улицах.

Инженеры под руководством Сон-Чхон Чжу (Song-Chun Zhu) из Калифорнийского университета в Лос-Анджелесе провели исследование с целью понять, каким образом роботы могут объяснять свои действия людям. Авторы провели исследование на примере простой и распространенной задачи: открывание банки, причем с защитным механизмом. В качестве аппаратной платформы они взяли популярного среди исследователей-робототехников робота Baxter с двумя руками, торсом и монитором вместо головы. Кроме того, они использовали перчатку с датчиками, которая позволяет во время сеансов откручивания крышек записывать как положения всех частей кисти, так и усилия, прикладываемые к банке и крышке.

В поставленном эксперименте робот наблюдал за людьми через данные перчатки, а после этого строил схематическое высокоуровневое представление этой задачи (например, «схватить банку, нажать на крышку, повернуть крышку») и создавал с помощью нейросетевого кодировщика аналог действий человека с учетом различий в строении человеческой руки и робоманипулятора. Метод обучения через демонстрацию основан на предыдущей работе авторов, а кроме того, ранее другие исследователи уже создавали подобные системы, причем даже более впечатляющие, например, робота, способного повторить действие за человеком по одному примеру.

Главное новшество работы заключается в исследовании и сравнении методов объяснения действий робота. Авторы сравнили четыре типа таких объяснений: через видеозапись робота, откручивающего крышку, через последовательность базовых действий, через схематическую анимацию с визуализацией усилия, а также через текстовое описание, изложенное простым языком.

В исследовании участвовало 150 человек, которых случайным образом отнесли к одной из пяти групп. Видеозапись показывали участникам каждой группы, а четыре группы из пяти помимо нее также получали объяснения одним или двумя другими методами из списка:

После наблюдения за действиями робота и объяснениями участников просили оценить доверие к действиям робота, под которым в этом исследовании авторы понимали рациональную составляющую доверия, а не эмоциональную. Затем им показывали еще одно похожее действие и перед этим просили предсказать планы робота.

Выяснилось, что наиболее высокие оценки по обоим параметрам (доверие и предсказуемость) дали участники группы, которой показывали объяснение в виде последовательности базовых действий и схематической анимации. Участники группы, которая получала только последовательность базовых действий дала практически такую же, хотя и немного меньшую оценку.

Помимо понятных объяснений, роботы могут использовать и другие методы для того, чтобы повысить доверие людей или стать привлекательнее в их глазах, например, выражать иронию и совершать ошибки. Исследования также показывают, что иногда доверие к роботам может быть сильнее здравого смысла, к примеру, в экстренных ситуациях.

Григорий Копиев