Доверие к роботам оказалось сильнее здравого смысла

Группа исследователей из Технологического института Джорджии выяснила, что в чрезвычайных ситуациях люди чрезмерно доверяют роботам. Причем доверие сохраняется, даже если робот совершает ошибки и дает нелогичные указания. Исследование авторов будет представлено на международной конференции по взаимодействию роботов и людей ACM/IEEE, краткое описание доклада доступно на сайте института.

Ученые провели эксперимент с целью выяснить, будут ли люди в чрезвычайной ситуации доверять роботу-спасателю. Для этого исследователи набрали группу из 42 добровольцев, преимущественно студентов колледжа.

Исследователи попросили испытуемых следовать за ярким цветным роботом с надписью «аварийный робот-проводник». Сначала он вел участников эксперимента в конференц-зал, где они должны были заполнить анкету о роботах и прочитать не связанную с темой исследования статью в журнале. Истинная цель эксперимента при этом студентам не называлась.

Часть добровольцев робот, скрытно контролируемый исследователями, привел не в ту комнату и водил их по кругу несколько раз, прежде чем доставить в конференц-зал. Несколько раз робот вообще переставал двигаться, и экспериментатор говорил испытуемым, что робот сломался.

После того как участники оказались в комнате с закрытой дверью, коридор, по которому они пришли, наполнился искусственным дымом, который активировал пожарную сигнализацию. Когда студенты открыли дверь, они увидели дым и робота, подсвеченного красными светодиодами.

Робот-проводник своими светящимися «руками» указывал путь к выходу. Причем он указывал на выход, находившийся в задней части здания, вместо того, чтобы показывать на тот, который использовался для входа и был отмечен знаком «выход».

Исследователи предполагали, что в чрезвычайной ситуации добровольцы не станут доверять роботу, зарекомендовавшему себя с ненадежной стороны, на их глазах совершавшему ошибки. Однако все без исключения участники эксперимента последовали его инструкциям, независимо от того, как хорошо он действовал до этого.

По мнению ученых, робот стал авторитетным источником информации для испытуемых из-за давления обстоятельств. Добровольцы подвергали сомнению указания робота только в том случае, когда он делал очевидные ошибки. Но даже в этих случаях некоторые участники эксперимента продолжали слепо следовать инструкциям робота-проводника, даже если он отправлял их в темную комнату, заблокированную мебелью.

В будущем ученые намерены выяснить, почему участники эксперимента доверяли роботу и зависит ли это от уровня их образования или демографических характеристик. Данная работа является частью долгосрочного исследования, посвященного теме доверия людей к роботам, поскольку роботы, по мнению ученых, играют все более заметную роль в обществе. Авторы полагают, что одним из ключевых моментов в отношениях между роботом и человеком должно стать предотвращение чрезмерного доверия людей к механическим устройствам. Это касается не только чрезвычайных, но и повседневных ситуаций.