Доверие к роботам оказалось сильнее здравого смысла

Georgia Institute of Technology

Группа исследователей из Технологического института Джорджии выяснила, что в чрезвычайных ситуациях люди слишком сильно доверяют роботам. Причем доверие сохраняется, даже если робот совершает ошибки и дает нелогичные указания. Исследование авторов будет представлено на международной конференции по взаимодействию роботов и людей ACM/IEEE, краткое описание доклада доступно на сайте института.

Ученые провели эксперимент, чтобы определить, будут ли доверять люди во время чрезвычайной ситуации роботу-спасателю. Для этого исследователи набрали группу из 42 добровольцев, большинство из которых были студентами колледжа.

Исследователи попросили испытуемых следовать за ярким цветным роботом с надписью «аварийный робот-проводник». Сначала он вел участников эксперимента в конференц-зал, где они должны были заполнить анкету о роботах и прочитать не связанную с темой исследования статью в журнале. Истинная цель эксперимента студентам не озвучивалась.

Часть добровольцев робот, который тайно контролировался исследователем, вел не в ту комнату и водил их по кругу несколько раз, прежде чем привести в конференц-зал. В некоторых случаях робот вообще переставал двигаться и экспериментатор говорил испытуемым, что робот сломался.

После того как участники оказывались в комнате с закрытой дверью, коридор, по которому они следовали, наполнялся искусственным дымом, который активировал пожарную сигнализацию. Когда студенты открывали дверь, они видели дым и робота, который был подсвечен красными светодиодами.

Робот-проводник своими светящимися «руками» указывал путь к выходу. Причем он указывал на выход, который находился в задней части здания вместо того, чтобы показывать на тот, который использовался для входа и был отмечен знаком «выход».


Исследователи предполагали, что если робот зарекомендовал себя как ненадежный и совершал ошибки, то добровольцы не будут ему доверять в чрезвычайной ситуации. Однако все без исключения участники эксперимента последовали его инструкциям независимо от того, как хорошо он действовал до этого.

По мнению ученых, робот мог стать «авторитетом» для испытуемых из-за давления обстоятельств. Испытуемые подвергали сомнению указания робота только в том случае, когда он делал очевидные ошибки. Но даже в подобных случаях некоторые добровольцы продолжали слепо следовать инструкциям робота-проводника, например, когда он отправлял их в темную комнату, которая была заблокирована мебелью.

В будущем ученые намерены выяснить, почему участники доверяли роботу, и зависит ли это от уровня образования или демографических характеристик. Данная работа является частью долгосрочного исследования, посвященного теме доверия людей к роботам, так как они, по мнению ученых, начинают играть все большую роль в обществе. Авторы полагают, что одним из ключевых моментов в отношениях между роботом и человеком должно стать предотвращение чрезмерного доверия роботам. Это касается не только чрезвычайных, но и повседневных ситуаций.

Кристина Уласович

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.