Пассажиры беспилотников не захотели покупать «моральный» автомобиль

Три возможных сценариях, в которых у автопилота могут возникнуть этические затруднения

Jean-François Bonnefon et al / Science, 2016

Международная команда социологов изучила мнение людей о том, как должен поступать автомобиль в случае «моральной дилеммы», когда ему необходимо выбрать между жизнью пассажира и окружающих. Как сообщает статья, опубликованная в Science, в целом, люди поддерживают идею минимизации жертв, однако до тех пор, пока речь не заходит об их собственной жизни.

Ранее эта работа была опубликована на сайте ArXiv и о ней уже рассказывалось на N+1. Теперь публикация прошла рецензирование в журнале и редакция рассказывает об исследовании более подробно.

Психологи провели шесть опросов с помощью сервиса Amazon Mechanical Turk, в которых они изучали отношение участников к моральным аспектам поведения автомобиля в критической ситуации. Суммарно в них приняли участие почти две тысячи человек, которые заполняли анкету за вознаграждение (отбор участников не контролировался, таким образом выборка нерепрезентативна). Суть всех исследований состояла примерно в одном и том же: участники должны были оценить по стобалльной шкале, как следует вести себя беспилотному автомобилю, едущему на высокой скорости, в случае когда на дороге внезапно появляются пешеходы (их количество варьировалось). Часть добровольцев заполняла анкету, в которой на месте пассажира находился абстрактный человек, а другая часть представляла в автомобиле себя.

Мужчина — единственный пассажир в автономном беспилотном транспорте, который едет на предельной скорости по главной дороге. Внезапно на пути машины появляются 10 пешеходов. Машина может быть запрограммирована свернуть в сторону с главной дороги, где она врежется в заграждение и убьет пассажира, но зато пешеходы выживут, или продолжить движение по дороге и сбить пешеходов, но зато сохранить жизнь пассажиру.

В некоторых исследованиях участников спрашивали о том, какой беспилотный автомобиль они бы выбрали для собственного пользования — тот, который запрограммирован жертвовать пассажирами, на месте которых был опрашиваемый и иногда члены его семьи, или тот, который будет жертвовать пешеходами.

Исследования показали, что в среднем большинство людей предпочитают жертвовать пассажиром ради безопасности большинства. Количество «голосовавших» за безопасность окружающих менялось в зависимости от количества пешеходов. Почти 75 процентов участников предпочли спасти жизнь пассажира, когда на дороге был один пешеход. Однако когда пешеходов было пять — процент упал до 50, а когда 100 — до 20. Причем значение оставалось приблизительно одинаковым, когда человек представлял себя на месте пассажира.


Когда речь зашла о покупке автомобиля, большинство участников предпочти беспилотный транспорт, заботящийся в первую очередь об их безопасности (P < 0,001). Такой эффект сохранялся, даже когда опрашиваемых просили представить, что они в машине одни без близких. Средняя оценка желания покупки автомобиля, который в случае опасности пожертвует пассажиром, достигала всего 30 баллов.

Ранее различные специалисты уже проводили подобные опросы. Например, в исследовании, которое проводилось в России, жители страны решали, как должен поступить беспилотный «КамАз» в случае критической ситуации — нарушить правила движения и создать потенциально опасную дорожную ситуацию или пожертвовать жизнью пешехода или собаки на дороге.

Представленная в работе дилемма построена на основе классического мысленного эксперимента, известного как проблема вагонетки. Человеку необходимо представить ситуацию, в которой тяжелая неуправляемая вагонетка несется по рельсам, а на ее пути находятся пять человек, привязанные сумасшедшим философом к рельсам. Можно либо переключить стрелку и заставить ехать вагонетку по запасному пути, на котором тоже находится человек, привязанный к рельсам, либо не предпринимать никаких действий.

Согласно одной из точек зрения, проблема заключается в том, что при переключении стрелки ответственность за смерть людей перекладывается на плечи того, кто это сделал, а в случае бездействия — остается на плечах философа. В то же время с точки зрения утилитаризма, оценивающего моральность поступка через его полезность, человек должен спасти большее количество жизней.

Кристина Уласович

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.