Психологи научат беспилотники правильно давить пешеходов

Три возможных сценариях, в которых у автопилота могут возникнуть этические затруднения.

Изображение: Jean-François Bonnefon et al./ arXiv.org

Трое ученых из институтов Франции и США описали ряд этических проблем, которые могут возникнуть при программировании беспилотных автомобилей для дорог общего пользования. Например, что должен сделать автопилот, если прямо перед капотом выбежало несколько человек: сбить их или свернуть в сторону, рискуя врезаться в дерево и убить собственного пассажира? Авторы провели три опроса, в которых выяснили мнение аудитории о подобных дилеммах. Результаты выложены в препринте на arXiv.org.

Исследователи предлагали участникам (всего около 1000 человек) оценить, насколько моральны или аморальны были исходы нескольких этических дилемм с участием беспилотного автомобиля. При этом в разных вопросах учитывалось, идет ли речь о поведении «вообще» или о том случае, когда в автомобиле сидел бы сам опрашиваемый. Кроме того, ученые интересовались, готовы ли были участники эксперимента принять тот или иной сценарий в качестве законодательного требования, и как вообще они относятся к перспективе покупки беспилотного автомобиля.

Оказалось, что в целом большинство респондентов поддерживало так называемые утилитарный подход, то есть в любой ситуации одобрять решение, которое приведет к минимальному числу жертв. При этом принятие подобного решения в качестве закона одобрило меньше участников, особенно, если речь шла о собственном автомобиле, а не о ситуации «в целом». Во всех случаях наибольшее влияние на окончательный ответ оказывало число жертв потенциальной катастрофы (в опросе от 1 до 10).

Авторы отмечают, что новые данные могут послужить отправной точкой в решении вопроса о нормах поведения беспилотников на дороге. Однако ученые уверены, что окончательное решение не будет диктоваться простым мнением большинства, так как требуется учесть больше факторов, чем пока что удалось уместить в рамки опроса.

Описанная в статье проблема является одной из вариаций знаменитой «проблемы вагонетки», предложенной впервые философом Филиппой Фут в 1967 году. Читателю предлагалось представить себя стоящим у рычага, управляющего железнодорожной стрелкой. К развилке приближается неуправляемая вагонетка, в которой сидит пять человек, несущихся вперед на свою погибель. Если дернуть за рычаг —  вагонетка спасется, однако, по дороге переедет привязанного к рельсам человека. В итоге выбор — спасти одного человека или пятерых?

Этот мысленный эксперимент позднее встречался в различных вариациях, однако, очевидно, в нем не существует «правильного» ответа. В новой работе авторы также, хоть и не предлагая окончательного решения, отмечают, что искать его следует в области экспериментальной этики.

Тарас Молотилин

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.