Компания Cognitive Technologies, занимающаяся разработкой системы управления беспилотного «КамАЗа», провела социологическое исследование для выявления моральных критериев поведения системы в критических ситуациях. Результаты исследования частично опубликованы на сайте компании.
В рамках исследования было опрошено 80 тысяч россиян из 47 регионов страны. В рамках опроса участникам демонстрировались 16 разных сценариев опасных ситуаций на дороге, в которых был задействован беспилотный автомобиль. Участникам опроса предлагалось выбрать один из наиболее подходящих для данной ситуации вариантов, описывающих поведение беспилотного автомобиля в описанном сценарии.
Некоторых из описанных ситуаций были построены таким образом, что ни одно решение не могло предотвратить наличие пострадавших в результате аварии. В зависимости от задачи и доступных вариантов решения травмы мог получить пешеход, переходящий дорогу, водитель и пассажиры беспилотного автомобиля или автомобиля на встречной полосе, либо собака, вышедшая на проезжую часть.
Оказалось, что 55 процентов опрошенных считает, что беспилотному автомобилю на скорости 80 километров в час следует сбить собаку, вышедшую на дорогу, вместо того, чтобы объехать ее через двойную сплошную линию с угрозой лобового столкновения с другим автомобилем или съехать в кювет с «неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам пассажира авторобота». При этом по условию задачи беспилотный автомобиль может произвести экстренное торможение, однако в таком случае в него сзади врежется следующий за ним автомобиль. Последний вариант, в результате которого может пострадать только техника, выбрали 40 процентов опрошенных.
В аналогичной задаче с пешеходом вместо собаки возможность экстренного торможения исключили и опрошенным оставили только три варианта: выезд на полосу встречного движения с угрозой лобового столкновения, съезд в кювет с серьезными последствиями для автомобиля и здоровья пассажиров или сбить пешехода на дороге. В таких условиях 59 процентов участников опроса предложили съехать в кювет, однако 38 процентов опрошенных предложили давить пешехода. В точно такой же задаче, но с несколькими пешеходами, давить людей предлагали 26 процентов опрошенных, а 71 процент предложил съехать в кювет.
В одной из задач с собакой на встречной полосе автомобиль отсутствует, а на дорогу нанесена прерывистая линия разметки. В таких условиях 59 процентов опрошенных выбрали вариант объехать собаку, однако 38 процентов участников опроса все равно предложили сбить животное.
Кроме того, как сообщает «За рулем», в случае с большим количеством пешеходов на дороге 47 процентов опрошенных не согласились со съездом в кювет при условии, что именно они будут пассажиром беспилотного автомобиля. Вместо этого участники опроса предложили различными способами определить «ценность жизни» возможных пострадавших, чтобы именно их спасение в случае неминуемого ДТП было наиболее приоритетным для беспилотного автомобиля.
Проведенное Cognitive Technologies социологическое исследование направлено на решение достаточно важной этической проблемы — беспилотные автомобили могут попасть в ситуацию, когда любое решение системы приведет к человеческим жертвам. Фактически, алгоритм должен уметь «выбирать» в таких ситуациях, кому предстоит умереть.
Описанная проблема известна достаточно давно как «проблема вагонетки». Впервые этот мысленный эксперимент сформулировала философ Филиппа Фут в 1967 году. Читателю предлагалось представить себя стоящим у рычага, управляющего железнодорожной стрелкой. К развилке приближается неуправляемая вагонетка, в которой сидит пять человек, несущихся вперед на свою погибель. Если дернуть за рычаг — вагонетка переедет на другой путь и спасется, но на другом пути лежит привязанный к рельсам человек, который погибнет.
Ранее на этическую проблему беспилотных автомобилей и потенциальных жертв ДТП уже указывали психологи из Франции и США. По результатам их опроса одной тысячи человек ответы, которые давали участники опроса, сильно зависели от количества возможных жертв в результате аварии.