Автопилот электромобилей Tesla в некоторых случаях ведет себя некорректно и может направить автомобиль в барьерное ограждение. Владелец Tesla Model S воспроизвел такое поведения автопилота на участке автомагистрали в Калифорнии, где в конце марта другой автомобиль Tesla врезался в барьерное ограждение, после чего его водитель погиб, сообщает Electrek. После аварии брат погибшего заявил, что автомобиль нередко вел себя некорректно на этом участке, но Tesla опровергла это.
Автомобили Tesla в 2015 году получили обновление прошивки, добавляющее в них функцию автопилота. За счет встроенных камер, радара, ультразвуковых датчиков и GPS-приемника эти автомобили могут частично самостоятельно перемещаться по шоссе, двигаться в полосе, держать безопасную дистанцию до других автомобилей и совершать другие рутинные действия. Тем не менее, водитель должен держать руки на руле и быть готовым перехватить управление по требованию автопилота.
В конце марта на автомагистрали 101 в городе Маунтин-Вью, штат Калифорния, произошла авария, при которой автомобиль Tesla Model X, двигавшийся в режиме автопилота, врезался в зону деформации в начале барьерного ограждения. В результате водитель погиб от полученных травм. После произошедшего родственник погибшего заявил, что тот жаловался на некорректную работу системы автопилота на этом участке дороги, которая в некоторых случаях поворачивала автомобиль в сторону разделителя. Утверждается, что он отвез автомобиль в дилерский центр, но там не смогли воспроизвести проблему. В свою очередь Tesla утверждает, что не нашла записей об этом обращении. Кроме того компания заявила, что с 2015 года ее автомобили с включенным автопилотом проехали это место примерно 85 тысяч раз и не попадали в аналогичные аварии, а зона деформации ограждения на этом месте была разрушена за день до аварии.
Владелец автомобиля Tesla Model S, который также оснащается автопилотом, решил проверить действия этой системы на месте, где произошло столкновение. На записи можно видеть, что автомобиль едет под управлением автопилота (об этом говорит значок руля справа от спидометра). За несколько секунд до приближения к барьерному ограждению автомобиль начинает смещаться влево от своей полосы, после чего водитель берет управление на себя, чтобы не врезаться в ограждение.
Стоит отметить, что на участке дороги, на котором автомобиль начал смещаться влево практически полностью стерта разметка, обозначающая край проезжей части, а разметка, обозначающая край соседней проезжей части находится примерно в метре от нее и заметна гораздо лучше. Возможно, из-за этого алгоритм автопилота принял разметку соседней проезжей части за свою и стремился выровнять положение автомобиля относительно нее.
Аналогичное поведение автопилота при разделении дороги на две проезжие части заснял водитель Tesla Model S в Чикаго, там разметка была повреждена еще сильнее.
Произошедшее в конце марта дорожно-транспортное происшествие не было первым, в котором участвовал электромобиль Tesla с активированным режимом автопилота. В 2016 году Tesla Model S под управлением автопилота попал в дорожно-транспортное происшествие, в котором погиб его водитель. Через год, комиссия, расследовавшая происшествия, объявила, что водитель игнорировал предупреждения системы автопилота о необходимости держать руки на руле.
Григорий Копиев
Китайские и американские исследователи научились обманывать беспилотные автомобили с помощью лазера. Они показали, что при использовании камеры со сканирующим затвором свет от лазера заставляет алгоритмы определения сигнала светофора принимать неправильное решение, определяя зеленый сигнал вместо красного и наоборот. Статья будет представлена на конференции USENIX 2022, ее препринт опубликован на arXiv.org.