Главная » Наука и технологии » Продвинутый автопилот Tesla можно обмануть карманным проектором
Дата публикации: 08.02.2020
Просмотров: 22



Продвинутый автопилот Tesla можно обмануть карманным проектором


В
конце 2019 года Европейский независимый комитет оценки безопасности автомобилей (Euro
NCAP) выставил автопилоту Tesla Model X максимальный балл за безопасность. Между тем команда инженеров из
Израиля нашла серьёзную уязвимость в работе алгоритмов, которая потенциально может стать причиной аварий.

Tesla

На
данный момент активация функции автопилота в электрокарах Tesla обходится пользователям в 7000 долларов.
Илон Маск считает продвинутый ИИ полноценным, отмечая, что он готов к активной
эксплуатации на дорогах общего назначения. Как выяснилось, обмануть систему можно при помощи
портативного проектора, который выводил на проезжую часть изображения пешехода
и изменённой разметки.

В ходе эксперимента израильских исследователей из Университета Бен-Гуриона автопилот Tesla не справился со своей задачей и сбил виртуального пешехода, распознав в нём человека
тогда, когда тормозить было уже поздно. Ещё хуже обстоят дела с разметкой. Обнаружив поддельные линии, автомобиль выехал на встречную полосу, поставив под угрозу сразу
несколько транспортных средств.

Tesla

Для
того чтобы в будущем избежать подобных проблем, исследователи предложили обучать
нейросети всем возможным вариантам развития событий, которые могут встретиться на дороге, вплоть
до анализа изображений на основе освещения, размера объектов и их положения. Инженеры отправили результаты
тестов компании Tesla, однако её сотрудники отказались от комментариев, заявив о модификации аппаратной части электрокара Model X.

Источник: eprint.iacr.org