Команда инженеров из Израиля выяснила, что портативным проектором можно вводить в заблуждение системы полуавтономного вождения и даже провоцировать аварии на дороге.
Автопилот Tesla удалось обмануть проектором

Системы полуавтономного вождения, которые представляют собой набор электронных ассистентов, на сегодняшний день способны разгонять и замедлять автомобиль, удерживать его в полосе, отслеживать дорожные знаки и избегать столкновений с препятствиями. Чтобы усовершенствовать работу так называемых автопилотов, хотя это слово и не вполне корректно употреблять, специалисты проводят различные испытания и пытаются так или иначе обмануть системы.

Учёные из Университета Бен-Гуриона (Израиль) выяснили, что ввести в заблуждение систему полуавтономного вождения Autopilot на кроссовере Tesla Model X можно довольно простым способом: при помощи изображений, выводимых на дорогу и стены обычным портативным проектором. Исследователи разместили на тротуаре проектор, с помощью которого последовательно выводили на асфальт изображения пешехода и изменённой разметки.

В результате Tesla переехала виртуального пешехода, распознав в изображении человека лишь в самый последний момент, когда тормозить было уже поздно, но в случае с фальшивой дорожной разметкой получилось ещё интереснее: кроссовер «увидел» её и последовал по нарисованным на асфальте линиям, уехав на встречную полосу. Потенциально это могло обернуться аварией с тяжкими последствиями.

В качестве защиты от подобных атак исследователи предлагают разработчикам систем полуавтономного вождения обучать нейросети фильтровать объекты и вычислять среди них фальшивые на основании контекста их расположения, относительного размера, освещения и текстуры. Специалисты отметили, что отправили результаты проведённых испытаний в Tesla, однако американцы отказались их комментировать и ответили, что электроника Model X была модифицирована.

Все для автоманов…
Новости про новинки автопрома и легенды прошлого, гоночные болиды и карьерные тяжеловозы у вас на почте!
Спасибо.
Мы отправили на ваш email письмо с подтверждением.