Автопилот Tesla обманули с помощью незаметной фальшивой разметки

Видео
|

Китайская компания Tencent Keen Security Lab взломала систему автопилота Tesla электрокара Model S 75 благодаря размещению незаметных для водителя стикеров на дороге с целью проверки системы безопасности.

Tesla

ИИ-система воспринимает наклеенные стикеры за дорожную разметку, в результате чего автомобиль может свернуть со своей полосы и выехать на встречную. Данную ситуацию запечатлели на видеоролике.

Электрокар Tesla Model S 75 работал на системе автопилота версии 2.5 от 2018.6.1. Заметим, что автопилот Tesla распознает объекты с помощью нейросетей, однако благодаря специальным изображениям можно сбить работу алгоритма, что приведет к некорректному определению объектов.

Материалы по теме:

Huawei заработала более $100 миллиардов за 2018 год
Huawei заработала более $100 миллиардов за 2018 год
Apple разработала собственную файловую систему
Apple разработала собственную файловую систему
Интернет будет работать с перебоями 11 октября 2018 года – миф или реальность?
Интернет будет работать с перебоями 11 октября 2018 года – миф или реальность?