Автопилот Tesla обманули с помощью незаметной фальшивой разметки

Видео
|

Китайская компания Tencent Keen Security Lab взломала систему автопилота Tesla электрокара Model S 75 благодаря размещению незаметных для водителя стикеров на дороге с целью проверки системы безопасности.

Tesla

ИИ-система воспринимает наклеенные стикеры за дорожную разметку, в результате чего автомобиль может свернуть со своей полосы и выехать на встречную. Данную ситуацию запечатлели на видеоролике.

Электрокар Tesla Model S 75 работал на системе автопилота версии 2.5 от 2018.6.1. Заметим, что автопилот Tesla распознает объекты с помощью нейросетей, однако благодаря специальным изображениям можно сбить работу алгоритма, что приведет к некорректному определению объектов.

Материалы по теме:

Apple выпустила новые бета-версии своих операционных систем
Apple выпустила новые бета-версии своих операционных систем
Apple разработала собственную файловую систему
Apple разработала собственную файловую систему
Apple обновляет все свои операционные системы до новых версий
Apple обновляет все свои операционные системы до новых версий