В Китае определили, как можно "обмануть" автопилот Tesla
Систему автопилота Tesla можно обмануть неправильным расположением точек на асфальте - искусственный интеллект может принимать их за разметку и обращать, чтобы не пересекать несуществующую линию разделения
К такому выводу пришли эксперты из китайской компании Tencent.
В ходе исследования инженеры по безопасности попытались обмануть автопилот Tesla. Обычно во время таких опытов специалисты применяют цифровой подход, однако в Tencent решили, что лучше наносить ложные метки в реальности.
В ходе исследования инженерам удалось добиться, чтобы Tesla обнаружила несуществующую разметку и не заметила настоящую.
Для того чтобы автомобиль нашел несуществующую разметку, специалистам пришлось добавить белые пластыри в этой сплошной линии, однако они располагались неравномерно - это позволило бы живом водителю понять, что разметка ненастоящая. Но автопилот не смог справиться с этой задачей.
Во время второго эксперимента исследователи нанесли на асфальт три квадратных наклейки, которые были расположены в линию - она прошла диагонально по текущей полосе движения. В результате автопилот принял ее за настоящую и свернул на встречную полосу.
Оставьте комментарий
- Актуальное
- Важное