Автономные автомобили, обещавшие революцию в безопасности дорожного движения, оказались уязвимы к неожиданно простой атаке. Исследователи из Калифорнийского университета в Санта-Крузе продемонстрировали, что встроенные визуальные ИИ-модели беспилотников можно обмануть с помощью обычной таблички или плаката.
Суть уязвимости заключается в том, что система компьютерного зрения, анализирующая дорожную обстановку, может неправильно интерпретировать специально подобранный визуальный сигнал. Надпись вроде «продолжай движение», выполненная определённым шрифтом, цветом и расположением, способна «ослепить» ИИ. В результате автомобиль игнорирует пешеходов или другие критически важные препятствия, даже если они находятся прямо перед ним.
Эксперименты, проведённые в симуляционной среде, показали тревожные результаты. В одном из тестов исследователям удалось заставить автономную систему вождения DriveLM изменить решение с «тормозить» на опасный манёвр «повернуть налево» прямо перед пешеходами в 81,8% случаев. В другом сценарии, с беспилотным летательным аппаратом, в 68% попыток дрон приземлялся на людную крышу вместо безопасной площадки по команде с плаката.
Профессор кибербезопасности Альваро Карденас, один из авторов исследования, подчёркивает, что цель работы — не дискредитировать технологию, а заранее выявить её слабые места. «Наша роль как исследователей — предвидеть, как эти системы могут выйти из строя или быть использованы во вред, и разработать защиту до того, как эти слабости будут эксплуатироваться», — объясняет он.
Это открытие ставит важные вопросы о будущем автономного транспорта. Любая новая технология, особенно столь сложная, как беспилотное вождение, неизбежно проходит через этап выявления и устранения уязвимостей. Текущее исследование указывает на необходимость разработки более устойчивых к подобным атакам алгоритмов и систем многократного резервирования, которые не позволят единственному визуальному сигналу переопределить базовые правила безопасности. Безопасность пассажиров и пешеходов должна оставаться абсолютным приоритетом на пути к внедрению автономного транспорта.
