Умные камеры наблюдения, оснащенные искусственным интеллектом, все активнее внедряются в городскую инфраструктуру. Они способны распознавать номера, марки и даже модели автомобилей, автоматически отслеживая передвижения. Но существует ли защита от всевидящего ока алгоритмов? Недавний эксперимент техноютубера доказывает: да, и для этого не нужны высокотехнологичные гаджеты или хакерские атаки.
Энтузиаст решил проверить, насколько легко обмануть современную систему наблюдения Flock, которая широко используется в США для мониторинга дорожного движения. Для этого он взял обычный Toyota Yaris и оклеил его специальными наклейками с визуальным шумом. Паттерны были разработаны Биллом Сверингеном, известным экспертом по кибербезопасности, который давно изучает уязвимости нейросетей.
Принцип работы этих наклеек основан на особенностях восприятия изображений искусственным интеллектом. Для человеческого глаза автомобиль выглядит просто необычно, но для алгоритмов распознавания он превращается в набор случайных пикселей. Нейросеть, обученная на стандартных изображениях автомобилей, теряется при виде такого «шумного» объекта и не может классифицировать его как транспортное средство.
В ходе теста автомобиль с наклейками несколько раз проехал перед камерой Flock. Результат превзошел ожидания: система наблюдения полностью проигнорировала машину, не зафиксировав ни ее номер, ни даже факт ее появления. Это означает, что алгоритм не просто ошибся в определении модели, а вообще не заметил объект.
Подобный метод, известный как adversarial attacks, уже давно изучается в академических кругах. Однако большинство исследований ограничивалось лабораторными условиями или статичными изображениями. Успешный эксперимент на реальной дороге с работающей системой наблюдения показывает практическую применимость этой технологии.
Эксперты отмечают, что результаты теста имеют двойное значение. С одной стороны, они демонстрируют уязвимость современных систем безопасности, что может быть использовано злоумышленниками. С другой — это важный сигнал для разработчиков ИИ, которые должны учитывать возможность подобных атак при проектировании новых алгоритмов.
Пока неизвестно, насколько устойчив этот метод к более совершенным камерам с несколькими сенсорами или тепловизорами. Однако уже сейчас можно утверждать: гонка между создателями систем распознавания и теми, кто ищет способы их обмана, продолжается. И в этой гонке не всегда побеждает технологически более сложная сторона.
