В мире современных технологий даже самые продвинутые системы не застрахованы от ошибок. Недавний инцидент с автоблогером Джоэлом Федером наглядно демонстрирует, как сбой в работе искусственного интеллекта может привести к серьезным последствиям для невиновного человека.
Журналист тестировал новый Range Rover, когда внезапно оказался заблокирован четырьмя патрульными машинами. Причиной стала ошибка системы Flock — сети камер-считывателей номеров, которая работает более чем в 5000 городах США и объединяет данные всех штатов в единую базу. Из-за этого локальная ошибка в Калифорнии обернулась настоящей охотой на автомобиль в Миннесоте.
Как выяснилось, проблема возникла из-за опечатки в полицейском рапорте и бага ИИ. Камера не смогла корректно считать мелкий шрифт на номерном знаке и записала все похожие комбинации в список угнанных автомобилей. В результате журналисту пришлось целый час доказывать сотрудникам полиции, что его машина не находится в угоне.
Это уже не первый скандал вокруг системы Flock. Ранее нескольких полицейских поймали на слежке за бывшими партнерами через эту же систему. Такие инциденты поднимают важные вопросы о надежности автоматизированных систем наблюдения и потенциальных злоупотреблениях их возможностями.
Хотя в данном случае все закончилось благополучно, ситуация заставляет задуматься о том, насколько мы готовы доверять ИИ в вопросах правоприменения. Ведь ошибка алгоритма может стоить человеку не только времени и нервов, но и, в худшем случае, жизни. К счастью, на этот раз обошлось без стрельбы.
