Власти штата Мичиган объявили о запуске пилотного проекта, в рамках которого искусственный интеллект будет оценивать опасность заключенных и распределять их по четырем уровням безопасности. Система, разработанная некоммерческой компанией Recidiviz (выросшей из проекта Google), начнет работу в декабре в нескольких мужских исправительных учреждениях. Ранее классификацией занималась специальная комиссия сотрудников тюрьмы, теперь же ключевое решение передается алгоритму.
Чиновники обещают, что новая система повысит точность прогноза будущего насилия примерно на 30%. Однако они не раскрывают методику расчета этой цифры, что вызывает серьезные вопросы. Ведь от присвоенного уровня безопасности зависит, к каким программам и ресурсам получит доступ заключенный, с кем он будет отбывать срок и как скоро сможет выйти на свободу.
Особую тревогу вызывает опыт других штатов. В Луизиане похожая система TIGER, изначально задуманная как реабилитационный инструмент, стала единственным критерием для отказа в досрочном освобождении. Алгоритм оценивает только прошлое человека: совершенные преступления, места работы, возраст первого ареста, нарушения условий условно-досрочного освобождения. При этом он игнорирует поведение в тюрьме, пройденные курсы, терапию и другие программы, направленные на исправление.
Расследование ProPublica описало вопиющий случай: 70-летний почти слепой мужчина в инвалидной коляске прошел курсы управления гневом, обучился профессии и записался на лечение от зависимости. Но за два месяца до слушания ему сообщили, что права на досрочное освобождение у него больше нет. Алгоритм оценил его риск рецидива как средний, а по новому закону этого достаточно, чтобы автоматически лишить права на слушание.
Подобные прецеденты заставляют задуматься: можно ли доверять искусственному интеллекту решения о свободе человека? Сторонники алгоритмов утверждают, что машину нельзя обмануть, и она беспристрастна. Противники настаивают, что такие вопросы должны решать люди, способные учитывать контекст и индивидуальные обстоятельства. Пока же власти Мичигана продолжают продвигать свою систему, не предоставляя общественности прозрачных объяснений ее работы. Остается надеяться, что пилотный проект не приведет к несправедливым решениям, разрушающим судьбы людей.
