Пенитенциарная система Мичигана готовится к внедрению искусственного интеллекта в процесс классификации заключённых. Согласно официальным данным, уже в декабре в нескольких мужских тюрьмах стартует пилотный проект, в рамках которого решение о уровне содержания будет принимать не комиссия сотрудников, а специальная ИИ-программа компании Recidiviz. На данный момент заключённых распределяют по пяти уровням безопасности, и от этого напрямую зависят условия отбывания наказания, доступ к программам реабилитации и перспективы условно-досрочного освобождения.
Представители властей возлагают на нововведение большие надежды. Ожидается, что точность прогноза будущего насилия со стороны заключённых вырастет примерно на 30 процентов по сравнению с человеческими оценками. Алгоритм будет анализировать множество факторов, включая дисциплинарные нарушения, участие в образовательных программах и поведенческие характеристики, чтобы выдать рекомендацию по уровню риска.
Однако у подобных систем уже есть тревожная история. Расследование ProPublica, проведённое в Луизиане, показало, что аналогичная система содержала расовую и социально-экономическую предвзятость. В частности, 70-летний слепой заключённый в инвалидной коляске с чистым дисциплинарным досье был признан «умеренным риском» — и автоматически потерял право на УДО. Этот случай стал символом того, как алгоритмы могут воспроизводить и усиливать существующие несправедливости.
Критики отмечают, что ИИ-системы обучаются на исторических данных, которые уже несут в себе предубеждения. Если в прошлом определённые группы заключённых чаще получали более высокий уровень риска, алгоритм усвоит эту закономерность и будет тиражировать её с иллюзией объективности. Кроме того, остаётся открытым вопрос прозрачности: заключённые и их адвокаты зачастую не могут оспорить решение алгоритма, поскольку не понимают, какие именно факторы повлияли на оценку.
В Мичигане пока не раскрывают детали того, как будет устроен механизм обжалования и будет ли у заключённых доступ к объяснению решений ИИ. Пилотный проект должен показать, насколько эффективно алгоритм справляется с задачей и не приведёт ли он к новым формам дискриминации. Пока же эксперты призывают к осторожности: автоматизация оценки опасности — это не просто техническое улучшение, а серьёзное вмешательство в судьбы людей, требующее максимальной прозрачности и независимого аудита.
