Популярный мессенджер Discord столкнулся с неожиданной проблемой: его новая система модерации на основе искусственного интеллекта начала массово блокировать пользователей за… таблицы. Нейросеть, обученная выявлять запрещённый контент, ошибочно принимает любое изображение с сеткой за взрослый или неприемлемый материал.
Как выяснили пользователи, под раздачу попали скриншоты электронных таблиц Excel, шахматных досок и даже инвентаря из игры Minecraft. Казалось бы, безобидные изображения с упорядоченными ячейками или квадратами алгоритмы распознают как потенциально опасные. В результате многие пользователи получили автоматические баны за публикацию «взрослого контента», хотя на самом деле делились рабочими данными или игровыми скриншотами.
Проблема стала настолько массовой, что Discord уже признал наличие бага. Представители компании сообщили, что знают об ошибке в работе нейросети и работают над её исправлением. Пока же пользователям рекомендуют временно избегать публикации изображений с чёткими сетками или решётками, чтобы не попасть под автоматическую блокировку.
Этот инцидент вновь поднимает вопросы о надёжности автоматических систем модерации. Искусственный интеллект, призванный защищать пользователей от действительно опасного контента, пока не способен точно отличать безобидные таблицы от запрещённых изображений. Эксперты отмечают, что подобные ложные срабатывания — обычная проблема для нейросетей, особенно на ранних этапах внедрения.
Пользователям, уже пострадавшим от ошибочного бана, рекомендуется обращаться в службу поддержки Discord с просьбой пересмотреть решение. Компания обещает оперативно разбирать такие случаи и восстанавливать доступ к аккаунтам. Пока же остаётся надеяться, что баг будет исправлен до того, как под раздачу попадут ещё более безобидные изображения — например, фотографии тетрадей в клетку или архитектурных чертежей.
