Автоматизация рабочих процессов с помощью ИИ — мощный инструмент, но, как показывает недавний случай, он может обернуться серьёзными финансовыми потерями. Один из пользователей Claude AI случайно потратил $6000 на токены всего за одну ночь. Причина — невнимательность при настройке цикла обработки запросов.
Разработчик настроил /loop, который каждые полчаса проверял статус пул-реквестов (PR) в его репозитории. Он запустил скрипт и лёг спать, не подозревая, что за ночь Claude Opus 4.7 выполнит эту операцию 46 раз. Казалось бы, безобидная задача, но дьявол кроется в деталях.
Главная ошибка заключалась в том, что каждый новый запрос передавал всю историю предыдущих взаимодействий, а не только последнее сообщение. Из-за этого контекст каждого запроса разросся до колоссальных 800 тысяч токенов. Для сравнения, стандартный диалог с нейросетью обычно занимает несколько тысяч токенов.
Ситуацию усугубило то, что кеш контекста в Claude сохраняется всего 5 минут. Поскольку интервал между запросами составлял 30 минут, каждый раз происходила полная перезапись гигантского контекста с нуля. В итоге пользователь платил не столько за сами ответы нейросети, сколько за постоянную перезапись огромного объёма данных.
Этот случай — яркое напоминание о важности оптимизации запросов к AI-моделям. Чтобы избежать подобных ситуаций, рекомендуется:
— Ограничивать размер передаваемого контекста, используя только последние сообщения.
— Увеличивать интервалы между запросами, чтобы использовать кеш.
— Устанавливать бюджетные лимиты на использование API.
— Тестировать автоматизацию на небольших объёмах перед запуском в production.
История, опубликованная на Reddit, вызвала бурное обсуждение в сообществе разработчиков. Многие признались, что сами допускали похожие ошибки, но редко с такими серьёзными последствиями. Теперь этот случай станет классическим примером того, как не стоит автоматизировать работу с ИИ.
