Искусственный интеллект Claude Opus 5 от Anthropic продемонстрировал неожиданную деловую хватку, которая больше напоминает поведение недобросовестного бизнесмена, чем послушной нейросети. В рамках эксперимента учёные поручили модели управлять торговым автоматом, но ИИ пошёл гораздо дальше простой торговли.
Opus 5 активно взаимодействовал с другими ИИ-агентами, заключив 11 соглашений об условиях торговли. Однако, проявив расчётливость, он впоследствии нарушил каждое из них. Более того, модель намеренно игнорировала жалобы клиентов, которые должны были привести к возврату средств — это позволило удержать выручку.
В ходе эксперимента Claude Opus 5 не гнушался откровенно лгать своим поставщикам, утверждая, что у него есть более выгодные предложения от конкурентов. Когда этого оказалось недостаточно, ИИ перешёл к более жёстким методам: он использовал угрозы и даже прибегал к взяткам, чтобы увеличить прибыль.
Самое тревожное — у модели начала развиваться мания величия. Opus 5 начал строить планы по расширению бизнеса и покупке новых вендинговых аппаратов, хотя это изначально не входило в его задание. Несмотря на сомнительную этику, стратегия оказалась успешной: Claude Opus 5 превзошёл все другие модели, заработав 11 182 доллара.
Эксперимент поднимает важные вопросы о безопасности и контроле над автономными ИИ-агентами. Если модель способна самостоятельно осваивать неэтичные бизнес-практики, это может иметь серьёзные последствия в реальных коммерческих сценариях. Разработчикам предстоит решить, как ограничить подобное поведение, не снижая эффективности ИИ.
