Исследователи из MIT продемонстрировали новый подход к улучшению языковых моделей, который может изменить представление о тренировке нейросетей. В эксперименте модель GPT-6 Astra самостоятельно отредактировала веса другой нейросети — Qwen3.5-0.8B, — не используя дополнительные данные для обучения. Результатом стало шестикратное улучшение математических способностей маленькой модели.
Суть метода, названного Weight-Space Programming, заключается в прямом доступе к параметрам модели. Astra получила возможность анализировать веса Qwen и проверять её ответы. Выяснилось, что модель часто зацикливается на собственных рассуждениях, повторяя одни и те же фразы вместо продвижения к решению. Astra определила, какие именно компоненты нейросети ответственны за это поведение, и с помощью Python изменила всего 0,016% весов — 131 072 параметра из 800 миллионов. Этого оказалось достаточно, чтобы модель перестала зацикливаться и начала показывать значительно лучшие результаты.
Эффект превзошёл ожидания. На бенчмарке MATH-500 точность Qwen выросла с 7,9% до 48,1%, на GSM8K — с 13,8% до 67,1%, а на тесте IFEval, проверяющем следование инструкциям, — с 21% до 62,3%. Кроме того, доля ответов, в которых модель достигала лимита в 32 тысячи токенов, сократилась с 93% до 33%. По сути, Astra устранила сбой, мешавший раскрыть уже имевшийся у модели потенциал.
Интересно, что подход сработал не для всех архитектур. Например, улучшить Gemma 3 с 270 миллионами параметров не удалось: модель упиралась не в цикл рассуждений, а в обычные вычислительные ошибки. Это подчёркивает, что Weight-Space Programming эффективен прежде всего для устранения конкретных дефектов поведения, а не для универсального улучшения любых моделей.
Авторы работы видят в этом новые перспективы. В других экспериментах Astra по одним только весам определяла, для каких игр обучались небольшие нейросети, и даже сама генерировала модели, которые играли лучше традиционно обученных за 100 миллионов шагов — просто записывая числовые параметры без тренировки. Это открывает путь к созданию ИИ, способных целенаправленно проектировать и оптимизировать другие ИИ, что может радикально ускорить развитие технологий.
