Стартап Mostik AI, основанный российскими математиками, предложил революционный способ взаимодействия нейросетей, который может сократить затраты на вычисления в 20 раз. Вместо традиционной передачи текста между моделями разработчики научили их обмениваться внутренними состояниями напрямую.
Современные ИИ-агенты часто используют связки из нескольких нейросетей: одна планирует действия, другая выполняет. Однако информация между ними передается в текстовом виде, что крайне неэффективно. Как поясняют в Mostik AI, при обработке каждого токена модель строит числовые векторы, формирующие скрытое состояние. Оно содержит около миллиона значений (примерно 2 МБ данных), но наружу выходит лишь один выбранный токен — около 17 бит. «Системы, созданные для мышления в тысячах измерений, фактически разговаривают друг с другом через замочную скважину», — отмечают разработчики.
Решение Mostik — нейросетевой мостик, который переводит внутреннее состояние одной модели в представление, понятное другой. CEO стартапа Саша Малышева сравнивает это с объяснением дифференциальных уравнений: большая модель придумывает удачную аналогию и передает «мысли» меньшей, которая выписывает решение. Вторая использует уже проделанную работу, вместо того чтобы генерировать ответ самостоятельно.
Для демонстрации исследователи соединили GLM-5.2 на 753 млрд параметров (требует до 1,5 ТБ памяти) с компактной Qwen-3.5 на 4 млрд параметров, которая может работать на смартфоне. Связка показала в среднем 80% качества большой модели при затратах вычислений примерно в 20 раз меньше.
Практическая ценность очевидна: разработчики ИИ-сервисов смогут задействовать большие модели только там, где это действительно необходимо, а остальную работу передавать дешевым компактным моделям. Пользователи получат более качественные ответы за меньшие деньги, не задумываясь о том, с какой моделью они общаются.
Команда Mostik собрана за четыре месяца. Сейчас стартап базируется в Калифорнии, в нем работают 15 человек, 12 из которых имеют степень PhD. Первыми сотрудниками стали однокурсники Малышевой по петербургской Вышке, вместе они делают проекты уже более 12 лет. Главный научный сотрудник — математик Станислав Смирнов, профессор Женевского университета и лауреат Филдсовской премии 2010 года. Он не исключает, что в будущем общий математический язык для нейросетей поможет выявить сходства в том, как модели и люди рассуждают о сложных задачах.
