Мир искусственного интеллекта продолжает удивлять: стартап PrismML представил модель Bonsai 27B, основанную на открытой Qwen3.6 27B. Главное достижение — эта нейросеть помещается на смартфон, что ранее считалось невозможным для моделей такого размера. Обычная Qwen3.6 27B занимает около 54 ГБ, но разработчики нашли способ сжать её до 3.9 ГБ без заметной потери качества.
Секрет кроется в новом подходе к обучению: вместо стандартного округления весов модель обучали с жёстко ограниченным набором значений. Это позволило сохранить 90–95% качества полноразмерной версии. На практике Bonsai 27B способна вести сложный диалог, писать код, анализировать документы и изображения с камеры, а также выполнять многошаговые задачи в режиме автономного агента. Всё это работает прямо на устройстве, без отправки данных в облако.
Стартап основан командой Калтеха при поддержке Khosla Ventures, Google и Samsung. Он привлёк $16,25 млн первоначального финансирования. По данным The Information, Apple уже провела переговоры с PrismML о возможном использовании технологии. Это логично, учитывая, что Apple активно продвигает концепцию ИИ на устройстве: данные пользователей не уходят в облако, что повышает безопасность и скорость работы. Однако самые продвинутые части обновлённой Siri пока всё ещё работают на серверах.
Bonsai 27B доступна для скачивания на HuggingFace. Это открывает новые возможности для разработчиков и пользователей, которые хотят получить мощный ИИ прямо в кармане. Возникает вопрос: нужен ли такой инструмент обычному пользователю? С одной стороны, автономный ИИ на телефоне упрощает многие задачи — от написания кода до анализа документов. С другой — большинство текущих приложений уже неплохо справляются с базовыми функциями. Но потенциал очевиден: чем больше моделей будет работать локально, тем меньше мы будем зависеть от интернета и облачных сервисов.
Технология PrismML может стать прорывом в области мобильного ИИ. Если Apple или другие производители интегрируют такие модели в свои устройства, пользователи получат доступ к мощным нейросетям без задержек и рисков утечки данных. Пока остаётся следить за развитием событий и пробовать Bonsai 27B самостоятельно.
