Osegi
ИИ·2 мин чтения

Inkling 2 Mini: открытая ИИ-модель на 26 млрд параметров для ноутбука

Thinking Machines Lab заставила Inkling 2 Mini написать играбельный авиасимулятор на MacBook Pro без Wi-Fi. Открытая модель занимает меньше 20 ГБ.

A MacBook Pro laptop running an AI-generated flight simulator offline on a plane tray table.
Фото: Frandroid

Чтобы показать, что модели не нужен интернет, команда Thinking Machines взяла её с собой в самолёт. По словам стартапа, Inkling 2 Mini на MacBook Pro с отключённым Wi-Fi за несколько минут написала играбельный авиасимулятор.

Thinking Machines Lab, основанная в 2025 году Мирой Мурати, бывшим техническим директором OpenAI, выпустила Inkling 2 Mini 20 ноября, всего через две недели после старшей модели Inkling 2 Small. В модели 26 млрд параметров, она распространяется по лицензии Apache 2.0 (коммерческое использование разрешено) и заточена под разработку и агентов, то есть ИИ, которые сами выполняют цепочки действий. В мире локального ИИ пока заправляют модели Qwen от Alibaba, а Gemma 4 от Google и Mistral играют роль аутсайдеров.

Как 26 млрд параметров умещаются в 20 ГБ?

Обычно параметр хранится в 16 битах, и модель весила бы больше 50 ГБ. Здесь три приёма. Модель с самого начала обучали в 4-битном формате NVFP4 от Nvidia, лишь последние четыре слоя остались 8-битными. Поэтому нет обычной потери качества при сжатии после обучения.

Второй приём: архитектура «смесь экспертов». В каждом слое 128 специализированных подсетей, на каждый токен задействованы только 8. Одновременно активны всего 3,4 млрд параметров. Изначально экспертов было 384 на слой, но инженеры убрали две трети наименее востребованных.

Третий: цикл. Из 24 слоёв 12 центральных проходятся трижды подряд для каждого токена. Это даёт глубину рассуждений модели на 48 слоёв без лишней памяти.

Лучше ли она Qwen3.8?

Не везде. В тесте DeepSWE v1.1, где ИИ самостоятельно исправляет реальные ошибки в коде, Inkling 2 Mini решает 48,2% задач против 42,2% у Qwen3.8-27B. Эти данные опубликованы самой лабораторией и пока не проверены независимо. В обычном диалоге сильнее Qwen3.8, и он реже выдумывает факты: 71,4% надёжных ответов в тесте AA-Omniscience против 63,4%.

Как запустить Inkling 2 Mini?

Рекомендованная Unsloth 4-битная версия весит 17,6 ГБ, плюс память под контекст. Подойдут Mac с 32 ГБ унифицированной памяти, ПК с AMD Ryzen AI Max+ 395, Nvidia DGX Spark, ноутбук Intel Panther Lake с 32 ГБ или видеокарта с 24 ГБ VRAM. На 16 ГБ ОЗУ модель запускается при более агрессивном сжатии, с небольшой потерей точности. Нужны Ollama, LM Studio, Unsloth Desktop или llama.cpp (поддержка пока экспериментальная), а файлы модели лежат на Hugging Face.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:thinking machines labinkling 2 minimira muratilocal aiopen sourceqwen

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →