Osegi
AI·2 min czytania

Inkling 2 Mini: model AI 26B, który działa lokalnie na laptopie

Thinking Machines Lab kazało Inkling 2 Mini napisać grywalny symulator lotu na MacBooku Pro bez Wi-Fi. Otwarty model mieści się w mniej niż 20 GB.

A MacBook Pro laptop running an AI-generated flight simulator offline on a plane tray table.
Zdjęcie: Frandroid

Żeby pokazać, że nowy model nie potrzebuje internetu, ludzie z Thinking Machines zabrali go do samolotu. Na MacBooku Pro odciętym od Wi-Fi Inkling 2 Mini napisał grywalny symulator lotu w zaledwie kilka minut, jak zapewnia firma.

Thinking Machines Lab, startup założony w 2025 roku przez Mirę Murati, byłą dyrektor techniczną OpenAI, opublikował Inkling 2 Mini 20 listopada. To dwa tygodnie po premierze większego Inkling 2 Small. Model ma 26 mld parametrów, trafił na licencję Apache 2.0 (z prawem do użytku komercyjnego) i powstał z myślą o programowaniu oraz agentach, czyli AI wykonujących kolejne czynności samodzielnie. W świecie lokalnej AI od dawna rządzą modele Qwen z Alibaby, a Gemma 4 Google'a i Mistral są raczej w roli outsiderów.

Jak 26 mld parametrów mieści się w 20 GB?

Zwykle parametr zajmuje 16 bitów, co dałoby ponad 50 GB. Tu działają trzy sztuczki. Model trenowano od razu w 4-bitowym formacie NVFP4 od Nvidii, tylko cztery ostatnie warstwy zostały w 8 bitach. Dzięki temu nie ma typowej utraty jakości po kompresji.

Druga rzecz to architektura mieszanki ekspertów: w każdej warstwie jest 128 wyspecjalizowanych podsieci, z których dla jednego tokenu pracuje 8. Aktywnych jest więc tylko 3,4 mld parametrów naraz. Początkowo ekspertów było 384 na warstwę, ale inżynierowie usunęli dwie trzecie najrzadziej używanych.

Trzecia to pętla: 12 środkowych warstw z 24 jest przechodzonych trzykrotnie dla każdego tokenu. Daje to głębię rozumowania modelu o 48 warstwach bez dodatkowej pamięci.

Czy jest lepszy od Qwen3.8?

Tylko w części zadań. W teście DeepSWE v1.1, w którym AI samodzielnie naprawia prawdziwe błędy w kodzie, Inkling 2 Mini rozwiązuje 48,2% zadań, a Qwen3.8-27B 42,2%. Wyniki pochodzą od laboratorium i nie zostały jeszcze niezależnie zweryfikowane. W zwykłej rozmowie lepszy jest Qwen3.8, który rzadziej zmyśla: 71,4% wiarygodnych odpowiedzi w teście AA-Omniscience wobec 63,4%.

Jak uruchomić Inkling 2 Mini?

Wersja 4-bitowa polecana przez Unsloth waży 17,6 GB, plus pamięć na kontekst. Pasuje Mac z 32 GB pamięci współdzielonej, komputery z AMD Ryzen AI Max+ 395, Nvidia DGX Spark, laptop Intel Panther Lake z 32 GB albo karta z 24 GB VRAM. Na 16 GB RAM da się go uruchomić po mocniejszej kompresji, kosztem lekkiego spadku precyzji. Potrzebny jest Ollama, LM Studio, Unsloth Desktop lub llama.cpp (obsługa wciąż eksperymentalna), a pliki modelu leżą na Hugging Face.

Aplikacje warte uwagi

SUMO: łamigłówka liczbowa

Wybierz właściwe pola, dodaj je i trafiaj w cel. Łatwa do nauczenia, trudna do opanowania. Za darmo, dla każdego wieku.

Tagi:thinking machines labinkling 2 minimira muratilocal aiopen sourceqwen

Więcej z tego dnia

Zobacz wszystkie →

Więcej w kategorii: AI

Zobacz wszystkie →