Osegi
Yapay zekâ·2 dk okuma

Inkling 2 Mini: dizüstüde çalışan 26 milyar parametreli açık yapay zekâ

Thinking Machines Lab, Inkling 2 Mini'ye Wi-Fi'ı kapalı bir MacBook Pro'da oynanabilir bir uçuş simülatörü yazdırdı. Açık model 20 GB'tan az yer kaplıyor.

A MacBook Pro laptop running an AI-generated flight simulator offline on a plane tray table.
Görsel: Frandroid

Yeni modelin internete ihtiyaç duymadığını göstermek için Thinking Machines ekibi onu uçağa bindirdi. Şirketin anlattığına göre, Wi-Fi'ı kapalı bir MacBook Pro'daki Inkling 2 Mini, birkaç dakika içinde oynanabilir bir uçuş simülatörü kodladı.

OpenAI'ın eski teknoloji direktörü Mira Murati'nin 2025'te kurduğu Thinking Machines Lab, Inkling 2 Mini'yi 20 Kasım'da yayımladı. Daha büyük kardeşi Inkling 2 Small'dan yalnızca iki hafta sonra geldi. Model 26 milyar parametreli, Apache 2.0 lisansıyla (ticari kullanım dahil) dağıtılıyor ve yazılım geliştirme ile adımları kendi başına zincirleyen ajanlar için tasarlandı. Yerel yapay zekâ dünyasında şimdiye dek Alibaba'nın Qwen modelleri öne çıkıyordu; Google'ın Gemma 4'ü ve Mistral ise daha geriden geliyordu.

26 milyar parametre 20 GB'a nasıl sığıyor?

Normalde her parametre 16 bit tutulur ve bu, modeli 50 GB'ın üzerine çıkarırdı. Burada üç yöntem var. Model baştan Nvidia'nın 4 bitlik NVFP4 biçiminde eğitildi, yalnızca son dört katman 8 bit kaldı. Böylece sonradan sıkıştırmanın yol açtığı kalite kaybı yaşanmıyor.

İkincisi uzman karışımı (MoE) mimarisi: her katmanda 128 uzmanlaşmış alt ağ var ve her jeton için yalnızca 8'i çalışıyor. Aynı anda etkin olan parametre sayısı 3,4 milyar. Başlangıçta katman başına 384 uzman vardı, mühendisler en az kullanılan üçte ikisini ayıkladı.

Üçüncüsü döngü: 24 katmanın ortadaki 12'si her jeton için üç kez art arda işleniyor. Bu, ek bellek harcamadan 48 katmanlı bir modelin akıl yürütme derinliğini veriyor.

Qwen3.8'den daha mı iyi?

Sadece bazı işlerde. Gerçek yazılım hatalarını tek başına düzeltmeyi ölçen DeepSWE v1.1 testinde Inkling 2 Mini sorunların %48,2'sini çözüyor, Qwen3.8-27B ise %42,2'sini. Bu sonuçlar laboratuvardan geliyor ve henüz bağımsız olarak doğrulanmadı. Gündelik sohbette ve uydurma bilgi konusunda Qwen3.8 önde: AA-Omniscience testinde %71,4 güvenilir yanıta karşılık %63,4.

Inkling 2 Mini nasıl çalıştırılır?

Unsloth'un önerdiği 4 bitlik sürüm diskte 17,6 GB tutuyor, bağlam için ayrıca bellek gerekiyor. 32 GB birleşik belleğe sahip bir Mac, AMD Ryzen AI Max+ 395'li bir PC, Nvidia DGX Spark, 32 GB'lık Intel Panther Lake dizüstü ya da 24 GB VRAM'li bir ekran kartı uygun. 16 GB RAM'de daha agresif sıkıştırmayla çalışıyor, bedeli hafif bir doğruluk kaybı. Ollama, LM Studio, Unsloth Desktop veya llama.cpp (desteği hâlâ deneysel) gerekiyor; model dosyaları Hugging Face'te.

Göz atmaya değer uygulamalar

SUMO: sayı bulmacası

Doğru kareleri seçin, toplayın, hedefe ulaşın. Öğrenmesi kolay, ustalaşması zor. Ücretsiz, her yaşa uygun.

Dialo: konuşarak dil öğrenin

Yapay zekâ sohbet partneriyle konuşun; her cümleniz düzeltilip kendi dilinizde açıklanarak geri gelsin. 9 dil, A1'den C2'ye.

Etiketler:thinking machines labinkling 2 minimira muratilocal aiopen sourceqwen

Aynı günden diğer haberler

Tümünü gör →

Daha fazla: Yapay zekâ

Tümünü gör →