Osegi
AI·2 分で読めます

Inkling 2 Mini、ノートPCで動く26B規模のオープンAI

Thinking Machines LabはWi-Fiを切ったMacBook Proで、Inkling 2 Miniに遊べるフライトシミュレーターを書かせた。20GB未満で動くオープンモデルだ。

A MacBook Pro laptop running an AI-generated flight simulator offline on a plane tray table.
画像: Frandroid

機内でWi-Fiを切ったMacBook Proを開き、数分で遊べるフライトシミュレーターを書かせる。Thinking Machines Labは、新モデル「Inkling 2 Mini」にネット接続が要らないことを、こんな形で示したという。

同社は2025年にOpenAIの元CTO、Mira Muratiが設立したスタートアップだ。Inkling 2 Miniは11月20日に公開された。2週間前の大型モデル「Inkling 2 Small」(5940億パラメーター)は大きすぎるという声を受けた縮小版で、ソフト開発や、自律的に作業を進めるエージェント向けに作られている。重みはApache 2.0ライセンスで、商用利用もできる。

26Bのモデルが20GB未満に収まる仕組みは?

通常は1パラメーターを16ビットで持つため、50GB超になる。同社はNvidiaの4ビット形式NVFP4で最初から学習し、最後の4層だけ8ビットにした。後から圧縮する際の品質低下を避けられるという。

さらにMoE(混合エキスパート)構成で、各層に128の専門サブネットワークがあり、1トークンで使うのは8つ。同時に動くのは34億パラメーターだ。24層のうち中央の12層を3回繰り返すループ構造も特徴で、メモリを増やさず48層ぶんの深さが得られる。

コードでQwen3.8に勝ち、知識では負ける

実際のバグ修正を測るDeepSWE v1.1では、Inkling 2 Miniが48.2%、中国のQwen3.8-27Bが42.2%。ただし数字は同社発表で、第三者による検証はまだない。一方、日常会話や事実の正確さではQwen3.8が上回り、AA-Omniscienceの信頼できる回答率は71.4%対63.4%だった。

手元のPCで動かすには

Unslothの4ビット版はディスク上で17.6GB。文脈用のメモリも別に必要だ。32GBユニファイドメモリのMac、AMD Ryzen AI Max+ 395やNvidia DGX SparkなどのPC、32GBのIntel Panther Lake搭載ノート、VRAM 24GBのグラフィックスカードが目安になる。16GBのRAMでも3ビット版なら動くが、精度はやや落ちる。実行環境はOllama、LM Studio、Unsloth Desktop、llama.cpp(対応は実験的)から選べる。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:thinking machines labinkling 2 minimira muratilocal aiopen sourceqwen

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →