Osegi
AI·2 分で読めます

Mistral Large 4が重み公開、コード性能が大幅向上

Mistral AIは1兆パラメータのMistral Large 4の重みをHugging Faceで公開した。3週間の追加学習でコード性能が向上した。

Illustration of the Mistral Large 4 AI model, a one-trillion-parameter mixture-of-experts system released with open weights.
画像: Numerama

フランスのAIスタートアップMistral AIは10月29日、1兆パラメータのモデル「Mistral Large 4」(愛称「Le Chonk」)の重みをHugging Faceで公開した。10月6日の発表時は有料APIのみの提供で、月末までに重みを公開すると約束していた。

重みとは学習で得られた調整値の集合で、ダウンロードすれば自社サーバーでモデルを動かせ、データをMistralに送る必要がない。モデルは専門家混合(MoE)構造を採用し、128の専門家のうちトークンごとに4つと共通の1つだけが働く。実際に使われるのは1トークンあたり490億パラメータ(入出力層を含め520億)だ。前世代のLarge 3は6750億パラメータで、うち410億が稼働していた。

3週間で何が変わったか

Mistralはプレビュー後も強化学習を続け、特にコードとサイバーセキュリティを改善した。同社の数値では、コマンドライン向けのプログラミングテストTerminal-Bench 4.0のスコアが28%から41%に上昇し、中国のGLM-5.3(40%)をわずかに上回る。Artificial Analysisのコード指数では48%でGLM-5.3と並び、1タスクあたりのトークン消費は平均47%少ない。

ただしMistral自身がHugging Face上の文書で認めているとおり、同社の総合指数では中国勢のオープンモデルが依然として上位にある。Large 4は26ポイントで、欧米のオープンモデルでは最高だ。検索エンジンのEcosiaは10月初めに、Mistralの代わりにQwen、Kimi、GLMなど中国製モデルを採用している。

価格とライセンス

API料金は半額となり、100万トークンあたり入力0.70ドル、出力2.10ドルになった。プレビュー時の標準料金は入力1.36ドル、出力4.18ドルだった。新ライセンス「Mistral Ecosystem Open-Weight License」は、商用利用も認めたLarge 3のApache 2.0より制限が強い。MITを改変した内容で商用利用は可能だが、モデルへのアクセスをサービスとして再販売する企業はMistralと別途契約が必要になる。

なお個人のパソコンでは動かせない。圧縮版でもNvidiaのデータセンター向けGPU(B200またはB300)が4枚、完全版では8枚必要となる。

タグ:mistral aimistral large 4open weightshugging facemoellm

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →