Osegi
AI·2 分で読めます

OVHcloud「Olala mini」公開、8GB級PCで動くAI

OVHcloudがOlala miniをHugging Faceで公開し、ベンチマークも出した。指示追従は強いが科学は弱く、Ollamaではまだ動かない。

A small laptop on a desk showing a chatbot interface, with server racks blurred in the background.
画像: Frandroid

フランスのOVHcloudが、初の大規模言語モデル「Olala mini 7A1B」をHugging Faceで公開しました。火曜日の発表時にはベンチマークの数字がなく、11月19日にパリで開いたAI Summitで技術報告書と比較表が出そろいました。

公開されたのは5種類です。会話向けの最終版、素のベースモデル、中間版、文書要約用と翻訳用の特化版で、ライセンスはすべてApache 2.0。商用利用もできます。学習データの作り方と学習ツールも公開されます。学習量は12.8兆トークンで、英語と36の言語が対象です。

Olala miniのベンチマーク結果は?

OVHcloudは同規模の18モデルと12のテストで比べ、平均は100点中68点で7位でした。MistralのMinistral 3 3Bには勝ち、Ministral 3 8Bには負けています。指示追従を測るIFBenchは57.7%で、Ministral 3 8Bの2倍。一方、大学レベルの科学問題GPQA Diamondは50.5%にとどまり、Qwen3.5 4Bの75.8%に及びません。Qwen3.5 4Bは12テスト中9つで上回ります。数字は同社自身の計測で、第三者の再現はまだありません。

7Bのパラメータのうち、1語ごとに動くのは10億だけなので、計算が軽く速いのが特徴です。

OllamaやLM Studioで動かせる?

いまはできません。Ollama、LM Studio、公式のllama.cppは読み込めず、OVHcloudが出す改造版をコマンドラインで使う必要があります。最小の圧縮版は6GBで、非圧縮は13.6GB。16GBメモリのMacBook Air M5では、6ビット版で毎秒約70トークンとのことです。

最初の顧客は検索エンジンのQwantで、要約特化版が1日300万件のクエリを処理しています。従来より資源は3分の1、応答は20%速いと同社は説明します。バージョン1.1は年内に出る予定で、コンテキストは3.2万から12.8万トークンに広がります。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:ovhcloudolala miniopen source aimistralhugging faceqwant

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →