Osegi
AI·1 分で読めます

レノボ、AIトークンファクトリーを発表 中国の推論需要を狙う

レノボが、複雑なタスクを大型モデルへ、単純なやり取りを小型モデルへ振り分けるAIトークンファクトリーを発表した。中国の推論需要を狙う。

Rows of AI servers in a data center illustrating Lenovo's token factory for inference workloads.
画像: techinasia.com

レノボは、AIトークンファクトリーを立ち上げた。中国で広がる推論(インファレンス)需要を取り込むための取り組みで、処理の内容に応じて使うAIモデルを切り替える点が特徴だ。

仕組み

同社によると、このシステムは複雑なタスクを大型のAIモデルに、単純なやり取りを小型のモデルに振り分ける。すべてのリクエストに最も大きなモデルを使うのではなく、内容に見合ったモデルを選ぶ設計である。

推論とは、学習済みのAIモデルがユーザーの質問に答えを返す段階を指す。その際にモデルが生成する文章の最小単位がトークンだ。「トークンファクトリー」という名称には、このトークンを大規模に生み出す基盤を提供するという狙いがうかがえる。

意味するもの

大型モデルは高性能な一方、運用コストが重い。タスクごとにモデルを使い分ける方式は、AIサービスを大規模に運用する企業にとって、コストを抑えつつ品質を保つ手段になり得る。レノボにとっては、ハードウェアメーカーという枠を超え、AIの提供基盤を担う存在として存在感を示す動きといえる。

中国ではAIアプリや企業向けツールの利用が増えており、推論の需要も高まっている。レノボはこの市場での足場を固めたい考えだ。なお、価格や提供時期、性能などの詳細は、現時点で確認できる情報には含まれていない。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:lenovoai inferencetoken factorychinaai infrastructure

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →