Nota、Solar Open 2の稼働GPUを8枚から2枚に削減

Kimi K3にも適用

中国Moonshot AIの「Kimi K3」にも同じ技術を使った。総パラメータ数2兆8000億個の同モデルは、従来Nvidia B300 GPUが8枚必要だった。Notaは一部の演算モジュールを削除し、GPU 6枚と4枚でそれぞれ動作する軽量版2種を開発した。Kimi K3は必要なモジュールだけを選んで使う専門家混合(MoE)構造で、各モジュールの重要度を分析し、貢献度の低い部分を除いたという。

また、実行時の消費エネルギーを減らす技術も開発している。AMDの「Ryzen AI Max+ 395」環境でAlibabaの「Qwen3 8B」を対象に推論最適化を試し、GPUとNPUに処理を分担させて、従来のAMDハイブリッド実行よりトークン当たりのエネルギー消費を31%削減した。応答完了までの時間も最大52%短縮したとしている。

データセンターへの懸念

背景には、データセンターの電力と水の使用への懸念がある。米ギャラップが3月に行った調査では、米国の成人の約70%が居住地域でのAIデータセンター建設に反対した。ローレンス・バークレー国立研究所は、2030年にデータセンターが米国の総電力使用量の11.8%を占めると推計している。

Notaは自社プラットフォーム「NetsPresso」を軸に、半導体企業へソフトウェアライセンスとモデル最適化技術を供給している。今後はGPUに加え、CPUやNPUなど多様な半導体で効率的にAIを動かせるよう技術を高度化する計画だ。キム・テホCTOは、顧客の計算効率を高める事業を拡大すると述べた。