Osegi
AI·2 分で読めます

Selectel Token Factory にDeepSeek V4.1 Flash、100万トークン対応

SelectelはToken FactoryにDeepSeek V4.1 Flashを追加した。100万トークンの文脈を扱え、処理はロシア国内のデータセンターで行われる。

Server racks in a data center with a glowing neural network graphic representing DeepSeek model inference
画像: Хабр

ロシアのクラウド事業者Selectelは、トークン従量課金の推論サービス「Token Factory」のカタログに、DeepSeek V4.1 Flashを追加した。中国のAI研究機関DeepSeekによるオープンモデルの10月更新版で、重みは10月17日にMITライセンスで公開されている。カタログ内の他モデルと同じOpenAI互換APIで利用でき、リクエストはロシア国内のデータセンターで処理される。

モデルの特徴

ベースのV4.1 Flashは9月に登場した。DeepSeek自身は今回の1017版を小規模な更新と位置づけている。構成は総パラメータ763億のMoEで、トークン生成時に動作するのは約160億、全体の約2%だ。このため大規模モデルながら、小型モデル並みの速度で応答するという。

技術面の目玉は省メモリのKVキャッシュで、FP4では1トークンあたり890バイトと、V4 Flashの4分の1に抑えた。100万トークンの文脈を扱う際のメモリ拡張を支える仕組みだ。マルチモーダル対応で、画像はゼロから学習した独自エンコーダDeepSeek-ViTが処理する。技術レポートではTerminal-Benchで11ポイントの向上が示されている。

コストと用途

コンテキストウィンドウはV4 Flashの2.7倍。入力5万、出力2千トークンの典型的なエージェント要求は、キャッシュなしで約13ルーブルとなる。入力のうち4万トークンがキャッシュに乗れば約5.8ルーブルまで下がる。

チャットや分類、大量のテキスト処理ではV4 Flashのほうが割安だ。1017版は、リポジトリ全体や長い会話履歴、スキャンを含む文書を保持する用途に向く。

ドキュメントによれば、プロンプトと応答は保存されず学習にも使われず、収集されるのは利用量の技術統計のみ。個人データを扱う案件では、国内推論を選ぶ主な理由になりうる。

利用するには、管理画面のToken FactoryでAPIキーを作成し、カタログからエイリアスdeepseek-v4.1-flash-1017をコピーする。既存のOpenAI SDKコードはbase_urlとモデル名の変更だけで動く。temperatureとtop_pはDeepSeekが推奨する1.0を設定する。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:deepseekselecteltoken factoryopen-source aillm inferencemoe

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →