Sber、話すアバター生成のKandinsky Avatar 1.0を公開
SberがKandinsky Avatar 1.0のコードと重みをMITライセンスで公開した。画像と音声から、話すアニメーションキャラクターを生成する。

Sberの開発チームは、画像と音声の録音を入力すると、話すアニメーションキャラクターを出力するモデル「Kandinsky Avatar 1.0」を発表した。コードと重みはMITライセンスで公開されている。
機能と学習データ
Kandinsky Avatarは、唇の動きを音声に同期させ、表情やジェスチャー、頭の向きの変化を加える。話し方や感情はテキストのプロンプトで指定できる。アバターには人物のほか、アニメのキャラクターや動物も使える。
学習にはKandinsky 5.0 Videoをベースに、画面内で話す人物が1人の動画クリップ117万本を使用した。データセットには95言語の素材が含まれる。
2つのモデルと動作環境
モデルは2種類ある。20億パラメータのLiteはSD動画、210億パラメータのProはHD動画の生成に対応する。推奨環境は、SDでメモリ48GB、HDで80GBのNvidia製GPUだ。フレームを分割してデコードすれば、ピーク時のメモリ使用量を28GBまで抑えられるが、映像に区画の境界が現れる場合がある。
Sberによると、Kandinsky Avatar 1.0 Proは主要なオープン・商用モデルと比較された。参加者は動画のペアを見て7つの基準で評価し、モデル名を伏せたまま優れた方を選ぶ盲検テストである。結果は、Kling Avatar 2に対して63%、LongCat-Avatar-1.5に対して60%、HeyGen IVに対して54%でKandinskyの動画が選ばれた。
Sberのデータ研究担当マネージングディレクター、デニス・ディミトロフ氏は、動画アバターは教育用や広告の動画、動画マニュアル、顧客向けの個別メッセージに使えると述べた。ロシアの開発者が独自の技術基盤を持ち、ゼロから作らずに自社製品へ組み込み、追加学習できるようにするのが公開の狙いだという。
コードと重みはGitHub、GitVerse、Hugging Faceで無料で入手できる。今後はComfyUIとDiffusersでも利用可能になる予定だ。Sberは寄せられたフィードバックを、Kandinskyの次期バージョンや自社サービスへの動画アバター導入に生かす。
注目のアプリ
正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。
AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。
EDIFACTやX12メッセージを開き、各セグメントの意味を表示。JSON/XML変換、PDF・Excel出力。ローカルで動作、アップロード不要。
相手、シーン、性格を選ぶだけ。検索エンジンが地元ショップの商品説明を読み、合うものを並べます。無料、登録不要。
同じ日のニュース
すべて見る →関連カテゴリ: AI
すべて見る →
OpenAI、Pierre Computerを買収 GitHubの競合に

ChatGPTにGIF作成機能、未発表のImages 2.6が基盤か




