Osegi
AI·2 分で読めます

Sber、話すアバター生成のKandinsky Avatar 1.0を公開

SberがKandinsky Avatar 1.0のコードと重みをMITライセンスで公開した。画像と音声から、話すアニメーションキャラクターを生成する。

Animated talking avatar generated from a single portrait image and an audio recording by an AI model.
画像: Хабр

Sberの開発チームは、画像と音声の録音を入力すると、話すアニメーションキャラクターを出力するモデル「Kandinsky Avatar 1.0」を発表した。コードと重みはMITライセンスで公開されている。

機能と学習データ

Kandinsky Avatarは、唇の動きを音声に同期させ、表情やジェスチャー、頭の向きの変化を加える。話し方や感情はテキストのプロンプトで指定できる。アバターには人物のほか、アニメのキャラクターや動物も使える。

学習にはKandinsky 5.0 Videoをベースに、画面内で話す人物が1人の動画クリップ117万本を使用した。データセットには95言語の素材が含まれる。

2つのモデルと動作環境

モデルは2種類ある。20億パラメータのLiteはSD動画、210億パラメータのProはHD動画の生成に対応する。推奨環境は、SDでメモリ48GB、HDで80GBのNvidia製GPUだ。フレームを分割してデコードすれば、ピーク時のメモリ使用量を28GBまで抑えられるが、映像に区画の境界が現れる場合がある。

Sberによると、Kandinsky Avatar 1.0 Proは主要なオープン・商用モデルと比較された。参加者は動画のペアを見て7つの基準で評価し、モデル名を伏せたまま優れた方を選ぶ盲検テストである。結果は、Kling Avatar 2に対して63%、LongCat-Avatar-1.5に対して60%、HeyGen IVに対して54%でKandinskyの動画が選ばれた。

Sberのデータ研究担当マネージングディレクター、デニス・ディミトロフ氏は、動画アバターは教育用や広告の動画、動画マニュアル、顧客向けの個別メッセージに使えると述べた。ロシアの開発者が独自の技術基盤を持ち、ゼロから作らずに自社製品へ組み込み、追加学習できるようにするのが公開の狙いだという。

コードと重みはGitHub、GitVerse、Hugging Faceで無料で入手できる。今後はComfyUIとDiffusersでも利用可能になる予定だ。Sberは寄せられたフィードバックを、Kandinskyの次期バージョンや自社サービスへの動画アバター導入に生かす。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:sberkandinskyavataropen sourcevideo generationmit license

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →