Osegi
AI·2 分で読めます

Sber、話すアバター生成AI「Kandinsky Avatar 1.0」を公開

Sberは写真と音声から最長1分の話すアバター動画を作る「Kandinsky Avatar 1.0」を公開した。コードと重みはMITライセンスで商用利用も可能だ。

A realistic digital avatar of a speaking person generated from a photo and voice recording by a neural network.
画像: rb.ru

ロシアのSberは、写真と音声データから話すアバター動画を生成するAIモデル群「Kandinsky Avatar 1.0」を公開した。同社によると、生成できる動画は最長1分、24fpsで、唇の動きを音声に合わせるほか、表情や頭の向き、身振りも自動で付加する。

動画の作成に必要なのは、写真、音声、そして場面を説明する短いテキストの3点。アバターの感情は「喜び」「悲しみ」「怒り」などをテキストで指定できる。音声は元の録音の言語のまま再生される。なおSberは、このモデルは音声の生成やクローンを行わず、画像と音声トラックは利用者が用意する必要があると説明している。

MITライセンスで商用利用可

コードと重みはMITライセンスでGitHub、GitVerse、Hugging Faceに公開された。無料でダウンロードでき、商用製品にも組み込める。Sberは外部のAIツールとの連携対応も計画しており、自社サービスにもアバターを導入する方針だ。

モデルは動画生成モデル「Kandinsky 5.0 Video」をベースにし、ProとLiteの2種類がある。ProはHD解像度で、Sberの社内比較では商用サービスHeyGenと同等の品質で、試した他のオープンモデルを上回るという。Liteは性能の低い環境向けで、家庭用GPUでも動作するがSD解像度となる。学習には100万を超える動画クリップを使い、ロシア語、英語、カザフ語、スペイン語、フランス語など95言語のインタビューや講演、ポッドキャストを含む。

想定される用途

Sberはブロガー向けの仮想ホスト、デジタル講師による教育コンテンツ、顧客対応の仮想アドバイザー、口の動きを合わせた動画ローカライズ、ゲームやアニメのキャラクター、動画カードなどを挙げた。

Sberのデータ研究担当マネージングディレクター、デニス・ドミトロフ氏は、ロシアの開発者が一から技術を作らずに自社製品へ組み込み、追加学習できる基盤を提供するのが狙いだと述べた。開発者からのフィードバックは今後のKandinskyの改良に生かす考えだ。

注目のアプリ

SUMO:数字パズル

正しいマスを選んで足し算、目標の数に。覚えるのは簡単、極めるのは難しい。無料、全年齢向け。

Dialo:話して学ぶ語学アプリ

AIの会話パートナーと話すだけ。一文ごとに添削され、あなたの言語で解説が返ってきます。9言語、A1からC2まで。

タグ:sberkandinsky avataropen sourcevideo generationhugging faceavatars

同じ日のニュース

すべて見る →

関連カテゴリ: AI

すべて見る →