Osegi
IA·2 min de lecture

Sber ouvre Kandinsky Avatar 1.0, une IA libre d'avatars parlants

Sber ouvre l'accès à Kandinsky Avatar 1.0, une famille de modèles qui transforme une photo et un enregistrement vocal en avatars vidéo parlants d'une minute.

A realistic digital avatar of a speaking person generated from a photo and voice recording by a neural network.
Image: rb.ru

Sber a ouvert l'accès à Kandinsky Avatar 1.0, une famille de réseaux de neurones qui crée des avatars vidéo parlants à partir d'une photo et d'un enregistrement audio. Selon l'entreprise, les modèles génèrent des vidéos d'une minute maximum à 24 images par seconde.

Le système synchronise les mouvements des lèvres avec la parole et ajoute de lui-même mimiques, rotations de la tête et gestes. Pour produire une vidéo, il faut fournir une photo, une piste audio et une courte description de la scène. Les émotions, comme la joie, la tristesse ou la colère, se définissent par une commande textuelle. La parole est restituée dans la langue de l'enregistrement d'origine. Kandinsky Avatar ne génère ni ne clone de voix : la piste sonore doit être fournie par l'utilisateur.

Code ouvert sous licence MIT

Le code et les poids sont publiés sous licence MIT sur GitHub, GitVerse et Hugging Face. Les développeurs peuvent les télécharger gratuitement et les utiliser dans leurs projets, y compris commerciaux. Sber prévoit aussi une prise en charge dans des outils courants pour modèles tiers et compte intégrer les avatars vidéo à ses propres services.

L'entreprise cite plusieurs usages : outils pour blogueurs avec présentateurs virtuels, plateformes éducatives avec enseignants numériques, conseillers virtuels pour les clients, localisation vidéo avec synchronisation labiale, personnages de jeux et d'animation, cartes vidéo personnalisées.

Deux versions, Pro et Lite

Kandinsky Avatar repose sur le modèle de génération vidéo Kandinsky 5.0 Video et existe en deux versions. Pro produit de la vidéo HD ; d'après les comparaisons internes de Sber, sa qualité égale celle du service commercial HeyGen et dépasse celle des solutions ouvertes testées. Lite vise les machines moins puissantes et tourne sur une carte graphique grand public, mais en définition SD.

L'entraînement a mobilisé plus d'un million d'extraits vidéo, dont des interviews, des conférences et des podcasts en 95 langues, notamment le russe, l'anglais, le kazakh, l'espagnol et le français.

« Nous ouvrons le modèle afin que les développeurs russes disposent de leur propre base technologique », a déclaré Denis Dimitrov, directeur général chargé de la recherche sur les données à Sberbank. Selon lui, ils pourront l'intégrer et l'affiner pour des tâches précises sans repartir de zéro. Sber attend des retours pour améliorer les prochaines versions de Kandinsky.

Des apps à découvrir

SUMO : le puzzle de nombres

Touche les bonnes cases, additionne, atteins l'objectif. Facile à apprendre, difficile à maîtriser. Gratuit, pour tous les âges.

Mots-clés:sberkandinsky avataropen sourcevideo generationhugging faceavatars

Plus d'actus de ce jour

Tout voir →

Plus dans: IA

Tout voir →