Motif Technologies lève un tour relais pour Motif 4, Nvidia au capital

Motif 4 vise le top 5 mondial

Motif 4 succède à Motif 3, dévoilé en août, et sera publié en « open weight » au premier trimestre de l'an prochain. Ce terme désigne la mise à disposition des poids (paramètres) du modèle entraîné, que chacun peut télécharger, utiliser et modifier. L'entreprise affiche l'ambition de classer Motif 4 parmi les cinq meilleurs modèles du monde.

Motif 3 a été conçu dans le cadre du programme sud-coréen de « modèle d'IA fondamental souverain » du ministère de la Science et des TIC. Selon la société, il a obtenu 47 points à l'indice d'intelligence global de l'organisme d'évaluation Artificial Analysis en août, se classant 10e sur l'ensemble des modèles et 4e parmi les modèles open weight, soit le meilleur rang hors modèles américains et chinois. Motif explique avoir utilisé des architectures maison, dont la Grouped Differential Latent Attention (GDLA), pour le développer en cinq mois avec 768 GPU.

Renforcer le post-entraînement

Faute de temps et de ressources, Motif 3 n'a pas bénéficié d'un post-entraînement suffisant, notamment par apprentissage par renforcement. Cette étape affine un modèle préentraîné pour un usage concret. Grâce aux nouveaux fonds, l'entreprise compte renforcer le post-entraînement de Motif 4 afin d'améliorer son utilité réelle et son potentiel commercial.

Le PDG Jung-hwan Lim, docteur en mathématiques de l'université d'Oxford, estime que, dans une compétition mondiale féroce, il faut se différencier à chaque étape, de l'architecture au post-entraînement, pour survivre. Il reconnaît que Motif 3 a souffert de contraintes de délais et de ressources, et promet avec Motif 4 un résultat à la fois performant, utilisable et commercialement viable.