Kakao ouvre Kanana-2-v-Decide, son modèle d'aide à la décision

Par exemple, un acheteur demande un échange en joignant la photo d'un produit endommagé. Le modèle évalue si l'article est cassé, le type de demande et le sentiment du client. Le service peut ensuite, selon des critères définis à l'avance, expliquer la procédure d'échange ou transférer le dossier à un conseiller.

Un modèle pensé pour la vitesse

Pour réduire les délais, le modèle convertit questions et options en vecteurs numériques, puis les compare. Les vecteurs des options peuvent être conservés et réutilisés, ce qui limite les calculs lorsque la même requête revient et convient aux tâches comportant de nombreuses catégories. Selon Kakao, le temps de réponse moyen sur un seul GPU Nvidia H200 est inférieur à 0,04 seconde, soit 43 fois plus rapide que GPT-6 Luna.

Le groupe affirme aussi avoir obtenu le meilleur résultat parmi les modèles comparés sur Kanana Decision Bench, son banc d'essai coréen de 15 909 questions, et sur le Decision Index public. Figurent dans la comparaison Decision-1 de Microsoft, Zeb de Typesafe AI, pplx-decider-v1.1-27B de Perplexity et Solar Decide d'Upstage. La start-up américaine Typesafe AI avait dévoilé Zeb en septembre, signe que les modèles axés sur la décision gagnent du terrain pour les agents devant choisir outils, informations et étapes suivantes.

Le modèle est placé sous la licence Kanana Open License, qui autorise l'usage commercial en plus de la recherche. Développeurs et entreprises, en Corée comme à l'étranger, peuvent l'utiliser pour créer des services d'agents IA.

Kakao prévoit de le déployer d'abord dans la recherche web interne et la classification de produits, de l'améliorer à l'usage, puis de fusionner à terme recherche et décision.