Kakao udostępnia Kanana-2-v-decide, model decyzyjny dla agentów AI

Do czego służy

Najwięcej zyskają agenci AI, którzy realizują wieloetapowe zadania. Muszą oni stale decydować, z jakiego narzędzia skorzystać, jakich informacji użyć i co zrobić dalej. Model ma szybko podawać wnioski na każdym kroku.

Kanana-2-v-decide powstał na bazie multimodalnego modelu Kanana-2-v-3b. Prawdopodobieństwo wskazuje szansę spełnienia warunku, wybór podaje prawdopodobieństwo każdej opcji i najlepszą z nich, a ocena punktowa uwzględnia prawdopodobieństwa na kolejnych poziomach skali. Gdy klient wysyła zdjęcie uszkodzonego produktu i prosi o wymianę, model analizuje zdjęcie i treść zgłoszenia. Ocenia, czy towar faktycznie jest uszkodzony, jakiego typu jest zapytanie i jak bardzo klient jest niezadowolony. Usługa łączy te wartości z własnymi zasadami i kieruje sprawę do konsultanta albo uruchamia procedurę wymiany.

Architektura opiera się na osadzeniach (embeddingach). Pytanie i opcje są zamieniane na wektory, a odpowiedź wybiera się na podstawie ich podobieństwa. Często używane opcje można zapisać jako wektory i wykorzystać ponownie, co zmniejsza ilość obliczeń i skraca czas odpowiedzi.

Wyniki i plany

Według Kakao model odpowiada średnio w 0,04 s na jednej karcie H200, czyli około 43 razy szybciej niż GPT-6 Luna od OpenAI. Trafność mierzono na własnym zestawie Kanana Decision Bench, liczącym 15 909 pytań po koreańsku, oraz publicznym zestawie Decision Index. W porównaniu z Decision-1 Microsoftu, Jev, pplx-decider-v1.1-27B Perplexity i Solar Decide Upstage model Kakao uzyskał w obu testach najwyższy wynik, jak podała firma.

Kakao najpierw wdroży model w projektach wewnętrznych, takich jak wyszukiwanie w sieci i automatyczna klasyfikacja kategorii produktów. Docelowo chce połączyć wyszukiwanie i podejmowanie decyzji w jednym modelu.