Kakao, yapay zekâ ajanları için Kanana-2-v-decide modelini açtı

Nerede işe yarıyor

Bu tür modellere en çok yapay zekâ ajanları ihtiyaç duyuyor. Ajanlar kullanıcı isteğini alıp çok adımlı işleri kendi başına yürütürken hangi aracı kullanacaklarına, hangi bilgiye başvuracaklarına ve sırada ne yapacaklarına sürekli karar veriyor. Karar modeli her adımda gerekli sonucu hızla vererek ajanın ilerlemesini sağlıyor.

Kanana-2-v-decide, Kakao'nun çok kipli dil modeli Kanana-2-v-3b üzerine kurulu. Olasılık çıktısı bir koşulun gerçekleşme ihtimalini, seçim çıktısı her seçeneğin olasılığını ve en uygun seçeneği, puan çıktısı ise derecelendirme basamaklarının olasılıklarını yansıtan ince bir skoru veriyor. Örneğin bir müşteri kırık ürün fotoğrafıyla değişim talep ettiğinde model, fotoğrafa ve mesaja bakarak ürünün gerçekten hasarlı olup olmadığını, talebin türünü ve müşterinin ne kadar memnuniyetsiz olduğunu değerlendiriyor. Hizmet bu değerleri kendi kurallarıyla eşleştirip talebi temsilciye yönlendiriyor ya da değişim sürecini başlatıyor.

Mimari, gömme (embedding) tabanlı. Soru ve seçenekler vektöre dönüştürülüyor, benzerlikleri karşılaştırılarak yanıt seçiliyor. Sık kullanılan seçenekler vektör olarak saklanıp yeniden kullanılabildiği için hesaplama yükü ve yanıt süresi azalıyor.

Performans ve yol haritası

Kakao'ya göre model tek bir H200 GPU'da ortalama 0,04 saniyede yanıt veriyor ve OpenAI'ın GPT-6 Luna modelinden yaklaşık 43 kat hızlı. Doğruluk, 15.909 Korece sorudan oluşan şirket içi Kanana Decision Bench ile herkese açık Decision Index setleriyle ölçüldü. Karşılaştırmada Microsoft Decision-1, TypeSafe AI Jev, Perplexity pplx-decider-v1.1-27B ve Upstage Solar Decide yer aldı; şirket, iki sette de en yüksek puanı Kanana-2-v-decide'ın aldığını söyledi.

Kakao modeli önce web araması ve ürün kategorisi otomatik sınıflandırması gibi iç projelerde kullanacak. Uzun vadede arama ve karar vermeyi tek modelde birleştirmeyi hedefliyor.