Sarvam AI, açık ağırlıklı karar modeli Prism'i duyurdu

Şirketin açıkladığı sonuçlar

Sarvam'a göre Prism, üç değerlendirme endeksinde ortalama 71,8 puan aldı ve Nvidia B200 GPU üzerinde medyan yanıt süresi 44 milisaniye oldu. Şirket, bunun 100 milisaniyenin altında yanıt veren ve test ettiği 25 karar modeli arasındaki en yüksek ortalama puan olduğunu söylüyor. Sabit bir sıralama mekanizması uygulandığında modelin 2.000 soruda tutarlı sonuç verdiği, gözlenen hata oranlarının ise Hint dilleri dahil öngörülen oranların altında kaldığı da belirtildi.

Bunlar şirketin kendi bildirdiği sonuçlar; bağımsız testler önem taşıyor. Tensorant platformunun geliştiricisi Sandipan Kundu X'te modelin yetenekli göründüğünü ancak 44 ms iddiasının gerçek dünyayı yansıtıp yansıtmadığını sorguladığını yazdı. Kendi testlerinde p95 gecikmesini 420 milisaniye olarak ölçtü ve bu boyuttaki bir modeli kendi sunucunda çalıştırmanın maliyetine dikkat çekti.

Hindistan'da kalabalıklaşan alan

Prism'in ağırlıkları Apache 2.0 lisansıyla yayımlandı; geliştiriciler lisans koşulları dahilinde modeli uyarlayıp kendi altyapılarında çalıştırabiliyor. Model ayrıca API üzerinden de sunuluyor. Sarvam, müşteri desteği yönlendirme, belge analizi, güvenlik kontrolleri, prompt injection tespiti ve yapay zekâ ajanlarının eylemlerini değerlendirmeyi hedefliyor.

Şirket, cihazlarda yerel çalışan Laya'yı geliştiren ConvAI Innovations ve Sieve ailesini sunan PurpleTalk'ın Sthānika AI'ı ile aynı alanda yer alıyor. Küresel tarafta TypeSafe AI'ın Jev'i, Microsoft ve Perplexity'nin teklifleri var; Articul8 ise çok kipli Bivia'yı geliştiriyor. Articul8 Hindistan müdürü Ananthanarayanan S'e göre rekabet yalnızca kıyaslama puanları ve yanıt süreleriyle belirlenmeyecek; tanıdık olmayan durumlarda güvenilirlik ve mevcut sistemlerle entegrasyon da belirleyici olacak.