Osegi
IA·2 min de lectura

Sarvam AI presenta Prism, un modelo de decisión de pesos abiertos

Sarvam AI lanza Prism, un modelo de decisión basado en su LLM de 105B que devuelve probabilidades por opción con una latencia mediana de 44 ms.

Abstract illustration of an AI decision model routing enterprise queries to different teams with probability scores.
Imagen: Inc42 Media

Sarvam AI ha lanzado Prism, un modelo de decisión de pesos abiertos construido sobre su modelo base Sarvam 105B y pensado para tomar decisiones rápidas y estructuradas en flujos de trabajo empresariales. Según la compañía, obtiene una puntuación media de 71,8 en tres índices de evaluación, con un tiempo de respuesta mediano de 44 milisegundos en una GPU Nvidia B200.

En qué se distingue de un LLM

La mayoría de los grandes modelos de lenguaje generan texto, de modo que incluso una elección sencilla llega como una respuesta que otro software debe interpretar. Eso puede sumar latencia y coste y provocar incoherencias. Los modelos de decisión reciben información, una pregunta y un conjunto fijo de respuestas posibles, y devuelven una probabilidad para cada opción; por ejemplo, ventas, soporte o facturación ante una queja de un cliente.

Resultan útiles en tareas repetitivas y de gran volumen: enrutado de soporte, moderación de contenido, control de fraude, filtrado de seguridad y evaluación de las acciones de agentes de IA. Prism analiza las opciones en una sola pasada, sin generar una secuencia de palabras.

Lo que afirma Sarvam

La empresa sostiene que Prism logró la mayor puntuación media entre los 25 modelos de decisión que probó y que responden en menos de 100 milisegundos. Añade que los resultados fueron consistentes en 2.000 preguntas tras aplicar un orden fijo de opciones, y que las tasas de error observadas fueron inferiores a las previstas en los umbrales de confianza evaluados, también en idiomas indios.

Los pesos se publican con licencia Apache 2.0, por lo que los desarrolladores pueden adaptar el modelo y desplegarlo en su propia infraestructura. También hay una API. Entre los usos previstos figuran la inteligencia documental, la detección de inyección de prompts y la evaluación de agentes de IA.

Prism se suma a Laya, de ConvAI Innovations, centrado en modelos pequeños que se ejecutan en local, y a Sieve, de Sthānika AI (PurpleTalk), orientado a evaluación, detección de intención y selección de herramientas. Articul8 apuesta por Bivia, un modelo multimodal.

Las cifras son de la propia empresa y ya hay reparos. El desarrollador Sandipan Kundu considera que el modelo es capaz, pero cuestiona la mediana de 44 ms: en sus pruebas midió una latencia p95 de 420 milisegundos, y advirtió del coste de alojar por cuenta propia un modelo de este tamaño. Habrá que esperar pruebas independientes con cargas comparables para saber cómo rinde en producción.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:sarvam aiprismdecision modelsopen-weightindia aienterprise ai

Más de este día

Ver todas →

Más en: IA

Ver todas →