Osegi
ИИ·2 мин чтения

Sarvam AI выпустила Prism — открытую модель принятия решений

Sarvam AI представила Prism — модель принятия решений на базе LLM на 105 млрд параметров. Она возвращает вероятности вариантов примерно за 44 мс, веса открыты.

Abstract illustration of an AI decision model routing enterprise queries to different teams with probability scores.
Фото: Inc42 Media

Индийская компания Sarvam AI представила Prism — модель принятия решений с открытыми весами, построенную на её модели Sarvam 105B. Она создана для быстрых структурированных решений в корпоративных процессах, а не для генерации текста.

Модели принятия решений работают иначе, чем обычные большие языковые модели. Они получают информацию, вопрос и заданный набор возможных ответов, а затем возвращают оценку или вероятность для каждого варианта. Вместо абзаца о том, какой отдел должен заняться жалобой клиента, модель назначает вероятности продажам, поддержке и биллингу. Prism оценивает варианты за один проход обработки.

Результаты, заявленные компанией

По данным Sarvam, Prism набрал в среднем 71,8 балла по трём оценочным индексам при медианном времени ответа 44 миллисекунды на GPU Nvidia B200. Компания утверждает, что это самый высокий средний балл среди 25 протестированных моделей принятия решений, отвечающих быстрее 100 мс. Также сообщается, что после применения фиксированного механизма упорядочивания вариантов модель выдавала стабильные результаты на 2000 вопросов, а наблюдаемая доля ошибок была ниже прогнозируемой, в том числе для индийских языков.

Это данные самой компании, поэтому важны независимые тесты. Сандипан Кунду, создатель платформы Tensorant, написал в X, что модель выглядит способной, но усомнился в том, что заявленные 44 мс отражают реальную работу. В его тестах задержка p95 составила 420 мс. Он также указал на стоимость самостоятельного развёртывания модели такого размера.

Растущая конкуренция в Индии

Веса Prism опубликованы под лицензией Apache 2.0: разработчики могут адаптировать модель и запускать её на собственной инфраструктуре с учётом условий лицензии. Доступен и API. Sarvam нацеливается на маршрутизацию обращений в поддержку, работу с документами, проверки безопасности, обнаружение prompt injection и оценку действий ИИ-агентов.

Компания выходит на поле, где уже работают ConvAI Innovations с локальной моделью Laya и Sthānika AI от PurpleTalk с семейством Sieve. Среди глобальных игроков — Jev от TypeSafe AI, а также предложения Microsoft и Perplexity. Articul8 развивает мультимодальную Bivia. По словам Ananthanarayanan S из Articul8, конкуренция будет определяться не только бенчмарками и скоростью, но и надёжностью в незнакомых ситуациях и интеграцией с существующими системами.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:sarvam aiprismdecision modelsopen-weightindia aienterprise ai

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →