AI2026. 11. 5. 오후 12:13 UTC·2 분 소요

Sarvam AI, 의사결정 모델 'Prism' 공개

Sarvam AI가 105B 모델을 기반으로 한 의사결정 모델 Prism을 공개했습니다. 중앙값 약 44ms로 선택지별 확률을 반환하며 가중치는 Apache 2.0으로 제공됩니다.

Abstract illustration of an AI decision model routing enterprise queries to different teams with probability scores. — 이미지: Inc42 Media

인도의 Sarvam AI가 오픈 웨이트 의사결정 모델 'Prism'을 공개했습니다. 자사 1050억 파라미터(105B) 모델을 기반으로 하며, 기업 업무 흐름에서 빠르고 구조화된 판단을 내리도록 설계됐습니다.

회사에 따르면 Prism은 세 가지 평가 지표에서 평균 71.8점을 기록했고, Nvidia B200 GPU에서 응답 시간 중앙값은 44밀리초였습니다. 100밀리초 미만으로 응답하는 25개 의사결정 모델 가운데 평균 점수가 가장 높았다고 밝혔습니다.

텍스트 대신 확률을 반환

일반적인 LLM은 텍스트를 생성하기 때문에 다른 소프트웨어가 그 결과를 해석해야 하고, 이 과정에서 처리 시간과 비용이 늘고 결과가 일관되지 않을 수 있습니다. 의사결정 모델은 정보와 질문, 정해진 답변 후보를 받아 각 후보의 확률을 돌려줍니다. Prism은 모든 후보를 한 번의 처리로 평가합니다.

Sarvam은 선택지 순서가 판단에 영향을 주는지도 시험했습니다. 고정된 순서 지정 방식을 적용한 뒤 2,000개 질문에서 일관된 결과가 나왔다고 합니다. 또 시험한 신뢰도 임계값에서 인도 언어를 포함해 관측된 오류율이 예측 오류율보다 낮았다고 설명했습니다.

가중치는 Apache 2.0 라이선스로 공개돼 개발자가 자체 인프라에서 조정하고 배포할 수 있으며, API로도 이용할 수 있습니다. 고객지원 분류, 문서 인텔리전스, 보안 점검, 프롬프트 인젝션 탐지, AI 에이전트 활동 평가 등이 주요 용도입니다.

경쟁과 과제

인도에서는 ConvAI Innovations의 Laya, PurpleTalk 산하 Sthānika AI의 Sieve가 이미 나와 있고, Articul8도 Bivia를 개발 중입니다. 해외에서는 Microsoft와 Perplexity도 비슷한 모델을 내놓았습니다.

수치는 회사가 발표한 결과입니다. 개발자 Sandipan Kundu는 X에서 44밀리초라는 중앙값이 실제 환경을 반영하는지 의문을 제기했고, 자신의 테스트에서 p95 지연 시간이 420밀리초였다고 밝혔습니다. 모델 크기에 따른 자체 호스팅 비용도 지적했습니다. 실제 성능을 가늠하려면 독립적인 검증이 필요합니다.