NVIDIA, 기기에서 음성 받아쓰기·번역하는 AI 공개

NVIDIA가 음성 녹음을 텍스트로 변환하고 화자를 구분하며 발언을 번역할 수 있는 새 모델 Nemotron 3.5 Transcribe를 공개했습니다. 모든 처리가 기기 안에서 이뤄지기 때문에 개발자는 녹음 파일을 매번 클라우드 서버로 보내지 않고도 회의, 고객 서비스, 음성 업무용 애플리케이션을 만들 수 있습니다.

NVIDIA 블로그에 따르면 이 모델은 40개 언어의 음성 받아쓰기를 지원합니다. 사용자는 일상적인 말로 요청해 화자별로 구분한 녹취록을 만들거나 번역하고, 회의에서 나온 결정 사항을 추출할 수 있습니다. 의료·헬스케어, 금융 서비스, 고객 서비스 분야의 전문 용어를 추가해 어휘 인식을 개선하는 기능도 제공합니다.

데이터 위치를 선택할 수 있어

로컬 처리는 데이터를 어디에 둘지에 대한 개발자의 선택지를 넓혀 줍니다. 대화에 업무 정보나 민감한 데이터가 포함될 때 특히 중요합니다. 파일을 클라우드로 옮길 필요도 줄어듭니다. 개발자는 지원되는 하드웨어에서 모델을 실행하다가 더 큰 성능이 필요하면 데이터센터로 확장할 수 있습니다.

이번 발표는 AI 모델을 로컬에서 구동하도록 설계된 RTX Spark 컴퓨터의 기능 확대와 함께 나왔습니다.

GPU 자원 배분 도구 추가

NVIDIA는 사용자가 화면에서 열어 둔 앱과 백그라운드에서 동작하는 AI 에이전트 사이에 GPU 성능을 어떻게 나눌지 정할 수 있는 도구도 추가했습니다. 주요 프로그램에 높은 우선순위를 주거나, 에이전트에 더 많은 자원을 할당해 작업을 빨리 끝내게 할 수 있습니다. AI 앱과 에이전트가 기존 소프트웨어와 한 컴퓨터에서 지속적으로 함께 실행될 것이라는 회사의 전망을 보여 주는 변화입니다.