Osegi
AI·1 분 소요

레노버, AI 토큰 팩토리 공개…중국 추론 수요 겨냥

레노버가 복잡한 작업은 대형 모델에, 단순한 대화는 소형 모델에 배분하는 AI 토큰 팩토리를 공개했습니다. 중국 추론 시장을 겨냥합니다.

Rows of AI servers in a data center illustrating Lenovo's token factory for inference workloads.
이미지: techinasia.com

레노버가 AI 토큰 팩토리를 선보였습니다. 중국에서 커지고 있는 추론(인퍼런스) 수요를 공략하기 위한 시스템으로, 작업 성격에 따라 서로 다른 AI 모델을 쓰는 것이 특징입니다.

작동 방식

회사 측에 따르면 이 시스템은 복잡한 작업은 규모가 큰 AI 모델로, 단순한 상호작용은 규모가 작은 모델로 보냅니다. 모든 요청에 가장 큰 모델을 돌리는 대신 요청에 맞는 모델을 고르는 구조입니다.

추론은 학습을 마친 AI 모델이 이용자의 질문에 답을 만들어 내는 단계를 말합니다. 이때 모델이 생성하는 텍스트의 최소 단위가 토큰입니다. '토큰 팩토리'라는 이름에는 토큰을 대규모로 생산하는 기반을 제공하겠다는 의도가 담긴 것으로 보입니다.

의미

대형 모델은 성능이 높지만 운영 비용도 큽니다. 작업별로 모델을 나누어 쓰는 방식은 AI 서비스를 대규모로 운영하는 기업이 비용을 관리하면서 품질을 유지하는 데 도움이 될 수 있습니다. 레노버로서는 하드웨어 제조사를 넘어 AI 제공 인프라를 맡는 업체로서 입지를 보여 주려는 행보로 읽힙니다.

중국에서는 AI 앱과 기업용 도구 사용이 늘면서 추론 수요도 함께 증가하고 있으며, 레노버는 이 시장에서 입지를 다지겠다는 계획입니다. 가격과 출시 시점, 성능 등 세부 내용은 현재 확인된 정보에 포함돼 있지 않습니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:lenovoai inferencetoken factorychinaai infrastructure

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →