Osegi
AI·2 분 소요

Selectel Token Factory에 DeepSeek V4.1 Flash 추가, 100만 토큰

Selectel이 Token Factory 카탈로그에 DeepSeek V4.1 Flash를 추가했습니다. 100만 토큰 컨텍스트를 지원하며 요청은 러시아 데이터센터에서 처리됩니다.

Server racks in a data center with a glowing neural network graphic representing DeepSeek model inference
이미지: Хабр

Selectel이 토큰 단위 과금 추론 서비스 Token Factory의 카탈로그에 DeepSeek V4.1 Flash를 추가했습니다. 중국 AI 연구소 DeepSeek의 오픈 모델 10월 업데이트 버전으로, 가중치는 10월 17일 MIT 라이선스로 공개됐습니다. 카탈로그의 다른 모델과 같은 OpenAI 호환 API를 쓰며, 요청은 러시아 내 데이터센터에서 처리됩니다.

모델 특징

기본 V4.1 Flash는 9월에 나왔고, DeepSeek은 1017 버전을 마이너 업데이트라고 설명합니다. 구조는 파라미터 7,630억 개의 MoE이며, 토큰을 생성할 때 활성화되는 파라미터는 약 160억 개로 전체의 약 2%입니다. 덕분에 큰 모델이면서도 훨씬 작은 모델 수준의 속도로 응답합니다.

핵심 기술은 절약형 KV 캐시입니다. FP4 기준 토큰당 890바이트로 V4 Flash의 4분의 1입니다. 100만 토큰 컨텍스트에서 메모리를 효율적으로 확장할 수 있는 이유입니다. 멀티모달 모델이며 이미지는 처음부터 학습한 자체 인코더 DeepSeek-ViT가 처리합니다. 기술 보고서에 따르면 Terminal-Bench에서 11점 향상됐습니다.

비용과 활용

컨텍스트 창은 V4 Flash보다 2.7배 큽니다. 입력 5만, 출력 2천 토큰인 일반적인 에이전트 요청은 캐시가 없으면 약 13루블입니다. 입력 중 4만 토큰이 캐시되면 약 5.8루블로 내려갑니다.

채팅, 분류, 대량 텍스트 처리에는 여전히 V4 Flash가 유리합니다. 1017 버전은 저장소 전체나 긴 대화, 스캔 문서를 메모리에 유지해야 할 때 적합합니다.

문서에 따르면 프롬프트와 응답은 저장되거나 학습에 쓰이지 않고 기술적 사용 통계만 수집됩니다. 개인정보를 다루는 프로젝트에서는 이것이 로컬 추론의 주된 장점이 될 수 있습니다.

사용하려면 제어판에서 Token Factory를 열어 API 키를 만들고, 모델 카탈로그에서 별칭 deepseek-v4.1-flash-1017을 복사합니다. 기존 OpenAI SDK 코드는 base_url과 모델 이름만 바꾸면 됩니다. temperature와 top_p는 DeepSeek 권장값인 1.0입니다.

주목할 만한 앱

SUMO: 숫자 퍼즐

올바른 칸을 고르고 더해 목표 숫자를 맞추세요. 배우긴 쉽고 마스터하긴 어렵습니다. 무료, 전 연령.

태그:deepseekselecteltoken factoryopen-source aillm inferencemoe

같은 날의 다른 뉴스

전체 보기 →

관련 카테고리: AI

전체 보기 →