Osegi
ИИ·2 мин чтения

DeepSeek V4.1 Flash появилась в Token Factory от Selectel

Selectel добавил DeepSeek V4.1 Flash в каталог Token Factory. Открытая модель получила контекст в миллион токенов и работает в российских дата-центрах.

Server racks in a data center with a glowing neural network graphic representing DeepSeek model inference
Фото: Хабр

Selectel добавил в каталог Token Factory, своего сервиса инференса с оплатой за токены, модель DeepSeek V4.1 Flash. Это октябрьское обновление открытой модели китайской лаборатории DeepSeek: веса вышли 17 октября под лицензией MIT. Модель доступна через тот же OpenAI-совместимый API, что и остальной каталог, а запросы обрабатываются в российских дата-центрах.

DeepSeek — лаборатория из Ханчжоу, чьи открытые модели не раз снижали цены на рынке API. Базовая V4.1 Flash вышла в сентябре, а версию 1017 сама компания называет минорным обновлением. Архитектура — MoE на 763 млрд параметров, из которых при генерации каждого токена работают около 16 млрд, то есть примерно 2% сети. Поэтому модель такого размера отвечает со скоростью заметно более компактных.

Память и стоимость

Главное инженерное достоинство — экономный KV-кэш: в FP4 он занимает 890 байт на токен, вчетверо меньше, чем у V4 Flash. Это позволяет эффективно масштабировать память при контексте в миллион токенов, который в 2,7 раза больше, чем у V4 Flash. Модель мультимодальная: изображения принимает собственный энкодер DeepSeek-ViT, обученный с нуля. DeepSeek обещает более высокие результаты в бенчмарках, быстрое выполнение задач и более короткие ответы, что при оплате за токены особенно важно. По техотчёту, на Terminal-Bench прирост составил 11 пунктов.

Типичный запрос агента с 50 000 входных и 2 000 выходных токенов обойдётся без кэша примерно в 13 ₽. Если 40 000 входных токенов попадут в кэш (повторяющийся системный промпт и описание инструментов), цена снизится примерно до 5,8 ₽.

Когда выбирать новую версию

Для чатов, классификации и массовой обработки текста по-прежнему выгоднее V4 Flash. Версия 1017 оправдана там, где нужно держать в памяти весь репозиторий, длинную переписку или документы со сканами.

Все запросы остаются в российской инфраструктуре. По документации, промпты и ответы не хранятся и не используются для обучения моделей, собирается лишь техническая статистика потребления. Для проектов с персональными данными это, вероятно, главный довод в пользу локального инференса вместо прямого API DeepSeek.

API-ключ создаётся в панели управления: Продукты → Token Factory → Создать API-ключ. Алиас модели — deepseek-v4.1-flash-1017. В коде на официальном SDK достаточно заменить base_url и имя модели.

Приложения, на которые стоит взглянуть

SUMO: числовая головоломка

Выбирайте нужные клетки, складывайте, достигайте цели. Легко понять, сложно освоить. Бесплатно, для любого возраста.

Теги:deepseekselecteltoken factoryopen-source aillm inferencemoe

Ещё за этот день

Показать все →

Ещё в рубрике: ИИ

Показать все →