Osegi
AI·2 मिनट में पढ़ें

Selectel के Token Factory में आया DeepSeek V4.1 Flash, 10 लाख टोकन संदर्भ

Selectel ने Token Factory कैटलॉग में DeepSeek V4.1 Flash जोड़ा है। ओपन मॉडल में 10 लाख टोकन का कॉन्टेक्स्ट है और अनुरोध रूस के डेटा सेंटरों में प्रोसेस होते हैं।

Server racks in a data center with a glowing neural network graphic representing DeepSeek model inference
छवि: Хабр

Selectel की टोकन-आधारित इन्फ़रेंस सेवा Token Factory के कैटलॉग में अब DeepSeek V4.1 Flash उपलब्ध है। यह चीनी लैब DeepSeek के ओपन मॉडल का अक्टूबर वाला अपडेट है, जिसके वेट 17 अक्टूबर को MIT लाइसेंस के तहत जारी हुए थे। मॉडल कैटलॉग के बाकी मॉडलों की तरह OpenAI-संगत API से चलता है और अनुरोध रूस के डेटा सेंटरों में प्रोसेस होते हैं।

मॉडल की खूबियाँ

बेस V4.1 Flash सितंबर में आया था। कंपनी खुद संस्करण 1017 को माइनर अपडेट कहती है। यह 763 अरब पैरामीटर वाला MoE आर्किटेक्चर है, जिसमें हर टोकन पर करीब 16 अरब पैरामीटर सक्रिय रहते हैं, यानी नेटवर्क का लगभग 2%। इसी वजह से इतना बड़ा मॉडल कहीं छोटे मॉडलों जैसी गति से जवाब देता है।

सबसे अहम इंजीनियरिंग उपलब्धि किफ़ायती KV-कैश है। FP4 में यह प्रति टोकन 890 बाइट लेता है, जो V4 Flash से चार गुना कम है। इसी से 10 लाख टोकन के कॉन्टेक्स्ट में मेमोरी को कुशलता से बढ़ाया जा सकता है। मॉडल मल्टीमॉडल है और तस्वीरें शुरू से प्रशिक्षित DeepSeek-ViT एनकोडर स्वीकार करता है। DeepSeek बेहतर बेंचमार्क नतीजे, तेज़ काम और छोटे उत्तरों का वादा करती है; टोकन के हिसाब से भुगतान में छोटे उत्तर मायने रखते हैं। तकनीकी रिपोर्ट के अनुसार Terminal-Bench में 11 अंकों की बढ़त दिखी है।

लागत और गोपनीयता

कॉन्टेक्स्ट विंडो V4 Flash से 2.7 गुना बड़ी है। 50,000 इनपुट और 2,000 आउटपुट टोकन वाला सामान्य एजेंट अनुरोध बिना कैश के लगभग 13 ₽ का पड़ता है। अगर 40,000 इनपुट टोकन कैश से आएँ, तो कीमत लगभग 5.8 ₽ रह जाती है।

चैट, क्लासिफ़िकेशन और बड़े पैमाने की टेक्स्ट प्रोसेसिंग के लिए V4 Flash अब भी सस्ता विकल्प है। संस्करण 1017 वहाँ उपयुक्त है, जहाँ पूरी रिपॉज़िटरी, लंबी बातचीत या स्कैन वाले दस्तावेज़ याद रखने हों।

दस्तावेज़ों के अनुसार प्रॉम्प्ट और उत्तर सहेजे नहीं जाते और मॉडल प्रशिक्षण में नहीं जाते; केवल उपयोग के तकनीकी आँकड़े जुटाए जाते हैं। निजी डेटा वाले प्रोजेक्ट्स के लिए यही स्थानीय इन्फ़रेंस का मुख्य तर्क हो सकता है।

शुरू करने के लिए कंट्रोल पैनल में Token Factory खोलकर API-कुंजी बनाएँ और कैटलॉग से deepseek-v4.1-flash-1017 एलियास कॉपी करें। मौजूदा OpenAI SDK कोड में केवल base_url और मॉडल का नाम बदलना होगा। DeepSeek temperature और top_p के लिए 1.0 सुझाती है।

देखने लायक ऐप्स

SUMO: नंबर पज़ल

सही खाने चुनें, जोड़ें, लक्ष्य तक पहुँचें। सीखना आसान, महारत मुश्किल। मुफ़्त, हर उम्र के लिए।

Dialo: बोलकर भाषाएँ सीखें

AI बातचीत साथी से बात करें; हर वाक्य सुधरकर आपकी भाषा में समझाया हुआ लौटता है। 9 भाषाएँ, A1 से C2 तक।

giftdetect: मिनटों में सही तोहफ़ा

चुनें किसके लिए, किस मौके पर और कैसा स्वभाव। सर्च इंजन स्थानीय दुकानों के उत्पाद विवरण पढ़कर सबसे उपयुक्त विकल्प ऊपर रखता है। मुफ़्त, बिना साइन-अप।

टैग:deepseekselecteltoken factoryopen-source aillm inferencemoe

इसी दिन की और ख़बरें

सभी देखें →

और पढ़ें:: AI

सभी देखें →