DeepSeek V4.1-Flash मिलियन-टोकन स्मृति को FP4 कैश में पैक करता है

NOVA: मैं NOVA हूं।

[ALLOY]: मैं ALLOY हूं, और यह AgentStack Daily है।

NOVA: DeepSeek ने V4.1 Flash के अंदर एक मिलियन-टोकन कॉन्टेक्स्ट विंडो रखी, फिर उस हिस्से पर हमला किया जिसे कोई हाथ-हिलाकर टाल नहीं सकता: उस कॉन्टेक्स्ट को GPU मेमोरी में रखना। उसका जवाब चार-बिट एटेंशन कैश, लेयर्स में काम के पुनः उपयोग, और एक नए Causal Encoder-Decoder आर्किटेक्चर को जोड़ता है। इससे किसी एजेंट को भारी कोडबेस, लंबे कानूनी रिकॉर्ड, या जमा हुए टूल आउटपुट की घंटों को बिना सर्विंग बिल के अनापेक्षित होने के रखने की अनुमति मिल सकती है।

[ALLOY]: और यह सिर्फ शुरुआती चाल है। Cohere ने पचास भाषाओं को कवर करने वाला दो सौ अठारह अरब पैरामीटर का अनुवाद मॉडल रिलीज किया, जबकि NVIDIA कहता है कि BioIR H100 सिस्टम पर प्रोटीन-फोल्डिंग थ्रूपुट को लगभग तीन गुना कर देता है। लोग निजी बहुभाषी सेवाएं बना रहे हैं, लाखों संभावित प्रोटीन कॉम्प्लेक्स को फोल्ड कर रहे हैं, और कंपनी की फाइलों को बातचीत के जरिए इंटरैक्टिव डैशबोर्ड में बदल रहे हैं।

NOVA: आज: OpenAI का Navier–Stokes क्लेम एक प्रतिस्पर्धी प्राथमिकता क्लेम से टकराता है, Codex हार्नेस एक प्रबंधित Agents API बन जाता है, और GitHub Copilot Jira में पहुंचता है जबकि अपने मॉडल ऑर्केस्ट्रेशन को अनुकूलित करता है। एक सेल्फ-होस्टेड TikTok और Douyin डाउनलोड सिस्टम भी 5.0 पर लैंड होता है।

[ALLOY]: ठीक है, यह एक भरी हुई फील्ड है। DeepSeek की मेमोरी इंजीनियरिंग इसे आगे ले जाती है, लेकिन व्यापक प्रतियोगिता वैज्ञानिक खोज, पब्लिक-सेक्टर प्राइसिंग, वर्कप्लेस डेटा, और जब AI गणितीय ब्रेकथ्रू में मदद करता है तो किसे क्रेडिट मिलता है, यह सब कवर करती है।

NOVA: DeepSeek ने V4.1 Flash को अपने Causal Encoder-Decoder आर्किटेक्चर पर बना पहला मॉडल के रूप में रिलीज किया। यह एक स्पार्स मिक्सचर-ऑफ-एक्सपर्ट्स सिस्टम है, जिसका मतलब है कि प्रत्येक टोकन नेटवर्क के केवल एक हिस्से का उपयोग करता है बजाय हर चरण में हर पैरामीटर को सक्रिय करने के। DeepSeek कहता है कि आठ अरब पैरामीटर इनपुट पढ़ते समय सक्रिय होते हैं और सोलह अरब आउटपुट देते समय। यह स्प्लिट मायने रखती है क्योंकि इनपुट-भारी एजेंट सेशन जेनरेट करने से पहले कॉन्टेक्स्ट अवशोषित करने में भारी कंप्यूट खर्च कर सकते हैं। मॉडल दस लाख अड़तालीस हज़ार पांच सौ छिहत्तर टोकन तक स्वीकार करता है, जो किताबों के लंबे संग्रह या भारी सॉफ्टवेयर रिपॉजिटरी के लिए काफी जगह है, हालांकि प्रत्येक जेनरेट किया गया रिस्पॉन्स चार हज़ार छियानबे टोकन तक सीमित है। V4.1 Flash DeepSeek की OpenRouter पर लिस्टिंग के जरिए उपलब्ध है, इसलिए उस राउटिंग लेयर का उपयोग करने वाले ऐप्स नए सॉफ्टवेयर किट को अपनाए बिना इसका एड्रेस कर सकते हैं। DeepSeek ने उस कॉन्टेक्स्ट विंडो को V3 फैमिली से अपने पहले आर्किटेक्चरल ब्रेक से अटैच किया है, जिससे रिलीज कंपनी के बाद के मॉडल में क्या ले सकती है इसकी एक शुरुआती झलक बनती है।

[ALLOY]: मुझे एक और विशाल कॉन्टेक्स्ट नंबर की तुलना में उस आर्किटेक्चरल ब्रेक में ज्यादा दिलचस्पी है। दस लाख टोकन शानदार लगते हैं, लेकिन किसी एजेंट को अभी भी उपयोगी सामग्री ढूंढनी होगी, दूर के पैसेज में संबंध बनाए रखने होंगे, और उस चार हज़ार टोकन आउटपुट सीमा के भीतर जवाब देना होगा। स्पार्स सक्रियण नंबर सुझाव देते हैं कि DeepSeek पढ़ने को किफायती रखने की कोशिश कर रहा है जबकि जवाब बनाते समय ज्यादा क्षमता खर्च कर रहा है। अगर Causal Encoder-Decoder उस संतुलन में सुधार करता है, तो कोडिंग और डॉक्यूमेंट एजेंट बराबर कुल साइज के घने मॉडलों की तरह व्यवहार किए बिना बहुत ज्यादा वर्किंग मैटेरियल बनाए रख सकते हैं। अगर ऐसा नहीं होता, तो कॉन्टेक्स्ट विंडो एक महंगी फाइलिंग कैबिनेट बन जाती है जिसे मॉडल खोजने में मशक्कत करता है। OpenRouter उपलब्धता को रिपॉजिटरी-व्यापी काम, लंबे केस रिकॉर्ड, तकनीकी आर्काइव, और उन बातचीत के लिए एक्सपोज करना चाहिए जहां निर्णायक सबूत सैकड़ों हज़ार टोकन पहले दिखाई दिया था। बाउंडेड आउटपुट भी प्रस्ताव को जमीन पर रखता है: विस्तृत मेमोरी एक संक्षिप्त रिस्पॉन्स को फीड कर रही है, हर टर्न पर एक किताब प्रिंट करने की उम्मीद वाली मशीन नहीं।

[ALLOY]: एक करोड़ डॉलर की गणितीय समस्या अब AI उत्पत्ति के बारे में एक विवाद भी है। OpenAI कहता है कि एक अप्रकाशित आंतरिक मॉडल ने Navier–Stokes अस्तित्व और स्मूदनेस समस्या को हल कर दिया, जो 2000 से खुली Millennium Prize चुनौतियों में से एक है। आखिरकार, क्या विवादित है?

NOVA: समस्या पूछती है कि क्या पर्याप्त रूप से स्मूद तरल गति एक विलक्षणता विकसित कर सकती है—एक बिंदु जहां इसका गणितीय विवरण फट जाता है—या अच्छी तरह से व्यवहार करती रहती है। OpenAI के दावे के बाद NYU के प्रोफेसर Tristan Buckmaster और Levent Alpöge, एक गणितज्ञ जो अब Anthropic में कार्यरत हैं, की ओर से एक प्रतिस्पर्धात्मक खाता आया। वे Claude और OpenAI के Codex उत्पाद, विशेष रूप से GPT-5.6 Sol का उपयोग करके लगभग एक साल के काम का वर्णन करते हैं, और कहते हैं कि उनका ब्रेकथ्रू 15 अगस्त को आया। Buckmaster लिखते हैं कि OpenAI के समानांतर प्रयास की अफवाह ने उन्हें कंपनी से संपर्क करने के लिए प्रेरित किया। उनके अनुसार, OpenAI ने अंततः कहा कि उसकी टीम ने उनके काम की खबर कंपनी तक पहुंचने के बाद अपना पहला प्रॉम्प्ट भेजा। OpenAI ने या तो Buckmaster के प्रकाशन की प्रतीक्षा करने या उन्हें सह-लेखक के रूप में शामिल करने की पेशकश की। यह प्राथमिकता, सही-गलत, या दोनों दृष्टिकोणों की समतुल्यता के बारे में नहीं बताता, लेकिन यह तर्क को दो टीमों द्वारा स्वतंत्र रूप से परिणामों की घोषणा करने की शून्यता से आगे ले जाता है।

[ALLOY]: सही है, और असुविधाजनक सवाल निजी शोध सत्रों से संबंधित है। Buckmaster का कहना है कि हर ड्राफ्ट Codex में रहता था और उन्होंने पूछा कि क्या उन सत्रों ने अप्रकाशित मॉडल के प्रशिक्षण को प्रभावित किया। OpenAI ने उनके अनुसार जवाब दिया कि मॉडल ने उपयोगकर्ता डेटा नहीं देखा, लेकिन प्रशिक्षण सवाल का जवाब नहीं दिया। ये एक ही मुद्दा नहीं हैं। पुनर्प्राप्ति का मतलब है किसी उपयोगकर्ता की सामग्री को जवाब के दौरान लाना; प्रशिक्षण इस बारे में है कि क्या पिछली सामग्री ने मॉडल को खुद प्रभावित किया। न तो सार्वजनिक खाता साबित करता है कि ऐसा हुआ, और गणित अभी भी विशेषज्ञ जांच की प्रतीक्षा कर रही है। फिर भी, जब शोधकर्ता व्यावसायिक प्रणालियों में प्रमाण विकसित करते हैं जिनके प्रशिक्षण इतिहास और आंतरिक मॉडल सार्वजनिक नहीं हैं, तो क्रेडिट का पता लगाना कठिन हो जाता है। जब तक काम की स्वतंत्र जांच नहीं हो जाती और समयरेखा का दस्तावेजीकरण नहीं हो जाता, "हल" एक दावा है, न कि पदक समारोह।

NOVA: Meta का Muse ऐप एक व्यक्तिगत AI एजेंट के रूप में प्रस्तुत किया गया है: सॉफ्टवेयर जो कार्य पूरा करने के लिए है, न कि बस चैट बॉक्स में टेक्स्ट लौटाने के लिए। TechCrunch के अनुसार, शुरुआती ग्रहण Threads और Meta AI सहायक सहित Meta के अन्य हालिया लॉन्च की तुलना में पीछे है। यह उल्लेखनीय है क्योंकि Meta Facebook, Instagram, और WhatsApp पर उत्पादों को ऐसे दर्शकों के सामने बढ़ावा दे सकता है जिन तक अधिकांश स्टार्टअप कभी नहीं पहुंच सकते। उस वितरण लाभ के साथ एक धीमी शुरुआत यह सुझाव देती है कि व्यक्तिगत-एजेंट पिच स्वचालित रूप से उपभोक्ता मांग में बदल नहीं रही है। फिर भी, लॉन्च ने तकनीकी विशेषज्ञों का गंभीर ध्यान आकर्षित किया, जिसका Hacker News discussion छह सौ पचपन अंकों तक पहुंच गया। जिज्ञासा मौजूद है। दिन-प्रतिदिन के उपयोग का सबूत गायब है।

[ALLOY]: मैं Muse को उसके पहले दौर के बाद दफन नहीं करूंगा। Threads एक स्पष्ट सोशल ग्राफ और परिचित व्यवहार के साथ आया था: पोस्ट, फॉलो, रिप्लाई। एक व्यक्तिगत एजेंट एक अलग तरह का विश्वास मांगता है। लोगों को यह समझने की जरूरत है कि यह क्या कर सकता है, यह कौन सी जानकारी एक्सेस कर सकता है, और किसी कार्य को सौंपना अधिक प्रयास बचाता है या बनाता है। Meta Muse को अपनी व्यापक AI उपस्थिति के भीतर रख रहा है न कि एक और सोशल नेटवर्क लॉन्च कर रहा, जिससे बाद में गहरे एकीकरण की गुंजाइश बनी रहती है।

NOVA: लेकिन यही एकीकरण वह जगह है जहां दांव बढ़ते हैं। संदेश, सोशल खातों, संपर्कों, या बिज़नेस पेजों से कनेक्शन Muse को जल्दी उपयोगी बना सकते हैं जबकि हर अनुमति अधिक संवेदनशील बनाते हैं। Meta ने इस शुरुआती स्वागत के माध्यम से प्रदर्शित नहीं किया है कि लोग Meta से विशेष रूप से ऐसे एजेंट चाहते हैं। उसका वितरण Muse को लोगों के सामने ला सकता है; यह प्रत्यायोजित कार्यों में विश्वास बना नहीं सकता।

[ALLOY]: बिल्कुल। Meta के उत्पादों में गहरे हुक Muse को एक रात में एजेंटों के लिए उपभोक्ता वितरण परत में बदल सकते हैं। अगर यह एक नए लेबल वाला अलग सहायक बना रहता है, तो तकनीकी रुचि इसे बचा नहीं पाएगी। उपभोक्ता एजेंट अपने दैनिक दिनचर्या में जगह इसलिए अर्जित करते हैं क्योंकि वे एक बार फिर होने वाले कार्य को असामान्य रूप से अच्छी तरह से पूरा करते हैं, अस्पष्ट संभावनाओं के प्रभावशाली मेनू की पेशकश करके नहीं।

[ALLOY]: Sebastian Raschka ने GPT-6 Astra के तर्क दावों को तोड़ दिया है, और मुझे यह पसंद है क्योंकि "बेहतर तर्क" आमतौर पर वह जगह है जहां उत्पाद भाषा स्पष्टीकरण से आगे निकल जाती है। उनका Ahead of AI विश्लेषण लूप्ड ट्रांसफॉर्मर और छिपे हुए तर्क पर केंद्रित है। एक लूप्ड ट्रांसफॉर्मर क्या बदलता है?

NOVA: एक पारंपरिक ट्रांसफॉर्मर जानकारी को परतों की एक तय अनुक्रम के माध्यम से भेजता है। एक लूप्ड डिज़ाइन अपनी कम्प्यूटेशनल संरचना के कुछ हिस्से का फिर से उपयोग कर सकता है, अलग-अलग परतों से होकर एक सीधी यात्रा पर भरोसा करने के बजाय एक रीज़निंग प्रक्रिया को बार-बार लागू करता है। सादे शब्दों में, मॉडल को जवाब देने से पहले आंतरिक प्रतिनिधित्व को परिष्कृत करने के अतिरिक्त मौके मिल सकते हैं। Raschka उस विचार को Astra की बताई गई ताकत—उन्नत रीज़निंग, कंप्यूटर उपयोग, लेखन और डिज़ाइन निर्णय—से जोड़ते हैं। उनके विश्लेषण ने Hacker News पर पाँच सौ से ज़्यादा पॉइंट्स प्राप्त किए क्योंकि इंजीनियर केवल एक क्षमता लेबल से ज़्यादा चाहते हैं; वे यह समझना चाहते हैं कि व्यवहार क्यों बदला।

[ALLOY]: छिपी हुई रीज़निंग उस विवरण को जटिल बना देती है। एक मॉडल आंतरिक काम कर सकता है बिना हर मध्यवर्ती चरण को पेश किए, जो अंतिम जवाब को बेहतर बना सकता है और गंदे या भ्रामक स्क्रैच वर्क को उजागर करने से बच सकता है। लेकिन तब दृश्यमान स्पष्टीकरण ज़रूरी नहीं कि यह बताए कि जवाब कैसे उभरा। यह व्यावसायिक सेटिंग्स में मायने रखता है जहाँ एक संभावित तर्क को आडिट ट्रेल के लिए गलत समझा जा सकता है।

NOVA: मैं आर्किटेक्चर-बाय-एनेकडॉट नहीं खरीदता। लूप का उपयोग करने वाला मॉडल स्वचालित रूप से सावधान सोचने वाला नहीं बन जाता, जैसे लंबे जवाब में स्वचालित रूप से बेहतर रीज़निंग नहीं होती। Raschka OpenAI के दावों की जाँच के लिए एक ठोस शब्दावली प्रदान करते हैं बिना यह माने कि Astra ने अपने दिमाग की कहानी सुनाई। चूंकि Astra व्यवसायिक ग्राहकों को काफी हद तक लक्षित है, कंप्यूटर उपयोग और निर्णय में सुसंगतता कुछ प्रभावशाली प्रदर्शनों से ज़्यादा मायने रखती है। एक संभावित डिज़ाइन यह समझा सकता है कि प्रदर्शन क्यों सुधर सकता है; अभी भी मनाया गया व्यवहार ही तय करता है कि सुधार निरंतर काम में बना रहता है या नहीं। यहाँ उपयोगी योगदान आर्किटेक्चरल परिकल्पना को उत्पाद दावे से अलग करना है जिसे यह समझाने में मदद कर सकता है।

NOVA: Cohere ने North Small Translate के वेट्स जारी किए हैं, एक मशीन-ट्रांसलेशन मॉडल जो पचास भाषाओं तक फैला हुआ है। इसमें कुल दो सौ अट्ठारह अरब पैरामीटर हैं लेकिन प्रत्येक टोकन के लिए लगभग पच्चीस अरब सक्रिय होते हैं। वह मिक्सचर-ऑफ-एक्सपर्ट्स व्यवस्था मॉडल को भाषा क्षमता का एक बड़ा पूल देती है जबकि प्रत्येक ट्रांसलेशन पास को बहुत छोटे नेटवर्क की कम्प्यूट बोझ के करीब रखती है। Cohere WMT26 मूल्यांकन पर 83.6 का स्कोर रिपोर्ट करता है। वह नंबर Cohere से आता है, इसलिए मैं इसे वेंडर रिज़ल्ट मानूंगा जब तक कि व्यापक तुलनाएं इसे विविध भाषा जोड़ियों और डोमेन में दोहरा नहीं लेती। फिर भी, यह संयोजन substantial है: एक downloadable मॉडल, पचास भाषाएं, और प्रयोग से व्यावसायिक परिनियोजन तक एक स्पष्ट रास्ता।

[ALLOY]: लाइसेंसिंग विभाजन असामान्य रूप से महत्वपूर्ण है। वेट्स गैर-व्यावसायिक उपयोग के लिए मुफ्त हैं, जबकि उत्पादन लाइसेंसिंग Cohere Model Vault या RWS Language Weaver के माध्यम से पेश की जाती है। शोधकर्ता मॉडल का निरीक्षण और होस्ट कर सकते हैं, और व्यावसायिक अधिकारों की ज़रूरत वाले संगठनों को अनुमान लगाने की ज़रूरत नहीं कि क्या permissive-दिखने वाला डाउनलोड उनके उत्पाद को कवर करता है। एक मल्टीलिंगुअल सिस्टम उस आर्किटेक्चर को सरल बना सकता है जिसने पहले अलग-अलग ट्रांसलेशन सेवाओं के बीच अनुरोधों को रूट किया। मैं हर भाषा जोड़ी को समान रूप से हल किया गया कहने से बचूँगा—गुणवत्ता high-resource और lower-resource भाषाओं के बीच नाटकीय रूप से भिन्न हो सकती है—लेकिन खुले वेट्स विशेषज्ञों को शब्दावली, सांस्कृतिक बारीकियों और डोमेन व्यवहार की सीधे जाँच करने देते हैं। geregelte या गोपनीय सामग्री को संभालने वाले संगठनों के लिए, सेल्फ-होस्टिंग स्रोत टेक्स्ट को उनके चुने हुए वातावरण में रखती है। दो सौ अट्ठारह अरब पैरामीटर विनम्र परिनियोजन नहीं है, sparse सक्रियण के साथ भी, फिर भी प्रति टोकन पच्चीस अरब सक्रिय व्यापक मल्टीलिंगुअल कवरेज को उन बुनियादी ढाँचे की पहुँच में लाता है जो पूर्ण आकार पर घने मॉडल की सेवा नहीं दे सकते। यह भाषा टीमों को एक सामान्य बेस मॉडल भी देता है बजाय इसके कि हर मार्केट को अलग व्यवहार और नीतियों वाले एक असंबंधित वेंडर एंडपॉइंट पर मजबूर किया जाए।

[ALLOY]: NVIDIA का BioNeMo Inference Runtime—BioIR—एक महंगी वैज्ञानिक कतार को लक्षित करता है: आणविक संरचनाओं की भविष्यवाणी। कंपनी बताती है कि Boltz-2 के accelerated वर्शन के लिए GPU-घंटे प्रति 58,500 सफलतापूर्वक मुड़े हुए अवशेष, जबकि torch-compiled open-source कार्यान्वयन के साथ 20,200। मिलान वर्कलोड ने आठ-H100 सिस्टम में 1,000 मानव dimer लक्ष्यों का उपयोग किया। यह 2.9 गुना throughput लाभ है।

NOVA: यह एक गंभीर संख्या है, मानक लेबल के साथ: यह NVIDIA का benchmark है। BioIR सामान्य PyTorch के भीतर रहता है बजाय इसके कि शोधकर्ताओं से एक नए प्रोग्रामिंग मॉडल के इर्दगिर्द पुनर्निर्माण की माँग करे। यह custom GPU kernels, CUDA Graph capture, और Ray के माध्यम से replica scaling को जोड़ता है। Custom kernels folding के लिए निम्न-स्तरीय GPU काम को tune करते हैं। CUDA Graph capture बार-बार होने वाले ऑपरेशन रिकॉर्ड करता है ताकि सिस्टम कम launch overhead के साथ उन्हें replay कर सके। Ray प्रत्येक GPU पर एक पूर्ण मॉडल replica रखता है, प्रत्येक accelerator को अलग-अलग folding काम को प्रोसेस करने देता है बजाय एक साझा मॉडल के हिस्से के। NVIDIA बार-बार overhead हटा रहा है और आठ accelerators व्यस्त रखने के लिए स्वतंत्र संरचना कामों की व्यवस्था कर रहा है।

[ALLOY]: ठीक है, तो यह सिर्फ "GPU तेज़ हो गई" नहीं है। यह स्केल पहले से ही कहाँ मायने रखा है?

NOVA: NVIDIA ने कहा कि BioIR ने AlphaFold Database के नवीनतम विस्तार को संचालित किया, जिससे लगभग 31 मिलियन उम्मीदवार प्रोटीन संकुल 4,777 प्रोटिओम में उत्पन्न हुए। इस स्तर पर, थ्रूपुट को लगभग तीन गुना बढ़ाने से एक प्रमुख रिफ्रेश को छोटा किया जा सकता है, खोज स्थान का विस्तार किया जा सकता है, या समान आउटपुट के लिए GPU-घंटे कम किए जा सकते हैं। उम्मीदवार संरचनाएं अभी भी जैविक कार्य के प्रायोगिक पुष्टि नहीं हैं, और प्रकाशित लाभ Boltz-2 पर H100 हार्डवेयर से जुड़ा है। इस सीमा के बावजूद, तेज़ अनुमान शोधकर्ताओं को सीमित त्वरक समय में अधिक आणविक परिकल्पनाओं को संसाधित करने देता है। क्योंकि BioIR Python और PyTorch को बनाए रखता है, पहले से उन उपकरणों का उपयोग करने वाली टीमों को अपनाने में छोटी छलांग लगानी पड़ती है। अन्य संरचना-पूर्वानुमान बैकबोन पर तुलनीय लाभ इस दृष्टिकोण को और अधिक महत्वपूर्ण बना देंगे। यह एक संकीर्ण रूप से अनुकूलित रनटाइम को वैज्ञानिक मॉडलों के लिए पुन: प्रयोज्य पैटर्न में बदल सकता है जो विशाल बैचों में समान GPU संचालन दोहराते हैं।

NOVA: यह DeepSeek V4.1 Flash का कठिन आधा हिस्सा है। इसकी रीढ़ में 552 बिलियन पैरामीटर हैं, साथ ही एक और 196 बिलियन एक ऐसे घटक में जिसे DeepSeek Engram कहता है, और यह दस लाख-टोकन विंडो में टेक्स्ट, कोड या छवियों को स्वीकार करता है। लंबे संदर्भ से इनपुट के बाद मॉडल में एक मेमोरी समस्या उत्पन्न होती है। प्रत्येक ट्रांसफॉर्मर परत एक कुंजी-मान कैश रखती है—पहले के टोकन से ध्यान जानकारी का एक चल रिकॉर्ड—जो प्रॉम्प्ट के साथ बढ़ता है। DeepSeek उस कैश को FP4 तक संपीड़ित करता है, प्रत्येक संग्रहीत संख्या को चार बिट्स में दर्शाता है, और आसन्न परतों में ध्यान जानकारी का पुनः उपयोग करता है।

[ALLOY]: चार-बिट संग्रहण आक्रामक है। इसका आकर्षण स्पष्ट है: कम GPU मेमोरी, मेमोरी चैनलों में कम गति, और जब सत्र बहुत बड़े हो जाते हैं तो संभवतः धीमी संग्रहण पर कम निर्भरता। लेकिन क्या खो जाता है? दस लाख-टोकन सत्र तब उपयोगी नहीं है अगर शुरुआती विवरण सस्ते लेकिन अविश्वसनीय हो जाएं।

NOVA: बिल्कुल। एजेंट लगातार टूल परिणाम, फ़ाइल सामग्री, संदेश और अवलोकन जोड़ते रहते हैं। दूसरे उत्तर से पहले, मॉडल को मौजूदा प्रीफिक्स को अवशोषित करना होता है; इस इनपुट चरण को प्रीफिल कहा जाता है। दस लाख-टोकन स्तर पर, प्रीफिल समय और कैश क्षमता तब भी लागत पर हावी हो सकती है जब मॉडल केवल कुछ सौ नए टोकन बनाता है। क्रॉस-लेयर पुनः उपयोग का लक्ष्य आसन्न परतों को समान ध्यान अवस्था फिर से बनाने से रोकना है, जबकि FP4 शेष अवस्था को सिकोड़ता है। कोड एजेंट रिपॉजिटरी इतिहास बनाए रख सकते हैं; दस्तावेज़ एजेंट एक लंबे केस रिकॉर्ड को रख सकते हैं; मल्टीमॉडल सिस्टम पुराने संदर्भ को जल्दी खाली किए बिना छवियों के बगल में टेक्स्ट रख सकते हैं।

[ALLOY]: और संदर्भ को फिट करना उसका बुद्धिमानी से उपयोग करना नहीं है। DeepSeek के संपीड़ित कैश को वास्तविक एजेंट ट्रेस में निर्णायक तथ्यों को बनाए रखना होगा, केवल संश्लेषित पुनर्प्राप्ति प्रॉम्प्ट्स नहीं। अगर ऐसा होता है, तो निरंतर एजेंट आर्थिक रूप से अलग प्रणालियाँ बन जाते हैं, न कि बड़े इनपुट फ़ील्ड वाले सामान्य चैट मॉडल। GPU मेमोरी लंबे संदर्भ के लिए टैक्स कलेक्टर रही है। संपीड़न संग्रहीत पदचिह्न को कम करता है, जबकि पुनः उपयोग डुप्लिकेट कार्य को कम करता है। सफलता इस पर असर डाल सकती है कि कितना इतिहास फिट होता है और मॉडल उस तक कितनी जल्दी पहुँचता है।

NOVA: OpenAI और United States General Services Administration ने पात्र संघीय, राज्य, स्थानीय और जनजातीय सरकारों के लिए शून्य-डॉलर लाइसेंस शुल्क की घोषणा की, साथ ही उपयोग लागत पर पचास प्रतिशत छूट और विस्तारित साइबर-रक्षा सहायता दी। निश्चित लाइसेंस शुल्क हटाने से उन एजेंसियों के लिए प्रवेश बिंदु बदल जाता है जो पहले सेवा को उपयोगी साबित करने से पहले एंटरप्राइज़ प्रतिबद्धता को उचित नहीं ठहरा सकती थीं। एक काउंटी कार्यालय, जनजातीय सरकार, या छोटी राज्य एजेंसी अभी भी एकीकरण, कर्मचारी, डेटा और खरीद लागतों का सामना कर सकती है, लेकिन सॉफ़्टवेयर लाइसेंस अब पहले तैनाती को अवरुद्ध नहीं करता।

[ALLOY]: यह एक मजबूत भूमि-कब्जा है, और यह वाशिंगटन से बहुत दूर तक पहुँचता है। सरकारी प्रौद्योगिकी बजट अधिकारियों में बहुत भिन्न होते हैं। उपयोग लागत को आधा करने से दस्तावेज़ सहायता, मतदाता सहायता, अनुवाद, या आंतरिक खोज वहाँ संभव हो सकती है जहाँ एंटरप्राइज़ AI लाइन आइटम तुरंत मर जाता। साइबर-रक्षा प्रस्ताव भी मायने रखता है, हालांकि घोषणा में अभी और विवरण चाहिए ताकि कोई आकलन कर सके कि एजेंसियों को वास्तव में क्या मिलता है। मुक्त लाइसेंस पुरानी प्रणालियों को सरल नहीं बनाते और संवेदनशील रिकॉर्ड के बारे में नियमों को मिटाते नहीं, लेकिन मूल्य निर्धारण यह तय करता है कि कौन सा विक्रेता पहले परिचित होता है। ठेकेदार ज्ञात छूट के आधार पर प्रस्ताव बना सकते हैं, कर्मचारी प्रतिस्पर्धी प्रणालियों से पहले OpenAI टूल से मिल सकते हैं, और सफल तैनाती आसपास के प्लेटफ़ॉर्म पर दीर्घकालिक निर्भरता पैदा कर सकती है। Anthropic, Google, और ओपन-वेट प्रदाताओं के पास अब एक स्पष्ट प्रतिस्पर्धी विकल्प है: आर्थिकी मिलान करना, नियंत्रण पर अंतर करना, या OpenAI को अमेरिकी सरकार के एक बड़े हिस्से के लिए डिफ़ॉल्ट शुरुआती बिंदु बनने देना। यह सौदा पहुँच को सस्ता बनाता है; यह सार्वजनिक जवाबदेही को सस्ता नहीं बनाता। एजेंसियों का मूल्यांकन अभी भी इस बात पर होगा कि ये प्रणालियाँ रिकॉर्ड, निर्णय और लोगों को कैसे प्रभावित करती हैं।

[ALLOY]: OpenAI Codex के पीछे के harness को लेकर उसे Agents API नाम की एक managed cloud service के तौर पर पेश कर रहा है। यह किसी दूसरे model endpoint से ज़्यादा बड़ी बात लगती है। OpenAI क्या संचालित करता है?

NOVA: यह service orchestration, long-running sessions, और tool use संभालती है। Orchestration का मतलब है किसी agent के actions का क्रम तय करना और calls के बीच state बनाए रखना, बजाय इसके कि हर developer को scheduler या state machine बनाना पड़े। Long-running sessions काम को अलग-अलग interactions में जारी रखने देते हैं, खाली conversation से शुरू नहीं करना पड़ता। Tool mediation किसी agent को managed harness के ज़रिए बाहरी systems से जुड़ने देती है। Developers काम और उपलब्ध tools तय करते हैं; OpenAI control layer चलाता है जो तय करता है कि काम कैसे आगे बढ़ता है। Prompts के ज़रिए intelligence बेचने से model calls को जारी रखने योग्य काम में बदलने वाली मशीनरी को host करने की ओर यह एक बदलाव है।

[ALLOY]: इससे OpenAI सीधे managed-agent-platform business में आ गया। आकर्षण गति का है: कोई टीम agent बना सकती है बिना पहले queues, session storage, orchestration logic, और उस infrastructure को संचालित किए जो किसी prototype को एक request से आगे जीवित रहने के लिए चाहिए। लेकिन एक बार harness ने sequence और session अपने हाथ में ले लिया, product behavior किसी named model से ज़्यादा पर निर्भर है। Orchestration में बदलाव agent के tools के इस्तेमाल, interruptions से recovery, या पुराने काम को जारी रखने पर असर डाल सकते हैं। OpenAI ने हर permission, identity, या credential boundary का अंदाज़ा लगाने के लिए पर्याप्त detail नहीं दी है। ये details तय करेंगी कि कौन से गंभीर applications इसे adopt कर सकते हैं। फिर भी, Codex अब केवल OpenAI का अपना harness वाला application नहीं रहा। वही operating layer general-purpose infrastructure बन रहा है। इससे OpenAI को agent की reasoning environment और हर step generate करने वाले model दोनों पर influence मिलता है।

NOVA: शोधकर्ताओं ने model responses में invented claims को पकड़ने के लिए कई signals को जोड़ा है। एक trained classifier judge करती है कि अलग-अलग claims उपलब्ध evidence के प्रति faithful हैं या नहीं। एक uncertainty score उन areas को mark करती है जहां model कम confident दिखता है, और एक calibration step उन signals को एक comparable scale पर रखता है। HaluEval पर, एक standard hallucination benchmark पर, pipeline ने question answering, summarization, और dialogue में false material identify की।

[ALLOY]: ठीक है, error पकड़ना useful है, लेकिन क्या वही system underlying model को एक invented करने की संभावना कम कर सकता है?

NOVA: टीम बताती है कि हाँ, कर सकता है। उन्होंने Qwen two-point-five को half a billion parameters पर preference training का उपयोग करके fine-tune किया—model को बेहतर और बदतर responses दिखाए ताकि वह truthful को favor करना सीखे—और इसकी hallucination rate लगभग आधी कर दी। यह benchmark evidence है, यह वादा नहीं कि हर domain equally improve होगा। फिर भी, claim detection को training से जोड़ना दो काम करता है: यह unsupported content को flag करता है और एक छोटे open model को इसे कम produce करना सिखाता है।

NOVA: GitHub के Copilot recap में Jira integration, Copilot के command-line product में adaptive model orchestration, और Visual Studio Code में new agent automation शामिल है। Jira context Copilot workspace में issue-tracker material लाता है, संभवतः task के बीच gap को बंद करते हुए जो किसी ने describe किया और code जो agent बदल रहा है। GitHub adaptive orchestration work को Project HydraFusion कहती है। हर command-line task को एक model से न गुज़ारते हुए, Copilot काम बदलने पर model choices coordinate कर सकती है। Recap Visual Studio Code के अंदर additional automation की भी ओर इशारा करता है, हालांकि उसका summary उन capabilities को precisely describe करने के लिए पर्याप्त detail नहीं देता।

[ALLOY]: ईमानदारी से कहूं तो, मुझे Jira connection से HydraFusion के नाम से ज़्यादा excitement है—और वह नाम बहुत cardio कर रहा है। Coding agents को अक्सर thin prompt मिलता है जबकि actual acceptance criteria, discussion history, और related failures issue tracker में रहते हैं। उस context को working surface में लाने से planning और implementation के बीच translation loss कम हो सकती है।

NOVA: यह हो सकता है, बशर्ते एजेंट को सही टिकट संदर्भ मिले न कि प्रोजेक्ट इतिहास के अंधेरे ढेर। एडाप्टिव मॉडल चयन भी मूल्यवान लगता है, लेकिन GitHub ने यह स्थापित करने के लिए पर्याप्त नहीं दिखाया है कि स्विच को क्या ट्रिगर करता है या समन्वय कितनी लागत और गुणवत्ता में सुधार करता है। "एडाप्टिव" का मतलब विचारशील श्रम विभाजन हो सकता है या एक ब्लैक बॉक्स दूसरे ब्लैक बॉक्स का चयन कर रहा है।

[ALLOY]: ठीक है। GitHub Copilot को कोड पूर्णता और एकल चैट विंडो से आगे बढ़ा रहा है। Jira संगठनात्मक संदर्भ जोड़ता है, कमांड-लाइन परत मॉडल को समन्वयित करती है, और एडिटर अधिक स्वायत्त व्यवहार प्राप्त करता है। लोग ध्यान देंगे कि क्या एक बदला हुआ टिकट, टर्मिनल एक्शन, और एडिटर सेशन एक ही इरादा बनाए रखते हैं - या तीन असंबंधित Copilot प्रोडक्ट्स की तरह व्यवहार करते हैं जो केवल एक लोगो साझा करते हैं। सबसे मजबूत परिणाम निरंतरता होगी: इश्यू बताता है कि काम क्यों मौजूद है, एजेंट इसे करता है, और पुल रिक्वेस्ट उन मनुष्यों के लिए उस तर्क को संरक्षित करती है जो बदलाव को इन्हेरिट करेंगे।

[ALLOY]: Agents API कोई प्राइवेट प्रीव्यू नहीं है। OpenAI ने इसे दस सितंबर को पब्लिक बीटा में डाला, ताकि डेवलपर्स अभी Codex-पावर्ड हार्नेस का उपयोग कर सकें। महत्वपूर्ण विभाजन मैनेज्ड कंट्रोल लेयर और इस बात के बीच है कि एजेंट का कंप्यूटेशन कहां होता है।

NOVA: OpenAI हार्नेस को होस्ट और मेंटेन करता है, जिसमें ऑर्केस्ट्रेशन और रनटाइम अपडेट शामिल हैं। डेवलपर्स तीन एक्जीक्यूशन एनवायरनमेंट में से चुन सकते हैं: एक OpenAI-मैनेज्ड सैंडबॉक्स, उनका खुद का इन्फ्रास्ट्रक्चर, या पार्टनर सैंडबॉक्स। सैंडबॉक्स एक अलगाव वातावरण है जहां एजेंट बिना व्यापक सिस्टम तक अप्रतिबंधित पहुंच के काम कर सकता है। सेल्फ-होस्टेड विकल्प उन संगठनों के लिए महत्वपूर्ण है जिन्हें कंप्यूटेशन को किसी विशेष नेटवर्क या डेटा बाउंडरी के अंदर रखने की आवश्यकता है। वे OpenAI के मैनेज्ड एजेंट समन्वय का उपयोग कर सकते हैं जबकि एक्जीक्यूशन अपने नियंत्रण वाले इन्फ्रास्ट्रक्चर पर रखते हैं।

[ALLOY]: वह हाइब्रिड व्यवस्था छोटी टीमों को पूरी तरह से मैनेज्ड रास्ता और एंटरप्राइजेज को बिना हार्नेस को फिर से बनाने के लिए कहे अधिक नियंत्रण देती है। पब्लिक बीटा ऑपरेटिंग कॉन्ट्रैक्ट को तुरंत महत्वपूर्ण बनाता है। एक मैनेज्ड एजेंट स्थिति रखता है, एक्शन चुनता है, टूल्स को इनवोक करता है, और काम को जीवित रखता है; यह महज एक संकीर्ण रिक्वेस्ट-एंड-रिस्पॉन्स एंडपॉइंट नहीं है।

NOVA: सही, और यह सीधे सरकारी प्राइसिंग डील से जुड़ता है। एक संगठन होस्टेड कंट्रोल प्लेन चाह सकता है जबकि वास्तविक काम किसी नियंत्रित वातावरण में चलने की आवश्यकता है। तीन सैंडबॉक्स विकल्प यह स्वीकार करते हैं कि डिप्लॉयमेंट वन-साइज-फिट्स-ऑल नहीं है। OpenAI हार्नेस को मेंटेन करने की जिम्मेदारी ले रहा है, जो एक वास्तविक बोझ हटाता है जबकि अपनी सेवा के अंदर अधिक व्यवहार केंद्रित करता है। क्या API टिकाऊ इन्फ्रास्ट्रक्चर बनता है यह स्पष्ट रूप से परिभाषित अनुमतियों, अपडेट व्यवहार, सेशन पर्सिस्टेंस, और होस्टेड ऑर्केस्ट्रेशन तथा ग्राहक-नियंत्रित कंप्यूट के बीच की सीमा पर निर्भर करेगा। पब्लिक बीटा उन सवालों को लॉन्च-डे थ्योरी से उत्पाद बाधाओं में बदल देता है जिनका डेवलपर्स वास्तविक सेवाएं बनाते समय सामना करेंगे।

NOVA: Evil0ctal का सेल्फ-होस्टेड Douyin और TikTok Download API 5.0 तक पहुंच गया है, जिसके 20,000 से अधिक GitHub स्टार्स हैं। यह बिना वॉटरमार्क वीडियो डाउनलोड करता है और पोस्ट, प्रोफाइल, कमेंट्स, और प्लेलिस्ट के बारे में संरचित जानकारी प्राप्त करता है। प्रोजेक्ट एक एसिंक्रोनस वेब API, टर्मिनल इंटरफेस, ब्राउज़र कंसोल, और MCP सर्वर के माध्यम से उन क्षमताओं को एक्सपोज करता है - एक एडेप्टर जो संगत AI एजेंट्स को डाउनलोडर को टूल के रूप में कॉल करने देता है। डिप्लॉयमेंट सर्विस को PostgreSQL के साथ जोड़ता है, जो डाउनलोड किए गए मीडिया और मेटाडेटा को पर्सिस्टेंट स्टोरेज देता है। प्रोजेक्ट एक सेल्फ-हीलिंग आइडेंटिटी पूल का भी वर्णन करता है जो कुकीज या ब्राउज़र फिंगरप्रिंट्स को रोटेट करता है जब TikTok या Douyin अपने ऑटोमेटेड-एक्सेस डिफेंस बदलता है। "सेल्फ-हीलिंग" का मतलब स्थायी एक्सेस नहीं है; प्लेटफॉर्म समुदाय प्रोजेक्ट से ज्यादा तेजी से बदल सकते हैं।

[ALLOY]: बिल्कुल - तकनीकी उपलब्धि समेकन है, अनुमति नहीं। एक सेल्फ-होस्टेड पैकेज कलेक्शन, संरचित स्टोरेज, कई कंट्रोल सरफेस, और एजेंट एक्सेस को जोड़ता है। एक मीडिया-एनालिसिस एजेंट पोस्ट और कमेंट रिकॉर्ड्स को डेटा के रूप में संभाल सकता है बजाय केवल डाउनलोड की गई फाइल्स देखने के, जबकि रिसर्चर्स और क्रिएटर्स प्राइवेट आर्काइव्स बनाए रख सकते हैं। ऑटोमेटेड कलेक्शन अभी भी प्लेटफॉर्म शर्तों, प्राइवेसी ड्यूटीज, और कंटेंट राइट्स में टकरा सकता है। TikTok और Douyin के पास ऑटोमेशन को प्रतिबंधित करने के मजबूत प्रोत्साहन हैं, और स्क्रैपर समुदाय अनुकूलित रहते हैं। प्रोजेक्ट की लोकप्रियता पाइपलाइन के स्वामित्व की वास्तविक मांग दिखाती है। इसका स्थायी मूल्य इस प्रतियोगिता जारी रहने पर रखरखाव पर निर्भर करेगा। संरचित मेटाडेटा डाउनलोडर को इन्फ्रास्ट्रक्चर में बदलता है: पोस्ट खोजी जा सकती हैं, तुलनीय हैं, और एंगेजमेंट रिकॉर्ड्स से जुड़ी जा सकती हैं बजाय अज्ञात वीडियो फाइल्स के फोल्डर में गायब होने के।

[ALLOY]: ChatGPT Work में OpenAI का नया Data agent किसी को कंपनी के डेटा से जोड़ने, प्राकृतिक भाषा में सवाल पूछने, इनसाइट खोजने और इंटरैक्टिव डैशबोर्ड बनाने देता है। यह एक परिचित श्रृंखला को संक्षिप्त करता है: एक बिजनेस यूजर एनालिस्ट से पूछता है, एनालिस्ट संबंधित टेबल खोजता है, क्वेरी लिखता है, और जवाब को विज़ुअलाइज़ेशन टूल में फिर से बनाता है। सवाल पूछने वाले को डैशबोर्ड के बगल में रखने से वह हैंडऑफ कम हो सकता है, खासकर उन एक्सप्लोरेटरी सवालों के लिए जो कभी औपचारिक रिपोर्टिंग प्रोजेक्ट को जस्टिफाई नहीं करते।

NOVA: यह घोषणा उन क्षमताओं की पुष्टि करती है लेकिन महत्वपूर्ण विवरण खुले छोड़ देती है। OpenAI ने नेटिव डेटा स्रोतों की पूरी रेंज नहीं बताई है, क्या हर डैशबोर्ड एक स्वतंत्र रूप से एडिटेबल आर्टिफैक्ट के रूप में बना रहता है, या एक्सेस कंट्रोल अंतर्निहित फाइलों से जनरेटेड व्यू में कैसे जाते हैं। ये विवरण तय करते हैं कि Data agent एक स्थापित एनालिटिक्स सिस्टम के अंदर काम करता है या एक नया सतह बनाता है जिसे एडमिनिस्ट्रेटर्स को गवर्न करना होगा। प्राकृतिक-भाषा क्वेरी जनरेशन को "active customer" या "revenue" जैसे वाक्यांशों को कंपनी की वास्तविक परिभाषाओं पर मैप करना होता है। यह आमतौर पर एक सेमांटिक लेयर पर निर्भर करता है: बिजनेस फील्ड्स और मेट्रिक्स का मतलब क्या है, इसका साझा विवरण। इसके बिना, एक पॉलिश्ड चार्ट एक गलत इंटरप्रिटेशन को रॉ टेबल से बेहतर छुपा सकता है।

[ALLOY]: और वही हिस्सा है जो मैं जादू की ट्रिक में खोने नहीं देना चाहता। एक इंटरैक्टिव डैशबोर्ड लोगों को फिल्टर इंस्पेक्ट करने और देखने देता है कि कौन सा मैटीरियल चार्ट को आकार देता है, लेकिन आकर्षक आउटपुट सही मतलब का प्रमाण नहीं है। OpenAI conversational analytics में जगह का दावा कर रहा है इससे पहले कि हर वर्कप्लेस प्लेटफॉर्म वही इंटरफेस जोड़ दे। अगर जनरेटेड डैशबोर्ड परमिशन बनाए रखते हैं, कन्वर्सेशन के बाद भी यूज़ेबल रहते हैं, और कंपनी की परिभाषाओं से जुड़े रहते हैं, तो रूटीन एनालिसिस उन लोगों के करीब जा सकती है जो फैसले ले रहे हैं। अगर वे फाउंडेशन कमज़ोर हैं, तो Data agent कर्मचारियों और जानकारी के बीच एक और आत्मविश्वासी लेयर बन जाता है जिसे वे पहले से समझने में संघर्ष कर रहे थे। कीमती बदलाव सिर्फ सादी भाषा में चार्ट मांगना नहीं है; यह उस एनालिसिस को उस गवर्न्ड कंपनी डेटा से जुड़ा रखना है जिसने चार्ट को मतलब दिया।

NOVA: HKUDS Nanobot में चौवालीस हज़ार बीस स्टार्स हैं, पिछले तीस दिनों में एक हज़ार एक सौ छत्तीस की बढ़त के साथ। इसके 0.3 रिलीज में सेल्फ-होस्टेड पर्सनल एजेंट, मेमोरी, टूल्स, MCP सपोर्ट, मल्टी-एजेंट वर्कफ़्लो और ब्राउज़र इंटरफेस शामिल है। Codebase Memory MCP तेज़ी से बढ़ रहा है: बयालीस हज़ार नौ सौ चौवन स्टार्स, एक महीने में ग्यारह दशमलव एक प्रतिशत की बढ़त। इसके 0.10 रिलीज में एक सौ अठावनवें भाषाओं में सोर्स कोड को पर्सिस्टेंट नॉलेज ग्राफ में बदलता है, प्रोजेक्ट सब-मिलीसेकंड क्वेरी और बानवे प्रतिशत टोकन रिडक्शन का दावा करता है।

[ALLOY]: ये दोनों स्वाभाविक रूप से फिट बैठते हैं: Nanobot एजेंट शेल देता है, जबकि Codebase Memory डurable, भाषा-जागरूक रिट्रीवल देता है ताकि कोडिंग एजेंट हर टर्न पर पूरे रिपॉजिटरी को फिर से न पढ़े। Blender MCP वही टूल स्टैंडर्ड तीन-आयामी क्रिएशन में ले जाता है। यह अट्ठाईस हज़ार दो सौ स्टार्स पर ट्रैकिंग में है और सात सितंबर को अपडेट हुआ था, Blender सीन क्रिएशन और एडिटिंग को एक्सपोज़ करता है जिसे AI क्लाइंट रिक्वेस्ट कर सकता है।

NOVA: यह रेंज मज़ेदार हिस्सा है। पर्सिस्टेंट मेमोरी और कोड रिट्रीवल सॉफ्टवेयर एजेंट्स को कम भूलने वाला बनाते हैं, जबकि Blender MCP एक विज़ुअल दुनिया पर वही इंटरफेस कंट्रोल देता है। Codebase Memory के चार हज़ार तीन सौ एक स्टार्स की मासिक गेन यहां सबसे मज़बूत ट्रैक्शन मूव है; Blender MCP का बड़ा पहला अपीयरेंस दिखाता है कि स्पेशलाइज़्ड क्रिएटिव टूल्स व्यापक एजेंट इन्फ्रास्ट्रक्चर के बराबर ऑडियंस आकर्षित कर सकते हैं।

NOVA: DeepSeek V4.1 Flash मुख्य मॉडल आगमन है, OpenRouter के ज़रिए उपलब्ध एक मिलियन अड़तालीस हज़ार पांच सौ छिहत्तर टोकन कॉन्टेक्स्ट विंडो के साथ। DeepSeek इसे एक स्पार्स मिक्सचर-ऑफ-एक्सपर्ट्स मॉडल बताता है जो कंपनी के पहले कॉज़ल एनकोडर-डिकोडर आर्किटेक्चर का उपयोग करता है, इनपुट पर आठ बिलियन पैरामीटर्स और आउटपुट पर सोलह बिलियन पैरामीटर्स एक्टिवेट करता है। लिस्टिंग में पूर्ण टोटल-पैरामीटर स्पेसिफिकेशन या पूरी तरह से वर्णित मॉडैलिटी सरफेस नहीं है, लेकिन कॉन्टेक्स्ट साइज़ और असममितिक एक्टिवेशन इसे लॉन्ग-होराइज़न एजेंट वर्कलोड के लिए विशिष्ट बनाता है।

[ALLOY]: MiniCPM5-2B एक दो अरब पैरामीटर वाला ओपन मॉडल है जो लोकल और एज हार्डवेयर पर टेक्स्ट जनरेशन के लिए बनाया गया है। इसके प्रकाशित टैग में लॉन्ग कॉन्टेक्स्ट, टूल कॉलिंग, ऑन-डिवाइस यूज़, और Transformers इकोसिस्टम के साथ कम्पैटिबिलिटी शामिल हैं, जिसके वेट्स Safetensors फॉर्मेट में वितरित किए गए हैं। Hugging Face पर इसके एक हज़ार एक सौ उनसठ लाइक्स और साठ हज़ार से अधिक डाउनलोड्स मिले हैं।

NOVA: यह MiniCPM को DeepSeek और Cohere से बिल्कुल अलग क्लास में रखता है: कम रॉ कैपेसिटी, लेकिन प्राइवेट असिस्टेंट्स, कॉम्पैक्ट टूल-यूज़िंग एजेंट्स, और उन डिवाइसेस के लिए काफी कम मेमोरी फुटप्रिंट जो डेटा-सेंटर मॉडल होस्ट नहीं कर सकते। एक्यूरेट लाइसेंसिंग, कॉन्टेक्स्ट लिमिट्स, मापा गया परफॉर्मेंस, वेट डीटेल्स, और हार्डवेयर रिक्वायरमेंट इसके मॉडल कार्ड पर निर्भर करते हैं। इसका अपील बिना ज़्यादा बेचे साफ़ है: लोकल एक्जीक्यूशन के लिए बनाए गए दो अरब पैरामीटर पैकेज में यूज़फुल एजेंट फीचर्स।

NOVA: "अब हर कोई डेटा को काम में लगा सकता है" OpenAI के Data एजेंट को कनेक्टेड कंपनी की जानकारी और इंटरैक्टिव डैशबोर्ड्स के लिए पेश करता है। "API में GPT-Live-1 के साथ ज़्यादा नैचुरल वॉइस एक्सपीरियंस बनाएं" इसके विपरीत दिशा में जाता है—साइलेंट बिज़नेस डेटा से फुल-डुप्लेक्स स्पीच की तरफ, जहां एक एजेंट एक साथ सुन और बोल सकता है, निर्देशों को ज़्यादा करीब से फॉलो कर सकता है, कस्टम वॉइसेस यूज़ कर सकता है, और टेलीफोनी से कनेक्ट हो सकता है।

[ALLOY]: ये दोनों एजेंट्स और लोगों के मिलने की जगह को बढ़ाते हैं: एक वर्कप्लेस इन्फॉर्मेशन के ज़रिए, दूसरा लाइव कन्वर्सेशन और फोन सिस्टम्स के ज़रिए। "पॉल क्रिस्टियानो OpenAI फाउंडेशन बोर्ड में शामिल हुए" उनके साथ एक गवर्नेंस मूव भी जोड़ता है। क्रिस्टियानो, जो AI अलाइनमेंट और सेफ्टी पर काम के लिए जाने जाते हैं, फाउंडेशन बोर्ड और इसकी सेफ्टी एंड सिक्योरिटी कमेटी दोनों में शामिल हो रहे हैं। प्रोडक्ट रीच चौड़ी हो रही है जबकि सेफ्टी एक्सपर्टाइज़ फाउंडेशन-लेवल ओवरसाइट के करीब आ रहा है।

NOVA: सपोर्टिंग सोर्सेस, मॉडल पेजेस, रिसर्च रेफरेंस, और प्रोजेक्ट लिंक्स के लिए Toby On Fitness Tech dot com पर शो नोट्स देखें।

[ALLOY]: सुनने के लिए शुक्रिया। हम जल्द वापस आएंगे।