TobyOnFitnessTech
Reflection's Beam 1.0 OpenRouter पर 501B कोडिंग MoE के रूप में उतरा — Episode 123 cover art
Episode 123·21 अक्टूबर 2026·43:34

Reflection's Beam 1.0 OpenRouter पर 501B कोडिंग MoE के रूप में उतरा

आज AgentStack Daily पर: Reflection's Beam 1.0 ने OpenRouter पर 501B कोडिंग MoE के रूप में पदार्पण किया। Apple MLX एक मैक स्टूडियो क्लस्टर पर... Show notes: https://tobyonfitnesstech.com/hi/podcasts/episode-123/

🎧 Listen to Episode

एपिसोड 123 — 16 अक्टूबर, 2026

[00:00] एपिसोड हुक

Reflection's Beam 1.0, एक 501-बिलियन पैरामीटर वाला स्पार्स मिक्सचर-ऑफ-एक्सपर्ट्स रीज़निंग मॉडल जिसमें 23 बिलियन सक्रिय पैरामीटर हैं, OpenRouter पर लैंड हुआ। Hermes Agent ने 15 अक्टूबर, 2026 को v0.22.2 शिप किया, जो एक दोषपूर्ण v0.22.1 बिल्ड को रोल बैक करता है जो गलत कमिट से असेंबल किया गया था और अनरेलीज़्ड गेटवे वर्क शिप करता था। NVIDIA ने अपने खुले Nemotron परिवार को तीन मॉडलों के साथ पूरा किया, जिसमें हेडलाइन 120-बिलियन पैरामीटर वाला Nemotron 3.5 Super VL हमेशा-ऑन हाई-वॉल्यूम एजेंटों के लिए है, साथ ही टाइटर डिप्लॉयमेंट के लिए Bolt एज वेरिएंट। Apple ने MLX और RDMA-ओवर-Thunderbolt फैब्रिक का उपयोग करके Mac Studios के क्लस्टर पर नियर-ट्रिलियन-पैरामीटर Muse Spark Open मॉडल चलाने के लिए एक गाइड प्रकाशित किया। ओपन-सोर्स 3D आर्किटेक्चरल एडिटर Pascal Editor ने AI एजेंट वर्कफ्लो के लिए एक लोकल CLI और Model Context Protocol टूल शिप किए। OpenBMB ने MiniCPM-V 4.7 के लिए GGUF-क्वांटाइज़्ड DSpark ड्राफ्ट चेकपॉइंट पुश किया, जो 35-बिलियन पैरामीटर विज़न-लैंग्वेज मॉडल में स्पेक्युलेटिव डिकोडिंग जोड़ता है।

[02:00] एजेंट स्टैक रिलीज़ रीडआउट: Hermes Agent v0.22.2, v0.22.1, v0.22.0, v0.21.7

Hermes Agent v0.22.2 15 अक्टूबर, 2026 को शिप हुआ, और यही वह रिलीज़ है जो v0.22.1 होना चाहिए था। पिछले दिन, v0.22.1 गलत कमिट से बना था, जिसका मतलब है कि इसने अनरेलीज़्ड गेटवे वर्क शिप किया, और Microsoft Store वर्शन "Connecting" स्क्रीन पर अटक सकता है। 0.22.2 उस गलती को वापस लेता है और इसके बजाय दो फिक्स शिप करता है।

दोनों में से बड़ा है एक रिबूट बग। Linux पर, रीस्टार्ट के बाद, कर्नेल एक शुरुआती PID दे सकता है जो किसी पूरी तरह से असंबंधित प्रोसेस से संबंधित होती है जो पहले शुरू हुई। सुपरवाइज़्ड गेटवे - systemd, launchd, Docker - तब देखता कि एक रनिंग गेटवे जैसा दिख रहा है और शुरू होने से मना कर देता। Hermes अब रिकॉर्ड करता है कि उसने किस बूट में शुरू किया, और जब वह बता नहीं पाता, तो होस्ट लॉक से पूछता है, जिसे केवल एक लाइव गेटवे ही रखता है।

दूसरा लोकल मॉडल के लिए लैपटॉप एर्गोनॉमिक्स का एक स्वीप है। लोकल रिक्वेस्ट अब हमेशा स्टेटस लाइन पर प्रॉम्प्ट-रीडिंग प्रोग्रेस स्ट्रीम करती हैं, ताकि आप देख सकें कि लंबे प्रॉम्प्ट पर सर्वर कहां पहुंचा है। स्टॉल टाइमर उस समय को छोड़ देते हैं जब लैपटॉप सोया हुआ था, ताकि सोया हुआ कन्वर्सेशन स्टॉल न दिखे। एक रिकवर्ड लोकल सर्वर को सर्किट ब्रेकर की जगह एक अतिरिक्त रिट्राई मिलती है जो हर बाद के टर्न पर फेल होता है। कम्प्रेशन अब तब टाइमआउट नहीं होता जब सर्वर अभी भी एक लंबा कन्वर्सेशन पढ़ रहा हो। Windows यूनिफाइड-मेमोरी मशीनों पर, मॉडल लॉन्च और प्रॉम्प्ट कैश को फ्री मेमोरी के अनुसार साइज़ किया जाता है, जो तब मायने रखता है जब अलग VRAM पूल नहीं होता।

एक चेतावनी जो प्रोजेक्ट दे रहा है: वे सेशन जो 0.22.1 गेटवे के तहत चले थे, 0.22.2 में डिलीट नहीं किए जा सकते। जो कुछ भी सही बिल्ड के तहत साफ-सुथरे शुरू हुए थे उन्हें क्लियर किया जा सकता है; केवल बैड-बिल्ड सेशन ही फंसे हुए हैं।

लाइन के लिए संदर्भ: v0.22.0 13 अक्टूबर को "Threshold Release" के रूप में आया, जिसे प्रोजेक्ट ने विंडो के सबसे बड़े Hermes शिप के रूप में वर्णित किया, v0.21.0 साइकल की तुलना में लगभग 2.5x। वहां मुख्य एडिशन थे एक गाइडेड फर्स्ट-लॉन्च सेटअप चैट जो एक फ्री ट्रायल मॉडल पर चलता है ताकि नए लोगों को शुरू करने के लिए API की ज़रूरत न हो, कनेक्टर्स जो एजेंट को होस्टेड ऐप्स में लाते हैं, लोकल मॉडल के लिए वन-क्लिक llama.cpp रनटाइम, और साइन्ड डेस्कटॉप पैकेज जिसमें Microsoft Store बिल्ड शामिल है।

बिल्डर्स के लिए, यह मुख्य रूप से एक स्थिरता अपडेट है। अगर आपका सुपरवाइज़्ड गेटवे सर्वर रिबूट के बाद शुरू होने से मना कर रहा था, या आपका Store ऐप Connecting पर फ्रीज़ हो गया, तो यह अपडेट फिक्स है। लोकल-मॉडल टिंकरर्स, विशेषकर Windows यूनिफाइड-मेमोरी लैपटॉप पर, लंबे कन्वर्सेशन और लैपटॉप स्लीप पर एक शांतिपूर्ण अनुभव पाते हैं।

[03:47] Reflection का Beam 1.0, OpenRouter पर 501B कोडिंग MoE के रूप में सूचीबद्ध

Reflection से एक नया open-weight reasoning model जिसे Beam 1.0 कहा जाता है, OpenRouter पर एक model listing के रूप में सामने आया है। यह एक sparse mixture-of-experts model है जिसमें कुल 501 billion parameters और प्रति token 23 billion active हैं, एक million-token context window है, और यह coding और long-horizon agentic workflows के लिए तैयार है। जो मॉडल ऑफर किया जा रहा है वह एक workhorse है: एक half-trillion-parameter MoE जो agentic coding के लिए है, जिसमें एक serious project को एक session में रखने के लिए पर्याप्त context है। मॉडल OpenRouter पर identifier reflection/beam-1.0-501b-a23b के तहत सूचीबद्ध है।

[04:38] Apple MLX, Mac Studio Cluster पर Near-Trillion Parameter Muse Spark Open चलाता है

Apple का ML research group ने frontier-scale language models को पूरी तरह Mac Studio hardware पर MLX का उपयोग करके चलाने के लिए एक hands-on guide प्रकाशित किया है, जो उनका open-source array framework है। मुख्य परिणाम: Muse Spark Open नामक एक near-trillion parameter mixture-of-experts model, M5 Ultra chips वाले चार Mac Studios में वितरित होने पर प्रति सेकंड 36 से अधिक tokens तैयार करता है, जो औसत reading speed से काफी ऊपर है।

512GB unified memory वाले एकल M5 Ultra Mac Studio पर, Mistral Medium 3.5 (128 billion parameters) और Qwen 3.8 (27 billion parameters) दोनों आराम से fit होते हैं। M5 generation एक GPU Neural Accelerator जोड़ता है जो matrix multiplication के लिए समर्पित है, जो M3 Ultra की तुलना में 4.6× तेज time-to-first-token में अनुवादित होता है। Decode speed, जो memory bandwidth से सीमित है, M5 Ultra के 1.2 TB/s unified memory bandwidth के कारण लगभग 1.6× बेहतर होती है, जो M3 Ultra पर 819 GB/s से बढ़ा है। Peak power लगभग 300 watts पर रहता है, जो लगभग एक toaster की खपत के बराबर है।

Muse Spark Open, जिसमें 816 billion कुल parameters और प्रति token 42 billion active हैं, NVFP4 quantization में लगभग 493GB की आवश्यकता होती है, जो एक मशीन के लिए बहुत बड़ा है। MLX v0.30.1 और बाद में, macOS 26.2 के low-latency RDMA-over-Thunderbolt 5 driver के साथ, jaccl कहलाने वाले नए communication collectives का उपयोग करके मॉडल को कई Macs में विभाजित करता है। MLX दो दृष्टिकोणों का समर्थन करता है: pipeline parallelism, जो model को depth में विभाजित करता है (एक Mac पहले आधे layers को चलाती है, फिर दूसरे को results पास करती है), और tensor parallelism, जो width में विभाजित करता है। एक helper command, mlx.launch, Thunderbolt-tied pair पर कई hosts में jobs fire करना आसान बनाता है।

builders के लिए, workflow का मतलब है कि large models office hardware पर local रह सकते हैं, cloud को छुए बिना private agentic coding और अन्य context-heavy workloads का समर्थन कर सकते हैं।

[06:22] Open-source 3D architectural editor AI agents के लिए CLI और MCP tools जारी करता है

Pascal Editor repository, एक open-source 3D architectural editor, ने हाल ही में updates push किए जिसमें 13 October को इसके @pascal-app/cli package का version 1.0.4 शामिल है, repository खुद 16 October को फिर से push की गई। प्रोजेक्ट एक local command-line interface और Model Context Protocol tools प्रदान करता है, और इसे human designers और AI agents दोनों के लिए practical workflows का समर्थन करने के रूप में वर्णित किया गया है। MCP piece दिलचस्प हिस्सा है: MCP वह standard है जो AI assistants को external tools call करने की अनुमति देता है, इसलिए इसे एक 3D editor में integrate करने का मतलब है कि agent-driven workflows एक first-class concern हैं, bolted-on afterthought नहीं। Repo लगभग 24,900 GitHub stars पर है, जो सुझाव देता है कि इसके आसपास एक established builder audience पहले से बन चुकी है। developers के लिए, takeaway यह है कि CLI plus MCP tooling editor को day one से scriptable और agent-accessible बनाता है, useful if आप repetitive modeling tasks को automate करना चाहते हैं या design process के कुछ हिस्सों को एक AI assistant को सौंपना चाहते हैं बिना direct human workflow को छोड़े। 16 October का push active maintenance दिखाता है। उस documentation पर नज़र रखें कि कौन से specific MCP tools ship होते हैं और वे कौन से scene operations expose करते हैं, क्योंकि वह list तय करेगी कि एक agent अपने आप editor का कितना हिस्सा realistically drive कर सकता है।

[07:37] MiniCPM-V 4.7 को Speculative Decoding के माध्यम से Speed Boost मिलती है

OpenBMB ने Hugging Face पर MiniCPM-V 4.7 के लिए GGUF-quantized DSpark draft checkpoint प्रकाशित किया, जो llama.cpp के साथ speculative decoding को सक्षम करता है। MiniCPM-V एक ओपन vision-language मॉडल परिवार है जो on-device और edge deployment के लिए डिज़ाइन किया गया है, और यह repository इसे llama.cpp speculative decoding के साथ runnable बनाती है। Speculative decoding एक छोटे draft मॉडल को जोड़ती है जो कई tokens की भविष्यवाणी करता है, एक बड़े target मॉडल के साथ जो उन भविष्यवाणियों को समानांतर में सत्यापित करता है। 35-billion-parameter मॉडल को एक समय में एक token generate करने की प्रतीक्षा करने के बजाय, draft एक batch प्रस्तावित करता है जिसे target पुष्टि या अस्वीकार करता है, जो दृश्यमान output rate को गति देता है। Draft में लगभग 389 मिलियन पैरामीटर हैं और प्रति forward pass 15 tokens की भविष्यवाणी करता है, base मॉडल में specific hidden-state layers को लक्षित करता है। Evaluation numbers दिखाती हैं कि general text पर प्रति verification round लगभग 3.5 tokens से लेकर code tasks पर 7.4 तक acceptance lengths हैं, MMMU और MathVista जैसे vision benchmarks में लगभग 5 से 6 tokens accepted होते हैं। इसका उपयोग करने के लिए, target मॉडल, इसका vision projector, और quantized draft download करें, फिर llama-cli में draft-dspark spec type के साथ चलाएं या इसे एक multimodal server के रूप में launch करें। Draft को matching MiniCPM-V 4.7 35B-A3B target के साथ जोड़ा जाना चाहिए, और इसके लिए एक llama.cpp build की आवश्यकता है जो dflash architecture और DSpark Markov head का समर्थन करता हो। Draft को खुद quantize करने से केवल यह प्रभावित होता है कि भविष्यवाणियां कितनी बार स्वीकृत होती हैं, कभी भी final output नहीं, इसलिए developers अपनी memory budget के अनुरूप सबसे छोटा quantized draft उपयोग कर सकते हैं। Draft मॉडल प्रति forward pass 15 tokens की भविष्यवाणी करता है, और benchmarks दिखाते हैं कि publisher-reported averages general text पर प्रति verification step 3.501 accepted tokens और code generation पर 7.387 हैं। Quantized draft llama-cli या llama-server के साथ --spec-type draft-dspark flag का उपयोग करके चलता है, जिसके लिए dflash architecture वाली llama.cpp build की आवश्यकता है।

[09:24] NVIDIA Nemotron Family को Super VL और Bolt Edge Models के साथ विस्तारित किया

NVIDIA ने इस सप्ताह अपने ओपन Nemotron परिवार को तीन मॉडलों के साथ विस्तारित किया जो संपूर्ण agent deployment range को कवर करते हैं — data center से लेकर RTX desktops तक। फ्लैगशिप Nemotron 3.5 Super VL है, एक 120-billion-parameter ओपन मॉडल जो high-volume always-on agents के लिए Nemotron Coalition के साथ बनाया गया है। NVIDIA कहता है कि यह लगभग one-fifth parameter count पर अपने सबसे बड़े reasoning मॉडल की accuracy से मेल खाता है, और Artificial Analysis Intelligence Index पर अपनी class में अगले सर्वश्रेष्ठ की तुलना में 5x तेज चलता है।

Bolt 74B-A9B 24GB RTX और DGX Spark पर local agentic workloads के लिए बनाया गया है। ट्रिक एक native 2-bit quantization है — एक compression जो 74-billion-parameter मॉडल को 24GB memory में समाता है, जिससे अन्य applications के लिए जगह बचती है। NVIDIA इसे PinchBench पर अपनी memory class में #1 open model और BrowseComp पर #2 के रूप में रैंक करता है। यह llama.cpp, Ollama, LM Studio, Unsloth, और vLLM का समर्थन करता है।

तीसरा मॉडल, Bolt E4B 4GB, GeForce RTX, Jetson, और DGX Spark पर conversational और physical agents के लिए 23 अक्टूबर को आता है। Super VL और Bolt 74B-A9B अभी Hugging Face, Open Router, ModelScope, और NVIDIA NIM microservices पर उपलब्ध हैं।

Super VL को लगभग 26 trillion tokens पर train किया गया था और दर्जनों reinforcement-learning environments में लगभग 3.8 मिलियन samples के साथ post-train किया गया। NVIDIA Hugging Face पर tool use, finance, instruction following, long context, fairness, और vision-language understanding के लिए open datasets भी जारी कर रहा है, साथ ही NeMo Gym में reinforcement-learning environments भी।

Customization pipeline पहले से व्यस्त है: Scale AI ने इसे Skydance के vendor credit finance agent और EY के M&A due diligence agent के लिए adapt किया; AfterQuery ने इसे Hebbia के credit agreement analysis के लिए tune किया; Mercor ने APEX-SWE benchmark पर coding agents के लिए इसे post-train किया; और Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce, और Synopsys पर integrations live हैं। NVIDIA Dynamo पर scaled होकर, NVIDIA दावा करता है कि 85% कम latency के साथ 8x अधिक users हैं।

[11:17] Research digest: चार AI Agents ने एक साथ Minecraft के Ender Dragon को हराया

चार Gemini 4 Argon agents की एक टीम ने एक sandboxed survival world में Minecraft के Ender Dragon को हराया है, और run का वर्णन करने वाला paper HuggingFace के daily feed पर trending है। प्रत्येक agent ने Mineflayer नामक एक open-source library के माध्यम से एक player को नियंत्रित किया। Agents ने in-game chat में एक दूसरे से बात की और एक shared memory बनाए रखी जिसे वे पढ़ और लिख सकते थे, लेकिन किसी ने उन्हें roles assign नहीं किए या उन्हें game logic नहीं दिए। Agents ने run के दौरान हर program को खुद plan, write, और debug किया। Researchers ने पूरी चीज़ को एक live dashboard पर देखा और किसी भी समय agents को pause या stop कर सकते थे, हालांकि वे कहते हैं कि उन्हें कभी ऐसा करने की ज़रूरत नहीं पड़ी। मुद्दा सिर्फ एक Minecraft trophy नहीं है — यह एक open-ended task पर multi-agent coordination का एक स्पष्ट प्रदर्शन है। Chat, shared memory, और अपना खुद का code लिखने की क्षमता के अलावा और कुछ नहीं, चार models ने एक long-horizon goal को संभाला जो आमतौर पर घंटों的人类 play की मांग करता है। यह वह pattern है जिस पर किसी को भी agent stacks बनाने वालों को करीब से नज़र रखनी चाहिए।

[12:21] Grok Voice 3.0 एक ही $0.08 प्रति मिनट पर Speech-to-Speech Index में सबसे ऊपर

xAI ने आज Grok Voice 3.0 जारी किया, एक speech-to-speech मॉडल जो Artificial Analysis के Speech-to-Speech Index में 86.9 स्कोर के साथ शीर्ष पर है, जो इसके पिछले संस्करण 81.3 से आगे है और GPT-Live-1 (Astra, Medium) 83.2 तथा Gemini 3.8 Live (Ext. Thinking, High) 82.6 से भी आगे है। मॉडल sub-second latency हासिल करता है, Artificial Analysis के Big Bench Audio रन पर तुलनीय मॉडलों की तुलना में प्रति टास्क कम लागत आती है, और यह Voice Agent API में $0.08 प्रति मिनट की दर से Grok Voice 2.0 के समान मूल्य पर उपलब्ध है।

कठिन sub-scores पर, Grok Voice 3.0 ने Speech Reasoning Big Bench Audio पर 98.5%, Human Preference Speech Agent Arena पर 1070 Elo, Task Completion पर 94.8%, और Full Duplex Bench पर 97.0% हासिल किया, जो यह मापता है कि कोई मॉडल रुकावटों, बारी-बारी से बात करने और रुकावटों को कितनी स्वाभाविक रूप से संभालता है। ServiceNow के EVA-Bench पर, जो 200 से अधिक परिदृश्यों में enterprise voice agents को स्कोर करता है, इसने 74% accuracy दर्ज की और combined accuracy-and-experience स्कोर पर नेतृत्व किया। ServiceNow के Nitin Aggarwal ने इसे front-line customer service AI के लिए एक नया Pareto frontier बताया।

मॉडल पहले से ही बड़े पैमाने पर चल रहा है। Tesla इसका उपयोग लाखों दैनिक in-car conversations के लिए करता है, जहां ड्राइवर Grok Bot के माध्यम से हाथों को खाली रखकर कैलेंडर देखते हैं, ईमेल भेजते हैं, कॉफी ऑर्डर करते हैं, या डिनर बुक करते हैं। Starlink के call centers 20,000 calls प्रतिदिन Grok Voice के माध्यम से कई भाषाओं में रूट करते हैं, जिसमें लगभग 70% मानव के बिना हल हो जाते हैं और लगभग हर चौथी sales call खरीदारी में समाप्त होती है। grok-voice-latest पर बने existing agents पहले से बिना कोड परिवर्तन के migrate हो चुके हैं।

[13:52] xAI का $30 Bundle Cursor में Grok Models लाता है

xAI ने एक सिंगल सब्सक्रिप्शन bundle जारी किया है जो इसके Grok assistant, Grok Bot, Cursor coding agent, और X Premium को एक साथ लाता है, Premium tier $30 प्रति माह पर है और इसे लगभग $90 मूल्य की अलग-अलग सब्सक्रिप्शन को प्रतिस्थापित करने के रूप में प्रस्तुत किया गया है। इस सौदे की रीढ़ Grok model usage का एक साझा pool है जो Grok chat, voice, image और video generation, और Cursor के coding agents के अंदर काम करता है। Cursor में third-party models अभी भी Premium और उससे ऊपर काम करते हैं, list price पर API top-ups के माध्यम से अलग से बिल किए जाते हैं।

लाइनअप daily Grok access और starter Cursor allowance के साथ एक free tier से शुरू होता है। Plus $8 प्रति माह पर चलता है जिसमें Grok और Cursor में अधिक AI usage, एक X checkmark और कम विज्ञापन शामिल हैं। $30 पर Premium वह अनलॉक करता है जो पहले SuperGrok, Cursor Pro, और X Premium+ का संयुक्त रूप था, Plus usage का चार गुना। Super $100 पर उसको पंद्रह गुना करता है, और Ultra $200 पर पचास गुना। xAI कहता है कि प्रत्येक paid tier में अपने models के साथ comparable standalone Cursor plan से कम से कम दोगुना coding usage शामिल है।

टीमों के लिए, Premium, Super, और Ultra उसी individual prices पर per-seat उपलब्ध हैं, पुराने Cursor Teams pricing को प्रतिस्थापित करते हुए, जबकि तीन गुना coding usage, SSO, admin controls, consolidated billing, usage analytics, और SOC 2 compliance जोड़ते हैं। Enterprise customers एक single dashboard में Grok और Cursor का प्रबंधन एक साझा usage pool के साथ करते हैं। मौजूदा SuperGrok, Cursor, और X Premium subscribers अपनी वर्तमान plan रख सकते हैं या rollover window के दौरान prorated refunds के साथ account billing के माध्यम से स्विच कर सकते हैं।

[15:29] mcp-use 2.10 ChatGPT, Claude, और agent servers के लिए fullstack MCP framework लाता है

mcp-use, MCP apps बनाने के लिए एक open source framework, ने 14 अक्टूबर को version 2.10 जारी किया। प्रोजेक्ट खुद को fullstack के रूप में स्थापित करता है: एक single codebase जो front end पर ChatGPT और Claude के लिए MCP apps और back end पर AI agents के लिए MCP servers को target करता है। repository 10,772 GitHub stars रिपोर्ट करती है, जो इसे सक्रिय संचलन में सबसे लोकप्रिय MCP developer kits में से एक बनाती है।

builders के लिए, व्यावहारिक pitch consolidation है। दो समानांतर integrations को बनाए रखने के बजाय, एक टीम एक बार लिख सकती है और दोनों प्रमुख chat surfaces को ship कर सकती है, साथ ही एक MCP server को भी expose कर सकती है जिसे agents call कर सकते हैं। वह server component मायने रखता है क्योंकि MCP ecosystem तेजी से मान रहा है कि agents custom REST endpoints के बजाय एक साझा protocol के माध्यम से tools discover और invoke करेंगे। एक unified framework एक प्रोजेक्ट से दोनों दिशाओं का समर्थन करने की लागत कम करता है।

2.10 के अंदर विशेष रूप से क्या बदला, यह यहाँ दिखाई देने वाले रिलीज़ नोट्स में प्रलेखित नहीं है, इसलिए खबर योग्य बात यह है कि प्रोजेक्ट सक्रिय रूप से शिप कर रहा है और लगातार पकड़ हासिल कर रहा है। MCP स्टैक का मूल्यांकन करने वाले डेवलपर्स के पास अब एक ही फ्रेमवर्क विकल्प है जो चैट ऐप और सर्वर डिप्लॉयमेंट दोनों को कवर करता है, और एक पर्याप्त बड़ा समुदाय है जिससे प्रश्न और उदाहरण तेज़ी से सामने आते हैं।

एक बात पर नज़र रखनी चाहिए: फ्रेमवर्क विचलन को कैसे संभालता है जब ChatGPT और Claude अपने MCP implementations को स्वतंत्र रूप से विकसित करते हैं, क्योंकि एकीकृत सतहें अक्सर चौड़ाई के लिए कभी-कभी प्लेटफॉर्म-विशिष्ट सुविधाओं से पीछे रहने की कीमत चुकाती हैं।

[16:55] Third Moment Research 36+ घंटे तक लगातार 10,000 Agents चलाता है

Third Moment Research नामक एक शोध प्रयोगशाला GPT-6 Astra, GPT-6.1 Sol, Codex, और Daybreak का उपयोग करके दस हज़ार AI agents को छत्तीस घंटे से अधिक समय तक लगातार चला रही है — जिसमें Daybreak साइबर सुरक्षा का काम संभालता है। मध्य अक्टूबर में OpenAI के न्यूज़ इंडेक्स पर प्रदर्शित यह सेटअप उन agents के इर्दगिर्द स्थित है जो कई दिनों तक अपना ध्यान बनाए रखते हैं और जितना अधिक उनका उपयोग होता है, वे उतने बेहतर होते हैं।

शीर्षक संख्या महत्वपूर्ण है। आज अधिकांश प्रोडक्शन agents अपना काम सेकंडों या मिनटों में पूरा कर लेते हैं; साढ़े एक दिन से अधिक समय के लिए दस हज़ार समवर्ती agents को बनाए रखने वाला यह कॉन्फ़िगरेशन एक अलग श्रेणी के डिप्लॉयमेंट की ओर इशारा करता है। OpenAI का प्रयोगशाला के सेटअप को प्रदर्शित करना यह संकेत देता है कि अंतर्निहित GPT-6 परिवार और Codex उस प्रकार के बहु-दिवसीय भार को सहन कर सकते हैं।

स्टैक एकल-मॉडल के बजाय परतदार है। Third Moment GPT-6 Astra और GPT-6.1 Sol को रीढ़ के रूप में चलाता है, Codex कोड और निष्पादन के लिए, और Daybreak सुरक्षा कार्यों के लिए। प्रयोगशाला का फ्रेमिंग — उपयोग से बेहतर होने वाले agents — यह सुझाव देता है कि जितना लंबा रन, agents उतना अधिक अपने संचित कार्य से सीखते हैं, जो देखने योग्य हिस्सा है।

बिल्डर्स के लिए निष्कर्ष यह है कि लंबे चलने वाले, बहु-एजेंट वर्कफ़्लो डेमो से आगे बढ़ गए हैं। यदि एक ही प्रयोगशाला छत्तीस घंटों में दस हज़ार agents को सुसंगत रख सकती है, तो निरंतर एजेंट ऑपरेशन के टेम्पलेट बनने लगे हैं। अगला देखने योग्य: वे agents उस रन में वास्तव में क्या कर रहे हैं, और क्या अन्य प्रयोगशालाएं तुलनीय आंकड़े प्रकाशित करती हैं।

[18:25] Block की सुरक्षा टीम OpenAI के साथ खतरे की प्रतिक्रिया समय को मिनटों में कम करती है

Block अपने सुरक्षा संगठन के अंदर OpenAI के मॉडल को काम पर लगा रहा है, और प्रारंभिक परिणाम ठोस हैं: टीम खतरों की जांच तेज़ी से करती है और मिनटों में पैच प्रस्तावित करती है। यह सहयोग 14 अक्टूबर, 2026 को OpenAI News के माध्यम से सामने आया।

जो बदला है वह यह है कि मॉडल वर्कफ़्लो में कहाँ बैठता है। चैट या सारांश के लिए उपयोग किए जाने के बजाय, OpenAI की तकनीक खतरे की जांच और सुधार लूप में एम्बेडेड है। टीम अभी भी निर्णयों की मालिक है, लेकिन मॉडल पहचान से उम्मीदवार फिक्स तक के समय को कम करने में मदद कर रहा है। यह महत्वपूर्ण है क्योंकि सुरक्षा में कुछ देखने और उस पर कार्रवाई करने के बीच का अंतर वह जगह है जहाँ सबसे अधिक नुकसान होता है।

बिल्डर्स और सुरक्षा टीमों के लिए, यह एक उपयोगी सिग्नल है। जेनरेटिव मॉडल अब एंटरप्राइज इंसिडेंट रिस्पॉन्स पाइपलाइन के अंदर विश्वास किए जा रहे हैं, न कि केवल किनारे पर एक सहायक के रूप में। उधार लेने योग्य पैटर्न सीधा है: मॉडल को वही संदर्भ दें जो आपके एनालिस्ट देखते हैं, उसे एक पैच प्रस्तावित करने दें, और अनुमोदन लूप में एक मनुष्य को रखें। मिनट-स्तर का टर्नअराउंड वह मीट्रिक है जो मायने रखता है, और यह वह है जिस पर ध्यान देना चाहिए क्योंकि अधिक सुरक्षा संगठन समान संख्याएं प्रकाशित कर रहे हैं।

[19:35] Small Vision Model Gets Draft Boost for Local AI

OpenBMB ने Hugging Face पर MiniCPM-V-4.7-1B के लिए एक GGUF-quantized DSpark draft checkpoint जारी किया, जो स्पेक्युलेटिव डिकोडिंग के साथ विज़न-लैंग्वेज इंफरेंस चलाने के लिए local AI बिल्डर्स को एक नया टूल देता है। MiniCPM-V-4.7-1B एक एकल-अरब-पैरामीटर मॉडल है जो छवियों और टेक्स्ट को संभालता है, on-device और edge डिप्लॉयमेंट के लिए बनाया गया। DSpark draft एक अलग हल्का checkpoint है जो candidate tokens जेनरेट करने के लिए प्रशिक्षित है जिसे मुख्य मॉडल फिर सत्यापित करता है। इसमें 5 draft layers हैं जो प्रति forward pass 15 tokens पैदा करते हैं, जो लक्ष्य के विशिष्ट hidden-state layers से आते हैं। GGUF-quantized draft लोकल डिप्लॉयमेंट के लिए Hugging Face से target model और vision projector के साथ डाउनलोड करने योग्य है। मॉडल कार्ड से acceptance length metrics दर्शाते हैं कि accepted tokens का verification steps के साथ अनुपात, math tasks पर 5.891x और OCR benchmarks पर 4.752x तक पहुंचता है, जिसका अर्थ है कि draft predictions लक्ष्य मॉडल द्वारा जेनरेट किए जाने वाले के साथ निकटता से मेल खाते हैं। यह local inference के लिए मायने रखता है क्योंकि स्पेक्युलेटिव डिकोडिंग मध्यम हार्डवेयर पर भी throughput में सुधार कर सकता है, क्योंकि draft प्रारंभिक token prediction को संभालता है और target इसे पुष्टि या सुधारता है। llama-cli या llama-server चलाने वाले डेवलपर्स target और draft दोनों के लिए अधिकतम GPU offloading कॉन्फ़िगर कर सकते हैं, 8192 की context length सेट कर सकते हैं, और memory usage कम रखने के लिए Q4_K_M target को Q8_0 draft के साथ जोड़ सकते हैं। draft को मिलान MiniCPM-V 4.7 1B target के साथ जोड़ा जाना चाहिए; इसके लिए dflash architecture और DSpark Markov head के साथ llama.cpp की आवश्यकता है। एक नया Hugging Face repository MiniCPM-V-4.7-1B के लिए GGUF-quantized DSpark draft checkpoint प्रकाशित करता है, जो llama.cpp के माध्यम से स्पेक्युलेटिव डिकोडिंग सक्षम करता है। DSpark draft 5 draft layers में प्रति forward pass 15 candidate tokens जेनरेट करता है, जिन्हें target model inference को तेज करने के लिए सत्यापित करता है।

[21:16] GitHub Copilot to Deprecate Several Models on November 16

GitHub ने 15 अक्टूबर को एक changelog पोस्ट किया जिसमें घोषणा की गई कि GitHub Copilot models का एक सेट 16 नवंबर, 2026 को बंद कर दिया जाएगा। depreciation हर Copilot surface पर लागू होता है: Copilot Chat, inline edits, ask mode, agent mode, और code completions। व्यावहारिक प्रभाव यह है कि कोई भी उपयोगकर्ता जिसने अपनी Copilot सेटिंग्स में जल्द ही बंद होने वाला model pin किया है, उसे cutoff date पर काम करना बंद हो जाएगा। Code completion, chat, और agent runs जो प्रभावित models में से किसी एक पर निर्भर थे, उस दिन के बाद एक नए default की आवश्यकता होगी। प्रभावित models की पूरी सूची GitHub changelog पोस्ट में है, साथ ही सुझाए गए प्रतिस्थापन भी। depreciation एक ही दिन Copilot Chat, ask mode, agent mode, inline edits, और code completions पर प्रभाव डालती है, इसलिए एक Copilot उपयोगकर्ता जो एक सत्र के मध्य में inline completion से chat में स्विच करता है, सतहों को बदलकर खुद को नहीं बचाएगा। कोई भी जिसकी टीम ने एक Copilot plan के पीछे एक विशेष model पर मानकीकृत किया है, यह पुष्टि करना चाहेगा कि वह विकल्प अभी भी समर्थित सूची में है।

🎙 Never miss an episode — subscribe now

🎙 Subscribe to AgentStack Daily