
OpenAI ने GPT-6 लॉन्च किया, Gemini एजेंटिक हो गया, और EmbeddingGemma 2 सब कुछ देखता है
OpenAI ने GPT-6 को Intelligent UI के साथ वैश्विक स्तर पर लॉन्च किया। Google ने Gemini को कार्यस्थल एजेंट में बदल दिया है, और DeepMind की EmbeddingGemma 2... Show notes: https://tobyonfitnesstech.com/hi/podcasts/episode-122/
🎧 Listen to Episodeएपिसोड 122 — 9 अक्टूबर, 2026
[00:00] एपिसोड हुक
गूगल ने 8 अक्टूबर को एक क्लाउड इवेंट में जेमिनी को एक स्वायत्त वर्कप्लेस एजेंट में बदल दिया, जिसे पहले जेमिनी एंटरप्राइज़ ग्राहकों को शिप किया जा रहा है। यूनिफाइड एजेंट स्टेप-बाय-स्टेप प्रॉम्प्ट के बजाय हाई-लेवल उद्देश्यों को स्वीकार करता है, अपने आप मल्टी-स्टेप काम की योजना बनाता है, और जेमिनी के मॉडल लाइनअप में टास्क को रूट करता है जो हर स्टेप को चाहिए। StepFun ने उसी सप्ताह OpenRouter पर Step 5 Preview लिस्ट किया, 600 बिलियन में से 27 बिलियन एक्टिव पैरामीटर वाला एक स्पार्स Mixture-of-Experts डिज़ाइन, जो एजेंटिक वर्कलोड के लिए तैयार है। Nous Research ने Hermes Agent v0.21.6 जारी किया, जो v0.21.5 के बाद से लगभग 2,100 पुल रिक्वेस्ट को एक नए स्टेबल रिलीज़ पाइपलाइन द्वारा कटे पहले Docker और Hermes Cloud टैग में मिलाता है। GitHub ने CLI, Copilot ऐप, और VS Code में Copilot में लोकल कमांड सैंडबॉक्सिंग जोड़ी है।
[02:00] एजेंट स्टैक रिलीज़ रीडआउट: Hermes Agent v0.21.6
Hermes Agent v0.21.6 8 अक्टूबर को Nous Research से एक कंसोलिडेशन रिलीज़ के रूप में आया — v0.21.5 के बाद से लगभग 2,100 पुल रिक्वेस्ट एक ब्रांड-न्यू रिलीज़ पाइपलाइन द्वारा कटे पहले स्टेबल Docker और Hermes Cloud टैग में रोल किए गए। वह पाइपलाइन पब्लिश पर एक सिंगल अटेम्प्ट रेफरेंस, एक टेस्टेड Docker इमेज, और एक रिसीट टैग प्रोड्यूस करती है। Desktop, Termux पैकेज, और Microsoft Store बिल्ड अपने करंट वर्ज़न पर रहते हैं और अगली बंडल्ड रिलीज़ के साथ आगे बढ़ते हैं, इसलिए यह राउंड असल में कंटेनर और क्लाउड यूज़र्स के लिए है।
हेडलाइन नंबर मर्ज्ड विंडो का स्केल है: 8,342 बदली हुई फ़ाइलों में 8,867 नॉन-मर्ज कमिट, लगभग 772,000 लाइनें जोड़ी गईं और 225,000 हटाई गईं, 3,027 इश्यू बंद करते हुए। v0.22.0 तक इन सबके लिए क्यूरेटेड नोट्स का इंतज़ार है, लेकिन रिलीज़ पोस्ट जानबूझकर कुछ अधिक दिलचस्प चीज़ों को उद्देश्यपूर्ण तरीके से बुलाता है।
बिल्डर्स के लिए, सबसे ठोस बदलावों में CLI, TUI, और Desktop पर बोलते समय लाइव स्ट्रीमिंग ट्रांसक्रिप्शन शामिल है (stt.streaming फ्लैग), वॉइस टर्न को auxiliary.voice_chat के ज़रिए एक डेडिकेटेड मॉडल पर रूट किया जाता है जिसमें रीज़निंग डिफ़ॉल्ट रूप से बंद होती है, और third-party प्लगइन अब plugins.isolation "host" पर सेट होने पर प्रति-प्रोफाइल प्लगइन होस्ट में चलते हैं — जिसका मतलब है कि एक मिसबिहेविंग प्लगइन अब आपके मुख्य Hermes config को टच नहीं कर सकता। Desktop picker अब टॉप पर फेवरेट्स को पिन करता है, और rate-limited प्रोवाइडर आपको बताते हैं कि वे आपको क्यों और कब तक काटते हैं।
Local-AI यूज़र्स को Linux x64 और arm64 पर llama.cpp CUDA सपोर्ट मिलता है, जिसमें लोकल मॉडल सीधे hermes model के तहत लिस्टेड होते हैं। --short या --full फ्लैग के साथ summary-first hermes status आउटपुट भी है, review-pane diff scope selector जो Uncommitted, Branch, और Last turn को कवर करता है, keep-awake जो एक्टिव टर्न को ट्रैक करता है, और cron warnings जब schedule store unwritable हो जाती है। दो safety additions approval prompts के रूप में दिखते हैं: एक credential uploads के लिए, एक terminal commands में invisible Unicode characters के लिए।
कैटलॉग अब GPT-6.1 Sol और Claude Sonnet 5.5 को Haiku 5.5 के साथ लिस्ट करते हैं। विंडो में बहुत कुछ और है — दर्जनों community plugins, एक Discord सेटअप जो bot token को validate करता है और invite link प्रिंट करता है, core, Desktop, और TUI में pluggable layered language packs, और एक unified Kanban workflow — लेकिन रिलीज़ पोस्ट जानबूझकर उस सूची को v0.22.0 के लिए छोड़ देता है।
एक चीज़ जो अगली बार देखनी है: v0.22.0 टैग, जो v0.21.0 के बाद से सब कुछ के लिए curated highlights और complete contributor credits लेकर आने वाला है। यदि आप एक बड़ा अपग्रेड प्लान कर रहे हैं, तो those notes land होने तक इंतज़ार करना सुरक्षित रहेगा।
[03:43] StepFun, एजेंटिक कार्य के लिए OpenRouter पर Step 5 Preview सूचीबद्ध करता है
StepFun ने अपना नया फ्लैगशिप प्रीव्यू मॉडल, Step 5 Preview, को OpenRouter पर सूचीबद्ध किया है, जो एजेंटिक कार्य के लिए StepFun का फ्लैगशिप मॉडल है। आर्किटेक्चर एक स्पार्स मिक्सचर-ऑफ-एक्सपर्ट्स सेटअप है, जिसका अर्थ है कि किसी भी दिए गए क्वेरी पर कुल पैरामीटर का केवल एक अंश सक्रिय होता है: कुल 600 बिलियन में से 27 बिलियन सक्रिय। यह अनुपात मायने रखता है क्योंकि यह मॉडल को बिना हर कॉल पर पूर्ण इन्फरेंस लागत का भुगतान किए एक विशाल ज्ञान आधार रखने की अनुमति देता है। कॉन्टेक्स्ट लेंथ एक मिलियन टोकन पर है, इसलिए एक सिंगल सेशन में एक बड़ा कोडबेस या लंबे समय चलने वाले एजेंट की वर्किंग मेमोरी रखी जा सकती है। सूची OpenRouter पर है, जो अनुरोधों को अंतर्निहित प्रोवाइडर को रूट करता है, इसलिए बिल्डर्स इसे सिंगल API सतह के माध्यम से आज़मा सकते हैं। चूंकि यह एक प्रीव्यू मॉडल है, इसलिए उम्मीद करें कि StepFun के इटरेशन के साथ यह बदलेगा — अभी एजेंट लूप्स के प्रोटोटाइपिंग के लिए उपयोगी है, सामान्य रिलीज़ से पहले वेट और व्यवहार बदल सकते हैं। यदि आप कोडिंग एजेंट बनाते हैं, तो यह आपके वर्तमान डिफ़ॉल्ट के साथ साइड-बाय-साइड टेस्ट के लिए योग्य है, लेकिन जब तक यह प्रीव्यू में है तब तक मॉडल वर्जन को पिन करें और फॉलबैक वायर्ड रखें। यह 27B सक्रिय और 600B कुल पैरामीटर के साथ स्पार्स मिक्सचर-ऑफ-एक्सपर्ट्स आर्किटेक्चर का उपयोग करता है, सॉफ्टवेयर इंजीनियरिंग में मजबूत प्रदर्शन करता है, और 1,000,000 टोकन कॉन्टेक्स्ट लेंथ का समर्थन करता है। मॉडल OpenRouter द्वारा सूचीबद्ध है और OpenRouter step-5-preview मॉडल पेज पर पहुंचा जा सकता है।
[05:06] Google, Gemini को एक वर्कप्लेस एजेंट में बदल देता है जो निर्देशों के बजाय उद्देश्य लेता है
Google ने 8 अक्टूबर को अपने क्लाउड इवेंट में Gemini को जो उसने एजेंटिक युग कहा, उसमें धकेल दिया, व्यवसायों से शुरू करते हुए। CEO सुंदर पिचाई की पिच स्केल की थी: लगभग 1 बिलियन Gemini मासिक उपयोगकर्ता, और फोर्च्यून 100 में लगभग 90 प्रतिशत Gemini Enterprise पर। नया एजेंट पहले वहां उतरता है क्योंकि, जैसा कि पिचाई ने कहा, वहीं पर कठिन सुरक्षा और स्केल समस्याओं को हल किया जाता है।
मैकेनिकली क्या बदला: Google Cloud के थॉमस कुरियन ने कहा कि उपयोगकर्ता एजेंट को "निर्देशों के साथ-साथ उद्देश्य" सौंप सकते हैं। यह कार्य की योजना बनाता है, कस्टम स्किल्स लोड करता है, और आंतरिक सिस्टम से कनेक्ट होता है जिसमें Google Workspace, Microsoft 365, Slack, Jira, Confluence, Git, BigQuery, Databricks, Postgres, और Snowflake शामिल हैं। अटैचमेंट फ़ाइलों, फ़ोल्डरों, या फ़ाइलों और स्किल्स के प्रोजेक्ट पैक को बंडल कर सकते हैं।
मॉडल डिफ़ॉल्ट रूप से चुने जाते हैं, लेकिन उपयोगकर्ता ओवरराइड कर सकते हैं, Anthropic का Claude पहला थर्ड-पार्टी विकल्प है, और बाद में ओपन सोर्स और प्राइवेट मॉडल का वादा किया गया है। टूलिंग मॉडल कॉन्टेक्स्ट प्रोटोकॉल पर चलती है, इसलिए नेटवर्क के अंदर या बाहर कोई भी MCP सर्वर प्लग इन कर सकता है।
पर्सना विवरण सबसे ठोस है: एजेंट को अपना Workspace अकाउंट मिलता है — अपना ईमेल, अपना कॉन्टेक्स्ट, और एजेंट के लिए जिम्मेदार ऑडिट ट्रेल। यह ऑर्ग चार्ट, समय क्षेत्र, अप्रूवर और कैलेंडर पढ़ता है, और आप इसे टैग, ईमेल, शेयर या ग्रुप चैट द्वारा पहुंच सकते हैं। टास्क इनबॉक्स इसके विचार, उप-एजेंटों को सौंपे गए कार्य, लोड की गई स्किल्स और इसकी प्रगति दिखाता है।
यह iOS, Android, Windows, Mac, कमांड लाइन, Workspace, Microsoft 365, ServiceNow, और Slack पर खुलता है। प्रारंभिक परीक्षकों में On, Shopify, और PayPal शामिल थे; नामित एंटरप्राइज़ ग्राहकों में BNP Paribas, Merck, Orange Spain, और Ulta Beauty शामिल हैं। Google ने खर्च नियंत्रण भी जोड़े — मल्टी-मॉडल ऑर्केस्ट्रेशन, स्मार्ट रूटिंग, और रियल-टाइम कैप — ताकि कोई भागता हुआ टास्क बजट में तोड़ न सके।
आगे देखें: जब यह एजेंट Gemini Enterprise से परे रोल आउट होगा, और क्या मॉडल पिकर किसी डेवलपर API में सतह पर आएगा, न कि केवल उपभोक्ता इंटरफ़ेस के अंदर।
[07:05] GitHub Copilot अब अपने कमांड्स को आपकी मशीन पर सैंडबॉक्स करता है
GitHub Copilot अब अपने कंप्यूटर पर चलाई जाने वाली कमांड्स को एक लोकल सैंडबॉक्स में रैप कर सकता है। यह फीचर 7 अक्टूबर से Copilot CLI, Copilot ऐप, और VS Code सेशन में Agent Host का उपयोग करते हुए आम तौर पर उपलब्ध है।
मुद्दा यह है कि एक स्वायत्त एजेंट को आपकी मशीन पर कार्य करने की अनुमति देना है, बिना इसे आपकी तरह कार्य करने की अनुमति दिए। जब Copilot एक टूल कॉल फायर करता है, तो यह अब आपके या आपकी कंपनी द्वारा परिभाषित पॉलिसी के तहत चलता है, और वह पॉलिसी कॉल को अधिकांश फाइलसिस्टम, खुले इंटरनेट, आपके लोकल नेटवर्क, Git क्रेडेंशियल्स, और GitHub CLI क्रेडेंशियल्स से दूर रख सकती है। यदि एजेंट कुछ करने की कोशिश करता है जो पॉलिसी मना करती है, तो यह बस नहीं होता।
अंदरूनी तौर पर, एन्फोर्समेंट Microsoft eXecution Container, या MXC द्वारा संभाली जाती है, जो एक पॉलिसी फाइल को Windows, macOS, और Linux पर नेटिव ऑपरेटिंग-सिस्टम कंट्रोल में अनुवादित करती है। प्रत्येक प्लेटफॉर्म पर सैंडबॉक्स प्रिमिटिव्स अलग दिखते हैं, इसलिए एक सामान्य पॉलिसी का मतलब है कि डेवलपर्स और सिक्योरिटी टीमों को केवल एक बार नियम लिखने होते हैं। वही पॉलिसी लोकल टूल्स को कवर करती है जिन्हें Copilot प्लग इन करता है, जिसमें लोकल MCP सर्वर और लैंग्वेज सर्वर शामिल हैं जहां वे इंटीग्रेशन समर्थित हैं, इसलिए बाउंड्री केवल एजेंट तक सीमित नहीं है। टूल आइसोलेशन को मॉडल चॉइस से जानबूझकर अलग रखा गया है, इसलिए नियम चाहे जो भी मॉडल Copilot उपयोग कर रहा हो काम करते हैं।
बिल्डर्स के लिए, व्यावहारिक अपसाइड यह है कि अपने लैपटॉप को सौंपे बिना एक रियल प्रोजेक्ट पर एजेंट को अधिक जिम्मेदारी देने की अनुमति है। आप परिभाषित करते हैं कि यह कौन से डायरेक्टरीज पढ़ और लिख सकता है, कौन से होस्ट्स इसे कॉल करने की अनुमति है, और कौन से क्रेडेंशियल्स यह देख सकता है। एंटरप्राइज एडमिन इसे आगे ले जा सकते हैं और मैनेज्ड सेटिंग्स के माध्यम से सैंडबॉक्स की आवश्यकता ले सकते हैं, जिसमें पॉलिसीज शामिल हैं जिन्हें डेवलपर्स कमजोर नहीं कर सकते। GitHub इस फीचर को Copilot के साथ बिना किसी अतिरिक्त लागत के शामिल कर रहा है।
अगला देखने योग्य: डिफॉल्ट लोकल-पॉलिसी प्रीसेट कितने आक्रामक साबित होते हैं सामान्य Python और Node वर्कफ्लो के लिए, जहां पैकेज इंस्टॉल और लोकल डेव सर्वर काफी व्यापक एक्सेस चाहते हैं।
[09:05] GitHub Copilot CLI अब लोकल Ollama मॉडल खोज सकता है
GitHub Copilot CLI अब आपकी मशीन पर पहले से चल रहे लोकल मॉडल्स को नोटिस करता है। वर्शन 1.0.94-0 से शुरू होकर, Copilot CLI में /model कमांड एक चल रहे Ollama इंस्टेंस से समर्थित मॉडल्स को आपके कॉन्फ़िगर्ड ऑप्शन्स और GitHub द्वारा प्रदान किए गए क्लाउड मॉडल्स के साथ सूचीबद्ध करेगा।
फ्लो जानबूझकर नॉन-डिस्ट्रक्टिव है। डिस्कवरी स्वचालित रूप से कुछ भी नहीं जोड़ती। आप सूची से एक मॉडल चुनते हैं, इसके प्रोवाइडर और एंडपॉइंट की समीक्षा करते हैं, फिर "Add and use for this session" या "Add without switching" चुनते हैं। एक बार पुष्टि होने के बाद, मॉडल वर्तमान सेशन में काम करता है, बिना किसी CLI रीस्टार्ट की आवश्यकता के।
दो महत्वपूर्ण गार्डरेल बताए गए हैं। पहला, यह केवल डिस्कवरी है: Ollama और मॉडल पहले से इंस्टॉल होने चाहिए। CLI आपके लिए रनटाइम इंस्टॉल नहीं करेगा या वेट्स पुल नहीं करेगा। मॉडल को टूल कॉलिंग और स्ट्रीमिंग का भी समर्थन करना होगा, इसलिए हर Ollama टैग सामने नहीं आएगा। दूसरा, जब कुछ गलत होता है, जैसे Ollama पहुंच योग्य नहीं है, तो फेलियर पिकर में ही सही व्याख्या के साथ दिखाई देता है, ताकि आपको पता चले कि क्या ठीक करना है।
यह फीचर GitHub Copilot ऐप के प्रोवाइडर एक्सपीरियंस को दर्शाता है, जहां आप Settings > Model providers के तहत समर्थित प्रोवाइडर्स जोड़ते हैं। हालांकि, CLI में एक लोकल पिक ऑफलाइन मोड को फ्लिप नहीं करता है या GitHub टेलीमेट्री को म्यूट नहीं करता। ऑफलाइन मोड अभी भी एक स्पष्ट चॉइस है, COPILOT_OFFLINE=true से सेट किया गया, और उस स्थिति में भी एक रिमोट प्रोवाइडर अभी भी नेटवर्क पर प्रॉम्प्ट्स और कोड कॉन्टेक्स्ट प्राप्त कर सकता है, यह जानना महत्वपूर्ण है यदि आप संवेदनशील कोड हैंडल कर रहे हैं।
GitHub ने भी स्थानीय मॉडल के लिए एक बुद्धिमान रूटिंग सुविधा की घोषणा की है, जिसके बारे में विवरण Microsoft Command Line ब्लॉग पर उपलब्ध होगा और उपलब्धता आएगी। अभी के लिए, व्यावहारिक कदम सरल है: Ollama को चालू रखें, Copilot CLI खोलें, और /model टाइप करें; आपके स्थानीय विकल्प वहां होंगे।
[10:49] Perplexity एक छोटा और एक बड़ा embedder लाता है
Perplexity ने pplx-embed-v2-late जारी किया है, एक नया एम्बेडिंग मॉडल जो दो आकारों में आता है। छोटा वाला 600 मिलियन पैरामीटर का है, जिसे लैपटॉप और फोन जैसे एज डिवाइस पर चलाने के लिए बनाया गया है। बड़ा वाला 9 बिलियन पैरामीटर का है, जिसका उद्देश्य उच्च-गुणवत्ता वाली खोज इंडेक्स बनाना है। दोनों MIT-लाइसेंस्ड हैं, यानी कोई भी उन्हें डाउनलोड कर सकता है, स्थानीय रूप से चला सकता है, और Perplexity को भुगतान किए बिना संशोधित कर सकता है।
हेडलाइन नंबर MADQA पर 92.4% है, जिसे 9B वेरिएंट ने प्राप्त किया है। यह इसे अन्य शीर्ष-स्तरीय एम्बेडर्स के साथ बातचीत में रखता है। दूसरी ओर सबसे कमजोर स्कोर है: ViDoRe v3 Markdown पर 61.2%, जो सुझाव देता है कि मॉडल Markdown-स्टाइल दस्तावेज़ों से पुनर्प्राप्त करने में कम विश्वसनीय है। यदि आपका स्टैक Markdown या रेंडर की गई दस्तावेज़ सामग्री पर भारी है, तो आप इसे प्रोडक्शन के लिए चुनने से पहले परीक्षण करना चाहेंगे।
व्यावहारिक अपील सेल्फ-होस्ट लाइसेंस और एज क्रेडेंशियल्स के संयोजन में है। 600-मिलियन-पैरामीटर एम्बेडर इतना छोटा है कि इसे डेस्कटॉप या मोबाइल ऐप के अंदर बंडल किया जा सकता है, जो सेमांटिक सर्च, डिडुप्लिकेशन, और समानता सुविधाओं का दरवाजा खोलता है जो नेटवर्क कॉल के बिना काम करती हैं। 9B मॉडल उन टीमों के लिए उपयुक्त है जिन्हें अपने नियंत्रण में इन्फ्रास्ट्रक्चर पर अधिकतम पुनर्प्राप्ति गुणवत्ता की आवश्यकता है।
ध्यान देने योग्य बात यह है कि यह मिश्रित-सामग्री कॉर्पोरा पर कैसा प्रदर्शन करता है, क्योंकि Markdown कमजोरी वास्तविक दुनिया की पुनर्प्राप्ति स्टैक के लिए सबसे महत्वपूर्ण है। सेल्फ-होस्टेड एम्बेडिंग चुपचाप बेहतर हो रही हैं, और यह रिलीज उस दिशा में एक उल्लेखनीय कदम है।
[12:12] Google DeepMind का EmbeddingGemma 2 टेक्स्ट, इमेज, ऑडियो और वीडियो को एक 768-d वेक्टर में डालता है
Google DeepMind ने EmbeddingGemma 2 को ओपन-सोर्स किया है, एक 740-मिलियन-पैरामीटर एम्बेडिंग मॉडल जो टेक्स्ट, कोड, छवियों, वीडियो और ऑडियो को एक 768-आयामी वेक्टर में बदल देता है। कार्ड इसे एक ओपन मल्टीमॉडल एम्बेडिंग मॉडल के रूप में वर्णित करता है जो Gemma 4 की आर्किटेक्चरल प्रगति पर बनाया गया है, Apache 2.0 के तहत शिप होता है, और Unsloth ने पहले से ही स्थानीय इंफेरेंस के लिए GGUF बिल्ड प्रकाशित किया है। एक जेनरेटिव मॉडल के विपरीत, EmbeddingGemma 2 सेमांटिक सर्च, रिट्रीवल, क्लासिफिकेशन और क्लस्टरिंग के लिए डिज़ाइन किया गया है। इसका 270-मिलियन-पैरामीटर टेक्स्ट बैकबोन — एक 130M ट्रांसफॉर्मर प्लस एक 140M एम्बेडर — टेक्स्ट-ओनली वर्कलोड के लिए अकेले चल सकता है। विज़न (170M) और ऑडियो (300M) एनकोडर मॉड्यूलर हैं, इसलिए टेक्स्ट-एंड-इमेज सर्च करने वाला डेवलपर ऑडियो पाथ को हटा सकता है और प्रभावी फुटप्रिंट को 440M पैरामीटर तक कम कर सकता है। सभी चार मोडलिटीज 8,192-टोकन कॉन्टेक्स्ट विंडो साझा करती हैं, और इनपुट <|image|>, <|video|>, और <|audio|> जैसे प्लेसहोल्डर टोकन का उपयोग करके इंटरलीव किए जा सकते हैं। कार्ड Matryoshka Representation Learning का भी दस्तावेज़ीकरण करता है, जो 768-आयामी आउटपुट को 512, 256, या 128 आयामों में ट्रंकेट करने और पुनः सामान्यीकृत करने की अनुमति देता है। 256d पर, MTEB-मल्टीलिंगुअल स्कोर केवल 61.36 से 60.41 तक गिरता है — लगभग 3x स्टोरेज कटौती के साथ न्यूनतम गुणवत्ता हानि। 128d पर, मल्टीमॉडल बेंचमार्क अधिक तेजी से गिरते हैं, इसलिए कार्ड आपके स्वयं के वर्कलोड के विरुद्ध सत्यापन करने की सिफारिश करता है। दो व्यावहारिक चेतावनियां उभरती हैं। पहली, bfloat16 या float32 में इंफेरेंस चलाएं; float16 में मॉडल NaN लौटाता है या बिना किसी त्रुटि के चुपचाप खराब एम्बेडिंग लौटाता है। EmbeddingGemma 2 EmbeddingGemma 1 का उत्तराधिकारी है और दावा करता है कि कोड एम्बेडिंग टास्क पर लगभग 14% सापेक्ष सुधार है। EmbeddingGemma 2 Apache 2.0 के तहत शिप होता है और sentence-transformers के माध्यम से मॉडल आईडी google/embeddinggemma-2 के साथ लोड होता है, Unsloth GGUF बिल्ड भी उपलब्ध है। मॉडल टेक्स्ट, कोड, छवियों, वीडियो और ऑडियो को एक एकीकृत 768-आयामी एम्बेडिंग स्पेस में मैप करता है, वैकल्पिक मॉड्यूलर विज़न और ऑडियो एनकोडर के साथ। प्रकाशक रिपोर्ट करता है कि MTEB-code v1 पर EmbeddingGemma 2 का स्कोर 78.68 है बनाम EmbeddingGemma 1 का 68.76, जबकि MTEB-मल्टीलिंगुअल v2 अनिवार्य रूप से समतल है 61.36 बनाम 61.15। मॉडल कार्ड चेतावनी देता है कि float16 इंफेरेंस NaN या चुपचाप खराब एम्बेडिंग लौटाता है और 128 आयामों में ट्रंकेट करने से मल्टीमॉडल गुणवत्ता में सार्थक गिरावट आती है।
[14:19] NVIDIA का PivotOPD एजेंट्स को अपनी शुरुआती गलतियों को पकड़ना सिखाता है
NVIDIA के शोधकर्ताओं ने PivotOPD पेश किया है, एक प्रशिक्षण व्यंजन जो मल्टी-टर्न AI एजेंट्स में सबसे कष्टदायक विफलता मोड में से एक पर लक्षित है: शुरुआत में गलत विकल्प पर अटक जाना और फिर उससे कभी उबर न पाना।
यह विधि on-policy distillation के माध्यम से काम करती है, जो एक शानदार तरीका है यह कहने का कि एजेंट उन trajectories से सीखता है जो उसने वास्तव में अपने प्रशिक्षण रन के दौरान उत्पन्न किए थे, न कि विशेषज्ञ प्रदर्शनों की निश्चित लाइब्रेरी से। प्रशिक्षण प्रक्रिया विशेष रूप से pivotal mistakes को वेटेज बढ़ाती है, उन शुरुआती बारीकियों को जहां एजेंट ने एक कॉल लगाया जिसने बाद में सब कुछ आकार दिया, ताकि मॉडल उन्हें वास्तविक समय में पहचानने और ठीक करने का अभ्यास कर सके।
head-to-head testing में, PivotOPD ने 13 वैकल्पिक प्रशिक्षण सेटअप के खिलाफ तीन एजेंट benchmarks पर सबसे अच्छा औसत स्कोर हासिल किया। फ्रेमिंग मायने रखती है क्योंकि एजेंट benchmarks अक्सर बर्दाश्त नहीं करने वाले होते हैं: एक ही बुरा शुरुआती निर्णय बाकी रन में बह जाता है, इसलिए एक विधि जो विशेष रूप से उन pivotal turns को लक्षित करती है, वह सीधे failure mode को निशाना बना रही है।
यह शोध एक NVIDIA टीम से है और 8 अक्टूबर को MarkTechPost के माध्यम से सामने आया। ध्यान देने योग्य बात यह है कि प्रशिक्षण कोड बाहरी टीमों तक पहुंचता है या नहीं, क्योंकि recovery behavior तब ही दूसरे builders के लिए उपयोगी बनता है जब वे इसे अपने स्वयं के एजेंट stacks पर reproduce कर सकें। तब तक, व्यावहारिक takeaway सैद्धांतिक है: शुरुआती गलतियों से recovery एक trainable property है, न कि कुछ ऐसा जो builders को base model की सीमा के रूप में स्वीकार करना हो।
[15:45] शोध डाइजेस्ट: Worlds Made of Code, Agents That Pass Notes Forward
Mirros Lab के शोधकर्ता AI agents को worlds के अंदर प्रशिक्षित कर रहे हैं जो code के रूप में लिखे गए हैं और एक सीखे हुए neural video renderer के माध्यम से देखे जाते हैं। नियम, वस्तुएं और लक्ष्य एक निष्पादन योग्य program में रहते हैं, और renderer उस ज्यामिति को camera frames में बदल देता है जो एजेंट वास्तविक समय में देखता है, एक H100 पर 480 by 832 पर 30 फ्रेम प्रति सेकंड की गति से। pretrained agents खेलते हैं, और प्रत्येक राउंड के बाद वे लिखते हैं कि क्या काम किया एक notes file में जो अगले राउंड के agents को बीज देता है। चार राउंड में, एक wheel loader पत्थरों को साफ करने से आगे बढ़कर एक bunker में एक पहुंचाने और 31 सेकंड बचाकर पार्क करने लगा; एक single-lane bridge swap ने agents को bank पर yield करना और बिना प्रतीक्षा किए re-center करना सिखाया। वही loop hide-and-seek, sheep herding, और एक 60-सेकंड dog engagement drill में चला, प्रत्येक राउंड वहां से शुरू होता है जहां last playbook छोड़ा था। यह मायने रखता है: वातावरण जो inspectable code, real-time rendering, और round-to-round note-taking को जोड़ते हैं, researchers को navigation, manipulation, और tool use में agent skills को एक साझा सेटअप में बढ़ाने का एक तेज तरीका दे सकते हैं।
[16:52] OpenAI GitHub पर Formal Proofs के साथ Math Breakthroughs साझा करता है
OpenAI ने 6 अक्टूबर को गणित में खुली समस्याओं पर नए परिणाम प्रकाशित किए, जो एक आंतरिक frontier model से आए हैं। जो रिलीज को असामान्य बनाता है वह यह है कि कंपनी ने सिर्फ यह नहीं बताया कि model ने क्या पाया। उसने Lean proof formalizations और सहायक शोध विवरण GitHub पर पोस्ट किए ताकि काम की जांच और जांच की जा सके।
Lean एक formal proof assistant है, गणित के लिए एक प्रोग्रामिंग-शैली का वातावरण जहां तर्क में प्रत्येक चरण को सिस्टम द्वारा लागू किए गए नियमों का पालन करना होता है। जब एक proof Lean में formalize किया जाता है, तो एक मनुष्य या AI इसे टूल के माध्यम से चला सकता है और पुष्टि कर सकता है कि निष्कर्ष वास्तव में axioms से अनुसरण करता है। यह मायने रखता है क्योंकि गणित के पत्र, यहां तक कि प्रशंसित ones, सूक्ष्म अंतराल छिपा सकते हैं जो सालों बाद ही सामने आते हैं। एक Lean-checked proof वह सबसे नज़दीकी है जो इस क्षेत्र को तर्क की transcript प्राप्त हो सकती है।
OpenAI रिलीज के लिए, कोई भी जो Lean जानता है वह repository को clone कर सकता है, proof scripts पढ़ सकता है, और देख सकता है कि model ने कौन सी समस्याओं को संबोधित किया और तर्क कैसे बनाए गए थे। शोधकर्ता formalizations की तुलना prose writeup से कर सकते हैं देखने के लिए कि model कहां पर सटीक है और कहां पर gloss कर रहा होगा।
builders और AI engineers के लिए, दिलचस्प signal यह है कि frontier labs अब formal verification को first-class research output के रूप में मान रहे हैं। वही वर्कफ़्लो, जिसमें model को proof प्रस्तावित करने देना, फिर इसे formalize करना, फिर जांचना, अब एक generalizable pattern बनने लगा है किसी भी high-stakes reasoning task के लिए जहां आप एक правдоподобно लगने वाले जवाब से अधिक चाहते हैं।
रिलीज़ के बारे में The Hacker News थ्रेड ने तेरह सौ से अधिक अपवोट प्राप्त किए, जो गणित और AI समुदायों से ज़बरदस्त रुचि को दर्शाता है। आगे देखने योग्य है: क्या स्वतंत्र समूह प्रमाणों को दोहराते हैं, और क्या OpenAI अंतर्निहित मॉडल व्यवहार को और अधिक रिलीज़ करता है ताकि दूसरे लोग प्रयोगशाला द्वारा चुनी गई समस्याओं के अलावा अन्य समस्याओं पर इस दृष्टिकोण का तनाव-परीक्षण कर सकें।
[18:46] Cactus Compute 17-मेगाबाइट स्पीच रिकग्निशन शिप करता है जो स्थानीय रूप से चलता है
Cactus Compute ने Whistle रिलीज़ किया, एक ओपन स्पीच रिकग्निशन मॉडल जो 16.9 MB में फिट बैठता है और किसी भी बाहरी डिपेंडेंसी के बिना उनके C++ इंजन के माध्यम से डिवाइस पर चलता है। मॉडल 16 kHz मोनो ऑडियो के 30 सेकंड तक को अंग्रेज़ी, जर्मन, फ्रेंच, स्पेनिश, इटालियन, डच और पोलिश में हैंडल करता है, जिसमें स्वचालित भाषा पहचान परिणाम को टोकन के रूप में एमिट करती है बजाय इसे बैंड के बाहर लौटाने के। पहले टोकन की विलंबता Apple M4 Pro पर पाँच सेकंड ऑडियो के लिए 5.9 ms, दस सेकंड के लिए 11.1 ms, और तीस सेकंड के लिए 36.3 ms चलती है। Whistle, LibriSpeech test-clean और test-other, SPGISpeech, Earnings-22, और FLEURS मल्टीलिंगुअल एवरेज पर Whisper base से बेहतर प्रदर्शन करता है जबकि 145.3 MB पर एक-नौवां डिस्क स्पेस आवश्यकता रखता है। आर्किटेक्चर 512 width पर आठ Simple Attention एनकोडर ब्लॉक्स और आठ Laddered Simple Attention डिकोडर ब्लॉक्स के साथ Needle को मिरर करता है, प्रत्येक डिकोडर लेयर में gated cross-attention जोड़ता है जो क्लिप लोड पर एक बार एनकोडर आउटपुट पढ़ता है और पाँच-बीम सर्च में इसे कैश करता है। वही बाइनरी जो टेक्स्ट टास्क के लिए Needle लोड करती है वह इसके साथ Whistle भी लोड कर सकती है, और needle_complete टूल कॉल में सीधे ऑडियो को ट्रांसक्राइब करता है, कॉलर को रॉ ट्रांसक्रिप्ट एक्सपोज़ किए बिना function_calls, audio_text और timing के साथ एक JSON ऑब्जेक्ट लौटाता है। Prebuilt बाइनरीज़ सत्रह टारगेट के लिए उपलब्ध हैं जो macOS, Linux, Android, iOS, watchOS, Windows on ARM, RISC-V, MIPS, ब्राउज़र और WASI कंपोनेंट को शामिल करती हैं। वेट Hugging Face पर हैं, इंजन Cactus-Compute/needle3 पर है, और सोर्स GitHub पर है।
[20:14] OpenAI GPT-6 को Intelligent UI के साथ वैश्विक रूप से रोल आउट करता है
OpenAI ने 7 अक्टूबर, 2026 को ChatGPT में GPT-6 को वैश्विक रूप से रोल आउट करना शुरू किया, और कंपनी केवल अंडर द हुड मॉडल पर नहीं बल्कि अनुभव पर ज़ोर दे रही है। मुख्य फीचर कुछ है जिसे OpenAI "Intelligent UI" कह रहा है, जो ChatGPT रिप्लाई के अंदर सीधे विज़ुअल्स और इंटरैक्टिव एक्सपीरियंस सरफेस करता है, उपयोगकर्ताओं को दूसरी टैब में कॉपी करने के लिए टेक्स्ट की दीवार के साथ न छोड़ना।
लॉन्च वास्तविक ध्यान के साथ उतरा। OpenAI की घोषणा ने पहले दिन Hacker News पर 748 का स्कोर हासिल किया, जिसमें डेवलपर्स और जिज्ञासु उपयोगकर्ता थ्रेड में पहली छापें, स्क्रीनशॉट और वे सवाल साझा करने के लिए उमड़ पड़े जिनके जवाब वे एक नए फ्लैगशिप से इंतज़ार कर रहे थे। OpenAI रोलआउट के हिस्से के रूप में तेज़ रिस्पॉन्स टाइम को भी प्रमोट कर रहा है, GPT-6 को रोज़मर्रा के उपयोग में ध्यान देने योग्य रूप से तेज़ बता रहा है। घोषणा के साथ प्रकाशित कॉन्फ़िगरेशन इस वर्शन के लिए 4096 max-tokens सेटिंग निर्दिष्ट करता है।
इसका व्यावहारिक अर्थ है: ChatGPT एक जगह बन रहा है जहाँ आप चीज़ों को देख सकते हैं, छेड़ सकते हैं और उपयोग कर सकते हैं बजाय इसके कि उन्हें बस पढ़ें। बिल्डर्स के लिए दिलचस्प सवाल यह है कि किस तरह के ऐप्स और फ्रंट-एंड एक चैट सर्फेस के ऊपर असेंबल किए जा सकते हैं जो पहले से ही जानता है कि इंटरैक्टिव कंपोनेंट्स को कैसे रेंडर करना है, और क्या वही बिल्डिंग ब्लॉक्स अंततः API में भी दिखाई देते हैं।
एक बात देखने योग्य है कि तीसरे पक्ष के टूल्स Intelligent UI-स्टाइल कंपोनेंट्स को कितनी जल्दी अपनाते हैं, और इसमें से कितना OpenAI-ओनली है बनाम कुछ ऐसा जो डेवलपर्स अपने स्वयं के प्रोडक्ट्स में शिप कर सकते हैं।
[21:45] रिसर्च डाइजेस्ट: एक सर्विंग इंजन जो मिड-रिस्पॉन्स में मॉडल्स के बीच स्विच करता है
TokenRouter एक सर्विंग इंजन है जो एक NeurIPS 2026 पेपर से है जो एक सिंगल रिस्पॉन्स पर एक छोटे और बड़े मॉडल को सहयोग करने देता है, टोकन दर टोकन स्विच करता है। हेडलाइन रिज़ल्ट: R2R रेफरेंस पर, इंजन प्रति सेकंड 372.48 टोकन तक पहुँचता है बनाम आधिकारिक सेटअप के लिए 134.90, लगभग 2.76 गुना तेज़।
सिस्टम प्रत्येक मॉडल की KV cache को स्थानीय रखता है और केवल टोकन सफिक्स प्लस राउटिंग स्टेट को उप-सर्वर के बीच भेजता है। एक शेड्यूलर दोनों मॉडलों पर अनुरोधों को बैच करता है और समर्पित टोकन प्रति इकाई समय को अधिकतम करने के लिए एक विलंबित-बैचिंग थ्रेशोल्ड चुनने के लिए एक असतत-समय मार्कोव श्रृंखला का उपयोग करता है। CUDA graphs और अतुल्यकालिक निष्पादन छोटे मॉडल को डिकोडिंग जारी रखने देते हैं जबकि बड़ा मॉडल समानांतर में चलता है।
आठ-A100 होस्ट पर Qwen3 जोड़ियों पर, लाभ 1.99 गुना (4B over 8B) से 3.21 गुना (0.6B over 8B) तक होते हैं। समवर्तितता 16 पर, इंजन प्रति सेकंड 630.57 टोकन समग्र और 39.41 प्रति उपयोगकर्ता देता है। 3.7 GB/s RoCE पर मल्टी-नोड परिनियोजन मामूली ओवरहेड जोड़ता है।
बिल्डर्स के लिए, एक सस्ता फ्रंट-एंड मॉडल बिना थ्रूपुट खोए एक बड़े पार्टनर को हार्ड टोकन सौंप सकता है, जब तक कि परिनियोजन में शेड्यूलर और प्रति-मॉडल KV बहीखाता शामिल हो।
[22:54] Google Cloud का Gemini Agent: एंटरप्राइज वर्क के लिए एक प्रॉम्प्ट
Google Cloud ने Gemini agent लॉन्च किया है, एक एकल क्लाउड-होस्टेड इंटरफ़ेस जो एंटरप्राइज वर्क के लिए एक सार्वभौमिक सतह के रूप में स्थित है। घोषणा के अनुसार, यह प्रश्नों के उत्तर देता है, ज्ञान कार्य करता है, मीडिया बनाता है, और कोड लिखता है और चलाता है, यह सब एक प्रॉम्प्ट बॉक्स और एक API से।
यह समेकन मुख्य बात है। एक सिस्टम में रिसर्च अनुरोध रूट करने, दूसरे में दस्तावेज़ कार्य, और एक विकास वातावरण में कोड निष्पादन के बजाय, Gemini agent सब कुछ के लिए एक प्रॉम्प्ट सतह प्रदर्शित करता है। एंटरप्राइज टीमें जो पहले से Google Cloud के अंदर डेटा संग्रहीत कर रही हैं, उनके वर्कफ़्लो के लिए एक सरल लक्ष्य मिलता है। डेवलपर्स समान API एंडपॉइंट के माध्यम से विविध क्षमताओं को चलाते हैं, अलग-अलग एकीकरणों को जोड़ने के बजाय।
बिल्डर्स के लिए, व्यावहारिक लाभ Google Cloud पारिस्थितिकी तंत्र के अंदर ऑर्केस्ट्रेशन ओवरहेड में कमी है, कई के बजाय एक एकीकरण। दिलचस्प खुला सवाल यह है कि एक प्रॉम्प्ट सतह मीडिया जेनरेट करने और कोड निष्पादित करने जैसे अलग-अलग कार्य प्रकारों में कितनी अच्छी तरह काम करती है। सबूत इसमें होगा कि एक ही बातचीत एक रिसर्च अनुरोध से बिना संदर्भ या गुणवत्ता खोए एक कोडिंग अनुरोध में कितनी साफ़ तरह बह सकती है। जो ग्राहक अभी पायलट कर रहे हैं, वे बाकी सबको बताएंगे कि सार्वभौमिक सतह काम करती है या नहीं।