Mistral Large 4, EmbeddingGemma 2, और OpenTPU

एपिसोड 121 — 07 अक्टूबर, 2026

[00:00] एपिसोड हुक

Mistral ने Large 4 का एक सार्वजनिक प्रीव्यू खोला है, Google टेक्स्ट, इमेज, वीडियो और ऑडियो को एक लोकल सर्च मॉडल में ला रहा है, और OpenTPU एक AI एक्सेलेरेटर डिज़ाइन शेयर कर रहा है। चलिए Mistral से शुरू करते हैं।

[02:00] Mistral Large 4 सुरक्षा और विज़न लाभ के साथ सार्वजनिक प्रीव्यू खोलता है

Mistral ने अपने सबसे बड़े मॉडल का सार्वजनिक प्रीव्यू खोला है, जिसका उपनाम Le Chonk है। ML4 एक 1 ट्रिलियन पैरामीटर का मूल रूप से मल्टीमॉडल मॉडल है जिसमें 49 बिलियन सक्रिय पैरामीटर हैं। Mistral रिपोर्ट करता है कि ML4 Artificial Analysis Cyber Index पर शीर्ष पाँच मॉडलों में रैंक करता है और चीन के बाहर विकसित ओपन-वेट मॉडलों में अग्रणी है। पब्लिशर रिपोर्ट करता है कि विज़ुअल ग्राउंडिंग पर, ML4 Dense 200 पर GPT-6-Astra को पीछे छोड़ता है, 41% के मुकाबले 42% स्कोर करता है। ML4 आज Mistral Studio पर प्रीव्यू API के रूप में उपलब्ध है, महीने के अंत तक ओपन वेट का वादा है। सक्रिय पैरामीटर मॉडल का वह हिस्सा है जो किसी विशेष टोकन के लिए उपयोग किया जाता है, पूरे वेट के संग्रह के बजाय। यह अंतर समझाने में मदद करता है कि इतने बड़े मॉडल अपने कंप्यूटेशन को कैसे वितरित करते हैं। सुरक्षा सूचकांक वास्तविक सॉफ्टवेयर में खामियों को खोजने और ठीक करने का मूल्यांकन करता है। Mistral कहता है कि ML4 ने एक अलग कार्य पर 82 प्रतिशत स्कोर किया जिसमें उसे एक वास्तविक कमज़ोरी को पुनः उत्पन्न करना और उसे पैच करना था, और चालीस Cybench चुनौतियों में से 93 प्रतिशत हल किया। ये विशिष्ट कार्यों से रिपोर्ट किए गए परिणाम हैं। वे हर सुरक्षा समस्या पर सफलता स्थापित नहीं करते। विज़ुअल-ग्राउंडिंग तुलना एक इमेज में मायने रखने वाली चीज़ों का पता लगाने के बारे में है, पब्लिशर सैटेलाइट इमेजरी और इंजीनियरिंग ड्राइंग में अनुप्रयोगों का वर्णन करता है। Mistral ने अपने यूरोपीय डेटा सेंटर में 3,800 NVIDIA Grace Blackwell GPU पर मॉडल को ट्रेन किया। सेल्फ-होस्टिंग पर विचार करने वाली टीमों के लिए, तत्काल पहुँच प्रीव्यू सर्विस है; घोषित वेट रिलीज़ बाद में आएगी।

[02:02] EmbeddingGemma 2 लोकल डिवाइस पर मल्टीमॉडल सर्च लाता है

Google कई प्रकार की मीडिया को एक खोजने योग्य प्रतिनिधित्व में बदल रहा है। एम्बेडिंग अर्थ की तुलना करने के लिए उपयोग किए जाने वाले संख्याओं की एक कॉम्पैक्ट सूची है; यह टेक्स्ट क्वेरी को सटीक शब्दों से मिलान किए बिना संबंधित मीडिया खोजने देती है। Google ने EmbeddingGemma 2 रिलीज़ किया, एक 740M-पैरामीटर का ओपन मॉडल जो Apache 2.0 के तहत है जो टेक्स्ट, इमेज, वीडियो और ऑडियो को एक एकीकृत 768-डायमेंशनल एम्बेडिंग स्पेस में मूल रूप से मैप करता है। मॉडल 100+ भाषाओं, एक 8K टोकन कॉन्टेक्स्ट विंडो का समर्थन करता है, और मॉड्यूलर एनकोडर लोडिंग जो एक Pixel 11 Pro पर लगभग 191MB सक्रिय RAM पर टेक्स्ट-ओनली चलाता है। पब्लिशर रिपोर्ट करता है कि EmbeddingGemma 1 की तुलना में, EmbeddingGemma 2 MTEB Code पर 68.76 के मुकाबले 78.68 स्कोर करता है, जो 9.92 पॉइंट का लाभ है। मॉडल कार्ड चेतावनी देता है कि float16 अमान्य या मौन रूप से खराब एम्बेडिंग बना सकता है क्योंकि एक्टिवेशन रेंज float16 का प्रतिनिधित्व करने से अधिक है। मॉडल वेट Hugging Face और Kaggle पर Apache 2.0 के तहत उपलब्ध हैं, जिसमें sentence-transformers, Ollama, llama.cpp, और vLLM जैसे रनटाइम शामिल हैं। टेक्स्ट बैकबोन 270 मिलियन पैरामीटर का उपयोग करता है, अलग-अलग विज़न और ऑडियो एनकोडर के साथ जिन्हें केवल जरूरत पड़ने पर लोड किया जा सकता है। यह एक टेक्स्ट-ओनली एप्लिकेशन को पूरे मॉडल से छोटा फुटप्रिंट देता है। मॉडल अपने आउटपुट वेक्टर को छोटा करने का भी समर्थन करता है। इसके दस्तावेज़ में कहा गया है कि गुणवत्ता 256 डायमेंशन तक पूर्ण प्रतिनिधित्व के करीब रहती है, जबकि 128 डायमेंशन मल्टीमॉडल गुणवत्ता को काफी कम कर देते हैं। एक छोटा वेक्टर स्टोरेज बचा सकता है, लेकिन यह ट्रेडऑफ़ खोजे जा रहे कंटेंट पर निर्भर करता है। प्रलेखित अनुप्रयोगों में लोकल कोड सर्च, कोडिंग एजेंटों के लिए रिट्रीवल, और टेक्स्ट क्वेरी से ऑडियो या वीडियो खोजना शामिल है। ये रिट्रीवल और क्लासिफिकेशन के लिए एम्बेडिंग हैं, जवाब बनाने वाले चैटबॉट के बजाय। प्रिसिज़न चेतावनी मायने रखती है क्योंकि एक खराब एम्बेडिंग विश्वसनीय लग सकती है जबकि चुपचाप रैंकिंग को खराब कर रही है।

[03:47] AI-डिज़ाइन किया गया AI एक्सेलेरेटर अब $3K FPGA कार्ड पर दस मॉडल चलाता है

FeSens ने OpenTPU प्रकाशित किया, एक ओपन-सोर्स AI एक्सेलेरेटर जो दस आधुनिक मॉडल Kintex-7 FPGA PCIe कार्ड पर चलाता है। पूरा प्रोजेक्ट एक मोनोरिपो में रहता है जिसे आप अंत तक पढ़ सकते हैं: SystemVerilog में हार्डवेयर डिज़ाइन, इंस्ट्रक्शन सेट आर्किटेक्चर, एक बिट-एक्सैक्ट सिम्युलेटर, एक कर्नेल लैंग्वेज और कंपाइलर, और होस्ट सॉफ्टवेयर। कार्ड Qwen3, Qwen3.5, LFM2.5, Gemma 4, SmolLM3, और Phi-4-mini को उनके वास्तविक वेट के साथ चलाता है, हर कॉन्फ़िगरेशन में Hugging Face टोकन आउटपुट से बिल्कुल मेल खाता है। सबसे छोटे मॉडल पर, int8 में LFM2.5-230M, यह 59 टोकन प्रति सेकंड परdecode करता है; 4-बिट बॉडी के साथ Qwen3-0.6B 31 tok/s हिट करता है। आर्किटेक्चर जानबूझकर सरल है। एक सीक्वेंसर प्रति चक्र एक निर्देश जारी करता है एक मैट्रिक्स यूनिट को जो DRAM से stream किए गए int8 वेट को गुणा करती है, एक वेक्टर यूनिट जो फ्लोटिंग-पॉइंट गणित को संभालती है, और एक क्वांटाइज़र जो परिणामों को वापस int8 में बदलता है। कोई कैश नहीं है, इसलिए हर डेटा मूवमेंट स्पष्ट है और एक ट्रेस दिखाता है कि चक्र कहाँ जाते हैं। LiteDRAM कंट्रोलर स्टार्टअप पर 12 सेकंड में दोनों DDR3 चैनलों को कैलिब्रेट करते हैं और मेमोरी को कार्ड के पीक के 91-94% पर ड्राइव करते हैं, पिछले प्रोडक्शन इमेज के 82-87% से ऊपर। दूसरे बिल्ड ने इसे और आगे बढ़ाया, जिससे अधिकांश मॉडलों के लिए decode 8-9% तेज हुआ। 4-बिट क्वांटाइज़्ड वेट दो-स्तरीय ब्लॉक स्केल्स के साथ FP4 वैल्यू का उपयोग करते हैं, जिससे सटीकता के लिए भाषा मॉडल हेड int8 में रहता है। वे मेमोरी ट्रैफ़िक को लगभग एक-तिहाई कम करते हैं और decode थ्रूपुट 40-45% बढ़ाते हैं। कार्ड मिक्सचर-ऑफ-एक्सपर्ट्स मॉडल को भी संभालता है जो इसकी 4 GiB सीमा से बड़े हैं, PCIe पर होस्ट से गायब एक्सपर्ट्स को स्ट्रीम करके, प्रत्येक टोकन को रूट करके और हर एक्सपर्ट की गणना स्वयं एक्सेलेरेटर पर करके।

[05:25] रिसर्च डाइजेस्ट: कम अलाइनमेंट, बेहतर डिस्टिलेशन: क्रॉस-टोकनाइज़र ट्रेनिंग के लिए एक काउंटरइंटुइटिव फाइंडिंग

छोटे मॉडल को बड़े टीचर से डिस्टिल करते समय कम अलाइनमेंट काम करना वास्तव में आपको बेहतर परिणाम दे सकता है, Bingxi Hou सहित एक टीम के नए शोध के अनुसार। यह काउंटरइंट्यूटिव निष्कर्ष इस studying से आता है कि जब टीचर और स्टूडेंट अलग-अलग टोकनाइज़र का उपयोग करते हैं तो क्या होता है, जिसका अर्थ है टेक्स्ट को टुकड़ों में काटने के अलग-अलग तरीके। सामान्य दृष्टिकोण यह है कि उनकी जितनी संभव हो उतनी वोकैबुलरी को अलाइन करें। लेकिन गणितीय तर्क और कोड जनरेशन पर तीन टीचर-स्टूडेंट जोड़ों पर, टीम ने पाया कि कठोर वन-टू-वन टोकन पोजिशन स्टूडेंट जो जनरेट करता है उसका अधिकांश हिस्सा कवर करती हैं, भले ही वोकैबुलरी में काफी मिसमैच हो। उन कठोर पोजिशनों पर geteilt वोकैबुलरी के एक छोटे सबसेट तक प्रशिक्षण सिग्नल को प्रतिबंधित करना व्यापक अलाइनमेंट तरीकों के बराबर या बेहतर प्रदर्शन करता है, जिसमें मानक क्रॉस-टोकनाइज़र बेसलाइन शामिल हैं। जब उन्होंने पूर्ण कवरेज के लिए मिसमैच ग्रुप्स में सुपरविज़न जोड़ा, तो सटीकता गिर गई। संभावित कारण: वे अतिरिक्त सिग्नल कमज़ोर हैं या उपयोगी सिग्नल से विपरीत दिशाओं में इशारा करते हैं, जिससे प्रशिक्षण रास्ते से भटक जाता है। निष्कर्ष: टोकनाइज़र में डिस्टिल करते समय, कठोर पोजिशनों पर कॉम्पैक्ट सुपरविज़न व्यापक कवरेज से बेहतर है जो शोर पैदा करता है।

[06:32] OpenAI AI-जनरेटेड गणितीय प्रमाण, मशीन-चेक्ड Lean फाइलों के साथ प्रकाशित करता है

OpenAI ने अपने एक AI मॉडल द्वारा उत्पादित नए गणितीय परिणामों का एक बैच प्रकाशित किया और उन्हें एक GitHub रिपॉजिटरी में रखा जहां कोई भी उन्हें पढ़ सकता है। इस ड्रॉप में Lean में कई प्रमाणों के फॉर्मलाइज़ेशन शामिल हैं — एक प्रोग्रामिंग भाषा जो कंप्यूटर को यह जांचने देती है कि कोई गणितीय तर्क वास्तव में मान्य है या नहीं। यह हिस्सा मायने रखता है क्योंकि AI-जनरेटेड प्रमाण आमतौर पर गद्य के रूप में आते हैं जिन्हें कोई पूरी तरह से सत्यापित नहीं कर सकता; यहां, उनमें से कई मशीन-चेक्ड हैं।

कंपनी ने यह भी साझा किया कि इसमें कितना काम लगा। औसतन, प्रत्येक परिणाम में लगभग तीन घंटे की ChatGPT Pro–स्टाइल थिंकिंग कंप्यूट का उपयोग हुआ। दस मॉडल-रिज़निंग सारांश शामिल हैं ताकि अन्य गणितज्ञ देख सकें कि AI अपने उत्तरों तक कैसे पहुंचा, साथ ही आंकड़े कि उसने परिणाम उत्पन्न करने से पहले कितनी समस्याओं का प्रयास किया।

OpenAI ने इस तरह के काम को रिलीज़ करने के बारे में एक स्वतंत्र बाहरी समिति के साथ काम किया और प्रमुख परिणामों पर चर्चा के लिए कार्यशालाओं और सम्मेलनों को वित्तपोषित करेगा। यह यह भी कहता है कि वह उस मॉडल को रिलीज़ करने पर काम कर रहा है जिसने ये परिणाम उत्पन्न किए, हालांकि इस घोषणा में कोई समयसीमा नहीं दी गई है।

गणित की दुनिया के लिए, व्यावहारिक लाभ खुली पहुंच है: परिणामों का एक सेट जिसकी जांच, आलोचना और उस पर निर्माण किया जा सके। जिज्ञासु श्रोताओं के लिए, मुख्य बात यह है कि एक फ्रंटियर लैब अब AI-जनरेटेड प्रमाण एक प्रारूप में प्रकाशित कर रहा है जहां कंप्यूटर — न कि केवल एक मानव रेफरी — को साइन ऑफ करना होता है। मॉडल स्वयं अभी भी गायब टुकड़ा है; देखने की अगली बात यह है कि वह रिलीज़ कब और किस रूप में आता है।

[08:06] रिसर्च डाइजेस्ट: FP4 Reinforcement Learning 5x स्पीड पर फुल प्रिसिज़न से मैच करती है

शोधकर्ताओं ने TRACE बनाया है, एक क्वांटाइज़ेशन फ्रेमवर्क जो Mixture-of-Experts भाषा मॉडल को FP4 में reinforcement learning रोलआउट चलाने देता है — फोर-बिट फ्लोटिंग पॉइंट, प्रोडक्शन सिस्टम में उपयोग की जाने वाली अधिकांश प्रिसिज़न का एक अंश। समस्या जिसे उन्होंने हल किया: जब प्रशिक्षण और रोलआउट अलग-अलग लो-प्रिसिज़न पाथ का उपयोग करते हैं, तो मॉडल खराब हो जाता है। TRACE उस अंतर को बंद करता है रोलआउट-साइड क्वांटाइज़ेशन परिणामों का उपयोग प्रशिक्षण-साइड राउंडिंग निर्णयों को मार्गदर्शन करने के लिए करके, दोनों पाथ को अलाइन रखते हुए। उन्होंने एक कैशिंग स्कीम भी जोड़ी जो गहरी परतों से मैंटिसा और स्केल जानकारी को चयनात्मक रूप से बनाए रखती है, जिससे स्टोरेज और कम्युनिकेशन ओवरहेड कम होता है जो आमतौर पर रोलआउट गाइडेंस के साथ आता है। तर्क, कोडिंग और लॉन्ग-होराइज़न RL टास्क को कवर करने वाले चार बड़े MoE मॉडलों पर, TRACE ने BF16 के बराबर रोलआउट क्वालिटी प्रदान की जबकि 5.4x तक की रोलआउट स्पीडअप प्राप्त की। व्यावहारिक प्रभाव: RL पोस्ट-ट्रेनिंग, जो पहले से ही एक कंप्यूट हॉग है, अब सामान्य प्रिसिज़न टैक्स के बिना नाटकीय रूप से सस्ते में चल सकती है। यह देखना worth है कि क्या ये लाभ परीक्षित चार से परे मॉडल फैमिली में बने रहते हैं।

[09:02] Mirror Particle इस पर दांव लगाता है कि मनुष्यों को world model की जरूरत है, रोल-प्ले नहीं

Mirror Particle एक दो साल पुराना सैन फ्रांसिस्को स्टार्टअप है जो अक्टूबर के मध्य में TechCrunch Disrupt's Startup Battlefield 200 में डेब्यू कर रहा है, एक फाउंडेशन मॉडल पिच कर रहा है — जिसे CEO Abhivyakti Ahuja "world model" कहते हैं — जो मानव व्यवहार और उसके पीछे की वजहों की भविष्यवाणी करने के लिए शुरू से बनाया गया है।

यह तर्क है कि किसी बड़े भाषा मॉडल से किसी जनसांख्यिकीय समूह की भूमिका निभाने के लिए कहना गलत दृष्टिकोण है। सैकड़ों अरब डेटा पॉइंट्स पर प्रशिक्षित किसी मॉडल को सर्वेक्षण प्रतिक्रियाओं के एक पतले टुकड़े के साथ फाइन-ट्यून करना, अहूजा ने कहा, "नियाग्रा जलप्रपात के लिए सुपर सोकर लाने जैसा है।" LLMs लिखित भाषा को मॉडल करते हैं, उन्होंने जोड़ा, जबकि मनुष्य दृश्य धारणा, स्थानिक तर्क और सामाजिक बुद्धिमत्ता से संचालित होते हैं।

Mirror की प्रणाली क्लाइंट ग्राहक डेटा, वर्तमान घटनाओं, पॉप संस्कृति और सोशल मीडिया के एक स्वामित्व मिश्रण को अवशोषित करती है, फिर किसी जनसांख्यिकीय खंड को समय के साथ बदलने वाली चीज़ के रूप में मॉडल करती है। फोकस "प्रकट व्यवहार" पर है — लोग वास्तव में क्या करते हैं — और यह ट्रैक करना कि कौन से ट्रिगर्स प्रेरणाओं को बदलते हैं और कितना। भविष्यवाणियां "क्यों" के साथ आती हैं: प्रेरणाएं, बाधाएं और संदर्भ जो किसी अनुशंसा को उचित ठहराते हैं।

एक प्रारंभिक पायलट में, एक पालतू भोजन ब्रांड ने पूछा कि कौन सी पैकेजिंग इमेजरी बिक्री बढ़ाएगी। Mirror की तकनीक ने कहा कि सवाल गलत था। ब्रांड का मास-मार्केट धारणा ही सीमा थी, और इमेजरी वह लीवर नहीं थी।

कंपनी शुरू में मार्केट रिसर्च और ब्रांड और प्रोडक्ट स्ट्रैटेजी में बिक्री कर रही है, जहां वह Simile, Aaru, और Humans&'s Persimmon के साथ प्रतिस्पर्धा करती है। अहूजा ने पहले Amazon Robotics में रोबोट बनाए थे; सह-संस्थापक Will Song और Thomson Yen क्रमशः बिक्री व्यक्तिगतकरण और एजेंट व्यवहार मॉडलिंग के लिए गहन शिक्षण में अनुभव लाते हैं। Mirror ने एक एंजेल राउंड बंद कर दिया है और अपने पहले वेंचर राउंड को बंद करने के करीब है, जिसका दीर्घकालिक लक्ष्य जनसंख्या-स्तर से व्यक्तिगत-स्तर के पूर्वानुमानों की ओर जाना है।

[10:47] AI एजेंट संचार प्रोटोकॉल में गंभीर दोष मिला

स्वतंत्र शोधकर्ता Syed Anas Mohiuddin ने MCP, मॉडल कॉन्टेक्स्ट प्रोटोकॉल में एक श्रेणी की भेद्यताओं की पहचान की है, जो हमलावरों को एक समझौता किए गए AI एजेंट को स्प्रिंगबोर्ड के रूप में उपयोग करके नेटवर्क के अंदर दूसरों को नियंत्रित करने की अनुमति देती है। यह तकनीक एक मूलभूत विश्वास धारणा का शोषण करती है: जब एजेंट MCP के माध्यम से संवाद करते हैं, तो वे अन्य अधिकृत एजेंटों के निर्देशों पर अनिवार्य रूप से विश्वास करते हैं बिना उसी सत्यापन को लागू किए जो वे बाहरी इनपुट पर लागू करेंगे। परीक्षणों में, Mohiuddin ने Google, JP Morgan Chase, Weviate, Rapid7, फ्रांसीसी सरकार के अंतर-मंत्रालयी डिजिटल निदेशालय, और अमेरिकी संघीय सरकार में एक ही पैटर्न पाया—पांच संगठन जिनमें कोई समानता नहीं है सिवाय इसके कि वे एजेंट-टू-एजेंट संचार के लिए MCP का उपयोग करते हैं।

भेद्यताओं की गंभीरता में भिन्नता है। Google का दोष, googleapis/mcp-toolbox रिपॉजिटरी में डेटाबेस टूलबॉक्स में ट्रेस किया गया, को 10 में से 8 की गंभीरता रेटिंग मिली। यह HTTP क्लाइंट को रीडायरेक्ट सत्यापन के बिना इनिशियलाइज़ करने और अनुरोध भेजने से पहले लक्ष्य IP पतों की जांच करने में विफलता से उत्पन्न हुआ। एक विशेष रूप से तैयार किया गया पैरामीटर टूलबॉक्स को एक आंतरिक एंडपॉइंट पर रीडायरेक्ट कर सकता था, जिससे हमलावर एजेंट की ओर से अनधिकृत अनुरोध कर सकता था। Google के समाधान में IP अनुमति-सूचियों और अवरोध-सूचियों को लागू करना, पहले उपयोग पर नहीं बल्कि स्टार्टअप पर बेस URL को मान्य करना शामिल था—यह वही तरह का सर्वर-साइड अनुरोध जालसाजी सुरक्षा है जो पारंपरिक वेब सर्वरों पर दो दशकों से काम कर रहा है। Rapid7 की तुलनीय भेद्यता को समान हमलों को सक्षम करने के बावजूद केवल 2.7 रेटिंग मिली।

Mohiuddin इस तकनीक को प्रोटोकॉल पिवोटिंग कहते हैं क्योंकि यह विभिन्न संचार प्रोटोकॉल के बीच विश्वास का लाभ उठाती है। एक हमलावर एक प्रोटोकॉल के माध्यम से प्रारंभिक पहुंच प्राप्त करता है, दूसरे प्रोटोकॉल के माध्यम से दुर्भावनापूर्ण निर्देशों को अग्रेषित करने के लिए विश्वास धारणाओं का शोषण करता है, और किसी अन्य विधि के माध्यम से ही उपलब्ध क्षमताओं तक बढ़ जाता है। परिणाम एक बहु-चरण हमला है जहां श्रृंखला में प्रत्येक एजेंट ठीक वही करता है जो वह डिज़ाइन किया गया था, और यही इसे पहचानना इतना कठिन बनाता है।

व्यापक पैटर्न चिंताजनक है। MCP एक नया मानक है जो कठोर सुरक्षा कठोरता से गुज़रने से पहले लाखों एंटरप्राइज़ सिस्टम में तेज़ी से फैल गया है। एजेंटिक आर्किटेक्चर बनाने वाले संगठनों ने ज़्यादातर ज़ीरो-ट्रस्ट सिद्धांतों को छोड़ दिया है, जो सुरक्षा मॉडल यह मानता है कि कोई भी नोड समझौता किया जा सकता है और संवेदनशील लेनदेन से पहले स्पष्ट प्राधिकरण की आवश्यकता होती है। सुरक्षा शोधकर्ता व्यावहारिक समाधान के बारे में स्पष्ट हैं: LLM से टूल में पास किया गया कुछ भी इंटरनेट पर किसी अविश्वसनीय स्रोत से इनपुट की तरह व्यवहार किया जाना चाहिए, क्योंकि प्रॉम्प्ट इंजेक्शन परिदृश्य में, यह बिल्कुल वही है जो यह है।

[13:11] Jump Trading GPT-6 Astra को मानव समीक्षा के साथ बहु-दिवसीय क्वांट अनुसंधान चलाने देता है

Jump Trading अपने सबसे कठिन quant research समस्याओं पर GPT-6 Astra को काम दे रहा है, और फर्म का कहना है कि नए मॉडल tier ने उन चीजों को बदल दिया है जो वह agents को सौंप सकते हैं।

Lucas Baker, जो Jump में LLM R&D का नेतृत्व करते हैं, कहते हैं कि बदलाव short coding help से multi-day, autonomous analysis की ओर है। GPT-6 Astra के साथ, उनकी टीम अब एक research problem, एक work environment, और यह मापने का एक तरीका define कर सकती है कि परिणाम अच्छे हैं या नहीं — फिर agents को कई दिनों तक चलने दें, कई data sources से खींचते हुए, यह judge करते हुए कि क्या मायने रखता है, और टुकड़ों को एक साथ जोड़ते हुए।

सबसे ज्यादा जो बदला वह loop है। Baker कहते हैं कि agents अब meaningful improvements खोज सकते हैं, उन जीत को merge और stack कर सकते हैं, अगले round को original proposal के खिलाफ judge कर सकते हैं, और जब intermediate results समझ में नहीं आते तो खुद को सक्रिय रूप से redirect कर सकते हैं। एक व्यक्ति अभी भी check-in करता है — कौन सा data pull करना है, कितनी देर चलाना है, और क्या findings valid हैं — लेकिन हर step पर fixed steering अब जरूरी नहीं है।

Human review optional नहीं है। एक regulated industry में, हर output, including any trading signal जो एक agent produce करता है, उसी scoped, stringently reviewed pipeline से गुजरता है जैसा कि एक human-generated output से होता है। Baker इसे agents को वही produce करने के लिए एक safe environment देना describe करते हैं जिसकी उन्हें जरूरत है, फिर critical validation लगाकर और अंत में human acceptance के साथ।

जिस दीर्घकालिक दिशा को वह "autoresearch" कहते हैं: fleets of agents, दूसरे agents द्वारा coordinated, open research questions पर काम करते हुए, एक human-defined system, evaluation metrics, और priorities के अलावा और कुछ नहीं से शुरू करते हुए।

[14:47] OpenAI ने Ironclad contracting tasks पर GPT-6 Astra train किया

OpenAI ने GPT-6 Astra announced किया, एक frontier model जिसे OpenAI ने Ironclad द्वारा supplied contracting workflows पर train किया — Ironclad AI contracting platform है। यह OpenAI का पहला model है जिसे एक partner software company के input के साथ बनाया गया है और यह complex legal और procurement tasks के लिए aimed है जैसे NDAs setup करना, approval processes configure करना, और reusable legal clauses update करना ताकि वे उस jurisdiction को reflect करें जो requester select करता है।

Training process में 11 tasks use किए गए जिन्हें Ironclad employees और OpenAI users of Ironclad ने identify किया, प्रत्येक को 8 से 50 criteria के against evaluate किया गया complexity के आधार पर। Researchers ने publicly available SEC EDGAR contracts से synthetic training tasks बनाए personal information remove करने के लिए designed filters apply करने के बाद, फिर reinforcement learning use की ताकि model practice और feedback के through improve कर सके। Ironclad ने hosted environments भी provide की जहां models real product workflows run कर सकते थे।

Research evaluation पर, GPT-6 Astra ने 55.0% mean rubric score हासिल की जबकि GPT-5.6 Sol ने 41.6%, estimated time per attempt 37.0 minutes से घटकर 19.2 minutes हुई। एक example task में, Astra ने estimated 20 minutes में about 94% criteria meet किए, जबकि Sol ने estimated 32 minutes में about 85% meet किए। एक internal development model जो Astra बनाते समय use किया गया था, ने 63.7% hit किया।

यह काम important है क्योंकि एक agent जो task के बीच में business rule से track खो देता है, वह software company की confidence को limit करता है कि वह क्या automate कर सकती है। Ironclad CTO Sunita Verma ने कहा कि agents को individual actions के अलावा full contracting lifecycle समझनी चाहिए। OpenAI software companies को invite कर रहा है जिनके पास hard-to-automate professional tasks हैं, collaborate करने के लिए, प्रत्येक partner से example tasks, failure का evidence, और clear success criteria मांग रहा है।

[16:27] Atlassian और OpenAI GPT-6 मॉडल के साथ एंटरप्राइज AI समझौता मजबूत कर रहे हैं

Atlassian और OpenAI 2023 में शुरू हुई साझेदारी का विस्तार कर रहे हैं, OpenAI के नवीनतम reasoning मॉडल को उन उपकरणों में ला रहे हैं जिनका उपयोग लाखों ज्ञान कर्मचारी पहले से प्रतिदिन करते हैं। नए समझौते के तहत, GPT-6 परिवार — जिसमें GPT-6 Astra और GPT-5.6 सीरीज शामिल है — Atlassian के प्लेटफॉर्म पर और Atlassian के AI असिस्टेंट Rovo के अंदर एजेंटों को शक्ति प्रदान करेगा।

कनेक्टिंग टिशू Teamwork Graph है, एक एंटरप्राइज कॉन्टेक्स्ट लेयर जो Jira, Confluence, Bitbucket, और Looms में लोगों, प्रोजेक्ट्स, दस्तावेजों और निर्णयों को जोड़ती है। Rovo उस ग्राफ का उपयोग OpenAI मॉडल रिस्पॉन्स को कंपनी की वास्तविक कार्य स्थिति में आधारित करने के लिए करता है। स्रोत एक प्रोडक्ट मैनेजर का वर्णन करता है जो लॉन्च की तैयारी कर रहा है और Rovo से पूछ रहा है कि टीम सही दिशा में है या नहीं; असिस्टेंट Jira टिकट, Confluence डॉक्स और डिस्कशन थ्रेड्स खींचता है, फिर इंजीनियरिंग ब्लॉकर और छूटे हुए माइलस्टोन को सरल भाषा में प्रस्तुत करता है।

Atlassian का अपना इंजीनियरिंग संगठन पहले से ही इसमें गहरा है। 3,000 से अधिक Atlassian डेवलपर्स अपने टर्मिनल, IDE और कोड रिव्यू फ्लो में Codex का उपयोग करते हैं, और Atlassian प्लगइन्स उन Codex प्रॉम्प्ट्स को लाइव वर्क आइटम्स और तकनीकी दस्तावेजीकरण तक पहुंचाने देती हैं।

दोनों कंपनियां गहरे Jira इंटीग्रेशन की भी खोज कर रही हैं जो टीमों को AI एजेंटों को काम सौंपने, प्रगति देखने, निर्णयों को कैप्चर करने और परिणामों की समीक्षा करने देगा। इंजीनियरिंग प्रदर्शन को मापने के लिए Atlassian के DX प्लेटफॉर्म के साथ जोड़ा गया, लक्ष्य है नेताओं को चक्र समय और डेवलपर अनुभव पर AI के प्रभाव को ट्रैक करने में मदद करना जबकि मनुष्यों को लूप में रखना।

[17:52] OpenAI EU नियमों को पूरा करने के लिए टेक्स्ट वॉटरमार्किंग लॉन्च कर रहा है

OpenAI EU AI Act के जवाब में टेक्स्ट वॉटरमार्किंग के लिए अपना दृष्टिकोण प्रकाशित कर रहा है, जिसके लिए generative AI प्रदाताओं को AI-जनरेटेड टेक्स्ट को मशीन-पठनीय तरीके से लेबल करने की आवश्यकता है। textGrain नामक यह सिस्टम मॉडल की शब्द चयन में एक अदृश्य सांख्यिकीय संकेत जोड़ता है; एक डिटेक्टर उस संकेत को वापस पढ़कर निर्णय लेता है कि कोई पैसा OpenAI मॉडल से आया था या नहीं। OpenAI कहता है कि textGrain ने उनके परीक्षित अन्य दृष्टिकोणों के साथ मेल खाया या उन्हें पार किया, जिसमें टेक्स्ट के लिए SynthID शामिल है, और आने वाले हफ्तों में इस तकनीक को ओपन-सोर्स करने की योजना है।

रोलआउट विभाजित है। दुनिया भर के API ग्राहक अभी से चुनिंदा मॉडलों के लिए वॉटरमार्क्ड आउटपुट में ऑप्ट इन कर सकते हैं, जबकि वॉटरमार्किंग डिफ़ॉल्ट रूप से बंद रहती है। केवल EU में, आने वाले हफ्तों में पात्र ChatGPT और Codex टेक्स्ट में एक अदृश्य वॉटरमार्क जोड़ा जाएगा। डिटेक्टर स्वयं आवेदन द्वारा खुल रहा है, पहले अनुमोदित शोधकर्ताओं और विशेषज्ञ संगठनों तक सीमित है।

डिटेक्शन संख्याएं वह जगह हैं जहां कहानी दिलचस्प हो जाती है। 1% फॉल्स पॉजिटिव रेट पर, डिटेक्टर ने 200-टोकन साइकोलॉजी पैसेज में लगभग 80% वॉटरमार्क पकड़े और लगभग 400-टोकन पैसेज पर 95%। गणित के लिए, जहां शब्द चयन सीमित है, डिटेक्शन काफी गिर गया। संपादन भी सिग्नल को क्षीण करता है: एक 400-टोकन टेस्ट में, 10% शब्दों को समानार्थी शब्दों से बदलने से डिटेक्शन लगभग 92% से 66% तक गिर गया, और 25% बदलने से यह 17% हो गया। Astra मॉडल पर बेंचमार्क में, OpenAI रिपोर्ट करता है कि वॉटरमार्क्ड और अनवॉटरमार्क्ड आउटपुट के बीच कोई सार्थक गुणवत्ता अंतर नहीं है।

OpenAI स्पष्ट है कि वॉटरमार्क क्या साबित नहीं करता। यह मानव योगदान को मापता नहीं, उपयोगकर्ता की पहचान नहीं करता, स्वामित्व स्थापित नहीं करता, या सटीकता को सत्यापित नहीं करता, और एक डिटेक्टेड वॉटरमार्क की अनुपस्थिति यह साबित नहीं करती कि किसी मनुष्य ने टेक्स्ट लिखा था। अगली बात देखना यह है कि क्या क्षेत्रीय रोलआउट व्यवहार में बना रहता है, खासकर जब टेक्स्ट हल्के से संपादित या अनुवादित हो।

[19:41] कॉपी-पेस्ट ट्रिक ने Google नेब्रास्का डेटा सेंटर के पानी और बिजली उपयोग को उजागर किया

नेब्रास्का टीवी स्टेशन के एक रिपोर्टर ने राज्य के एक फाइल से रीडैक्टेड टेक्स्ट को दूसरे दस्तावेज़ में कॉपी करके तीन Google डेटा सेंटरों के पानी और बिजली के पदचिह्न को उजागर किया। मूल टेक्स्ट के ऊपर काले बक्से के रूप में लागू की गई रीडैक्शन हाइलाइट और पेस्ट के साथ हट गईं। राज्य के जल, ऊर्जा और पर्यावरण विभाग ने स्वीकार किया था कि आंकड़े व्यापार रहस्य हैं, जिससे जनता की पहुंच अवरुद्ध हो गई।

जो सामने आया: लिंकन में Google साइट Agate LLC ने पिछले साल शीतलन और साइट संचालन में 52.65 मेगावाट शिखर बिजली मांग और 13.299 मेगागैलन पानी की रिपोर्ट दी, लगभग 13 मिलियन गैलन, लगभग 20 ओलंपिक पूल भरने के लिए पर्याप्त, लेकिन सितंबर 29 को लिंकन शहर द्वारा खींचे गए आधे से भी कम। Papillion साइट Fireball Group LLC ने 2025 के लिए 547.88 मेगागैलन की रिपोर्ट दी, जो 30 सितंबर तक नेब्रास्का डेटा सेंटर रिपोर्टिंग में सबसे अधिक है। छह रिपोर्टिंग साइटों ने मिलकर पिछले साल 765 मिलियन गैलन का उपयोग किया, लगभग 1,160 ओलंपिक पूल।

फाइलिंग में 2025 के बिक्री-कर रिफंड का भी खुलासा होता है जो Google की उम्मीद है: लिंकन से $55.8 मिलियन, Papillion से $39.2 मिलियन, और ओमाहा साइट, Westwood Solutions LLC से $22.6 मिलियन, जो 288,530 वर्ग फीट पर स्थित है, लगभग पांच फुटबॉल मैदान।

रिपोर्ट गवर्नर जिम पिलेन के 20 जुलाई के कार्यकारी आदेश के तहत प्रस्तुत की गई थीं, जिसमें डेटा सेंटरों को पानी, बिजली और स्थानीय बुनियादी ढांचे पर उनके प्रभाव का खुलासा करने की आवश्यकता थी। Google ने संख्याओं को सील रखने के लिए नेब्रास्का व्यापार-रहस्य कानूनों का हवाला दिया। 10/11 ने 30 सितंबर को अंतर्निहित डेटा देखने के लिए सार्वजनिक-रिकॉर्ड्स अनुरोध दायर किया।

वर्कलोड चलाने के लिए स्थान चुनने वाले किसी भी व्यक्ति के लिए, यह कहानी पानी और ग्रिड तनाव को सार्वजनिक रिकॉर्ड में बदल देती है, और स्थानीय रिपोर्टरों को कहीं और समान रीडैक्शन पढ़ने की कॉपी-पेस्ट विधि देती है।

[21:25] Agent Lightning v1.0 रियल एजेंट को रीइन्फोर्समेंट लर्निंग के साथ प्रशिक्षित करता है

Microsoft Research Asia ने Agent Lightning v1.0 को ओपन-सोर्स किया है, एक लगभग 3,500 लाइन का फ्रेमवर्क जो उसी हार्नेस का उपयोग करके AI एजेंटों को प्रशिक्षित करता है जो प्रोडक्शन में चलता है। अधिकांश एजेंट रीइन्फोर्समेंट लर्निंग सिस्टम डेवलपर्स को प्रशिक्षण लूप के अंदर एजेंट को पुनर्निर्मित करने के लिए मजबूर करते हैं, जिसका अर्थ है कि प्रशिक्षित एजेंट तैनात किए गए एक से भटक जाता है। Agent Lightning इससे बचता है क्योंकि एजेंट और मॉडल के बीच एक OpenAI-संगत LLM प्रॉक्सी बैठता है, जो मौजूदा हार्नेस कोड को अपरिवर्तित छोड़ते हुए प्रॉम्प्ट, प्रतिक्रियाओं और लॉग प्रोबेबिलिटीज़ रिकॉर्ड करता है।

फ्रेमवर्क के तीन भाग हैं: एक API Gateway जो रोलआउट्स स्टोर करता है और प्रॉक्सी के रूप में कार्य करता है, एक Rollout Controller जो एजेंटों को लोकल प्रोसेस या स्टैंडर्ड Kubernetes जॉब्स के रूप में चलाता है, और verl पर बना एक कस्टमाइज्ड ट्रेनर। मूल Kubernetes सपोर्ट का मतलब है कि एजेंट सेल्फ-मैनेज्ड क्लस्टर, क्लाउड Kubernetes, या लोकल बॉक्स पर चलते हैं बिना Modal या E2B जैसे कमर्शियल सैंडबॉक्स के भुगतान के।

एक नया Collocated Async RL मोड रोलआउट और मॉडल अपडेट को एक GPU पूल साझा करने देता है। API Gateway इनकमिंग रिक्वेस्ट्स को रोकता है, इन-फ्लाइट वालों के पूरा होने का इंतजार करता है, अपडेट चलाता है, और रोलआउट्स फिर से शुरू करता है, सब कुछ हार्नेस के लिए पारदर्शी। Microsoft सिंक्रोनस RL की तुलना में प्रयोगों में लगभग 2x एंड-टू-एंड स्पीडअप रिपोर्ट करता है।

रेसिपी को साबित करने के लिए, टीम ने Qwen3.5-9B पर एक एंड-टू-एंड कोडिंग एजेंट पाइपलाइन चलाई। SWE-bench Verified पर Pass@1 41.8% से 56.4% तक बढ़ गया, जो 14.6 प्रतिशत अंक की वृद्धि है, जिसमें एक खुले डेटासेट से drawn लगभग 6,000 प्रशिक्षण नमूनों का उपयोग किया गया। उनके द्वारा बताई गई चार इंजीनियरिंग चुनौतियां हैं: harness कॉल के बीच retokenization, जब एक rollout कई नमूनों में विभाजित होता है तब advantage की गणना, loss normalization जो double-count नहीं करता, और निश्चित GPU पूल पर परिवर्तनशील कार्यभार को शेड्यूल करना।