Episode 91: 27B मुक्त-भार मॉडल अब लैपटॉप RAM में समा सकता

एपिसोड 091 — 22 जुलाई, 2026

[00:00] एपिसोड हुक

OpenAI Codex rust-v0.145.0 ने अपना मल्टी-एजेंट V2 अनुभव स्थिर कर दिया है, सब-एजेंट मॉडल, रीज़निंग स्तरों और कंकरेंसी के लिए विस्तृत कॉन्फ़िगरेशन पेश करते हुए जबकि आवश्यक भूमिका परिभाषाओं को पुनर्स्थापित किया। इस रिलीज में एक अपडेटेड /import कमांड शामिल है जो Cursor कॉन्फ़िगरेशन को सीधे Codex एनवायरनमेंट में माइग्रेट करने के लिए डिज़ाइन किया गया है, एजेंटिक IDE के बीच जाने वाले डेवलपर्स के लिए ट्रांज़िशन को सुव्यवस्थित करता है। Google ने OpenRouter पर Gemini 3.6 Flash को लिस्ट करके अपने मॉडल की पहुंच का विस्तार किया है, जो कम-लेटेंसी रिस्पॉन्स की आवश्यकता वाले कोडिंग टास्क और एजेंटिक वर्कफ़्लो के लिए अनुकूलित एक हाई-एफिशिएंसी मॉडल है। Jack Dorsey का Block Buzz लॉन्च कर चुका है, एक वर्कप्लेस प्लेटफ़ॉर्म जो ग्रुप चैट, AI एजेंट्स और Git होस्टिंग को एक एकीकृत फ़ीड में एकीकृत करता है ताकि डेवलपमेंट कार्य और टीम कम्युनिकेशन के बीच घर्षण कम हो। MinishLab ने Semble v0.1.0 रिलीज़ किया है, एक ओपन-सोर्स कोड सर्च टूल जो AI एजेंट्स के लिए टोकन खपत में 98% की कमी का दावा करता है। whodb ने 16 जुलाई को संस्करण 0.121.0 हासिल किया, GitHub पर 4,900 स्टार्स पार करते हुए, जबकि लोकल-फर्स्ट सुपर एजेंट holaOS सत्रों में यूज़र कॉन्टेक्स्ट बनाए रखने के लिए ट्रैक्शन हासिल कर रहा है।

[02:00] एजेंट स्टैक रिलीज़ रीडआउट: OpenAI Codex rust-v0.145.0

OpenAI Codex rust-v0.145.0 इस सप्ताह शिप हुआ, और हेडलाइन बदलाव उन सभी के लिए असली है जो मल्टी-एजेंट वर्कफ़्लो चला रहे हैं: opt-in मल्टी-एजेंट V2 अनुभव अब स्थिर है। इसका मतलब है कि पैरलल सब-एजेंट मोड जो पहले आपको अजीब rollback स्थितियों में खींचता था अंततः ठीक से काम करता है। आप कॉन्फ़िगर कर सकते हैं कि प्रत्येक सब-एजेंट कौन सा मॉडल उपयोग करता है, प्रति सब-एजेंट रीज़निंग स्तर सेट कर सकते हैं, कंकरेंसी को ऊपर या नीचे कर सकते हैं, और एजेंट्स के बीच नेविगेशन को साफ़ किया गया है ताकि आप यह ट्रैक करना बंद कर दें कि कौन सा वर्कर क्या कर रहा है। पुनर्स्थापित भूमिकाएं मतलब एक कोडर और एक रिव्यूअर एक लंबे सत्र में एक-दूसरे से अलग पहचान योग्य रह सकते हैं।

दूसरी बात जो आपके समय के काबिल है वह /import है। Codex पहले केवल अपनी सेटिंग्स ही इम्पोर्ट करता था। अब आप Cursor या Claude Code कॉन्फ़िगरेशन पुल कर सकते हैं — MCP सर्वर, प्लगइन्स, सेशन, कस्टम कमांड और यहां तक कि प्रोजेक्ट-स्कोप्ड मेमोरीज़। अगर आप टूल्स के बीच बाउंस कर रहे थे और रीबिल्ड से डर रहे थे, तो यही वह on-ramp है जो आपका कॉन्टेक्स्ट बरकरार रखता है।

जानने के लिए दो और चीज़ें। Amazon Bedrock सपोर्ट अब एक्सपेरिमेंटल है, कस्टम एंडपॉइंट्स और ऑथेंटिकेशन के साथ, और GPT-5.6 Sol डिफ़ॉल्ट Bedrock मॉडल बन गया है — AWS के माध्यम से एंटरप्राइज़ ट्रैफ़िक रूट करने के लिए उपयोगी। ऑडियो इनपुट और टूल आउटपुट भी आ गए हैं, सामान्य लोकल ऑडियो फॉर्मेट्स और स्ट्रीमिंग realtime V3 कन्वर्सेशन सहित, जिसका मतलब है कि आप वर्किंग सेशन में वॉइस पाइप कर सकते हैं और अलग realtime क्लाइंट लगाए बिना मॉडल को सुन सकते हैं। टर्मिनल UI में क्लिक करने योग्य इनलाइन विज़ुअलाइज़ेशन लिंक भी मिल गए हैं ताकि आंकड़े आपके ब्राउज़र में खुलें।

हुड के नीचे, टीम ने सबसे खराब papercuts फिक्स किए। पिछले प्रॉम्प्ट को एडिट करना या safety-buffered टर्न को रिट्राई करना अब अटैचमेंट्स और मेंशन बाइंडिंग्स को नष्ट करने के बजाय एक कॉन्टेक्स्चुअल ब्रांच बनाता है। टर्मिनल रेस्पॉन्सिवनेस लंबे सत्रों के लिए इंक्रीमेंटल Markdown रेंडरिंग और बाउंडेड कमांड आउटपुट के माध्यम से बेहतर हुई। MCP स्टार्टअप को आखिरकार टाइमआउट मिल गए हैं, इसलिए टूटा हुआ OAuth डिस्कवरी अब पूरे सेशन को फ्रीज़ नहीं करता, और Windows सैंडबॉक्सिंग को native exec-server सपोर्ट और network-proxy एन्फोर्समेंट के साथ एक असली फिक्स मिला।

इसका मतलब: अगर आप मल्टी-एजेंट से दूर थे क्योंकि यह खुरदरा लग रहा था, V2 स्टेबलाइज़ेशन इसे आज़माने का समय है। अगर आप Cursor या Claude Code में फंसे थे और बिना सेटअप रीबिल्ड किए Codex चाहते थे, /import वह on-ramp है। अगले देखें कि Bedrock एक्सपेरिमेंटल रहता है या ब्रॉडली शिप होता है, और ऑडियो इनपुट पाइपलाइन headless CI रन में दिखाई देती है या लोकल-ओनली रहती है।

[03:47] Google का Gemini 3.6 Flash OpenRouter पर — लाख-google लिस्टिंग gemini-3.6-flash जोड़ती है

Google ने हाल ही में OpenRouter के मॉडल कैटलॉग में Gemini 3.6 Flash जोड़ा है, जिससे डेवलपर्स को उसी इंटरफ़ेस में रहते हुए बिना किसी परेशानी के प्लेटफ़ॉर्म के ज़रिए काम भेजने का तुरंत रास्ता मिल गया है। यह मॉडल Google की तरफ़ से एक उच्च-दक्षता विकल्प के रूप में पेश किया गया है, जो सीधे कोडिंग, एजेंटिक वर्कफ़्लो और वेब तथा ऐप डेवलपमेंट को लक्षित करता है, जिसमें Flash टायर की विशिष्ट पसंद दक्षता पर है, अधिकतम क्षमता पर नहीं।

मुख्य स्पेसिफिकेशन संदर्भ विंडो है: दस लाख, अड़तालीस हज़ार, पाँच सौ छियातर टोकन। यह Google's Flash लाइन द्वारा आगे बढ़ाई जा रही पूरी दस लाख-टोकन क्लास है, और यह बदल देता है कि आप एक ही कॉल में मॉडल को क्या दे सकते हैं। एक प्रॉम्प्ट में पूरा रिपॉज़िटरी डाल दें। लंबे एजेंट ट्रेस, टूल कॉल हिस्ट्री और रिट्रीवल स्निपेट्स को बिना आक्रामक सारांशीकरण के एक साथ रखें। एक शॉट में फ़ीचर स्पेसिफिकेशन, आसपास की फ़ाइलें और फ़ेलिंग टेस्ट दें। विशेष रूप से एजेंटिक लूप्स के लिए, जहाँ हर टर्न स्थिति जमा करता है, हेडरूम आपके प्रॉम्प्ट्स को संरचित करने के तरीके को बदल देता है, सिर्फ़ यह नहीं कि आप कितना पेस्ट कर सकते हैं।

Google के विवरण में मॉडल के एडिटिंग व्यवहार की भी ओर इशारा किया गया है, जिसमें दावा किया गया है कि यह अनावश्यक एडिट्स के साथ पॉलिश्ड आउटपुट तैयार करता है। यह वाक्यांश असली काम कर रहा है। एजेंटिक कोडिंग में, जो मॉडल एक फ़ाइल पर मंथन करते हैं, वही लाइन वापस लाते और फिर से लिखते हैं, टोकन और समय दोनों खाते हैं। एक मॉडल जो पहले पास में तैयार डिफ़ पर ज़्यादा करीब पहुँचता है, वह चलाना सस्ता है, इससे पहले कि कोई Flash-टायर दक्षता मूल्य निर्धारण दिखे, और समीक्षा के लिए भी ज़्यादा अनुकूल है।

दो चीज़ें ध्यान देने योग्य हैं: क्या वह स्वच्छ-एडिट व्यवहार वास्तविक वर्कलोड पर बना रहता है, आपके अपने कोडबेस और टेस्ट के साथ, और एक बार जब लोग मापना शुरू कर दें तो विलंबता और लागत OpenRouter पर पहले से मौजूद अन्य Flash-टायर विकल्पों के मुकाबले कैसी दिखती है।

[05:31] Jack Dorsey लॉन्च करते हैं Buzz: एक फ़ीड में चैट, AI एजेंट्स और Git

Jack Dorsey एक नया वर्कप्लेस चैट प्रोडक्ट ला रहे हैं, और इसमें AI एजेंट्स को टीम के सदस्यों की तरह ब्राया गया है। Buzz, इस हफ़्ते Block से लॉन्च हुआ, वर्कप्लेस के लिए एक ग्रुप चैट प्लेटफ़ॉर्म है जो इंसानों और उनके AI एजेंट्स को एक ही बातचीत में रखता है, जिसमें Git होस्टिंग इतनी शिद्दत से मिली हुई है कि कमिट्स और कोड रिव्यू उसी जगह मौजूद हैं जहाँ खुद चर्चा होती है। आइडिया तीन टूल्स को गिराना है जिनसे टीमें हर दिन जूझती हैं - ग्रुप चैट, वर्शन कंट्रोल और एजेंट आउटपुट - एक ही फ़ीड में। व्यवहार में इसका मतलब है कि एक इंजीनियर उसी तरह थ्रेड में AI एजेंट को लूप कर सकता है जैसे वह किसी सहकर्मी को पिंग करता है, उसे एक टास्क देता है और जवाब को उसी चैनल में होते देखता है जहाँ बाकी टीम पहले से बात कर रही है। क्योंकि Buzz का हिस्सा Git है, उन बातचीतों से निकलने वाले कमिट्स और पुल रिक्वेस्ट्स उसी चैट से जुड़े रहते हैं जिन्होंने उन्हें पैदा किया, जिससे हर बदलाव के पीछे का "क्यों" किसी अलग टूल में नहीं बहता। लॉन्च उस बाज़ार में हुआ है जहाँ पहले से Slack और Microsoft Teams जैसे बड़े चैट प्लेटफ़ॉर्म मौजूद हैं। Buzz का दाँव यह है कि एजेंट साथियों को साइडबार विजेट की जगह टेबल पर असली जगह मिलनी चाहिए, और घोषणा के आसपास का Hacker News थ्रेड, जो लाइव होने के कुछ ही घंटों में 330 पॉइंट्स पर है, यह दर्शाता है कि डेवलपर्स इस तरीके में कम से कम दिलचस्पी रखते हैं। बिल्डर्स के लिए निहितार्थ सीधा है। अगर Buzz विज़न पूरा करता है, तो छोटी टीमें चैट, रेपो और एजेंट रनटाइम को अपने आप सिलने की ज़रूरत खत्म कर सकती हैं और प्लेटफ़ॉर्म को थ्रेड्स को सिंक में रखने दें। आगे देखने वाली बात यह है कि एजेंट परमिशन मॉडल कैसे सेट अप है, क्योंकि एक बॉट को अपने रेपो पर असली राइट एक्सेस देना उसे एक शानदार असिस्टेंट से प्रोडक्शन के चाबी वाले साथी में बदल देता है।

[07:24] Semble AI एजेंट्स के लिए 98% दुबला कोड सर्च लाता है

अगर आपने किसी AI कोडिंग एजेंट को कोडबेस के बीच से गुज़रते देखा है, तो आपने फ़ेलियर मोड देखा है। यह grep चलाता है, दर्जनों फ़ाइलें पढ़ता है और सिर्फ़ फ़ंक्शन डेफ़िनिशन खोजने के लिए दस हज़ारों टोकन खर्च करता है। Semble नाम की एक प्रोजेक्ट, MinishLab से, उस लूप से बचने के लिए बनाई गई है। टीम ने 21 जुलाई को v0.5.2 शिप किया, और मुख्य दावा यह है कि उसी क्वेरी के लिए naive grep-प्लस-रीड पाइपलाइन की तुलना में लगभग 98% कम टोकन।

यह अंतर मायने रखता है क्योंकि सर्च आमतौर पर एजेंट के वर्कफ़्लो में सबसे महंगा कदम होता है, जनरेशन नहीं। अगर मॉडल पूछ सकता है "retry handler कहाँ परिभाषित है?" और इसके बजाय एक छोटा, केंद्रित जवाब वापस पा सकता है - हज़ारों टोकन की फ़ाइल डंप के बजाय - तो एजेंट लंबे रिफैक्टर्स पर सुसंगत रहता है और यूज़र API लागत का एक अंश ही देता है।

यह कंट्रास्ट पूरी पिच है। Grep लाइन नंबर लौटाता है, read पूरी फ़ाइलें खींचता है, और एजेंट को मानसिक रूप से संदर्भ फिर से इकट्ठा करना पड़ता है। Semble उस पुनर्निर्माण को छोड़ देता है मॉडल को कुछ ऐसा सीधे देकर जिस पर वह काम कर सके।

Semble अपने आप को एक कोड सर्च बैकएंड के रूप में पेश करता है जिसे किसी भी एजेंट हार्नेस से कॉल किया जा सकता है, न कि चैट प्रोडक्ट या IDE प्लगइन के रूप में। इस रेपो ने 5,600 से अधिक GitHub स्टार्स एकत्र किए हैं, पिछले 24 घंटों में एक रिलीज़ और अतिरिक्त कमिट्स दोनों आए हैं।

बिल्डर्स के लिए, व्यावहारिक सवाल यह है कि क्या सर्च आज आपके एजेंट के टोकन बिल पर हावी है। अगर ऐसा है, तो यह उपलब्ध सबसे प्रभावी स्वैप है, और पहला कदम आपके grep-and-read स्टेज को फोकस्ड सर्च टूल से बदलना है। रियल रेपो पर विश्वसनीय बेंचमार्क और पॉपुलर एजेंट CLI के साथ पहले औपचारिक इंटीग्रेशन के लिए देखें, जब एक जिज्ञासा डिफ़ॉल्ट इन्फ्रास्ट्रक्चर बन जाती है।

[09:10] whodb 4,900 स्टार्स पार करता है सक्रिय शिपिंग गति के साथ

whodb नाम का एक प्रोजेक्ट इस हफ्ते रडार पर आया जिसमें उल्लेखनीय गति है। GitHub पर clidey यूजर के तहत होस्ट किया गया यह ओपन-सोर्स रेपो अब लगभग 4,930 स्टार्स पर है। इसने 16 जुलाई को रिलीज़ 0.121.0 शिप किया, फिर छह दिन बाद 22 जुलाई को एक और रेपो पुश प्राप्त किया — इसका मतलब है कि मेन्टेनर्स ने एक ही हफ्ते में एक से अधिक बार शिप किया।

प्रोजेक्ट को एक छोटे टैगलाइन के साथ बताया गया है: "where data access meets operational intelligence." उस एक लाइन से पता चलता है कि मेन्टेनर्स एक व्यस्त इंटरसेक्शन को निशाना बना रहे हैं — उन टूल्स के बीच ओवरलैप जो आपको डेटा क्वेरी करने देते हैं और जो टूल्स जो आपको यह समझने में मदद करते हैं कि उसे होल्ड करने वाले सिस्टम के अंदर क्या हो रहा है। 0.121.0 वर्जन नंबर, उस हफ्ते की शिपिंग गति के साथ मिलकर, एक स्थिर, बसे हुए प्रोडक्ट की जगह सक्रिय इटरेशन में एक प्रोजेक्ट की ओर इशारा करता है। हर रिलीज़ एक चेकपॉइंट पढ़ती है, माइलस्टोन नहीं, और यह एक तेज-गति वाले प्रोजेक्ट के इस शुरुआती चरण में सामान्य है।

बिल्डर्स के लिए, सवाल यह है कि क्या whodb एक असली शर्त लगाने लायक बनता है। देखने योग्य सिग्नल कंक्रीट हैं और GitHub पेज से आसानी से ट्रैक किए जा सकते हैं। क्या स्टार काउंट 5,000 पार करेगा और बढ़ता रहेगा? क्या मेन्टेनर्स 1.0 रिलीज़ के लिए प्रतिबद्ध होंगे, जो बताएगा कि सरफेस एरिया स्थिर हो गया है? और क्या टैगलाइन का "operational intelligence" हिस्सा शिपिंग क्षमता में बदलेगा — या README पर एक पोजिशनिंग लाइन बना रहेगा?

जो आज आपको करने देता है वह सीधा है: रेपो क्लोन करें, करंट बिल्ड आज़माएं, और खुद बिचार करें कि प्रोजेक्ट आपके स्टैक में जगह का हकदार है या नहीं। जो कल आपको बनाने देता है वह अगले दस रिलीज़ पर निर्भर करता है — और इस पर कि क्या मेन्टेनर्स उस शिपिंग कैडेंस को बनाए रखते हैं।

[10:56] holaOS आपका Local-First वर्क एजेंट बनने की कोशिश करता है

holaOS खुद को एक अलग तरह के वर्क असिस्टेंट के रूप में पोजिशन कर रहा है, और पिच सीधी है: यह लोकली चलता है, मिनटों में आपके वर्किंग कॉन्टेक्स्ट को सीखता है, और इसे कभी नहीं भूलता। प्रोजेक्ट GitHub पर holaboss-ai ऑर्गनाइजेशन के तहत है और पहले से 5,500 से अधिक स्टार्स प्राप्त कर चुका है, 20 जुलाई तक हाल ही में कमिट एक्टिविटी के साथ।

यहां फ्रेमिंग मायने रखती है। ज्यादातर वर्क एजेंट जिनके बारे में आज लोग बात करते हैं, आपकी फाइलें, आपके प्रॉम्प्ट्स, और आपकी प्रोजेक्ट स्टेट रिमोट सर्वर पर भेजते हैं, फिर एक मेमोरी प्रोफाइल बनाते हैं जो किसी और के क्लाउड में रहती है। holaOS विपरीत विचार के इर्दगिर्द बना है। एजेंट आपके खुद के मशीन पर रहता है, मिनटों में समझता है कि आप क्या काम कर रहे हैं, और उस कॉन्टेक्स्ट को परमानेंटली होल्ड करता है। वह local-first अप्रोच मुख्य फीचर है, और यह मुख्य कारण भी है कि एक प्राइवेसी-सचेत बिल्डर, क्लाइंट मैटेरियल हैंडल करने वाला फ्रीलांसर, या इंटरनल डॉक्यूमेंट्स लीक होने की चिंता वाली कंपनी इसे देखेगी।

अभी के लिए, रिपॉजिटरी पर GitHub पर कोई टैग्ड रिलीज़ नहीं है, इसलिए README और कमिट इतिहास ही यह देखने का सबसे अच्छा तरीका है कि वास्तव में क्या बनाया जा रहा है। इसे आज इंस्टॉल करने वाले तैयार उत्पाद के बजाय देखभाल करने योग्य सक्रिय रूप से विकसित प्रोजेक्ट के रूप में मानें। दिलचस्प सवाल यह है कि पर्सिस्टेंट मेमोरी व्यवहार में कैसे काम करेगी। क्या एजेंट वास्तव में कई सप्ताह के प्रोजेक्ट की पूरी तस्वीर बनाए रखेगा, या यह हर दूसरे टूल की तरह सारांशित और प्रून करेगा? यह वह दांव है जो टीम लगा रही है, और यह वह दांव है जो 5,500 GitHub स्टार्स सुझाते हैं कि एक वास्तविक ऑडियंस इसके बारे में जानना चाहती है।

आगे देखने के लिए: एक पहला टैग्ड रिलीज़ जो यह बताता है कि कॉन्टेक्स्ट-लर्निंग वास्तव में कैसे चलती है, और कोई भी डेमो जो एजेंट को बिना डिटेल्स गंवाए एक असली मल्टी-डे प्रोजेक्ट संभालते हुए दिखाता है।

[12:45] A 27B Open-Weight Model Now Fits in Laptop RAM

एक 27-बिलियन-पैरामीटर ओपन-वेट मॉडल अब लैपटॉप पर आराम से चल रहा है, और डाउनलोड काउंटर तेजी से बढ़ रहा है। रेपो, prism-ml/Ternary-Bonsai-27B-gguf, को 4 जुलाई को Hugging Face पर prism-ml टीम द्वारा एक GGUF पैकेज के रूप में प्रकाशित किया गया था जो सीधे llama.cpp में प्लग इन होता है। रिलीज़ के कुछ ही दिनों में इसने 432,000 डाउनलोड पार कर लिए और 913 लाइक्स इकट्ठे कीं, जिससे यह ट्रेंडिंग बोर्ड के शीर्ष के करीब पहुंच गया।

मुख्य विवरण कंप्रेशन है। मॉडल सभी 27 बिलियन पैरामीटर रखता है, लेकिन हर वेट तीन संभावित मानों में से एक के रूप में संग्रहीत है — एक तकनीक जिसे टर्नरी क्वांटाइज़ेशन कहा जाता है। यह आक्रामक कंप्रेशन ही कारण है कि फ़ाइल का आकार उस सीमा में गिर जाता है जिसे 16 या 32 गीगाबाइट यूनिफाइड मेमोरी वाला आधुनिक लैपटॉप अपने आप संभाल सकता है, बिना होस्टेड API की आवश्यकता के और बिना डेटा मशीन से बाहर निकले। यह वह चाल है जो 27B चैट मॉडल को RAM में रखती है बजाय इसके कि बिल्डर्स को डिस्क से वेट स्ट्रीम करने के लिए मजबूर किया जाए।

व्यक्तिगत बिल्डर्स और छोटी टीमों के लिए, यही मायने रखने वाली पंक्ति है — यह वह अंतर है जो वर्कस्टेशन-क्लास मशीन की आवश्यकता और अपने पास पहले से मौजूद लैपटॉप पर 27B मॉडल चलाने में है।

एक्सेलरेशन सपोर्ट रिलीज़ का हिस्सा है। पैकेज Nvidia कार्ड के लिए CUDA पर और Apple Silicon Mac के लिए Metal पर चलता है, इसलिए बिल्डर्स वह हार्डवेयर चुन सकते हैं जो उनके पास पहले से है। लोकल चैट और हल्के एजेंट लूप के लिए, व्यावहारिक रेसिपी सीधी है: GGUF खींचें, llama.cpp को इस पर पॉइंट करें, और आपके पास कुछ ही मिनटों में अपनी मशीन पर चलने वाला एक निजी कन्वर्सेशनल मॉडल है, पूरी तरह ऑफलाइन।

आगे देखने के लिए यह है कि वे कसकर संपीड़ित वेट कठिन रीज़निंग टास्क पर कितनी अच्छी तरह टिकते हैं। आक्रामक क्वांटाइज़ेशन सिंगल-टर्न चैट की तुलना में मल्टी-स्टेप चेन पर तेजी से खराब होता है, इसलिए लंबे-कॉन्टेक्स्ट रीज़निंग टेस्ट पर स्वतंत्र मूल्यांकन ही वास्तविक संकेत होंगे कि यह गुणवत्ता में वास्तविक बदलाव है या बस एक फुटप्रिंट स्टोरी।

[14:42] Anthropic's $1.5B Pirated-Books Settlement Gets Final Court Approval

एक संघीय न्यायाधीश ने उन पायरेटेड किताबों पर Anthropic के $1.5 बिलियन के समझौते को मंजूरी दी जिनका उपयोग Claude को प्रशिक्षित करने के लिए किया गया था, जिसमें Bartz सहित लेखकों द्वारा दायर प्रमुख मामला समाप्त हुआ। यह सौदा उन लेखकों को मुआवजा देता है जिनकी किताबें पायरेट स्रोतों से डाउनलोड की गईं और Claude के प्रशिक्षण डेटा में शामिल की गईं। अदालत ने डॉलर की राशि को मंजूरी दी, लेकिन फैसला उस सवाल का जवाब नहीं देता जो उसने उठाया: क्या अनुमति के बिना कॉपीराइट किताबों पर AI को प्रशिक्षित करना उचित उपयोग माना जाता है। यह सवाल दूसरी AI कंपनियों के खिलाफ समान मुकदमों में जीवित है, इसलिए यह एक अध्याय बंद हो रहा है जबकि प्रशिक्षण डेटा पर व्यापक लड़ाई जारी है। जो इस समझौते को ठोस बनाता है वह नंबर है। Anthropic लेखक वर्ग से दावों को हल करने के लिए $1.5 बिलियन का भुगतान कर रहा है — ऐसे काम जिन्हें लेखकों ने कभी AI प्रशिक्षण के लिए लाइसेंस देने के लिए सहमत नहीं किया था। AI बनाने या खरीदने वाले किसी भी व्यक्ति के लिए, यह आंकड़ा उस एक्सपोज़र के लिए एक संदर्भ बिंदु निर्धारित करता है जब पायरेटेड स्रोतों से स्क्रैप की गई सामग्री पर मॉडल प्रशिक्षित होता है। व्यवहार में तीन चीजें बदलती हैं। इस सौदे के तहत कवर किए गए लेखकों को Claude के प्रशिक्षण मिक्स में दिखने वाले काम के लिए भुगतान मिलता है। Anthropic ने सार्वजनिक रूप से एक समझौता स्वीकार किया है बजाय इसके कि वह उचित उपयोग का बचाव जारी रखे। हर दूसरी लैब जिसने पायरेटेड पुस्तक अभिलेखों को छुआ है, अब यह जानती है कि बातचीत से तय समाधान की कीमत कितनी है। कहानी ने Hacker News पर सैकड़ों टिप्पणियां खींचीं, जो इस बात का संकेत है कि डेवलपर्स, लेखक और AI खरीदार परिणाम को कितनी करीब से ट्रैक कर रहे हैं। आगे देखने के लिए: अन्य AI कंपनियों के खिलाफ शेष कॉपीराइट मुकदमों की कैसे दलील दी जाती है, और क्या उनमें से कोई भी अदालत का फैसला देता है जो AI प्रशिक्षण के लिए उचित उपयोग वास्तव में परिभाषित करता है। उद्योग के पास अभी भी कॉपीराइट टेक्स्ट पर AI प्रशिक्षित करने पर स्पष्ट कानूनी रेखा नहीं है।

[16:26] डाइजेस्ट: github लिस्टिंग एड्स

कोडिंग एजेंट लंबे टूल आउटपुट को पढ़ते समय और कमांड चलाते समय चबाते हैं, और उस कॉन्टेक्स्ट को ट्रिम करना लंबे टास्क पर एक असली बॉटलनेक है। SWE-Pruner Pro नाम का एक नया पेपर तर्क देता है कि यह तय करने के लिए कि क्या रखना है, आपको अलग फिल्टर की जरूरत नहीं है — एजेंट को पहले से पता है। लेखकों का पता चलता है कि मॉडल यह internally संकेत ले जाता है कि कोड के कौन से टुकड़े मायने रखते हैं, और एक छोटा प्रशिक्षित हेड उन संकेतों को पढ़कर बेजोड़ चंक्स को प्रॉम्प्ट में जाने से पहले ड्रॉप कर सकता है। सादे शब्दों में, एजेंट अपना स्वयं का ट्रायज करता है बजाय बाहरी क्लासिफायर पर निर्भर रहने के। यह मायने रखता है क्योंकि यह लूप से एक पूरा अतिरिक्त मॉडल हटा देता है, जिसका मतलब है लंबे कोडिंग सेशन पर तेज रन और कम लागत। बिल्डर्स के लिए, यह भविष्य की ओर इशारा करता है जहां कॉन्टेक्स्ट प्र्यूनिंग मॉडल के अंदर रहती है न कि अलग स्टेज के रूप में जोड़ी गई। देखने योग्य है: क्या ओपन कोडिंग एजेंट सेल्फ-प्र्यूनिंग को स्टैंडर्ड लेयर के रूप में अपनाते हैं, और जब टूल आउटपुट और भी लंबे होते हैं तो यह कैसे व्यवहार करता है।

[17:29] OpenAI और Hugging Face ने मॉडल इवैल्यूएशन सिक्योरिटी इंसिडेंट का खुलासा किया

OpenAI और Hugging Face ने संयुक्त रूप से एक सिक्योरिटी इंसिडेंट के प्रारंभिक निष्कर्ष प्रकाशित किए जो मॉडल इवैल्यूएशन के दौरान हुई थी। यह संयुक्त पोस्ट 21 जुलाई को दिखाई दी, और यह उस पर पर्दा उठाती है जो अधिकांश लैब्स को शांत रखना पसंद करेंगे — क्या होता है जब प्रतिकूल दबाव एक इवैल्यूएशन पाइपलाइन से मिलता है जो वेट, प्रॉम्प्ट और डाउनस्ट्रीम इन्फ्रास्ट्रक्चर को हैंडल करती है। मुख्य निष्कर्ष यह है कि शामिल थ्रेट एक्टर्स ने उन्नत साइबर क्षमताएं दिखाईं। यह एक जानबूझकर, सावधानीपूर्ण वाक्यांश है। यह संकेत करता है कि जिसने भी इवैल्यूएशन वातावरण को टेस्ट किया, वह ऑफ-द-शेल्फ मैलवेयर या कमोडिटी टूलिंग नहीं चला रहा था। दोनों लैब्स इसे डिफेंडर्स के लिए एक सीखने के पल के रूप में फ्रेम कर रहे हैं, और यह फ्रेमिंग मायने रखती है क्योंकि इवैल्यूएशन पाइपलाइन तेजी से आकर्षक लक्ष्य बन रही हैं। वे मॉडल वेट, ग्रेडिएंट डेटा और सर्विंग इन्फ्रास्ट्रक्चर के करीब बैठती हैं। eval में फुटहोल्ड प्रोडक्शन में फुटहोल्ड जैसा नहीं है, लेकिन यह आपको स्टैक के बाकी हिस्से के असुविधाजनक करीब लाता है। पोस्ट जानबूझकर विवरणों में हल्की है — यह प्रारंभिक निष्कर्षों के रूप में लेबल की गई है — और यह खुद एक उपयोगी संकेत है। लैब्स रियल टाइम में तय कर रही हैं कि जब एक इंसिडेंट शेयर्ड इन्फ्रास्ट्रक्चर या शेयर्ड इवैल्यूएशन प्रैक्टिस को छूता है तो कितना खुलासा करना है, बिना अगले अटैकर को रोडमैप दिए। संयुक्त प्रारूप भी उल्लेखनीय है: दो प्रतिस्पर्धी लैब्स का एक साथ सिक्योरिटी वार्निंग प्रकाशित करना दुर्लभ है। बिल्डर्स क्या ले सकते हैं? इवैल्यूएशन वातावरण को उसी तरह ट्रीट करें जैसे आप किसी भी सिस्टम को ट्रीट करते हैं जो अनट्रस्टेड कोड या बाहरी मॉडल आर्टिफैक्ट्स को ingest करता है: नेटवर्क सेगमेंट करें, एग्रेसिवली लॉग करें, ऑडिट करें कि वेट को कौन टच कर सकता है, और मान लें कि eval में लैंड करने वाला अटैकर ट्रेनिंग डेटा या सर्विंग एंडपॉइंट की ओर पिवट करने की कोशिश करेगा। आगे क्या देखना है: ठोस शमन उपायों के साथ एक पूर्ण पोस्ट-इंसिडेंट राइट-अप, और क्या अन्य प्रमुख लैब्स समान संयुक्त खुलासे के मानदंडों को अपनाती हैं।

[19:17] रिसर्च डाइजेस्ट: लंबे-कॉन्टेक्स्ट रीजनिंग मॉडल आपके प्रॉम्प्ट को कॉपी-पेस्ट क्यों करते हैं उसके बजाय सोचने के

जब आप एक रीजनिंग मॉडल को एक बहुत लंबा दस्तावेज़ सौंपते हैं — मान लीजिए, एक 200 पेज का कॉन्ट्रैक्ट या एक पूरा कोडबेस — तो उसकी एक आदत होती है जो आपको अप्रत्याशित लगेगी: वह वास्तव में समस्या के माध्यम से काम करने के बजाय आपके प्रॉम्प्ट के टुकड़ों को आपको वापस कॉपी-पेस्ट करना शुरू कर देता है। नई रिसर्च इसे लंबे-कॉन्टेक्स्ट LLM में एक कोर फेलियर मोड के रूप में पहचानती है, और दिखाती है कि यह इनपुट जितना लंबा होता है उतना बदतर होता जाता है। मूल कारण क्षमता नहीं है — यह है कि मॉडल बिना भेद के प्रॉम्प्ट से कॉपी करते हैं, जो भी टेक्सट पास में है वह पकड़ लेते हैं उसके बजाय उस सबूत पर ध्यान केंद्रित करने के जो मायने रखता है। जो बेजोड़ सामग्री पर अटकते हैं वे गलत जवाब देने लगते हैं। टीम ने एक ट्रेनिंग रिवॉर्ड बनाया जो मॉडल को उन सबूतों में अपनी रीजनिंग को ग्राउंड करने के लिए भुगतान करता है जो मायने रखते हैं और फिलर इको करने के लिए उनसे कटौती करता है। कई मॉडल साइज़ों में, उस दृष्टिकोण ने स्टैंडर्ड ट्रेनिंग पर 4.6 पॉइंट तक जोड़ा, सबसे बड़े gains सबसे लंबे कॉन्टेक्स्ट में और छोटे reasoning traces एक बोनस के रूप में। देखना है कि क्या यह ग्राउंडिंग सिग्नल अगली-जेन रीजनिंग मॉडल में अपनाया जाता है, और क्या यह प्रतिकूल लंबे इनपुट पर बना रहता है।

[20:24] XcodeBuildMCP 2.6.2 coding agents को Apple builds तक रियल एक्सेस देता है

Apple प्लेटफॉर्म डेवलपर्स को अपने दिन के सबसे कठिन हिस्से के लिए एक अधिक सक्षम copilot मिला है। Sentry ने XcodeBuildMCP का वर्शन 2.6.2 शिप किया है, एक Model Context Protocol सर्वर और CLI जो एक AI agent को iOS और macOS प्रोजेक्ट्स पर रियल एक्सेस देता है। यह टूल एक कोडिंग असिस्टेंट और Xcode के बीच बैठता है, Apple build के उन हिस्सों को खोलता है जो एजेंट्स सामान्य रूप से पहुंच नहीं सकते। GitHub पर अब रिपॉजिटरी पर 6,100 से अधिक स्टार्स दिखाई देते हैं, और नवीनतम रिलीज इस साल 2 जून को शिप हुई थी।

सादे अंग्रेजी में, MCP, जो Model Context Protocol है, एक स्टैंडर्ड है जो असिस्टेंट्स को एक परिभाषित इंटरफेस के माध्यम से बाहरी टूल्स को कॉल करने देता है। XcodeBuildMCP उस स्टैंडर्ड का उपयोग Xcode-संबंधित काम को expose करने के लिए करता है — वे चीजें जो एक डेवलपर के build या test दबाने के बाद होती हैं — एक AI असिस्टेंट तक, ताकि एक Apple प्रोजेक्ट पर एक agent टेक्स्ट फाइलों को एडिट करने से आगे बढ़ सके। चूंकि यह एक लोकल सर्वर के रूप में चलता है, असिस्टेंट लूप में रहता है जब वास्तव में डेवलपर की मशीन पर काम होता है।

बिल्डर्स के लिए इसका मतलब है रियल वर्कफ्लो गेन। आप एक coding agent को एक iOS ऐप या एक macOS प्रोजेक्ट पर पॉइंट कर सकते हैं, और कोड एडिट्स पर रुकने के बजाय, असिस्टेंट MCP कनेक्शन के माध्यम से बिल्ड लूप के बाकी हिस्से को ड्राइव कर सकता है। जो टीमें पहले से ही crash reporting के लिए Sentry चलाती हैं, उन्हें उस इकोसिस्टम में सब कुछ रखने का एक अतिरिक्त कारण मिलता है, क्योंकि प्रोजेक्ट Sentry की ओपन सोर्स टीम द्वारा मेनटेन किया जाता है।

देखने की अगली बात अपनाना है। रिपॉजिटरी को हाल ही में 22 जुलाई को पुश किया गया था, जो स्थिर रखरखाव का संकेत है, और अधिक दिलचस्प सवाल यह है कि क्या Apple के अपने डेवलपर टूल्स मूल रूप से MCP बोलना शुरू करेंगे। तब तक, यह प्रोजेक्ट एक AI असिस्टेंट और Xcode बिल्ड के बीच सबसे व्यावहारिक पुल है।

[22:14] Community Qwen 3.6 MoE Variant Tops Hugging Face Trending

Qwen 3.6 पर समुदाय-निर्मित वेरिएंट इस सप्ताह Hugging Face ट्रेंडिंग चार्ट पर चढ़ रहा है। रिपॉजिटरी है HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — एक मल्टीमॉडल Mixture-of-Experts मॉडल जो GGUF फॉर्मेट में वितरित किया गया है, जिसमें विज़न और टेक्स्ट-टू-टेक्स्ट क्षमताएं हैं और इसके फाइन-ट्यूनिंग में कम सुरक्षा फ़िल्टरिंग शामिल है।

'35B-A3B' नेमिंग पैटर्न डिज़ाइन इरादे की ओर इशारा करता है: लगभग 35 बिलियन कुल पैरामीटर प्रति टोकन लगभग 3 बिलियन सक्रिय के साथ, जो एक MoE बिल्ड की पहचान है — कागज पर बड़ी क्षमता, लेकिन समान कुल आकार के एक घने मॉडल की तुलना में प्रति क्वेरी चलाना सस्ता। GGUF टैग का मतलब है कि यह सीधे llama.cpp इकोसिस्टम में जाता है, इसलिए कंज्यूमर GPU या हाई-RAM लैपटॉप वाला कोई भी व्यक्ति इसे स्थानीय रूप से लोड कर सकता है।

इसे किसने भेजा: HauhauCS नामक एक समुदाय पब्लिशर। एंगेजमेंट संख्या वास्तविक है — लगभग 2 मिलियन डाउनलोड और हब पर 3,000 से कम लाइक्स, जिसमें सूची को अंग्रेज़ी, विज़न और qwen3.6 परिवार के टैग्स में मल्टीमॉडल उपयोग के लिए टैग किया गया है। 'अनसेंसर्ड' और 'एग्रेसिव' लेबल एक फाइन-ट्यून की ओर इशारा करते हैं जो स्थानीय एजेंट कार्य और उन उपयोग मामलों के लिए है जहां डेवलपर्स अपस्ट्रीम बेस मॉडल की तुलना में कम रिफ्यूजल चाहते हैं।

यह क्या सक्षम बनाता है: एक मल्टीमॉडल MoE जिसे आप घर पर चला सकते हैं, उसमें इमेज डाल सकते हैं और स्थानीय एजेंट स्टैक में जोड़ सकते हैं — वेट्स पर पूर्ण नियंत्रण, बाहरी API कॉल की आवश्यकता नहीं, और वह प्रयोग करने की स्वतंत्रता जो क्लाउड-ओनली मॉडल शायद ही कभी प्रदान करते हैं। यह खुले-वेट समुदाय अपनी ऊर्जा कहां खर्च करता है, इसका एक उपयोगी स्नैपशॉट है: नवीनतम बेस मॉडल को उन रूपों में पुनः पैकेज करना, पुनः फाइन-ट्यून करना और पुनर्वितरित करना जो लैब स्वयं शिप नहीं करतीं।

एक बात देखने की है: क्या इस लिस्टिंग पर डाउनलोड वक्र बढ़ता रहता है, जो संकेत देगा कि समुदाय-क्वांटाइज्ड MoE वेरिएंट स्थानीय AI बिल्डर्स द्वारा नए बेस मॉडल का उपभोग करने का डिफ़ॉल्ट तरीका बन रहे हैं।

[24:03] Bristol Myers Squibb builds a Vera Rubin SuperPOD for drug discovery

Bristol Myers Squibb दवा खोज के लिए AI इन्फ्रास्ट्रक्चर पर दोगुना दांव लगा रही है। फार्मास्युटिकल कंपनी अपना दूसरा NVIDIA DGX SuperPOD तैनात कर रही है, यह आठ रैक-स्केल DGX Vera Rubin NVL72 सिस्टम से बना है, और इसका इरादा इसे अपने वैश्विक शोध संगठन के वैज्ञानिकों के लिए खोलने का है।

प्रत्येक सिस्टम NVIDIA Vera CPUs को Rubin GPUs के साथ जोड़ता है। NVIDIA का कहना है कि नया क्लस्टर जिस इन्फ्रास्ट्रक्चर को बदल रहा है उसकी तुलना में प्रति मेगावाट दस गुना प्रदर्शन दे सकता है। BMS बायोलॉजिकल AI के लिए BioNeMo Agent Toolkit और ऑपरेटिंग लेयर के रूप में Mission Control भी ला रही है, फिर शोध स्थलों में शोध के दौरान पुराने और नए SuperPODs को एक एकल डेटा प्लेन के माध्यम से जोड़ रही है।

महत्वपूर्ण बात यह है कि BMS के पास पहले SuperPOD से पहले से ही साक्ष्य हैं। AI-सहायता प्राप्त लक्ष्य पहचान ने वैज्ञानिकों के हफ्तों के मैनुअल काम की बचत की है। शोधकर्ताओं ने कैंसर-कारक प्रोटीन को बिगाड़ने के लिए डिज़ाइन किए गए यौगिकों की लाइब्रेरी का विस्तार करने के लिए मॉडल का उपयोग किया है, और वे भविष्यवाणियों का उपयोग यह प्राथमिकता देने के लिए करते हैं कि कौन से अणु संश्लेषित करने योग्य हैं, दुर्लभ प्रयोगशाला समय खर्च करने से पहले।

अब कंपनी चाहती है कि ये क्षमताएं बिना साइट-विशिष्ट एक्सेस बाधाओं या गहरी कम्प्यूटेशनल विशेषज्ञता के उपलब्ध हों। शोधकर्ता सादे अंग्रेज़ी में जटिल भविष्यवाणियां शुरू करने में सक्षम होंगे, जबकि प्रयोगात्मक डेटा और मॉडल परिणाम स्थानों में एक साझा सीखने के लूप में जमा होंगे।

बिल्डर्स के लिए, यह एजेंटिक AI का वैज्ञानिक अवसंरचना बनना एक ठोस तस्वीर है। यह दांव केवल यह नहीं है कि अधिक GPUs अनुसंधान को तेज़ बनाते हैं। यह है कि साझा कंप्यूट, डोमेन मॉडल और संचित प्रयोगात्मक ज्ञान हर खोज चरण में उपयोग की जाने वाली एक सुलभ प्रणाली बन सकते हैं, विशेषज्ञ संसाधन के बजाय जिसके लिए वैज्ञानिक लाइन में इंतज़ार करते हैं।

[25:51] व्यावहारिक कतार

आज की कहानियों से: मल्टी-एजेंट रन अंततः वास्तविक काम के लिए पर्याप्त स्थिर हैं — उत्पादन कोड पर भरोसा करने से पहले समानांतर जांच या रिफैक्टर का प्रयास करें। OpenRouter का उपयोग करने वाले बिल्डर्स अब मौजूदा इंटरफ़ेस के माध्यम से Gemini 3.6 Flash को कोडिंग और एजेंटिक वर्कलोड रूट कर सकते हैं, बड़े रिपॉजिटरी और लंबे एजेंट ट्रेस के लिए मिलियन-टोकन विंडो का लाभ उठाते हुए। इसका मतलब बिल्डर्स के लिए यह है कि छोटी टीमें अब खुद चैट, रेपो और एजेंट रनटाइम को स्टिच करना बंद कर सकती हैं, क्योंकि Buzz उन परतों को एक ही जगह रखने का लक्ष्य रखता है। यदि आपके एजेंट का टोकन बिल खोज से प्रभावित है, तो एक फोकस्ड कोड-सर्च बैकएंड उच्चतम-लीवरेज स्वैप है। इसका मतलब: यह परियोजना डेटा टूलिंग स्पेस में काम करने वालों के लिए त्वरित मूल्यांकन लायक है, क्योंकि सक्रिय गति वह तरह का संकेत है जो बताता है कि मेंटेनर्स बना रहे हैं या बनाए रख रहे हैं। यह उन बिल्डर्स के लिए मायने रखता है जो एक वर्क एजेंट चाहते हैं जो संवेदनशील फ़ाइलों को तृतीय पक्ष को शिप किए बिना सप्ताहों तक प्रोजेक्ट संदर्भ बनाए रखे। इसका मतलब: एक 27-बिलियन-पैरामीटर ओपन-वेट मॉडल अब वास्तव में लैपटॉप RAM में फिट होता है, जो एक निजी, पूर्ण ऑफ़लाइन संवादी सहायक को व्यावहारिक बनाता है न कि सैद्धांतिक। इसका मतलब: जिन AI कंपनियों के प्रशिक्षण पाइपलाइन ने पायरेटेड टेक्स्ट को छुआ है, उनके पास अब स्पष्ट वित्तीय एक्सपोजर मॉडल है — एकल क्लास एक्शन के लिए $1.5 बिलियन। इसका मतलब: संदर्भ प्रूनिंग एक बोल्टेड-ऑन क्लासिफायर से आंतरिक रूप से मॉडल द्वारा संभाली जाने वाली चीज़ में बदल सकता है। इसका मतलब: संयुक्त प्रकटीकरण मूल्यांकन पाइपलाइनों को प्रोडक्शन-ग्रेड एसेट के रूप में मानता है — सेगमेंटेड, लॉग्ड, और ऑडिटेड उसी तरह से जैसे आप किसी भी सिस्टम को सख्त करेंगे जो अविश्वसनीय कोड संभालता है। लंबे-संदर्भ रीज़निंग मॉडल का उपयोग करने वाले बिल्डर्स के लिए, व्यावहारिक निहितार्थ यह है कि कॉपी-पेस्ट व्यवहार गलत उत्तरों का एक प्रमुख संकेतक है — विशेष रूप से लंबे संदर्भ लंबाई पर। iOS और macOS डेवलपर्स अपने प्रोजेक्ट वर्कफ़्लो में सीधे एक MCP-बोलने वाला कोडिंग असिस्टेंट वायर कर सकते हैं, ताकि एजेंट कोड एडिट से अधिक संभाले और बिल्ड और टेस्ट के माध्यम से उपयोगी रहे। स्थानीय एजेंट चलाने वाले बिल्डर्स के लिए, यह संकेत करता है कि कम्युनिटी-क्वांटाइज्ड मल्टीमॉडल MoE वेरिएंट कंज्यूमर GPUs वाले होबी रिग्स के लिए यथार्थवादी विकल्प हैं। Bristol Myers Squibb का दूसरा SuperPOD दिखाता है कि एजेंटिक AI साझा वैज्ञानिक अवसंरचना बन रही है, अलगाव प्राप्त ऑफिस असिस्टेंट के बजाय।