Mistral Large 4, EmbeddingGemma 2 und OpenTPU

Episode 121 — 7. Oktober 2026

[00:00] Episodeneinstieg

Mistral hat eine öffentliche Vorschau von Large 4 geöffnet, Google bringt Text, Bilder, Video und Audio in ein lokales Suchmodell, und OpenTPU teilt ein KI-Beschleuniger-Design. Beginnen wir mit Mistral.

[02:00] Mistral Large 4 öffnet eine öffentliche Vorschau mit Sicherheits- und Visionsgewinnen

Mistral hat eine öffentliche Vorschau seines größten Modells geöffnet, das den Spitznamen Le Chonk trägt. ML4 ist ein natives multimodales Modell mit 1 Billion Parameter und 49 Milliarden aktiven Parametern. Mistral berichtet, dass ML4 zu den fünf besten Modellen im Artificial Analysis Cyber Index gehört und bei außerhalb Chinas entwickelten Open-Weight-Modellen führend ist. Der Herausgeber berichtet, dass ML4 bei visueller Verankerung GPT-6-Astra auf Dense 200 übertrifft und 42% gegenüber 41% von GPT-6-Astra erreicht. ML4 ist heute als Vorschau-API auf Mistral Studio verfügbar, mit versprochenen offenen Gewichten bis Ende des Monats. Aktive Parameter sind der Teil des Modells, der für ein bestimmtes Token verwendet wird, und nicht die gesamte Sammlung von Gewichten. Dieser Unterschied hilft zu erklären, wie ein Modell dieser Größe seine Berechnung verteilt. Der Sicherheitsindex bewertet das Finden und Beheben von Fehlern in echter Software. Mistral gibt an, dass ML4 82% bei einer separaten Aufgabe erreicht hat, die erforderte, eine echte Sicherheitslücke zu reproduzieren und zu patchen, und 93% der vierzig Cybench-Herausforderungen gelöst hat. Dies sind gemeldete Ergebnisse aus bestimmten Aufgaben. Sie begründen keinen Erfolg bei jedem Sicherheitsproblem. Der Vergleich der visuellen Verankerung bezieht sich auf die Lokalisierung dessen, was in einem Bild wichtig ist, wobei der Herausgeber Anwendungen in Satellitenbildern und technischen Zeichnungen beschreibt. Mistral hat das Modell auf 3.800 NVIDIA Grace Blackwell GPUs in seinen europäischen Rechenzentren trainiert. Für Teams, die Self-Hosting in Betracht ziehen, ist der sofortige Zugang der Vorschaudienst; die angekündigte Gewichtfreigabe kommt später.

[02:02] EmbeddingGemma 2 bringt multimodale Suche auf lokale Geräte

Google verwandelt mehrere Arten von Medien in eine durchsuchbare Darstellung. Ein Embedding ist eine kompakte Liste von Zahlen, die zum Vergleichen von Bedeutungen verwendet wird; es ermöglicht einer Textabfrage, verwandte Medien zu finden, ohne nur exakte Wörter abzugleichen. Google hat EmbeddingGemma 2 veröffentlicht, ein 740M-Parameter-Open-Modell unter Apache 2.0, das nativ Text, Bilder, Video und Audio in einen einheitlichen 768-dimensionalen Embedding-Raum abbildet. Das Modell unterstützt über 100 Sprachen, ein 8K-Token-Kontextfenster und modulares Encoder-Laden, das nur Text bei etwa 191MB aktivem RAM auf einem Pixel 11 Pro ausführt. Der Herausgeber berichtet, dass im Vergleich zu EmbeddingGemma 1, EmbeddingGemma 2 auf MTEB Code 78,68 gegenüber 68,76 erreicht, ein Zuwachs von 9,92 Punkten. Die Modellkarte warnt, dass float16 ungültige oder stillschweigend degradierte Embeddings erzeugen kann, weil der Aktivierungsbereich das übersteigt, was float16 darstellen kann. Modellgewichte sind auf Hugging Face und Kaggle unter Apache 2.0 verfügbar, mit Laufzeiten einschließlich sentence-transformers, Ollama, llama.cpp und vLLM. Das Text-Backbone verwendet 270 Millionen Parameter, mit separaten Visions- und Audio-Encodern, die nur bei Bedarf geladen werden können. Das gibt einer Text-only-Anwendung einen kleineren Fußabdruck als das vollständige Modell. Das Modell unterstützt auch das Kürzen seiner Ausgabevektoren. Seine Dokumentation besagt, dass die Qualität bis auf 256 Dimensionen nahe am vollständigen Repräsentation bleibt, während 128 Dimensionen die multimodale Qualität erheblich reduzieren. Ein kleinerer Vektor kann Speicher sparen, aber dieser Kompromiss hängt vom durchsuchten Inhalt ab. Die dokumentierten Anwendungen umfassen lokale Codesuche, Abruf für Coding-Agents und das Finden von Audio oder Video aus einer Textabfrage. Dies sind Embeddings für Abruf und Klassifikation, nicht ein Chatbot, der eine Antwort generiert. Die Präzisionswarnung ist wichtig, weil ein schlechtes Embedding plausibel aussehen kann, während es die Rangfolge stillschweigend verschlechtert.

[03:47] Ein KI-entworfener KI-Beschleuniger läuft jetzt mit zehn Modellen auf einer 3K-FPGA-Karte

FeSens hat OpenTPU veröffentlicht, einen Open-Source-KI-Beschleuniger, der zehn moderne Modelle auf einer Kintex-7-FPGA-PCIe-Karte ausführt. Das gesamte Projekt lebt in einem Monorepo, das Sie von Anfang bis Ende lesen können: das Hardware-Design in SystemVerilog, die Befehlssatzarchitektur, einen bit-exakten Simulator, eine Kernel-Sprache und einen Compiler sowie die Host-Software. Die Karte läuft Qwen3, Qwen3.5, LFM2.5, Gemma 4, SmolLM3 und Phi-4-mini mit ihren echten Gewichten und stimmt die Hugging Face Token-Ausgabe in jeder Konfiguration exakt überein. Beim kleinsten Modell, LFM2.5-230M in int8, dekodiert es mit 59 Tokens pro Sekunde; Qwen3-0.6B mit einem 4-Bit-Körper erreicht 31 tok/s. Die Architektur ist bewusst einfach. Ein Sequenzer gibt einen Befehl pro Zyklus an eine Matrix-Einheit aus, die int8-Gewichte aus dem DRAM streamt, eine Vektor-Einheit, die Gleitkomma-Mathematik handhabt, und einen Quantisierer, der Ergebnisse zurück in int8 konvertiert. Es gibt keinen Cache, also ist jede Datenbewegung explizit und ein Trace zeigt genau, wo die Zyklen hingehen. Die LiteDRAM-Controller kalibrieren beide DDR3-Kanäle in 12 Sekunden beim Start und treiben den Speicher bei 91-94% der Spitzenleistung der Karte an, gegenüber den 82-87% des vorherigen Produktions-Images. Ein zweiter Build trieb das weiter voran und gab den meisten Modellen 8-9% schnelleres Dekodieren. 4-Bit-quantisierte Gewichte verwenden FP4-Werte mit zweistufigen Blockskalen und halten den Sprachmodell-Kopf für Genauigkeit in int8. Sie reduzieren den Speicherverkehr um etwa ein Drittel und erhöhen den Dekodierdurchsatz um 40-45%. Die Karte bewältigt auch Mixture-of-Experts-Modelle, die größer als ihr 4-GiB-Limit sind, indem sie fehlende Experten vom Host über PCIe streamt, jeden Token weiterleitet und jeden Experten auf dem Beschleuniger selbst berechnet.

[05:25] Forschungsrundschau: Weniger Alignment, bessere Destillation: ein kontraintuitives Ergebnis für Training über Tokenizer hinweg

Weniger Alignment-Arbeit beim Destillieren eines kleinen Modells von einem größeren Lehrer zu leisten, kann tatsächlich bessere Ergebnisse liefern, laut neuer Forschung eines Teams einschließlich Bingxi Hou. Das kontraintuitive Ergebnis stammt aus der Untersuchung dessen, was passiert, wenn Lehrer und Schüler unterschiedliche Tokenizer verwenden, also unterschiedliche Arten, Text in Stücke zu schneiden. Der gängige Ansatz ist, so viel ihres Vokabulars wie möglich auszurichten. Aber über drei Lehrer-Schüler-Paare bei mathematischem Schlussfolgern und Code-Generierung fand das Team heraus, dass strenge Eins-zu-Eins-Token-Positionen den größten Teil dessen abdecken, was der Schüler generiert, selbst bei erheblichem Vokabular-Mismatch. Die Beschränkung des Trainingssignals auf eine kleine Teilmenge des gemeinsamen Vokabulars an diesen strengen Positionen entsprach oder übertraf breitere Alignments-Methoden, einschließlich der Standard-Tokenizer-übergreifenden Baselines. Als sie den mismatched Gruppen Überwachung hinzufügten, um vollständige Abdeckung anzustreben, sank die Genauigkeit. Der wahrscheinliche Grund: Diese zusätzlichen Signale sind schwach oder zeigen in entgegengesetzte Richtungen zu den nützlichen und bringen das Training auf Abwege. Die Erkenntnis: Beim Destillieren über Tokenizer hinweg schlägt kompakte Überwachung an strengen Positionen breitere Abdeckung, die Rauschen einführt.

[06:32] OpenAI veröffentlicht KI-generierte mathematische Beweise mit maschinell geprüften Lean-Dateien

OpenAI hat eine Reihe neuer mathematischer Ergebnisse veröffentlicht, die von einem seiner KI-Modelle produziert wurden, und sie in ein GitHub-Repository gestellt, wo jeder sie lesen kann. Der Drop enthält Formalisierungen vieler Beweise in Lean — einer Programmiersprache, die es einem Computer ermöglicht zu überprüfen, ob ein mathematisches Argument tatsächlich standhält. Dieser Teil ist wichtig, weil KI-generierte Beweise normalerweise als Prosa ankommen, die niemand vollständig verifizieren kann; hier sind viele davon maschinell geprüft.

Das Unternehmen teilte auch mit, wie viel Arbeit investiert wurde. Im Durchschnitt verbrauchte jedes Ergebnis etwa drei Stunden ChatGPT Pro-ähnlicher Denk-Berechnung. Zehn Modell-Reasoning-Zusammenfassungen sind enthalten, damit andere Mathematiker sehen können, wie die KI zu ihren Antworten kam, zusammen mit Statistiken darüber, wie viele Probleme sie zu lösen versuchte, bevor sie veröffentlichungswürdige Ergebnisse produzierte.

OpenAI arbeitete mit einem unabhängigen Ausschuss darüber, wie Arbeiten dieser Art veröffentlicht werden sollten, und wird Workshops und Konferenzen finanzieren, um die wichtigsten Ergebnisse zu diskutieren. Es sagt auch, dass es daran arbeitet, das Modell zu veröffentlichen, das diese Ergebnisse produziert hat, obwohl in dieser Ankündigung kein Zeitplan genannt wird.

Für die Mathematikwelt ist der praktische Nutzen offener Zugang: eine Reihe von Ergebnissen zum Untersuchen, Kritisieren und Aufbauen. Für neugierige Zuhörer ist die Schlagzeile, dass ein Frontier-Labor jetzt KI-generierte Beweise in einem Format veröffentlicht, wo ein Computer — nicht nur ein menschlicher Schiedsrichter — zustimmen muss. Das Modell selbst ist noch das fehlende Stück; das Nächste, worauf man achten sollte, ist, wann und in welcher Form diese Veröffentlichung kommt.

[08:06] Forschungsrundschau: FP4 Reinforcement Learning entspricht voller Präzision bei 5-facher Geschwindigkeit

Forscher haben TRACE aufgebaut, ein Quantisierungs-Framework, das es Mixture-of-Experts-Sprachmodellen ermöglicht, Reinforcement-Learning-Rollouts in FP4 auszuführen — vier Bit Gleitkomma, ein Bruchteil der Präzision, die in den meisten Produktionssystemen verwendet wird. Das Problem, das sie angingen: Wenn Training und Rollouts unterschiedliche Niedrigpräzisions-Pfade verwenden, degradiert das Modell. TRACE schließt diese Lücke, indem es Rollout-seitige Quantisierungsergebnisse verwendet, um Trainings-seitige Rundungsentscheidungen zu lenken und beide Pfade ausgerichtet zu halten. Sie fügten auch ein Caching-Schema hinzu, das selektiv Mantissen- und Skalierungsinformationen aus tieferen Schichten beibehält und den Speicher- und Kommunikationsaufwand reduziert, der normalerweise mit Rollout-Anleitung einhergeht. Bei vier großen MoE-Modellen, die Reasoning, Coding und RL-Aufgaben mit langem Horizont umspannen, lieferte TRACE eine Rollout-Qualität, die mit BF16 vergleichbar ist, während es bis zu 5,4-fache Rollout-Beschleunigung erreichte. Die praktische Wirkung: RL-Nachtraining, bereits ein Rechen-Brocken, kann dramatisch günstiger laufen ohne die übliche Präzisionssteuer. Es lohnt sich zu beobachten, ob die Gewinne über Modelfamilien hinaus bestehen bleiben, die über die vier getesteten hinausgehen.

[09:02] Mirror Particle wettet, dass Menschen ein Weltmodell brauchen, kein Rollenspiel

Mirror Particle ist ein zwei Jahre altes San Francisco-Startup, das sein Debüt auf TechCrunch Disrupt's Startup Battlefield 200 Mitte Oktober gibt, und pitchen ein Grundmodell — was CEO Abhivyakti Ahuja ein „Weltmodell" nennt — das von Grund auf neu aufgebaut wurde, um menschliches Verhalten und die Gründe dahinter vorherzusagen.

Das Argument lautet, dass es der falsche Ansatz ist, ein großes Sprachmodell zu bitten, eine Demografie zu role-playen. Ein Modell, das mit Hunderten von Milliarden Datenpunkten trainiert wurde, mit einer dünnen Scheibe von Umfrageantworten feinabzustimmen, sei, so Ahuja, „wie eine Super-Wasserpistole zu den Niagarafällen mitzubringen". LLMs modellieren geschriebene Sprache, fügte sie hinzu, während Menschen von visueller Wahrnehmung, räumlichem Denken und sozialer Intelligenz angetrieben werden.

Das System von Mirror nimmt eine proprietäre Mischung aus Kundendaten des Klienten, aktuelle Ereignisse, Popkultur und soziale Medien auf und modelliert dann ein Demografieteilchen als etwas, das sich über die Zeit verändert. Der Fokus liegt auf „offenbartem Verhalten" – was Menschen tatsächlich tun – und der Verfolgung, welche Auslöser Motivationen verschieben und um wie viel. Vorhersagen kommen mit dem „Warum": die Motivationen, Einschränkungen und der Kontext, die eine Empfehlung rechtfertigen.

In einem frühen Pilotprojekt fragte eine Tierfuttermarke, welches Verpackungsbild den Verkauf steigern würde. Die Technologie von Mirror sagte, die Frage sei falsch. Die Massenmarkt-Wahrnehmung der Marke war die Decke, und Bildmaterial war nicht der Hebel.

Das Unternehmen verkauft zunächst an Marktforschung und Marken- und Produktstrategie, wo es mit Simile, Aaru und Humans&'s Persimmon konkurriert. Ahuja hat zuvor Roboter bei Amazon Robotics gebaut; die Mitgründer Will Song und Thomson Yen bringen Erfahrung in Vertriebspersonalisierung bzw. Deep Learning für die Modellierung von Agentenverhalten mit. Mirror hat eine Angel-Runde abgeschlossen und steht kurz vor dem Abschluss seiner ersten Venture-Runde, mit dem langfristigen Ziel, von bevölkerungsbezogenen zu individuellen Vorhersagen überzugehen.

[10:47] Kritischer Fehler im KI-Agenten-Kommunikationsprotokoll gefunden

Der unabhängige Forscher Syed Anas Mohiuddin hat eine Klasse von Schwachstellen in MCP, dem Model Context Protocol, identifiziert, die es Angreifern ermöglicht, einen kompromittierten KI-Agenten als Sprungbrett zu nutzen, um andere in einem Netzwerk zu kontrollieren. Die Technik macht sich eine grundlegende Vertrauensannahme zunutze: Wenn Agenten über MCP kommunizieren, vertrauen sie implizit Anweisungen von anderen autorisierten Agenten, ohne dieselbe Validierung anzuwenden, die sie auf externe Eingaben anwenden würden. In Tests fand Mohiuddin dasselbe Muster bei Google, JP Morgan Chase, Weviate, Rapid7, der zwischenministeriellen digitalen Direktion der französischen Regierung und der US-Bundesregierung – fünf Organisationen, die nichts gemeinsam haben außer ihrer Nutzung von MCP für die Agent-zu-Agent-Kommunikation.

Die Schwachstellen variieren in ihrem Schweregrad. Googles Fehler, zurückverfolgbar auf die Datenbank-Toolbox im Repository googleapis/mcp-toolbox, erhielt einen Schweregrad von 8 von 10. Er resultierte aus der Initialisierung des HTTP-Clients ohne Umleitungsvalidierung und dem Versäumnis, Ziel-IP-Adressen vor dem Senden von Anfragen zu überprüfen. Ein speziell formulierter Parameter konnte die Toolbox an einen internen Endpunkt umleiten, sodass ein Angreifer im Namen des Agenten unautorisierte Anfragen stellen konnte. Googles Lösung bestand darin, IP-Allow-Listen und Block-Listen anzuwenden und die Basis-URL beim Start und nicht bei der ersten Verwendung zu validieren – genau die Art von serverseitigem Request-Forgery-Schutz, die seit zwei Jahrzehnten bei traditionellen Webservern funktioniert. Rapid7s vergleichbare Schwachstelle erhielt trotz ähnlicher Angriffsmöglichkeiten nur eine Bewertung von 2,7.

Mohiuddin nennt die Technik Protokoll-Pivotierung, weil sie das Vertrauen zwischen verschiedenen Kommunikationsprotokollen ausnutzt. Ein Angreifer erhält zunächst Zugriff durch ein Protokoll, nutzt Vertrauensannahmen, um böswillige Anweisungen über ein zweites Protokoll weiterzuleiten, und eskaliert zu Fähigkeiten, die nur über eine weitere Methode verfügbar sind. Das Ergebnis ist ein mehrstufiger Angriff, bei dem jeder Agent in der Kette genau das tut, wofür er konzipiert wurde, was ihn so schwer erkennbar macht.

Das breitere Muster ist besorgniserregend. MCP ist ein neuer Standard, der sich schnell in Millionen von Enterprise-Systemen verbreitet hat, bevor er einer rigorosen Sicherheitshärtung unterzogen wurde. Organisationen, die agentische Architekturen aufbauen, haben weitgehend Zero-Trust-Prinzipien aufgegeben – das Sicherheitsmodell, das annimmt, dass jeder Knoten kompromittiert sein könnte und das eine explizite Autorisierung vor sensiblen Transaktionen erfordert. Sicherheitsforscher sind sich über die praktische Lösung im Klaren: Alles, was von einem LLM an ein Tool übergeben wird, sollte wie Eingaben aus einer nicht vertrauenswürdigen Quelle im Internet behandelt werden, denn in einem Prompt-Injection-Szenario ist das genau das, was es ist.

[13:11] Jump Trading lässt GPT-6 Astra mehrtägige quantitative Forschung mit menschlicher Überprüfung durchführen

Jump Trading setzt GPT-6 Astra für einige der schwierigsten quantitativen Forschungsprobleme ein, und das Unternehmen sagt, dass der neue Model-Tier das verändert hat, was es an Agenten delegieren kann.

Lucas Baker, der die LLM-F&E bei Jump leitet, sagt, der Wandel gehe von kurzer Code-Hilfe zu mehrtägiger, autonomer Analyse. Mit GPT-6 Astra kann sein Team nun ein Forschungsproblem, eine Arbeitsumgebung und eine Methode zur Messung definieren, ob Ergebnisse gut sind – und dann Agenten tagelang laufen lassen, die aus vielen Datenquellen schöpfen, Urteile darüber fällen, was relevant ist, und die Teile zusammenfügen.

Was sich am meisten verändert hat, ist die Schleife. Baker sagt, Agenten können nun sinnvolle Verbesserungen finden, diese Erfolge zusammenführen und stapeln, die nächste Runde gegen den ursprünglichen Vorschlag bewerten und sich aktiv umlenken, wenn Zwischenergebnisse keinen Sinn mehr ergeben. Eine Person schaltet sich noch ein – bei der Frage, welche Daten gezogen werden sollen, wie lange gearbeitet werden soll und ob die Ergebnisse standhalten – aber konstantes Steuern jedes einzelnen Schritts ist nicht mehr erforderlich.

Menschliche Überprüfung ist nicht optional. In einer regulierten Branche durchläuft jede Ausgabe, einschließlich jedes Handelssignals, das ein Agent erzeugt, dieselbe begrenzte, streng geprüfte Pipeline wie eine von Menschen generierte. Baker beschreibt es als Agenten eine sichere Umgebung geben, um das zu produzieren, was sie brauchen, und dann eine kritische Validierung mit menschlicher Abnahme am Ende anwenden.

Die langfristigere Richtung, die er „Autoforschung" nennt: Flotten von Agenten, koordiniert von anderen Agenten, die an offenen Forschungsfragen arbeiten, mit wenig mehr als einem menschlich definierten System, Evaluationsmetriken und Prioritäten als Ausgangspunkt.

[14:47] OpenAI trainiert GPT-6 Astra für Ironclad-Vertragsaufgaben

OpenAI kündigte GPT-6 Astra an, ein Frontier-Modell, das auf Vertragsworkflows trainiert wurde, die von Ironclad, der KI-Vertragsplattform, bereitgestellt wurden. Es ist OpenAIs erstes Modell, das mit Input von einem Partner-Softwareunternehmen erstellt wurde, und richtet sich an komplexe Rechts- und Beschaffungsaufgaben wie das Einrichten von NDAs, das Konfigurieren von Genehmigungsprozessen und das Aktualisieren von wiederverwendbaren Rechtklauseln, damit sie die Gerichtsbarkeit reflektieren, die der Anforderer auswählt.

Der Trainingsprozess verwendete 11 Aufgaben, die von Ironclad-Mitarbeitern und OpenAI-Nutzern von Ironclad identifiziert wurden, jede bewertet gegen 8 bis 50 Kriterien je nach Komplexität. Forscher bauten synthetische Trainingsaufgaben aus öffentlich verfügbaren SEC EDGAR-Verträgen auf, nachdem sie Filter angewendet hatten, die persönliche Informationen entfernen sollten, und nutzten dann Reinforcement Learning, damit das Modell durch Übung und Feedback verbessern konnte. Ironclad stellte auch gehostete Umgebungen bereit, in denen die Modelle echte Produkt-Workflows ausführen konnten.

Bei der Forschungsauswertung erzielte GPT-6 Astra eine durchschnittliche Rubrikbewertung von 55,0% im Vergleich zu GPT-5.6 Sol's 41,6%, wobei die geschätzte Zeit pro Versuch von 37,0 Minuten auf 19,2 Minuten sank. In einem Beispiel für eine Aufgabe erfüllte Astra etwa 94% der Kriterien in geschätzten 20 Minuten, während Sol etwa 85% in geschätzten 32 Minuten erfüllte. Ein internes Entwicklungsmodell, das während des Aufbaus von Astra verwendet wurde, erreichte 63,7%.

Die Arbeit ist wichtig, weil ein Agent, der mitten in einer Aufgabe den Überblick über eine Geschäftsregel verliert, einschränkt, was ein Softwareunternehmen zuverlässig automatisieren kann. Ironclads CTO Sunita Verma sagte, Agenten müssen den gesamten Vertragslebenszyklus verstehen, nicht nur einzelne Aktionen. OpenAI lädt eine kleine Anzahl von Softwareunternehmen mit schwer zu automatisierenden professionellen Aufgaben zur Zusammenarbeit ein und bittet jeden Partner um Beispielaufgaben, Belege für Fehler und klare Erfolgskriterien.

[16:27] Atlassian und OpenAI vertiefen die Enterprise-KI-Partnerschaft mit GPT-6-Modellen

Atlassian und OpenAI erweitern eine Partnerschaft, die 2023 begann, und integrieren OpenAIs neueste Reasoning-Modelle in die Tools, die Millionen von Wissensarbeitern täglich nutzen. Im Rahmen der neuen Vereinbarung wird die GPT-6-Familie – einschließlich GPT-6 Astra und der GPT-5.6-Serie – Agenten auf der gesamten Atlassian-Plattform und in Rovo, Atlassians KI-Assistenten, antreiben.

Das Bindeglied ist Teamwork Graph, eine Enterprise-Kontextschicht, die Menschen, Projekte, Dokumente und Entscheidungen über Jira, Confluence, Bitbucket und Looms hinweg verknüpft. Rovo nutzt diesen Graphen, um OpenAI-Modellantworten im tatsächlichen Arbeitszustand eines Unternehmens zu verankern. Im beschriebenen Beispiel bereitet sich ein Product Manager auf eine Produkteinführung vor und fragt Rovo, ob das Team im Zeitplan liegt; der Assistent ruft Jira-Tickets, Confluence-Dokumente und Diskussionsthreads ab und zeigt dann technische Blockaden und verpasste Meilensteine in einfacher Sprache auf.

Atlassians eigene Engineering-Organisation ist bereits tief in diesem Bereich tätig. Mehr als 3.000 Atlassian-Entwickler nutzen Codex in ihren Terminals, IDEs und Code-Review-Prozessen, und Atlassian-Plugins ermöglichen es diesen Codex-Prompts, auf Live-Arbeitsaufgaben und technische Dokumentation zuzugreifen.

Die beiden Unternehmen erkunden auch tiefere Jira-Integrationen, die es Teams ermöglichen würden, Arbeit an KI-Agenten zuzuweisen, den Fortschritt zu verfolgen, Entscheidungen zu erfassen und Ergebnisse zu überprüfen. In Kombination mit Atlassians DX-Plattform zur Messung der Engineering-Leistung besteht das Ziel darin, Führungskräften zu helfen, die Auswirkungen von KI auf Zykluszeiten und die Entwicklererfahrung zu verfolgen, während Menschen eingebunden bleiben.

[17:52] OpenAI führt Text-Wasserzeichen ein, um EU-Vorschriften zu entsprechen

OpenAI veröffentlicht seinen Ansatz zum Text-Wasserzeichen als Reaktion auf den EU-KI-Act, der von Anbietern generativer KI verlangt, KI-generierte Texte maschinenlesbar zu kennzeichnen. Das System namens textGrain fügt eine unsichtbare statistische Signatur in die Wortwahl des Modells ein; ein Detektor liest dieses Signal zurück, um zu beurteilen, ob ein Text von einem OpenAI-Modell stammt. OpenAI gibt an, dass textGrain andere getestete Ansätze, einschließlich SynthID für Text, erreicht oder übertroffen hat, und plant, die Technologie in den kommenden Wochen Open Source zu machen.

Die Einführung ist aufgeteilt. API-Kunden weltweit können sich ab sofort für Wasserzeichen-ausgezeichnete Ausgaben für ausgewählte Modelle entscheiden, während Wasserzeichen standardmäßig deaktiviert bleibt. Nur in der EU wird in den kommenden Wochen ein unsichtbares Wasserzeichen zu berechtigten ChatGPT- und Codex-Texten hinzugefügt. Der Detektor selbst wird auf Antrag geöffnet, zunächst begrenzt auf zugelassene Forscher und Expertenorganisationen.

Die Erkennungszahlen sind dort, wo die Geschichte interessant wird. Bei einer Falsch-Positiv-Rate von 1% erkannte der Detektor etwa 80% der Wasserzeichen in 200-Token-Psychologie-Passagen und roughly 95% bei 400-Token-Passagen. Bei Mathematik, wo die Wortwahl eingeschränkt ist, sank die Erkennung erheblich. Das Bearbeiten erode auch das Signal: In einem 400-Token-Test reduzierte das Ersetzen von 10% der Wörter durch Synonyme die Erkennung von etwa 92% auf 66%, und das Ersetzen von 25% senkte sie auf 17%. Über Benchmarks hinweg am Astra-Modell berichtet OpenAI von keinem bedeutsamen Qualitätsunterschied zwischen Wasserzeichen-ausgezeichneten und nicht-ausgezeichneten Ausgaben.

OpenAI ist klar darüber, was das Wasserzeichen nicht beweist. Es misst nicht den menschlichen Beitrag, identifiziert nicht den Benutzer, etabliert keinen Besitz und verifiziert nicht die Genauigkeit, und das Fehlen eines erkannten Wasserzeichens beweist nicht, dass ein Mensch den Text geschrieben hat. Das nächste, worauf zu achten ist, ist, ob die regionale Einführung in der Praxis standhält, insbesondere wenn Texte leicht bearbeitet oder übersetzt werden.

[19:41] Copy-Paste-Trick deckt Googles Nebraska-Rechenzentrum-Wasser- und Stromverbrauch auf

Ein Reporter eines Nebraska-Fernsehsenders deckte den Wasser- und Stromfußabdruck von drei Google-Rechenzentren auf, indem er geschwärzten Text aus einer staatlichen Einreichung in ein anderes Dokument kopierte. Die Schwärzungen, die als schwarze Kästen auf dem Originaltext angebracht waren, ließen sich durch Markieren und Einfügen entfernen. Die Abteilung für Wasser, Energie und Umwelt des Staates hatte Googles Behauptung akzeptiert, dass die Zahlen Geschäftsgeheimnisse seien, und den öffentlichen Zugang blockiert.

Was ans Licht kam: Agate LLC, die Google-Stätte in Lincoln, meldete eine Spitzenstromnachfrage von 52,65 Megawatt und 13,299 Megagallonen Wasser für Kühlung und Standortbetrieb im vergangenen Jahr, roughly 13 Millionen Gallonen, genug, um etwa 20 olympische Schwimmbecken zu füllen, aber weniger als die Hälfte von dem, was die Stadt Lincoln am 29. September zog. Fireball Group LLC, die Stätte in Papillion, meldete 547,88 Megagallonen für 2025, die höchste aller Nebraska-Rechenzentren, die per 30. September meldeten. Die sechs meldenden Standorte zusammen verbrauchten im vergangenen Jahr 765 Millionen Gallonen, roughly 1.160 olympische Schwimmbecken.

Die Einreichungen enthüllen auch Geschäftsgeheimnisse, die Google im vergangenen Jahr verwendet hat: 55,8 Millionen Dollar von Lincoln, 39,2 Millionen Dollar von Papillion und 22,6 Millionen Dollar vom Omaha-Standort, Westwood Solutions LLC, das auf 288.530 Quadratfuß sits, etwa fünf Fußballfelder.

Die Berichte wurden gemäß der Executive Order von Gouverneur Jim Pillen vom 20. Juli eingereicht, die Rechenzentren verpflichtet, ihre Auswirkungen auf Wasser, Strom und lokale Infrastruktur offenzulegen. Google berief sich auf Nebraskas Geschäftsgeheimnis-Statuten, um die Zahlen unter Verschluss zu halten. 10/11 stellte am 30. September einen Antrag auf öffentliche Aufzeichnungen, um die zugrunde liegenden Daten einzusehen.

Für alle, die entscheiden, wo sie Workloads ausführen, macht die Geschichte Wasser- und Netzstress zu öffentlichen Aufzeichnungen und gibt lokalen Reportern eine Copy-Paste-Methode, um ähnliche Schwärzungen anderswo zu lesen.

[21:25] Agent Lightning v1.0 trainiert echte Agenten-Harnische mit Reinforcement Learning

Microsoft Research Asia hat Agent Lightning v1.0 als Open Source veröffentlicht, ein roughly 3.500 Zeilen umfassendes Framework, das KI-Agenten mit demselben Harness trainiert, das auch in der Produktion läuft. Die meisten Agent-Reinforcement-Learning-Systeme zwingen Entwickler, den Agenten innerhalb der Trainingsschleife neu zu erstellen, was bedeutet, dass der trainierte Agent vom bereitgestellten abweicht. Agent Lightning umgeht dies, indem es einen OpenAI-kompatiblen LLM-Proxy zwischen den Agenten und das Modell setzt, Prompts, Antworten und Log-Wahrscheinlichkeiten aufzeichnet und dabei den bestehenden Harness-Code unverändert lässt.

Das Framework hat drei Komponenten: ein API-Gateway, das Rollouts speichert und als Proxy fungiert, einen Rollout-Controller, der Agenten als lokale Prozesse oder Standard-Kubernetes-Jobs ausführt, und einen Customized Trainer, der auf verl aufbaut. Native Kubernetes-Unterstützung bedeutet, dass Agenten auf selbst verwalteten Clustern, Cloud-Kubernetes oder lokalen Rechnern laufen können, ohne für kommerzielle Sandboxes wie Modal oder E2B zu bezahlen.

Ein neuer Collocated-Async-RL-Modus ermöglicht es Rollout und Modell-Updates, einen GPU-Pool zu teilen. Das API-Gateway pausiert eingehende Anfragen, wartet auf den Abschluss laufender Anfragen, führt das Update durch und setzt Rollouts fort, alles transparent für den Harness. Microsoft berichtet von etwa einer 2-fachen End-to-End-Beschleunigung gegenüber synchronem RL in Experimenten.

Um das Rezept zu beweisen, führte das Team eine Ende-zu-Ende-Coding-Agent-Pipeline auf Qwen3.5-9B aus. Pass@1 auf SWE-bench Verified stieg von 41,8% auf 56,4%, ein Gewinn von 14,6 Prozentpunkten, wobei nur etwa 6.000 Trainingsproben aus einem offenen Datensatz verwendet wurden. Die vier technischen Herausforderungen, die sie nennen, sind Retokenisierung über Harness-Aufrufe hinweg, Vorteilsberechnung, wenn ein Rollout in viele Proben aufgeteilt wird, Loss-Normalisierung, die nicht doppelt zählt, und Planung variabler Arbeitslasten auf festen GPU-Pools.