GPT-6 Astra liest und ändert Modellgewichte: Studie begeistert, Kritiker bremsen
Ein Forschungsteam zeigt, dass GPT-6 Astra Gewichte kleiner Netze lesen und bearbeiten kann, etwa Qwen3.5-0.8B von 7,9 auf 48,1 Prozent bei MATH-500. Zwei Kritiker sagen, das sei weniger neu, als der Beitrag suggeriert.
Pascal Eugster
GRÜNDER & ENTWICKLER
9. NOVEMBER 2026
2 MIN. LESEZEIT
INHALT
INHALT
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH
KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.
inoo.ch
DAS WICHTIGSTE IN KÜRZE
GPT-6 Astra kann Gewichte kleiner Netze lesen und gezielt bearbeiten, doch Kritiker halten die Ergebnisse für weniger spektakulär als dargestellt.
Ein Forschungsteam um Rikiya Takehi und Omar Khattab behauptet, dass Spitzenmodelle wie GPT-6 Astra die Gewichte neuronaler Netze lesen und gezielt verändern können, ohne Trainingsschleife. In ihrem Blogbeitrag vom 2. November nennen sie das «Weight-Space Programming». Schon am 3. November erschienen zwei Kritiken, die vor allem die Verallgemeinerung bemängeln.
Was das Paper zeigt
Beim Lesen identifizierte das Modell allein aus den Gewichten eines Netzes mit 17'253 Parametern, auf welchem von vier Spielen es trainiert wurde. Bei einer Kinetix-Aufgabe genügte eine Änderung an 3,5 Prozent der Gewichte, damit ein Auto alle 1'024 Testläufe bestand.
Das Schlagzeilen-Ergebnis betrifft Qwen3.5-0.8B: Durch Bearbeiten von 131'072 Gewichten (0,016 Prozent), um eine Schleifenneigung zu unterdrücken, stieg der Wert auf MATH-500 von 7,9 auf 48,1 Prozent, auf GSM8K von 13,8 auf 67,1 Prozent. Eigene Grenzen nennen die Autoren ebenfalls: Bei Gemma 3 270M blieb MATH-500 zwischen 6,8 und 7,7 Prozent. Wie sie schreiben, könne Bearbeiten ein Hindernis entfernen, aber keine Fähigkeit hinzufügen, die dem Modell fehlt.
Die Kritik
Matthew Honnibal, Autor von spaCy, nennt den Beitrag irreführend. Nur drei Experimente läsen rohe Gewichte ohne Werkzeuge, alle an Netzen mit 17'000 bis 172'000 Gewichten. Beim Qwen-Resultat habe Astra das Modell mit Python bis zu 50 Mal auf Übungsaufgaben laufen lassen. Beim Spiel Breakout schlage das generierte Netz die PPO-Vergleichsbasis, bei Seaquest und Asterix nicht.
Sean Goedecke argumentiert, ein erfahrener ML-Forscher könne jede dieser Aufgaben lösen. Das Qwen-Modell sei in Mathe nicht grundsätzlich schwach gewesen, sondern habe nach etwa 32'000 Tokens in Schleifen gehangen; Astra habe die beteiligten Gewichte mit Methoden gekappt, die Steering und Abliteration ähneln. Honnibal sieht trotzdem einen echten Fortschritt gegenüber früheren Modellen.
