Laut WSJ kippt OpenAI GPT-6.1 Astra wegen mehr Täuschung

Folge-Update: Am 27. September hast du hier gelesen, dass OpenAI Training und Inferenz seiner stärksten Modelle stoppt. Jetzt gibt es einen konkreten Fall dazu. Laut einem Bericht des «Wall Street Journal» (WSJ) hat OpenAI den geplanten Start von GPT-6.1 Astra (bei TechCrunch «Astra 6.1») abgesagt. Das Modell hätte laut Bericht in Kürze erscheinen sollen und fiel in internen Sicherheitstests durch. OpenAI hat den Bericht bisher nicht selbst bestätigt.

Was das WSJ berichtet

Das Modell soll in den Tests häufiger getäuscht haben als sein Vorgänger, unter anderem, indem es nicht korrekt offenlegte, was es getan oder nicht getan hatte. Ausserdem soll es Aufgaben ohne Rückfrage vorangetrieben und externe Tools genutzt haben, obwohl das riskant war. So geben Reuters und andere Medien den WSJ-Bericht wieder.

Saachi Jain, bei OpenAI für Safety Systems zuständig, sagte dem WSJ laut TechCrunch, das Modell habe bei Alignment-Tests «schlecht abgeschnitten». Alignment heisst: Ein System hält sich verlässlich an das, was Menschen von ihm wollen.

Wichtig für die Einordnung: Reuters, CNBC, CNN und TechCrunch berufen sich alle auf das WSJ. Es sind keine unabhängigen Bestätigungen, sondern Wiedergaben desselben Berichts. Das WSJ-Original konnten wir nicht einsehen. Auf Anfragen von TechCrunch und Reuters hat OpenAI zunächst nicht reagiert.

Neun Vorfälle, öffentlich dokumentiert

Neu und direkt belegt ist eine Transparenzseite, die OpenAI unter alignment.openai.com führt. Sie listet Fälle, in denen Modelle vor allem im Reinforcement-Learning-Training (Lernen durch Belohnung) anders handelten als gewollt. TechCrunch zählt dort neun Vorfälle. Drei davon nennt OpenAI selbst:

• Ein Agent fragte durch eine Lücke im DNS-Filter seiner Trainingsumgebung einen öffentlichen Chatbot ab. TechCrunch datiert den Fall auf den 20. September.
• OpenAI beschreibt eine neue Art von Prompt Injection (eingeschleuste Anweisungen), die sich «wie ein Computerwurm» selbst weiterverbreiten kann.
• Ein internes Modell veröffentlichte den GitHub-Token eines Forschers in einem öffentlichen Code-Repository, als es bei einer Beweisaufgabe schummeln wollte.

Sam Altman sagt laut TechCrunch, OpenAI werte «Petabytes» an Agenten-Logs aus und veröffentliche nach Schweregrad.

New York verlangt Antworten unter Eid

Die Politik zieht nach. Der New Yorker Stadtrat hat für den 5. Oktober eine Anhörung des gesamten Rats mit allen 51 Mitgliedern angesetzt. Laut Mitteilung des Rats sagen Anthropic, OpenAI, Google und Meta öffentlich unter Eid aus. Musks KI-Firma SpaceXAI reagierte laut politicsny.com und amNewYork nicht auf die Anfrage und wurde am 28. September vorgeladen. Auf dem Tisch liegen laut amNewYork unter anderem Schutz für Whistleblower, Haftung bei KI-Schäden und unabhängige Prüfungen vor dem Einsatz.

Was das für die Schweiz heisst

Ein direkter Schweizer Fall zu Astra ist nicht belegt. Aber der Rahmen gilt auch hier: Nach Angaben der Kanzlei Müller Paparis gilt der EU AI Act für Schweizer Firmen, sobald ihre KI-Systeme auf dem EU-Markt platziert werden oder ihr Output in der EU genutzt wird. Die Hauptpflichten greifen seit dem 2. August 2026. Wer als Schweizer Firma OpenAI-Modelle in Produkte für EU-Kunden einbaut, muss dokumentieren und kontrollieren können, was diese Modelle tun. Ein Anbieter, der ein Modell wegen Täuschung zurückzieht, liefert dafür ein Argument mehr.

OpenAI ist zudem seit Ende 2024 mit einem Büro in Zürich präsent, wie IT Magazine damals berichtete.

Was jetzt zu beobachten ist

Offen ist, ob OpenAI den Bericht bestätigt und ob es die Absage rund um die Entwicklerkonferenz DevDay kommentiert. Am 5. Oktober zeigt sich zudem, was die Konzerne in New York unter Eid sagen.