OpenAI stoppt Teile von Astra – erstmals Cyber-Stufe «Critical»

Ebenfalls ausdrücklich festgehalten: Astra war an dem Vorfall rund um Hugging Face nicht beteiligt, über den kinewsletter.ch bereits berichtet hat.

Was OpenAI jetzt wegsperrt

Als Reaktion verschärft OpenAI die Sicherheitskontrollen: isolierte Testumgebungen, eingeschränkter Netzwerk- und Werkzeugzugriff, besser geschützte und verschlüsselte Modellgewichte, Ausführung in abgeschotteten Sandboxes und zusätzliche Überwachung. Interne Aktivitäten rund um Astra, die diese verschärften Anforderungen noch nicht erfüllen, sind pausiert.

Technisch am spannendsten ist ein anderer Punkt: OpenAI überwacht nach eigenen Angaben sämtliche agentischen Anwendungen von Astra flächendeckend – Training und Evaluation eingeschlossen. Die Monitore lesen die Gedankenkette des Modells (Chain of Thought, also die Zwischenschritte, die sich das Modell selbst notiert, bevor es handelt) und lösen bei riskanten Aktionen automatisch eine Sicherheitsreaktion aus, die den Vorgang prüft und unterbricht. Zusätzlich will OpenAI die Fähigkeiten gemeinsam mit Regierungsstellen und ausgewählten AI-Safety-Organisationen testen lassen.

Washington wusste vorher Bescheid

Laut Axios, dem OpenAI die Information vorab zuspielte, hat das Unternehmen die US-Regierung freiwillig über die geplante Verzögerung in Kenntnis gesetzt – bestätigt gegenüber Axios von einer Person aus dem Weissen Haus. CEO Sam Altman schrieb auf X, man brauche angesichts der Cyberfähigkeiten etwas länger, um das sicher hinzubekommen.

Bemerkenswert ist weniger der Stopp selbst als die Kommunikation darüber. Unternehmen halten laufend Produkte aus Sicherheits- oder Risikogründen zurück, wie TechCrunch anmerkt – nur sagen sie das selten öffentlich, und praktisch nie für ein Produkt, das noch gar nicht auf dem Markt ist. Axios geht noch weiter: Es könnte das erste Mal sein, dass ein führendes KI-Labor das Tempo bei einem eigenen Modell ausdrücklich wegen Cyber-Risiken drosselt.

Der Haken: entschieden ist noch nichts

Genau hier setzt die Kritik an. OpenAI meldet bislang nur das Potenzial für eine Critical-Einstufung, nicht die Einstufung selbst. Das eigene Framework sieht bei «Critical» einen Stopp der Weiterentwicklung vor, bis Schutzmassnahmen und Sicherheitskontrollen dem Critical-Standard genügen – OpenAI pausiert aber nur einzelne Aktivitäten und weitet die Tests aus. The Decoder weist darauf hin, dass Kritiker darin auch Angst-Marketing sehen dürften: Bestätigt sich die Stufe am Ende nie, bleiben viel Aufmerksamkeit und wenig Konsequenz.

Für dich ändert sich vorerst nichts – Astra ist nicht verfügbar, und in ChatGPT läuft weiter, was bisher lief. Interessant wird der Moment, in dem OpenAI die Bewertung abschliesst: Bestätigt sich «Critical», müsste nach den eigenen Regeln die Weiterentwicklung ruhen, bis die Schutzmassnahmen stehen. Und ein Modell, das eigenständig Angriffe auf gehärtete Systeme fahren kann, ist für jede IT-Abteilung – auch in Schweizer KMU – zuerst ein Risiko und erst danach ein Werkzeug.