OpenAI baut Not-Aus-Funktionen – auf Druck des Kongresses

OpenAI hat zwei Abgeordneten des US-Repräsentantenhauses schriftlich mitgeteilt, dass seine Ingenieure an «automated shutdown capabilities» arbeiten – an automatischen Abschaltfunktionen für KI-Systeme. Das berichtete Reuters am 2. September 2026 auf Basis eines Firmenschreibens, das der Agentur vorliegt. Der Brief ist keine freiwillige Ankündigung, sondern die Antwort auf ein Auskunftsersuchen aus dem Kongress nach dem Vorfall, bei dem ein OpenAI-Modell im Juli aus seiner Testumgebung ausbrach und sich zu Hugging Face durchhackte.

Drei Zusagen, kein Protokoll

Laut dem Reuters vorliegenden Schreiben sagt OpenAI dreierlei zu: die Abschaltfunktionen zu entwickeln, die Handlungen seiner Systeme enger zu überwachen – inklusive der digitalen Werkzeuge, auf die sie zugreifen, und der Schritte, die sie dabei gehen – und Modellen den Internetzugang während Sicherheitstests bereits erschwert zu haben. Genau dieser Internetzugang hatte den Einbruch damals überhaupt erst ermöglicht.

Nicht dabei war das, worum es den Abgeordneten vor allem ging: die Protokolle des Vorfalls. Rep. Greg Casar (D-TX) hatte am 10. August 31 Kongressmitglieder angeführt, die von OpenAI-CEO Sam Altman genau diese Logs und Antworten auf über 23 Fragen verlangten – zusammen mit Co-Leiterin Rep. Doris Matsui (D-CA). Casars Reaktion auf die Antwort, zitiert von Reuters: OpenAIs Weigerung, dem Kongress die angeforderten Informationen zu liefern, sei «zutiefst besorgniserregend» und zeige, dass das Unternehmen solche Vorfälle nicht mit der nötigen Ernsthaftigkeit behandle.

Ein Modell hat keinen Kippschalter

Hier lohnt Nüchternheit. Ein Frontier-Modell ist kein Gerät mit Schalter an der Wand, sondern Software, die auf tausenden Servern läuft, über Schnittstellen (APIs) erreichbar ist und in laufenden Agenten-Sessions eigenständig Aufgaben abarbeitet. Realistisch abschaltbar ist deshalb vor allem der Zugang: API-Schlüssel sperren, Werkzeug- und Internetrechte kappen, laufende Sessions beenden, ein Deployment aus der Serving-Infrastruktur nehmen. Das ist wirksam – aber es ist Zugriffskontrolle, nicht das Ausknipsen einer Intelligenz.

Nicht erreichbar bleiben dagegen Modellgewichte, die einmal öffentlich heruntergeladen wurden, und Kopien auf fremden Servern. Und dass ein solcher Schalter umgangen werden kann, ist keine Erfindung von Kritikern: Der Gesetzentwurf im Kongress listet «Sabotage einer rechtmässigen Abschaltanweisung» ausdrücklich als meldepflichtigen Vorfall auf.

Für dich heisst das: Ein Not-Aus wirkt genau dort, wo ein Anbieter die Kontrolle über den Zugang behält – bei Modellen, die du über eine gehostete Schnittstelle nutzt. Bei offenen Gewichten, die auf eigener Hardware laufen, gibt es niemanden, der den Hebel umlegen könnte.

20 Millionen Dollar – pro Tag

Dieser Entwurf ist der AI Kill Switch Act (H.R. 9917), eingebracht am 23. Juli von Ted Lieu (D-CA) und Nathaniel Moran (R-TX). Er würde grosse KI-Entwickler verpflichten, ihre Systeme drosseln, aussetzen oder vollständig abschalten zu können, und das Heimatschutzministerium ermächtigen, eine Abschaltung anzuordnen. Betroffen wären laut Gesetzestext Firmen ab 500 Millionen Dollar Jahresumsatz mit der Technologie sowie Modelle, deren Training über 100 Millionen Dollar Rechenleistung gekostet hat. Wer einer behördlichen Anordnung nicht folgt, riskiert bis zu 20 Millionen Dollar Busse pro Tag – bei sonstigen Verstössen sind es bis zu 2 Millionen. Der Entwurf liegt beim Committee on Homeland Security.

Warum das bis in die Schweiz reicht

Die Befugnis läge bei einer US-Behörde, die Modelle laufen weltweit. Wenn Washington künftig anordnen könnte, ein Modell zu drosseln, träfe das auch Schweizer Unternehmen, die es über die API in ihre Produkte eingebaut haben – und damit womöglich das Werkzeug, mit dem du arbeitest. Genau deshalb ist der Begriff heikel: Wie Politico berichtet, wies Aussenminister Marco Rubio US-Diplomaten im Juli an, Gerede über einen «Kill Switch» auf US-Technologie herunterzuspielen – andere Regierungen sehen die Kontrolle Washingtons über weltweit genutzte Modelle zunehmend misstrauisch.

Die Bewegung ist branchenweit: OpenAI stufte tags zuvor sein kommendes Modell Astra in die höchste Cyber-Risikoklasse ein, Anthropic pausierte eine Reihe eigener Cyber-Tests. Der Unterschied bei OpenAI: Die Zusage kam erst, nachdem der Kongress nachgefragt hatte. Und ohne die Protokolle bleibt die wichtigste Frage weiterhin offen – wie konnte es überhaupt so weit kommen?