OpenAI baut Not-Aus-Funktionen – auf Druck des Kongresses

Hier lohnt Nüchternheit. Ein Frontier-Modell ist kein Gerät mit Schalter an der Wand, sondern Software, die auf tausenden Servern läuft, über Schnittstellen (APIs) erreichbar ist und in laufenden Agenten-Sessions eigenständig Aufgaben abarbeitet. Realistisch abschaltbar ist deshalb vor allem der Zugang: API-Schlüssel sperren, Werkzeug- und Internetrechte kappen, laufende Sessions beenden, ein Deployment aus der Serving-Infrastruktur nehmen. Das ist wirksam – aber es ist Zugriffskontrolle, nicht das Ausknipsen einer Intelligenz.

Nicht erreichbar bleiben dagegen Modellgewichte, die einmal öffentlich heruntergeladen wurden, und Kopien auf fremden Servern. Und dass ein solcher Schalter umgangen werden kann, ist keine Erfindung von Kritikern: Der Gesetzentwurf im Kongress listet «Sabotage einer rechtmässigen Abschaltanweisung» ausdrücklich als meldepflichtigen Vorfall auf.

Für dich heisst das: Ein Not-Aus wirkt genau dort, wo ein Anbieter die Kontrolle über den Zugang behält – bei Modellen, die du über eine gehostete Schnittstelle nutzt. Bei offenen Gewichten, die auf eigener Hardware laufen, gibt es niemanden, der den Hebel umlegen könnte.

20 Millionen Dollar – pro Tag

Dieser Entwurf ist der AI Kill Switch Act (H.R. 9917), eingebracht am 23. Juli von Ted Lieu (D-CA) und Nathaniel Moran (R-TX). Er würde grosse KI-Entwickler verpflichten, ihre Systeme drosseln, aussetzen oder vollständig abschalten zu können, und das Heimatschutzministerium ermächtigen, eine Abschaltung anzuordnen. Betroffen wären laut Gesetzestext Firmen ab 500 Millionen Dollar Jahresumsatz mit der Technologie sowie Modelle, deren Training über 100 Millionen Dollar Rechenleistung gekostet hat. Wer einer behördlichen Anordnung nicht folgt, riskiert bis zu 20 Millionen Dollar Busse pro Tag – bei sonstigen Verstössen sind es bis zu 2 Millionen. Der Entwurf liegt beim Committee on Homeland Security.

Warum das bis in die Schweiz reicht

Die Befugnis läge bei einer US-Behörde, die Modelle laufen weltweit. Wenn Washington künftig anordnen könnte, ein Modell zu drosseln, träfe das auch Schweizer Unternehmen, die es über die API in ihre Produkte eingebaut haben – und damit womöglich das Werkzeug, mit dem du arbeitest. Genau deshalb ist der Begriff heikel: Wie Politico berichtet, wies Aussenminister Marco Rubio US-Diplomaten im Juli an, Gerede über einen «Kill Switch» auf US-Technologie herunterzuspielen – andere Regierungen sehen die Kontrolle Washingtons über weltweit genutzte Modelle zunehmend misstrauisch.

Die Bewegung ist branchenweit: OpenAI stufte tags zuvor sein kommendes Modell Astra in die höchste Cyber-Risikoklasse ein, Anthropic pausierte eine Reihe eigener Cyber-Tests. Der Unterschied bei OpenAI: Die Zusage kam erst, nachdem der Kongress nachgefragt hatte. Und ohne die Protokolle bleibt die wichtigste Frage weiterhin offen – wie konnte es überhaupt so weit kommen?