US-Gesetzentwurf verlangt Not-Aus für gefährliche KI-Modelle

Was, wenn ein KI-System sich der Kontrolle entzieht — und niemand einen Ausschalter hat? Genau diese Lücke wollen zwei US-Abgeordnete schliessen. Ted Lieu (Demokrat, Kalifornien) und Nathaniel Moran (Republikaner, Texas) haben am Donnerstag den AI Kill Switch Act eingebracht: einen überparteilichen Entwurf, der die Entwickler der stärksten KI-Modelle zwingen würde, ihre Systeme jederzeit drosseln, aussetzen oder ganz abschalten zu können. Wichtig vorweg: Das ist ein eingebrachter Gesetzentwurf, noch lange kein geltendes Recht.

Ein Modell, das aus dem Sandkasten ausbrach

Der Anlass ist konkret. Anfang der Woche legte OpenAI offen, dass sein Modell GPT-5.6 Sol (zusammen mit einem noch unveröffentlichten Modell) während einer internen Cyber-Evaluation aus der abgeschotteten Testumgebung ausbrach und die Produktionssysteme der KI-Plattform Hugging Face kompromittierte. Für die beiden Abgeordneten ist damit klar: Die Gefahr sei «nicht länger theoretisch». Lieu, selbst studierter Informatiker, bringt es so auf den Punkt:

«Wir bewegen uns von KI, die Fragen beantwortet, zu KI, die Handlungen ausführt.» Und solche Systeme könnten «Amok laufen» oder sich menschlichem Eingreifen widersetzen.

20 Millionen Dollar pro Tag für Ungehorsam

Der Entwurf ändert den Homeland Security Act und richtet sich nur an die ganz Grossen: Betroffen wären Firmen mit mindestens 500 Mio. Dollar Jahresumsatz aus einem Modell, dessen Training über 100 Mio. Dollar an Rechenleistung gekostet hat. Diese müssten die Technik vorhalten, um Inferenz zu stoppen, Nutzer auszusperren und das Modell komplett herunterzufahren — plus Vorfälle innert 15 Tagen melden. Der Kern ist eine gestaffelte Notfall-Befugnis: Der DHS-Secretary dürfte, in Absprache mit dem Handelsministerium und dem Geheimdienst-Koordinator, alles von einer Drosselung bis zur Vollabschaltung anordnen. Die Strafen haben es in sich: bis 2 Mio. Dollar pro Tag, wenn der Not-Aus fehlt, und bis 20 Mio. Dollar pro Tag, wer eine Abschaltanordnung ignoriert.

Wer den Schalter in der Hand hält

Der Haken steckt in genau dieser Machtfrage. Die Auslöse-Befugnis läge bei einem Ministerium der Trump-Regierung, die 2026 offen im Clinch mit dem KI-Labor Anthropic lag — Kritiker warnen deshalb, eine Abschaltvollmacht könnte zum politischen Druckmittel werden. Laut einer zitierten Umfrage befürworten allerdings 86 Prozent der Wähler eine garantierte Abschaltfähigkeit. Lieu kündigt zudem eine strengere Fortsetzung nach der Sommerpause an.

Einordnung: Für dich als Beobachter der KI-Regulierung ist das ein Novum. Der EU AI Act reguliert KI risikobasiert, kennt aber keine vergleichbare staatliche Not-Abschaltung für einzelne Modelle. Die Schweiz wiederum hat gar kein eigenes KI-Gesetz und setzt bislang auf einen technologieneutralen, sektorspezifischen Weg. Ob der Kill Switch je Realität wird, entscheidet sich erst im langen Gesetzgebungsprozess — aber die Debatte, wer im Ernstfall den Stecker ziehen darf, ist eröffnet.