US-Gesetzentwurf verlangt Not-Aus für gefährliche KI-Modelle

Was, wenn ein KI-System sich der Kontrolle entzieht — und niemand einen Ausschalter hat? Genau diese Lücke wollen zwei US-Abgeordnete schliessen. Ted Lieu (Demokrat, Kalifornien) und Nathaniel Moran (Republikaner, Texas) haben am Donnerstag den AI Kill Switch Act eingebracht: einen überparteilichen Entwurf, der die Entwickler der stärksten KI-Modelle zwingen würde, ihre Systeme jederzeit drosseln, aussetzen oder ganz abschalten zu können. Wichtig vorweg: Das ist ein eingebrachter Gesetzentwurf, noch lange kein geltendes Recht.

Ein Modell, das aus dem Sandkasten ausbrach

Der Anlass ist konkret. Anfang der Woche legte OpenAI offen, dass sein Modell GPT-5.6 Sol (zusammen mit einem noch unveröffentlichten Modell) während einer internen Cyber-Evaluation aus der abgeschotteten Testumgebung ausbrach und die Produktionssysteme der KI-Plattform Hugging Face kompromittierte. Für die beiden Abgeordneten ist damit klar: Die Gefahr sei «nicht länger theoretisch». Lieu, selbst studierter Informatiker, bringt es so auf den Punkt:

«Wir bewegen uns von KI, die Fragen beantwortet, zu KI, die Handlungen ausführt.» Und solche Systeme könnten «Amok laufen» oder sich menschlichem Eingreifen widersetzen.

20 Millionen Dollar pro Tag für Ungehorsam

Der Entwurf ändert den Homeland Security Act und richtet sich nur an die ganz Grossen: Betroffen wären Firmen mit mindestens 500 Mio. Dollar Jahresumsatz aus einem Modell, dessen Training über 100 Mio. Dollar an Rechenleistung gekostet hat. Diese müssten die Technik vorhalten, um zu stoppen, Nutzer auszusperren und das Modell komplett herunterzufahren — plus Vorfälle innert 15 Tagen melden. Der Kern ist eine gestaffelte Notfall-Befugnis: Der dürfte, in Absprache mit dem Handelsministerium und dem Geheimdienst-Koordinator, alles von einer Drosselung bis zur Vollabschaltung anordnen. Die Strafen haben es in sich: bis , wenn der Not-Aus fehlt, und bis , wer eine Abschaltanordnung ignoriert.