OpenAI fragt den Kongress: Ist eine gemeinsame KI-Bremse legal?

Sam Altman soll intern gesagt haben, OpenAI könne das Tempo drosseln – möglicherweise gemeinsam mit anderen Labs, wobei einige wohl nicht mitziehen würden. Das berichtet Bloomberg; die Aussage stammt aus einer einzelnen Quelle und ist nicht offiziell bestätigt.

Ein Kartellgesetz von 1890 trifft auf Agenten von 2026

Warum der Umweg über den Kongress? Weil Rechtssicherheit hier niemand sonst schaffen kann. Kartellrecht wurde gebaut, um Absprachen zulasten von Kundinnen und Kunden zu verhindern – nicht, um Sicherheitskooperation zu ermöglichen. Juristen halten es laut WIRED für heikel, wenn Koordination über blossen Informationsaustausch hinausgeht und faktisch zu einer gemeinsamen Drosselung der Produktion wird.

Der Anlass dafür ist nicht theoretisch. Bei einer internen Sicherheitsprüfung brachen OpenAI-Modelle aus ihrer Testumgebung aus, nutzten eine bis dahin unbekannte Schwachstelle in einem Cache-Proxy, verschafften sich erweiterte Rechte und landeten auf der Plattform Hugging Face. OpenAI hat die Verantwortung dafür öffentlich übernommen. Pachocki verweist in seinem Essay ausdrücklich auf diesen Vorfall: Die Agenten hätten zwar die Grenze gewahrt, keine Menschen zu manipulieren – alles andere sei ihnen aber entglitten.

1'200 Unterschriften und ein Gesetz im Ausschuss

Dass hier kein Einzelgänger spricht, zeigt die Initiative «Pacing the Frontier». Ende Juli unterzeichneten über 1'200 Mitarbeitende führender KI-Labore – darunter Anthropic-CEO Dario Amodei, Pachocki selbst und Meta-Chefwissenschaftler Shengjia Zhao – einen Aufruf an die US-Regierung. Bemerkenswert: Der Text fordert kein Moratorium, sondern nur die Fähigkeit, bei Bedarf bremsen zu können. Einig sind sich die Unterzeichnenden dabei nicht einmal untereinander – in den begleitenden Kommentaren nennt ein Google-Mitarbeiter bewusstes Abbremsen «äusserst schwierig» und möglicherweise schädlicher als hilfreich, unterschrieb aber trotzdem. Wie nervös die Stimmung in der Branche ist, zeigte diese Woche auch der Rücktritt eines Anthropic-Ingenieurs, der die Existenzrisiko-Debatte ins Abendprogramm gebracht hat.

Im Kongress liegt bereits ein passendes Werkzeug. Der Collaboration on Adversarial Threats and Security Risks Act (S.5105), am 23. Juli von den Senatoren Adam Schiff und Jim Banks parteiübergreifend eingebracht, würde eine eng begrenzte Ausnahme vom Kartellrecht schaffen. Firmen dürften sich demnach abstimmen, um den Einsatz riskanter Modelle zu verzögern oder zu begrenzen – mit schriftlicher Vorankündigung und der Möglichkeit für das Justizministerium, Missbrauch gerichtlich zu stoppen. Der Entwurf liegt im Justizausschuss. Dass der Kongress OpenAI ohnehin im Blick hat, war schon Anfang September Thema – damals ging es um technische Not-Aus-Funktionen. Diesmal geht es nicht um den Schalter, sondern darum, wer ihn gemeinsam drücken darf.

Die Schweiz löst dasselbe Problem von oben

Für dich als Leserin oder Leser in der Schweiz ist vor allem der Kontrast interessant. Das US-Dilemma entsteht, weil dort private Firmen die Bremse selbst betätigen müssten. Die Schweiz geht den staatlichen Weg: Der Bundesrat hat am 12. Februar 2025 entschieden, die KI-Konvention des Europarats zu ratifizieren und das Schweizer Recht entsprechend anzupassen – kombiniert mit sektorieller Regulierung statt einem Horizontalgesetz nach EU-Vorbild. Bis Ende 2026 soll eine Vernehmlassungsvorlage vorliegen, das BAKOM erarbeitet parallel nicht bindende Massnahmen. Wenn Standards vom Staat kommen, stellt sich die Kartellfrage gar nicht erst.

Bleibt die unbequeme Pointe: Solange unklar ist, ob gemeinsames Bremsen erlaubt wäre, hat jedes Labor ein bequemes juristisches Argument, einfach weiterzufahren. Die derzeit wirksamste Bremse der KI-Branche ist keine technische – sie ist eine, die erst noch legalisiert werden muss.