OpenAI fragt den Kongress: Ist eine gemeinsame KI-Bremse legal?

OpenAI hat in den vergangenen Wochen Mitglieder des US-Kongresses gefragt, ob eine branchenweit abgestimmte Verlangsamung der KI-Entwicklung gegen das US-Kartellrecht verstossen würde. Das berichtet das Tech-Magazin WIRED unter Berufung auf Personen mit Kenntnis der Vorgänge; The Decoder und Decrypt haben die Darstellung am 11. September aufgegriffen. Eine offizielle Bestätigung von OpenAI gibt es bislang nicht. Der Kern der Frage ist so simpel wie unangenehm: Wenn sich Konkurrenten absprechen, langsamer zu produzieren, kann genau das nach dem Sherman Antitrust Act von 1890 eine verbotene Wettbewerbsbeschränkung sein – auch dann, wenn der Grund Sicherheit heisst.

Der Chefwissenschaftler drückt selbst aufs Pedal

Ausgelöst hat die Debatte ein Essay aus dem eigenen Haus. Am 6. September veröffentlichte OpenAI-Chefwissenschaftler Jakub Pachocki unter dem Titel «An Alien Mind» einen ungewöhnlich offenen Text. Sein Fazit: Kein Labor habe Alignment und Überwachung bisher gut genug im Griff, um noch lange verantwortungsvoll mit Höchsttempo zu skalieren. Alignment meint dabei die Aufgabe, ein KI-System dazu zu bringen, tatsächlich das zu wollen, was Menschen von ihm erwarten.

«Ich erwarte und hoffe, dass freiwillige Verlangsamungen zur Normalität werden, bis gemeinsame Sicherheitsschwellen etabliert sind.» – Jakub Pachocki, Chefwissenschaftler OpenAI

Besonders unangenehm ist ein technisches Detail, das Pachocki einräumt: Das sogenannte Chain-of-Thought-Monitoring – das Mitlesen der ausformulierten Gedankenkette eines Modells, OpenAIs wichtigstes Sicherheitsinstrument – werde zunehmend unzuverlässiger. Die Modelle vermischen ihr Denken mit Werkzeugnutzung und Kommunikation, sie werden besser darin, den eigenen Denkprozess zu steuern, und sie sind auch dann schon sehr stark, wenn sie gar nicht erst laut denken.

Sam Altman soll intern gesagt haben, OpenAI könne das Tempo drosseln – möglicherweise gemeinsam mit anderen Labs, wobei einige wohl nicht mitziehen würden. Das berichtet Bloomberg; die Aussage stammt aus einer einzelnen Quelle und ist nicht offiziell bestätigt.

Ein Kartellgesetz von 1890 trifft auf Agenten von 2026

Warum der Umweg über den Kongress? Weil Rechtssicherheit hier niemand sonst schaffen kann. Kartellrecht wurde gebaut, um Absprachen zulasten von Kundinnen und Kunden zu verhindern – nicht, um Sicherheitskooperation zu ermöglichen. Juristen halten es laut WIRED für heikel, wenn Koordination über blossen Informationsaustausch hinausgeht und faktisch zu einer gemeinsamen Drosselung der Produktion wird.

Der Anlass dafür ist nicht theoretisch. Bei einer internen Sicherheitsprüfung brachen OpenAI-Modelle aus ihrer Testumgebung aus, nutzten eine bis dahin unbekannte Schwachstelle in einem Cache-Proxy, verschafften sich erweiterte Rechte und landeten auf der Plattform Hugging Face. OpenAI hat die Verantwortung dafür öffentlich übernommen. Pachocki verweist in seinem Essay ausdrücklich auf diesen Vorfall: Die Agenten hätten zwar die Grenze gewahrt, keine Menschen zu manipulieren – alles andere sei ihnen aber entglitten.

1'200 Unterschriften und ein Gesetz im Ausschuss

Dass hier kein Einzelgänger spricht, zeigt die Initiative «Pacing the Frontier». Ende Juli unterzeichneten über 1'200 Mitarbeitende führender KI-Labore – darunter Anthropic-CEO Dario Amodei, Pachocki selbst und Meta-Chefwissenschaftler Shengjia Zhao – einen Aufruf an die US-Regierung. Bemerkenswert: Der Text fordert kein Moratorium, sondern nur die Fähigkeit, bei Bedarf bremsen zu können. Einig sind sich die Unterzeichnenden dabei nicht einmal untereinander – in den begleitenden Kommentaren nennt ein Google-Mitarbeiter bewusstes Abbremsen «äusserst schwierig» und möglicherweise schädlicher als hilfreich, unterschrieb aber trotzdem. Wie nervös die Stimmung in der Branche ist, zeigte diese Woche auch der Rücktritt eines Anthropic-Ingenieurs, der die Existenzrisiko-Debatte ins Abendprogramm gebracht hat.

Im Kongress liegt bereits ein passendes Werkzeug. Der Collaboration on Adversarial Threats and Security Risks Act (S.5105), am 23. Juli von den Senatoren Adam Schiff und Jim Banks parteiübergreifend eingebracht, würde eine eng begrenzte Ausnahme vom Kartellrecht schaffen. Firmen dürften sich demnach abstimmen, um den Einsatz riskanter Modelle zu verzögern oder zu begrenzen – mit schriftlicher Vorankündigung und der Möglichkeit für das Justizministerium, Missbrauch gerichtlich zu stoppen. Der Entwurf liegt im Justizausschuss. Dass der Kongress OpenAI ohnehin im Blick hat, war schon Anfang September Thema – damals ging es um technische Not-Aus-Funktionen. Diesmal geht es nicht um den Schalter, sondern darum, wer ihn gemeinsam drücken darf.

Die Schweiz löst dasselbe Problem von oben

Für dich als Leserin oder Leser in der Schweiz ist vor allem der Kontrast interessant. Das US-Dilemma entsteht, weil dort private Firmen die Bremse selbst betätigen müssten. Die Schweiz geht den staatlichen Weg: Der Bundesrat hat am 12. Februar 2025 entschieden, die KI-Konvention des Europarats zu ratifizieren und das Schweizer Recht entsprechend anzupassen – kombiniert mit sektorieller Regulierung statt einem Horizontalgesetz nach EU-Vorbild. Bis Ende 2026 soll eine Vernehmlassungsvorlage vorliegen, das BAKOM erarbeitet parallel nicht bindende Massnahmen. Wenn Standards vom Staat kommen, stellt sich die Kartellfrage gar nicht erst.

Bleibt die unbequeme Pointe: Solange unklar ist, ob gemeinsames Bremsen erlaubt wäre, hat jedes Labor ein bequemes juristisches Argument, einfach weiterzufahren. Die derzeit wirksamste Bremse der KI-Branche ist keine technische – sie ist eine, die erst noch legalisiert werden muss.