Google, OpenAI und Anthropic planen ihre eigene KI-Aufsicht

Vertreter von Google, OpenAI und Anthropic treffen sich seit mindestens Juli regelmässig in einer Arbeitsgruppe, um eine gemeinsame Normenbehörde für die KI-Branche auszuloten. Das berichtete The Information am Sonntag unter Berufung auf mit der Sache vertraute Personen; zuletzt habe die Gruppe vergangene Woche getagt. Das Gremium soll fortgeschrittene Modelle vor ihrem Einsatz technisch prüfen und auditieren.

Der Auslöser war ein Essay im Juli

Angestossen hat die Debatte Demis Hassabis. Der Google-DeepMind-Gründer schlug in einem Essay im Juli eine US-geführte Normenbehörde vor – konstruiert nach dem Vorbild der FINRA, der Selbstregulierungsorganisation der amerikanischen Finanzbranche. Deren Prinzip: Die Branche finanziert und betreibt eine eigene Aufsicht, die verbindliche Standards setzt und ihre Mitglieder prüft, statt auf eine staatliche Behörde zu warten.

Dass die Idee im öffentlichen Raum kursiert, war bekannt. Neu ist laut The Information das Ausmass: Wie weit die Unternehmen bereits konkret zusammenarbeiten, war bisher nicht berichtet.

Altman rechnet nicht mit Washington

Sam Altman äusserte sich an einem firmeninternen Townhall dazu. Er befürworte eine Test- und Audit-Organisation für die Branche, glaube aber, dass die grossen Labore sie ohne Rückendeckung der US-Regierung selbst aufbauen müssten. Das sagte eine mit den Äusserungen vertraute Person gegenüber The Information.

Vorangetrieben wird der Vorstoss laut dem Bericht von Dario Amodei – mit Fokus auf technischen Tests und Prüfungen vor dem Release.

Die Gespräche liefen vor dem Aufruf

Zeitlich ist die Einordnung wichtig: Die Gespräche begannen laut The Information bevor Amodei am Wochenende öffentlich dazu aufrief, das Tempo der Branche zu drosseln. Sein Vorschlag vom Samstag enthält Selbstregulierung als einen Baustein – Unternehmen könnten mit freiwilligen Sicherheitsstandards vorangehen, während der Gesetzgeber an Regulierung arbeitet. Unterstützung bekam er unter anderem von Altman, Hassabis und Elon Musk.

Warum das die Schweiz angeht

Eine privat organisierte Prüfstelle amerikanischer Labore hätte Folgen weit über die USA hinaus. Wenn Google, OpenAI und Anthropic gemeinsam festlegen, welche Tests ein Modell vor dem Release bestehen muss, wird dieser Standard faktisch global – auch für Firmen in der Schweiz, die diese Modelle über APIs in ihre Produkte einbauen.

Gleichzeitig zieht die EU in die Gegenrichtung: Die Kommission hat diese Woche begonnen, Anbietern von universell einsetzbaren KI-Modellen formale Auskunftsersuchen unter dem AI Act zuzustellen, und baut eigene Testumgebungen auf. Zwei Modelle von Aufsicht entstehen gerade gleichzeitig – eines von der Branche, eines vom Gesetzgeber. Welches sich durchsetzt, ist offen.