Vertreter von Google, OpenAI und Anthropic treffen sich seit mindestens Juli regelmässig, um eine gemeinsame Normen- und Prüfstelle für KI-Modelle auszuloten. Das berichtet The Information. Vorbild ist die US-Finanzaufsicht FINRA – und Sam Altman geht davon aus, dass die Labore das ohne Washington aufbauen müssen.
Kostenloses Erstgespräch — herstellerneutral, direkt aus dem Rheintal.
Die drei grössten Konkurrenten der Branche verhandeln seit Monaten still über eine Selbstaufsicht, die Modelle vor dem Release prüfen soll – Wochen bevor ihre Chefs öffentlich zum Bremsen aufriefen.
Vertreter von Google, OpenAI und Anthropic treffen sich seit mindestens Juli regelmässig in einer Arbeitsgruppe, um eine gemeinsame Normenbehörde für die KI-Branche auszuloten. Das berichtete The Information am Sonntag unter Berufung auf mit der Sache vertraute Personen; zuletzt habe die Gruppe vergangene Woche getagt. Das Gremium soll fortgeschrittene Modelle vor ihrem Einsatz technisch prüfen und auditieren.
Angestossen hat die Debatte Demis Hassabis. Der Google-DeepMind-Gründer schlug in einem Essay im Juli eine US-geführte Normenbehörde vor – konstruiert nach dem Vorbild der FINRA, der Selbstregulierungsorganisation der amerikanischen Finanzbranche. Deren Prinzip: Die Branche finanziert und betreibt eine eigene Aufsicht, die verbindliche Standards setzt und ihre Mitglieder prüft, statt auf eine staatliche Behörde zu warten.
Dass die Idee im öffentlichen Raum kursiert, war bekannt. Neu ist laut The Information das Ausmass: Wie weit die Unternehmen bereits konkret zusammenarbeiten, war bisher nicht berichtet.
Sam Altman äusserte sich an einem firmeninternen Townhall dazu. Er befürworte eine Test- und Audit-Organisation für die Branche, glaube aber, dass die grossen Labore sie ohne Rückendeckung der US-Regierung selbst aufbauen müssten. Das sagte eine mit den Äusserungen vertraute Person gegenüber The Information.
Vorangetrieben wird der Vorstoss laut dem Bericht von – mit Fokus auf technischen Tests und Prüfungen vor dem Release.
Zeitlich ist die Einordnung wichtig: Die Gespräche begannen laut The Information bevor Amodei am Wochenende öffentlich dazu aufrief, das Tempo der Branche zu drosseln. Sein Vorschlag vom Samstag enthält Selbstregulierung als einen Baustein – Unternehmen könnten mit freiwilligen Sicherheitsstandards vorangehen, während der Gesetzgeber an Regulierung arbeitet. Unterstützung bekam er unter anderem von Altman, Hassabis und Elon Musk.
Eine privat organisierte Prüfstelle amerikanischer Labore hätte Folgen weit über die USA hinaus. Wenn Google, OpenAI und Anthropic gemeinsam festlegen, welche Tests ein Modell vor dem Release bestehen muss, wird dieser Standard faktisch global – auch für Firmen in der Schweiz, die diese Modelle über APIs in ihre Produkte einbauen.
Gleichzeitig zieht die EU in die Gegenrichtung: Die Kommission hat diese Woche begonnen, Anbietern von universell einsetzbaren KI-Modellen formale Auskunftsersuchen unter dem AI Act zuzustellen, und baut eigene Testumgebungen auf. Zwei Modelle von Aufsicht entstehen gerade gleichzeitig – eines von der Branche, eines vom Gesetzgeber. Welches sich durchsetzt, ist offen.
Die EU-Kommission hat mehreren Anbietern universell einsetzbarer KI-Modelle formale Auskunftsersuchen zugestellt – oft der erste Schritt zu einem Untersuchungsverfahren. Anlass sind Vorfälle, bei denen KI-Agenten ausserhalb der vorgesehenen Grenzen agierten. Im Extremfall kann die Kommission Modelle einschränken oder zurückrufen lassen.