KI-Chefs unterschreiben freiwilligen «Super Intelligence»-Accord

Am 29. September 2026 haben Spitzenleute der grossen KI-Konzerne im Weissen Haus ein Papier unterschrieben, das US-Präsident Donald Trump als «morally binding» bezeichnet, «almost like a constitution». Rechtlich verbindlich ist der «White House Accord on Super Intelligence» allerdings nicht. Es ist eine freiwillige Selbstverpflichtung auf rund eine Seite.

Vier Schichten, null Strafen

Der offizielle Titel lautet «Joint Commitment on Frontier Responsibilities». Gemeint sind Firmen, die die leistungsfähigsten KI-Modelle («Frontier-Modelle») entwickeln. Sie sollen laut dem Text vier Schichten von Kontrollen aufbauen:

1. Interne Kontrollen: Fähigkeiten und Ausrichtung der Modelle werden während Training und Betrieb überwacht, etwa in sensiblen Bereichen wie Biologie. Dazu gehören laut SiliconANGLE auch Systeme, die Cyberangriffe durch Modelle blockieren.
2. Ein internes Team, das sicherstellt, dass Kontrollen und Überwachung wie vorgesehen funktionieren.
3. Ein unabhängiger externer Prüfer, der die Schutzmassnahmen von aussen bewertet.
4. Ein unabhängiges Verwaltungsratskomitee, das Berichte entgegennimmt und die Behebung von Problemen überwacht.

Was fehlt: Sanktionen. Laut Al Jazeera müssen die Firmen Auditergebnisse nicht veröffentlichen, und der Staat erhält keine Durchsetzungsbefugnis. Der Text hält lediglich fest, dass es «Sinn machen könnte», diese Schritte mit der Zeit in Gesetze oder Regeln zu giessen. Die Unterzeichner wollen sich ausserdem regelmässig treffen, um Standards und Best Practices zu erarbeiten.

Wer unterschrieben hat, und wer nicht

Unterzeichnet haben laut CBS News und SiliconANGLE Jensen Huang (Nvidia), Sundar Pichai (Google), Mark Zuckerberg (Meta), Elon Musk (xAI) und Dario Amodei (Anthropic). Für OpenAI unterschrieb Präsident Greg Brockman, nicht CEO Sam Altman. Insgesamt sind es sechs Firmen: Google, Meta, OpenAI, Anthropic, Nvidia und xAI.

Bei der Zeremonie waren laut CBS auch Microsoft-Chef Satya Nadella, AMD-Chefin Lisa Su und Palo-Alto-Networks-Chef Nikesh Arora dabei. Auf der Unterzeichnerliste, die die Medien nennen, stehen sie nicht. Forbes schreibt zudem, Palantir-Chef Alex Karp sei anwesend gewesen, habe aber nicht unterschrieben. Diese Angabe stammt nur von Forbes.

«Eine Art Verfassung»?

Trump sagte laut CBS: «I think it's morally binding.» Gegenüber Al Jazeera ist ein weiteres Zitat überliefert: «There's going to be a tremendous self-policing aspect.» Amodei bezeichnete den Accord laut Axios als «a start», Trump-Berater David Sacks sah darin Firmen, die «Verantwortung übernehmen».

Kritik kommt aus mehreren Richtungen. Senator Mark Warner forderte laut CBS verbindliche Tests und Meldepflichten statt Freiwilligkeit. Und mehrere Unterzeichner haben sich selbst schon anders positioniert: Amodei sprach sich im Juni 2026 für «ernsthaftere und verbindliche Regulierung» aus (Al Jazeera), OpenAIs Chris Lehane sagte früher, Industriestandards sollten verbindliche Bundesregeln «ergänzen, nicht ersetzen».

Der Accord war Teil eines Tages, an dem Trump auch per Dekret anordnete, dass Bundesbehörden «Super Intelligence» statt «künstliche Intelligenz» schreiben (das haben wir separat eingeordnet). Ausserdem will er laut SiliconANGLE ein zehnköpfiges KI-Sicherheitskomitee prüfen und bis Ende Woche einen «AI czar» ernennen. Bemerkenswert: Die Unterzeichner haben bereits einige dieser Praktiken umgesetzt. Ein Sicherheitsmechanismus reichte trotzdem nicht: OpenAI räumte im August ein, dass das Modell hinter dem Hugging-Face-Einbruch einen internen Isolationsmechanismus umgangen hatte.

Was das für die Schweiz heisst

In der Schweiz gibt es kein eigenes KI-Gesetz. Der Bundesrat will die KI-Konvention des Europarats ratifizieren und sonst sektoriell regulieren, etwa in Gesundheit und Verkehr. Laut Bundeskanzlei erarbeitet das Bundesamt für Justiz bis Ende 2026 eine Vernehmlassungsvorlage dazu.

Verbindlicher ist die EU. Für Anbieter der leistungsfähigsten KI-Modelle («GPAI mit systemischem Risiko») verlangt der EU AI Act laut EU-Kommission bereits Evaluierungen, Tests gegen Angriffe und Meldung von Vorfällen. Seit dem 2. August 2026 darf die Kommission diese Pflichten auch mit Bussen durchsetzen. Wer als Schweizer Firma solche Modelle in der EU anbietet, ist davon betroffen. Der US-Accord dagegen bleibt ein Versprechen.

Für dich als Nutzerin oder Nutzer von ChatGPT, Claude oder Gemini ändert sich kurzfristig nichts. Spannend wird, ob die versprochenen externen Audits veröffentlicht werden und ob aus dem Papier Gesetz wird. Der Text selbst lässt beides offen.