Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust

Am Mittwochnachmittag (Ortszeit New York) haben Sam Altman (OpenAI) und Dario Amodei (Anthropic) den UN-Sicherheitsrat vor den Risiken unkontrollierter KI-Entwicklung gewarnt. Bei der 10228. Sitzung des Gremiums, einberufen und geleitet von Ratspräsident Frankreich unter Aussenminister Jean-Noël Barrot, forderten beide Konzernchefs globale Sicherheitsstandards für KI. Beschlossen wurde nichts – es war ein Briefing ohne Resolution. Bemerkenswert ist die Sitzung trotzdem, weil die Chefs zweier führender KI-Labore gemeinsam vor dem höchsten UNO-Gremium sprachen, neben Yoshua Bengio und Clément Delangue (Hugging Face) als weiteren geladenen Briefern.

"Wir könnten die Kontrolle verlieren"

Altman sagte wörtlich: "We could lose control of the future to AI", und warnte vor einer Entwicklung, die so schnell verlaufe, dass Menschen "nicht mehr folgen oder eingreifen können". Wichtige KI-Entscheidungen dürften nicht allein in den Laboren von San Francisco fallen, so Altman, der die Zukunft als Wahl zwischen einer "neuen Renaissance" der Kreativität und einer "neuen industriellen Revolution des Umbruchs" beschrieb. Amodei ging weiter: "If managed poorly, I even believe AI could be a risk to humanity as a whole." Er nannte gezielten Missbrauch und Kontrollverlust über Frontier-Modelle als die beiden Hauptrisiken. Bengio, Ko-Vorsitzender des UN Independent International Scientific Panel on AI, warnte vor einem Risiko, das "niemand allein eindämmen kann und das die Grenzen nicht respektiert, die wir verteidigen". Grossbritanniens Aussenminister Ed Miliband bestätigte, wie UN News berichtete, die KI-Chefs hätten "in deutlichen Worten" gesagt, man könne die Gefahrenabwehr nicht ihnen allein überlassen.

Peking und Washington bremsen gemeinsam

Einig war sich der Rat nicht: China, vertreten durch UN-Botschafter Fu Cong, lehnte verbindliche Beschränkungen ab und warnte vor einem "Banding together", das grosse Mächte technologisch bevorzuge – stattdessen forderte er Open-Source-Kooperation. Die USA, vertreten durch Wissenschaftsberater Michael Kratsios, warnten vor Überregulierung und lehnten sowohl eine Entwicklungspause als auch neue globale Governance-Strukturen ab. Ausgerechnet die beiden Staaten mit den grössten KI-Industrien stellen sich damit gegen eine globale Aufsicht – während am selben Tag, aber in einem anderen Saal, Donald Trump vor der UN-Generalversammlung "jeden Versuch" ablehnte, "ein globalistisches Schema zur Kontrolle" von KI zu schaffen. Wichtig zur Einordnung: Generalversammlung und Sicherheitsrat sind zwei unterschiedliche Gremien mit unterschiedlichen Rednern – zwei getrennte Termine, die zufällig auf denselben Tag fielen.

Der Genfer Faden im Hintergrund

Einer der vier Briefer, Yoshua Bengio, leitet jenes Wissenschaftspanel, das im Juli 2026 in Genf seinen ersten globalen KI-Bericht vorstellte – im Rahmen des "UN Global Dialogue on AI Governance", der dort ab dem 6. Juli 2026 tagte. Genf bleibt damit neben New York ein zweiter Fixpunkt der KI-Governance-Debatte, auch wenn diese Woche der Sicherheitsrat im Zentrum stand. Bundesrat Albert Rösti hatte im selben Monat für eine dezidiert Schweizer Position geworben: minimale globale Regeln statt harter Vorschriften, dafür Zertifizierungssysteme statt Verboten. Zwischen den Fronten von Washington und Peking, die beide vor bindenden globalen Leitplanken zurückschrecken, könnte genau diese Zwischenposition – Minimalstandards statt Kontrollverlust oder Regulierungsstopp – an Gewicht gewinnen.