Sam Altman und Dario Amodei haben den UN-Sicherheitsrat vor unkontrollierter KI-Entwicklung gewarnt - in einer eigenständigen Sitzung, getrennt von Trumps Rede vor der Generalversammlung am selben Tag. China und die USA lehnten verbindliche globale Regeln unisono ab. Ein Genfer Wissenschaftler prägte das Briefing mit.
Kostenloses Erstgespräch — herstellerneutral, direkt aus dem Rheintal.
Die Chefs von OpenAI und Anthropic warnten den UN-Sicherheitsrat eindringlich vor KI-Kontrollverlust, doch ausgerechnet China und die USA blockieren gemeinsam jede verbindliche globale Regel.
Am Mittwochnachmittag (Ortszeit New York) haben Sam Altman (OpenAI) und Dario Amodei (Anthropic) den UN-Sicherheitsrat vor den Risiken unkontrollierter KI-Entwicklung gewarnt. Bei der 10228. Sitzung des Gremiums, einberufen und geleitet von Ratspräsident Frankreich unter Aussenminister Jean-Noël Barrot, forderten beide Konzernchefs globale Sicherheitsstandards für KI. Beschlossen wurde nichts – es war ein Briefing ohne Resolution. Bemerkenswert ist die Sitzung trotzdem, weil die Chefs zweier führender KI-Labore gemeinsam vor dem höchsten UNO-Gremium sprachen, neben Yoshua Bengio und Clément Delangue (Hugging Face) als weiteren geladenen Briefern.
Altman sagte wörtlich: "We could lose control of the future to AI", und warnte vor einer Entwicklung, die so schnell verlaufe, dass Menschen "nicht mehr folgen oder eingreifen können". Wichtige KI-Entscheidungen dürften nicht allein in den Laboren von San Francisco fallen, so Altman, der die Zukunft als Wahl zwischen einer "neuen Renaissance" der Kreativität und einer "neuen industriellen Revolution des Umbruchs" beschrieb. Amodei ging weiter: "If managed poorly, I even believe AI could be a risk to humanity as a whole." Er nannte gezielten Missbrauch und Kontrollverlust über Frontier-Modelle als die beiden Hauptrisiken. Bengio, Ko-Vorsitzender des UN Independent International Scientific Panel on AI, warnte vor einem Risiko, das "niemand allein eindämmen kann und das die Grenzen nicht respektiert, die wir verteidigen". Grossbritanniens Aussenminister Ed Miliband bestätigte, wie UN News berichtete, die KI-Chefs hätten "in deutlichen Worten" gesagt, man könne die Gefahrenabwehr nicht ihnen allein überlassen.
Einig war sich der Rat nicht: China, vertreten durch UN-Botschafter Fu Cong, lehnte verbindliche Beschränkungen ab und warnte vor einem "Banding together", das grosse Mächte technologisch bevorzuge – stattdessen forderte er Open-Source-Kooperation. Die USA, vertreten durch Wissenschaftsberater Michael Kratsios, warnten vor Überregulierung und lehnten sowohl eine Entwicklungspause als auch neue globale Governance-Strukturen ab. Ausgerechnet die beiden Staaten mit den grössten KI-Industrien stellen sich damit gegen eine globale Aufsicht – während am selben Tag, aber in einem anderen Saal, Donald Trump vor der UN-Generalversammlung "jeden Versuch" ablehnte, "ein globalistisches Schema zur Kontrolle" von KI zu schaffen. Wichtig zur Einordnung: Generalversammlung und Sicherheitsrat sind zwei unterschiedliche Gremien mit unterschiedlichen Rednern – zwei getrennte Termine, die zufällig auf denselben Tag fielen.
Einer der vier Briefer, Yoshua Bengio, leitet jenes Wissenschaftspanel, das im Juli 2026 in Genf seinen ersten globalen KI-Bericht vorstellte – im Rahmen des "UN Global Dialogue on AI Governance", der dort ab dem 6. Juli 2026 tagte. Genf bleibt damit neben New York ein zweiter Fixpunkt der KI-Governance-Debatte, auch wenn diese Woche der Sicherheitsrat im Zentrum stand. Bundesrat Albert Rösti hatte im selben Monat für eine dezidiert Schweizer Position geworben: minimale globale Regeln statt harter Vorschriften, dafür Zertifizierungssysteme statt Verboten. Zwischen den Fronten von Washington und Peking, die beide vor bindenden globalen Leitplanken zurückschrecken, könnte genau diese Zwischenposition – Minimalstandards statt Kontrollverlust oder Regulierungsstopp – an Gewicht gewinnen.

Ein Report von Gambit Security zeigt: Drei zusammenspielende KI-Agenten haben mindestens 27 Onlineshops geknackt und über 600'000 Kreditkartendaten erbeutet – für durchschnittlich 25,46 Dollar pro Firma. Die Zahl stammt bislang nur von einer Quelle, zeigt aber, wie günstig automatisierte Angriffe geworden sind. Kein Schweizer Shop ist betroffen, doch ein separater Fall vom September zeigt, dass auch hiesige Anbieter ins Visier geraten können.