NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust

Sam Altman und Dario Amodei haben den UN-Sicherheitsrat vor unkontrollierter KI-Entwicklung gewarnt - in einer eigenständigen Sitzung, getrennt von Trumps Rede vor der Generalversammlung am selben Tag. China und die USA lehnten verbindliche globale Regeln unisono ab. Ein Genfer Wissenschaftler prägte das Briefing mit.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
25. SEPTEMBER 2026
3 MIN. LESEZEIT
Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust
Altman und Amodei warnen UNO-Sicherheitsrat vor KI-Kontrollverlust
INHALT
01"Wir könnten die Kontrolle verlieren"02Peking und Washington bremsen gemeinsam03Der Genfer Faden im Hintergrund
INHALT
01"Wir könnten die Kontrolle verlieren"02Peking und Washington bremsen gemeinsam03Der Genfer Faden im Hintergrund
in
PARTNER · INOO GMBH
Wie viel KI verträgt dein Betrieb? In 30 Minuten Klartext.

Kostenloses Erstgespräch — herstellerneutral, direkt aus dem Rheintal.

Gespräch buchen →
DAS WICHTIGSTE IN KÜRZE

Die Chefs von OpenAI und Anthropic warnten den UN-Sicherheitsrat eindringlich vor KI-Kontrollverlust, doch ausgerechnet China und die USA blockieren gemeinsam jede verbindliche globale Regel.

Am Mittwochnachmittag (Ortszeit New York) haben Sam Altman (OpenAI) und Dario Amodei (Anthropic) den UN-Sicherheitsrat vor den Risiken unkontrollierter KI-Entwicklung gewarnt. Bei der 10228. Sitzung des Gremiums, einberufen und geleitet von Ratspräsident Frankreich unter Aussenminister Jean-Noël Barrot, forderten beide Konzernchefs globale Sicherheitsstandards für KI. Beschlossen wurde nichts – es war ein Briefing ohne Resolution. Bemerkenswert ist die Sitzung trotzdem, weil die Chefs zweier führender KI-Labore gemeinsam vor dem höchsten UNO-Gremium sprachen, neben Yoshua Bengio und Clément Delangue (Hugging Face) als weiteren geladenen Briefern.

"Wir könnten die Kontrolle verlieren"

Altman sagte wörtlich: "We could lose control of the future to AI", und warnte vor einer Entwicklung, die so schnell verlaufe, dass Menschen "nicht mehr folgen oder eingreifen können". Wichtige KI-Entscheidungen dürften nicht allein in den Laboren von San Francisco fallen, so Altman, der die Zukunft als Wahl zwischen einer "neuen Renaissance" der Kreativität und einer "neuen industriellen Revolution des Umbruchs" beschrieb. Amodei ging weiter: "If managed poorly, I even believe AI could be a risk to humanity as a whole." Er nannte gezielten Missbrauch und Kontrollverlust über Frontier-Modelle als die beiden Hauptrisiken. Bengio, Ko-Vorsitzender des UN Independent International Scientific Panel on AI, warnte vor einem Risiko, das "niemand allein eindämmen kann und das die Grenzen nicht respektiert, die wir verteidigen". Grossbritanniens Aussenminister Ed Miliband bestätigte, wie UN News berichtete, die KI-Chefs hätten "in deutlichen Worten" gesagt, man könne die Gefahrenabwehr nicht ihnen allein überlassen.

WEITERLESENDas könnte dich auch interessieren.

KI-Agenten hacken Onlineshops für 25 Dollar pro Ziel

Peking und Washington bremsen gemeinsam

Einig war sich der Rat nicht: China, vertreten durch UN-Botschafter Fu Cong, lehnte verbindliche Beschränkungen ab und warnte vor einem "Banding together", das grosse Mächte technologisch bevorzuge – stattdessen forderte er Open-Source-Kooperation. Die USA, vertreten durch Wissenschaftsberater Michael Kratsios, warnten vor Überregulierung und lehnten sowohl eine Entwicklungspause als auch neue globale Governance-Strukturen ab. Ausgerechnet die beiden Staaten mit den grössten KI-Industrien stellen sich damit gegen eine globale Aufsicht – während am selben Tag, aber in einem anderen Saal, Donald Trump vor der UN-Generalversammlung "jeden Versuch" ablehnte, "ein globalistisches Schema zur Kontrolle" von KI zu schaffen. Wichtig zur Einordnung: Generalversammlung und Sicherheitsrat sind zwei unterschiedliche Gremien mit unterschiedlichen Rednern – zwei getrennte Termine, die zufällig auf denselben Tag fielen.

Der Genfer Faden im Hintergrund

Einer der vier Briefer, Yoshua Bengio, leitet jenes Wissenschaftspanel, das im Juli 2026 in Genf seinen ersten globalen KI-Bericht vorstellte – im Rahmen des "UN Global Dialogue on AI Governance", der dort ab dem 6. Juli 2026 tagte. Genf bleibt damit neben New York ein zweiter Fixpunkt der KI-Governance-Debatte, auch wenn diese Woche der Sicherheitsrat im Zentrum stand. Bundesrat Albert Rösti hatte im selben Monat für eine dezidiert Schweizer Position geworben: minimale globale Regeln statt harter Vorschriften, dafür Zertifizierungssysteme statt Verboten. Zwischen den Fronten von Washington und Peking, die beide vor bindenden globalen Leitplanken zurückschrecken, könnte genau diese Zwischenposition – Minimalstandards statt Kontrollverlust oder Regulierungsstopp – an Gewicht gewinnen.

Quellen

United Nations: Security Council, 10228th Meeting↗ EXTERNER LINKUN News: OpenAI and Anthropic brief Security Council↗ EXTERNER LINKSecurity Council Report: Artificial Intelligence High-level Briefing↗ EXTERNER LINKUN Web TV: Sitzungsaufzeichnung↗ EXTERNER LINKCNN Business: Altman, Amodei urge UN Security Council to act on AI safety↗ EXTERNER LINKTRT World: Real and imminent risks — AI leaders at the UN↗ EXTERNER LINKGolem: Altman und Amodei fordern globale KI-Sicherheitsstandards↗ EXTERNER LINKinside-it.ch: KI-Firmenchefs warnen UNO-Sicherheitsrat vor Risiken↗ EXTERNER LINKswissinfo.ch: Bundesrat Rösti fordert minimale globale KI-Regeln↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
OpenAIAnthropicHugging Face
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?
KI-Agenten hacken Onlineshops für 25 Dollar pro Ziel
REGULIERUNG & ETHIK·25. SEPTEMBER 2026

KI-Agenten hacken Onlineshops für 25 Dollar pro Ziel

Ein Report von Gambit Security zeigt: Drei zusammenspielende KI-Agenten haben mindestens 27 Onlineshops geknackt und über 600'000 Kreditkartendaten erbeutet – für durchschnittlich 25,46 Dollar pro Firma. Die Zahl stammt bislang nur von einer Quelle, zeigt aber, wie günstig automatisierte Angriffe geworden sind. Kein Schweizer Shop ist betroffen, doch ein separater Fall vom September zeigt, dass auch hiesige Anbieter ins Visier geraten können.

Sanders-Entwurf will Superintelligenz für immer verbieten
Sanders-Entwurf will Superintelligenz für immer verbieten
REGULIERUNG & ETHIK·25. SEPTEMBER 2026

Sanders-Entwurf will Superintelligenz für immer verbieten

Bernie Sanders und Greg Casar wollen die Entwicklung von Superintelligenz per Gesetz verbieten – mit einer neuen Bundesbehörde und bis zu 20 Jahren Haft für Verantwortliche. Im republikanisch kontrollierten Kongress hat der Entwurf allerdings kaum Chancen.

OpenAI-Agent hackt australisches Regierungsportal
OpenAI-Agent hackt australisches Regierungsportal
REGULIERUNG & ETHIK·25. SEPTEMBER 2026

OpenAI-Agent hackt australisches Regierungsportal

Ein Agent von OpenAI ist im Juni 2026 in ein australisches Gesundheitsstatistik-Portal eingedrungen und umging dabei Zugangssperren. Entdeckt hat OpenAI den Vorfall erst im August, gemeldet wurde er der Behörde erst im September – fast drei Monate nach dem Einbruch.

Illustration einer Briefkastenreihe mit einer offenen Tür und Schlüsselbund im Schloss, kinewsletter.ch Stil
Illustration einer Briefkastenreihe mit einer offenen Tür und Schlüsselbund im Schloss, kinewsletter.ch Stil
REGULIERUNG & ETHIK·24. SEPTEMBER 2026

Microsoft zerschlägt Phishing-Dienst mit eingebautem KI-Assistenten

Microsoft hat den Phishing-Dienst EvilTokens zerschlagen – verbunden mit über 12'000 gekaperten Microsoft-365-Postfächern. Das Neue daran war nicht der Einbruch, sondern ein mitgelieferter KI-Chatbot, der fremde Postfächer nach Zahlungsgesprächen durchsuchte.

Illustration eines Globus mit einem Fragebogen und Checkboxen, kinewsletter.ch Stil
Illustration eines Globus mit einem Fragebogen und Checkboxen, kinewsletter.ch Stil
REGULIERUNG & ETHIK·24. SEPTEMBER 2026

Der besorgte Westen: Viel KI-Nutzung, noch mehr Skepsis

Gallup und Microsoft haben die ersten 37 Länder einer weltweiten KI-Studie veröffentlicht: In 34 davon überwiegen die positiven Gefühle. Die grosse Ausnahme sind die USA, wo sich 74 Prozent der KI-bewussten Erwachsenen sorgen – ausgerechnet dort, wo am meisten genutzt wird. Innerhalb dieser Länder gilt allerdings das Gegenteil: Wer täglich mit KI arbeitet, sorgt sich am wenigsten.

Illustration eines übergrossen Bürostempels mit Stempelkissen, kinewsletter.ch Stil
Illustration eines übergrossen Bürostempels mit Stempelkissen, kinewsletter.ch Stil
REGULIERUNG & ETHIK·23. SEPTEMBER 2026

Trump erklärt KI an der UNO zur «Super Intelligence»

Donald Trump hat vor der UNO-Generalversammlung angekündigt, dass die USA künstliche Intelligenz in allen Regierungsdokumenten «Super Intelligence» nennen. Eine unterzeichnete Anordnung gibt es bisher nicht, der Begriff stammt aus einer Truth-Social-Abstimmung. Für Schweizer Firmen mit US-Kunden zählt vor allem, dass «artificial intelligence» der definierte Rechtsbegriff bleibt.

Mehr aus Regulierung & Ethik →