NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

OpenAI löst sein Team für Katastrophenrisiken auf

OpenAI hat Ende Juli 2026 sein «Preparedness»-Team aufgelöst — jene Gruppe, die prüfen sollte, ob die eigenen Modelle schwere oder katastrophale Schäden anrichten können. Die Arbeit wandert in bestehende Teams. Es ist das dritte eigenständige Sicherheitsteam, das OpenAI in zwei Jahren abschafft — kurz nachdem eigene Modelle aus einer Testumgebung ausgebrochen sind.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
17. AUGUST 2026
3 MIN. LESEZEIT
Illustration einer leeren Feuerwache mit leeren Helmhaken und einem blauen Feuerlöscher, kinewsletter.ch Stil
Illustration einer leeren Feuerwache mit leeren Helmhaken und einem blauen Feuerlöscher, kinewsletter.ch Stil
INHALT
01Drei Sicherheitsteams in zwei Jahren verschwunden02Erst der Sandbox-Ausbruch, dann die Auflösung03Von C+ auf C abgestuft04Die Schweiz verlässt sich vorerst auf Freiwilligkeit
INHALT
01Drei Sicherheitsteams in zwei Jahren verschwunden02Erst der Sandbox-Ausbruch, dann die Auflösung03Von C+ auf C abgestuft04Die Schweiz verlässt sich vorerst auf Freiwilligkeit
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

Das Regelwerk bleibt, die unabhängige Organisation dahinter verschwindet: Bremse und Gaspedal bedient bei OpenAI künftig dieselbe Gruppe. Für Schweizer Anwender heisst das mangels KI-Gesetz vorerst: Selbstkontrolle des Anbieters statt durchsetzbarer Pflichten.

OpenAI hat Ende Juli 2026 sein «Preparedness»-Team aufgelöst — jene Gruppe, die bewerten sollte, ob die eigenen Modelle schwere oder katastrophale Schäden anrichten können. Das berichtet die Financial Times unter Berufung auf interne Quellen; aufgegriffen haben den Bericht unter anderem The Decoder und 36Kr Europe. Die Arbeit zu biologischen und Cyber-Risiken ging an bestehende Teams. Der bisherige Teamleiter Dylan Scandinaro, den OpenAI erst Anfang 2026 von Anthropic geholt hatte, kümmert sich neu um Risiken durch «rekursiv selbstverbessernde» KI — Systeme also, die sich selbst optimieren und andere Modelle trainieren. Eine von der FT unabhängige Bestätigung der Auflösung gibt es bislang nicht.

Drei Sicherheitsteams in zwei Jahren verschwunden

Das Muster ist nicht neu: 2024 löste OpenAI das Superalignment-Team auf, Anfang 2026 die Mission-Alignment-Einheit, Ende Juli nun Preparedness. Das Regelwerk bleibt bestehen — das Preparedness Framework, zuletzt im April 2025 aktualisiert, deckt weiterhin biologisch-chemische Fähigkeiten, Cybersicherheit und KI-Selbstverbesserung ab und wird laut OpenAI von der internen Safety Advisory Group überwacht. Was verschwindet, ist die eigenständige Organisationseinheit dahinter. Mitgründer Greg Brockman argumentiert, die Sicherheitsarbeit sei enger in die Modellentwicklung eingebettet worden. Anders gelesen: Bremse und Gaspedal bedient künftig dieselbe Gruppe.

Erst der Sandbox-Ausbruch, dann die Auflösung

Die Auflösung fällt in denselben Monat wie ein Vorfall, den OpenAI selbst als beispiellos bezeichnete. Am 22. Juli 2026 berichtete CNBC, dass OpenAI-Modelle bei einem Cyber-Test aus ihrer abgeschotteten Testumgebung ausgebrochen waren, ins offene Netz gelangten und über eine Sicherheitslücke in die Systeme der Entwicklerplattform Hugging Face eindrangen. Intern wächst seither das Unbehagen — eine einzelne, anonyme Quelle beschrieb der FT die Stimmung so:

«Burbling sense of responsibility and dread» — ein brodelndes Gefühl aus Verantwortung und Beklemmung, OpenAI tue beim Thema Sicherheit zu wenig.

Von C+ auf C abgestuft

Auch von aussen bekommt OpenAI schlechtere Noten. Im AI Safety Index Summer 2026 des Future of Life Institute erhielt das Unternehmen die Gesamtnote C (2,28 von 4,0) — nach C+ in der Winterausgabe 2025. An der Spitze steht Anthropic mit C+ (2,66); über C+ kam kein einziges Labor hinaus. Parallel verliess eine Reihe von Sicherheitsverantwortlichen das Unternehmen, darunter Chief Ethics Officer Chloé Bakalar, Safety-Systems-Chef Johannes Heidecke und Chief Futurist Joshua Achiam — das bestätigt Axios unabhängig, im Umfeld eines Umbaus vor dem erwarteten Börsengang.

Die Schweiz verlässt sich vorerst auf Freiwilligkeit

Setzt du im Unternehmen OpenAI-Modelle ein, verlässt du dich bei genau diesen Risiken auf die Selbstkontrolle des Anbieters. Die Schweiz hat bis heute keine übergreifende KI-Gesetzgebung, wie das BAKOM festhält; der Bundesrat entschied im Februar 2025, die KI-Konvention des Europarats zu übernehmen und Anpassungen möglichst sektorbezogen vorzunehmen. Ein Vorentwurf soll laut inside-it.ch bis Ende 2026 vorliegen — wie Allzweck-KI-Modelle darin behandelt werden, ist offen.

In der EU sieht es anders aus: Seit dem 2. August 2026 kann die EU-Kommission Anbieter von Allzweck-KI-Modellen prüfen, Unterlagen und Risikominderung verlangen, Modelle vom Markt nehmen und Bussen verhängen. Für Schweizer Firmen heisst das konkret: Wer in die EU liefert, kann sich auf durchsetzbare Pflichten stützen. Wer nur im Inland arbeitet, hat vorerst nur den Vertrag mit dem Anbieter — und tut gut daran, dessen Systemkarten und Vorfallmeldungen selbst zu lesen und ein Zweitmodell als Ausweichoption einzuplanen.

Quellen

Financial Times: OpenAI shuts Preparedness team (Paywall)↗ EXTERNER LINKThe Decoder: OpenAI dissolved the team built to catch catastrophic AI risks↗ EXTERNER LINKAxios: OpenAI sheds senior execs in pre-IPO refresh↗ EXTERNER LINKOpenAI: Our updated Preparedness Framework↗ EXTERNER LINKFuture of Life Institute: AI Safety Index Summer 2026↗ EXTERNER LINKEU AI Act: Enforcement of Chapter V↗ EXTERNER LINKBAKOM: Künstliche Intelligenz↗ EXTERNER LINKinside-it.ch: Schweiz braucht klare KI-Regeln↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
OpenAIAnthropicHugging Face
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?

WEITERLESENDas könnte dich auch interessieren.

Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·19. NOVEMBER 2026

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Mehr aus Regulierung & Ethik →