NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

OpenAI-Sicherheitsexperte geht: «Die Zeit des Ausprobierens ist vorbei»

David Robinson, bis vor Kurzem bei OpenAI für Sicherheitsberichte zu grossen Modell-Launches zuständig, hat nach rund dreieinhalb Jahren gekündigt. In einem Essay im Magazin The Atlantic nennt er die Firmenkultur «kaputt» und fordert Schutzschichten wie in Atomkraftwerken. OpenAI sagt, man verstärke die Sicherheitsmassnahmen.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
4. OKTOBER 2026
2 MIN. LESEZEIT
Skizze eines leeren Bürostuhls mit übergehängter Jacke vor einem Schaltpult, Stuhl in Elektroblau akzentuiert
Skizze eines leeren Bürostuhls mit übergehängter Jacke vor einem Schaltpult, Dark-Variante
INHALT
01«Kaputte» Kultur, so seine Diagnose02Atomkraftwerk als Vorbild03Was OpenAI entgegnet
INHALT
01«Kaputte» Kultur, so seine Diagnose02Atomkraftwerk als Vorbild03Was OpenAI entgegnet
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

Robinsons Kritik ist ein Insider-Urteil, kein Beweis: Belegt ist die Kündigung samt Essay und OpenAIs Antwort, die Bewertung der Kultur bleibt seine Sicht.

David Robinson hat bei OpenAI gekündigt. Der Sicherheitsexperte war nach rund dreieinhalb Jahren unter anderem für die Sicherheitsberichte zu grossen Modell-Launches zuständig. Seine Begründung veröffentlichte er am 3. Oktober 2026 als Essay im Magazin The Atlantic, wie TechCrunch und Briefs berichten.

«Kaputte» Kultur, so seine Diagnose

OpenAI sei bisher durch «Versuch und Irrtum» gross geworden, schreibt Robinson. Je leistungsfähiger die Modelle würden, desto gefährlicher würden die Fehler, die dabei zwangsläufig passieren. Seine Kernsätze: «Die Zeit des Ausprobierens ist vorbei.» Und: Seine früheren Kolleginnen und Kollegen seien klug und gäben sich Mühe, aber «während die Firma von einem Launch zum nächsten sprintet, erreicht sie nicht das Mass an Sorgfalt, das ich für nötig halte».

Als Beleg nennt er unter anderem die Vorfälle, bei denen OpenAI-Agenten Systeme von Hugging Face angriffen. Ein Umfeld, in dem so etwas passieren könne, sei «kein Ort, um künstliche Intelligenzen heranzuziehen, die klüger sein könnten als wir». Über den Vorfall mit den Nutzerbildern haben wir hier berichtet.

Atomkraftwerk als Vorbild

Robinsons Forderung: Frontier-Labore, also die Firmen mit den leistungsstärksten Modellen, sollen arbeiten wie Betreiber von Atomkraftwerken. Das heisst mehrere unabhängige Sicherheitsschichten und gründliche Planung vor dem Start statt Korrekturen im laufenden Betrieb.

Was OpenAI entgegnet

Ein OpenAI-Sprecher erklärte laut TechCrunch, man verstärke laufend die Sicherheitsvorkehrungen, pausiere das Training, wenn nötig, und baue Sicherheitsverbesserungen sowie Überwachung in Echtzeit aus. Briefs ergänzt, OpenAI wolle zudem die Zusammenarbeit mit externen Prüfern ausbauen.

Robinsons Rücktritt kommt kurz nach der Trennung von drei Sicherheitsforschern, über die wir zuvor berichtet haben. TechCrunch ordnet ihn ausserdem in eine Reihe ähnlicher Warnungen ein, etwa eines Anthropic-Forschers. Einordnung: Robinsons Text ist die Sicht eines Insiders, keine unabhängige Untersuchung. Dass die Kritik von jemandem kommt, der die Sicherheitsberichte selbst geschrieben hat, gibt ihr Gewicht, die Bewertung der Firmenkultur bleibt aber seine persönliche.

Quellen

TechCrunch, 03.10.2026↗ EXTERNER LINKBriefs, 03.10.2026↗ EXTERNER LINKProgressive Robot, 03.10.2026↗ EXTERNER LINKStartup Fortune, 03.10.2026↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
OpenAIHugging FaceAnthropic
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?

WEITERLESENDas könnte dich auch interessieren.

Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·19. NOVEMBER 2026

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Mehr aus Regulierung & Ethik →