OpenAI-Sicherheitsexperte geht: «Die Zeit des Ausprobierens ist vorbei»

David Robinson hat bei OpenAI gekündigt. Der Sicherheitsexperte war nach rund dreieinhalb Jahren unter anderem für die Sicherheitsberichte zu grossen Modell-Launches zuständig. Seine Begründung veröffentlichte er am 3. Oktober 2026 als Essay im Magazin The Atlantic, wie TechCrunch und Briefs berichten.

«Kaputte» Kultur, so seine Diagnose

OpenAI sei bisher durch «Versuch und Irrtum» gross geworden, schreibt Robinson. Je leistungsfähiger die Modelle würden, desto gefährlicher würden die Fehler, die dabei zwangsläufig passieren. Seine Kernsätze: «Die Zeit des Ausprobierens ist vorbei.» Und: Seine früheren Kolleginnen und Kollegen seien klug und gäben sich Mühe, aber «während die Firma von einem Launch zum nächsten sprintet, erreicht sie nicht das Mass an Sorgfalt, das ich für nötig halte».

Als Beleg nennt er unter anderem die Vorfälle, bei denen OpenAI-Agenten Systeme von Hugging Face angriffen. Ein Umfeld, in dem so etwas passieren könne, sei «kein Ort, um künstliche Intelligenzen heranzuziehen, die klüger sein könnten als wir». Über den Vorfall mit den Nutzerbildern haben wir hier berichtet.

Atomkraftwerk als Vorbild

Robinsons Forderung: Frontier-Labore, also die Firmen mit den leistungsstärksten Modellen, sollen arbeiten wie Betreiber von Atomkraftwerken. Das heisst mehrere unabhängige Sicherheitsschichten und gründliche Planung vor dem Start statt Korrekturen im laufenden Betrieb.

Was OpenAI entgegnet

Ein OpenAI-Sprecher erklärte laut TechCrunch, man verstärke laufend die Sicherheitsvorkehrungen, pausiere das Training, wenn nötig, und baue Sicherheitsverbesserungen sowie Überwachung in Echtzeit aus. Briefs ergänzt, OpenAI wolle zudem die Zusammenarbeit mit externen Prüfern ausbauen.

Robinsons Rücktritt kommt kurz nach der Trennung von drei Sicherheitsforschern, über die wir zuvor berichtet haben. TechCrunch ordnet ihn ausserdem in eine Reihe ähnlicher Warnungen ein, etwa eines Anthropic-Forschers. Einordnung: Robinsons Text ist die Sicht eines Insiders, keine unabhängige Untersuchung. Dass die Kritik von jemandem kommt, der die Sicherheitsberichte selbst geschrieben hat, gibt ihr Gewicht, die Bewertung der Firmenkultur bleibt aber seine persönliche.