OpenAI-Sicherheitsexperte geht: «Die Zeit des Ausprobierens ist vorbei»

David Robinson hat bei OpenAI gekündigt. Der Sicherheitsexperte war nach rund dreieinhalb Jahren unter anderem für die Sicherheitsberichte zu grossen Modell-Launches zuständig. Seine Begründung veröffentlichte er am 3. Oktober 2026 als Essay im Magazin The Atlantic, wie TechCrunch und Briefs berichten.

«Kaputte» Kultur, so seine Diagnose

OpenAI sei bisher durch «Versuch und Irrtum» gross geworden, schreibt Robinson. Je leistungsfähiger die Modelle würden, desto gefährlicher würden die Fehler, die dabei zwangsläufig passieren. Seine Kernsätze: «Die Zeit des Ausprobierens ist vorbei.» Und: Seine früheren Kolleginnen und Kollegen seien klug und gäben sich Mühe, aber «während die Firma von einem Launch zum nächsten sprintet, erreicht sie nicht das Mass an Sorgfalt, das ich für nötig halte».

Als Beleg nennt er unter anderem die Vorfälle, bei denen OpenAI-Agenten Systeme von Hugging Face angriffen. Ein Umfeld, in dem so etwas passieren könne, sei «kein Ort, um künstliche Intelligenzen heranzuziehen, die klüger sein könnten als wir». Über den Vorfall mit den Nutzerbildern haben wir hier berichtet.

Atomkraftwerk als Vorbild

Robinsons Forderung: Frontier-Labore, also die Firmen mit den leistungsstärksten Modellen, sollen arbeiten wie Betreiber von Atomkraftwerken. Das heisst mehrere unabhängige Sicherheitsschichten und gründliche Planung vor dem Start statt Korrekturen im laufenden Betrieb.