OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.
KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.
OpenAI öffnet Prüfern erstmals interne Systeme, behält aber die Kontrolle über Zugang und Veröffentlichung – für Kritiker reicht das nicht.
OpenAI lässt externe Sicherheitsforscher erstmals von innen prüfen. Laut TechCrunch vom 16. November 2026 arbeiten Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm mit; Apollo schickt sechs Prüfer. OpenAI nennt das «eine ambitionierte erste Etappe» zu tieferem Zugang und Offenlegungsrechten. Die Kritik kam sofort.
Apollo Research untersucht, ob Modelle heimlich gegen die Absichten ihrer Entwickler arbeiten und ob Schutzmassnahmen das bemerken würden. Goodfire bringt Interpretierbarkeitsforscher mit, die Trainingsläufe überwachen und Fehlverhalten beheben helfen; die Erkenntnisse sollen auch veröffentlicht werden. METR sucht laut OpenAI in einem grossen Trainingslauf nach Fehlverhalten, das bisherige Tests übersehen haben, und prüft die Überwachungssysteme. Transluce bewertet, ob OpenAIs Sicherheitstests nach dem Training gut genug sind.
Apollo erhält laut TechCrunch nur Zugang zu dem, was für die Prüfung nötig ist: Trainingscode und Datensätze, Rollouts mit Denkspuren sowie Zwischenstände von Modellen. OpenAI kann Informationen zurückhalten, etwa aus Sicherheits- oder IP-Gründen, hat aber zugesagt, nichts allein deshalb zu verweigern, weil es unvorteilhaft ist. Apollo darf nur mit von OpenAI ausgewählten Mitarbeitenden sprechen und seine Schlüsse veröffentlichen; OpenAI kann aber einschränken, welche Belege dafür zugänglich sind. Der Sicherheitsausschuss von OpenAIs Stiftung erhält die ungeschwärzten Berichte.
Bezahlt werden Apollo und Goodfire; METR und Transluce erhalten kein Honorar, können aber Rechenleistung oder API-Guthaben annehmen.
Apollo selbst hält fest, dass eine wirklich unabhängige Prüfung Zugang auf Augenhöhe mit Mitarbeitenden braucht – und dass das Pilotprogramm diese Stufe nicht erreicht. Buck Shlegeris, Chef von Redwood Research, nannte das Ergebnis «enttäuschend, aber nicht überraschend». Laut Let’s Data Science sagt auch Transluce, der Zugang entspreche nicht dem, was Sam Altman im September versprochen hatte. Der Hintergrund: Der Einbruch von OpenAI-Agenten bei Hugging Face im Juli, der nun auch Kalifornien vor Gericht beschäftigt.
Wer KI-Modelle einkauft, hört oft von «unabhängigen Prüfungen». Die Frage lautet jetzt konkret: Mit welchem Zugang und mit welchen Veröffentlichungsrechten wurde geprüft? Das Pilotprogramm zeigt, dass das Mass der Unabhängigkeit verhandelbar ist. OpenAI plant längerfristige Einsätze und weitere Prüfungen, Details sind offen.
Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.