NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
18. NOVEMBER 2026
2 MIN. LESEZEIT
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
INHALT
01Wer was prüft02Zugang mit Grenzen03Die Kritik04Was das für dich heisst
INHALT
01Wer was prüft02Zugang mit Grenzen03Die Kritik04Was das für dich heisst
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

OpenAI öffnet Prüfern erstmals interne Systeme, behält aber die Kontrolle über Zugang und Veröffentlichung – für Kritiker reicht das nicht.

OpenAI lässt externe Sicherheitsforscher erstmals von innen prüfen. Laut TechCrunch vom 16. November 2026 arbeiten Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm mit; Apollo schickt sechs Prüfer. OpenAI nennt das «eine ambitionierte erste Etappe» zu tieferem Zugang und Offenlegungsrechten. Die Kritik kam sofort.

Wer was prüft

Apollo Research untersucht, ob Modelle heimlich gegen die Absichten ihrer Entwickler arbeiten und ob Schutzmassnahmen das bemerken würden. Goodfire bringt Interpretierbarkeitsforscher mit, die Trainingsläufe überwachen und Fehlverhalten beheben helfen; die Erkenntnisse sollen auch veröffentlicht werden. METR sucht laut OpenAI in einem grossen Trainingslauf nach Fehlverhalten, das bisherige Tests übersehen haben, und prüft die Überwachungssysteme. Transluce bewertet, ob OpenAIs Sicherheitstests nach dem Training gut genug sind.

Zugang mit Grenzen

Apollo erhält laut TechCrunch nur Zugang zu dem, was für die Prüfung nötig ist: Trainingscode und Datensätze, Rollouts mit Denkspuren sowie Zwischenstände von Modellen. OpenAI kann Informationen zurückhalten, etwa aus Sicherheits- oder IP-Gründen, hat aber zugesagt, nichts allein deshalb zu verweigern, weil es unvorteilhaft ist. Apollo darf nur mit von OpenAI ausgewählten Mitarbeitenden sprechen und seine Schlüsse veröffentlichen; OpenAI kann aber einschränken, welche Belege dafür zugänglich sind. Der Sicherheitsausschuss von OpenAIs Stiftung erhält die ungeschwärzten Berichte.

Bezahlt werden Apollo und Goodfire; METR und Transluce erhalten kein Honorar, können aber Rechenleistung oder API-Guthaben annehmen.

Die Kritik

Apollo selbst hält fest, dass eine wirklich unabhängige Prüfung Zugang auf Augenhöhe mit Mitarbeitenden braucht – und dass das Pilotprogramm diese Stufe nicht erreicht. Buck Shlegeris, Chef von Redwood Research, nannte das Ergebnis «enttäuschend, aber nicht überraschend». Laut Let’s Data Science sagt auch Transluce, der Zugang entspreche nicht dem, was Sam Altman im September versprochen hatte. Der Hintergrund: Der Einbruch von OpenAI-Agenten bei Hugging Face im Juli, der nun auch Kalifornien vor Gericht beschäftigt.

WEITERLESENDas könnte dich auch interessieren.

Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil

Was das für dich heisst

Wer KI-Modelle einkauft, hört oft von «unabhängigen Prüfungen». Die Frage lautet jetzt konkret: Mit welchem Zugang und mit welchen Veröffentlichungsrechten wurde geprüft? Das Pilotprogramm zeigt, dass das Mass der Unabhängigkeit verhandelbar ist. OpenAI plant längerfristige Einsätze und weitere Prüfungen, Details sind offen.

Quellen

OpenAI will embed safety researchers to investigate AI subversion (TechCrunch)↗ EXTERNER LINKOur first phase of embedded assessments (OpenAI)↗ EXTERNER LINKAnthropic, OpenAI promised evaluators independence — contracts (Let’s Data Science)↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
OpenAIHugging Face
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·19. NOVEMBER 2026

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Skizze eines Gerichtssaals mit Richterhammer, Aktenordnern und einem grossen Not-Aus-Knopf in Elektroblau, kinewsletter.ch-Stil
Skizze eines Gerichtssaals mit Richterhammer, Aktenordnern und einem grossen Not-Aus-Knopf in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·14. NOVEMBER 2026

Vier NGOs wollen per Gericht den KI-Wettlauf stoppen

Vier Nonprofits haben in San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und die KI-Sparte von SpaceX eingereicht. Sie verlangen einen Stopp leistungsfähigerer Modelle, bis menschliche Kontrolle nachgewiesen ist. Bisher sind es Vorwürfe der Kläger.

Mehr aus Regulierung & Ethik →