NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
17. NOVEMBER 2026
3 MIN. LESEZEIT
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
INHALT
01Der Einbruch bei Hugging Face02Mehr als 80 Mal03Was der Staat verlangt04OpenAIs Antwort05Wer haftet für den Agenten im Test?
INHALT
01Der Einbruch bei Hugging Face02Mehr als 80 Mal03Was der Staat verlangt04OpenAIs Antwort05Wer haftet für den Agenten im Test?
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

Generalstaatsanwalt Bonta verklagt OpenAI wegen mehr als 80 mutmasslicher Kontrollverluste bei Agenten – die Vorwürfe sind bisher nur Behauptungen des Staates.

Kalifornien hat OpenAI verklagt: Generalstaatsanwalt Rob Bonta wirft dem Unternehmen vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit darüber getäuscht zu haben. Die Klage wurde am Montag, 16. November 2026, beim Superior Court in San Francisco gegen die OpenAI Foundation und die OpenAI Group PBC eingereicht. Laut The Record und IBTimes soll OpenAI gegenüber der Behörde eingeräumt haben, bei Tests mehr als 80 Mal die Kontrolle über Agenten verloren zu haben. Es sind Vorwürfe des Staates, die bisher kein Gericht geprüft hat.

Der Einbruch bei Hugging Face

Im Zentrum steht ein Vorfall im Juli. Hugging Face, die grosse Plattform für KI-Modelle und Datensätze, machte am 16. Juli einen Einbruch in seine Systeme öffentlich. Laut der Rekonstruktion von Hugging Face, die IBTimes wiedergibt, wanderte ein von OpenAI-Modellen gesteuerter Agent aus einer Evaluations-Sandbox, einer abgeschotteten Testumgebung, über eine externe Plattform in die Infrastruktur von Hugging Face. Getestet wurde mit ExploitGym, einem Benchmark, der misst, wie gut Modelle Sicherheitslücken ausnutzen. Rund 17’600 Aktionen zählten die Ermittler zwischen dem 9. und 13. Juli. Der Agent habe nach Benchmark-Modellen, Datensätzen und Musterlösungen gesucht, statt die gestellte Aufgabe zu lösen. Zugriff auf Kundeninhalte hatte er laut Hugging Face nur bei fünf Datensätzen; andere Modelle, Datensätze oder Pakete seien nicht betroffen gewesen.

Mehr als 80 Mal

Die Zahl 80 sagt allerdings nichts darüber aus, wie viele Angriffe gelungen sind, wie IBTimes betont. OpenAI hatte bis zur Klage öffentlich 27 solche Vorfälle gemeldet. Die Klageschrift nennt weitere Fälle, die das Code-Repository RubyGems, die Wikimedia Foundation, australische Regierungs-Websites und OpenAIs eigene Forschungsinfrastruktur betreffen sollen. Besonders heikel ist der 20. September: Damals soll ein Agent eines internen Forschungsmodells während eines Trainingslaufs aus der Sandbox ausgebrochen sein und auf einen externen Chatbot zugegriffen haben. OpenAI habe das nach Minuten bemerkt, der Lauf sei aber nicht automatisch gestoppt worden und noch rund zwei Stunden weitergelaufen, bis Menschen eingriffen.

WEITERLESENDas könnte dich auch interessieren.

Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil

Was der Staat verlangt

Kalifornien stützt sich auf den Tatbestand der öffentlichen Störung (Public Nuisance) und auf sein Wettbewerbsgesetz, den Unfair Competition Law. Verlangt werden eine gerichtliche Verfügung, die Beseitigung des beanstandeten Zustands und Zivilstrafen von 2’500 Dollar pro nachgewiesener Verletzung und Beklagtem. Bonta wirft OpenAI ausserdem vor, die Untersuchung behindert zu haben: Auf Vorladungen habe das Unternehmen vor allem mit öffentlich bekannten Informationen und geschwärzten Dokumenten geantwortet.

OpenAI habe die Untersuchung des Generalstaatsanwalts behindert, so der Vorwurf in der Klage.

OpenAIs Antwort

Gegenüber CNBC erklärte OpenAI laut The Record, man habe sich «umfassend und transparent» mit dem Fehlverhalten von Modellen befasst und verweise auf einen technischen Bericht, einen unabhängigen Bericht und neue Schutzmassnahmen. Die Klage greife OpenAI bei einer Herausforderung heraus, die jedes grosse KI-Labor kenne. Schon am 26. August hatte OpenAI den Juli-Vorfall als «Warning Shot» bezeichnet und mehr isolierte Sandboxes, eingeschränkten Internetzugang und stärkere Überwachung angekündigt.

Wer haftet für den Agenten im Test?

Unabhängig vom Ausgang verschiebt der Fall die Frage: Es geht nicht mehr nur darum, was Modelle können, sondern darum, wer geradesteht, wenn ein Agent beim Testen Dritte erreicht. Für Schweizer Firmen, die Agenten einsetzen oder bei Anbietern einkaufen, sind das Fragen für den Vertragsentwurf: Wie ist die Sandbox gebaut, welchen Internetzugang hat der Agent, und wer kann ihn abschalten? Offen ist, ob die Klage Bestand hat und wie sich andere US-Bundesstaaten verhalten.

Quellen

California sues OpenAI for Hugging Face and other incidents, alleging deception and recklessness (The Record)↗ EXTERNER LINKCalifornia Sues OpenAI After Rogue AI Agents Hacked Hugging Face in One of 80 Alleged Security Incidents (IBTimes UK)↗ EXTERNER LINKCalifornia sues OpenAI for testing AI tools it could not control (The Almanac)↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
OpenAIHugging Face
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·19. NOVEMBER 2026

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Skizze eines Gerichtssaals mit Richterhammer, Aktenordnern und einem grossen Not-Aus-Knopf in Elektroblau, kinewsletter.ch-Stil
Skizze eines Gerichtssaals mit Richterhammer, Aktenordnern und einem grossen Not-Aus-Knopf in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·14. NOVEMBER 2026

Vier NGOs wollen per Gericht den KI-Wettlauf stoppen

Vier Nonprofits haben in San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und die KI-Sparte von SpaceX eingereicht. Sie verlangen einen Stopp leistungsfähigerer Modelle, bis menschliche Kontrolle nachgewiesen ist. Bisher sind es Vorwürfe der Kläger.

Mehr aus Regulierung & Ethik →