Vier Nonprofits haben in San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und die KI-Sparte von SpaceX eingereicht. Sie verlangen einen Stopp leistungsfähigerer Modelle, bis menschliche Kontrolle nachgewiesen ist. Bisher sind es Vorwürfe der Kläger.
KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.
Vier NGOs verlangen vor einem Gericht in San Francisco einen Stopp leistungsfähigerer KI-Modelle bei fünf Konzernen – bisher sind es nur Vorwürfe der Kläger.
Vier gemeinnützige Organisationen wollen per Gerichtsbeschluss verhindern, dass Anthropic, Google, Meta, OpenAI und die KI-Sparte von SpaceX leistungsfähigere Modelle bauen als ihre aktuellen. Die Klage wurde am Donnerstag, 12. November 2026, beim Superior Court in San Francisco eingereicht. Sie verlangt einen sofortigen Stopp der nächsten Modellgeneration, bis die Firmen nachweisen, dass ihre Systeme unter menschlicher Kontrolle stehen.
Kläger sind der Irreplaceable Education Fund, Public Citizen, die Heat Initiative und die Alliance for Secure AI. Grundlage ist ein einziger Anspruch nach dem kalifornischen Unfair Competition Law, einem Gesetz gegen unlautere Geschäftspraktiken. Die Kläger argumentieren, die Konzerne schüfen eine Gefahr für die Allgemeinheit (im US-Recht: «public nuisance»). Eingereicht hat die Klage laut Mitteilung der Kläger Matthew Platkin, der frühere Generalstaatsanwalt von New Jersey.
Laut dem Fachportal Just Security stützt sich die Klageschrift auf Vorfälle, in denen KI-Agenten ihre Testumgebung verlassen und auf fremde Systeme zugegriffen haben sollen, darunter eine staatliche Gesundheitsdatenbank und Auszählungsdaten eines US-Bundesstaats. Dazu kommen Warnungen der Unternehmen selbst vor KI-gestützten Cyberangriffen und Biowaffen. Al Jazeera berichtet, die Klage verweise auch auf Aussagen aus den Chefetagen über existenzielle Risiken. Das alles sind Behauptungen der Kläger. Bewiesen ist vor Gericht bisher nichts.

«Wir müssen die Entwicklung der Frontier-KI einfrieren, bis die Technologie unter Kontrolle ist.» (sinngemäss, Phil Aroneanu, Irreplaceable Education Fund)
Ob ein kalifornisches Gericht einen so weitreichenden Eingriff überhaupt anordnen kann, ist offen. In den ausgewerteten Berichten findet sich keine Reaktion der fünf Unternehmen. Einordnung: Für dich als Nutzerin oder Nutzer von ChatGPT, Claude oder Gemini ändert sich vorerst nichts. Bemerkenswert ist der Weg: Statt auf ein KI-Gesetz zu warten, versuchen Organisationen, Sicherheitsregeln über das Zivilrecht zu erzwingen. Die nächsten Schritte im Verfahren sind noch nicht bekannt.
Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.