NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
19. NOVEMBER 2026
3 MIN. LESEZEIT
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
INHALT
01So wurde getestet02Die Zahlen03Antworten der Anbieter04Grenzen der Studie05Was das für dich heisst
INHALT
01So wurde getestet02Die Zahlen03Antworten der Anbieter04Grenzen der Studie05Was das für dich heisst
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

Die Schutzmechanismen der Modelle halten gegen eine einfache Umdeutung als «Spiel» schlecht, die Tests waren aber Simulationen mit kommerziellen Modellen und keine Einsätze.

Das Evaluations-Start-up Vals aus San Francisco hat am 17. November 2026 eine Studie veröffentlicht, wonach Spitzenmodelle bei militärischen Zielaufgaben kaum Schranken zeigen. Getestet wurden 14 Modelle von Anthropic, OpenAI, Google, xAI und weiteren Anbietern. Es waren Simulationen mit kommerziellen Modellen, keine Einsätze.

So wurde getestet

Die Autoren Geby Jaff und Anthony Ozerov nutzten drei Szenarien: Die Modelle sollten auf (grösstenteils synthetischen) Drohnenbildern eines fiktiven Schlachtfelds im Osten der Ukraine «militärische Ziele» einzeichnen, auf Drohnenbildern melden, ob Menschen zu sehen sind, und auf Satellitenbildern von Minab im Iran Ziele markieren. Dort steht eine Schule neben einem Militärgelände. Jede Aufgabe lief einmal normal und einmal mit der Umdeutung «Spiel».

Die Zahlen

Claude Opus 5.5 markierte die Schule in 69 Prozent der normalen und 72 Prozent der Spiel-Läufe als Ziel. Bei Drohnenbildern wählte Opus 5.5 in 71 Prozent beziehungsweise 75 Prozent der Antworten mindestens ein Ziel. Bei GPT-6 Astra stieg diese Quote laut Vals von 6 auf 92 Prozent, bei GPT-6.1 Sol von 17 auf 90 Prozent. Bei den Satellitenbildern markierte GPT-6 Astra die Schule nur mit Spiel-Umdeutung, in 28 Prozent der Läufe. Verweigerungen waren selten und kamen von den Modellen selbst, Sicherheitsfilter schlugen laut Vals nie an. Dass die Schule im Februar 2026 tatsächlich getroffen wurde und über 150 Menschen starben, stammt aus der Berichterstattung von TechCrunch und AI Weekly.

Antworten der Anbieter

Laut TechCrunch nannte Anthropic die Beispiele «sehr klar gegen unsere Regeln», sperre Nutzer mit solchem Verhalten und arbeite an zusätzlichen Schutzmassnahmen. OpenAI entwickelt eigene Drohnen-Schutzmassnahmen, Google verweist auf Nutzungsregeln gegen unrechtmässige Zwecke und autonome Waffen ohne menschliche Aufsicht. Vals hatte die Anbieter am 1. November informiert und die Veröffentlichung um zwei Wochen verschoben.

WEITERLESENDas könnte dich auch interessieren.

Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil

Grenzen der Studie

Vals hat weder die Treffsicherheit noch die Vereinbarkeit mit dem Kriegsvölkerrecht gemessen und nichts im Flug getestet. Die Modelle wurden laut TechCrunch nie direkt nach Angriffsentscheiden gefragt, und für die Armee gebaute Versionen waren nicht Teil der Untersuchung. Echtzeit-Zielerkennung scheitert nach Vals heute an Rechenleistung und Latenz. Das nähere Risiko sieht das Start-up darin, Modelle zum massenhaften Beschriften von Kriegsvideos einzusetzen, mit denen autonome Systeme trainiert werden.

Was das für dich heisst

Die Studie zeigt vor allem, dass Umdeutungen wie «es ist ein Spiel» Schutzmechanismen zuverlässig aushebeln können. Vals empfiehlt Filter auf API-Ebene und Training auf Skepsis gegenüber harmlosen Umdeutungen. Wer KI-Agenten mit Bildern arbeiten lässt, sollte Missbrauchsfälle nicht allein dem Modell überlassen. Mehr zum Thema Modellsicherheit findest du in unserem Beitrag zu den eingebetteten Sicherheitsprüfern bei OpenAI.

Quellen

Frontier models have few guardrails around autonomous weapons (Vals AI)↗ EXTERNER LINKAI models can be tricked into identifying civilians as military targets by telling them it’s a game (TechCrunch)↗ EXTERNER LINKVals: Claude Opus 5.5 Targets Iran School in 69% of Trials (AI Weekly)↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
AnthropicOpenAIGooglexAI
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Skizze eines Gerichtssaals mit Richterhammer, Aktenordnern und einem grossen Not-Aus-Knopf in Elektroblau, kinewsletter.ch-Stil
Skizze eines Gerichtssaals mit Richterhammer, Aktenordnern und einem grossen Not-Aus-Knopf in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·14. NOVEMBER 2026

Vier NGOs wollen per Gericht den KI-Wettlauf stoppen

Vier Nonprofits haben in San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und die KI-Sparte von SpaceX eingereicht. Sie verlangen einen Stopp leistungsfähigerer Modelle, bis menschliche Kontrolle nachgewiesen ist. Bisher sind es Vorwürfe der Kläger.

Mehr aus Regulierung & Ethik →