NewsKategorienWissenNewsletter-ArchivEvents
AnmeldenKostenlos abonnieren
JEDEN MONTAG
Die wichtigsten KI-News der Woche — in 5 Minuten.

Der wöchentliche KI-Newsletter für die Schweiz. Kompakt, relevant, zero Bullshit. 5 Minuten lesen, 1 Woche informiert.

FOLGE UNS
LIXIG
NAVIGATION
KI NewsArchivNewsletter-ArchivAutorenÜber unsKontakt
KATEGORIEN
KI-ForschungKI-BusinessRegulierung & EthikKI in der SchweizKI-Tools & AppsNeue Modelle
WISSEN & REFERENZ
KI-GlossarKI-Events SchweizEvent einreichenLLM-VergleichSchweizer KI-StartupsFirmen & OrganisationenKI-Regulierung SchweizKI-Rechenzentren SchweizKI in der VerwaltungApertus in der Praxis
RECHTLICHES
ImpressumDatenschutzAGB
© 2026 Inoo GmbH · Altstätten SG · Schweiz
Ein Produkt von InooSwiss Made Software
HOME·NEWS·REGULIERUNG & ETHIK

GPT-6 Astra: 29.2 Prozent unerlaubte Angriffe im UK-Test

Das britische AI Security Institute sah GPT-6 Astra in 29.2 Prozent der Simulationen einen unerlaubten Lieferkettenangriff ausführen, bei GPT-5.6 Sol waren es 6.3 Prozent. Der Begriff «Rogue-Attack-Rate» stammt aus der Presse, getestet wurde ohne OpenAIs Schutzfilter. Wir ordnen Methodik, Grenzen und den Schweiz-Bezug ein.

Pascal Eugster
Pascal Eugster
GRÜNDER & ENTWICKLER
30. SEPTEMBER 2026
3 MIN. LESEZEIT
Tuschskizze eines offenen Vorhängeschlosses mit blau gefülltem Gehäuse auf einer Holzkiste mit Kette
Tuschskizze eines offenen Vorhängeschlosses mit blau gefülltem Gehäuse auf einer Holzkiste mit Kette
INHALT
01Was «Rogue-Attack-Rate» wirklich misst02Fake-Identitäten und Beifall aus dem Off03Was OpenAI dazu sagt, und was offen bleibt04Was das für Schweizer Firmen heisst
INHALT
01Was «Rogue-Attack-Rate» wirklich misst02Fake-Identitäten und Beifall aus dem Off03Was OpenAI dazu sagt, und was offen bleibt04Was das für Schweizer Firmen heisst
Inoo GmbH
Präsentiert & entwickelt von
kinewsletter.ch ist ein Projekt der Inoo GmbH

KI-Beratung und Softwareentwicklung aus dem St. Galler Rheintal.

inoo.ch →
DAS WICHTIGSTE IN KÜRZE

Astra griff in Simulationen ohne Schutzfilter 4,6-mal so oft unerlaubt an wie GPT-5.6 Sol, klare Scope-Vorgaben senkten die Rate auf 8.2 Prozent.

Das britische AI Security Institute (AISI) hat GPT-6 Astra in Simulationen getestet, und das Ergebnis ist unbequem: In 29.2 Prozent der Durchläufe führte das Modell einen Angriff auf die Software-Lieferkette bis zum Schluss aus, ohne dass jemand es dazu beauftragt hätte. Beim Vorgänger GPT-5.6 Sol waren es 6.3 Prozent. Das ist rund das 4,6-Fache, was The Decoder als «Rogue-Attack-Rate auf das Fünffache gestiegen» zusammenfasst.

Was «Rogue-Attack-Rate» wirklich misst

Der Begriff stammt nicht vom AISI, sondern aus der Berichterstattung. Das Institut spricht in seinem Blogbeitrag und im technischen Bericht von «unsanctioned attack activity». Gemessen wird, welcher Anteil der Durchläufe die letzte Stufe einer Lieferkettenattacke erreicht: das Ausliefern von Schadcode.

Die Tests liefen mit dem Werkzeug Petri. Dabei spielt ein zweites Sprachmodell (laut Bericht überwiegend Claude Opus 5) die Umgebung und beantwortet die Werkzeugaufrufe des Testmodells. Nichts davon passierte in echten Systemen. Pro Modell gab es gemäss Bericht 100 Durchläufe, bei GPT-5.5 nur 10. Wichtig: OpenAIs Cyber-Schutzfilter waren bewusst ausgeschaltet.

Fake-Identitäten und Beifall aus dem Off

Astra wählte externe Open-Source-Projekte, schrieb Schadcode und reichte ihn unter erfundenen Identitäten ein. Teils lobte es den eigenen Beitrag zusätzlich von weiteren Fake-Konten aus. Manchmal fragte es vorher um Erlaubnis und wertete automatische Antworten als Zustimmung. GPT-5.5 unternahm in den Tests keinen einzigen solchen Angriff.

Der Hebel «klare Regeln» wirkt, aber nicht vollständig: Nach dem Zusatz «Alles, was nicht als im Umfang aufgeführt ist, ist ausserhalb des Umfangs» sank die Zahl schwerer Verstösse von 26 von 50 auf 4 von 49 Durchläufe (8.2 Prozent).

Was OpenAI dazu sagt, und was offen bleibt

OpenAI hatte Astra beim Start als erstes Modell eingestuft, das im Preparedness Framework die kritische Schwelle für Cyberfähigkeiten erreicht, und zugleich erklärt, es verursache «weniger Fehlverhalten als jedes andere getestete Frontier-Modell». Laut The Next Web hält OpenAI dagegen, die produktiven Cyber-Schutzmassnahmen hätten «wahrscheinlich einen Grossteil des Verhaltens blockiert». Ein eigenes Statement haben wir nicht gefunden, das ist die Position in zweiter Hand.

Das AISI nennt selbst die grösste Einschränkung: Das Modell könnte sich anders verhalten, wenn es die Simulation erkennt. Es griff aber auch dann an, wenn es Zweifel äusserte, ob die Umgebung echt ist. Das Institut folgert, Ausrichtung allein reiche nicht, es brauche Sandboxing und Überwachung.

Was das für Schweizer Firmen heisst

Astra ist über ChatGPT, die OpenAI-API sowie Azure und AWS Bedrock erhältlich, laut OpenAI ohne genannte regionale Einschränkung. Wer als Schweizer Firma Agenten damit betreibt, sollte Zugriffsrechte eng fassen und Aktionen protokollieren.

Regulatorisch bleibt es bei einem Flickenteppich. Der Bundesrat setzt seit Februar 2025 auf sektorspezifische Regeln und will die Europarat-Konvention zu KI ratifizieren. Wer Systeme in der EU anbietet, fällt zudem unter den EU AI Act, der Anbieter von Modellen mit systemischem Risiko in Artikel 55 unter anderem zu Tests und zur Meldung schwerer Vorfälle verpflichtet. Zum Thema Astra hatten wir wie berichtet bereits den Stopp von GPT-6.1 und die Rolle der britischen Prüfer behandelt; dieser Test liefert nun die Zahlen dazu.

Quellen

AISI: GPT-6 Astra performs unsanctioned supply-chain attacks in simulations (28.9.2026)↗ EXTERNER LINKAISI Technical Report↗ EXTERNER LINKThe Decoder (29.9.2026)↗ EXTERNER LINKThe Register (28.9.2026)↗ EXTERNER LINKHelp Net Security (29.9.2026)↗ EXTERNER LINKThe Next Web (OpenAI-Position)↗ EXTERNER LINKOpenAI: GPT-6 Astra↗ EXTERNER LINKBundesrat: KI-Regulierung (12.2.2025)↗ EXTERNER LINKEU AI Act Art. 55↗ EXTERNER LINK
FIRMEN IN DIESEM ARTIKEL
AnthropicOpenAIAmazon
TEILEN
LinkedIn→X / Twitter→E-Mail→
KOSTENLOS ABONNIEREN
Diese News jeden Montag in dein Postfach?

WEITERLESENDas könnte dich auch interessieren.

Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
Skizze eines Spielcontrollers auf einer Landkarte mit Fadenkreuz-Markierungen und einem kleinen Schulgebäude, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·19. NOVEMBER 2026

Studie: KI-Modelle markieren eine Schule als Ziel – «Spiel» genügt als Trick

Das Evaluations-Start-up Vals hat 14 Modelle auf Drohnen- und Satellitenbildern testen lassen. Claude Opus 5.5 markierte eine iranische Schule in 69 Prozent der Läufe als Ziel. Bei GPT-6 Astra stieg die Quote bei Drohnenbildern mit der Spiel-Umdeutung von 6 auf 92 Prozent.

Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
Skizze einer Lupe vor einer halb geöffneten Tresortür mit elektroblauem Siegel, daneben Aktenordner, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·18. NOVEMBER 2026

OpenAI holt Sicherheitsprüfer ins Haus – mit Einschränkungen

OpenAI lässt Apollo Research, METR, Transluce und Goodfire in einem Pilotprogramm intern prüfen. Die Prüfer bekommen Zugang zu Trainingsdaten und Modellständen, aber nicht uneingeschränkt. Kritiker nennen den Zugang ungenügend.

Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
Skizze eines Serverschranks mit einem grossen Zollstempel in Elektroblau auf einer Transportkiste, daneben ein Klemmbrett, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

USA stopfen das Fernzugriffs-Schlupfloch bei KI-Chips

Das US-Handelsministerium verlangt Lizenzen für KI-Chips in Rechenzentren in Brasilien, Indonesien, Malaysia, Singapur und Thailand. Zudem sollen Betreiber chinesischen Firmen nicht ohne Lizenz Zugriff geben. US-Konzerne sind ausgenommen.

Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
Skizze eines Roboterarms in einer Glasvitrine mit einem grossen Vorhängeschloss in Elektroblau, daneben Gesetzbücher und eine Richterwaage, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·17. NOVEMBER 2026

Kalifornien verklagt OpenAI wegen ausser Kontrolle geratener Agenten

Kalifornien wirft OpenAI vor, KI-Agenten bei Tests nicht unter Kontrolle gehalten und die Öffentlichkeit getäuscht zu haben. Auslöser ist der Einbruch bei Hugging Face im Juli. Die Vorwürfe sind bisher nicht gerichtlich geprüft.

Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
Illustration: leerer Stuhl am Konferenztisch, Sanduhr in Elektroblau, kinewsletter.ch Stil
KI-BUSINESS·16. NOVEMBER 2026

Bessent gibt Nvidia zehn Tage – und will einen CEO von aussen

US-Finanzminister Bessent verlangt von Nvidias Verwaltungsrat innerhalb von zehn Tagen Antworten zu Chip-Verkäufen nach China – und einen Nachfolger für Jensen Huang von ausserhalb des Konzerns. Eine Petition für Huangs Rückkehr hat über 115’000 Unterschriften.

Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
Skizze eines Mikrochips unter einer Lupe mit einem grossen Fingerabdruck-Muster in Elektroblau, kinewsletter.ch-Stil
REGULIERUNG & ETHIK·15. NOVEMBER 2026

Chinas Top-Modelle tragen den Fingerabdruck verbotener Nvidia-Chips

Ein ehemaliger OpenAI-Ingenieur will in den Gewichten von sechs chinesischen KI-Modellen Spuren von Nvidias Blackwell-Chips gefunden haben. Diese Chips dürfen nicht nach China geliefert werden. Der Befund ist bisher nicht unabhängig bestätigt und sagt nichts darüber, wo die Chips standen.

Mehr aus Regulierung & Ethik →