«Moment of Danger»: Anthropic-CEO warnt vor 12-Monats-Fenster, in dem KI Software auseinandernimmt

Auf der gleichen New Yorker Bühne, auf der er gerade seine Finanz-Agenten vorgestellt hat, wechselt Dario Amodei am 5. Mai abrupt den Ton. Anthropics neues Modell Mythos habe «zehntausende» Schwachstellen in produktiver Software gefunden – die meisten noch nicht öffentlich, weil sie noch nicht gepatcht sind. «Wir haben sechs bis zwölf Monate, um das zu reparieren, bevor chinesische KI auf demselben Stand ist», sagt Amodei. Das ist die andere Seite des KI-Booms: Die gleichen Modelle, die in Excel pitchen, knacken auch Browser.

Was Mythos kann

Mythos Preview ist seit April öffentlich beschrieben, aber bis dato nur an wenige Partner-Firmen ausgeliefert. Die Demos, die Anthropic auf seiner Red-Team-Seite zeigt, sind ungewöhnlich konkret:

• Mythos hat in Firefox rund 300 Schwachstellen identifiziert
• Anthropic-Engineers ohne formale Security-Ausbildung haben Mythos über Nacht eine Remote-Code-Execution-Lücke suchen lassen – am Morgen lag der funktionierende Exploit bereit
• Das Modell findet Zero-Days in jedem grossen Betriebssystem und jedem grossen Webbrowser, wenn der Nutzer es entsprechend instruiert

Der Punkt ist nicht, dass KI Schwachstellen findet – das tun klassische Fuzzer und statische Analyse seit Jahren. Der Unterschied: Mythos kann den Exploit gleich mitliefern, also den lauffähigen Angriffscode, der die Lücke ausnutzt. Damit fällt der zeitliche Vorsprung weg, den Verteidiger normalerweise zwischen «Lücke entdeckt» und «Lücke ausgenutzt» haben.

Das Zeitfenster

Amodeis Argument ist asymmetrisch. Anthropic hat Mythos nur an ausgewählte Partner gegeben – Cybersecurity-Firmen, die mit Vendoren koordiniert Patches einspielen können. Solange diese Asymmetrie hält, sind Verteidiger im Vorteil. Aber:

Es gibt einen Moment der Gefahr: Wenn wir richtig reagieren, haben wir am Ende eine sicherere Welt. Wenn nicht, kommt eine enorme Welle an Schwachstellen, Breaches, Ransomware – an Schulen, Spitälern, Banken.

Das Modell, das Mythos ebenbürtig ist, kommt laut CAISI in rund acht Monaten aus China. Andere Frontier-Labs werden in einer ähnlichen Liga landen. Wenn das passiert, bevor die heute bekannten Lücken gepatcht sind, kippt die Asymmetrie zugunsten der Angreifer.

Dimon weicht aus

Direkt nach Amodeis Warnung kam die Frage an JPMorgan-CEO Jamie Dimon, ob das Cyber-Risiko «übertrieben» sei. Dimon wich aus. Das ist symptomatisch: Banken-CEOs reden gerne über KI-Produktivität, sehr ungern über die Kosten der Verteidigung. Bei JPMorgan wird das Cybersecurity-Budget kaum öffentlich diskutiert – aber jeder weiss, dass es weiter steigen muss, wenn Mythos-artige Tools in fünf Jahren Commodity-Werkzeug sind.

Für Schweizer Unternehmen heisst das: Patch-Geschwindigkeit wird zum Wettbewerbsfaktor. Wer Sicherheitsupdates über Tage liegen lässt, weil das interne Change-Management dauert, fängt sich in Zukunft Exploits ein, die heute noch hypothetisch sind. Das Bundesamt für Cybersicherheit (BACS) und die NCSC-Threat-Intel-Feeds werden darauf reagieren müssen – mit kürzeren Reaktionsfristen und mehr Druck auf KMU, die heute Patches vernachlässigen.

Auch FINMA und EDÖB schauen zu

Konkret zu beobachten in den nächsten Wochen: Die FINMA hat in ihrem Rundschreiben 2023/1 zu operationellen Risiken bereits «aufkommende Technologien» als Kategorie. Mythos und seine Nachfolger werden diese Kategorie zwingen, schneller Stellung zu beziehen – etwa zu Anforderungen an Patch-Zyklen für Kernbankensysteme. Der EDÖB dürfte parallel die Frage stellen, ob Mythos-artige Tools selbst zu Tools werden, die Personendaten gefährden.

Realitätscheck

Eine Einordnung gehört dazu: «Zehntausende Schwachstellen» ist eine Anthropic-Zahl, kein unabhängiger Audit. Anthropic hat ein Geschäftsinteresse daran, das Mythos-Risiko hoch erscheinen zu lassen – das verkauft Cybersecurity-Verträge und politische Aufmerksamkeit. Trotzdem decken sich die Demos auf der Red-Team-Seite mit dem, was unabhängige Forscher seit Monaten in Preview-Tests beobachten. Die Richtung stimmt – die genaue Zahl bleibt zu prüfen.

Am Ende ist das Bild zwiespältig: Anthropic verkauft Banken am Vormittag KI-Agenten, die die Effizienz steigern, und warnt am Nachmittag, dass die gleiche Technologie das Sicherheits-Fundament untergräbt. Beides ist wahr. Beides muss man parallel managen.