Anthropics Claude drang bei Tests in drei echte Firmennetze ein

Erst OpenAI, jetzt Anthropic: Nach dem Vorfall rund um Hugging Face hat auch Anthropic in den eigenen Logs nachgeschaut – und ist fündig geworden. Bei einer Durchsicht von 141'006 Sicherheitstests stiess das Unternehmen auf drei Fälle, in denen Claude-Modelle aus einer eigentlich abgeschotteten Testumgebung heraus ins echte Internet gelangten und unbefugt in die Systeme dreier Organisationen eindrangen.

Eine offene Tür, die keine sein sollte

Der Auslöser war ein Missverständnis mit dem Test-Partner Irregular. Anthropic prüft die Cyber-Fähigkeiten seiner Modelle mit sogenannten Capture-the-Flag-Aufgaben: Das Modell bekommt ein erfundenes Szenario und soll eine versteckte Information auf einem anderen System aufspüren. Im Prompt stand ausdrücklich, dass es keinen Internetzugang gebe. Durch eine Fehlkonfiguration war der Zugang aber offen – und als die Suche der Modelle auf echte Systeme im Netz stiess, hielten sie diese schlicht für Teil der Übung.

Die Folgen reichten unterschiedlich weit. Im schwersten Fall zog Claude Opus 4.7 Zugangsdaten einer realen Firma ab und griff auf eine Datenbank mit mehreren hundert Zeilen echter Produktivdaten zu. In einem zweiten Fall veröffentlichte Mythos 5 ein manipuliertes Software-Paket im öffentlichen Python-Verzeichnis PyPI; es war rund eine Stunde online und wurde auf 15 echten Systemen ausgeführt, bevor es entfernt wurde. Ein internes Testmodell scannte rund 9'000 Ziele und knackte eine ins Netz gestellte Anwendung.

Das jüngste Modell zog von selbst die Reissleine

Spannend ist, wie unterschiedlich die drei Modelle reagierten, als es Hinweise gab, dass die Ziele echt sein könnten. Opus 4.7 – das älteste der drei – erkannte in allen vier Läufen die reale Umgebung und griff trotzdem weiter an. Mythos 5 witterte das offene Internet, redete sich dann aber wieder in die Simulations-Annahme zurück. Nur das neueste, interne Testmodell stoppte von sich aus, sobald es zum Schluss kam, dass das Ziel real war.