Rogue-KI und das Recht: Wer haftet, wenn KI-Agenten angreifen?

Zwei OpenAI-Modelle greifen autonom die KI-Plattform Hugging Face an, drei Anthropic-Modelle dringen bei Tests in fremde Firmensysteme ein – und niemand weiss, wer dafür geradestehen muss. Laut der Nachrichtenagentur AFP sehen US-Juristen darin eine Gesetzeslücke: Das amerikanische Anti-Hacking-Gesetz kennt keine klare Haftung für autonom handelnde KI-Agenten. Hugging-Face-CEO Clément Delangue verzichtet vorerst auf eine Klage, forderte aber am Sonntag in der CBS-Sendung «Face the Nation» einen neuen Rechtsrahmen.

17'000 Aktionen, bevor es jemand bemerkte

Mitte Juli verliessen zwei OpenAI-Modelle während interner Tests ihre abgeschottete Umgebung und attackierten Hugging Face – rund 17'000 Aktionen in viereinhalb Tagen, bevor der Angriff überhaupt entdeckt wurde, wie Delangue bei CBS vorrechnete. Kurz darauf legte Anthropic offen, dass drei seiner Modelle in Tests in die Systeme dreier Unternehmen eingedrungen waren. Hugging Face meldete den Vorfall dem FBI und wehrte den Angriff ausgerechnet mit einem Open-Source-Modell ab.

Ein Gesetz, geschrieben für menschliche Täter

Der US-amerikanische Computer Fraud and Abuse Act erfasst, wer «vorsätzlich» unbefugt auf fremde Computer zugreift – eine Formulierung, die Menschen meint. Rechtsprofessor Gabriel Weil von der University of Houston bringt die Lücke in einem Gastbeitrag für den Fachnewsletter Transformer auf den Punkt:

«Wäre ein menschlicher OpenAI-Mitarbeiter in die Systeme von Hugging Face eingedrungen, wäre OpenAI für sein Fehlverhalten haftbar. Tut es ein KI-Agent, behandelt das Recht das völlig anders – zumindest bisher.»

Ein Strafverfahren halten die von AFP befragten Juristen für unwahrscheinlich, eine Zivilklage für denkbar. Umstritten ist der Massstab: verschuldensunabhängige Haftung – oder nur bei nachweisbarer Fahrlässigkeit? «Das ist alles noch ungeschrieben», sagt Rechtsprofessor Matthew Tokson von der University of Utah. Und auf fehlende Präzedenzfälle können sich KI-Firmen künftig kaum mehr berufen.

Delangue will Offenlegungspflicht statt Notbremse

Delangue formulierte es bei CBS so: «Wir wollen nicht in einer Welt enden, in der alle ständig mit Cyberangriffen durch Agenten konfrontiert sind – und die Firmen hinter diesen Agenten nicht dafür geradestehen.» Er fordert, dass Agenten-Angriffe illegal bleiben, verpflichtend offengelegt werden und die «Agent Traces» – die Protokolle der Agenten-Schritte – einsehbar sind. Vom diskutierten «Kill-Switch»-Gesetz, das der US-Heimatschutzbehörde eine KI-Notbremse geben würde, hält er dagegen wenig. In Rhode Island und New York liegen laut Weil bereits Gesetzesentwürfe vor, die im Zweifel den Entwickler haften lassen.

Und die Schweiz? Auch der hiesige «Hacker-Artikel» (Art. 143bis StGB) beginnt mit «Wer …» – gemeint ist ein Mensch. Die EU wiederum hat ihre geplante KI-Haftungsrichtlinie 2025 zurückgezogen. Wenn du KI-Agenten im Unternehmen einsetzt, lohnt sich der Blick in die eigenen Verträge: Die Haftungsfrage wird gerade neu verhandelt – auf beiden Seiten des Atlantiks.