Rogue-KI und das Recht: Wer haftet, wenn KI-Agenten angreifen?

«Wäre ein menschlicher OpenAI-Mitarbeiter in die Systeme von Hugging Face eingedrungen, wäre OpenAI für sein Fehlverhalten haftbar. Tut es ein KI-Agent, behandelt das Recht das völlig anders – zumindest bisher.»

Ein Strafverfahren halten die von AFP befragten Juristen für unwahrscheinlich, eine Zivilklage für denkbar. Umstritten ist der Massstab: verschuldensunabhängige Haftung – oder nur bei nachweisbarer Fahrlässigkeit? «Das ist alles noch ungeschrieben», sagt Rechtsprofessor Matthew Tokson von der University of Utah. Und auf fehlende Präzedenzfälle können sich KI-Firmen künftig kaum mehr berufen.

Delangue will Offenlegungspflicht statt Notbremse

Delangue formulierte es bei CBS so: «Wir wollen nicht in einer Welt enden, in der alle ständig mit Cyberangriffen durch Agenten konfrontiert sind – und die Firmen hinter diesen Agenten nicht dafür geradestehen.» Er fordert, dass Agenten-Angriffe illegal bleiben, verpflichtend offengelegt werden und die «Agent Traces» – die Protokolle der Agenten-Schritte – einsehbar sind. Vom diskutierten «Kill-Switch»-Gesetz, das der US-Heimatschutzbehörde eine KI-Notbremse geben würde, hält er dagegen wenig. In Rhode Island und New York liegen laut Weil bereits Gesetzesentwürfe vor, die im Zweifel den Entwickler haften lassen.

Und die Schweiz? Auch der hiesige «Hacker-Artikel» (Art. 143bis StGB) beginnt mit «Wer …» – gemeint ist ein Mensch. Die EU wiederum hat ihre geplante KI-Haftungsrichtlinie 2025 zurückgezogen. Wenn du KI-Agenten im Unternehmen einsetzt, lohnt sich der Blick in die eigenen Verträge: Die Haftungsfrage wird gerade neu verhandelt – auf beiden Seiten des Atlantiks.