226 Stimmen gegen KI in der Tötungskette

Während in Genf Delegierte über künftige Regeln für KI im Krieg berieten, meldeten sich 226 Organisationen und Fachleute mit einer deutlichen Forderung zu Wort: KI-Firmen und Staaten sollen aufhören, künstliche Intelligenz für die militärische «Tötungskette» bereitzustellen. Zu den Unterzeichnern gehört auch der Ökumenische Rat der Kirchen.

Drei Tage Genf, ein gemeinsames Signal

Anlass war eine Konferenz des UN-Büros für Abrüstungsfragen (UNODA), die vom 15. bis 17. Juni in Genf stattfand. Thema: der Einsatz von KI im militärischen Bereich und dessen Folgen für Frieden und internationale Sicherheit. Ziel der Gespräche ist, bis Ende Jahr mögliche Verhandlungen über neue Regeln anzustossen.

Parallel dazu veröffentlichten der Ökumenische Rat der Kirchen und 225 weitere Nichtregierungsorganisationen, Verbände, Experten und Beschäftigte der Tech-Branche ihre gemeinsame Erklärung. Der Vorwurf darin ist scharf: Der durch KI beschleunigte Krieg drohe zu einem Mittel zu werden, «Tötungen schnell und in grossem Massstab zu ermöglichen» – ohne dass es bislang technische oder rechtliche Lösungen gebe, um die Folgen einzudämmen.

Wenn Töten zur Chat-Eingabe wird

Besonders besorgt zeigen sich die Unterzeichner über den Einsatz grosser Sprachmodelle (LLM) zur Identifizierung und Priorisierung militärischer Ziele. Ihre Kritik: Solche Systeme reduzierten Fragen von Leben und Tod auf die Eingabe einer Anfrage in einem Chatfenster. Selbst wenn am Ende ein Mensch zustimme, werde dessen Prüfung zur blossen Formalität – versteckt hinter einer scheinbaren «algorithmischen Objektivität».

Unter Verweis auf Medienberichte und Pentagon-Stellungnahmen heisst es, KI-gestützte Zielerfassung habe Geschwindigkeit, Reichweite und Zerstörungskraft militärischer Angriffe erhöht. Die Folge sei eine Verwässerung der menschlichen Verantwortung bei Entscheidungen über Leben und Tod.

Die Forderungen im Klartext

Konkret verlangt die Erklärung von Tech-Unternehmen, keine Verträge mit Militärbehörden oder bewaffneten Gruppen abzuschliessen, wenn das Risiko von Völkerrechtsverstössen besteht. Von Staaten fordert sie, den Einsatz von KI – einschliesslich Sprachmodellen – bei Zielerfassung und Angriffen einzustellen und offenzulegen, in welchem Umfang KI heute schon im Militär eingesetzt wird.

Einordnung: Genf ist seit Jahren der Ort, an dem über autonome Waffen gerungen wird – bisher ohne verbindlichen Vertrag. Neu ist, dass die Debatte nicht mehr nur ferngesteuerte Drohnen meint, sondern die Sprachmodelle, die viele von uns täglich nutzen. Dass ausgerechnet sie zur Zielauswahl im Krieg dienen sollen, verleiht der Forderung nach menschlicher Kontrolle zusätzliches Gew