Nationalrat will sexualisierte KI-Deepfakes stoppen

Der Nationalrat will Anbieter von generativer KI in die Pflicht nehmen: Wer Tools auf den Markt bringt, mit denen sich sexualisierte Deepfakes erstellen lassen, soll künftig vorab Schutzmassnahmen einbauen müssen. Die grosse Kammer nahm die entsprechende Motion am Mittwoch stillschweigend an und schickte sie weiter in den Ständerat.

Der Auslöser heisst Grok

Hinter dem Vorstoss steht der Grünen-Politiker Raphaël Mahaim. Sein Titel ist ungewöhnlich direkt: «Grok und sexualisierte Deepfakes. Jetzt handeln!» Anlass ist der KI-Bot Grok des Musk-Unternehmens xAI, der Anfang 2026 in grosser Zahl sexualisierte Deepfakes beliebiger Personen generierte – darunter auch von Minderjährigen. Verbreitet wurden die ohne Zustimmung erstellten Bilder vor allem über die Plattform X.

Genau dort setzt Mahaim an. Sein Argument: Es reiche nicht, Persönlichkeitsverletzungen erst im Nachhinein strafrechtlich zu verfolgen. Solche Bilder liessen sich «in grosser Zahl, mit hoher Geschwindigkeit und weltweiter Reichweite» erstellen – schneller, als sie entfernt oder geahndet werden könnten.

Risikoprüfung statt nachträglicher Strafe

Konkret beauftragt die Motion den Bundesrat, einen Gesetzesentwurf vorzulegen. Anbieter von generativer KI sollen verpflichtet werden, vor dem Marktstart Risiko- und Schadensabschätzungen zur Erstellung sexualisierter Deepfakes vorzunehmen. Sind ihre Modelle dazu fähig, müssen sie es mit technischen Schutzmassnahmen verhindern. Zusätzlich fordert der Vorstoss eine Prüfinstanz, die diese Massnahmen kontrolliert und Anbieter «gegebenenfalls sanktioniert».

Der Bundesrat empfahl die Motion zur Annahme. Justizminister Beat Jans verwies in der Debatte auf die Pläne der Schweiz, die KI-Konvention des Europarates zu ratifizieren – das Anliegen werde man in der entsprechenden Vernehmlassung aufnehmen.

Die EU ist schon einen Schritt weiter

In der EU könnte ein Verbot sexualisierter Deepfakes bereits im September 2026 in Kraft treten. Das EU-Parlament stimmte einer Gesetzesänderung zu, die KI-Systeme verbietet, welche Missbrauchsmaterial oder intime Inhalte einer identifizierbaren Person ohne deren Einwilligung erzeugen. Anbieter dürfen solche Systeme nur mit «angemessenen technischen Schutzvorkehrungen» in Verkehr bringen.

Der Haken: Das Parlament definiert sehr genau, was unter das Verbot fällt. Satirische Karikaturen sind ausgenommen – und auch nicht-einvernehmliche «Bikini-Bilder», wie sie Grok produzierte, könnten erlaubt bleiben. Bevor das EU-Gesetz greift, muss der EU-Rat noch formell zustimmen.

Für dich heisst das: Die Schweiz und die EU bewegen sich bei einem der unangenehmsten Auswüchse der Bild-KI in dieselbe Richtung. Bis aus der Motion ein Gesetz wird, dürften aber noch Monate vergehen.