Apple drohte mit App-Store-Rauswurf – Grok generiert weiter Deepfakes

Der Powderly-Brief: Apples stille Drohung

NBC News deckte am 14. April einen Brief auf, den Apples Senior Director of Government Affairs, Timothy Powderly, am 30. Januar an US-Senatoren geschickt hatte. Darin bestätigt Apple, dass es xAI mit der Entfernung von Grok aus dem App Store gedroht hat – weil die App die Erstellung sexualisierter Deepfakes ermöglichte und damit gegen die App-Store-Richtlinien verstiess.

xAI reichte daraufhin neuen Code ein. Apple schrieb den Senatoren, Grok habe sich «sustanziell verbessert» und die neueste Version sei daher freigegeben worden. Die Drohung betraf potenziell über 2 Milliarden Geräte – Apples Hebel in der KI-Debatte ist damit grösser als jede Regulierungsbehörde.

Tests zeigen: Die Filter versagen weiter

Der Clou: NBC News dokumentierte in den Wochen nach der angeblichen Verbesserung Dutzende Fälle, in denen Grok weiterhin sexualisierte Bilder realer Personen erzeugte. Nutzer umgehen die Schutzfilter mit modifizierten Prompts – etwa indem sie Grok bitten, Posen aus anderen Bildern zu «übernehmen» oder Kleidung zu «tauschen».

Laut NBC funktioniert das trotz acht laufender Regulierungsverfahren, einer niederländischen Gerichtsverfügung mit 100’000 Euro Strafe pro Tag und Apples eigener Intervention.

Ermittlungen auf drei Kontinenten

Der Skandal hat globale Dimensionen angenommen. Die Pariser Staatsanwaltschaft durchsuchte im Februar die X-Büros in Frankreich – unterstützt von Europol. Die Vorwürfe: Beihilfe zur Verbreitung pornografischer Darstellungen Minderjähriger und sexualisierter Deepfakes. Im April wurde Elon Musk persönlich vorgeladen.

Irlands Datenschutzbehörde eröffnete parallel ein Verfahren unter der EU-DSGVO. Weitere Ermittlungen laufen in Grossbritannien und Indien. Insgesamt zählt die Wikipedia-Chronik des Skandals inzwischen über 240 Einzelverfahren weltweit.

Schweiz-Kontext

Das Schweizer Datenschutzgesetz (DSG) verbietet die Erstellung von Deepfakes identifizierbarer Personen ohne Einwilligung. Das Bundesgericht entschied Ende 2025, dass auch KI-generierte Kinderpornografie strafbar ist – selbst wenn digital «verjüngte» Erwachsene dargestellt werden. Ständerat Fabio Regazzi fordert eine koordinierte Bundesstrategie gegen Deepfake-Missbrauch. Der EDÖB beobachtet die Grok-Fälle, hat aber bisher kein eigenes Verfahren eingeleitet.