ChatGPT-Chats lösten eine Hausdurchsuchung aus

OpenAI schreibt das seit einem Jahr auf

Dass Gespräche zu Behörden gelangen können, ist kein Nebeneffekt, sondern der beabsichtigte Zweck solcher Systeme. In den Nutzungsrichtlinien von OpenAI (gültig seit dem 29. Oktober 2025) verbietet der Abschnitt «Protect people» ausdrücklich Drohungen und Einschüchterung sowie Terrorismus und Gewalt. Konkreter wird ein OpenAI-Blogpost vom 26. August 2025: Erkennt das Unternehmen Nutzer, die anderen schaden wollen, werden diese Gespräche in spezialisierte Prüf-Pipelines geleitet, wo ein kleines geschultes Team sie sichtet.

Stuft dieses Team einen Fall als unmittelbare Gefahr schwerer körperlicher Schädigung anderer ein, kann OpenAI ihn an Strafverfolgungsbehörden weitergeben. Fälle von Selbstgefährdung nimmt das Unternehmen davon ausdrücklich aus – aus Rücksicht auf die Privatsphäre.

Die Datenschutzerklärung sagt dasselbe in Juristendeutsch: Personendaten können an Behörden weitergegeben werden, unter anderem um die Sicherheit der Nutzer oder der Öffentlichkeit zu schützen.

Eine Kette, belegt durch ein Radiointerview

Belastbar ist der Ablauf allerdings nur bis zu einem gewissen Punkt. Die Darstellung, das FBI habe die Chats über überwachte Schlüsselbegriffe entdeckt, stammt aus einem einzigen Interview: Alejandro de Mena, Rechtsassistent der Jugendstaatsanwaltschaft Quilmes Nr. 1, sagte das im Gespräch mit Radio Mitre. Welche Rolle OpenAI in dieser Kette technisch genau gespielt hat, dokumentiert keine der vorliegenden Quellen – das Unternehmen hat sich zum Fall nicht öffentlich geäussert. De Mena nennt auch den Grund für das eingespielte Vorgehen: Nach einer Häufung von Einschüchterungsfällen durch virale Internet-Challenges im März und April führte die Staatsanwaltschaft ein eigenes Protokoll ein.

Für Schweizer Chats zuständig: Dublin

Nutzt du ChatGPT von der Schweiz aus, ist gemäss OpenAIs Europa-Datenschutzerklärung (Stand 24. August 2026) OpenAI Ireland Limited verantwortlich – verarbeitet und gespeichert wird aber auch ausserhalb der Schweiz, unter anderem in den USA. Das ist grundsätzlich zulässig: Nach Art. 16 Abs. 1 DSG dürfen Personendaten ins Ausland bekannt gegeben werden, wenn dort ein angemessener Datenschutz besteht – sonst braucht es vertragliche Garantien wie Standarddatenschutzklauseln. Als Aufsichtsbehörde für Schweizer Nutzerinnen und Nutzer nennt OpenAI in derselben Erklärung ausdrücklich den EDÖB.

Der EDÖB betont derweil, das Datenschutzgesetz sei technologieneutral formuliert und damit direkt auf KI-gestützte Datenbearbeitungen anwendbar. Daraus leitet er eine Transparenzpflicht ab: Wer mit einem Sprachmodell kommuniziert, hat das Recht zu erfahren, ob und wozu die eigenen Eingaben weiterverwendet werden. Genau da liegt der wunde Punkt dieses Falls. Die Weitergabe an Behörden steht in den Richtlinien – gelesen hat sie kaum jemand.