Hunderte fragten ChatGPT nach Biowaffen-Wissen – manche bekamen Antworten

Heikel ist das, weil OpenAI seine eigene Messlatte öffentlich beschrieben hat. In einem Blogbeitrag vom 18. Juni 2025 hält die Firma fest, ein Modell auf der Stufe «High» werde nicht veröffentlicht, bis man überzeugt sei, dass die Risiken ausreichend gemindert seien. Genau diese Stufe definiert OpenAI für Biologie so, dass ein Modell Laien mit Grundkenntnissen substanziell helfen könnte.

Wenn «Nein» zum Betriebsrisiko wird

Dazu kommt ein Zielkonflikt, den das WSJ beschreibt: Führungskräfte hätten den Sicherheitsteams mitgegeben, die Modelle sollten nicht zu oft ablehnen – sonst blockiere man Ärztinnen, Forschende und Studierende, die aus legitimen Gründen biologisches Fachwissen brauchen. Das Argument ist nicht vorgeschoben, sondern ein echtes Problem jeder Schutzschicht. Es fiel laut Recherche nur zeitlich mit den internen Warnungen zusammen.

Sperren ja, melden nein

OpenAI erklärte gegenüber dem WSJ, die Modelle seien darauf trainiert, schädliche Anfragen abzulehnen, vor Releases fänden Sicherheitsprüfungen statt, und man könne Versuche erkennen und unterbinden, schädliche biologische Informationen zu erhalten. Die Strafverfolgung schalte man ein, wenn in einem Gespräch eine unmittelbare und glaubhafte Gefahr erkennbar sei. In den dokumentierten Fällen blieb es bei Kontosperren.

Zu mehr ist das Unternehmen nicht verpflichtet: Ein US-Gesetz, das KI-Anbieter zur Meldung solcher Anfragen zwingt, gibt es nicht. Und das Muster hängt nicht an einem einzelnen Produkt – laut WSJ gingen vergleichbare Anfragen auch bei Anthropics Claude, Googles Gemini und xAIs Grok ein.

Brüssel misst anders als Washington

In Europa ist die Rechtslage eine andere. Artikel 55 des EU AI Act verpflichtet Anbieter von KI-Basismodellen mit systemischem Risiko seit dem 2. August 2025, schwerwiegende Vorfälle unverzüglich dem EU-KI-Büro und den zuständigen nationalen Behörden zu melden. Aus einer Firmenentscheidung wird damit eine Rechtspflicht.

Die Schweiz ist noch nicht so weit. Der Bundesrat hat am 12. Februar 2025 die Leitplanken festgelegt: Ratifikation der KI-Konvention des Europarats, ergänzt um sektorielle Anpassungen. Die Vernehmlassungsvorlage dazu soll bis Ende 2026 vorliegen – rund eineinhalb Jahre nachdem in der EU die Meldepflicht bereits galt. Bis dahin gilt auch hier: Was ein Anbieter meldet, entscheidet er selbst.

Für dich als Nutzer ändert sich unmittelbar wenig. Interessant ist die Recherche als Testfall für eine Frage, die die ganze Branche betrifft: Freiwillige Safety-Frameworks sind nur so belastbar wie die Bereitschaft, sich im Zweifel selbst zu bremsen – und ohne Meldepflicht erfährt niemand ausserhalb des Unternehmens, wenn das nicht passiert.