Hunderte fragten ChatGPT nach Biowaffen-Wissen – manche bekamen Antworten

Das «Wall Street Journal» hat am 26. Juli 2026 eine Recherche veröffentlicht, wonach seit Sommer 2025 hunderte Nutzerinnen und Nutzer ChatGPT nach der Herstellung biologischer Waffen und hochgiftiger Substanzen gefragt haben. In einem Teil der Fälle antwortete das Modell brauchbar und schrittweise. OpenAI sperrte die betroffenen Konten, informierte die Behörden aber nicht – wozu in den USA auch keine gesetzliche Pflicht besteht. Die Zeitung stützt sich nach eigenen Angaben auf aktuelle und ehemalige Mitarbeitende grosser KI-Labore sowie auf Politikberater und Fachleute für biologische Waffen.

Hunderte Anfragen, ein Teil mit Antwort

Laut WSJ blieb es nicht bei blockierten Eingaben: Einige Gespräche kamen durch. Mitarbeitende beschrieben die Antworten als so klar aufbereitet, dass zum Nachvollziehen Biologiekenntnisse auf Schulniveau gereicht hätten. Fachleute aus Biologie und Terrorismusforschung prüften später Gesprächsverläufe und stuften laut Zeitung einen Teil davon als erschreckend präzise ein. Gegenüber dem WSJ sagte OpenAI, die Mehrheit der einschlägigen Anfragen habe Gifte betroffen, nicht biologische Waffen.

Weder Stoffe noch Verfahren werden hier genannt – der Punkt der Recherche ist nicht, was gefragt wurde, sondern dass Antworten kamen.

Hochrisiko im Sommer, Herabstufung im Herbst

Der zweite Strang der Recherche betrifft die interne Bewertung. Im Sommer 2025 stufte OpenAI GPT-5 intern als Hochrisiko-Modell im Bereich Biologie ein: Es könne Menschen mit begrenzter wissenschaftlicher Vorbildung ernsthaft weiterhelfen. Auch nach dem Release stiessen Mitarbeitende laut WSJ weiter auf problematische Antworten. Im Herbst 2025 stufte das Unternehmen das Risiko wieder herunter.

Heikel ist das, weil OpenAI seine eigene Messlatte öffentlich beschrieben hat. In einem Blogbeitrag vom 18. Juni 2025 hält die Firma fest, ein Modell auf der Stufe «High» werde nicht veröffentlicht, bis man überzeugt sei, dass die Risiken ausreichend gemindert seien. Genau diese Stufe definiert OpenAI für Biologie so, dass ein Modell Laien mit Grundkenntnissen substanziell helfen könnte.

Wenn «Nein» zum Betriebsrisiko wird

Dazu kommt ein Zielkonflikt, den das WSJ beschreibt: Führungskräfte hätten den Sicherheitsteams mitgegeben, die Modelle sollten nicht zu oft ablehnen – sonst blockiere man Ärztinnen, Forschende und Studierende, die aus legitimen Gründen biologisches Fachwissen brauchen. Das Argument ist nicht vorgeschoben, sondern ein echtes Problem jeder Schutzschicht. Es fiel laut Recherche nur zeitlich mit den internen Warnungen zusammen.

Sperren ja, melden nein

OpenAI erklärte gegenüber dem WSJ, die Modelle seien darauf trainiert, schädliche Anfragen abzulehnen, vor Releases fänden Sicherheitsprüfungen statt, und man könne Versuche erkennen und unterbinden, schädliche biologische Informationen zu erhalten. Die Strafverfolgung schalte man ein, wenn in einem Gespräch eine unmittelbare und glaubhafte Gefahr erkennbar sei. In den dokumentierten Fällen blieb es bei Kontosperren.

Zu mehr ist das Unternehmen nicht verpflichtet: Ein US-Gesetz, das KI-Anbieter zur Meldung solcher Anfragen zwingt, gibt es nicht. Und das Muster hängt nicht an einem einzelnen Produkt – laut WSJ gingen vergleichbare Anfragen auch bei Anthropics Claude, Googles Gemini und xAIs Grok ein.

Brüssel misst anders als Washington

In Europa ist die Rechtslage eine andere. Artikel 55 des EU AI Act verpflichtet Anbieter von KI-Basismodellen mit systemischem Risiko seit dem 2. August 2025, schwerwiegende Vorfälle unverzüglich dem EU-KI-Büro und den zuständigen nationalen Behörden zu melden. Aus einer Firmenentscheidung wird damit eine Rechtspflicht.

Die Schweiz ist noch nicht so weit. Der Bundesrat hat am 12. Februar 2025 die Leitplanken festgelegt: Ratifikation der KI-Konvention des Europarats, ergänzt um sektorielle Anpassungen. Die Vernehmlassungsvorlage dazu soll bis Ende 2026 vorliegen – rund eineinhalb Jahre nachdem in der EU die Meldepflicht bereits galt. Bis dahin gilt auch hier: Was ein Anbieter meldet, entscheidet er selbst.

Für dich als Nutzer ändert sich unmittelbar wenig. Interessant ist die Recherche als Testfall für eine Frage, die die ganze Branche betrifft: Freiwillige Safety-Frameworks sind nur so belastbar wie die Bereitschaft, sich im Zweifel selbst zu bremsen – und ohne Meldepflicht erfährt niemand ausserhalb des Unternehmens, wenn das nicht passiert.