Ein Anthropic-Forscher kündigt öffentlich und warnt vor sich selbst verbessernder KI – zwei Tage später läuft das Thema auf CNN, Fox News und bei Joe Rogan. Was belegt ist, was Interessenpolitik, und wo die Schweiz steht.
Ein Testlauf mit Claude Haiku 4.5 reichte im Juli einen falschen Hinweis zu einem ungelösten Mordfall bei der Polizei von Philadelphia ein. Anthropic schaltet das Internet für interne Tests ab, das Weisse Haus verlangt Meldungen. Wir ordnen ein, was das für Firmen mit KI-Agenten heisst.
Die Existenzrisiko-Debatte ist im Mainstream angekommen, aber weder die Warnungen noch die Entwarnungen sind interessenfrei. Die Schweiz reguliert bis Ende 2026 sektoriell weiter – und hostet im November mit den Swiss AI Safety Days an der ETH die grösste kontinentaleuropäische Debatte dazu.
Der Anthropic-Forscher Jacob Coxon hat am 8. September 2026 öffentlich gekündigt und seinen Arbeitgeber sowie OpenAI beschuldigt, mit sich selbst verbessernder KI «unser aller Leben zu verspielen». Innerhalb von zwei Tagen sass er bei Anderson Cooper auf CNN und bei Fox News im Studio; laut The Decoder griffen US-Politiker das Thema in sozialen Medien auf und Joe Rogan widmete der KI-Sicherheit eine ganze Podcast-Folge. Damit hat ein Thema, das jahrelang in Fachforen verhandelt wurde, den Massenmarkt erreicht – und mit ihm die Frage, wie ernst man diese Warnungen nehmen soll.
Coxon arbeitete nach eigenen Angaben drei Jahre lang an Pretraining-Forschung bei OpenAI und Anthropic – also an jener Phase, in der ein Sprachmodell sein Grundwissen aus riesigen Datenmengen lernt. In seinem Abschieds-Thread auf X schrieb er, die Leute, die diese Technologie bauen, «glauben aufrichtig, dass sie uns alle bis Ende des Jahrzehnts töten könnte». Sein Vorwurf, zitiert von TechCrunch: Die Labore rennen «geradewegs auf sich selbst verbessernde Superintelligenz zu».
Melde dich an, um den vollständigen Artikel zu lesen. Der Zugang ist kostenlos.
