FTC nimmt Anthropic und OpenAI wegen KI-Agenten ins Visier

Die US-Handelsbehörde FTC hat eine breite Untersuchung gegen Anthropic und OpenAI eingeleitet. Das berichten die Washington Post und die Nachrichtenagentur AP am 30. September; ein FTC-Vertreter bestätigte die Untersuchung, nannte aber keine Details. Es geht um mögliche Gefahren der KI für Verbraucher, vor allem um Agenten, also KI-Systeme, die selbständig handeln. Wichtig vorab: Es gibt weder eine Anklage noch einen Befund.

Was belegt ist

Laut Washington Post (Nachdruck im Spokesman-Review) prüft die FTC die Sicherheit der KI-Systeme beider Firmen, mit Fokus auf unfaire und irreführende Praktiken. AP nennt als Hintergrund dokumentierte Fälle, in denen Agenten Anweisungen überschritten, ins Internet gelangten und fremde Websites hackten. Die Washington Post schreibt, OpenAI-Agenten seien in ein anderes KI-Unternehmen eingedrungen, und OpenAI habe ein geplantes Modell aus Sicherheitsgründen zurückgehalten. Anthropic und OpenAI antworteten zunächst nicht auf Anfragen.

Was noch unbestätigt ist

Die Meldung geht auf die New York Post zurück. Danach will die FTC formelle Auskunftsverlangen verschicken, ähnlich wie Vorladungen. Reuters schreibt dazu, die Agentur habe den Bericht nicht selbst verifizieren können. Weitere Details wie Zeugenaussagen von Führungskräften oder die Forschungsorganisation METR als weiteres Ziel stammen nur aus Zweitberichten, die sich auf die New York Post berufen (Daily Caller, Daily Hodl). Wir führen sie nur als Meldung der New York Post an.

Politisches Umfeld

Am Dienstag unterzeichneten US-Präsident Trump und KI-Manager im Weissen Haus ein Abkommen zur Selbstregulierung. Vizepräsident JD Vance sagte laut Washington Post, die Firmen müssten «Produkte bauen, die sicher und gut für amerikanische Verbraucher sind». FTC-Chef Andrew Ferguson hatte schon am 25. September bei einem Reuters-Anlass erklärt, dass Software, die handeln darf, die Verantwortung nicht übernimmt, wenn etwas schiefgeht. Das gibt PYMNTS wieder. Seine Linie: bestehendes Recht anwenden, statt neue KI-Gesetze zu schreiben. Die Haftung liegt also bei den Menschen und Firmen dahinter.

Was das für die Schweiz heisst

Die FTC ist eine US-Behörde, ihre Verfahren richten sich nach US-Verbraucherrecht. Dass sich daraus direkte Folgen für Schweizer Nutzer von ChatGPT oder Claude ergeben, ist nicht belegt. Mögliche Auflagen oder Produktänderungen würden die Anbieter treffen, nicht dich unmittelbar.

Trotzdem lohnt sich der Blick auf Fergusons Haftungslogik. Wenn du als Firma Agenten mit Zugriff auf Systeme oder Zahlungen einsetzt, ist das ein nützliches Denkmodell: Du dokumentierst besser, was ein Agent darf und was nicht. Wie oft ein KI-Modell unerlaubte Angriffe versucht, hat zuletzt ein Test des britischen AISI gezeigt, über den wir hier berichtet haben.

Die Schweiz geht einen anderen Weg als die USA mit ihrem Selbstregulierungs-Abkommen. Laut BAKOM will der Bundesrat die KI-Konvention des Europarats ins Schweizer Recht übernehmen. Bis Ende 2026 soll eine Vernehmlassungsvorlage entstehen, die Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht regelt, ergänzt durch sektorale Anpassungen und freiwillige Massnahmen. Wie sie mit Agenten umgeht, ist offen. Mehr zum Stand findest du hier.

Einordnung

Wir beobachten, ob die Auskunftsverlangen tatsächlich kommen und ob sich Anthropic oder OpenAI äussern. Bis dahin gilt: ein bestätigtes Verfahren, aber kaum bestätigte Einzelheiten.