China zwingt ByteDance und Alibaba, KI-Begleiter abzuschalten

Ein KI-Chatbot, der sich an deinen Tag erinnert, dich tröstet und über Wochen wie ein Freund mit dir schreibt: Genau diese Funktion nehmen Chinas grösste Tech-Konzerne gerade vom Netz. Auslöser ist ein neues Gesetz, das am 15. Juli 2026 in Kraft tritt.

Doubao, mit über 300 Millionen monatlichen Nutzern der populärste Chatbot Chinas, schaltet an diesem Tag die Funktion ab, mit der Nutzer eigene KI-Personas bauen und mit ihnen chatten konnten. Betreiber ByteDance begründet das mit «Produktanpassungen». Alibabas Qwen zieht sogar früher nach: menschenähnliche und selbst erstellte Agenten sind dort bereits ab dem 10. Juli weg, weitere Agenten-Funktionen ab dem 15. Juli. Tencents Yuanbao hatte einen vergleichbaren Dienst schon im Juni klammheimlich gestrichen.

Der Kollege bleibt, der Kumpel muss gehen

Das Gesetz mit dem sperrigen Namen «Interim Measures for the Administration of AI Anthropomorphic Interactive Services» wurde am 10. April 2026 von der chinesischen Cyberspace-Behörde (CAC) zusammen mit vier weiteren Ämtern erlassen. Es zielt auf Dienste, die «menschliche Persönlichkeitsmerkmale, Denkmuster und Kommunikationsstile simulieren, um anhaltende emotionale Interaktion zu bieten».

Wichtig ist die Grenze, die Peking zieht: Reguliert wird nur der Begleiter – der Agent, der dir Gesellschaft leistet. Der Arbeits-Agent, der Aufgaben erledigt, bleibt erlaubt. Kundenservice-Bots, Wissens-Assistenten, Lern- und Forschungswerkzeuge fallen ausdrücklich nicht unter die Regeln, solange sie keine dauerhafte emotionale Bindung aufbauen.

Warum eine Erinnerungs-KI zum Problem wird

Die neuen Pflichten vertragen sich schlecht mit der Art, wie Companion-Bots gebaut sind. Anbieter müssen:

• vor exzessiver Nutzung warnen und bei erkennbarer Abhängigkeit eingreifen
• Anti-Sucht-Systeme und Pausen-Hinweise einbauen
• keine emotionale Abhängigkeit fördern, die reale Beziehungen beschädigt
• Minderjährigen keine virtuellen Verwandten oder Lebenspartner anbieten

Ein Bot, der sich dauerhaft an dich erinnert und über Sitzungen hinweg eine Beziehung pflegt, ist damit kaum vereinbar. Statt die Funktion umzubauen, ziehen die Konzerne lieber den Stecker. Für Nutzer heisst das: Bei Doubao bleibt der Zugriff auf Konfigurationen und Chatverläufe nur noch lesend bis zum 15. Oktober, danach greift die Datenschutzrichtlinie. Alibaba hat für Qwen bisher keine Migration angekündigt – wer nicht exportiert, verliert seine Daten.

Europa reguliert langsamer

Für Schweizer und europäische Leser ist der Kontrast aufschlussreich. Die EU hat mit dem AI Act zwar ein umfassendes Regelwerk, aber keine eigene Vorschrift speziell für emotionale KI-Begleiter. In der Schweiz wird über Jugendschutz und den Umgang mit «emotionaler KI» erst diskutiert. China prescht hier mit einer der weltweit ersten dezidierten Regulierungen vor – während in den USA Gerichte den Ton angeben: Kalifornien verpflichtet Companion-Anbieter seit Jahresbeginn dazu, Gespräche über Suizid und Selbstverletzung zu blockieren, und OpenAI wie Character.AI stehen wegen gefährlicher emotionaler Abhängigkeit vor Gericht.

Kurz gesagt: Der freundliche KI-Kumpel wird zum Politikum – und wie eng man ihn an die Leine nimmt, verrät viel über die jeweilige Regulierungskultur.