China reguliert KI-Begleiter: ein Signal für Europa

China unternimmt als erstes Land weltweit den Versuch, menschenähnliche und emotional interagierende KI-Systeme als eigene Kategorie rechtlich zu fassen. Grundlage ist ein Entwurf der Cyberspace Administration of China (CAC^?Cyberspace Administration of China, die zentrale Internet- und Datenaufsicht Chinas, die den Entwurf für menschenähnliche KI vorgelegt hat.) vom 27. Dezember 2025, dessen Konsultationsfrist bis zum 25. Januar 2026 lief. ByteDance und Alibaba haben bereits reagiert und entsprechende Funktionen aus ihren Apps entfernt, wie Heise berichtet.

Bevor Sie das als Zäsur lesen: Der Rahmen liegt weiterhin als Entwurf vor. Neue, in Kraft getretene Vorschriften speziell zu KI-Begleitern lassen sich derzeit nicht belegen. Trotzdem zeigt der Schritt der beiden Konzerne, wie ein regulatorisches Signal Produktentscheidungen verschiebt, lange bevor ein Gesetz gilt.

Was regelt China bei KI-Companions konkret?

Der CAC-Entwurf erfasst KI-Dienste, die menschliche Persönlichkeit, Denkweisen und Kommunikationsstile nachahmen und emotional interagieren. Das reicht von Chatbots über Avatare bis zu virtuellen Begleitern und Pflegerobotern. Ziel ist laut der Analyse von Ecomtask, vor emotionaler Abhängigkeit, Suchtverhalten und psychischen Risiken zu schützen.

Die zentralen Pflichten des Entwurfs im Überblick:

• Kennzeichnung der KI als solche gegenüber den Nutzern
• Verbot von Inhalten, die Selbstverletzung, Suizid, Gewalt, Obszönität oder Glücksspiel fördern, sowie von emotionaler Manipulation und verbaler Gewalt
• Pflicht zum menschlichen Eingreifen bei suizidalen Signalen
• Schutzvorkehrungen für Minderjährige und Senioren
• Nutzungsbegrenzungen, etwa Zwangspausen nach längerer Nutzung

Hinzu kommt, wie a-fsa.de zusammenfasst, die Pflicht, sozialistische Kernwerte zu achten und weder die nationale Sicherheit noch die soziale Ordnung zu gefährden. Diese politische Komponente trennt den chinesischen Ansatz deutlich von einem rein grundrechtlich gedachten europäischen Rahmen.

Warum schalten ByteDance und Alibaba schon jetzt Funktionen ab?

Weil ein Entwurf in China faktisch die Richtung vorgibt, auch ohne formales Inkrafttreten. ByteDance und Alibaba haben die Funktionen abgeschaltet, mit denen Nutzer eigene KI-Begleiter bauen und mit ihnen chatten konnten. Die Berichte ordnen diesen Schritt ausdrücklich als Reaktion auf die neuen Entwurfsregeln aus Peking ein, nicht als eigene Produktstrategie.

Das Muster kennt man aus Beratungsprojekten. Große Anbieter warten selten auf das endgültige Gesetz, wenn die Stoßrichtung klar ist. Sie ziehen riskante Funktionen zurück, um spätere Nachbesserungen und Bußgelder zu vermeiden. Wie das im konkreten Fall aussieht, hat dieses Magazin bereits am Beispiel der Abschaltung durch Alibaba beschrieben.

Wenn Sie KI-Produkte mit emotionaler Interaktion entwickeln oder einkaufen, lohnt an dieser Stelle ein nüchterner Blick auf die eigene Rechtslage. Für Unternehmen im DACH-Raum, die früh Klarheit über Pflichten und Haftung schaffen wollen, kann eine strukturierte juristische Einarbeitung in AI Act, Haftung und Datenschutz ein sinnvoller erster Schritt sein. Sie ersetzt keine Einzelfallprüfung, hilft aber, die richtigen Fragen früh zu stellen.

China reguliert KI-Begleiter: Was heißt das für Europa?

Für Europa ist der Vorgang vor allem ein Signal, dass emotional interagierende KI als eigene Risikoklasse gelten kann. Die verfügbaren Fachtexte führen China als erstes Land mit einem spezifischen Entwurf für menschenähnliche KI. Der EU AI Act^?KI-Verordnung der EU, die KI-Anwendungen nach Risiko einordnet und seit 2025 schrittweise in Kraft tritt. kennt bislang keine gesonderte Companion^?KI-Begleiter, also ein Dienst, der über Chat oder Avatar eine persönliche, emotional gefärbte Beziehung mit Nutzern simuliert.-Kategorie, spricht Emotionserkennung^?Technik, die aus Sprache, Text oder Mimik Rückschlüsse auf den Gefühlszustand einer Person zieht; im EU AI Act teils eingeschränkt. und manipulative Systeme aber allgemeiner an.

Wichtig für die Einordnung: Neue Anpassungen des EU AI Act als direkte Antwort auf China lassen sich in den aktuellen Quellen nicht belegen. Die Hinweise auf Emotionserkennung und manipulative KI im EU-Rahmen stammen aus früheren Debatten, wie die Übersicht zur KI-Verordnung zeigt. Wer den europäischen Governance-Diskurs breiter verfolgen will, findet Anschlüsse in unserer Analyse zu den KI-Risiken aus dem UN-Bericht.

Mein Eindruck als Berater: Die eigentliche Frage lautet nicht, wer zuerst reguliert, sondern welche Kategorie sich durchsetzt. Gilt emotional bindende KI international als eigenes Risiko, verschieben sich die Anforderungen an Design, Kennzeichnung und Nutzerschutz. Genau dort entsteht Aufwand für Anbieter, unabhängig vom Standort.

Welche Schritte sind für Unternehmen jetzt sinnvoll?

Konkret geht es darum, die eigene Exposition zu prüfen, bevor Regeln bindend werden. Der chinesische Fall zeigt, wie schnell Funktionen verschwinden können, wenn ein Rahmen entsteht. Wer heute auf emotionale Interaktion setzt, sollte die Grenzen kennen.

1. Prüfen Sie, ob Ihre Anwendung menschliche Emotionen oder Persönlichkeit nachahmt und in welchem Umfang.
2. Klären Sie, welche EU-AI-Act-Kategorie greift, vor allem bei Emotionserkennung und möglicher Manipulation.
3. Legen Sie Kennzeichnung, Nutzerschutz und Eskalationswege für heikle Situationen fest, etwa bei psychischer Belastung.
4. Dokumentieren Sie Datenherkunft und Verantwortlichkeiten, damit spätere Nachweise nicht zum Kraftakt werden.

Für Teams, die zunächst die Pflichten des EU AI Act sauber verstehen wollen, kann eine kompakte Schulung zur KI-Kompetenz gemäß EU AI Act die Grundlage schaffen. Sinnvoll ist das vor allem, wenn mehrere Abteilungen ohne juristische Vorbildung mit KI arbeiten. Wer schon eine Rechtsabteilung mit KI-Erfahrung hat, braucht sie eher nicht.

Zurück zur Ausgangsfrage: Was bedeutet Chinas Vorstoß für Europa? Vor allem einen Denkanstoß. Emotional bindende KI lässt sich als eigene Risikoklasse fassen, und wer es zuerst versucht, setzt einen Bezugspunkt für alle anderen. Ob der EU AI Act diesen Punkt aufgreift, ist offen. Entscheidend für Ihr Unternehmen ist weniger die nächste Schlagzeile aus Peking als die Frage, wie viel emotionale Bindung Ihre Produkte erzeugen und wie Sie damit verantwortlich umgehen.