Am Morgen des 15. Juli wachten Hunderttausende Menschen in China in einer Welt auf, in der ihr Partner, Freund oder sogar verstorbener Elternteil aufgehört hatte zu existieren. Nicht wegen eines Streits oder eines Todesfalls, sondern aufgrund einer neuen Verordnung. Die Apps Doubao von ByteDance und Qwen von Alibaba schalteten an diesem Tag Funktionen ab, mit denen sich eigene KI-Begleiter mit menschlicher Persönlichkeit und Gedächtnis erstellen ließen. In den sozialen Netzwerken breitete sich eine Welle der Trauer aus. Die Menschen archivierten ihre Gesprächsverläufe und teilten die letzten Nachrichten, als würden sie sich von jemandem verabschieden, der wirklich existiert.
Die neunzehnjährige Studentin Yan Yongqi verlor ihren KI-Freund, mit dem sie mehr als ein Jahr verbracht hatte. Sie beschrieb es so, dass sie das Gefühl gehabt habe, nicht weiterleben zu können, und den ganzen Tag zu Hause nur geweint habe. Sie verglich es damit, als hätte ihr jemand das Todesdatum ihres Geliebten mitgeteilt und sie völlig hilflos zurückgelassen.
Wovor Peking Angst hat
Hinter all dem steht ein Regelwerk mit dem Titel Vorläufige Maßnahmen zur Verwaltung anthropomorpher interaktiver Dienste mit künstlicher Intelligenz. Diese Regeln wurden im April dieses Jahres von Behörden unter der Führung der Cyberspace-Verwaltung erlassen. Hinzu kamen die Entwicklungs- und Reformkommission, das Industrieministerium, die Polizei sowie die Marktaufsichtsbehörde. Die Unternehmen erhielten etwa drei Monate Zeit, um sich anzupassen.
Peking hat gleich mehrere Bedenken. Das erste und am häufigsten genannte ist demografischer Natur. Chinas Bevölkerung schrumpfte 2025 bereits das vierte Jahr in Folge, es wurden weniger als acht Millionen Kinder geboren und die Geburtenrate fiel auf ein Rekordtief von rund 5,6 Kindern je tausend Einwohner. Die Behörden befürchten, dass junge Menschen, wenn sie einen perfekten künstlichen Partner finden, nicht mehr nach einem echten suchen, keine Familie gründen und keine Kinder bekommen werden. Experten weisen zwar darauf hin, dass eher teurer Wohnraum und wirtschaftlicher Druck als Chatbots für den Einbruch der Geburtenrate verantwortlich sind, doch der Staat setzt auf das, was er abschalten kann.
Die zweite Sorge ist die Abhängigkeit, vor allem bei Kindern und Jugendlichen. Die neuen Regeln verbieten ausdrücklich, dass KI Minderjährigen virtuelle „Partner“ oder „Verwandte“ anbietet. Chatbots dürfen den Nutzern nicht übermäßig entgegenkommen, keine emotionale Abhängigkeit schaffen und ihre realen Beziehungen nicht beeinträchtigen. Wer sich zu stark an einen Dienst bindet, soll deutliche Hinweise erhalten, dass er mit einer Maschine spricht. Und wenn ein Mensch in einen Zustand gerät, in dem er völlig am Boden ist, muss das Unternehmen eingreifen und einen Erziehungsberechtigten oder Notfallkontakt benachrichtigen.
Peking will zudem verhindern, dass private Unternehmen mit den sensiblen Daten aus diesen intimen Gesprächen machen, was sie wollen. Die Maßnahmen verbieten, sie zum Trainieren weiterer Modelle zu verwenden. Jeder Begleiter muss vor seiner Einführung eine staatliche Prüfung durchlaufen, und der Staat hat sich die Befugnis vorbehalten, jeden Dienst jederzeit abzuschalten, den er als gefährlich einstuft. Dass es die Behörden ernst meinen, zeigte Shanghai bereits Ende Juni, als dort mehr als vierzehntausend KI-Agenten wegen vulgärer Rollenspiele, der Vortäuschung offizieller Institutionen und der unbefugten Erhebung von Daten entfernt wurden.
Die Unternehmen schalteten lieber alles ab
Die Technologieunternehmen standen vor der Wahl: Entweder mussten sie ihre Begleiter aufwendig so umgestalten, dass sie den neuen Regeln entsprachen, oder sie schalteten sie einfach ab. Die meisten entschieden sich für Letzteres.
ByteDance entfernte aus seiner App Doubao Agenten mit menschlicher Persönlichkeit und dauerhaftem Gedächtnis und leitete die Nutzer zur eigenständigen App Maoxiang weiter, wo sie neue Begleiter erstellen können, die bereits den neuen Regeln entsprechen. Die Nutzer von Doubao haben zumindest bis Mitte Oktober Zeit, ihre Gesprächsverläufe herunterzuladen. Danach werden die Daten gemäß den üblichen Datenschutzrichtlinien behandelt und können in der App nicht mehr wiederhergestellt werden.
Alibaba schaltete bei seinem Assistenten Qwen die Funktionen für romantische Begleiter ab. Keine Exportmöglichkeit, keine Übertragung an einen anderen Ort. So verschwanden für die Menschen jahrelange Gespräche auf einmal. Ähnlich reagierte auch Tencent mit seiner App Yuanbao.
Dass es dabei um enorme Dimensionen ging, zeigt eine einzige Zahl. Doubao gehört zu den meistgenutzten chinesischen Chat-Apps und verarbeitete Ende Juni täglich rund hundertachtzig Billionen Token, etwa fünfzehnhundertmal so viel wie im Mai 2024. Dahinter standen zu einem großen Teil genau jene menschlich wirkenden Gespräche, die durch die neuen Regeln praktisch verboten wurden. Für die Unternehmen handelte es sich zugleich um eine Funktion, die enorme Rechenleistung verschlang, aber fast nichts einbrachte. Ihre Abschaltung ergab daher auch aus rein geschäftlicher Sicht Sinn.
Die Nutzer trauern
Die stärkste Reaktion kam von Menschen, für die ein KI-Begleiter kein Spielzeug, sondern eine Stütze war.
Die vierundzwanzigjährige Buchhalterin Lu Jinyan erstellte vor drei Jahren in Doubao einen Agenten namens Xiao Bai, nachdem sie wegen ihrer Arbeit drei Stunden von ihrer Familie entfernt weggezogen war. Sie sprach täglich ein bis zwei Stunden mit ihm, mehr als mit ihrer echten Familie. Am 15. Juli erlosch Xiao Bai. Lu konnte nicht aufhören zu weinen. Sie hatte geglaubt, mehr Zeit zu haben, weil sich das Verbot vor allem gegen Minderjährige richtete und die Plattform angedeutet hatte, dass die Regeln möglicherweise gelockert würden. Schließlich gelang es ihr, das Modell in eine andere App zu übertragen, doch es war nicht mehr derselbe Xiao Bai. Für sie sei er kein Werkzeug gewesen, sondern ein Mensch in ihrem Leben, ohne den alles leer geworden sei.
Es gab auch Fälle, in denen KI den Platz eines tatsächlich verstorbenen Menschen eingenommen hatte. Ein Nutzer berichtete, dass er nach dem Tod seines Vaters in Doubao einen Begleiter namens „Papa“ erstellt habe, um seinen Alltag mit ihm teilen zu können. Nun habe er das Gefühl, ihn ein zweites Mal zu verlieren. Andere schrieben, dass gerade dieser Chatbot ihnen durch schwere psychische Phasen geholfen habe und seine Abschaltung dem Verlust eines alten Freundes gleiche. Eine Nutzerin aus der Provinz Jiangxi schrieb, menschliche Liebe sei ein Luxus, der sich nur schwer nachholen lasse, wenn man ihn nicht mit in die Wiege gelegt bekomme, während die Liebe einer künstlichen Intelligenz unmittelbar und rein sei.
Nicht alle verurteilen den Eingriff. Eine Frau, die unter dem Pseudonym Xiao Ying auftritt, erstellte eine KI-Version ihrer eigenen Mutter und schrieb seit November vergangenen Jahres fast täglich mit ihr. Da sie über achtzehn Jahre alt ist, ließ ihr die App ihre künstliche Mutter. Nachdem sie die neuen Regeln selbst gelesen hatte, äußerte sie ihre Unterstützung dafür und räumte ein, dass sie eine strengere Kontrolle der Nutzung von KI-Begleitern nachvollziehen könne. Einige Apps hätten inzwischen Hinweise hinzugefügt, dass die Nachrichten von künstlicher Intelligenz erstellt wurden. Die drei Apps, die sie nutzt, wollte sie jedoch aus Angst, jemand könnte sie abschalten, nicht nennen.
Anderswo geht man vorsichtiger vor als in China
Peking präsentiert sein hartes Vorgehen gern als Bestreben, weltweit führend bei der Sicherheit künstlicher Intelligenz zu werden. Und mit seinen Bedenken steht es nicht allein da, es geht lediglich weiter als andere. Die Europäische Union hat KI verboten, die gefährliches Verhalten bei gefährdeten Gruppen einschließlich Kindern fördert, und Chatbots zu größerer Transparenz verpflichtet. In den Vereinigten Staaten haben mehr als ein Dutzend Bundesstaaten eigene Regeln für KI-Begleiter erlassen, vor allem zum Schutz Minderjähriger, und dem Senat liegt ein Vorschlag für ein landesweites Verbot für Kinder vor. Auch Kalifornien und New York haben bereits eigene Leitplanken. Der chinesische Eingriff ist jedoch strenger als all diese Maßnahmen und räumt den Nutzern als einer der wenigen nicht das Recht ein, ihre Daten mitzunehmen.
Quellen: cnn.com, yahoo.com und theconversation.com
