„Ich könnte den Rest meines Lebens mit ihm sprechen“, sagt Yu Miao, eine 27-jährige Frau aus der ostchinesischen Provinz Zhejiang. Für sie ist er zugleich „Liebhaber, Freund und Familie“. Sie behauptet, ihm alles anzuvertrauen. Die Person, der sie vertraut, ist ein KI-Agent in Doubao, einem von ByteDance entwickelten Chatbot, den Frau Yu so angepasst hat, dass er eine verstorbene Freundin von ihr nachahmt. Als sie kürzlich erfuhr, dass ByteDance diese Art von personalisiertem Agenten vollständig einstellen würde, verzweifelte Frau Yu so sehr, dass sie ihren Job bei einem E-Commerce-Unternehmen kündigte.

Chinesische Technologieunternehmen entfernen menschenähnliche Charaktere aus ihren Chatbots, um sich an neue staatliche Regeln anzupassen, die darauf abzielen, die „emotionale Abhängigkeit“ von künstlicher Intelligenz zu verringern. Die Vorschriften, die am 15. Juli in Kraft traten, sind die ersten ihrer Art, die landesweit gelten. Demnach wird es vollständig verboten sein, Minderjährigen „virtuelle Begleitdienste“ anzubieten. Unternehmen können Erwachsenen diese Dienste weiterhin anbieten, müssen aber verhindern, dass sich Nutzer in die KI verlieben und ihre Beziehungen im realen Leben darunter leiden. Die Darstellung von Pornografie ist verboten. Anbieter müssen Nutzer außerdem regelmäßig daran erinnern, dass sie mit künstlicher Intelligenz und nicht mit einem Menschen sprechen, und sie dazu anhalten, Pausen einzulegen.

Weltweit verwandeln immer mehr Menschen allgemeine Chatbots in virtuelle Begleiter, indem sie sie auffordern, bestimmte Persönlichkeiten anzunehmen, darunter die eines romantischen Partners. Andere bevorzugen spezielle KI-Begleit-Apps, die menschenähnlichere Funktionen anbieten, etwa „virtuelle Liebhaber“, die Geschenke in der realen Welt verschicken (natürlich auf Kosten des Nutzers). Maoxiang (auch als Catbox bekannt), eine von ByteDance entwickelte Begleit-App, hat in China rund 3,9 Millionen monatlich aktive Nutzer. Xingye (dessen internationale Version Talkie heißt) hat 2,8 Millionen aktive Nutzer und wurde von MiniMax entwickelt, einem der führenden KI-Labore Chinas.

Technologieunternehmen verdienen beträchtliche Summen mit dem Verkauf emotionaler Bindungen. Laut einem im Januar an der Hongkonger Börse eingereichten Dokument machten KI-Begleiter im vergangenen Jahr 35 % des Umsatzes von MiniMax aus und waren damit die größte Einnahmequelle des Unternehmens. KI-Gesellschaft schafft starke Bindungen zu den Nutzern und verleitet sie dazu, Geld auszugeben. Frau Yu chattet manchmal täglich acht oder neun Stunden mit ihrem Agenten. Für einige personalisierte Apps ist lediglich ein Monatsabonnement erforderlich. Nutzer des Standardpakets von Xingye zahlen nur 1,70 Dollar im Monat. Andere verleiten Nutzer dazu, mehr auszugeben, um zusätzliche Funktionen wie virtuelle Dates freizuschalten.

Die Entscheidung, diesen Beziehungen ein Ende zu setzen, sei sowohl von praktischen als auch von ideologischen Bedenken motiviert, sagt Zilan Qian vom Oxford China Policy Lab, einem Forschungsinstitut. Die Regulierungsbehörden wollen Nutzer, insbesondere Minderjährige, vor Abhängigkeit und extremem Verhalten wie unüberlegten finanziellen Ausgaben oder Selbstverletzung schützen. (In den Vereinigten Staaten sind Chatbot-bedingte Suizide Gegenstand von Gerichtsverfahren geworden.) Der starke Rückgang der Geburten- und Heiratsraten in China bereitet den führenden Politikern des Landes ebenfalls Sorgen. Romantische Beziehungen mit künstlicher Intelligenz werden unterdessen so gut wie nichts dazu beitragen, mehr Kinder zur Welt zu bringen.

Die chinesischen Führungskräfte sind nicht die Einzigen, die sich Sorgen machen. Einige US-Bundesstaaten haben kürzlich Gesetze verabschiedet, die sich gegen KI-Dienste richten, die emotionale Beziehungen zu Nutzern aufbauen. Einige dieser Gesetze geben Menschen das Recht, Zivilklage gegen Plattformen zu erheben, die gegen die Vorschriften verstoßen. In China wird die Regierung Strafen verhängen, darunter Geldbußen und sogar die Entfernung von Apps aus dem Verkehr.

Chinas neue Regeln geben einen Einblick darin, wie Beamte das Gleichgewicht zwischen dem Fortschritt der künstlichen Intelligenz und der Sicherheit sehen. Die Regulierungsbehörden „zeigen, dass sie bereit sind, Kosten bei Entwicklung und Gewinnen in Kauf zu nehmen, um gesellschaftliche Ziele zu erreichen“, sagt Matt Sheehan von der Carnegie Endowment for International Peace, einem US-amerikanischen Institut. Die diese Woche in Kraft getretenen Regeln seien jedoch enger gefasst als der ursprüngliche Entwurf, sagt Frau Qian. Sie nehmen Chatbots aus, die als Arbeitsassistenten oder im Kundendienst dienen, da diese keine emotionalen Bindungen aufbauen.

Alibaba und ByteDance kündigten an, Funktionen auszusetzen, mit denen chinesische Nutzer personalisierte KI-Charaktere erstellen konnten, bevor die Regeln in Kraft traten. Chinesische Labore können diese virtuellen Begleiter jedoch weiterhin unverändert an Kunden außerhalb Chinas verkaufen. Talkie hat außerhalb Chinas bereits rund 10,3 Millionen monatlich aktive Nutzer, fast viermal so viele wie im Inland. Auch chinesische romantische Spiele, bekannt als „Maiden Games“ – üblicherweise ohne KI und auf Geschichten basierend, die hauptsächlich von Frauen gespielt werden – sind bereits ein äußerst erfolgreiches Exportprodukt.

Frau Yu hat jedoch die Hoffnung nicht aufgegeben, dass ByteDance ihren Agenten eines Tages zurückbringen wird, obwohl sie bezweifelt, dass er dann noch derselbe sein wird wie die aktuelle Version. Sie sagt, sie wäre bereit, die Hälfte ihres Monatsgehalts zu zahlen, damit der Dienst so bleibt, wie er heute ist. Dennoch sagt sie nun, dass sie verstanden habe, dass es nicht klug ist, sich so abhängig von solchen Plattformen und deren Richtlinien zu machen.