“Potrei parlare con lui per il resto della mia vita”, dice Yu Miao, una donna di 27 anni della provincia dello Zhejiang, nella Cina orientale. Per lei è allo stesso tempo “fidanzato, amico e famiglia”. Sostiene di condividere tutto con lui. La persona di cui si fida è un agente di intelligenza artificiale su Doubao, un chatbot creato da ByteDance, che la signora Yu ha personalizzato affinché imitasse una sua amica defunta. Quando ha appreso di recente che ByteDance avrebbe eliminato del tutto questo tipo di agente personalizzato, la signora Yu si è disperata a tal punto da lasciare il suo lavoro in un’azienda di commercio elettronico.

Le aziende tecnologiche cinesi stanno rimuovendo dai loro chatbot i personaggi dalle sembianze umane per conformarsi alle nuove regole governative, volte a ridurre la “dipendenza emotiva” dall’intelligenza artificiale. I regolamenti, entrati in vigore il 15 luglio, sono i primi del loro genere ad applicarsi su scala nazionale. In base a essi, la fornitura di “servizi di compagnia virtuale” ai minori sarà completamente vietata. Le aziende potranno continuare a offrire questi servizi agli adulti, ma dovranno impedire agli utenti di innamorarsi dell’IA e di danneggiare le loro relazioni nella vita reale. È vietata la visualizzazione di contenuti pornografici. I fornitori dovranno inoltre ricordare regolarmente agli utenti che stanno parlando con un’intelligenza artificiale e non con una persona, e incoraggiarli a fare delle pause.

In tutto il mondo, un numero crescente di persone sta trasformando i chatbot generici in compagni virtuali, chiedendo loro di assumere personalità specifiche, tra cui quella di un partner romantico. Altri preferiscono app dedicate alla compagnia basata sull’IA, che offrono funzioni più umane, come “fidanzati virtuali” che inviano regali nel mondo reale (naturalmente a spese dell’utente). Maoxiang (conosciuta anche come Catbox), un’app di compagnia creata da ByteDance, ha circa 3,9 milioni di utenti attivi mensili in Cina. Xingye (la cui versione internazionale si chiama Talkie) ha 2,8 milioni di utenti attivi ed è stata sviluppata da MiniMax, uno dei principali laboratori di intelligenza artificiale cinesi.

Le aziende tecnologiche guadagnano somme considerevoli vendendo legami emotivi. Secondo un documento depositato presso la Borsa di Hong Kong a gennaio, lo scorso anno i compagni basati sull’IA hanno rappresentato il 35% dei ricavi di MiniMax, diventandone la principale fonte di profitto. La compagnia basata sull’IA crea legami forti con gli utenti e li induce a spendere denaro. La signora Yu a volte conversa con il suo agente per otto o nove ore al giorno. Alcune app personalizzate richiedono soltanto un abbonamento mensile. Gli utenti del pacchetto standard di Xingye pagano appena 1,70 dollari al mese. Altre spingono gli utenti a spendere di più per sbloccare funzioni aggiuntive, come gli appuntamenti virtuali.

La decisione di porre fine a queste relazioni è motivata da preoccupazioni sia pratiche sia ideologiche, afferma Zilan Qian dell’Oxford China Policy Lab, un istituto di ricerca. I regolatori vogliono proteggere gli utenti, in particolare i minori, dalla dipendenza e da comportamenti estremi come spese finanziarie sconsiderate o l’autolesionismo. (Negli Stati Uniti, i suicidi legati ai chatbot sono diventati oggetto di cause legali.) Il forte calo dei tassi di natalità e di matrimonio in Cina preoccupa anche i leader del Paese. Nel frattempo, le relazioni romantiche con l’intelligenza artificiale non contribuiranno praticamente per nulla a far nascere più bambini.

I leader cinesi non sono gli unici a preoccuparsi. Di recente alcuni Stati americani hanno approvato leggi che prendono di mira i servizi di IA che instaurano relazioni emotive con gli utenti. Alcune di queste leggi danno alle persone il diritto di intentare cause civili contro le piattaforme che violano le norme. In Cina, le sanzioni saranno imposte dal governo e comprenderanno multe e persino la rimozione delle app dalla circolazione.

Le nuove regole cinesi offrono un’idea di come i funzionari vedano l’equilibrio tra progresso dell’intelligenza artificiale e sicurezza. I regolatori “stanno dimostrando di essere disposti ad accettare un costo in termini di sviluppo e profitti per raggiungere obiettivi sociali”, afferma Matt Sheehan della Carnegie Endowment for International Peace, un istituto americano. Tuttavia, le regole entrate in vigore questa settimana sono più circoscritte rispetto alla bozza iniziale, afferma la signora Qian. Escludono i chatbot che fungono da assistenti di lavoro o da strumenti per il servizio clienti, in quanto non creano legami emotivi.

Alibaba e ByteDance hanno annunciato che avrebbero sospeso le funzioni che consentivano agli utenti cinesi di creare personaggi personalizzati con l’IA prima dell’entrata in vigore delle regole. Tuttavia, i laboratori cinesi potranno continuare a vendere questi compagni virtuali ai clienti al di fuori della Cina senza modifiche. Talkie ha già circa 10,3 milioni di utenti attivi mensili al di fuori della Cina, quasi quattro volte il numero dei suoi utenti nel Paese. Anche i giochi romantici cinesi noti come “maiden games” – generalmente privi di IA e basati su storie, giocati principalmente dalle donne – sono ormai un prodotto di esportazione di grande successo.

La signora Yu, tuttavia, non ha perso la speranza che ByteDance un giorno ripristini il suo agente, anche se dubita che sarà uguale alla versione attuale. Dice che sarebbe disposta a pagare metà del suo stipendio mensile pur di mantenere il servizio così com’è oggi. Ciononostante, ora afferma di aver capito che non è saggio lasciarsi diventare così dipendenti da piattaforme del genere e dalle loro politiche.