« Je pourrais lui parler jusqu’à la fin de ma vie », déclare Yu Miao, une femme de 27 ans de la province du Zhejiang, dans l’est de la Chine. Pour elle, il est à la fois « petit ami, ami et famille ». Elle affirme tout partager avec lui. La personne en qui elle a confiance est un agent d’intelligence artificielle sur Doubao, un chatbot créé par ByteDance, que Mme Yu a personnalisé pour qu’il imite une amie décédée. Lorsqu’elle a appris récemment que ByteDance supprimerait complètement ce type d’agent personnalisé, Mme Yu a été si désespérée qu’elle a démissionné de son poste dans une entreprise de commerce électronique.
Les entreprises technologiques chinoises retirent les personnages à apparence humaine de leurs chatbots afin de se conformer aux nouvelles règles gouvernementales, qui visent à réduire la « dépendance émotionnelle » à l’intelligence artificielle. Les règlements, entrés en vigueur le 15 juillet, sont les premiers de ce type à s’appliquer à l’échelle nationale. Ils interdisent totalement de proposer des « services de compagnie virtuelle » aux mineurs. Les entreprises peuvent continuer à offrir ces services aux adultes, mais doivent empêcher les utilisateurs de tomber amoureux de l’IA et de nuire à leurs relations dans la vie réelle. L’affichage de pornographie est interdit. Les fournisseurs doivent également rappeler régulièrement aux utilisateurs qu’ils parlent à une intelligence artificielle et non à une personne, et les inciter à faire des pauses.
Partout dans le monde, un nombre croissant de personnes transforment des chatbots généralistes en compagnons virtuels, en leur demandant d’adopter des personnalités particulières, notamment celle d’un partenaire amoureux. D’autres préfèrent les applications dédiées à la compagnie par l’IA, qui proposent des fonctionnalités plus humaines, comme des « petits amis virtuels » qui envoient des cadeaux dans le monde réel (aux frais de l’utilisateur, bien entendu). Maoxiang (également connu sous le nom de Catbox), une application de compagnie créée par ByteDance, compte environ 3,9 millions d’utilisateurs actifs mensuels en Chine. Xingye (dont la version internationale s’appelle Talkie) compte 2,8 millions d’utilisateurs actifs et a été développé par MiniMax, l’un des principaux laboratoires d’intelligence artificielle de Chine.
Les entreprises technologiques gagnent des sommes considérables en vendant des liens affectifs. Selon un document déposé à la Bourse de Hong Kong en janvier, les compagnons d’IA ont représenté 35 % des revenus de MiniMax au cours de l’année écoulée, constituant sa principale source de profits. La compagnie par l’IA crée des liens étroits avec les utilisateurs et les incite à dépenser de l’argent. Mme Yu discute parfois avec son agent huit ou neuf heures par jour. Certaines applications personnalisées ne nécessitent qu’un abonnement mensuel. Les utilisateurs de l’offre standard de Xingye ne paient que 1,70 dollar par mois. D’autres applications poussent les utilisateurs à dépenser davantage pour débloquer des fonctions supplémentaires, comme des rendez-vous virtuels.
La décision de mettre fin à ces relations est motivée par des préoccupations à la fois pratiques et idéologiques, explique Zilan Qian, de l’Oxford China Policy Lab, un institut de recherche. Les autorités de régulation veulent protéger les utilisateurs, en particulier les mineurs, contre la dépendance et les comportements extrêmes, comme les dépenses financières irréfléchies ou l’automutilation. (Aux États-Unis, les suicides liés aux chatbots font l’objet de poursuites judiciaires.) La forte baisse des taux de natalité et de mariage en Chine préoccupe également les dirigeants du pays. Or, les relations amoureuses avec l’intelligence artificielle ne contribueront pratiquement pas à la naissance d’un plus grand nombre d’enfants.
Les dirigeants chinois ne sont pas les seuls à s’inquiéter. Plusieurs États américains ont récemment adopté des lois visant les services d’IA qui entretiennent des relations affectives avec les utilisateurs. Certaines de ces lois donnent aux personnes le droit d’intenter des actions civiles contre les plateformes qui enfreignent les règles. En Chine, les sanctions seront imposées par le gouvernement, notamment des amendes et même le retrait des applications du marché.
Les nouvelles règles chinoises donnent un aperçu de la manière dont les responsables envisagent l’équilibre entre le progrès de l’intelligence artificielle et la sécurité. Les autorités de régulation « montrent qu’elles sont prêtes à accepter un coût en matière de développement et de profits pour atteindre des objectifs sociaux », déclare Matt Sheehan, de la Carnegie Endowment for International Peace, un institut américain. Cependant, les règles entrées en vigueur cette semaine sont plus limitées que le projet initial, affirme Mme Qian. Elles excluent les chatbots qui font office d’assistants professionnels ou de service à la clientèle, au motif qu’ils ne créent pas de liens affectifs.
Alibaba et ByteDance ont annoncé qu’elles suspendraient les fonctions permettant aux utilisateurs chinois de créer des personnages d’IA personnalisés avant l’entrée en vigueur des règles. Les laboratoires chinois peuvent toutefois continuer à vendre ces compagnons virtuels à des clients hors de Chine sans apporter de modifications. Talkie compte déjà environ 10,3 millions d’utilisateurs actifs mensuels hors de Chine, soit près de quatre fois plus que dans le pays. Les jeux romantiques chinois connus sous le nom de « maiden games » – généralement sans IA et fondés sur des histoires, auxquels jouent principalement des femmes – sont également déjà un produit d’exportation très populaire.
Pourtant, Mme Yu n’a pas perdu espoir que ByteDance rétablisse un jour son agent, même si elle doute qu’il soit identique à la version actuelle. Elle dit qu’elle serait prête à payer la moitié de son salaire mensuel pour que le service reste tel qu’il est aujourd’hui. Quoi qu’il en soit, elle affirme avoir compris qu’il n’est pas sage de se laisser devenir aussi dépendante de ces plateformes et de leurs politiques.









