“Podría hablar con él el resto de mi vida”, dice Yu Miao, una mujer de 27 años de la provincia de Zhejiang, en el este de China. Para ella, él es a la vez “novio, amigo y familia”. Afirma que lo comparte todo con él. La persona en quien confía es un agente de inteligencia artificial de Doubao, un chatbot creado por ByteDance, que la señora Yu ha personalizado para que imite a una amiga suya fallecida. Cuando se enteró hace poco de que ByteDance eliminaría por completo este tipo de agente personalizado, la señora Yu se desesperó tanto que renunció a su trabajo en una empresa de comercio electrónico.
Las empresas tecnológicas chinas están eliminando los personajes con rasgos humanos de sus chatbots para adaptarse a las nuevas normas del Gobierno, cuyo objetivo es reducir la “dependencia emocional” de la inteligencia artificial. Las regulaciones, que entraron en vigor el 15 de julio, son las primeras de este tipo que se aplican a escala nacional. Según ellas, se prohibirá por completo ofrecer “servicios de compañía virtual” a menores. Las empresas podrán seguir ofreciendo estos servicios a los adultos, pero deberán impedir que los usuarios se enamoren de la IA y perjudiquen sus relaciones en la vida real. La exhibición de pornografía está prohibida. Los proveedores también deben recordar periódicamente a los usuarios que están hablando con inteligencia artificial y no con una persona, así como animarlos a tomarse descansos.
En todo el mundo, un número cada vez mayor de personas está convirtiendo los chatbots de uso general en compañeros virtuales, pidiéndoles que adopten determinadas personalidades, incluida la de una pareja romántica. Otros prefieren aplicaciones específicas de compañía con IA, que ofrecen funciones más humanas, como “novios virtuales” que envían regalos al mundo real (por supuesto, a costa del usuario). Maoxiang (también conocida como Catbox), una aplicación de compañía creada por ByteDance, tiene alrededor de 3,9 millones de usuarios activos mensuales en China. Xingye (cuya versión internacional se llama Talkie) tiene 2,8 millones de usuarios activos y fue desarrollada por MiniMax, uno de los principales laboratorios de inteligencia artificial de China.
Las empresas tecnológicas están ganando sumas considerables vendiendo vínculos emocionales. Según un documento presentado en la Bolsa de Hong Kong en enero, los compañeros con IA representaron el 35% de los ingresos de MiniMax durante el año pasado, lo que los convirtió en su mayor fuente de beneficios. La compañía con IA crea vínculos sólidos con los usuarios y los anima a gastar dinero. La señora Yu a veces conversa con su agente ocho o nueve horas al día. Algunas aplicaciones personalizadas solo requieren una suscripción mensual. Los usuarios del paquete estándar de Xingye pagan apenas 1,70 dólares al mes. Otras incitan a los usuarios a gastar más para desbloquear funciones adicionales, como citas virtuales.
La decisión de poner fin a estas relaciones está motivada tanto por preocupaciones prácticas como ideológicas, afirma Zilan Qian, del Oxford China Policy Lab, un instituto de investigación. Los reguladores quieren proteger a los usuarios, especialmente a los menores, de la dependencia y de conductas extremas, como gastos financieros imprudentes o autolesiones. (En Estados Unidos, los suicidios relacionados con los chatbots se han convertido en objeto de demandas judiciales.) La marcada caída de las tasas de natalidad y de matrimonios en China también preocupa a los dirigentes del país. Mientras tanto, las relaciones románticas con la inteligencia artificial no contribuirán prácticamente en nada a fomentar que nazcan más niños.
Los dirigentes chinos no son los únicos que están preocupados. Algunos estados estadounidenses han aprobado recientemente leyes dirigidas a los servicios de IA que mantienen relaciones emocionales con los usuarios. Algunas de estas leyes otorgan a las personas el derecho a presentar demandas civiles contra las plataformas que infrinjan las normas. En China, las sanciones las impondrá el Gobierno e incluirán multas e incluso la retirada de las aplicaciones del mercado.
Las nuevas reglas de China ofrecen una idea de cómo ven los funcionarios el equilibrio entre el progreso de la inteligencia artificial y la seguridad. Los reguladores “están mostrando que están dispuestos a aceptar un costo en desarrollo y beneficios para alcanzar objetivos sociales”, afirma Matt Sheehan, de Carnegie Endowment for International Peace, un instituto estadounidense. Sin embargo, las reglas que entraron en vigor esta semana son más limitadas que el borrador inicial, señala la señora Qian. Excluyen los chatbots que sirven como asistentes de trabajo o para la atención al cliente, con el argumento de que no crean vínculos emocionales.
Alibaba y ByteDance anunciaron que suspenderían las funciones que permitían a los usuarios chinos crear personajes personalizados con IA antes de la entrada en vigor de las reglas. No obstante, los laboratorios chinos podrán seguir vendiendo estos compañeros virtuales a clientes fuera de China sin cambios. Talkie ya tiene alrededor de 10,3 millones de usuarios activos mensuales fuera de China, casi cuatro veces más que el número de usuarios que tiene dentro del país. Los juegos románticos chinos conocidos como “maiden games” —normalmente sin IA y basados en historias, jugados principalmente por mujeres— también son ya un producto de exportación de gran éxito.
Sin embargo, la señora Yu no ha perdido la esperanza de que ByteDance algún día restablezca su agente, aunque duda que sea igual que la versión actual. Dice que estaría dispuesta a pagar la mitad de su salario mensual con tal de que el servicio siguiera siendo como es hoy. Aun así, ahora afirma que ha comprendido que no es prudente dejarse depender tanto de este tipo de plataformas y de sus políticas.









