En un experimento realizado el año pasado en el Instituto Tecnológico de Massachusetts (MIT), más de cincuenta estudiantes de distintas universidades de Boston se dividieron en tres grupos y se les pidió que escribieran ensayos al estilo de la prueba SAT, sobre temas amplios como: «¿Deben nuestros logros beneficiar a otras personas para aportarnos verdadera felicidad?». Un grupo debía apoyarse únicamente en sus propias capacidades mentales. El segundo grupo tenía a su disposición el motor de búsqueda Google para encontrar información. Al tercer grupo se le permitió usar ChatGPT, el potente modelo de lenguaje basado en inteligencia artificial que puede generar pasajes de texto completos.
Mientras los estudiantes trabajaban, los tres grupos llevaban en la cabeza un dispositivo con electrodos que medía la actividad cerebral. Los resultados, según la investigadora Nataliya Kosmyna, del MIT Media Lab —una de las autoras del estudio—, fueron impactantes: los usuarios de ChatGPT mostraron una actividad cerebral notablemente menor que los otros dos grupos. El análisis neurológico reveló menos conexiones entre distintas regiones del cerebro, menos conexiones alfa (asociadas a la creatividad) y menos conexiones theta (asociadas a la memoria a corto plazo). Algunos de los participantes que usaron ChatGPT declararon que no sentían «ninguna sensación de propiedad» sobre los textos que habían escrito y, en una ronda de pruebas, el 80 % no fue capaz de citar ni una frase de lo que había «escrito».
Este es uno de los primeros estudios que miden científicamente lo que Kosmyna denomina el «costo cognitivo» de apoyarse en la inteligencia artificial para realizar tareas que antes exigían pensamiento humano directo.
Otro hallazgo sorprendente fue que los textos creados con ayuda de ChatGPT eran muy similares en contenido y vocabulario. Aunque los temas de los ensayos estaban diseñados para suscitar distintas opiniones, el uso de la IA condujo a una uniformidad de pensamiento. «El producto era extraordinariamente similar, aunque los estudiantes eran distintos, habían venido en días diferentes y abordaban cuestiones personales o sociales», dijo Kosmyna.
Ante la pregunta sobre la verdadera felicidad, los usuarios de ChatGPT tendían más a centrarse en el éxito personal o la carrera profesional. En otra pregunta sobre la filantropía, defendieron uniformemente ayudar a los más desfavorecidos, a diferencia de los otros grupos, cuyas respuestas también incluían críticas al concepto de caridad.
«No hay pensamientos divergentes cuando se usa ChatGPT», añadió Kosmyna.
«Es como un gran promedio, todo a la vez».
La IA funciona según la lógica del promedio: los grandes modelos de lenguaje se entrenan para encontrar patrones recurrentes en enormes cantidades de datos. Sus respuestas tienden al consenso, tanto en el estilo de escritura (repleto de clichés y banalidades) como en el contenido de las ideas. Por supuesto, tecnologías anteriores como el ordenador o SparkNotes también han influido en el proceso de escritura, pero la IA tiene un poder sin precedentes para sustituir el pensamiento propio. Cualquiera que use ChatGPT para escribir un discurso de boda, un contrato o un ensayo universitario participa en un experimento parecido al del MIT.
Según Sam Altman, director ejecutivo de OpenAI, estamos al borde de lo que él denomina «singularidad suave». En una publicación reciente, Altman escribió: «ChatGPT es más poderoso que cualquier persona que haya vivido jamás. Cientos de millones de personas dependen de él cada día para tareas cada vez más importantes». En su visión, el ser humano se está fusionando con la máquina. Pero todavía no se sabe cuáles serán las consecuencias a largo plazo de esta simbiosis —y, si los primeros experimentos como este sirven de indicio, los beneficios podrían tener un profundo costo cualitativo.
En abril, investigadores de Cornell publicaron otro estudio que identificó efectos similares de homogeneización por parte de la IA. Dos grupos —uno de Estados Unidos y otro de India— respondieron preguntas como: «¿Cuál es tu comida favorita y por qué?» o «¿Cuál es tu fiesta favorita y cómo la celebras?». Una parte de los participantes utilizó una herramienta que sugería automáticamente palabras generadas por ChatGPT cada vez que dejaban de escribir. Los resultados mostraron que las respuestas de ambos grupos se volvieron más similares y más orientadas a las normas occidentales. Comida favorita: pizza. Fiesta favorita: Navidad. Incluso cuando se mencionaba el biryani de pollo, la descripción evitaba ingredientes específicos como la nuez moscada o los encurtidos de limón y los sustituía por frases generales como «sabores ricos en especias».
Por supuesto, en teoría un escritor puede rechazar las sugerencias de la IA. Pero estas herramientas tienen un efecto hipnótico, en el que el flujo incesante de ideas sustituye la voz propia. El profesor Aditya Vashistha, de Cornell, dice: «Es como si un profesor estuviera detrás de ti todo el tiempo diciendo: “Esta es la mejor forma”».
Con el tiempo, según él, «pierdes tu identidad, tu autenticidad y la confianza en tus escritos».
Su colega Mor Naaman añade que la IA «trabaja de forma imperceptible para cambiar no solo lo que escribes, sino también la manera en que piensas».
La independencia mental, por tanto, se desvanece. Y este promedio aparentemente inofensivo no es tan inocuo como parece. La escritora y periodista Vauhini Vara observa en su libro «Searches» que la mediocridad de los textos de IA crea «una ilusión de seguridad e inocuidad», pero en realidad «refuerza la hegemonía cultural». OpenAI tiene un claro interés en hacer que sus respuestas sean lo más aceptables posible para el mayor número de personas, con el fin de ampliar la cantidad de usuarios que pagan por ellas.
Muchas plataformas ya prometen ayudarnos a «superar el bloqueo creativo» y «liberar la imaginación», pero los estudios sugieren lo contrario.
Un experimento en la Universidad de Santa Clara puso a prueba el uso de la IA en dos tipos de tareas creativas: mejorar productos y predecir consecuencias extrañas. Los usuarios de ChatGPT ofrecieron respuestas mucho más similares entre sí que quienes usaron «Oblique Strategies», un conjunto de tarjetas enigmáticas creado por Brian Eno y Peter Schmidt en 1975 para estimular la creatividad.
El investigador Max Kreminski, que ahora trabaja para la startup Midjourney, dice que al principio los usuarios aportan ideas originales, pero con el tiempo pasan a un «modo de curaduría», aceptando cada vez más las ideas que ofrece la IA. La influencia es unidireccional: «Las ideas humanas no influyen mucho en lo que produce la máquina», dice. Con el tiempo, a medida que la memoria de la IA se llena, el modelo empieza a repetirse y se vuelve aún menos original.
Los estudios del MIT, Cornell y Santa Clara son de pequeña escala, y sus resultados son solo el comienzo de un panorama más amplio. Mientras tanto, en la aplicación Meta AI se puede ver contenido que generan millones de personas: un flujo surrealista de imágenes pulidas, clips filtrados y textos para tareas cotidianas como «escribe un correo electrónico profesional para reprogramar una reunión».
Un usuario, @kavi908, había pedido al chatbot de Meta que analizara «si la IA podría algún día superar la inteligencia humana». La respuesta contenía solo escenarios positivos: que la IA mejoraría y beneficiaría a la humanidad. Ningún escenario de fracaso o riesgo. Era el promedio, programado con un sesgo favorable a la tecnología.
Pero, para creer plenamente esa respuesta, tendrías que apagar por completo la actividad de tu cerebro.









