Lors d’une expérience menée l’année dernière au Massachusetts Institute of Technology (MIT), plus de cinquante étudiants de différentes universités de Boston ont été répartis en trois groupes et invités à rédiger des essais dans le style du test SAT, sur des sujets généraux tels que : « Nos réussites doivent-elles profiter à autrui pour nous apporter un véritable bonheur ? » Un groupe devait s’appuyer uniquement sur ses propres capacités mentales. Le deuxième groupe avait accès au moteur de recherche Google pour trouver des informations. Le troisième était autorisé à utiliser ChatGPT — le puissant modèle de langage fondé sur l’intelligence artificielle, capable de générer des passages de texte entiers.
Pendant que les étudiants travaillaient, les trois groupes portaient sur la tête un dispositif muni d’électrodes qui mesurait l’activité cérébrale. Les résultats, selon la chercheuse Nataliya Kosmyna du MIT Media Lab — l’une des autrices de l’étude — étaient stupéfiants : les utilisateurs de ChatGPT ont montré une activité cérébrale nettement inférieure à celle des deux autres groupes. L’analyse neurologique a révélé moins de connexions entre les différentes régions du cerveau, moins de connexions alpha (associées à la créativité) et moins de connexions thêta (associées à la mémoire à court terme). Certains participants ayant utilisé ChatGPT ont déclaré n’avoir « aucun sentiment de propriété » sur les textes qu’ils avaient écrits et, lors d’une session de test, 80 % n’étaient pas en mesure de citer une seule phrase de ce qu’ils avaient « écrit ».
Il s’agit de l’une des premières études à mesurer scientifiquement ce que Kosmyna appelle le « coût cognitif » du recours à l’intelligence artificielle pour accomplir des tâches qui exigeaient autrefois une réflexion humaine directe.
Une autre découverte surprenante était que les textes créés avec l’aide de ChatGPT se ressemblaient beaucoup par leur contenu et leur vocabulaire. Bien que les sujets des essais aient été conçus pour susciter des pensées différentes, l’utilisation de l’IA a conduit à une uniformisation des idées. « Le résultat était extrêmement similaire, même si les étudiants étaient différents, étaient venus à des jours différents et traitaient de questions personnelles ou sociales », a déclaré Kosmyna.
Sur la question du véritable bonheur, les utilisateurs de ChatGPT étaient plus susceptibles de se concentrer sur la réussite personnelle ou la carrière. Dans une autre question sur la philanthropie, ils défendaient uniformément l’aide aux plus démunis — contrairement aux autres groupes, qui formulaient aussi des critiques de la notion de charité.
« Il n’y a pas de pensées divergentes quand on utilise ChatGPT », a ajouté Kosmyna.
« C’est comme une grande moyenne, tout à la fois. »
L’IA fonctionne selon la logique de la moyenne : les grands modèles de langage sont entraînés à repérer des schémas récurrents dans de vastes quantités de données. Leurs réponses tendent vers le consensus — tant dans le style d’écriture (rempli de clichés et de banalités) que dans le contenu des idées. Certes, des technologies antérieures comme l’ordinateur ou SparkNotes ont elles aussi influencé le processus d’écriture, mais l’IA possède un pouvoir sans précédent de remplacer la réflexion personnelle. Toute personne qui utilise ChatGPT pour rédiger un discours de mariage, un contrat ou un essai universitaire participe à une expérience similaire à celle du MIT.
Selon Sam Altman, PDG d’OpenAI, nous sommes à l’aube de ce qu’il appelle la « singularité douce ». Dans une récente publication, Altman a écrit : « ChatGPT est plus puissant que tout être humain ayant jamais vécu. Des centaines de millions de personnes comptent sur lui chaque jour pour des tâches de plus en plus importantes. » Dans sa vision, l’être humain fusionne avec la machine. Mais on ne sait pas encore quelles seront les conséquences à long terme de cette symbiose — et si les premières expériences comme celle-ci sont un indicateur, les avantages pourraient avoir un coût qualitatif considérable.
En avril, des chercheurs de Cornell ont publié une autre étude qui a identifié des effets similaires d’homogénéisation par l’IA. Deux groupes — l’un des États-Unis et l’autre d’Inde — ont répondu à des questions comme : « Quel est votre plat préféré et pourquoi ? » ou « Quelle est votre fête préférée et comment la célébrez-vous ? » Une partie des participants utilisait un outil qui suggérait automatiquement des mots générés par ChatGPT chaque fois qu’ils cessaient d’écrire. Les résultats ont montré que les réponses des deux groupes se ressemblaient davantage — et étaient plus conformes aux normes occidentales. Plat préféré : la pizza. Fête préférée : Noël. Même lorsqu’il était question de biryani au poulet, la description évitait des ingrédients spécifiques comme la noix de muscade ou les citrons confits et les remplaçait par des expressions générales comme « des saveurs riches en épices ».
Bien sûr, en théorie, un écrivain peut rejeter les suggestions de l’IA. Mais ces outils exercent une influence hypnotique, où le flot ininterrompu d’idées remplace la voix personnelle. Le professeur Aditya Vashistha, de Cornell, déclare : « C’est comme si un enseignant se tenait constamment derrière vous en disant : “C’est la meilleure façon de faire.” »
Avec le temps, selon lui, « on perd son identité, son authenticité et confiance en son écriture ».
Son collègue Mor Naaman ajoute que l’IA « agit de manière imperceptible pour changer non seulement ce que vous écrivez, mais aussi votre façon de penser ».
L’indépendance intellectuelle s’estompe donc. Et cette moyenne inoffensive est loin d’être aussi inoffensive qu’elle en a l’air. Dans son livre « Searches », l’écrivaine et journaliste Vauhini Vara observe que la médiocrité des textes générés par l’IA crée « une illusion de sécurité et d’innocuité », mais qu’en réalité, elle « renforce l’hégémonie culturelle ». OpenAI a tout intérêt à rendre ses réponses aussi acceptables que possible pour le plus grand nombre — afin d’accroître le nombre d’utilisateurs qui paient pour ses services.
De nombreuses plateformes promettent déjà de nous aider à « surmonter le blocage créatif » et à « libérer notre imagination », mais les études suggèrent le contraire.
Une expérience menée à l’université de Santa Clara a testé l’utilisation de l’IA dans deux types de tâches créatives : l’amélioration de produits et la prédiction de conséquences insolites. Les utilisateurs de ChatGPT ont fourni des réponses beaucoup plus similaires entre elles que ceux qui utilisaient les « Oblique Strategies » — un jeu de cartes énigmatiques créé par Brian Eno et Peter Schmidt en 1975 pour stimuler la créativité.
Le chercheur Max Kreminski, qui travaille aujourd’hui pour la start-up Midjourney, explique que les utilisateurs contribuent d’abord avec des idées originales, mais qu’avec le temps, ils passent en « mode curation » — acceptant de plus en plus les idées proposées par l’IA. L’influence est à sens unique : « Les idées humaines n’influencent pas beaucoup ce que produit la machine », dit-il. Avec le temps, à mesure que la mémoire de l’IA se remplit, le modèle commence à se répéter et devient encore moins original.
Les études menées au MIT, à Cornell et à Santa Clara sont de faible ampleur et leurs résultats ne constituent que le début d’un tableau plus vaste. Pendant ce temps, sur l’application Meta AI, on peut voir le contenu généré par des millions de personnes : un flux surréaliste d’images lissées, de clips filtrés et de textes portant sur des tâches quotidiennes, comme « rédige un e-mail professionnel pour reprogrammer une réunion ».
Un utilisateur, @kavi908, avait demandé au chatbot de Meta d’analyser « si l’IA pourrait un jour dépasser l’intelligence humaine ». La réponse ne contenait que des scénarios positifs — l’IA s’améliorerait et l’humanité en tirerait profit. Aucun scénario d’échec ou de risque. C’était la moyenne, programmée avec un biais pro-technologique.
Mais pour croire entièrement cette réponse, il faudrait éteindre toute activité cérébrale.









