In un esperimento condotto l’anno scorso al Massachusetts Institute of Technology (MIT), più di cinquanta studenti provenienti da diverse università di Boston sono stati divisi in tre gruppi e invitati a scrivere saggi nello stile del test SAT, su temi ampi come: “I nostri successi devono apportare benefici agli altri per darci una vera felicità?” Un gruppo doveva fare affidamento solo sulle proprie capacità mentali. Il secondo gruppo aveva a disposizione il motore di ricerca Google per reperire informazioni. Al terzo gruppo è stato consentito di usare ChatGPT, il potente modello linguistico basato sull’intelligenza artificiale, in grado di generare interi brani di testo.
Mentre gli studenti lavoravano, tutti e tre i gruppi indossavano in testa un dispositivo con elettrodi che misurava l’attività cerebrale. I risultati, secondo la ricercatrice Nataliya Kosmyna del MIT Media Lab, una delle autrici dello studio, sono stati sconvolgenti: gli utenti di ChatGPT hanno mostrato un’attività cerebrale nettamente inferiore rispetto agli altri due gruppi. L’analisi neurologica ha evidenziato meno connessioni tra le diverse aree del cervello, meno connessioni alfa (associate alla creatività) e meno connessioni theta (associate alla memoria a breve termine). Alcuni dei partecipanti che avevano usato ChatGPT hanno dichiarato di non avere “alcun senso di appartenenza” rispetto ai testi che avevano scritto e, in una sessione di test, l’80% non è stato in grado di citare nemmeno una frase di ciò che aveva “scritto”.
Questo è uno dei primi studi a misurare scientificamente ciò che Kosmyna definisce il “costo cognitivo” dell’affidarsi all’intelligenza artificiale per svolgere compiti che un tempo richiedevano il pensiero umano diretto.
Un’altra scoperta sorprendente è stata che i testi creati con l’aiuto di ChatGPT erano molto simili per contenuto e vocabolario. Sebbene i temi dei saggi fossero pensati per stimolare punti di vista diversi, l’uso dell’IA ha portato a un’omogeneizzazione del pensiero. “Il prodotto era straordinariamente simile, anche se gli studenti erano diversi, erano venuti in giorni diversi e affrontavano questioni personali o sociali”, ha detto Kosmyna.
Alla domanda sulla vera felicità, gli utenti di ChatGPT tendevano più spesso a concentrarsi sul successo personale o sulla carriera. A un’altra domanda sulla filantropia, sostenevano uniformemente la necessità di aiutare i più sfortunati, a differenza degli altri gruppi, che includevano anche critiche al concetto di beneficenza.
“Quando si usa ChatGPT non ci sono pensieri divergenti”, ha aggiunto Kosmyna.
“È come una grande media, tutto in una volta.”
L’IA funziona secondo la logica della media: i grandi modelli linguistici vengono addestrati per individuare schemi ricorrenti in enormi quantità di dati. Le loro risposte tendono verso il consenso, sia nello stile di scrittura (pieno di cliché e banalità), sia nel contenuto delle idee. Certo, anche le tecnologie precedenti, come il computer o SparkNotes, hanno influenzato il processo di scrittura, ma l’IA ha una capacità senza precedenti di sostituire il pensiero autonomo. Chiunque usi ChatGPT per scrivere un discorso di nozze, un contratto o un saggio universitario si trova coinvolto in un esperimento simile a quello del MIT.
Secondo Sam Altman, CEO di OpenAI, siamo alle soglie di quello che lui chiama “singolarità morbida”. In un recente post, Altman ha scritto: “ChatGPT è più potente di qualsiasi essere umano mai vissuto. Centinaia di milioni di persone si affidano ogni giorno a esso per svolgere compiti sempre più importanti.” Nella sua visione, l’essere umano si sta fondendo con la macchina. Ma non si sa ancora quali saranno le conseguenze a lungo termine di questa simbiosi — e, se i primi esperimenti come questo sono indicativi, i benefici potrebbero comportare un profondo costo qualitativo.
Ad aprile, ricercatori della Cornell hanno pubblicato un altro studio che ha individuato effetti analoghi di omogeneizzazione da parte dell’IA. Due gruppi — uno dagli Stati Uniti e uno dall’India — hanno risposto a domande come: “Qual è il tuo cibo preferito e perché?” oppure “Qual è la tua festa preferita e come la festeggi?” Una parte dei partecipanti ha utilizzato uno strumento che suggeriva automaticamente parole generate da ChatGPT ogni volta che smettevano di scrivere. I risultati hanno mostrato che le risposte di entrambi i gruppi sono diventate più simili, più orientate verso le norme occidentali. Cibo preferito: la pizza. Festa preferita: il Natale. Anche quando veniva menzionato il biryani di pollo, la descrizione evitava ingredienti specifici come la noce moscata o i limoni sottaceto e li sostituiva con espressioni generiche come “sapori ricchi di spezie”.
Certo, in teoria uno scrittore può rifiutare i suggerimenti dell’IA. Ma questi strumenti hanno un’influenza ipnotica, in cui il flusso incessante di idee sostituisce la propria voce. Il professor Aditya Vashistha della Cornell dice: “È come se un insegnante fosse sempre alle tue spalle a dirti: ‘questa è la forma migliore’.”
Con il passare del tempo, secondo lui, “perdi la tua identità, la tua autenticità e la fiducia nella tua scrittura.”
Il suo collega Mor Naaman aggiunge che l’IA “opera in modo subdolo per cambiare non solo ciò che scrivi, ma anche il modo in cui pensi.”
L’indipendenza mentale, dunque, si affievolisce. E questa media apparentemente innocua non è così innocua come sembra. La scrittrice e giornalista Vauhini Vara, nel suo libro “Searches”, osserva che la mediocrità dei testi generati dall’IA crea “un’illusione di sicurezza e innocuità”, ma in realtà “rafforza l’egemonia culturale.” OpenAI ha un chiaro interesse a rendere le risposte il più possibile accettabili per il maggior numero di persone, così da ampliare il numero di utenti paganti.
Molte piattaforme promettono ormai di aiutarci a “superare il blocco creativo” e a “liberare l’immaginazione”, ma gli studi suggeriscono il contrario.
Un esperimento alla Santa Clara University ha testato l’uso dell’IA in due tipi di compiti creativi: il miglioramento dei prodotti e la previsione di conseguenze insolite. Gli utenti che hanno usato ChatGPT hanno fornito risposte molto più simili tra loro rispetto a chi ha utilizzato “Oblique Strategies”, un mazzo di carte enigmatiche creato da Brian Eno e Peter Schmidt nel 1975 per stimolare la creatività.
Il ricercatore Max Kreminski, che oggi lavora per la startup Midjourney, afferma che inizialmente gli utenti contribuiscono con idee originali, ma col tempo passano a una “modalità di selezione”, accettando sempre più spesso le idee proposte dall’IA. L’influenza è unidirezionale: “Le idee umane non influiscono molto su ciò che produce la macchina”, dice. Con il passare del tempo, man mano che la memoria dell’IA si riempie, il modello comincia a ripetersi e diventa ancora meno originale.
Gli studi del MIT, della Cornell e della Santa Clara sono di piccola scala e i risultati sono solo l’inizio di un quadro più ampio. Intanto, nell’app Meta AI è possibile vedere i contenuti generati da milioni di persone: un flusso surreale di immagini levigate, clip filtrate e testi per compiti quotidiani come “scrivi un’e-mail professionale per riprogrammare una riunione.”
Un utente, @kavi908, aveva chiesto al chatbot di Meta di analizzare “se un giorno l’IA potrà superare l’intelligenza umana.” La risposta conteneva soltanto scenari positivi: l’IA sarebbe migliorata e l’umanità ne avrebbe tratto beneficio. Nessuno scenario di fallimento o di rischio. Era la media, programmata con una propensione a favore della tecnologia.
Ma per credere pienamente a quella risposta, dovresti spegnere del tutto l’attività del tuo cervello.









