Quando l'AI risponde al posto tuo, chi sta pensando davvero?

L'AI generativa migliora le performance apparenti, ma intanto stiamo smettendo di pensare. Lo psicologo Robert J. Sternberg (Cornell University) lo dice chiaramente: più deleghiamo, meno sappiamo ragionare in autonomia.

Nel 1980 il filosofo John Searle ha proposto un esperimento mentale che oggi torna utile per capire cosa stiamo facendo quando apriamo ChatGPT. Si chiama Stanza Cinese.

Immagina un uomo chiuso in una stanza con un manuale di simboli. Da fuori qualcuno gli passa fogli scritti in cinese. Lui non conosce il cinese, ma il manuale gli dice quale simbolo restituire in risposta a ogni input. Le risposte escono perfette. Chi sta fuori è convinto di parlare con qualcuno che capisce davvero la lingua. La verità è che dentro la stanza non c'è nessuna comprensione, solo manipolazione di regole.

Searle voleva contestare l'idea di intelligenza artificiale forte. Quarantacinque anni dopo la sua provocazione, il punto si è spostato: non riguarda più solo la macchina, riguarda noi.

Il rischio non è che l'AI diventi intelligente, è che noi smettiamo di esserlo

In un articolo recente intitolato «Does AI increase cognitive abilities, decrease them, or a little bit of each?», lo psicologo Robert J. Sternberg della Cornell University arriva a una conclusione netta: il vero pericolo dell'AI generativa è che gli utenti smettano di usare la propria intelligenza.

Sternberg cita una serie di studi convergenti. Quando usiamo strumenti di AI per scrivere, le performance apparenti migliorano, soprattutto per chi parte da un livello più basso. I testi diventano più fluidi, a volte persino più creativi. C'è però un effetto collaterale che pochi notano: i risultati tendono ad assomigliarsi tra loro. La varietà cala. L'originalità complessiva, nel campione, si appiattisce.

Il problema più serio sta dentro la testa di chi scrive. Diversi studi rilevano una minore attivazione cerebrale, un coinvolgimento cognitivo ridotto e un senso più debole di proprietà rispetto alle proprie idee. In parallelo, la correlazione tra uso frequente dell'AI e pensiero critico diventa negativa. Più deleghiamo, meno sappiamo pensare per conto nostro.

Il problema invisibile: ci allineiamo a quello che ci viene suggerito

C'è un secondo effetto che mi colpisce di più, perché è meno visibile e quindi più pericoloso.

Quando l'AI restituisce una risposta, gli utenti tendono ad allinearsi a quella risposta. Anche quando contiene bias o distorsioni. Anche quando vengono avvertiti in anticipo della possibile presenza di errori, continuano a esserne influenzati nelle scelte successive.

Tradotto: non stiamo semplicemente pensando meno, ma stiamo pensando sempre più dentro la cornice che ci viene proposta. È un punto che mi sembra centrale per chi, come me, lavora ogni giorno con piccole e medie imprese italiane che stanno introducendo l'AI nei propri processi.

Quello che vedo nei progetti reali

Nei percorsi di formazione che porto avanti con clienti manifatturieri e artigianali, il pattern si ripete. La prima reazione, quando l'AI viene usata bene, è entusiasmo: i tempi si abbattono, le bozze partono, le mail vengono scritte in metà del tempo. Poi, dopo qualche settimana, succede una cosa più sottile.

Le persone iniziano ad accettare la prima versione. Non rileggono come prima. Non aggiungono il pezzo di esperienza che solo loro possono mettere, perché solo loro hanno parlato con quel cliente, gestito quel reso, capito perché quel fornitore non è affidabile. La risposta è arrivata, suona bene, va in produzione.

A quel punto la stanza cinese si è chiusa anche dentro l'azienda. Le risposte sono corrette, fluide, leggibili. Però nessuno le sta più davvero pensando.

La rettrice del Politecnico di Milano Donatella Sciuto lo ha sintetizzato in modo netto: l'AI ha valore solo se accompagnata da una crescita parallela delle competenze critiche. Se l'AI cresce e le competenze critiche restano ferme, il delta è negativo, anche quando i numeri sembrano dire il contrario.

Cosa fare, in pratica

Non sto dicendo di non usare l'AI. La uso ogni giorno, e su questo blog lo faccio scrivere chiaramente. Sto dicendo che usarla bene richiede una disciplina che pochi stanno introducendo nei propri flussi di lavoro.

Tre cose che funzionano, e che chiedo sempre ai clienti di mettere a sistema:

1. Prima dell'AI, scrivi tu. Anche solo tre righe disordinate. Servono a fissare un punto di partenza tuo, prima che la macchina ti suggerisca il suo.

2. Quando l'AI risponde, chiediti dove non sei d'accordo. Non se non sei d'accordo. Dove. Costringe il cervello a riattivarsi.

3. Fai sempre l'ultima passata a mano. Non per cambiare le virgole. Per riconoscere se quel testo, alla fine, lo firmeresti.

L'AI generativa è una leva straordinaria nelle PMI italiane, soprattutto per recuperare ore su attività ripetitive. Diventa un problema quando smettiamo di essere il pezzo che dà senso alla risposta.

A questo punto chiudo con la stessa provocazione che proponeva Roberto Radaelli, da cui parte questa riflessione: prova a chiedere al chatbot che usi più spesso quale sia, secondo lui, il rischio più grande dell'AI generativa. Leggi la risposta con attenzione. Poi chiediti se la condividi davvero, o se ti stai solo allineando.

Articolo ispirato a una riflessione di Roberto Radaelli e all'articolo «Does AI increase cognitive abilities, decrease them, or a little bit of each?» di Robert J. Sternberg, Department of Psychology, Cornell University.