Il commento arriva un martedì mattina. Giulia lo aspettava da tre settimane: è la revisione del secondo capitolo della sua tesi, quello su cui ha lavorato di più. Lo apre con l’ansia di chi sa di aver rischiato. Il testo è impeccabile. Segnala una citazione incompleta, suggerisce di asciugare l’introduzione, propone due riferimenti bibliografici pertinenti. Si chiude con una formula cordiale: «Buon lavoro, la direzione è quella giusta».

Giulia lo rilegge. Poi lo rilegge ancora. Nella mail con cui aveva consegnato il capitolo aveva fatto una sola domanda: se il terzo paragrafo, quello in cui prende le distanze dall’autore più citato del suo campo, fosse un azzardo o un’idea. Il commento non ne parla. Tutto ciò che dice è corretto. Niente di ciò che dice risponde a lei. È il commento che avrebbe potuto ricevere chiunque avesse consegnato un capitolo simile.

Non saprà mai con certezza che cosa sia accaduto. Forse il docente era stanco. Forse ha chiesto una prima revisione a un sistema di intelligenza artificiale e l’ha approvata dopo una lettura veloce, convinto che bastasse. Il commento porta la sua firma. Il giudizio che contiene, però, nessuno lo ha formulato davvero su quel capitolo, su quella domanda, su quella studentessa.

Per anni abbiamo discusso dell’intelligenza artificiale come di qualcosa che potrebbe sostituire l’uomo. La trasformazione più probabile è più sottile. L’IA potrebbe non sostituire nessuno. Potrebbe sostituire un passaggio: quello che separa una risposta ricevuta da una risposta assunta. Continuiamo a firmare, a correggere, a valutare, a diagnosticare. La firma resta nostra. Ma una parte del giudizio che dovrebbe precederla è stata consegnata altrove, senza che nessuno lo decidesse davvero.

Qualche settimana fa, su queste pagine, ci siamo chiesti dove la responsabilità non si possa delegare, e l’abbiamo trovata nel momento in cui si decide senza ancora sapere. Qui la questione è diversa, e in un certo senso più quotidiana. Non riguarda l’incertezza che precede la risposta. Riguarda ciò che accade dopo, quando la risposta c’è già, è ben scritta, sembra giusta, e resta soltanto da decidere se farla propria. È lì che si consuma una forma di delega di cui parliamo poco: la delega che non risparmia lavoro, ma giudizio.

Negli ultimi anni abbiamo dedicato un’attenzione quasi ossessiva al prompt. Abbiamo costruito corsi, manuali, tecniche e perfino professioni intorno alla capacità di porre domande migliori alle macchine. Tutto utile. Ma potremmo avere guardato il punto meno decisivo del processo. Stiamo imparando molto rapidamente a interrogare i sistemi generativi. Non sono altrettanto certo che stiamo imparando, con la stessa rapidità, a giudicare ciò che ci restituiscono. Il problema non comincia quando formuliamo la domanda. Comincia quando la macchina ha già risposto.

Luciano Floridi ha proposto di leggere i grandi modelli linguistici come una forma di agire senza intelligenza. Su Philosophy & Technology, nel 2023, ha descritto questi sistemi come una separazione fra la capacità di svolgere un compito con successo e la necessità di essere intelligenti per farlo, e ha ricordato che, quando non sanno rispondere, possono inventare testi, risposte e riferimenti. Ne discende una conseguenza che riguarda noi. Se la macchina può agire senza capire, il capire non scompare dal processo. Si sposta su chi riceve la risposta.

La lingua italiana custodisce qui una distinzione che di solito trascuriamo. Usiamo usare e utilizzare come sinonimi, e il secondo passa spesso per una variante più solenne del primo. Ma i dizionari conservano per utilizzare un senso più preciso: rendere utile, mettere a profitto. Usare l’IA significa ottenere un risultato. Ho un bisogno, formulo una richiesta, ricevo una risposta. Utilizzarla significa rendere quel risultato utile per uno scopo determinato, e questo passaggio nessun sistema può compierlo al posto di chi lo riceve. Una risposta generata non è ancora utile per noi. Lo diventa quando qualcuno la valuta, la verifica, la confronta con la situazione concreta e decide che cosa farne. Il commento ricevuto da Giulia era stato usato. Nessuno lo aveva utilizzato.

Dentro questo passaggio stanno operazioni diverse che tendiamo a confondere. Valutare è un processo interrogativo. Ci si chiede se la risposta sia corretta, da quali fonti derivi, che cosa manchi, quale incertezza nasconda, se esistano letture alternative. La valutazione mantiene la risposta aperta. John Dewey, in How We Think, indicava nell’atteggiamento della conclusione sospesa il fattore più importante per formare buone abitudini mentali, e riconosceva che quella sospensione è, in una certa misura, dolorosa. Valutare significa proprio questo: tollerare il dubbio abbastanza a lungo da non chiuderlo troppo presto. Validare, invece, è un atto conclusivo. Significa poter dire: ho sottoposto questa risposta a un esame sufficiente rispetto allo scopo, e decido di assumerla, in tutto o in parte, sotto la mia responsabilità. Nel passaggio dall’una all’altra cambia il soggetto della risposta. Prima era un prodotto della macchina. Dopo è qualcosa che una persona ha deciso di fare proprio.

Fra le due c’è una terza operazione, ed è la più delicata. Una risposta può essere corretta e tuttavia non appropriata. Può essere fondata e irrilevante per il caso concreto. Può essere statisticamente plausibile e insufficiente per decidere su una singola persona. Il discernimento comincia dove la correttezza non basta più. La valutazione chiede se la risposta regga. Il discernimento chiede che valore abbia qui, ora, per questo scopo, per queste persone. Il commento a Giulia reggeva perfettamente. Non era la risposta che le era dovuta.

Sappiamo da tempo che questo passaggio è fragile. Nel 1997, su Human Factors, Raja Parasuraman e Victor Riley distinguevano fra uso, cattivo uso, disuso e abuso dell’automazione. Chiamavano cattivo uso l’affidamento eccessivo: la tendenza a seguire le indicazioni di un sistema automatico anche quando non meritano fiducia. Allora si trattava di allarmi, spie, segnali. Oggi le macchine producono argomentazioni complete, con la stessa fluidità quando sono fondate e quando non lo sono. La forma può simulare una certezza che il contenuto non possiede. Se le cose sono andate così, il docente di Giulia non aveva motivi per dubitare. Il commento era ordinato, pertinente, privo di errori. Proprio per questo non gli ha rivolto alcuna domanda. Dewey aveva descritto questo momento con esattezza: quando una suggestione viene accettata subito, abbiamo il pensiero acritico, il minimo della riflessione. Non serve un sistema difettoso per arrivarci. Basta un sistema abbastanza convincente.

A questo punto bisogna prendere sul serio un’obiezione che i difensori dell’ultima parola umana tendono a evitare. E se l’intervento umano peggiorasse le decisioni? Nel 2024, su Nature Human Behaviour, Michelle Vaccaro, Abdullah Almaatouq e Thomas Malone hanno pubblicato una meta-analisi di 106 esperimenti. In media, i sistemi composti da persone e IA hanno fatto peggio del migliore dei due preso da solo, e le perdite si concentravano proprio nei compiti decisionali. Quando l’IA era già più accurata delle persone, aggiungere il giudizio umano tendeva a ridurre la qualità del risultato. Quando erano le persone a fare meglio, la combinazione migliorava. L’IA, in media, aiutava le persone a rendere più di quanto facessero da sole. Ma l’idea che l’essere umano, messo accanto alla macchina, porti sempre un valore aggiunto non regge alla prova dei dati.

È un risultato scomodo, e cambia il modo in cui la tesi va difesa. Se l’ultima parola dovesse restare umana perché l’essere umano decide meglio, l’argomento sarebbe fragile, e in molti campi già superato. Deve restare umana per un’altra ragione: perché soltanto un essere umano può risponderne. Il giudizio umano non vale perché sia infallibile. Vale perché qualcuno se ne fa carico davanti a qualcun altro. Per questo il discernimento comprende anche la capacità di riconoscere quando la macchina è più affidabile di noi, e di scegliere consapevolmente di seguirla. Chi segue un sistema dopo averlo valutato ha esercitato un giudizio. Chi lo segue per abitudine ha soltanto firmato.

Per la stessa ragione la formula oggi più citata, human in the loop, rischia di non bastare. Mettere una persona dentro il processo non garantisce che eserciti davvero un giudizio. Può essere presente e cognitivamente assente. Può avere il potere formale di correggere il sistema senza il tempo, le informazioni o le competenze per farlo. Madeleine Clare Elish ha chiamato moral crumple zone, zona di deformazione morale, il ruolo che questa persona finisce spesso per occupare. In un’automobile la zona di deformazione si accartoccia per proteggere chi guida. Nei sistemi automatizzati accade il contrario: l’operatore umano più vicino assorbe la responsabilità dell’errore e protegge così l’integrità del sistema, anche quando il suo controllo effettivo era minimo. Se Giulia avesse contestato quel commento, a doverne rispondere sarebbe stato il docente, non il sistema. Avrebbe dovuto difendere un giudizio che non aveva mai formulato. Non basta che l’uomo sia nel processo. Deve poter governare il passaggio decisivo.

Niente di tutto questo significa rifiutare la delega. Gli esseri umani affidano da sempre una parte del proprio lavoro mentale a strumenti esterni: appunti, calendari, calcolatrici, archivi. Evan Risko e Sam Gilbert, su Trends in Cognitive Sciences nel 2016, hanno chiamato cognitive offloading questo ricorso ad azioni e strumenti per ridurre lo sforzo cognitivo richiesto da un compito, e ne hanno discusso benefici e costi. Possiamo affidare alle macchine la memoria, la ricerca, il calcolo, perfino parti dell’elaborazione. Sarebbe una posizione difensiva, e probabilmente impossibile, pretendere il contrario. La differenza passa altrove: fra delegare una funzione e abdicare al giudizio.

È anche per questo che la scuola e l’università non possono limitarsi a insegnare a scrivere prompt. Il quadro sull’alfabetizzazione all’intelligenza artificiale pubblicato nel giugno 2026 dall’OCSE e dalla Commissione europea la definisce come un insieme di conoscenze, abilità e atteggiamenti che permettono di comprendere come funzionano i sistemi, valutarne criticamente i risultati e usarli in modo etico e creativo. È un passaggio culturale importante. Saper usare una tecnologia non equivale a essere competenti rispetto a essa. Con l’IA generativa possiamo diventare straordinariamente capaci di ottenere risposte e restare incapaci di stabilire che cosa valgano. Anche Giulia usa l’IA ogni giorno, per tradurre, riassumere, controllare una bibliografia. Nessuno le ha mai insegnato a chiedersi quando una risposta ricevuta possa diventare sua. L’alfabetizzazione di questa epoca dovrà spostarsi dal saper interrogare al saper giudicare.

C’è infine una dimensione che i discorsi sulla supervisione umana tendono a dimenticare: quella di chi riceve il giudizio. Uno studente, un paziente, un cittadino, un lettore non vedono il processo. Vedono una firma. Si fidano di quella firma perché presumono che dietro ci sia stato qualcuno che ha letto, pesato, deciso. Quando la delega risparmia il giudizio, quella presunzione resta intatta ma smette di essere vera. La relazione continua nelle forme. Ciò che si perde è la certezza di essere stati considerati da qualcuno. Per questo la delega invisibile non è soltanto un problema epistemico. È un problema di relazione.

Giulia, quel pomeriggio, riapre il file e riscrive il terzo paragrafo. Lo rende più prudente, più vicino all’autore da cui voleva prendere le distanze. Nessuno glielo ha chiesto. Ha letto il silenzio del commento come un giudizio: se il docente non ne parla, pensa, forse quell’idea non meritava di essere difesa. Così una valutazione che nessuno ha formulato produce comunque un effetto: non corregge un errore, spegne un’intuizione. È la forma più silenziosa della delega che risparmia il giudizio: chi la riceve completa da solo il giudizio mancante, e quasi sempre lo completa contro di sé.

Torniamo, allora, a quel martedì mattina. Supponiamo che il docente abbia davvero chiesto una prima revisione a un sistema. Non c’era nulla di sbagliato in questo. Il sistema ha trovato la citazione incompleta e i riferimenti mancanti meglio e più in fretta di lui. Mancava il passaggio successivo: rileggere quella revisione con la domanda di Giulia accanto, accorgersi che non rispondeva, aggiungere una riga. Una sola. «Il terzo paragrafo è la cosa migliore del capitolo. Rischia, ma rischia bene». Nessun sistema poteva scrivere quella riga al posto suo. Non perché fosse difficile, ma perché lo impegnava davanti a lei. Con quella riga, forse, Giulia avrebbe lasciato il terzo paragrafo com’era. Avrebbe saputo che qualcuno lo aveva letto, pesato, e aveva deciso di sostenerlo insieme a lei. Il commento corretto le aveva dato informazioni. Quella riga le avrebbe dato un interlocutore.

Mettere l’uomo al centro dell’intelligenza artificiale non significa chiedergli di fare tutto ciò che faceva prima. Significa chiedergli di comprendere ciò che delega, valutare ciò che riceve, discernere ciò che conta e rispondere di ciò che assume. È una centralità più impegnativa di quella proclamata nei principi astratti, perché consiste in una responsabilità e non in un privilegio.

Ogni domenica, su Relazioni Aumentate, ci chiediamo che cosa accada fra le persone quando una macchina entra fra loro. Questa volta la risposta sta in una riga che un docente avrebbe potuto scrivere a una studentessa, e non ha scritto. La macchina può offrire la prima parola. L’ultima conta soltanto se qualcuno è disposto a risponderne.

Bibliografia essenziale

John Dewey, How We Think, D.C. Heath, 1910.

Raja Parasuraman, Victor Riley, “Humans and Automation: Use, Misuse, Disuse, Abuse”, Human Factors, vol. 39, 1997.

Evan F. Risko, Sam J. Gilbert, “Cognitive Offloading”, Trends in Cognitive Sciences, vol. 20, 2016.

Madeleine Clare Elish, “Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction”, Engaging Science, Technology, and Society, vol. 5, 2019.

Luciano Floridi, “AI as Agency Without Intelligence: on ChatGPT, Large Language Models, and Other Generative Models”, Philosophy & Technology, vol. 36, 2023.

Michelle Vaccaro, Abdullah Almaatouq, Thomas W. Malone, “When combinations of humans and AI are useful: A systematic review and meta-analysis”, Nature Human Behaviour, vol. 8, 2024.

OECD, Commissione europea, Empowering Learners for the Age of AI: An AI Literacy Framework for Primary and Secondary Education, OECD Publishing, 2026.