Per molto tempo ci siamo domandati che cosa le macchine sarebbero state capaci di fare al posto nostro. Oggi, davanti alla straordinaria diffusione dell’intelligenza artificiale, dovremmo cominciare a porci una domanda diversa: che cosa rischiamo di non essere più capaci di fare noi? Non è un interrogativo nostalgico, né il tentativo di opporre una presunta superiorità dell’uomo alla potenza della tecnologia. È una questione educativa, culturale e civile. Perché il progresso non coincide necessariamente con l’aumento delle prestazioni e una società tecnologicamente più efficiente non è, per questo solo motivo, una società più libera.

Luciano Floridi, tra i maggiori filosofi contemporanei dell’informazione, ha contribuito a modificare profondamente il nostro modo di comprendere la trasformazione digitale. La sua riflessione sull’infosfera ci invita a riconoscere che le tecnologie non sono più semplicemente strumenti esterni alla nostra esistenza. Concorrono a costruire l’ambiente nel quale viviamo, comunichiamo, apprendiamo e sviluppiamo la nostra identità. Non siamo soltanto persone che utilizzano strumenti digitali. Siamo persone che abitano una realtà profondamente trasformata dall’informazione.

In questo orizzonte si colloca, con una propria identità teorica, la Carta Viva per la compatibilità umana nell’età digitale e dell’intelligenza artificiale, elaborata da Alfonso Benevento, docente universitario e studioso delle relazioni tra persona, tecnologie e società. Il documento propone dodici principi attraverso i quali interrogare il rapporto tra innovazione tecnologica e condizione umana.

La Carta non nasce per contrapporre l’uomo alla macchina, né per frenare il progresso. Introduce piuttosto un criterio: una tecnologia non dovrebbe essere valutata soltanto per ciò che riesce a fare, ma anche per ciò che consente alle persone di continuare a essere e a diventare. Il dialogo con il pensiero di Floridi appare particolarmente fecondo proprio su questo terreno. Se le tecnologie contribuiscono a configurare l’ambiente della nostra esistenza, come sostiene il filosofo, diventa indispensabile interrogarsi sulle condizioni umane che tale ambiente conserva, modifica o rischia di compromettere.

È una questione che riguarda tutti, ma che nella scuola assume un significato decisivo. La persona non può diventare una variabile del sistema. Il primo principio della Carta Viva afferma il primato della persona. Può sembrare scontato. Non lo è affatto. Nelle nostre società accade sempre più frequentemente che siano le persone a doversi adattare ai sistemi tecnologici, ai loro tempi e alle loro procedure. La promessa iniziale era che la tecnologia avrebbe semplificato la vita umana. Il rischio è che sia progressivamente la vita umana a dover diventare compatibile con la tecnologia. La filosofia dell’informazione di Floridi richiama la necessità di progettare responsabilmente gli ambienti digitali, riconoscendo che le scelte tecnologiche hanno conseguenze etiche e sociali. La dignità della persona non può essere una condizione da verificare alla fine del processo innovativo. Deve rappresentarne il punto di partenza. Un sistema di intelligenza artificiale può aiutare un insegnante a individuare difficoltà di apprendimento o differenziare le attività. Ma non può diventare il criterio esclusivo attraverso il quale definire le possibilità di uno studente. Un ragazzo non coincide con i dati che lo descrivono, con la previsione del suo rendimento o con il profilo elaborato da un algoritmo. L’educazione comincia proprio dal riconoscimento che ogni persona può diventare qualcosa di diverso da ciò che le sue prestazioni precedenti lasciano prevedere. Dimenticarlo significherebbe rischiare di trasformare la personalizzazione dell’apprendimento in una sofisticata forma di classificazione. Saper utilizzare non significa saper comprendere. La Carta Viva introduce una distinzione essenziale tra uso e utilizzo della tecnologia. Saper attivare un sistema non significa comprenderne necessariamente le finalità, i limiti e le conseguenze. Per anni abbiamo considerato la familiarità con i dispositivi come un indicatore di competenza, chiamando i giovani nativi digitali e attribuendo loro una capacità quasi naturale di abitare il mondo tecnologico. Oggi questa rappresentazione mostra tutta la propria insufficienza. Un adolescente può utilizzare con disinvoltura un sistema di intelligenza artificiale senza distinguere una risposta plausibile da un’informazione verificata. Può produrre un elaborato convincente senza averne compreso pienamente il contenuto. Può ottenere un risultato senza aver attraversato il processo conoscitivo necessario per valutarlo. La disponibilità di informazioni non coincide automaticamente con la conoscenza. E la capacità computazionale di elaborare dati non equivale alla comprensione umana del loro significato. La Carta Viva traduce questa esigenza in due principi collegati: la comprensione deve essere proporzionata alla delega e la risposta non può essere confusa con la prova. Quanto più affidiamo a un sistema tecnologico, tanto più dobbiamo conservare la capacità di comprenderne il ruolo e verificarne gli esiti. Non significa pretendere che ogni cittadino conosca il funzionamento matematico dell’intelligenza artificiale. Significa che nessuna delega importante dovrebbe comportare la rinuncia a capire ciò che viene deciso e perché. Per la scuola è una sfida fondamentale. Non basta insegnare agli studenti a formulare richieste efficaci. Occorre educarli a riconoscere quando una risposta non è sufficiente, quando è necessaria una fonte, quando bisogna sospendere il giudizio. Una buona domanda, oggi, può avere un valore educativo maggiore di una risposta immediata. Il diritto di dubitare è una conquista democratica. Tra i principi più significativi della Carta Viva compare il diritto al dubbio e alla contestazione. Viviamo in un’epoca nella quale la velocità delle risposte tende a ridurre il tempo delle domande. L’intelligenza artificiale produce testi ordinati, argomentazioni coerenti nella forma e indicazioni che possono assumere un’apparenza autorevole. Ma la fluidità del linguaggio non garantisce la verità delle informazioni. Nella formazione del pensiero critico, il dubbio non rappresenta un difetto della conoscenza. Ne costituisce una condizione. Il diritto di contestare una decisione mediata da un algoritmo significa riconoscere che l’efficienza non può sostituire la giustificazione. Una decisione che riguarda una persona deve poter essere interrogata, discussa e, quando necessario, modificata. Questa esigenza riguarda ambiti delicati come l’istruzione, la sanità, il lavoro e l’accesso ai servizi. Una scuola che educa alla cittadinanza non può insegnare soltanto a utilizzare correttamente gli strumenti. Deve insegnare anche a riconoscere quando uno strumento non merita fiducia. Il cittadino competente non è colui che accetta più rapidamente una risposta tecnologica, ma colui che conserva la capacità di valutarla. Delegare non significa rinunciare alla responsabilità. Delegare è una caratteristica della civiltà umana. Lo abbiamo sempre fatto attraverso strumenti, istituzioni e competenze specialistiche. L’intelligenza artificiale introduce tuttavia una novità: possiamo affidare ai sistemi artificiali anche attività che intervengono nella produzione di contenuti, nella formulazione di valutazioni e nella preparazione delle decisioni. La Carta Viva affronta questo problema attraverso tre principi: la reversibilità della delega, la non dissoluzione della responsabilità e la responsabilità nell’invisibilità. Una decisione non diventa irresponsabile perché è stata distribuita tra molte persone e molti sistemi. E una procedura non diventa necessariamente giusta perché nessuno riesce più a ricostruire chi abbia contribuito a determinarne l’esito. Floridi ha dedicato una parte importante della propria riflessione all’etica dell’informazione e alla responsabilità negli ambienti tecnologici complessi. La crescente autonomia operativa dei sistemi artificiali rende questa questione ancora più urgente. Se un algoritmo contribuisce a una valutazione sbagliata, chi ne risponde? Chi lo ha progettato, chi lo ha adottato, chi lo ha utilizzato o chi avrebbe dovuto controllarlo? La risposta non può consistere nella scomparsa della responsabilità dentro la complessità tecnica. Per questo le deleghe rilevanti devono poter essere corrette, interrotte o riportate sotto controllo umano in misura proporzionata ai rischi. Anche nella scuola dobbiamo evitare un equivoco: utilizzare l’intelligenza artificiale per sostenere il lavoro educativo non significa trasferirle la responsabilità dell’educazione. Un dirigente scolastico può servirsi di sistemi intelligenti per migliorare l’organizzazione. Un insegnante può impiegarli per progettare attività o analizzare informazioni. Ma il giudizio educativo, proprio perché riguarda una persona e il suo futuro, richiede una responsabilità che non può dissolversi nella procedura. La tecnologia può partecipare al processo. Non può diventare l’alibi di chi dovrebbe risponderne. La persona è più importante dei dati che la rappresentano. Nell’infosfera descritta da Floridi, la nostra identità è sempre più coinvolta nella produzione e circolazione delle informazioni. Non si tratta soltanto di proteggere dati personali da accessi illegittimi. Le informazioni contribuiscono anche a definire il modo in cui veniamo rappresentati, valutati e trattati. La Carta Viva richiama per questo la protezione contestuale dei dati e dell’identità: la possibilità tecnica di utilizzare un’informazione non ne rende automaticamente legittimo o opportuno l’impiego. Non tutto ciò che possiamo conoscere di uno studente deve essere raccolto. Non tutto ciò che possiamo misurare deve diventare un indicatore di valutazione. Non tutto ciò che possiamo prevedere deve condizionare le opportunità che gli vengono offerte. Il rischio è la progressiva riduzione della persona alla sua rappresentazione informazionale. A questo si collega il principio di proporzione: una tecnologia va utilizzata quando il bisogno, il beneficio atteso, le alternative disponibili e le conseguenze ne giustificano l’impiego. L’innovazione non dovrebbe diventare un obbligo culturale al quale adeguarsi indipendentemente dalle necessità. A volte la scelta più intelligente consiste nell’utilizzare una tecnologia avanzata. Altre volte nel riconoscere che non è necessaria. Anche questa è maturità digitale. Una scuola che restituisca capacità, non soltanto prestazioni. La questione educativa più importante emerge forse dall’undicesimo principio della Carta Viva, dedicato alla tutela e all’ampliamento dell’agency, cioè della capacità della persona di formulare intenzioni, agire, valutare e decidere. Da tempo misuriamo l’efficacia dei processi educativi attraverso risultati, competenze e prestazioni. Sono dimensioni importanti, ma non esauriscono il significato dell’educazione. Uno studente può ottenere risultati migliori grazie all’intelligenza artificiale e, contemporaneamente, diventare meno autonomo nel raggiungerli. Può scrivere testi più corretti, ma esercitare meno la capacità di costruire un ragionamento. Può risolvere problemi complessi, ma perdere familiarità con la fatica necessaria per comprenderli. Non è una conseguenza inevitabile dell’innovazione. Dipende dal modo in cui la introduciamo. L’intelligenza artificiale può anche sostenere chi incontra difficoltà, rendere accessibili conoscenze prima lontane e consentire agli insegnanti di dedicare maggiore attenzione alle relazioni educative. La differenza sta nel progetto pedagogico. Una scuola che utilizza l’intelligenza artificiale per sostituire sistematicamente l’esercizio del pensiero rischia di impoverire proprio le capacità che dovrebbe sviluppare. Una scuola che la utilizza per stimolare domande, confrontare interpretazioni, verificare ipotesi e sostenere percorsi di autonomia può invece rafforzare la formazione della persona. Non dovremmo quindi domandarci soltanto se gli studenti imparano di più grazie all’intelligenza artificiale. Dovremmo chiederci se diventano più capaci di imparare, anche quando l’intelligenza artificiale non è disponibile. È una differenza sostanziale. La compatibilità umana come misura del progresso. Il dodicesimo principio della Carta Viva riassume e supera gli altri: una tecnologia deve essere valutata anche per la qualità delle condizioni umane che conserva o amplia durante e dopo il suo utilizzo. Siamo abituati a valutare l’innovazione attraverso velocità, produttività, precisione e riduzione dei costi. Sono parametri legittimi, ma insufficienti. Dovremmo domandarci anche quanta autonomia rimane alle persone dopo aver utilizzato un sistema, quanta capacità di giudizio viene conservata, quali opportunità vengono create e quali dipendenze rischiano di consolidarsi. Il pensiero di Floridi ci aiuta a comprendere perché questa domanda sia fondamentale. Se la tecnologia contribuisce a modellare l’ambiente della nostra esistenza, la qualità etica di quell’ambiente diventa una questione collettiva. La compatibilità umana non significa pretendere che le tecnologie assomiglino alle persone. Significa progettare e governare tecnologie che non impoveriscano le condizioni necessarie per vivere da persone. Per la scuola, questo principio ha conseguenze decisive. Non possiamo limitarci a preparare i giovani a un mercato del lavoro nel quale l’intelligenza artificiale sarà sempre più presente. Dobbiamo prepararli a essere cittadini capaci di orientare, discutere e, quando necessario, contestare le trasformazioni tecnologiche. Educare non significa soltanto rendere le nuove generazioni adatte al mondo che troveranno. Significa dare loro gli strumenti per giudicare quel mondo e, possibilmente, migliorarlo. La scuola non deve formare ragazzi compatibili con gli algoritmi. Deve contribuire a costruire una società nella quale gli algoritmi rimangano compatibili con la dignità dei ragazzi. È questa, probabilmente, una delle responsabilità più impegnative che attendono gli adulti. Perché l’intelligenza artificiale continuerà a evolvere, diventerà più potente e assumerà compiti oggi difficili da immaginare. Ma nessun progresso tecnico potrà risolvere al nostro posto la questione del significato che intendiamo attribuire alla libertà, alla conoscenza e alla responsabilità. La Carta Viva si chiude ricordando che la tecnologia cambia, mentre la responsabilità di restare soggetti delle nostre decisioni non può essere delegata. È un’affermazione che riguarda prima di tutto il mondo dell’educazione. Abbiamo il dovere di insegnare ai giovani a convivere con macchine sempre più capaci. Ma abbiamo un dovere ancora maggiore: impedire che, diventando più capaci le macchine, siano gli esseri umani a sentirsi meno capaci di pensare, scegliere e assumersi la responsabilità del proprio futuro.

Il vero fallimento dell’intelligenza artificiale non sarebbe costruire macchine incapaci di pensare come noi. Sarebbe crescere generazioni convinte di non poter più pensare senza di loro.

Mario Rusconi

Direttore del Dipartimento di Intelligenza Artificiale, Etica sociale, Formazione e Lavoro – Consorzio Universitario Humanitas, Roma

 

Riferimenti essenziali

Floridi, L. (2013). The Ethics of Information. Oxford University Press.

Floridi, L. (2014). The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. Oxford University Press.

Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford University Press.

Benevento, A. (2026). Carta Viva per la compatibilità umana nell’età digitale e dell’intelligenza artificiale (Versione 1.1). Zenodo. https://doi.org/10.5281/zenodo.23882549