Credimi

Credimi è forse la parola più antica che gli esseri umani si scambiano quando la prova non basta, o non c’è. La pronuncia il bambino che giura di non aver rotto il vaso, il testimone in un’aula di tribunale, l’amico che ci racconta ciò che gli è accaduto mentre non c’eravamo. Non aggiunge nessuna informazione a ciò che è stato detto. Aggiunge una persona. Chi dice «credimi» non sta dimostrando qualcosa: sta mettendo se stesso a garanzia di ciò che afferma, e accetta di perdere qualcosa — la propria credibilità, talvolta il legame con chi lo ascolta — se si rivelerà falso.

La lingua italiana custodisce qui una distinzione che il dibattito sulla disinformazione tende a dimenticare. Credere che qualcosa sia vero non è la stessa cosa che credere a qualcuno. La prima è una relazione con un contenuto; la seconda è una relazione con una persona. Georg Simmel lo aveva colto con precisione: si crede in una persona anche senza prove della sua affidabilità, talvolta nonostante le prove contrarie, e la fiducia abita uno spazio intermedio fra il sapere e il non sapere — chi sa tutto non ha bisogno di fidarsi, chi non sa nulla non può farlo ragionevolmente. Per quasi tutta la storia umana il secondo modo di credere ha reso possibile il primo. Steven Shapin ha mostrato che persino la scienza sperimentale, nell’Inghilterra del Seicento, si è costruita così: prima di conoscere le cose bisognava conoscere le persone che le attestavano. Quasi nulla di ciò che sappiamo lo abbiamo verificato da soli. Abbiamo creduto a qualcuno.

Paul Ricoeur, che questa rubrica ha già incontrato a proposito della fedeltà a una parola data, ha descritto la struttura di questo gesto con tre frasi che vale la pena tenere insieme. Il testimone dice: io c’ero. Poi dice: credimi. E infine: se non mi credi, chiedi a qualcun altro. Presenza, promessa, esposizione alla smentita. La testimonianza non è un contenuto più affidabile degli altri: è un contenuto agganciato a qualcuno che si espone. Chi attesta si impegna a restare fedele, domani, a ciò che ha affermato oggi.

Luciano Floridi ha sostenuto che l’informazione, per essere tale, deve essere vera: un contenuto falso non è un’informazione di scarsa qualità, è disinformazione. È una tesi esigente, e credo che proprio la sua esigenza renda visibile il punto. Se la verità è la condizione dell’informazione, e se quasi nessuno di noi può accertarla da solo, allora per gran parte della nostra vita il confine fra informazione e disinformazione è stato custodito dalle persone disposte a dire «credimi». Che una cosa sia vera dipende dal mondo. Riconoscerlo, quasi sempre, è stato una relazione.

L’intelligenza artificiale generativa interviene esattamente qui. Non perché produca il falso: il falso ha sempre circolato. Ma perché produce il contenuto della testimonianza senza la sua struttura. Un testo, una voce, un volto generati possono avere tutta la forma di ciò che un testimone direbbe. Manca soltanto il resto: nessuno c’era, nessuno chiede di essere creduto, nessuno potrà essere chiamato a rispondere. Chiamerò questa forma, da qui in avanti, parola orfana: una parola credibile che nessuno ha pronunciato, e di cui nessuno risponderà. La parola orfana può essere vera o falsa. Il punto è che, comunque sia, non c’è nessuno a cui credere.

E tuttavia ci crediamo. In uno studio pubblicato su PNAS, Sophie Nightingale e Hany Farid hanno chiesto a centinaia di persone di distinguere volti reali da volti generati da un sistema di intelligenza artificiale: non ci sono riuscite meglio del caso, e hanno giudicato i volti artificiali più affidabili di quelli veri. Il dato decisivo non riguarda la qualità dell’imitazione. Riguarda la fiducia: il sentimento con cui per millenni abbiamo riconosciuto un testimone si è posato su un volto che non appartiene a nessuno.

A questo punto si può opporre un’obiezione seria, non un fantoccio. Se il problema è l’origine, la tecnica può restituirla: filigrane digitali, certificati di provenienza, sistemi che attestano da quale dispositivo proviene un’immagine e quali modifiche ha subito. Lo stesso Floridi, riflettendo sui deepfake, ha recuperato la nozione di ectipo: una copia che conserva un legame speciale con la propria fonte, come l’impronta lasciata nella cera dal sigillo. L’impronta non è il sigillo, ma vale proprio perché soltanto quel sigillo avrebbe potuto lasciarla. È un’obiezione fondata, e va concessa fino in fondo: questi strumenti possono ridurre molto lo spazio della parola orfana, e vanno costruiti. Ma un certificato attesta un processo, non una promessa. Anche l’impronta, del resto, garantisce il sigillo, non la mano che lo ha premuto. Il certificato dice da dove viene un file, non chi è disposto a risponderne. Può dirci: questa immagine proviene da questa fotocamera. Non può dirci: credimi.

C’è poi un’ipotesi più inquietante, e vale la pena enunciarla fino in fondo. Robert Chesney e Danielle Citron hanno chiamato dividendo del bugiardo il vantaggio che chi mente ricava da un mondo in cui tutto può essere falsificato: qualunque prova autentica può essere liquidata come artificiale, e il vantaggio cresce quanto più educhiamo il pubblico a diffidare. Ma quel dividendo ha un rovescio, ed è il punto che riguarda le relazioni. Se al bugiardo conviene, al testimone costa. La persona che ha davvero visto, che ha davvero subito, che dice davvero «io c’ero», si troverà sempre più spesso davanti alla stessa risposta: potrebbe essere generato. Il dividendo del bugiardo è, letto dall’altra parte, una tassa sul testimone. E la paga chi dice la verità.

Il rischio, allora, non è soltanto che crediamo a contenuti falsi. È che ci disabituiamo a credere a qualcuno. Che il modo in cui valutiamo un output, plausibile o no, verificabile o no, diventi il modo in cui ascoltiamo anche le persone, a cominciare da chi ci racconta qualcosa che non possiamo controllare. Questa rubrica ha già osservato che gli altri non sono un prompt. Non sono neppure un output. Una relazione in cui ogni parola deve essere verificata prima di essere accolta non è più una relazione di fiducia: è una procedura di controllo. Se la fiducia vive nello spazio fra il sapere e il non sapere, pretendere di chiudere quello spazio con la verifica non produce una fiducia più sicura. Ne produce la fine.

Per questo, credo, l’educazione all’epoca della parola orfana non può ridursi a insegnare il sospetto. Il sospetto universale è soltanto un’altra forma di credulità: crede, senza prove, che nessuno meriti di essere creduto. Il compito è più difficile e più antico. Insegnare a distinguere le parole orfane da quelle che hanno qualcuno dietro, e insegnare a essere, ciascuno, qualcuno dietro le proprie parole. Ogni volta che inoltriamo un contenuto che non abbiamo verificato, aggiungiamo al mondo un’altra parola orfana. Ogni volta che diciamo «l’ho visto io», oppure «non lo so, e non ne rispondo», restituiamo alla verità un testimone.

Una macchina potrà dirci, sempre più spesso e sempre meglio, che cosa è vero. Non potrà mai dirci: credimi. È in questa parola, fragile e rischiosa, che Relazioni Aumentate continua a cercare ciò che resta umano. Domenica prossima guarderà il movimento opposto: non ciò che le macchine riescono a far sembrare vero, ma ciò che noi smettiamo di essere per farci leggere da loro.

Riferimenti essenziali

Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.

Floridi, L. (2005). Is semantic information meaningful data? Philosophy and Phenomenological Research, 70(2), 351–370.

Floridi, L. (2018). Artificial intelligence, deepfakes and a future of ectypes. Philosophy & Technology, 31(3), 317–321.

Nightingale, S. J., & Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. Proceedings of the National Academy of Sciences, 119(8), e2120481119.

Ricoeur, P. (2000). La mémoire, l’histoire, l’oubli. Seuil. [Trad. it. La memoria, la storia, l’oblio. Raffaello Cortina.]

Shapin, S. (1994). A Social History of Truth: Civility and Science in Seventeenth-Century England. University of Chicago Press.

Simmel, G. (1908). Soziologie. Duncker & Humblot. [Trad. it. Sociologia. Edizioni di Comunità, 1989.]