La disinformazione sintetica

Il rischio più profondo del nostro tempo non è che il falso diventi più credibile, ma che il vero, pur restando vero, diventi più solo. Ogni epoca ha avuto le proprie menzogne, propagande, falsificazioni, strategie per orientare la percezione collettiva. Oggi si apre una soglia diversa: il falso non si limita più a negare il vero o a deformarlo, può riprodurne le forme, imitarne i segni, occuparne il posto, assumere l’apparenza di una prova, di una voce, di una testimonianza. La disinformazione sintetica nasce dentro questa soglia. Non è semplicemente una menzogna prodotta da una macchina. È la possibilità che il falso si presenti come realtà già formata, presenza apparentemente umana, evidenza pronta a suscitare fiducia prima ancora di essere interrogata. Non arriva soltanto per convincere. Arriva per abitare il nostro sguardo, orientare la nostra reazione, rendere più difficile il lavoro della distinzione. Il vero, allora, non scompare, ma viene circondato: da immagini che gli somigliano, voci che ne imitano il tono, scene che sembrano accadute, testimonianze senza testimoni, prove che non nascono da un evento. Il problema non è soltanto che qualcuno possa credere al falso, ma che, dopo molte simulazioni, anche il vero deve faticare per essere creduto, difendersi dal sospetto di essere artificiale, dimostrare di non essere uno dei suoi doppi. Questa è la ferita nuova: l’orfanezza del vero. 
Il vero diventa orfano quando non basta più mostrarlo, perché occorre continuamente dimostrare da dove venga, chi lo assuma, quale metodo lo sostenga, quale responsabilità lo custodisca; o quando una prova, per essere riconosciuta, deve prima difendersi dall’ipotesi di essere stata costruita. E diventa orfano quando una voce reale deve attraversare il dubbio di essere stata clonata, o quando una persona deve difendersi da parole che non ha detto, da immagini che non le appartengono, da scene che non ha vissuto. 
La disinformazione sintetica non uccide il vero negandolo. Lo indebolisce separandolo dalla fiducia che dovrebbe accompagnarlo, lasciandolo in uno spazio più freddo, più sospettoso, più instabile. Fa sì che la verità, anche quando esiste, debba cercare qualcuno che la sostenga, una comunità che la riconosca, istituzioni che la garantiscano, cittadini che non si stanchino di verificarla. Una società non vive soltanto di fatti. Vive del modo in cui i fatti vengono riconosciuti, assunti, discussi, custoditi. Il fatto, da solo, non basta a costruire vita pubblica. Ha bisogno di fonti, procedure, metodi, testimonianze, responsabilità. Necessita di una casa civile. Quando questa casa si indebolisce, non è soltanto l’informazione a entrare in crisi: anche la fiducia che rende possibile la convivenza. Qui la disinformazione sintetica rivela la propria natura più profonda. Produce solitudine del vero. Costringe la realtà a difendersi dalla sua copia, la testimonianza dalla sua imitazione, la presenza umana dalla propria superficie artificiale. In questo senso, il falso sintetico è più pericoloso della menzogna tradizionale: questa, anche quando era potente, aveva ancora un rapporto con qualcuno che mentiva. C’era un soggetto, un interesse, una intenzione, una responsabilità possibile da ricostruire. La falsificazione poteva essere nascosta, ma restava dentro un orizzonte umano. La disinformazione sintetica, invece, può generare presenze senza esperienza, può produrre il suono di una voce senza il corpo che l’ha pronunciata, un volto senza una biografia, una scena senza un accadimento, una dichiarazione senza che qualcuno abbia scelto di pronunciarla. Il falso non viene più soltanto detto ma messo in scena come se fosse stato vissuto. 
È qui che la questione diventa antropologica. 
L’uomo, per secoli, ha potuto mentire. Ma anche quando mentiva, restava implicato nella propria menzogna. Ora può circolare una parola dall’apparenza umana senza un uomo che l’abbia assunta. Può circolare un volto senza presenza, una testimonianza senza testimone. La macchina non si limita a produrre contenuti; può produrre apparenze di esperienza. Questa trasformazione tocca il cuore delle relazioni aumentate. Ogni relazione mediata da tecnologie continua ad avere bisogno di riconoscimento. Non ci basta ricevere un messaggio; abbiamo bisogno di sapere da dove venga. Non ci basta ascoltare una voce; abbiamo bisogno di sapere a quale vita appartenga. Non ci basta vedere un volto; abbiamo bisogno di poterlo ricondurre a una persona, a una storia, a una presenza non ridotta a materiale manipolabile. 
La relazione umana non vive soltanto di comunicazione. Vive di affidamento. 
L’affidamento nasce quando ciò che appare può essere ricondotto a qualcuno o a qualcosa che ne risponda: una persona, una fonte, una procedura, una istituzione, una comunità di verifica. Se questo legame si spezza, i contenuti aumentano ma il mondo si fa più povero. Aumentano le immagini, ma diminuisce la fiducia nello sguardo. Aumentano le voci, ma diminuisce la fiducia nell’ascolto. Aumentano le informazioni, ma diminuisce la certezza che qualcuno ne sostenga il peso. Una società attraversata da disinformazione sintetica rischia così di diventare più comunicante e meno capace di credere civilmente: meno capace di riconoscere che qualcosa possa essere vero, verificabile, assumibile. Il sospetto diventa una postura ordinaria. Ogni prova può essere trattata come costruzione, ogni fonte come interesse, ogni competenza come opinione, ogni testimonianza come versione. 
Ma il sospetto permanente non è pensiero critico. 
Il pensiero critico richiede metodo, tempo, distinzione, confronto. Il sospetto permanente consuma la fiducia senza produrre conoscenza. Non libera il cittadino; lo stanca. E il cittadino stanco non cerca necessariamente il vero. Cerca una narrazione che lo rassicuri, un gruppo che lo confermi, una spiegazione che gli risparmi la fatica della complessità. È questa una delle vittorie più sottili della disinformazione sintetica: non convincere tutti di una menzogna, ma rendere molti incapaci di sostenere la fatica del vero. Il vero, infatti, è faticoso. Richiede tempo, mediazioni, fonti, competenze, verifiche, pazienza. Richiede anche un’etica della parola. La menzogna sintetica, al contrario, può essere immediata, emozionante, plausibile, costruita per aderire alle nostre paure, ai nostri desideri, alle nostre appartenenze. Non chiede di essere pensata; chiede di essere sentita. La manipolazione più profonda non passa sempre dalla convinzione. Passa dalla predisposizione. Una società può essere orientata prima ancora di essere persuasa: spinta a indignarsi prima di verificare, a condividere prima di comprendere, a giudicare prima di interrogare. Quando l’emozione precede stabilmente la prova, il falso ha già ottenuto qualcosa: ha modificato il clima nel quale il vero dovrà essere accolto. Per questo la disinformazione sintetica non riguarda soltanto le piattaforme o la sicurezza digitale. Riguarda la qualità della nostra vita pubblica. Riguarda il giornalismo, la politica, la giustizia, la ricerca, l’università, la scuola, le istituzioni, i cittadini. Riguarda ogni luogo in cui una società decide che cosa meriti fiducia e a quali condizioni. La risposta tecnica è necessaria, ma insufficiente. Servono strumenti di autenticazione, tracciabilità, verifica, regolazione, responsabilità delle piattaforme. Ma nessuno strumento potrà da solo restituire al vero la sua casa civile. La tecnica può segnalare, controllare, certificare, limitare. Non può sostituire la cultura della responsabilità. Non può generare da sola cittadini capaci di distinguere, istituzioni autorevoli, giornalismo rigoroso, ricerca credibile, comunità attente. 
Il compito più alto è ricostruire una cultura della custodia del vero. 
Custodire il vero non significa possederlo in modo arrogante. Non significa imporre una verità unica, chiusa, indiscutibile. Significa difendere le condizioni che rendono possibile cercarlo insieme. Significa proteggere il valore delle fonti, la dignità della prova, la serietà del metodo, la responsabilità della parola, la pazienza del giudizio. Significa non abbandonare il vero alla velocità delle reazioni né alla freddezza degli algoritmi. In questa prospettiva, l’educazione ha un ruolo essenziale, ma non esclusivo. La scuola e l’università non sono chiamate soltanto a insegnare come riconoscere un contenuto falso. Sono chiamate a formare il rapporto con la realtà. Devono educare a non confondere il credibile con il vero, il plausibile con il verificato, l’emozione con la prova, la reazione con il giudizio. Devono formare persone capaci di sostare davanti a ciò che appare, prima di consegnarlo al circuito della condivisione. Ma sarebbe riduttivo affidare tutto all’educazione scolastica. La custodia del vero è un compito sociale. Appartiene alle istituzioni quando comunicano, al giornalismo quando titola, alla politica quando semplifica, alle piattaforme quando disegnano ambienti di visibilità, ai cittadini quando rilanciano contenuti senza interrogarsi sul loro peso. Ogni parola pubblica partecipa alla qualità dell’ambiente comune. Questo è il punto: il vero non vive soltanto nei luoghi che lo certificano. Vive anche nei comportamenti che lo rispettano. 
La disinformazione sintetica diventa allora una prova di maturità civile. Ci chiede se siamo ancora disposti a rallentare davanti a ciò che ci colpisce, a verificare ciò che ci conferma, a sospendere ciò che ci indigna, a non trasformare ogni emozione in giudizio pubblico. Ci chiede se vogliamo essere soltanto utenti che reagiscono o cittadini che rispondono delle proprie reazioni. La dignità della persona entra qui con forza. Quando una voce può essere imitata, un volto separato dalla sua storia, una immagine attribuita falsamente, una reputazione ferita da un contenuto che continuerà a circolare anche dopo la smentita, la questione non riguarda soltanto la privacy. Riguarda l’integrità simbolica della persona. Riguarda il diritto a non essere sostituiti dalla propria imitazione. Riguarda la possibilità di non dover dimostrare continuamente di non essere il proprio doppio artificiale. Il danno del falso sintetico non finisce con la correzione. La smentita può ristabilire un fatto, ma non sempre ripara la percezione. Ciò che è stato visto, condiviso, commentato, temuto, deriso o odiato lascia spesso una traccia. Il falso non occupa soltanto il presente; può sporcare la memoria. Può lasciare addosso a una persona un’ombra che la verità fatica a togliere. Una società che non protegge questa dimensione prepara un ambiente in cui tutti diventano più esposti. Non soltanto esposti al giudizio degli altri, ma esposti alla possibilità che qualcosa parli, appaia o agisca al nostro posto. È una vulnerabilità nuova, perché non riguarda solo ciò che facciamo, ma ciò che può essere fatto apparire come nostro. A questo livello, la questione tecnologica diventa definitivamente questione umana. Non basta chiedersi che cosa l’intelligenza artificiale possa produrre. Bisogna chiedersi quale idea di uomo vogliamo difendere in un tempo in cui i segni dell’uomo possono essere generati senza l’uomo. Ogni aumento della potenza di simulazione dovrebbe essere accompagnato da un aumento della responsabilità civile. Ogni nuova capacità di produrre presenze artificiali dovrebbe far crescere la cura per la presenza umana. La disinformazione sintetica sarà una delle prove decisive della nostra vita pubblica perché renderà più difficile riconoscere ciò che merita fiducia. Non cancellerà il vero, ma lo costringerà a vivere in mezzo a imitazioni sempre più persuasive. Non eliminerà la testimonianza, ma ne produrrà simulacri. Non distruggerà la realtà, ma la renderà più faticosa da abitare. 
Il compito, allora, non sarà soltanto smascherare il falso. Sarà non lasciare il vero orfano.
Non lasciare il vero orfano significa dargli fonti, metodi, istituzioni, parole responsabili, cittadini capaci di giudizio. Significa ricordare che una società non vive soltanto di contenuti che circolano, ma di realtà che qualcuno accetta di custodire. Significa opporsi a un mondo in cui tutto può apparire vero e sempre meno persone si sentono chiamate a risponderne. 
È da qui che bisogna ripartire: non dalla paura della macchina, ma dalla responsabilità dell’uomo. 
Perché una società non si perde soltanto quando non distingue più il vero dal falso. 
Si perde quando il vero resta senza custodi.

Riferimenti bibliografici

Arendt, H. (1967). Verità e politica. Trad. it. Torino: Bollati Boringhieri, 2004.

Baudrillard, J. (1981). Simulacri e simulazione. Trad. it. Milano: Pgreco, 2008.

Chesney, R., Citron, D. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, 107(6), 1753–1819.

Fallis, D. (2021). The Epistemic Threat of Deepfakes. Philosophy & Technology, 34, 623–643.

Floridi, L. (2014). La quarta rivoluzione. Come l’infosfera sta trasformando il mondo. Milano: Raffaello Cortina, 2017.

Rini, R. (2020). Deepfakes and the Epistemic Backstop. Philosophers’ Imprint, 20(24), 1–16.

PixelPost.it è una testata registrata presso il Tribunale di Roma, n°164 del 15 Dicembre 2023