Contro la dittatura del falso non abbiamo difese.La distinzione tra vero e fake fugge sempre più lontano ed è in mano ai monopolisti delle tecnologie. Le contromisure non bastano. E ci sono rischi per la democrazia.

La prima fake news diffusa nel era moderna era che gli ebrei erano la causa di ogni deprivazione materiale delle genti tedesche e italiane, e che le leggi discriminatorie basate sul etnia religiosa servano a difendersi dal liberismo e dal capitalismo.Ora l ultima fake news è che gli immigrati sono la causa di ogni deprivazione materiale delle genti est europee e italiane, e che future leggi discriminatorie basate sul colore della pelle servano a difendersi dal liberismo e dal capitalismo come è stato facile convincere le persone delle stesse paure, con gli stessi mezzi, suscitando gli stessi sentimenti, spingendoli a votare gli stessi partiti.

Una volta realizzata, però, la tecnologia del falso permette anche contro-mosse simmetriche per smascherarla: un processo di rovesciamento della tecnica detto reverse-engineering (invertire l’ingegneria). Purtroppo, questo limite alla onnipotenza della falsificazioni corrisponde solo al monopolio del software e rimane nelle mani del privato che lo ha prodotto. Le istituzioni pubbliche o di auto-disciplina, volte ad assicurare uno standard minimo di verità o decenza per l’informazione, sono impotenti come un teologo medievale davanti ai conflitti atomici. Gli apprendisti stregoni del software sono ormai prigionieri dei propri figli tecnologici: perfezionano, contemporaneamente, sia l’Intelligenza Artificiale del Falso, sia quella del Vero. Non sviluppano più un prodotto ma, contemporaneamente, anche il suo gemello-avversario (Gan: Generative Adversarial Network). In pratica, il software – chiamiamolo Falsificatore – viene creato insieme al suo opposto, come l’immagine in uno specchio: lo Smascheratore del Falsificatore. Mentre il primo perfeziona il falso (correggendo l’ultima imperfezione nel riprodurre un orecchio del finto Obama), il secondo, che dispone degli stessi dati, perfeziona la sua capacità di riconoscere la falsificazione. Ma a questo punto, essendo a lui gemellato, il Falsificatore impara questa contromossa e si affina a sua volta, rendendo la falsificazione ancor meno riconoscibile. E così via. In questo modo, la distinzione tra vero e falso fugge sempre più lontano dal pubblico e riposa comodamente in grembo ai monopolisti di queste tecnologie. Con gravi rischi per la democrazia: fino a poco fa, si garantiva che le campagne elettorali disponessero degli stessi centimetri per le affissioni e degli stessi secondi di trasmissione. Con internet e i social, tutti possono dire tutto: e aspettarsi che la menzogna venga riprodotta al’infinito, senza conseguenze.

l pericolo è reso grave dalla possibilità che gruppi seminatori di odio producano falsi video che diffamano gli ultimi politici ancora meritevoli di questo nome. Per il momento sul sito di Face2Face vediamo un attore che fa le boccacce. Accanto a lui, su uno schermo precedentemente nutrito dal software, il viso di Bush obbedisce, riproducendo esattamente le medesime smorfie: con una precisione mimica che ingannerebbe anche la signora Bush. Ma immaginiamo per un attimo che venga immesso in rete un falso Youtube in cui Obama dichiara: «Ora, a presidenza finita, lo posso confessare: sono musulmano e mi auguro che l’Islam trionfi nel mondo». Per i gruppi razzisti che gli hanno rivolto più calunnie che a qualunque presidente nella storia sarebbe gran festa. La loro aggressività – pari solo a una ignoranza che non permetterebbe loro di intuire il falso – non avrebbe limiti. Il Gan detentore della tecnologia che ha permesso la falsificazione, i portavoce di Obama, le istituzioni americane, potrebbero diffondere smentite corredate di ogni prova: ma ormai il disastro sarebbe avvenuto, il video riprodotto a milioni e difficile da cancellare del tutto. Nessuno è mai riuscito a ritirare dallo spazio pubblico i presupposti su cui la circolazione di un falso può contare: volgarità, cinismo e ignoranza. Oltre a rovinare la vita di un uomo pubblico, i falsi video possono distruggere l’esistenza privata di chiunque, perché mettono in circolazione parti private come le labbra. Quelle di Scarlett Johansson stanno percorrendo il mondo intente a un atto erotico, in un video dove fortunatamente la falsificazione è abbastanza riconoscibile.

Queste tecnologie sono pericolose perché potrebbero minare le ultime garanzie di informazione obiettiva, quindi di dibattito, quindi di elezioni democratiche. In un certo senso, il pericolo potenziale che rappresentano è tale che il loro controllo andrebbe affidato addirittura alle Nazioni Unite, come se si trattasse di un Trattato di Non Proliferazione Nucleare. Purtroppo, a differenza della prevenzione di un conflitto nucleare, che è nel’interesse di tutti i paesi, quella del disastro che da esse può derivare è nel’interesse dei soli paesi democratici: i quali restano una minoranza (Index of Democracy dell’Economist). Questa, ed altre tecnologie informatiche creatrici di illusioni virtuali, continueranno quindi ad avanzare sulla loro strada.