"Che vuol dire reale? Dammi una definizione di reale. Se ti riferisci a quello che percepiamo, a quello che possiamo odorare, toccare e vedere, quel reale sono semplici segnali elettrici interpretati dal cervello. " - Morpheus, The Matrix, 1999
In questi giorni, abbiamo assistito in molti alla celeberrima reinterpretazione di Jim Carrey, di una delle scene Cult di Shining, eseguita originariamente da un eccezionale Jack Nicholson. Le movenze e i tempi di Carrey sono impressionanti, l'attore riesce a riprodurre quasi "alla lettera" la mimica e le espressioni di Nicholson. Questo video è stato virale per molto tempo e non fa che confermare la bravura dell'attore Canadese (Carrey).
Carrey è da sempre avvezzo a imitazioni di ogni sorta come nel 1999, durante gli MTV Movie Awards in cui si presentò con le sembianze di Jim Morrison.
Peccato che questa volta, nonostante l'estrema somiglianza e l'indissolubile bravura dell'attore non si tratta di una prestazione da Oscar, semplicemente perchè ad imitare Nicholson non è Jim Carrey!
Deepfakes: tra false notizie e apprendimento adattivo computazionale
Ci troviamo di fronte a una nuova dimensione di manipolazione mediatica e questa potrebbe non essere una buona notizia: il Deepfake.
Questo termine anglosassone sta a indicare la più fine e sofisticata combinazione tra due delle minacce più temibili della nostra epoca: Fake news e deep learning. Rispettivamente la prima sta a indicare articoli redatti con informazioni inventate, distorte o ingannevoli, rese pubbliche con il deliberato scopo di disinformare o mistificare attraverso i mezzi di comunicazione. La seconda, forse ancora più inquietante è una branca dell'intelligenza artificiale che raccoglie un insieme di metodi come statistica computazionale, riconoscimento di pattern, reti neurali artificiali, filtraggio adattivo, teoria dei sistemi dinamici, elaborazione delle immagini, data mining, algoritmi adattivi, ecc; che utilizza metodi statistici per migliorare progressivamente la performance di un algoritmo nell'identificare pattern nei dati e... creare un apprendimento automatico (fonte Wikipedia).
In poche parole deepfake è un apprendimento profondo che sfrutta il machine learning e consiste nella sostituzione di un volto, mimica facciale, microespressioni e voce all'interno di una clip video già esistente. Questo rappresenta un utilizzo incontrollato e selvaggio dell'intelligenza artificiale che punta alla disinformazione e rischia di decadere in una spaventosa apocalisse mediatica. Pensiamo infatti alle ripercussioni che un uso errato di tale tecnologia possa implicare, immaginiamo l'impatto che ciò possa avere sulle relazioni internazionali, sulla comunicazione politica e sulla propaganda.
L'era in cui i nostri nemici possono dire o fare qualsiasi cosa vogliamo, in qualsiasi momento
Immaginiamo ora se circolasse in rete un video che riproduce le affermazioni di un personaggio al centro della scena politica, o economica mondiale.
Qualcuno deve averci pensato prima di noi, il seguente video riproduce l'ex Presidente degli Stati Uniti Barack Obama e lo sentiamo affermare “Stiamo entrando in un’era nella quale i nostri nemici possono far dire qualsiasi cosa, a chiunque, in qualsiasi momento”. Non ci sarebbe nulla di strano se quello a parlare fosse realmente Barack Obama.
Grazie alle tecnologie oggi esistenti, possiamo permettere alle macchine di fare propaganda per noi, convogliando nello spazio digitale, del materiale audiovisivo totalmente artefatto, ma altamente verosimile. Secondo un articolo di Forbes, il Falso Profondo, è inteso come il livello di sofisticazione raggiungibile, che il livello di opacità di chi immette questi materiali in rete. Come spesso accade, è stata la pornografia ad aver aperto la strada del Deepfake: Fakeapp è stato già usato per giustapporre volti di personaggi famosi su contenuti per adulti.
Anche alcuni di noi si sono divertiti a utilizzare una App similare per vedere come potremmo essere con o senza barba, con cinquant'anni in più e i capelli bianchi. La brutta notizia è che abbiamo messo queste immagini in rete (il solo fatto di scattarci una foto e utilizzare la app, ha fatto si che la foto venisse caricata su un database a nostra insaputa, senza necessariamente condividerla su un social). Grazie a ciò abbiamo contribuito all'apprendimento della "macchine", in modo che se un domani, tra cinquant'anni magari, fossimo ricercati, il nostro identikit sarà già bell'e pronto. Qualcosa del genere.
Le trappole cognitive
Il drammatico problema di questa tecnologia, o meglio del suo incauto utilizzo, è che possa essere utilizzata per rinforzare ulteriormente le convinzioni di utenti che hanno idee meno polarizzate su uno specifico argomento.
Tipico esempio del Bias di conferma: l'andare a ripescare nella memoria fonti o idee che confermino le nostre tesi.
Fortunatamente in italia, ancora non ci sono evidenti esempi di questo tipo di manipolazione.
Il deepfake nelle relazioni digitali
Un ulteriore problema potrebbe avere risvolti sociologici e psicologici. Nel 2018 il sito Mashable definì i deepfakes come "l'ultima crisi morale di internet".
Il problema sociale, implica non solo il nostro più comune Lifting da social Network (l'arte di scolpirsi, di rendersi esteticamente attraenti e piacenti sulle piattaforme social, anche attraverso filtri e software di miglioramento fotografico), con le conseguenti ripercussioni, che possono essere sintetizzate nel fornire una falsa identità (esteriore in questa accezione) e nella perdita della stessa. Le modifiche estetiche apportate dai software riguardano in questo caso anche la reputazione sociale. il ben più classico fotomontaggio attraverso i deepfake potrebbe divenire un accurato "videomontaggio" in cui chiunque potrebbe guardagnarsi un curriculum di apparizioni importanti e fallaci, alimentando e accreditando la costruzione di un falso Sè, nella più psicotica delle accezioni.
Il termine falso sé, dello psicoanalista Donald Winnicott (Sviluppo affettivo e ambiente, 1965), indica una modalità patologica di sviluppo dell’identità che prende le forma dai primissimi stati dello sviluppo infantile là dove il bambino non trova nella madre rispecchiamento dei suoi bisogni e desideri, ma cresce assecondando i bisogni e desideri di lei e imparando via via a fondare il proprio senso di identità nell’accondiscendere alle richieste altrui.
La trappola è che, una volta adulti, si finisce per non sapere più chi si è, incapaci di contattare desideri e bisogni autentici diventando così schiavi del giudizio sociale e dell’approvazione altrui e incapaci di accedere ad un’autentica dimensione di desiderio e di intimità relazionale.
Il Falso Sè viene alimentato, dall'Io Ideale, concetto Freudiano che sta a indicare quella formazione inconscia caratterizzata da onnipotenza narcisistica, che si identifica negli eroi della nostra epoca e nelle tendenze sociali. Tali ingredienti prendono vita nel Cyberspazio realizzandosi nel Sè digitale. I tratti patologici di queste due tendenze dell'Io, vengono costantemente rinforzate socialmente nel loro utilizzo. Il rischio più plausibile non è solamente il rinforzo di un'identità fittizia, ma il lento e virale decadere in un'astrazione tanto psicotica quanto realistica di ciò che si vorrebbe essere.
Prospettive future
Una prospettiva che fin'ora non sembra essere stata trattata tra le fonti (accreditate) che parlano di questo fenomeno, riguarda il futuro di questa tecnologia, che porta con se una macabra, ma plausibile accezione: risvegliare i morti.
Potrebbe essere plausibile infatti, utilizzare tale tecnologia, per lo scopo antimorale per eccellenza. Si tratta di un'ipotesi ovviamente, ma mettiamo caso si possano immettere ricordi di una persona realmente esistita in un software, educare il programma a reagire e comportarsi ed imparare nuovamente come questa persona. Basterebbe in questo caso applicare una serie di deepfakes sufficientemente significativi, per riportarla in vita in un universo virtuale. Potrebbe essere possibile parlare con Albert Einstein o Adolf Hitler. Ancora più raccapricciante, sarebbe creare un simulacro di un nostro caro defunto, intrappolando il suo doppio al di là dello schermo, rinchiuso in una sequenza di risposte autoapprendenti ed emotive, affiggendo a esso un viso conosciuto, dando a noi, l'illusoria speranza di tenere per sempre vicino qualcuno, cancellando il lutto nel suo significato, per il bramoso e innaturale desiderio di soddisfare il nostro ulteriore bisogno.
Dott. Valerio Imondi - Psicologo clinico, della comunicazione e del marketing
Commenti