Davvero i principi William e Harry si sono incontrati, scambiandosi un abbraccio commosso, come vediamo nella foto di copertina?
In effetti no, non è mai successo!
Questa foto è, infatti, stata generata con l’intelligenza artificiale (Midjourney) da un autore che pubblica molti contenuti interessanti sull’IA, con il nickname di Jim the AI Whisperer.
Jim ha immaginato una possibile riconciliazione, che sarebbe potuta avvenire in occasione dell’incoronazione di re Carlo III nel 2023. Nel suo articolo, spiegava come l’immagine fosse stata generata artificialmente, e la accompagnava con una guida su come distinguere le immagini vere da quelle false.
Eppure, dopo la pubblicazione, Jim ha ricevuto molte richieste da giornalisti, che volevano i diritti sulle sue immagini per poterle pubblicare su siti di notizie! E molti lettori, evidentemente disattenti, hanno commentato le immagini, ritenendo che fossero vere.
Il problema della verità nell’era dell’IA
Questo esempio ci fa riflettere su come sia diventato difficile distinguere i contenuti veri da quelli falsi, soprattutto nell’era dell’intelligenza artificiale.
Siamo abituati a considerare le immagini e i video come una “prova” di verità, ma oggi chiunque può generare artificialmente contenuti che sembrano verosimili, facendoci passare per vere delle cose che non lo sono.
Io stesso, per scopi didattici, ho provato a generare un video “deepfake”, partendo da un’intervista e sostituendo il volto della persona intervistata con quello di un presentatore televisivo. Ho utilizzato un software gratuito chiamato DeepFaceLab, che ha prodotto risultati accettabili dopo aver girato per qualche ora su un normale computer. Immaginate cosa si può fare in poco tempo, avendo a disposizione video di alta qualità e hardware più performante.
Strumenti per rilevare i falsi
Esistono, in effetti, degli strumenti per rilevare i video “deepfake”. Uno di questi si chiama Deepware, e si può provare ad usare per rilevare se un video sia stato generato artificialmente.
Nei test che ho fatto, è riuscito a rilevare facilmente che il mio video era in realtà fasullo, come anche altri video deepfake che si trovano su siti dimostrativi, come ad esempio questo, molto famoso, dove compare un falso Morgan Freeman, che propone riflessioni sulla realtà sintetica, con una qualità video veramente impressionante.
Tuttavia, quando sui nostri smartphone siamo messi di fronte ad un video, magari condiviso su un social, oppure trovato su un sito di informazione o di pseudo-informazione, abbiamo il tempo e la volontà di fare una verifica approfondita?
Tipicamente no. Quindi, tipicamente la decisione di ritenere un contenuto come attendibile ricade su noi stessi e sul nostro senso critico.
Dobbiamo perciò imparare a diffidare, smontando l’attitudine di considerare un fatto come vero solo perché accompagnato da foto o video: i contenuti visivi non sono più sufficienti per dimostrare nulla.
L’attendibilità delle fonti
Ci rimane, tuttavia, una possibilità importante: quella di valutare la reputazione della fonte su cui abbiamo trovato quel contenuto, e di ritenerlo valido se già in passato abbiamo avuto modo di confermare l’attendibilità di quella fonte. Possiamo controllare gli autori, i siti, gli altri siti che eventualmente abbiano pubblicato la stessa cosa.
L’unico vero strumento valido, nell’era dell’IA, è quindi l’esperienza, l’istruzione, e la consapevolezza che possiamo essere ingannati facilmente e che quello che vediamo può essere vero, ma anche falso.
I falsi… audio
Il problema dei deepfake si estende anche ai contenuti audio. Infatti, oggi sono disponibili strumenti per generare un audio, partendo dalla voce registrata di una persona e “facendole dire” cose che in realtà non ha mai detto.
Come possiamo immaginare, questo apre la possibilità ai malintenzionati di sviluppare truffe, utilizzando la voce di una persona nota per fare comunicazioni telefoniche o per indurci a credere ad alcune cose, o a seguire consigli e suggerimenti.
Ho scoperto uno dei primi esempi di audio generato artificialmente grazie a Paolo Attivissimo, un giornalista e divulgatore che ha pubblicato un podcast in cui la sua voce vera si alterna a quella di un suo clone vocale, evidenziando come sia veramente impossibile distinguere l’una dall’altra. Trovate la sua registrazione nel podcast della Radiotelevisione Svizzera intitolato “L’attacco dei cloni vocali”.
Che dire dei testi scritti?
Seguiteci nei prossimi articoli sull’intelligenza artificiale: vedremo come anche la generazione di testi scritti con IA possa generare situazioni interessanti!
