(articolo redatto da Vincenzo Aino)
La menzogna è una strategia evolutiva dell’essere umano. Si adatta al contesto e alle nuove tecnologie, come qualsiasi aspetto della vita quotidiana. Di pari passo, si affinano le contromisure per smascherare le bugie. .
In questo articolo parliamo di deepfake.
IL PROBLEMA
La tecnologia deepfake è basata sull’Intelligenza Artificiale. Permette di sostituire in un video un volto ad un altro (face swap) o di manipolarne le espressioni facciali (face reenactment) per attribuire al soggetto ripreso stati d’animo fasulli e frasi mai pronunciate.
Ad oggi, i principali ambiti di applicazione sono l’intrattenimento comico e quello per adulti, ma è facile prevedere usi politici per fini di propaganda. Il software potrebbe, ad esempio, correggere espressioni fuori luogo di un candidato, allineando le sue reazioni a quelle del sentimento di maggioranza.
Attualmente servono grandi potenze di calcolo per avere risultati credibili, anche se in futuro è probabile che sui nostri cellulari arriveranno applicazioni più raffinate rispetto alla controversa FaceApp: questo software non è famoso soltanto per i video divertenti che crea col volto degli utenti, ma anche perché pare sia capace di raccogliere e conservare segretamente i dati biometrici degli utenti stessi, permettendo così di creare un archivio di facce associate a nomi, numeri di telefono e indirizzi e-mail; l’indiscrezione è stata confermata da voci interne al Cremlino, da sempre contrario al diritto di privacy.
SOLUZIONI TECNOLOGICHE
Anche per distinguere i video modificati da quelli originali vengono addestrate delle IA, in una rincorsa continua tra guardie e ladri.
Le analisi si concentrano su alcuni artefatti, ossia dettagli che gli algoritmi di deepfake non riescono ancora a gestire correttamente:
- Battito delle palpebre: i volti modificati non hanno un ritmo naturale, di solito restano con gli occhi aperti
- Movimento innaturale della bocca: il labiale modificato può risultare distorto rispetto agli altri muscoli del viso
- Scarsa sincronia tra audio e labiale: il suono arriva in anticipo o in ritardo rispetto al movimento della bocca
- Sfocatura tra il volto e le aree circostanti (collo, capelli): difficile da notare nei video a bassa qualità, ma evidente nei formati in HQ
- Errori nella colorazione della pelle: le tonalità dell’incarnato non sono ricreate correttamente
- Errori nell’illuminazione del volto: ombre e punti di luce non coerenti con la scena
- Errori nei riflessi dei bulbi oculari: gli occhi si comportano come specchi convessi, riflettendo in modo peculiare tutte le sorgenti luminose presenti sulla scena
Ci rassicura pensare che queste cose succedano solo nei film (avete presente l’ultimo Spider-man?) o in posti lontani da noi, ma non è così.
Striscia la Notizia usa regolarmente il deep swap per incollare facce di politici su corpi di attori, per fare satira. Di converso, ci sono ricercatori italiani come Davide Cozzolino dell’Università Federico II di Napoli, impegnati in team internazionali per sviluppare nuovi algoritmi capaci di distinguere il vero dal verosimile.
Ovviamente, anche il mondo dell’audio possiede strumenti di manipolazione capaci di sintetizzare in modo realistico la voce di una persona reale, imitandola (quasi) alla perfezione. Dobbiamo quindi trovare soluzioni alternative, invece di affidarci alla sola tecnologia.
SOLUZIONI UMANE
Appurato che la responsabilità è di tutti, abbiamo bisogno di strumenti cognitivi per difenderci dalle falsificazioni.
Lo sviluppo del senso critico sembra non essere una priorità nel dibattito pubblico, eppure è il metodo più efficace per non cadere in errore, o quanto meno per mantenere un atteggiamento di dubbio positivo. Alcuni suggerimenti:
- Farsi domande: chiedersi perché un personaggio dovrebbe avere atteggiamenti particolari
- Verificare la stessa notizia da più fonti differenti: se è falsa, qualcuno avrà fatto debunking; se ne parlano solo testate locali o dai nomi sospetti, meglio dubitare
- Occhio ai dettagli: potremmo allenarci a riconoscere ad occhio nudo gli stessi artefatti riconosciuti dalle IA
- Focalizzarsi sul contesto: una smorfia o uno sbadiglio clamoroso durante una cerimonia istituzionale? Fa ridere, ma è un evento improbabile
A questo, possiamo aggiungere l’utilizzo di strumenti informatici open source: impariamo ad usare noi stessi questi software, a capirne i punti di forza e le aree di miglioramento.
Conclusioni
Viviamo nell’epoca della post-verità: per gli spettatori non è importante cosa è vero e cosa no, ma cosa le loro emozioni vogliono che sia vero. Questo sentimento irrazionale va gestito, perché può portare a reazioni distruttive su larga scala, come succede per i processi mediatici e per il bullismo sui social.
Bisogna chiedersi più spesso: “E se mi stessero ingannando?”.
Il rischio è quello di diventare paranoici o insensibili alle notizie più drammatiche, perché le guarderemmo con distacco come si guarda un film, ma possiamo sempre trovare un’oasi, una serie di fonti attendibili capaci di ancorarci alla realtà dei fatti.
A proposito, siete sicuri che tutto quello che avete letto in questo articolo sia vero?
Se anche tu vuoi essere far parte del team Nexsoft,
dai un’occhiata alle nostre opportunità di lavoro e conosciamoci subito!
