Sai cosa sono i deep fake?

Scopri cosa sono e come smascherarli

Una delle ultime frontiere della disinformazione si chiama deep fake. In pratica si utilizzano le potenzialità dell’Intelligenza artificiale per realizzare falsi video virali con personaggi famosi utilizzando volti, parole ed espressioni, o parte di essi, di altri soggetti.

I software oggi son così avanzati da produrre risultati estremante realistici.

Una tecnica, questa, che, per ora, viene utilizzata soprattutto nella satira e nel mondo del cinema hard ma che rischia di avere impieghi molto delicati se applicata al mondo della politica o della economia.

La buona notizia, però, è che anche la A.I., per ora, ha un punto debole che ci permette di riconoscere i veri video da quelli falsi.

Per questo dobbiamo dire grazie ad un gruppo di ricercatori dell’Università di Albany, New York che hanno scoperto un nuovo metodo per smascherare falsi video prodotti con la A.I.

“Il nostro metodo si basa sul rilevamento del battito di ciglia nei video, che è un segnale fisiologico che non è ben presentato nei video falsi sintetizzati”.

La debolezza di questi video è, infatti, l’assenza del battito di ciglia, ovvero di momenti in cui il soggetto ha gli occhi chiusi.

Ma come funzionano il video deep fake?

L’interessante articolo uscito su The Conversation ci spiega che questi video sfruttano il sistema di apprendimento automatico dell’intelligenza artificiale chiamato rete neurale profonda per esaminare i movimenti facciali di una persona. Quindi vengono sintetizzate le immagini del viso di un’altra persona facendo movimenti analoghi.

In questo modo si crea un video della persona target che sembra fare o dire le cose che ha fatto la persona sorgente.

Perché il risultato sia credibile, però, le reti neurali profonde necessitano di molte informazioni. Più immagini vengono utilizzate per “istruire” un algoritmo deepfake, più realistica sarà la rappresentazione digitale.

Molto dipende per ciò dal numero e dalla qualità delle foto disponibili su Internet utilizzate come dati di allenamento.

Il tallone di Achille è proprio in questo passaggio.

Gli esseri umani adulti sani sbattono le palpebre ogni 2 e 10 secondi e un singolo battito dura tra un decimo e quattro decimi di secondo.

Dunque questo è ciò che sarebbe normale vedere in un video di una persona che parla. Le foto disponibili sul web, però, difficilmente ritraggono personaggi, a maggior ragione quelli famosi, ad occhi chiusi.

Senza immagini di persone che sbattono le palpebre, è meno probabile che gli algoritmi deepfake creino volti che sbattano le palpebre normalmente.

Siwei Lyu, direttore del laboratorio di Visione artificiale e Machine Learning dell’Università di Albany, ha sviluppato con i colleghi algoritmi in grado di calcolare e identificare il tasso complessivo di ammiccamento e confrontarlo con l’intervallo naturale.

La ricerca utilizza l’apprendimento automatico per esaminare l’apertura e la chiusura degli occhi nei video.

Per essere più precisi, l’algoritmo “segugio” esegue la scansione di ogni fotogramma di un video in questione, rileva i volti al suo interno e quindi individua gli occhi automaticamente. Quindi utilizza un’altra rete neurale profonda per determinare se l’occhio rilevato è aperto o chiuso, utilizzando l’aspetto, le caratteristiche geometriche e il movimento dell’occhio.

I ricercatori sanno che il loro lavoro sta sfruttando un difetto nel tipo di dati disponibili per addestrare algoritmi deepfake.

Per evitare di cadere preda di un difetto simile, hanno già addestrato il loro sistema su una vasta libreria di immagini di occhi aperti e chiusi. Per ora questo metodo sembra funzionare bene con un tasso di rilevamento di oltre il 95%.

La tecnologia, però, migliora rapidamente ed è plausibile pensare che presto i video deepfake includeranno immagini di volti con gli occhi chiusi e che andranno trovati nuovi modi per smascherarli.