I ricercatori Sophie Jay Nightingale e Hani Farid hanno pubblicato il loro articolo negli Atti della National Academy of Sciences degli Stati Uniti, che dimostra che i volti falsi stanno diventando sempre più difficili da distinguere da quelli reali.
I partecipanti allo studio sono stati in grado di classificare i volti reali e artificiali con una precisione media di solo il 48,2%, quasi il 50% di probabilità.
Per il loro lavoro, i ricercatori hanno utilizzato 400 facce sintetiche generate da StyleGAN2. Si trattava di 200 deepfake femmine e 200 maschi di varie fasce d'età, diverse per razza (100 neri, 100 caucasici, 100 asiatici orientali e 100 asiatici del sud). Gli scienziati hanno utilizzato solo immagini con uno sfondo uniforme e senza evidenti artefatti di rendering.
La rete neurale ha estratto una rappresentazione a bassa dimensione di ogni volto dal suo database per confrontarla con un database di volti reali e ottenere il deepfake più simile.
Nel primo esperimento, 315 partecipanti, uno, hanno classificato 128 volti su 800 come reali o sintetizzati. I partecipanti sono stati in grado di indovinare con una precisione media di solo il 48,2% dei deepfake.
Quando si classificavano i volti reali, c'era una correlazione significativa tra genere, razza e risultati. La precisione media era maggiore per i volti maschili dell'Asia orientale rispetto ai volti femminili dell'Asia orientale. Era anche più alto per i maschi bianchi che per le femmine bianche. Lo studio non ha trovato un'interazione così significativa tra razza, genere e risultati della selezione per i volti deepfake.
Nel secondo esperimento, 219 nuovi partecipanti hanno classificato 128 volti, ma con formazione e feedback seriale. La precisione media è leggermente migliorata al 59% (59,3% per il primo set di 64 volti e 58,8% per il secondo set di 64 volti).
Un terzo esperimento è stato progettato per vedere se c'era una differenza nella percezione dei deepfake e dei volti reali. Un totale di 223 partecipanti ha valutato la realtà dei 128 volti dello stesso set su una scala da uno a sette (uno per molto inaffidabile e sette per affidabile). Per gli scatti reali, il coefficiente medio era solo 4,48 rispetto a 4,82 per le immagini sintetiche. I volti delle donne hanno ricevuto un coefficiente più alto (4,94) rispetto a quelli degli uomini (4,36). Tuttavia, i volti neri erano anche più affidabili di quelli dell'Asia meridionale.
Nel 2021, Microsoft e Facebook hanno annunciato l'inizio di un concorso per lo sviluppo di strumenti di riconoscimento deepfake, che durerà fino a marzo 2022.
L'IA di Facebook e i ricercatori della Michigan State University hanno svelato un metodo per rilevare i deepfake basato sul reverse engineering di un'immagine falsa e un sistema per crearla. Gli sviluppatori prevedono di rendere aperto il codice sorgente per facilitare ulteriori ricerche.
E un gruppo di scienziati dell'Università della California, a San Diego, ha dimostrato che anche i più avanzati sistemi di rilevamento dei deepfake possono essere ingannati. Per fare ciò, è sufficiente iniettare dati di input o esempi contraddittori in ogni fotogramma video del deepfake.
bbabo.Net