Deepfake e il caso Taylor Swift: quale futuro ci aspetta?
Qualche giorno fa, il nostro Founder Ale Agostini ha rilasciato un’intervista a Stefano Olivari, giornalista di Corriere del Ticino, sulle implicazioni e i pericoli associati al deepfake e all’intelligenza artificiale.
Il caso di Taylor Swift e l’uso ingannevole della voce del presidente Biden per influenzare gli elettori sono solo la punta dell’iceberg di un fenomeno in continua espansione. Vediamo in questo articolo cos’è il deepfake e cosa ci aspetta da un futuro influenzato dell’intelligenza artificiale.
Cosa si intende con deepfake?
I deepfake rappresentano una delle più avanzate e discusse applicazioni dell’intelligenza artificiale nel campo della creazione di contenuti multimediali.
Il termine deriva dalla fusione delle parole “deep learning” (apprendimento profondo) e “fake” (falso), e descrive il processo attraverso il quale algoritmi di apprendimento vengono utilizzati per creare, alterare o sintetizzare contenuti audiovisivi con un alto grado di realismo.
Questa tecnologia utilizza reti neurali per analizzare e imitare le caratteristiche facciali, i movimenti corporei e le voci delle persone, permettendo così di generare video o tracce audio che appaiono sorprendentemente realistici.
Origini ed evoluzione del deepfake
Questo fenomeno ha iniziato a guadagnare attenzione nel 2017, anche se le basi tecnologiche su cui si fondano, come le reti neurali e l’apprendimento automatico, sono in sviluppo da decenni. Inizialmente erano prevalentemente utilizzati in contesti limitati, come forum o comunità online, per creare contenuti umoristici o parodistici.
Tuttavia, con l’evoluzione e la democratizzazione delle tecnologie di intelligenza artificiale, la capacità di creare deepfake sempre più convincenti è diventata accessibile a un pubblico più ampio. Questo ha portato a una rapida proliferazione di contenuti e a una crescente preoccupazione per le potenziali implicazioni negative su scala globale.
Il caso Taylor Swift
Tra le prime a farne le spese è stata la popstar americna Taylor Swift il cui volto è stato digitalmente sovrapposto al corpo di un’altra persona in un video pornografico falso. Questo video è “esploso” online e il nome della cantante è diventato uno dei termini più cercati su X (che ne ha bloccato la ricerca) in poche ore, causando gravi danni alla reputazione dell’artista.
Il caso dell’artista non è isolato; la tecnologia deepfake ha raggiunto una tale raffinatezza che ora è possibile replicare voci e immagini con una precisione sconcertante.
Recentemente migliaia di elettori sono stati ingannati da una falsa chiamata con la voce del presidente Biden, dimostrando come queste tecniche possano essere impiegate per manipolare e ingannare.
Siamo ancora agli albori di questo mondo tuttavia, la tecnologia di questi sistemi, sta evolvendo a un ritmo senza precedenti. Ale Agostini prevede un’escalation esponenziale di queste tecniche, soprattutto durante eventi cruciali come le elezioni americane, portando a scenari in cui distinguere la realtà dalla finzione sarà sempre più complesso.
Ale Agostini non si ferma al caso eclatante della popstar americana, ma ci invita ad osservare il fenomeno dall’alto:
“Il mix tra deepfake, social media e motori di ricerca online crea un terreno fertile per la diffusione di informazioni false. Questa commistione rende casi come quello di Taylor Swift non solo possibili, ma anche potenzialmente giganteschi, con conseguenze devastanti sulla percezione pubblica e sulla diffusione di informazioni.”
L’impatto sui privati
Ci troviamo davani ad una seria minaccia in vari ambiti, dalla politica alla sicurezza personale. Nel contesto politico, ad esempio, i deepfake possono essere utilizzati per diffondere disinformazione o per danneggiare la reputazione di figure pubbliche influenzando l’opinione pubblica.
Nel settore privato queste tecniche possono essere impiegate per creare frodi, falsi ricatti o truffe. Inoltre, l’uso non consensuale di immagini personali per creare contenuti compromettenti può avere gravi conseguenze sulla vita delle persone, portando a problemi legali, stress psicologico e danno alla reputazione.
In questo contesto, l’AI Act (la proposta legislativa presentata dalla Commissione Europea per regolamentare l’uso dell’intelligenza artificiale) rappresenta un passo avanti significativo nell’affrontare queste sfide, mirando a stabilire un quadro normativo per l’uso etico e responsabile di queste teconologie.
Le istituzioni stanno cercando di correre ai ripari, ma le misure di tutela si rivelano spesso inefficaci contro chi possiede già le competenze per andare oltre all’utente standard.
La legge fatica a tenere il passo con l’evoluzione tecnologica e punire i responsabili di questi contenuti diventa un processo lungo e complesso.
Strategie per identificare i deepfake
Nonostante i progressi tecnologici, esistono metodi e segnali che possono aiutare a riconoscere questi contenuti falsificati. Tra gli indicatori più comuni vi sono:
- incongruenze nella sincronizzazione labiale;
- espressioni facciali innaturali o rigide;
- problemi di coerenza nella texture della pelle o nei capelli;
- errori nei bordi degli oggetti;
- sfondi sfocati.
Anche l’analisi del suono e della voce può rivelare discrepanze, come toni innaturali o mancanza di sincronia tra voce e movimenti facciali.
Tuttavia, è importante notare che, con il perfezionamento delle tecniche, diventa sempre più difficile distinguere i deepfake dai contenuti autentici, rendendo indispensabile l’adozione di strumenti di analisi avanzati e una consapevolezza critica da parte degli utenti.