Nell’immenso universo del web si sta manifestando una nuova forma di minaccia digitale, quella dei DeepFakes. Ho avuto l'opportunità di discuterne nella mia rubrica cyber su M6 e RTL nello show di Julien Courbet “Può succedere a te”. Questi video ingannevoli, che utilizzano l'immagine e la voce di celebrità, hanno fatto un'apparizione notevole negli Stati Uniti, prendendo di mira principalmente gli utenti dei programmi di assicurazione sanitaria Medicare e Medicaid.

I giornalisti dei media americani 404 Media fanno luce su questa preoccupante realtà in un articolo dettagliato. Hanno rivelato una playlist di 1600 video deepfake su YouTube, per un totale di oltre 195 milioni di visualizzazioni. Un vero tesoro per i pirati. Questi video dirottano l'immagine di personalità come Taylor Swift, Steve Harvey, Ice Cube, Andrew Tate, Oprah Winfrey e altri, come MrBeast, il leader dei video su YouTube. Alcuni DeepFake utilizzano voci generate dall'intelligenza artificiale per rafforzare l'illusione come ho potuto mostrarti nei deepfake utilizzati nella sextortion.

Questi deepfake promettono falsamente vari vantaggi legati ai programmi Medicare e Medicaid, inducendo le vittime a rivelare le proprie informazioni bancarie o a effettuare trasferimenti finanziari. Notiamo l'apparente inefficacia di YouTube, di proprietà di Google, nel rilevare e bloccare questi contenuti generati dall'intelligenza artificiale, nonostante l'indignazione degli utenti e delle celebrità interessate.

È stato anche riferito che truffe simili, utilizzando le voci di Cardi B, Tom Hanks, Elon Musk, Rishi Sunak e persino Joe Biden, sono state identificate su altre piattaforme come Facebook, TikTok e Instagram.

Un esempio lampante è la pubblicità deepfake di Taylor Swift, vista più di 300 volte, che promette aiuti finanziari illusori nell’ambito dei cosiddetti “pacchetti vacanze” offerti dallo Stato. In queste campagne ingannevoli sono stati utilizzati anche altri cloni IA di celebrità, come Joe Rogan, Andrew Tate e Oprah Winfrey.

I video deepfake utilizzano spesso clip reali di celebrità seguiti da messaggi fraudolenti, creando confusione tra gli spettatori. Questi annunci reindirizzano a siti che offrono falsi aiuti governativi, una truffa precedentemente segnalata dal Dipartimento della salute e dei servizi umani degli Stati Uniti.

Nonostante la facilità nell'individuare queste truffe, come dimostrato da uno studente che ha identificato più di 16 annunci fraudolenti, YouTube e Google sembrano non rispondere, continuando a generare entrate pubblicitarie da queste società dubbie. Questo lassismo solleva preoccupazioni sulla capacità e sulla volontà di Google di proteggere i propri utenti.

Questa situazione evidenzia un lato oscuro dell’intelligenza artificiale generativa: la sua capacità di produrre in massa contenuti fuorvianti e di bassa qualità. Sebbene l’intelligenza artificiale abbia il potenziale per rivoluzionare molti settori, il suo utilizzo dannoso in queste truffe evidenzia la necessità di una maggiore vigilanza e di una regolamentazione efficace per proteggere gli utenti e mantenere l’integrità delle piattaforme online.

È inoltre essenziale che gli utenti smettano di credere ingenuamente a tutto ciò che vedono online, 7 giorni su 7, 365 giorni all’anno.

accedi all'articolo