Palavra-chave ‣ vídeo
341 referências

No imenso universo da web, uma nova forma de ameaça digital se manifesta, a dos DeepFakes. Tive a oportunidade de discutir isso em minha coluna cibernética na M6 e RTL no programa de Julien Courbet “Isso pode acontecer com você”. Estes vídeos enganosos, que utilizam a imagem e a voz de celebridades, fizeram uma aparição notável nos Estados Unidos, visando principalmente os utilizadores dos programas de seguro médico Medicare e Medicaid.

Jornalistas da mídia americana 404 Media esclarecem esta realidade preocupante em um artigo detalhado. Eles revelaram uma playlist com 1600 vídeos deepfake no YouTube, totalizando mais de 195 milhões de visualizações. Um verdadeiro tesouro para piratas. Esses vídeos sequestram a imagem de personalidades como Taylor Swift, Steve Harvey, Ice Cube, Andrew Tate, Oprah Winfrey e outros, como MrBeast, líder em vídeos no YouTube. Alguns DeepFakes usam vozes geradas por inteligência artificial para reforçar a ilusão, como pude mostrar em deepfakes usados ​​em sextorção.

Esses deepfakes prometem falsamente vários benefícios relacionados aos programas Medicare e Medicaid, enganando as vítimas para que divulguem suas informações bancárias ou façam transferências financeiras. Notamos a aparente ineficácia do YouTube, propriedade da Google, na deteção e bloqueio deste conteúdo gerado por IA, apesar da indignação dos utilizadores e celebridades em causa.

Também foi relatado que golpes semelhantes, usando as vozes de Cardi B, Tom Hanks, Elon Musk, Rishi Sunak e até Joe Biden, foram identificados em outras plataformas como Facebook, TikTok e Instagram.

Um exemplo notável é um anúncio deepfake de Taylor Swift, visto mais de 300 mil vezes, prometendo ajuda financeira ilusória como parte dos chamados “pacotes de férias” oferecidos pelo Estado. Outros clones de IA de celebridades, como Joe Rogan, Andrew Tate e Oprah Winfrey, também foram usados ​​nessas campanhas enganosas.

Os vídeos deepfake costumam usar clipes reais de celebridades seguidos de mensagens fraudulentas, criando confusão entre os espectadores. Esses anúncios redirecionam para sites que oferecem ajuda governamental falsa, uma fraude relatada anteriormente pelo Departamento de Saúde e Serviços Humanos dos EUA.

Apesar da facilidade de detectar estas fraudes, conforme demonstrado por um estudante que identificou mais de 16 anúncios fraudulentos, o YouTube e o Google parecem não responder, continuando a gerar receitas publicitárias destas empresas duvidosas. Esta negligência levanta preocupações sobre a capacidade e a vontade do Google de proteger os seus utilizadores.

Esta situação realça um lado negro da inteligência artificial generativa: a sua capacidade de produzir em massa conteúdos enganosos e de baixa qualidade. Embora a IA tenha o potencial de revolucionar muitas indústrias, a sua utilização maliciosa nestas fraudes destaca a necessidade de uma maior vigilância e de uma regulamentação eficaz para proteger os utilizadores e manter a integridade das plataformas online.

É também essencial que os utilizadores deixem de acreditar ingenuamente em tudo o que veem online, 7 dias por semana, 7 dias por ano.

acesse o artigo