Ключевое слово ‣ видео
Ссылки 341

В огромной вселенной Интернета проявляется новая форма цифровой угрозы — DeepFakes. У меня была возможность обсудить это в моей кибер-колонке на М6 и RTL в шоу Жюльена Курбе «Это может случиться с тобой». Эти вводящие в заблуждение видеоролики, в которых используются образы и голоса знаменитостей, стали заметными в Соединенных Штатах и ​​ориентированы в основном на пользователей программ медицинского страхования Medicare и Medicaid.

Журналисты американского СМИ 404 Media пролили свет на эту тревожную реальность в подробной статье. Они опубликовали на YouTube плейлист из 1600 дипфейковых видеороликов с общим количеством просмотров более 195 миллионов. Настоящее сокровище для пиратов. Эти видеоролики портят имидж таких личностей, как Тейлор Свифт, Стив Харви, Айс Кьюб, Эндрю Тейт, Опра Уинфри и других, таких как MrBeast, лидер видео на YouTube. Некоторые дипфейки используют голоса, генерируемые искусственным интеллектом, чтобы усилить иллюзию, как я смог показать вам на дипфейках, используемых при секс-вымогательстве.

Эти дипфейки ложно обещают различные льготы, связанные с программами Medicare и Medicaid, обманом заставляя жертв раскрыть свою банковскую информацию или осуществить финансовые переводы. Мы отмечаем очевидную неэффективность YouTube, принадлежащего Google, в обнаружении и блокировании этого контента, созданного искусственным интеллектом, несмотря на возмущение заинтересованных пользователей и знаменитостей.

Также сообщалось, что подобные мошенничества с использованием голосов Карди Би, Тома Хэнкса, Илона Маска, Риши Сунака и даже Джо Байдена были выявлены на других платформах, таких как Facebook, TikTok и Instagram.

Ярким примером является дипфейк Тейлор Свифт, просмотренный более 300 000 раз, обещающий иллюзорную финансовую помощь в рамках так называемых «отпускных пакетов», предлагаемых государством. В этих обманных кампаниях также использовались другие искусственные клоны знаменитостей, такие как Джо Роган, Эндрю Тейт и Опра Уинфри.

В видеороликах Deepfake часто используются настоящие видеоролики со знаменитостями, за которыми следуют мошеннические сообщения, что создает путаницу среди зрителей. Эти объявления перенаправляют на сайты, предлагающие фальшивую государственную помощь — мошенничество, о котором ранее сообщалось Министерством здравоохранения и социальных служб США.

Несмотря на легкость обнаружения этих мошенничеств, как показал студент, который выявил более 16 000 мошеннических объявлений, YouTube и Google, похоже, не реагируют, продолжая получать доходы от рекламы от этих сомнительных компаний. Эта слабость вызывает обеспокоенность по поводу способности и желания Google защитить своих пользователей.

Эта ситуация подчеркивает темную сторону генеративного искусственного интеллекта: его способность массово производить низкокачественный и вводящий в заблуждение контент. Хотя искусственный интеллект обладает потенциалом произвести революцию во многих отраслях, его злонамеренное использование в этих мошенничествах подчеркивает необходимость повышения бдительности и эффективного регулирования для защиты пользователей и поддержания целостности онлайн-платформ.

Также важно, чтобы пользователи перестали наивно верить всему, что видят в Интернете, 7 дней в неделю, 7 дней в году.

получить доступ к статье