Piers Morgan expressou preocupação com um anúncio deepfake apresentando imagens de vídeo manipuladas dele e de Oprah Winfrey para dar a impressão de que as celebridades endossaram um polêmico curso de autoajuda ministrado por um influenciador americano.
O anúncio, agora retirado do ar pelo YouTube, promovia um curso de “manifestação” vendido por Wesley Virgin, um influenciador norte-americano que se descreve como um treinador motivacional, informou a BBC.
No anúncio, Morgan parecia promover o Manifestation do Genie Script – um programa que afirma ajudar uma pessoa a acelerar sua jornada para obter o controle de sua vida, alcançando seu desejo mais profundo.
O anúncio parecia uma seção do programa do jornalista Uncensored TV, com o vídeo manipulado digitalmente para que Morgan parecesse dizer “uma antiga escritura perdida que foi usada por reis para atrair vastas riquezas, cura milagrosa e amor incomparável”, relatou a BBC. .
Em outro anúncio no Facebook e no Instagram, a filmagem genuína de Winfrey foi manipulada usando deepfake para promover o curso, dizendo: “Quero lhe dar um script de 20 palavras… pense nisso como instalar um novo sistema operacional em sua mente que está programado para torná-lo rico”.
A chef famosa Nigella Lawson também foi vista conversando sobre suas receitas e trabalho em um desses anúncios falsos.
“Saí de férias e conheci esse homem em uma festa muito exclusiva. O nome dele era Wesley e ele me entregou esta página escondida da Bíblia que estava trancada no quarto de alguém”, ouve-se sua voz falsa gerada por IA.
Deepfakes são materiais audiovisuais manipulados, criados com inteligência artificial e envolvem principalmente a produção de um “rosto” falso que é mesclado com um vídeo autêntico para criar imagens de um evento que não ocorreu.
Os vídeos gerados por IA podem parecer muito convincentes e enganar facilmente os espectadores.
Expressando suas preocupações sobre a IA, Morgan disse à emissora britânica que o anúncio era “outro exemplo de uma tendência muito preocupante de figuras públicas sendo mal utilizadas por manipuladores de IA falsos para obter ganhos financeiros”.
“As verdadeiras vítimas serão os membros do público que involuntariamente compram estes produtos acreditando que o apoio das celebridades é genuíno”, disse ele. Oprah, por sua vez, confirmou não endossar o produto.
Várias figuras proeminentes em todo o mundo expressaram preocupação com o uso de deepfakes. O primeiro-ministro indiano, Narendra Modi, chamou no ano passado o uso indevido de tecnologia deepfake de “preocupante”, citando um exemplo de um vídeo falso dele executando a tradicional dança Gujarati de garba.
“Devido à Inteligência Artificial e principalmente por causa do deepfake (tecnologia), surgiu uma nova crise. Uma parte significativa de Bharat (Índia) é tal que não possui os meios necessários para verificação ou autenticação”, disse Modi num programa especial de Diwali realizado na sede do BJP.
“Acabei de assistir a um vídeo em que estava fazendo garba; até eu fiquei impressionado com o quão bem foi feito, mas foi feito usando Inteligência Artificial”, disse ele.
Em março de 2022, o Facebook removeu um vídeo deepfake de sua plataforma que afirmava mostrar o presidente ucraniano Volodymyr Zelensky instando as tropas de seu país a se renderem às forças invasoras russas.
Imagens pornográficas falsas de Taylor Swift circularam amplamente no Twitter/X, apesar das regras da plataforma contra esse tipo de mídia.
As imagens não consensuais, que parecem ter sido feitas com IA, mostravam a estrela pop em posições sexualmente sugestivas e explícitas.
A mídia norte-americana relata que algumas postagens que compartilhavam as imagens acumularam mais de 27 milhões de visualizações e 260 mil curtidas em 19 horas, antes que a conta que postou as imagens fosse suspensa.
O Independente entrou em contato com Morgan e Winfrey para comentar.