O secretário de Estado do Arizona, Adrian Fontes, chamou a atenção dos eleitores ao postar um vídeo com um alerta crucial antes das eleições de 2024. Ele enfatizou a importância de se proteger contra deepfakes gerados por inteligência artificial e outros conteúdos políticos falsificados que podem surgir antes das eleições.
Embora o vídeo aparentasse ser uma mensagem direta de Fontes, na verdade era um deepfake criado para ilustrar precisamente o quanto esses conteúdos podem enganar os olhos despreparados. Esse vídeo foi compartilhado durante o episódio de domingo do Meet the Press.
No vídeo, a versão deepfake de Fontes se identifica e explica seu propósito, lembrando aos telespectadores que se trata apenas de uma simulação digital de uma pessoa real. “Olá, este é um comunicado de serviço público apresentando uma versão de IA do secretário de Estado do Arizona, Adrian Fontes. Este vídeo foi produzido como parte de nosso exercício de mesa de segurança eleitoral em todo o estado de 2024”, disse o deepfake. “Foi criado com o consentimento e a cooperação do verdadeiro secretário Fontes, que, novamente, não sou eu, sou uma personificação dele por IA.”
A despeito de alguns aspectos visivelmente robóticos e ligeiramente desconfortáveis nas animações faciais, o vídeo é bastante convincente e poderia facilmente passar por uma gravação real do oficial do Arizona para aqueles que não têm olhos treinados para identificar tais manipulações digitais.
A apresentadora do Meet the Press, Kristen Welker, descreveu o vídeo como “arrepiantemente realista” e então questionou Fontes sobre a necessidade de criar um deepfake dele mesmo. “No bootcamp… olhamos para as armas dos nossos inimigos e treinamos contra eles tanto quanto possível”, respondeu ele. “A IA não é uma arma nova, é um amplificador e um ampliador de erros e desinformação.”
Fontes destacou a importância de preparar os funcionários eleitorais para reconhecer e lidar com a desinformação criada por IA, instalando processos eficazes para minimizá-la. Como parte desses preparativos, o estado já realizou um exercício de mesa com a mídia, ensinando os repórteres a identificar conteúdos gerados por IA. Ele também mencionou planos futuros para repetir este treinamento com outras autoridades.
ASSISTIR: Arizona Sec. do Estado @Adrian_Fontes criou uma versão de IA de si mesmo para alertar os eleitores sobre conteúdo eleitoral falso.@kwelkernbc: “Por que você achou que isso era necessário?”
Fontes: “No bootcamp… olhamos as armas dos nossos inimigos e treinamos contra eles.” pic.twitter.com/HmhGb6spyC
– Meet the Press (@MeetThePress) 26 de maio de 2024
Fontes afirmou que o treinamento não se limitou apenas à imprensa; ele se comprometeu a estender essa educação aos funcionários eleitorais, preparando-os para identificar e mitigar a desinformação e manipulações digitais que possam surgir durante o período eleitoral.
Adrian Fontes não foi o único a abordar publicamente o tema esta semana. O presidente dos Estados Unidos, Joe Biden, também compartilhou suas reflexões sobre a IA. Em sua declaração de terça-feira, ele frisou que as empresas que estão desenvolvendo tecnologias de IA precisam “ganhar nossa confiança”.
“Comprometo-me a fazer tudo o que estiver ao meu alcance para promover e exigir inovação segura, confiável e responsável – o que inclui o uso de áudio gerado por IA. Peço que as empresas de IA se juntem a mim nesse compromisso”, publicou Biden na plataforma X.
As empresas de tecnologia que desenvolvem sistemas de IA já estão tentando integrar essas inovações ao cotidiano dos consumidores. O Instagram, por exemplo, substituiu em grande parte sua antiga barra de pesquisa por uma versão impulsionada por IA, e o Google começou a fornecer “visões gerais de IA” em algumas pesquisas, independentemente de o usuário ter solicitado ou não.
No entanto, essas inovações ainda enfrentam desafios significativos. A ferramenta de pesquisa de IA do Google, por exemplo, foi alvo de críticas após alguns usuários relatarem “alucinações” – um termo utilizado de maneira eufemística para indicar que o sistema produziu resultados incorretos e por vezes absurdos.
Gizmodo compilou algumas dessas alucinações do Google. Entre os erros, o sistema sugeriu uma receita de espaguete com infusão de gasolina, afirmou categoricamente que Barack Obama é muçulmano e descreveu um fictício episódio de Bob Esponja Calça Quadrada onde Sandy Cheeks “morre por suicídio de overdose de drogas, incluindo cocaína, heroína e álcool”, um cenário extremamente improvável de ter sido autorizado pela Nickelodeon.
A desinformação sobre a religião de Obama exemplifica bem os perigos que a desinformação propagada por IA pode trazer. Apesar de a era das redes sociais já ter popularizado a circulação de informações falsas, a facilidade com que ferramentas de IA podem criar imagens e vídeos aparentemente reais de figuras políticas vivas impõe novos desafios ao discernimento do público na busca por fatos online.
Para aqueles que preferem lidar com a situação de maneira menos séria, há também a opção de acompanhar debates ininterruptos gerados por IA entre versões simuladas de Joe Biden e Donald Trump, transmitidos ao vivo no Twitch. A escolha é do público, mas a necessidade de vigilância e senso crítico nunca foi tão importante quando se trata de consumir informações na era digital moderna.