Meta deve começar a rotular imagens postadas no Facebook, Instagram e Threads que detecta terem sido criadas usando IA, anunciou a empresa.
A gigante das redes sociais disse que está atualmente a desenvolver a capacidade e que a implementará nas suas plataformas sociais nos “próximos meses” e antes de uma série de eleições globais importantes este ano.
Meta já coloca um rótulo em imagens criadas usando sua própria IA, mas disse que seu novo recurso permitirá rotular imagens criadas por IA do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock como parte de um esforço de toda a indústria para usar “ melhores práticas” e colocar “marcadores invisíveis” nas imagens e seus metadados para ajudar a identificá-los como gerados por IA.
O ex-vice-primeiro-ministro, Sir Nick Clegg, agora presidente de assuntos globais da Meta, reconheceu a capacidade potencial de maus atores utilizarem imagens geradas por IA para espalhar desinformação como um dos principais motivos para a Meta introduzir o recurso.
“Este trabalho é especialmente importante porque é provável que se torne um espaço cada vez mais adversário nos próximos anos”, disse ele.
“Pessoas e organizações que desejam ativamente enganar outras pessoas com conteúdo gerado por IA procurarão maneiras de contornar as salvaguardas implementadas para detectá-lo.
“Em toda a nossa indústria e na sociedade em geral, precisaremos continuar procurando maneiras de estar um passo à frente.
“Enquanto isso, é importante que as pessoas considerem várias coisas ao determinar se o conteúdo foi criado por IA, como verificar se a conta que compartilha o conteúdo é confiável ou procurar detalhes que possam parecer ou não naturais.”
Vários políticos proeminentes, incluindo o primeiro-ministro Rishi Sunak, o líder trabalhista Sir Keir Starmer e o prefeito de Londres Sadiq Khan foram alvos de mídia manipulada ou deepfakes nos últimos meses.
Em uma postagem no blog sobre o anúncio, Sir Nick também confirmou que a inclusão de marcadores em conteúdo de áudio e vídeo ainda não estava sendo usada na mesma escala, portanto, a ferramenta da Meta ainda não se aplicaria a qualquer conteúdo criado por outras empresas que tivesse sido compartilhado nas plataformas Meta.
Ele acrescentou que a Meta estava adicionando uma ferramenta para os usuários “divulgarem voluntariamente quando compartilham vídeo ou áudio gerado por IA para que possamos adicionar um rótulo a ele”.
“Exigiremos que as pessoas usem esta ferramenta de divulgação e rótulo quando postarem conteúdo orgânico com um vídeo fotorrealista ou áudio com som realista que foi criado ou alterado digitalmente, e poderemos aplicar penalidades se não o fizerem”, disse ele.
“Se determinarmos que conteúdo de imagem, vídeo ou áudio criado ou alterado digitalmente cria um risco particularmente alto de enganar materialmente o público sobre um assunto importante, poderemos adicionar um rótulo mais proeminente, se apropriado, para que as pessoas tenham mais informações e contexto.”
Sir Nick disse que ainda não é possível identificar todo o conteúdo gerado por IA, mas que a Meta está “trabalhando duro” em ferramentas que possam fazer isso automaticamente.