Especialistas e usuários alertaram sobre uma quantidade crescente de imagens aparentemente geradas por IA, espalhadas pelo Facebook e outras redes sociais.
O problema significa que muitos grupos estão agora preenchidos com imagens destinadas a evocar um certo sentimento: imagens particularmente saudáveis de avós com bolos, por exemplo, ou cabanas acolhedoras. Algumas são mais incomuns, como uma imagem de Jesus feita de crustáceos.
O problema tornou-se suficiente para que uma equipe de pesquisadores do Stanford Internet Observatory e do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown lançasse uma investigação de mais de 100 páginas do Facebook que tinham uma quantidade particularmente elevada de conteúdo gerado por IA.
Em seu novo artigo, que ainda não foi revisado por pares e é intitulado ‘Como Spammers e Golpistas Aproveitam Imagens Geradas por IA no Facebook para Crescer o Público’, eles argumentam que o problema é resultado de pessoas que procuram aumentar o número de seguidores nas redes sociais.
“Grande parte da investigação e do discurso sobre os riscos dos geradores de imagens de inteligência artificial (IA), como o DALL-E e o Midjourney, centrou-se na questão de saber se poderiam ser usados para injetar informações falsas no discurso político”, escrevem os autores. “Mostramos que spammers e golpistas – aparentemente motivados por lucro ou influência, não por ideologia – já estão usando imagens geradas por IA para ganhar força significativa no Facebook.”
O Independente perguntou Chris Cox, diretor de produtos da Meta que construiu o feed de notícias original, sobre o crescimento dessas imagens falsas durante um evento de inteligência artificial no início deste mês.
Ele disse que “a rotulagem é absolutamente crítica”. Ele apontou, por exemplo, novas regras que exigem que cada postagem em um feed inclua uma mensagem indicando que foi gerada por inteligência artificial, seja usando um dos sistemas de IA da própria Meta ou de outras empresas, como a Midjourney.
“A chave aqui é: a experiência do usuário ao longo do caminho, garantindo que ninguém fique surpreso com a experiência que está tendo e contando com ferramentas simples de experiência do usuário que rotulam as IAs quando as vemos”, disse ele. “Se vale de alguma informação, a quantidade de conteúdo gerado por IA em feeds ainda é pelo menos.”
Mas o novo artigo sugere que, por enquanto, pelo menos alguns desses grupos estão a partilhar imagens não rotuladas. Essas imagens não rotuladas aparecem até mesmo para pessoas que não seguem os grupos ou percebem que são geradas por IA, o que significa que podem facilmente levar as pessoas a confundi-las com imagens genuínas.
Quando isso acontece, essas imagens costumam receber uma enxurrada de comentários de apoio. Mas não está claro quantos desses comentários foram escritos parcial ou totalmente usando ferramentas de inteligência artificial.
Isto levou a algum receio da “Internet morta” – a ideia de que a Web estará em breve repleta de sistemas automatizados que criam e reagem a conteúdos, tornando assim muitos websites cada vez mais hostis aos utilizadores humanos.