O Google anunciou novos bloqueios em sua ferramenta de inteligência artificial Gemini para impedi-la de responder a certas perguntas sobre eleições.
A gigante da tecnologia disse que a medida para estrangular o Gemini na Índia e nos EUA fazia parte de seu plano de adotar uma “abordagem responsável” para produtos generativos de IA.
“Por muita cautela sobre um tópico tão importante, começamos a implementar restrições sobre os tipos de perguntas relacionadas a eleições para as quais a Gemini retornará respostas”, escreveu a empresa em uma postagem no blog na terça-feira.
“Levamos a sério nossa responsabilidade de fornecer informações de alta qualidade para esses tipos de consultas e estamos trabalhando continuamente para melhorar nossas proteções.”
2024 está a ser apontado como o maior ano eleitoral de sempre, com mais de 4 mil milhões de pessoas em 50 países a dirigirem-se às urnas. É também a primeira vez para a maioria dos votantes que a IA generativa está amplamente disponível ao público.
Especialistas alertaram sobre o potencial da IA generativa para enganar os eleitores, criando desinformação convincente na forma de texto, bem como imagens e vídeos deepfake.
Uma pesquisa recente conduzida pela OnePoll descobriu que o conteúdo gerado por IA estava entre as principais preocupações tanto dos democratas quanto dos republicanos antes das eleições nos EUA no final deste ano.
Encomendada pela empresa de segurança Yubico e pelo grupo sem fins lucrativos Defending Digital Campaigns, a pesquisa realizada com 2.000 americanos revelou que 42% dos democratas e 49% dos republicanos acreditavam que a IA teria um impacto negativo no resultado das eleições.
“Achamos interessante que mais de 78 por cento dos entrevistados estejam preocupados com o uso de conteúdo gerado por IA para se passar por um candidato político ou criar conteúdo não autêntico, com os democratas com 79 por cento e os republicanos com 80 por cento”, disse David Treece, vice-presidente. presidente de arquitetura de soluções da Yubico.
“Talvez ainda mais revelador é que eles acreditam que a IA terá um efeito negativo nos resultados eleitorais deste ano.”
O Google segue outras empresas ao adicionar limites aos produtos de IA, com o criador do ChatGPT, OpenAI, expondo seu plano para evitar que sua tecnologia seja mal utilizada no início deste ano.
A OpenAI disse que está reunindo membros de suas equipes de engenharia, jurídico, político, segurança e inteligência de ameaças para investigar e abordar possíveis abusos de suas ferramentas ChatGPT e Dall-E.
“Enquanto nos preparamos para as eleições em 2024 nas maiores democracias do mundo, a nossa abordagem é continuar o nosso trabalho de segurança da plataforma, elevando informações precisas sobre votação, aplicando políticas ponderadas e melhorando a transparência”, afirmou uma publicação no blog da empresa em janeiro.
“Como qualquer nova tecnologia, essas ferramentas trazem benefícios e desafios. Eles também não têm precedentes e continuaremos evoluindo nossa abordagem à medida que aprendermos mais sobre como nossas ferramentas são usadas.”