O Google defendeu seu recurso “Visões gerais de IA” após usuários relatarem respostas bizarras recebidas. A ferramenta usa inteligência artificial para responder às dúvidas dos usuários, coletando dados da internet para fornecer respostas. No entanto, nos últimos dias, o sistema recomendou a ingestão de pedras, a elaboração de pizzas com cola e até disseminou uma teoria da conspiração falsa sobre Barack Obama.
Alguns desses resultados pareciam ter sido retirados de fontes online, como a sugestão de usar cola para tornar a cobertura de pizza mais mastigável, que aparentemente veio de uma piada postada no Reddit. O Google afirmou que esses casos são raros e que a maioria das respostas fornecidas pelo sistema são de alta qualidade, com links para informações adicionais na web.
A empresa garantiu que implementou medidas de proteção em seu sistema para evitar a propagação de conteúdo prejudicial, realizou testes extensivos antes do lançamento do recurso e está constantemente refinando seus sistemas. Além disso, o Google afirmou ter melhorado o sistema para fornecer respostas factuais com mais precisão.
Os problemas encontrados podem ser devido aos dados utilizados para informar as respostas, que podem incluir piadas ou conteúdo enganoso quando reutilizado. Além disso, a tendência dos grandes modelos de linguagem, como os utilizados pelo Google, em “alucinar” e produzir respostas convincentes, mas com falsidades, também contribui para as respostas incorretas.
Como esses modelos linguísticos são treinados com base em dados linguísticos e não fatos, é comum que forneçam respostas que parecem corretas, mas na verdade contêm informações falsas. Especialistas apontam que esses problemas são inerentes a esses sistemas e desafiam sua eficácia.
Em suma, o Google está comprometido em aprimorar seu recurso “Visões gerais de IA” para garantir que forneça respostas precisas e confiáveis aos usuários, evitando a propagação de informações prejudiciais e incorretas. A empresa continuará a ajustar e melhorar seus sistemas para atender aos padrões de qualidade estabelecidos e fornecer uma experiência de pesquisa mais confiável para os usuários.
