Um grupo de atuais e ex-funcionários de grandes empresas de Silicon Valley que desenvolvem inteligência artificial emitiu um alerta através de uma carta aberta, ressaltando que a IA pode representar uma ameaça de “extinção humana” se não forem implementadas salvaguardas adicionais. A carta foi assinada por 13 profissionais, a maioria proveniente de empresas como OpenAI, Anthropic e DeepMind (do Google), os quais argumentam que os pesquisadores de IA precisam de mais proteção para poder criticar novos desenvolvimentos e divulgar informações ao público e legisladores sobre o rumo da inovação em IA.
“Acreditamos no potencial da tecnologia de IA para trazer benefícios sem precedentes para a humanidade”, afirma a carta divulgada na última terça-feira. “Também estamos cientes dos sérios riscos associados a essas tecnologias. Esses riscos vão desde o agravamento das desigualdades existentes, passando pela manipulação e desinformação, até a perda de controle de sistemas autônomos de IA, o que poderia resultar na extinção da humanidade.”
O documento destaca que as empresas que desenvolvem tecnologias de IA poderosas, incluindo a inteligência artificial geral (AGI), que é um sistema de IA teorizado como sendo tão ou mais inteligente que a inteligência humana, possuem fortes incentivos financeiros para evitar uma efetiva supervisão, tanto por parte de seus próprios funcionários quanto pelo público em geral.
Neel Nanda, pesquisador da DeepMind, é o único signatário da carta atualmente afiliado a uma das empresas mencionadas.
“Isso NÃO ocorreu porque tenho algo contra meus atuais ou antigos empregadores, nem tenho críticas específicas sobre suas posturas em relação aos denunciantes”, compartilhou Nanda em um tweet. “Mas eu acredito que a AGI terá consequências significativas e, como todos os laboratórios reconhecem, pode representar uma ameaça existencial. Qualquer laboratório que pretenda desenvolver AGI precisa demonstrar que é digno da confiança do público, e os funcionários terem um direito de denúncia robusto e protegido é um passo fundamental nesse sentido.”
A carta apela para que as empresas evitem punir ou silenciar funcionários atuais ou ex-funcionários que alertem sobre os riscos da IA, possivelmente referindo-se a um incidente recente na OpenAI, onde os funcionários que estavam de saída foram orientados a escolher entre perder os benefícios adquiridos ou assinar um acordo de não difamação que nunca expiraria. A OpenAI posteriormente revogou essa exigência, declarando que “não reflete nossos valores ou a empresa que queremos ser”.
Uma porta-voz da OpenAI afirmou que a empresa se orgulha de fornecer sistemas de IA seguros e eficientes, comprometendo-se com uma abordagem científica na gestão de riscos. Além disso, a empresa fornece uma linha direta anônima para os trabalhadores e possui um Comitê de Segurança e Proteção que monitora os desenvolvimentos corporativos. A OpenAI também demonstrou estar aberta ao aumento da regulamentação da IA e compromissos voluntários em relação à segurança do setor.
A carta aberta chega num momento de controvérsias para as principais empresas de IA, especialmente a OpenAI, que têm introduzido assistentes com novos recursos, como a capacidade de realizar conversas voz a voz com humanos e lidar com informações visuais, como um feed de vídeo ou um problema de matemática.
A atriz Scarlett Johansson, que já emprestou sua voz para um assistente de IA no filme “Her”, acusou a OpenAI de utilizar sua voz como modelo para um de seus produtos, apesar de a atriz ter explicitamente rejeitado uma proposta semelhante. Embora o CEO da OpenAI tenha mencionado “dela” no lançamento do assistente de voz, a empresa negou ter usado a voz de Johansson como modelo.
Além disso, OpenAI dissolveu uma equipe formada para pesquisar os riscos de longo prazo da IA em menos de um ano após a sua formação. Vários pesquisadores importantes deixaram a empresa nos últimos meses, incluindo o cofundador Ilya Sutskever. Essas mudanças ocorrem após uma batalha no conselho da empresa no ano passado, que resultou no afastamento temporário e reintegração do CEO Sam Altman.
O Independente entrou em contato com a Anthropic e o Google para comentários adicionais sobre o assunto.