Pesquisadores da OpenAI alertaram sobre uma descoberta de inteligência artificial potencialmente perigosa antes da demissão do CEO Sam Altman da empresa, segundo relatos.
Vários membros da equipe da empresa de IA escreveram uma carta ao conselho de administração detalhando o algoritmo, disseram duas pessoas familiarizadas com o assunto à Reuters. A divulgação foi supostamente um desenvolvimento fundamental na preparação para a demissão do Sr. Altman.
Antes de seu retorno na terça-feira, mais de 700 funcionários ameaçaram pedir demissão e se juntar à Microsoft, sua apoiadora, em solidariedade ao seu líder demitido.
As fontes citaram a carta como um fator entre uma longa lista de queixas do conselho que levaram à demissão de Altman, entre as quais estavam preocupações sobre a comercialização de avanços antes de compreender as consequências.
A equipe que escreveu a carta não respondeu aos pedidos de comentários e a Reuters não conseguiu revisar uma cópia da carta.
A OpenAI se recusou a comentar a carta, mas reconheceu em uma mensagem interna aos funcionários um projeto chamado Q* e uma carta ao conselho antes dos eventos do fim de semana, disse uma das pessoas.
Um porta-voz da OpenAI disse que a mensagem, enviada pela executiva de longa data Mira Murati, alertou a equipe sobre certas histórias da mídia sem comentar sobre sua veracidade.
Alguns membros da OpenAI acreditam que Q* (pronuncia-se Q-Star) pode ser um avanço na busca da startup pelo que é conhecido como inteligência artificial geral (AGI), disse uma das pessoas à Reuters. OpenAI define AGI como sistemas autônomos que superam os humanos nas tarefas economicamente mais valiosas.
Dados os vastos recursos computacionais, o novo modelo foi capaz de resolver certos problemas matemáticos, disse a pessoa sob condição de anonimato porque o indivíduo não estava autorizado a falar em nome da empresa. Embora apenas realizem matemática no nível dos alunos do ensino fundamental, a aprovação em tais testes deixou os pesquisadores muito otimistas sobre o sucesso futuro do Q*, disse a fonte. A Reuters não conseguiu verificar de forma independente as capacidades do Q* reivindicadas pelos pesquisadores.
Os pesquisadores consideram a matemática uma fronteira para o desenvolvimento da IA generativa. Atualmente, a IA generativa é boa na escrita e na tradução de idiomas, prevendo estatisticamente a próxima palavra, e as respostas à mesma pergunta podem variar amplamente. Mas conquistar a capacidade de fazer matemática onde existe apenas uma resposta certa implica que a IA teria maiores capacidades de raciocínio semelhantes à inteligência humana. Isto poderia ser aplicado a novas pesquisas científicas, por exemplo, acreditam os pesquisadores de IA.
Ao contrário de uma calculadora que pode resolver um número limitado de operações, a AGI pode generalizar, aprender e compreender. Em sua carta ao conselho, os pesquisadores destacaram as proezas e o perigo potencial da IA, disseram as fontes, sem especificar as preocupações exatas de segurança mencionadas na carta.
Há muito que se discute entre os cientistas da computação sobre o perigo representado por máquinas altamente inteligentes, por exemplo, se decidirem que a destruição da humanidade é do seu interesse.
Os pesquisadores também sinalizaram o trabalho de uma equipe de “cientistas de IA”, cuja existência foi confirmada por várias fontes. O grupo, formado pela combinação das equipes anteriores “Code Gen” e “Math Gen”, estava explorando como otimizar os modelos de IA existentes para melhorar seu raciocínio e, eventualmente, realizar trabalhos científicos, disse uma das pessoas.
Altman liderou esforços para tornar o ChatGPT um dos aplicativos de software de crescimento mais rápido da história e atraiu investimentos – e recursos computacionais – necessários da Microsoft para se aproximar da AGI.
Além de anunciar uma série de novas ferramentas numa demonstração este mês, Altman afirmou na semana passada, numa cimeira de líderes mundiais em São Francisco, que acreditava que grandes avanços estavam à vista.
“Quatro vezes na história da OpenAI, a mais recente foi apenas nas últimas semanas, eu pude estar na sala, quando empurramos o véu da ignorância para trás e a fronteira da descoberta para frente, e conseguir fazer isso é a honra profissional de uma vida”, disse ele na cúpula de Cooperação Econômica Ásia-Pacífico, um dia antes de ser demitido pelo conselho da OpenAI.
Relatórios adicionais de agências.