Pesquisadores de segurança desenvolveram um worm de IA auto-replicante que pode se infiltrar nos e-mails das pessoas para espalhar malware e roubar dados.
Apelidado de Morris II, em homenagem ao primeiro worm de computador de 1988, o worm de computador foi criado por uma equipe internacional dos EUA e de Israel em um esforço para destacar os riscos associados à inteligência artificial generativa (GenAI).
O worm foi projetado para atingir aplicativos com tecnologia de IA que usam ferramentas populares como ChatGPT da OpenAI e Gemini do Google. Já foi demonstrado que assistentes de e-mail com tecnologia GenAI roubam dados pessoais e lançam campanhas de spam.
Os pesquisadores alertaram que o worm representava uma nova geração de “malware de clique zero”, já que a vítima não precisa clicar em nada para acionar a atividade maliciosa ou mesmo propagá-la. Em vez disso, é realizado pela ação automática da ferramenta generativa de IA.
“O estudo demonstra que os invasores podem inserir tais prompts em entradas que, quando processadas por modelos GenAI, levam o modelo a replicar a entrada como saída (replicação) e se envolver em atividades maliciosas (carga útil)”, escreveram os pesquisadores.
“Além disso, essas informações obrigam o agente a entregá-las (propagá-las) a novos agentes, explorando a conectividade dentro do ecossistema GenAI.”
A pesquisa foi detalhada em um estudo intitulado ‘ComPromptMized: Liberando worms de zero clique direcionados a aplicativos com tecnologia GenAI’.
Desde o lançamento do ChatGPT em 2022, os pesquisadores de segurança notaram o potencial de hackers e criminosos cibernéticos usarem algum elemento de IA generativa para realizar ataques.
A capacidade da tecnologia de imitar de forma realista textos gerados por humanos significa que falantes não nativos poderiam usá-la para gerar e-mails e textos fraudulentos convincentes.
A empresa de segurança cibernética CrowdStrike alertou em seu Relatório Anual de Ameaças Globais, publicado no mês passado, que seus pesquisadores observaram atores estatais e hacktivistas experimentando ferramentas como o ChatGPT.
“IA generativa [pode] democratizar os ataques e diminuir a barreira de entrada para operações mais sofisticadas”, escreveu um representante da empresa em um e-mail para O Independente. “A IA generativa provavelmente será usada para atividades cibernéticas em 2024, à medida que a tecnologia continua a ganhar popularidade.”