Uma investigação conjunta da Meta e da OpenAI revelou a interrupção de operações secretas de influência online realizadas por uma empresa israelense em meio aos conflitos em Gaza. A empresa em questão é a STOIC, sediada em Tel Aviv, especializada em marketing político e inteligência empresarial. De acordo com o relatório da OpenAI, a STOIC usou produtos e ferramentas para manipular conversas políticas online, incluindo a disseminação de conteúdo anti-Hamas e pró-Israel.
A OpenAI, conhecida por criar o ChatGPT, identificou e proibiu uma rede de contas associadas à STOIC, acusando-as de espalhar desinformação sobre a guerra em Gaza e as eleições indianas em curso. Essas contas utilizaram modelos de IA para gerar artigos e comentários postados em plataformas como Instagram, Facebook e sites parceiros. Além disso, a operação de influência falsificou o envolvimento, criando respostas às próprias publicações para simular engajamento online.
Apesar das tentativas de manipulação, a OpenAI observou que a atividade da rede atraiu pouco ou nenhum envolvimento legítimo, exceto das próprias contas inautênticas. A STOIC se descreve como um sistema de criação de conteúdo de IA que ajuda os usuários a criar e distribuir conteúdo de forma direcionada e orgânica em várias plataformas.
A Meta, em seu relatório trimestral de segurança, revelou a remoção de mais de 500 contas do Facebook, um grupo e 11 páginas, juntamente com mais de 30 contas do Instagram ligadas à operação de influência da STOIC. Essas contas direcionaram públicos nos EUA e Canadá, apresentando-se como estudantes judeus, afro-americanos e outros cidadãos preocupados.
Mike Dvilyanski, chefe de investigações de ameaças da Meta, destacou que a utilização de ferramentas de IA pela STOIC não comprometeu a capacidade de detecção das redes sociais. A Meta baniu a STOIC e emitiu uma carta exigindo que interrompam imediatamente as atividades que violam suas políticas.
Até o momento, a STOIC não respondeu aos pedidos de comentário do Independente. Essas revelações destacam a crescente importância da vigilância e combate às operações de influência online, especialmente em contextos de conflito e disputas políticas. É essencial monitorar e denunciar atividades fraudulentas para proteger a integridade das conversas online e da democracia como um todo.