Namoradas e namorados populares com IA coletam informações “assustadoras” e não cumprem os padrões básicos de privacidade, de acordo com uma nova pesquisa.
Dos 11 chatbots de IA revisados por pesquisadores da Fundação Mozilla – incluindo Replika e Eva AI – nenhum atendeu aos requisitos de segurança da organização. Isso os colocou “no mesmo nível das piores categorias de produtos” que a organização já havia analisado em termos de privacidade.
Os chatbots de IA que oferecem aos usuários um relacionamento romântico tiveram um enorme crescimento no último ano, com mais de 3 bilhões de resultados de pesquisa para “namorada de IA” no Google. Sua popularidade segue o lançamento de modelos avançados de inteligência artificial generativa, como o ChatGPT, que são capazes de gerar respostas semelhantes às humanas.
A Mozilla notou alguns “sinais de alerta” quando se tratava de chatbots populares, como não criptografar informações pessoais para atender aos padrões mínimos de segurança.
“Para ser franco, namoradas com IA não são suas amigas”, disse Misha Rykov, pesquisadora do projeto Privacy Not Included da Mozilla.
“Embora sejam comercializados como algo que irá melhorar sua saúde mental e bem-estar, eles são especializados em fornecer dependência, solidão e toxicidade, ao mesmo tempo em que extraem de você o máximo de dados possível.”
A pesquisa foi detalhada em uma postagem de blog na quarta-feira, publicada para coincidir com o Dia dos Namorados, que alertava que os chatbots românticos de IA violam a privacidade dos usuários “de novas maneiras perturbadoras”.
O relatório sobre Eva AI Chat Bot & Soulmate, que custa cerca de US$ 17 por mês, observou que ele tinha uma boa política de privacidade, mas ainda era “agressivo” em relação a informações pessoais.
“O chatbot Eva AI parece bastante assustador pela forma como ele realmente incentiva os usuários a compartilhar toneladas de informações pessoais, mesmo que sua política de privacidade pareça ser uma das melhores que analisamos”, afirmou uma postagem no blog do site da Fundação Mozilla.
“E só porque a política de privacidade deles diz que eles não estão compartilhando ou vendendo essas informações agora, não significa que a política de privacidade não possa mudar no futuro.”
O Independente entrou em contato com Eva AI e Replika para comentar.
Os pesquisadores aconselharam os usuários de chatbots de IA a não compartilharem nenhuma informação confidencial com eles e a solicitarem que os dados fossem excluídos quando não usassem mais o aplicativo.
As pessoas também são aconselhadas a não dar consentimento aos aplicativos de chatbot de IA para rastreamento constante de geolocalização, nem dar-lhes acesso às fotos, vídeos ou câmeras de um dispositivo.