Crianças em idade escolar estão usando sistemas de inteligência artificial para gerar imagens indecentes de outras crianças, alertaram especialistas.
O Centro de Internet Mais Segura do Reino Unido, ou UKSIC, disse que as escolas relataram crianças tentando criar imagens indecentes de seus colegas com geradores de imagens de IA online.
As próprias imagens constituem material de abuso sexual infantil e gerá-las e compartilhá-las pode ser crime. Mas também pode ter um impacto drasticamente prejudicial sobre outras crianças, ou ser usado para chantageá-las, alertam os especialistas.
Alguns sistemas de IA incluem salvaguardas destinadas especificamente a impedir que sejam utilizados para gerar imagens adultas. Mas outros não o fazem, e as salvaguardas existentes podem ser contornadas em alguns casos.
O UKSIC instou as escolas a garantir que os seus sistemas de filtragem e monitorização sejam capazes de bloquear eficazmente material ilegal em dispositivos escolares, num esforço para combater o aumento de tal atividade.
David Wright, diretor do UKSIC, disse: “Agora estamos recebendo relatos de escolas de crianças que usam esta tecnologia para fazer, e tentar fazer, imagens indecentes de outras crianças.
“Esta tecnologia tem um enorme potencial para o bem, mas os relatórios que estamos a ver não devem ser uma surpresa.
“Os jovens nem sempre estão conscientes da seriedade do que fazem, mas estes tipos de comportamentos prejudiciais devem ser antecipados quando as novas tecnologias, como os geradores de IA, se tornarem mais acessíveis ao público.
“Vimos claramente a prevalência do assédio sexual e do abuso sexual online na revisão do Ofsted em 2021, e esta foi uma época anterior às tecnologias generativas de IA.
“Embora o número de casos seja actualmente pequeno, estamos no sopé e precisamos de ver medidas a serem tomadas agora, antes que as escolas fiquem sobrecarregadas e o problema cresça.
“Um aumento no conteúdo criminoso produzido nas escolas é algo que nunca queremos ver, e devem ser feitas intervenções urgentes para evitar que isso se espalhe ainda mais.
“Encorajamos as escolas a rever os seus sistemas de filtragem e monitorização e a procurar apoio ao lidar com incidentes e questões de salvaguarda.”
Em Outubro, a Internet Watch Foundation (IWF), que faz parte do UKSIC, alertou que as imagens de abuso sexual infantil geradas pela IA são agora tão realistas que muitas seriam indistinguíveis de imagens reais, mesmo para analistas treinados.
A IWF disse ter descoberto milhares dessas imagens online.
A inteligência artificial tornou-se cada vez mais uma área de foco no debate sobre segurança online ao longo do último ano, em particular, desde o lançamento do chatbot de IA generativo ChatGPT em Novembro passado, com muitos grupos de segurança online, governos e especialistas da indústria apelando a uma maior regulamentação do sector. devido aos receios, está a desenvolver-se mais rapidamente do que as autoridades conseguem responder-lhe.
Reportagem adicional da Press Association