Uma escola na cidade de Beverly Hills, na Califórnia, expulsou cinco alunos depois que nus falsos de seus colegas gerados por IA foram compartilhados online. As imagens, nas quais os rostos dos alunos eram sobrepostos a corpos nus, chamaram a atenção dos funcionários da Beverly Vista Middle School no final de fevereiro. Em uma reunião na noite de quarta-feira, o conselho do Distrito Escolar Unificado de Beverly Hills votou pela remoção dos cinco alunos que estavam “mais flagrantemente envolvidos” na criação e distribuição do material, de acordo com Los Angeles Times.
Embora os alunos tenham sido disciplinados 24 horas após a descoberta da escola, as autoridades evitaram tomar outras medidas até que uma investigação completa fosse concluída. O superintendente distrital Michael Bregy disse em carta aos pais, vista pelo veículo, que 16 alunos estavam envolvidos, todos da oitava série. “Este incidente estimulou discussões cruciais sobre o uso ético da tecnologia, incluindo a IA, sublinhando a importância de um envolvimento vigilante e informado em ambientes digitais”, escreveu Bregy. “Além disso, reconhecemos que as crianças ainda estão aprendendo e crescendo e que os erros fazem parte desse processo. No entanto, a responsabilização é essencial e foram tomadas medidas adequadas.”
As crianças e suas famílias não contestaram a decisão de expulsá-las. O Departamento de Polícia de Los Angeles e o Ministério Público do Condado de Los Angeles estão conduzindo suas próprias investigações, mas até agora nenhuma acusação criminal foi apresentada. Pode ser difícil prosseguir com um processo criminal, pois embora a lei da Califórnia cubra a posse de pornografia infantil e o compartilhamento de fotos de nus não consensuais, ainda não há precedentes sobre fotos falsas que se fazem passar por pessoas reais.
O caso de Beverly Hills é apenas o mais recente de uma série de casos de IA ou “deepfake” que esmagadoramente veem as mulheres e as meninas como vítimas. Escolas em Nova Jersey e no estado de Washington relataram problemas semelhantes no outono, com legisladores em NJ buscando aprovar legislação proibindo o material. Enquanto isso, em Washington DC, uma conta foi introduzida buscando “proteger a segurança nacional contra as ameaças representadas pela tecnologia deepfake e fornecer recurso legal às vítimas de deepfakes prejudiciais.”
O BHUSD não respondeu imediatamente a um pedido de comentários adicionais do The Independent na tarde de sexta-feira.