A Austrália introduziu novos regulamentos que exigem que os motores de busca tomem medidas eficazes para combater conteúdos de abuso sexual infantil gerados por inteligência artificial.
A mídia local informou que o código de segurança online, anunciado na sexta-feira, exigirá que mecanismos de busca como Google, Bing, DuckDuckGo e Yahoo tomem “medidas apropriadas” para prevenir a proliferação da exploração sexual infantil, incluindo imagens “sintéticas” criadas pela inteligência artificial.
“À medida que estas ferramentas se tornam mais democratizadas, os predadores podem usá-las para criar material sintético de abuso sexual infantil de acordo com as suas predileções, ou usar anime – o céu é o limite. Precisamos saber se as empresas estão pensando sobre isso e colocando barreiras de proteção apropriadas”, disse a comissária australiana de segurança eletrônica, Julie Inman Grant, na sexta-feira.
No mês passado, foi relatado que os jovens estão a utilizar conteúdo explícito “deepfake” gerado por IA para assediar os seus pares, contribuindo assim para uma onda de abusos online impulsionados pela inteligência artificial.
“Espero que no próximo ano teremos enormes, enormes aumentos neste tipo de relatórios [related to AI]”, disse Inman Grant.
A eSafety da Austrália é uma agência governamental independente dedicada a impedir o bullying e o abuso online baseado em imagens.
Na sexta-feira, ela disse em comunicado: “O uso de IA generativa cresceu tão rapidamente que acho que pegou o mundo inteiro desprevenido até certo ponto”.
O anúncio dos novos regulamentos segue-se à decisão do comissário de eSafety de adiar a implementação de uma iteração anterior do código em junho.
“Quando os maiores players do setor anunciaram que iriam integrar IA generativa em suas funções de pesquisa, tínhamos um rascunho de código que claramente não era mais adequado ao propósito e não poderia fornecer as proteções comunitárias que exigíamos e esperávamos”, disse Inman Grant.
“Pedimos à indústria que tentasse novamente redigir o código para atender a essas expectativas e quero elogiá-los por entregar um código que protegerá a segurança de todos os australianos que usam seus produtos.”
“A indústria tecnológica agora precisa do momento do cinto de segurança”, acrescentou ela.
Reescreva o texto para BR e mantenha a HTML tags