Os jovens estão entrando em contato com a Childline sobre material de abuso sexual infantil gerado por IA, disse o NSPCC ao anunciar uma nova parceria que visa defender a segurança infantil durante o desenvolvimento de novas tecnologias de IA.
A instituição de caridade infantil disse que os jovens também contataram a Childline sobre os danos ligados à IA generativa, incluindo a disseminação de desinformação e bullying.
Isso ocorre no momento em que a instituição de caridade revela uma nova parceria de defesa com o grupo de segurança infantil dos EUA Common Sense Media, que fará com que os grupos procurem pressionar empresas de tecnologia e políticos para garantir que a segurança e o bem-estar das crianças sejam fundamentais para a tomada de decisões em torno da inteligência artificial.
O debate sobre como desenvolver ferramentas de IA com segurança intensificou-se nos últimos 12 meses, à medida que a tecnologia se tornou cada vez mais popular, graças ao surgimento de chatbots de IA generativos, como o ChatGPT.
Como parte da nova parceria, a NSPCC e a Common Sense Media também lançarão programas educativos concebidos para aumentar as competências de literacia digital nas escolas e realizarão mais investigação conjunta sobre o impacto da IA generativa nas crianças.
O presidente-executivo da NSPCC, Sir Peter Wanless, disse: “Como uma das principais vozes que ajudam a alcançar a Lei de Segurança Online no Reino Unido, há muito reconhecemos a necessidade de colaboração global por parte de governos, sociedade civil e empresas de tecnologia para promover a segurança online das crianças.
“Isto não pode ser mais claro do que na IA, onde a pressa em colher os benefícios significativos da tecnologia levou a preocupações mundiais sobre o perigo que também pode representar.
“O risco que as crianças enfrentam devido à IA não regulamentada e insegura já é demasiado elevado, e a sua segurança e experiências devem estar no centro das conversas sobre o seu desenvolvimento e regulamentações.
“Esta parceria procurará fazer isso e, ao mesmo tempo, capacitar os jovens com competências de literacia digital para os ajudar a prosperar.”
James P Steyer, fundador e executivo-chefe da Common Sense Media, disse: “Para aproveitar com segurança e responsabilidade o potencial da IA para as crianças, as organizações globais devem trabalhar juntas para garantir que o governo e o setor privado tenham em mente os melhores interesses das crianças para todas as tecnologias. design, desenvolvimento e implantação.
“A NSPCC, e o Reino Unido de forma mais ampla, estão a registar um grande progresso ao ativar os seus educadores, pais e decisores políticos, e esperamos ampliar os seus esforços nos EUA e a nível mundial.”