Um dos pioneiros da inteligência artificial alertou sobre os perigos crescentes da tecnologia deepfake para a criação de imagens de abuso sexual infantil. Yoshua Bengio, frequentemente chamado de “padrinho da IA”, juntou-se a outras figuras importantes da indústria na assinatura de uma carta aberta apelando a mais regulamentação para proteger contra tais ameaças.
Deepfakes tornaram-se cada vez mais realistas nos últimos anos, capazes de usar IA para gerar vozes, imagens e vídeos que são convincentes o suficiente para fazer as pessoas pensarem que são reais. “Deepfakes são uma ameaça crescente à sociedade e os governos devem impor obrigações em toda a cadeia de abastecimento para impedir a proliferação de deepfakes”, disse o carta aberta ler.
“A pornografia gerada por IA é uma indústria em rápido crescimento e muitos alvos são menores de idade… Toda a cadeia de fornecimento de deepfakes deve ser responsabilizada, assim como acontece com malware e pornografia infantil.”Os signatários pediram a introdução de novas leis, incluindo a criminalização total da “pornografia infantil falsa, mesmo quando apenas crianças fictícias são retratadas”.
A carta, intitulada “Perturbando a cadeia de abastecimento deepfake”, também alertou sobre o potencial dos deepfakes de IA perpetrarem fraudes, influenciarem eleições e causarem “confusão em massa”. As penalidades pelo uso de deepfakes dessas formas também devem ser aplicadas aos desenvolvedores de software que permitem o uso indevido de sua tecnologia.
Mais de 750 pessoas assinaram a carta aberta desde que foi publicada online na quarta-feira, 21 de fevereiro, incluindo acadêmicos, políticos e pesquisadores de empresas líderes de IA como o Google Deepmind e OpenAI. Não é a primeira vez que figuras proeminentes no espaço da IA usam uma carta aberta para alertar sobre a ameaça que a tecnologia representa.
No ano passado, especialistas em inteligência artificial prometeram seu apoio a uma declaração do Centro de Segurança em IA, afirmando que a inteligência artificial avançada representa uma ameaça existencial para a sociedade. Os signatários incluíram os executivos-chefe da DeepMind e da OpenAI, Demis Hassabis e Sam Altman, bem como executivos seniores do Google, Skype e da empresa de IA Anthropic. “Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos à escala social, como pandemias e guerra nuclear”, disse o relatório. declaração ler.
Uma carta aberta separada do Instituto Futuro da Vida em 2023 foi ainda mais longe, apelando às empresas de IA para interromperem o desenvolvimento dos seus sistemas, a fim de trabalharem em formas de mitigar os riscos. “Os sistemas de IA com inteligência humano-competitiva podem representar riscos profundos para a sociedade e a humanidade”, disse o relatório. carta aberta afirmou. “A pesquisa e desenvolvimento de IA devem ser reorientados para tornar os sistemas poderosos e de última geração mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.”