Por que Biden está tão preocupado com a IA

O presidente Joe Biden está abordando as preocupações sobre a inteligência artificial enquanto o governo tenta orientar o desenvolvimento da tecnologia em rápida evolução.

A Casa Branca disse na segunda-feira (30 de Outubro) que uma ordem executiva abrangente irá abordar preocupações sobre segurança e protecção, privacidade, equidade e direitos civis, os direitos dos consumidores, pacientes e estudantes, e apoiar os trabalhadores.

A ordem também entregará uma lista de tarefas às agências federais para supervisionar o desenvolvimento da tecnologia.

‘Temos que avançar tão rápido, se não mais rápido, do que a própria tecnologia’

“Não podemos avançar no ritmo normal do governo”, disse o chefe de gabinete da Casa Branca, Jeff Zients, citando Biden, à sua equipe: de acordo com a AP. “Temos que avançar tão rápido, se não mais rápido, que a própria tecnologia.”

Biden acredita que o governo dos EUA chegou tarde ao jogo para ter em conta os riscos das redes sociais, levando aos problemas de saúde mental relacionados agora observados entre os jovens dos EUA.

Embora a IA possa ajudar a desenvolver drasticamente a investigação sobre o cancro, prever os impactos da crise climática e melhorar a economia e os serviços públicos, também pode espalhar imagens, áudio e vídeos falsos, com consequências políticas possivelmente generalizadas. Outros efeitos nocivos incluem o agravamento da desigualdade racial e social e a possibilidade de ser utilizada para cometer crimes, como fraudes.

A presidente do Centro para Democracia e Tecnologia, Alexandra Reeve Givens, disse à AP que a administração Biden está usando as ferramentas à sua disposição para emitir “orientações e padrões para moldar o comportamento do setor privado e liderar pelo exemplo no uso do próprio governo federal de IA”.

A ordem executiva de Biden surge depois de as empresas tecnológicas já terem assumido compromissos voluntários, e o objetivo é que a legislação do Congresso e a ação internacional se sigam.

A Casa Branca obteve compromissos no início deste ano do Google, Meta, Microsoft e OpenAI para implementar padrões de segurança na construção de novas ferramentas e modelos de IA.

A ordem executiva de segunda-feira emprega a Lei de Produção de Defesa para exigir que os desenvolvedores de IA compartilhem resultados de testes de segurança e outros dados com o governo. O Instituto Nacional de Padrões e Tecnologia também deverá estabelecer padrões que regem o desenvolvimento e o uso de IA.

Da mesma forma, o Departamento de Comércio publicará orientações descrevendo a rotulagem e marca d’água do conteúdo criado com IA.

Um funcionário do governo disse à imprensa no domingo que a ordem deve ser implementada dentro de 90 dias a um ano. As questões de segurança e proteção têm os prazos mais apertados.

Biden se reuniu com a equipe na quinta-feira passada para uma reunião de meia hora que se estendeu por uma hora e 10 minutos para dar os retoques finais no pedido.

Biden ‘impressionado e alarmado’ com IA

O presidente esteve envolvido em reuniões sobre a tecnologia nos meses que antecederam a assinatura do pedido na segunda-feira, reunindo-se duas vezes com o Conselho Consultivo Científico para discutir a IA e abordando a tecnologia durante duas reuniões de gabinete.

Em várias reuniões, Biden também pressionou os líderes e defensores da indústria de tecnologia sobre o que a tecnologia é capaz.

O vice-chefe de gabinete da Casa Branca, Bruce Reed, disse à AP que Biden “ficou tão impressionado e alarmado quanto qualquer outro”.

“Ele viu imagens falsas de IA dele mesmo, de seu cachorro”, acrescentou. “Ele viu como isso pode gerar poesia ruim. E ele viu e ouviu a incrível e aterrorizante tecnologia de clonagem de voz, que pode tirar três segundos da sua voz e transformá-la em uma conversa totalmente falsa.”

As imagens e o áudio criados pela IA levaram Biden a pressionar pela rotulagem do conteúdo criado pela IA. Ele também estava preocupado com o fato de pessoas mais velhas receberem um telefonema de uma ferramenta de IA usando uma voz falsa, soando como a de um membro da família ou de outro ente querido, com o propósito de cometer uma fraude.

As reuniões sobre IA muitas vezes demoravam muito, e o presidente certa vez disse aos defensores: “Isso é importante. Leve o tempo que precisar.

Biden também conversou com cientistas sobre os possíveis impactos positivos da tecnologia, como a explicação do início do universo e a modelagem de eventos climáticos extremos, como inundações, onde dados antigos se tornaram imprecisos devido às mudanças causadas pela crise climática. .

‘Quando diabos eu disse isso?’

Na segunda-feira, na Casa Branca, Biden abordou as preocupações sobre “deepfakes” durante um discurso relacionado com a assinatura do decreto.

“Com a IA, os fraudadores podem fazer uma gravação de três segundos da sua voz. Já ​​assisti uma de mim algumas vezes. Eu disse: ‘Quando diabos eu disse isso?’”, Disse Biden, arrancando risadas da plateia.

O senhor Reed acrescentou que assistiu Missão: Impossível – Dead Reckoning Parte Um com Biden em um fim de semana em Camp David. No início do filme, o antagonista, uma IA chamada “a Entidade”, afunda um submarino, matando sua tripulação.

“Se ele já não estivesse preocupado com o que poderia dar errado com a IA antes do filme, ele viu muito mais com que se preocupar”, disse Reed à agência de notícias.

A Casa Branca tem enfrentado pressão de vários grupos aliados para abordar os possíveis efeitos nocivos da IA.

A diretora do programa de justiça racial da União Americana pelas Liberdades Civis, ReNika Moore, disse à AP que o sindicato se reuniu com a administração para garantir que “estamos responsabilizando a indústria de tecnologia e os bilionários da tecnologia” para que as novas ferramentas “ trabalha para todos nós e não apenas para alguns”.

O ex-funcionário de Biden, Suresh Venkatasubramanian, disse à agência de notícias que o uso da IA ​​​​pela aplicação da lei, como nos postos de fronteira, é um dos principais desafios.

“São todos locais onde sabemos que o uso da automação é muito problemático, com reconhecimento facial, tecnologia de drones”, disse o cientista da computação.