OpenAI revelou uma nova ferramenta que pode gerar vídeos curtos com base em instruções de texto.
Chamado de Sora, ele é capaz de criar vídeos de até um minuto com base apenas em uma breve descrição em texto do que o usuário deseja criar.
OpenAI, criadora do ChatGPT, disse que Sora estava sendo disponibilizado para testadores de segurança para “avaliar áreas críticas em busca de danos ou riscos”, além de ser fornecido a uma série de “artistas visuais, designers e cineastas” para testar e oferecer opinião.
“Estamos ensinando IA a compreender e simular o mundo físico em movimento, com o objetivo de treinar modelos que ajudem as pessoas a resolver problemas que exigem interação no mundo real”, disse OpenAI sobre sua nova ferramenta.
A empresa disse que o modelo tem uma “compreensão profunda da linguagem”, o que lhe permite “interpretar com precisão as instruções e gerar personagens atraentes que expressam emoções vibrantes”.
Mas a OpenAI disse que também estava tomando “várias medidas de segurança importantes” em torno do Sora antes de torná-lo mais amplamente disponível.
Ele disse que estava “formando uma equipe vermelha” com a ferramenta, o que significa que ela estava sendo testada quanto a vulnerabilidades e sua capacidade de ser explorada, e estava adicionando um classificador de detecção aos metadados dos vídeos Sora que os identifica como conteúdo criado por IA.
Exemplos de vídeos de Sora em ação no site da OpenAI também incluíam uma marca d’água, identificando o conteúdo como sendo gerado por IA – uma ferramenta importante no combate à desinformação.
O criador do ChatGPT acrescentou: “Envolveremos legisladores, educadores e artistas de todo o mundo para compreender as suas preocupações e identificar casos de uso positivos para esta nova tecnologia.
“Apesar das extensas pesquisas e testes, não podemos prever todas as maneiras benéficas pelas quais as pessoas usarão nossa tecnologia, nem todas as maneiras pelas quais as pessoas irão abusar dela.
“É por isso que acreditamos que aprender com o uso no mundo real é um componente crítico para criar e lançar sistemas de IA cada vez mais seguros ao longo do tempo.”
No início desta semana, a empresa revelou que detectou e removeu vários grupos apoiados pelo Estado que utilizavam as suas ferramentas de IA para atividades maliciosas, incluindo o trabalho em conteúdo a ser utilizado em ataques de phishing.
A OpenAI e uma equipe da Microsoft, um grande investidor na empresa de IA, descobriram grupos ligados à China, ao Irã, à Coreia do Norte e à Rússia, disse a empresa.
Em uma semana movimentada para a empresa, ela também revelou planos para dar ao ChatGPT uma memória melhor para que pudesse lembrar mais dos chats de seus usuários.
Andrew Rogoyski, do Instituto de IA Centrada nas Pessoas da Universidade de Surrey, disse que ficou encorajado pela abordagem de segurança da OpenAI para Sora, mas questionou que acesso os institutos de segurança de IA tiveram à ferramenta antes de seu anúncio.
“A OpenAI reconheceu o potencial de danos com tal sistema”, disse ele.
“A ideia de que uma IA pode criar um vídeo hiper-realista de, digamos, um político fazendo algo desagradável deveria soar o alarme à medida que entramos no ano mais eleitoral da história da humanidade, com mais de 60 eleições democráticas em 2024 e metade do ano. votação da população do planeta.
“Curiosamente, a OpenAI planeja marcar os resultados do Sora com C2PA, um sistema de certificação digital que está crescendo em popularidade como um meio de rastrear a procedência das informações.
“Embora a OpenAI esteja prometendo mais detalhes sobre as medidas de segurança implementadas para Sora, é preciso perguntar se o AI Safety Institute do Reino Unido, anunciado por Rishi Sunak em novembro passado em Bletchley Park e desfrutando do compromisso das grandes empresas de IA de compartilhar seus avanços , na verdade avistou Sora antes de seu lançamento ontem.”
Mas o Dr. Rogoyski também reconheceu o potencial do Sora, chamando-o de um “grande passo em frente” para o vídeo de IA.
Ele disse: “O sistema Sora da OpenAI potencialmente marca um momento ChatGPT para vídeo.
“Da mesma forma que o ChatGPT baseado em texto, lançado há pouco mais de um ano, transformou e revolucionou o trabalho baseado em texto, desde a escrita de roteiros até o marketing por e-mail, o sistema Sora poderia fazer o mesmo com o vídeo.
“Com um simples prompt baseado em texto, Sora criará uma sequência de vídeo com realismo e clareza surpreendentes.
“Se acreditarmos no showreel da OpenAI – houve exemplos de empresas de IA falsificando os resultados de seus próprios sistemas – então este é um grande passo em frente.”