Fabricante do ChatGPT afirmou que está a bloquear formas particularmente prejudiciais de abuso, como materiais de abuso sexual de crianças e deepfakes sexuais.
A OpenAI vai lançar a sua ferramenta de criação de vídeo com inteligência artificial para milhões de utilizadores que pagam pelo ChatGPT, marcando a próxima onda de inteligência artificial.
A empresa lançou na segunda-feira a versão mais recente de seu gerador de vídeo Sora, o Sora Turbo, que dará às pessoas a capacidade de criar conteúdo de vídeo de 20 segundos que parece fotorrealista e aumenta o medo de mais vídeos deepfake.
A OpenAI disse que o produto ainda não estaria disponível no Espaço Económico Europeu, na Suíça ou no Reino Unido, possivelmente devido a regulamentos, o que tem sido o caso dos outros produtos da OpenAI, que chegaram ao mercado europeu numa data posterior.
"Vamos esforçar-nos ao máximo para podermos lançar lá", disse Sam Altman, CEO da OpenAI, na segunda-feira.
A empresa também quer evitar o uso ilegal da ferramenta, "mas também queremos equilibrar isso com a expressão criativa", acrescentou.
A OpenAI afirmou que implementou algumas salvaguardas, que incluem marcas de água visíveis e metadados de verificação. No início, haverá limites para o carregamento de imagens de pessoas, já que a empresa revelou que está a refinar as suas mitigações de deepfake. Num blog, a OpenAI explicou que estava a bloquear formas de abuso particularmente prejudiciais, como materiais de abuso sexual de crianças e deepfakes sexuais.
A moderação do conteúdo do utilizador começará "um pouco conservadora" mas, se "não acertar, basta dar-nos esse feedback", disse Altman.
A OpenAI também disse que o Sora ainda tem limitações. "Muitas vezes gera uma física irrealista e tem dificuldades com ações complexas de longa duração", afirmou a empresa.
A OpenAI apresentou o Sora pela primeira vez em fevereiro, mas só estava acessível a cineastas, artistas e utilizadores selecionados para fazer um teste de segurança.
A OpenAI não é a única empresa a trabalhar em ferramentas de vídeo com IA. A Meta está a desenvolver o Movie Gen e a Google lançou o seu gerador de vídeo Veo. No entanto, nenhum está disponível ao público.