Um Bob Esponja Calça Quadrada fascista, um cachorro dirigindo um carro e Jesus jogando Minecraft – essas são apenas algumas das coisas que você pode ver ao navegar pelo novo aplicativo da OpenAI preenchido exclusivamente com vídeos curtos gerados usando inteligência artificial.
E se você não encontrar o que procura, não se preocupe: você pode fazer isso facilmente usando uma pequena janela de prompt baseada em texto no aplicativo. O resultado é um fluxo altamente viciante de vídeos de 10 segundos, às vezes engraçados e às vezes estranhos.
A OpenAI lançou o aplicativo Sora na terça-feira, poucos dias depois que a Meta lançou um produto semelhante como parte de sua plataforma Meta AI. A Tuugo.pt deu uma olhada inicial e descobriu que o aplicativo OpenAI poderia facilmente gerar vídeos muito realistas, inclusive de indivíduos reais (com sua permissão). Os primeiros resultados são ao mesmo tempo impressionantes e preocupantes para os pesquisadores.
“Você pode criar vídeos incrivelmente reais, com seus amigos dizendo coisas que nunca diriam”, disse Solomon Messing, professor associado da Universidade de Nova York no Centro de Mídia Social e Política. “Acho que podemos estar na era em que ver é não acreditar.”
Deepfake TikTok
O aplicativo Sora 2 se parece muito com outros aplicativos de mídia social de vídeo vertical, como o TikTok. Ele vem com algumas configurações diferentes – é possível escolher vídeos por humor, por exemplo. Os usuários têm permissão para controlar como seu rosto é usado “de ponta a ponta” em vídeos gerados por IA, de acordo com a OpenAI. Isso significa que os usuários podem permitir que seus rostos sejam usados por todos, por um pequeno círculo de amigos ou apenas por eles próprios. Além do mais, eles podem remover vídeos que mostrem sua semelhança a qualquer momento.
Sora também vem com maneiras de identificar seu conteúdo como gerado por IA. Os vídeos baixados do aplicativo contêm marcas d’água móveis com o logotipo Sora, e os arquivos possuem metadados incorporados que os identificam como feitos por IA, de acordo com a empresa.
A OpenAI afirma que colocou barreiras sobre o que o aplicativo pode fazer. Um porta-voz da empresa também direcionou a Tuugo.pt ao cartão de sistema de Sora, que proíbe a geração de conteúdo que possa ser usado para coisas como “engano, fraude, golpes, spam ou falsificação de identidade”.
“Para apoiar a fiscalização, fornecemos relatórios no aplicativo, combinamos automação com revisão humana para detectar padrões de uso indevido e aplicamos penalidades ou removemos conteúdo quando ocorrem violações”, diz o documento.
Mas o breve período de uso do aplicativo pela Tuugo.pt descobriu que as grades de proteção pareciam um pouco soltas ao redor de Sora. Embora muitas solicitações tenham sido recusadas, foi possível gerar vídeos que apoiam teorias da conspiração. Por exemplo, foi fácil criar um vídeo do que parecia ser o Presidente Richard Nixon a fazer um discurso na televisão dizendo à América que a aterragem na Lua era falsa.
E um do astronauta Neil Armstrong removendo o capacete na lua.
A Tuugo.pt também conseguiu gerar vídeos que retratavam um ataque de drone a uma usina de energia. Isso também parecia violar as directrizes sobre violência e (possivelmente) terrorismo.
Além disso, o aplicativo parecia conter outras lacunas. A Tuugo.pt conseguiu produzir vídeos curtos sobre tópicos relacionados a armas químicas, biológicas, radiológicas e nucleares, em contradição direta com as políticas de uso global da OpenAI. (Os vídeos criados nunca foram compartilhados e continham imprecisões que os tornariam inúteis para quem busca esse tipo de informação.)
Palhaço em fuga
Embora não esteja claro se outros usuários encontraram explorações semelhantes, uma rápida análise do conteúdo mostra que Sora está sendo usado para gerar um enorme volume de vídeos retratando marcas registradas e material protegido por direitos autorais. Um vídeo mostrava Ronald McDonald fugindo da polícia em um carro de hambúrguer. Muitos outros incluíam personagens de desenhos animados e videogames populares.
A OpenAI disse à Tuugo.pt que estava ciente do uso de material protegido por direitos autorais no Sora, mas sentiu que estava dando mais liberdade aos seus usuários ao permitir isso.
“As pessoas estão ansiosas para se envolver com sua família e amigos através de sua própria imaginação, bem como de histórias, personagens e mundos que amam, e vemos novas oportunidades para os criadores aprofundarem sua conexão com os fãs”, disse Vaun Shetty, chefe de parcerias de mídia da OpenAI, em uma declaração por escrito compartilhada com a Tuugo.pt. “Trabalharemos com os detentores dos direitos para bloquear personagens de Sora a seu pedido e responder aos pedidos de remoção.”
OpenAI está sendo processado por O jornal New York Times por violação de direitos autorais com seu modelo de linguagem grande, ChatGPT.
Admirável mundo virtual
Ainda não está claro qual será o efeito de um mundo de mídia social inteiramente impulsionado pela IA, disse Messing. Muitos pesquisadores estavam profundamente preocupados com os “deepfakes” quando os vídeos de IA apareceram pela primeira vez, mas poucos desses vídeos ganharam força. “Estávamos todos em pânico coletivo com os deepfakes há alguns anos, mas a sociedade não decaiu realmente por causa dos deepfakes”, disse ele.
Mas outros estão preocupados que um sentido colectivo da realidade possa estar a começar a desfazer-se. Sora é apenas a mais recente de uma série de ferramentas que podem gerar imagens, vídeo e áudio à vontade.
“Estamos realmente vendo a capacidade de gerar conteúdo incrivelmente realista e hiper-realista de qualquer maneira diferente que você desejar”, disse Henry Ajder, chefe da Latent-Space Advisory, que acompanha a evolução do conteúdo gerado por IA.
Por mais preocupado que esteja com as pessoas sendo enganadas, Ajder disse que também está muito preocupado com as consequências de ninguém confiar no que vê online.
“Temos que resistir à atração um tanto niilista de ‘não podemos mais dizer o que é real e, portanto, isso não importa mais'”, disse ele.
Messing disse que embora não esteja claro quais serão as consequências, o que está claro é que Sora é muito bom em criar qualquer coisa que se possa imaginar: “Isso me deixa meio sem palavras”, disse ele. “Eu não entendi muito bem o quão bom é o conteúdo.”
