Um novo anúncio de ataque dos republicanos do Senado usa as palavras reais do senador Chuck Schumer sobre a paralisação do governo – mas em uma falsificação de IA do líder da minoria democrata no Senado.
O vídeo de 30 segundos postado no X e no YouTube pelo Comitê Nacional Republicano do Senado na sexta-feira levantou alarmes entre muitos observadores que alertaram que o vídeo cruzava uma nova fronteira na política e poderia desencadear uma enxurrada de anúncios de ataque deepfake gerados por IA.
Com a legenda X “Semana 3 da paralisação de Schumer: ‘Cada dia fica melhor para nós'”, o vídeo mostra uma versão de Schumer gerada por IA dizendo repetidamente essas palavras e sorrindo. O vídeo termina com Schumer sorrindo enquanto um narrador diz: “A paralisação de Schumer está piorando as coisas na América e os democratas adoram isso.”
“Cada dia fica melhor para nós” foi parte de uma citação que Schumer deu ao site político Punchbowl News em um artigo de 9 de outubro sobre a paralisação. Ele continuou: “É porque pensamos sobre isso com bastante antecedência e sabíamos que os cuidados de saúde seriam o ponto focal em 30 de setembro e nos preparamos para isso… Toda a teoria deles era – ameacem-nos, enganem-nos e nós nos submeteríamos em um dia ou dois.”
No entanto, a história original incluía apenas o texto da declaração de Schumer, não vídeo ou áudio.
Um comunicado de imprensa do NRSC anunciando o anúncio o descreve como uma “visualização” do comentário de Schumer e diz que foi “criado em parte usando software de inteligência artificial e inclui um aviso de isenção de responsabilidade de IA”.
A filmagem falsa de Schumer inclui uma pequena marca d’água transparente do logotipo do NRSC e as palavras “AI GENERATED” no canto inferior direito. No YouTube, o vídeo traz um rótulo adicional de “Conteúdo alterado ou sintético” que diz “O som ou os recursos visuais foram significativamente editados ou gerados digitalmente”.
“Estas são as palavras do próprio Chuck Schumer”, disse a diretora de comunicações do NRSC, Joanna Rodriguez, em um e-mail à Tuugo.pt. “Sabemos que Schumer gostaria que as pessoas não soubessem que ele disse isso, mas ele disse, e este vídeo é uma forma de os eleitores verem e ouvirem o quanto ele está orgulhoso de sua paralisação”.
O escritório de Schumer não respondeu a um pedido de comentário.
Embora a citação tenha sido algo que Schumer de fato disse, o uso da IA para inventar imagens de vídeo falsas ultrapassa os limites, disse Hany Farid, professor da Universidade da Califórnia em Berkeley que estuda mídia manipulada.
“Se eles quisessem usar a citação, poderiam ter mostrado uma imagem de Schumer e sobreposto a citação, como costuma ser feito. Não se pode argumentar razoavelmente que criar um deepfake do senador Schumer seja a mesma coisa”, disse ele.
Além disso, Farid disse que o aviso no canto inferior direito do vídeo “não é uma divulgação particularmente clara ou óbvia, especialmente quando a maioria dos usuários está navegando em suas postagens nas redes sociais”.
O vídeo do NRSC também foi criticado por jornalistas e outros comentadores nas redes sociais, incluindo repórteres de publicações de direita.
“A parte Schumer é um vídeo gerado por IA – que é divulgado no canto inferior direito – mas estamos às portas de um mundo novo e aterrorizante”, escreveu Jon Levine, repórter político do Washington Free Beacon, no X.
“O NRSC tem se apoiado cada vez mais na IA para seus anúncios, mas esta é a primeira vez que os vejo chegar ao ponto de usá-la para um vídeo falso de um oponente. Esta é uma ladeira escorregadia, mesmo com a pequena divulgação de IA no canto”, postou Ramsey Touchberry, repórter do Congresso no Washington Examiner, no X.
Em meio às críticas, Rodriguez, do NRSC, escreveu em sua própria conta X: “A IA está aqui e não vai a lugar nenhum. Adapte-se e ganhe ou agarre a pérola e perca.”
Não é a primeira vez que os republicanos usam a IA para se passar por Schumer e outros democratas. Na véspera da paralisação, o presidente Trump postou no Truth Social um vídeo aparentemente gerado por IA e repleto de palavrões, fabricando Schumer dizendo “ninguém mais gosta dos democratas”. O líder da minoria na Câmara, Hakeem Jeffries, também é mostrado no vídeo usando um sombrero e bigode de desenho animado.
Mas, ao contrário do vídeo de Schumer do NRSC, os exemplos anteriores foram fáceis de identificar como inautênticos.
Farid alertou que a crescente prevalência de falsificações de IA na política poderia ter um efeito corrosivo.
“Embora eu não ache que nossos líderes devam postar deepfakes enganosos, eles também correm o risco de que, ao postarem conteúdo real, haja bons motivos para o público questionar sua autenticidade”, disse ele.
