Em janeiro, milhares de eleitores de New Hampshire pegaram seus telefones para ouvir o que parecia ser o presidente Biden dizendo aos democratas para não votarem nas primárias do estado, a poucos dias de distância.
“Sabemos o valor de votar nos democratas quando nossos votos contam. É importante que você guarde seu voto para as eleições de novembro”, disse a voz na linha.
Mas não foi Biden. Foi um deepfake criado com inteligência artificial – e a manifestação de temores de que a onda global de eleições de 2024 fosse manipulada com imagens, áudio e vídeo falsos, devido aos rápidos avanços na tecnologia de IA generativa.
“A situação de pesadelo foi no dia anterior, no dia da eleição, no dia seguinte à eleição, alguma imagem bombástica, algum vídeo ou áudio bombástico simplesmente incendiaria o mundo”, disse Hany Farid, professor da Universidade da Califórnia em Berkeley. que estuda mídia manipulada.
O deepfake de Biden acabou sendo encomendado por um consultor político democrata que disse ter feito isso para alertar sobre a IA. Ele foi multado em US$ 6 milhões pela FCC e indiciado por acusações criminais em New Hampshire.
Mas à medida que 2024 avançava, a temida onda de deepfakes enganosos e direcionados não se materializou realmente.
“Não foi exatamente o ano das eleições de IA, como muitas pessoas previram”, disse Zeve Sanderson, que estuda como a informação digital está mudando a sociedade no Centro de Mídia Social e Política da NYU.
Em vez disso, a utilização mais visível da IA em muitos países foi a criação de memes e conteúdos cujas origens artificiais não foram disfarçadas. Muitas vezes, eram abertamente partilhadas pelos políticos e pelos seus apoiantes.
Farid disse que neste ano ele estava mais preocupado com esse tipo de “morte por mil cortes” do que com o cenário bombástico da IA.
“Não creio que as imagens tenham sido concebidas para serem claramente enganosas, mas foram concebidas para promover uma narrativa e a propaganda funciona”, disse ele. “Acho que houve uma poluição geral do ecossistema de informação, onde as pessoas começaram a desistir.”
Ressuscitando um ditador morto
Tomemos como exemplo a Indonésia, onde o partido político Golkar usou a IA para reanimar Suharto, o ditador de longa data que morreu em 2008.
“Eu sou Suharto, o segundo presidente da Indonésia”, diz o AI Suharto antes de endossar os candidatos do partido, num vídeo publicado na rede social X pelo vice-presidente do Golkar. O falso Suharto diz que os candidatos de Golkar “darão continuidade ao meu sonho de progresso da Indonésia”.
Pouco depois, o genro de Suharto – que também contava com o apoio de Golkar – foi eleito presidente.
Os memes de IA também prevaleceram na Índia, onde ocorreu o maior exercício democrático do mundo na primavera passada.
Em maio, em um bazar em Jaipur, um comerciante chamado Dilip, que só tem um nome, disse à Tuugo.pt que seus amigos lhe encaminharam memes gerados por IA no WhatsApp, a popular plataforma de mensagens de propriedade da Meta.
Ele disse que gostava daqueles que zombavam do líder da oposição Rahul Gandhi, como aquele em que uma versão de Gandhi com IA era retratada como um ladrão estúpido, imaginando todo o dinheiro que roubaria se ganhasse.
Mesmo assim, Dilip disse que, apesar dos memes, ele já havia decidido em quem votar.
Um artista generativo de IA na Índia, que atende profissionalmente pelo nome de Sahid SK, disse que adotou memes porque havia menos risco de ser processado por difamação por candidatos furiosos. Ele disse que os memes são uma piscadela, não uma deturpação total.
“Acho que essa é a única razão pela qual não vimos muitos deepfakes nesta eleição. Porque todo mundo tem medo de avisos legais”, disse Sahid SK.
Muitas narrativas falsas e enganosas foram espalhadas na Índia e em outros países sem o uso de IA – em vez disso, por meio de vídeos editados e adulterados, conhecidos como “cheapfakes”.
Musk e Trump adotam memes gerados por IA
Nos EUA, memes políticos e vídeos virais abrangeram todo o espectro, desde imagens photoshopadas e clipes fora de contexto até retratos gerados por IA da vice-presidente Kamala Harris em trajes soviéticos e de negros americanos apoiando o ex-presidente Donald Trump.
Em julho, Elon Musk, proprietário do X, compartilhou um anúncio falso no qual um clone de IA da voz de Harris se descreve como “a contratação definitiva para a diversidade”, sem revelar que o vídeo foi originalmente postado como uma paródia.
Musk e outros apoiadores de Trump frequentemente compartilhavam memes de IA zombando de Harris e dos democratas e incentivando o ex-presidente.
O próprio Trump postou uma imagem de IA de desenho animado pretendendo mostrar Taylor Swift o endossando – o que, para ser claro, ela não fez.
Sanderson disse que o uso da IA não tem como objetivo mudar a opinião das pessoas, mas sim “fazer com que seu candidato preferido pareça patriótico ou nobre (ou) fazer com que seu candidato adversário pareça mau”. Ele observou que essas manipulações poderiam ser feitas com ferramentas tradicionais de edição de fotos e vídeos, mas “a IA generativa torna tudo um pouco mais fácil”.
Sanderson também alertou que a IA pode ter sido usada de maneiras menos detectáveis. “Ainda não creio que tenhamos uma noção realmente boa e rigorosa de como a IA generativa foi usada em escala, por quem e para que fins”, disse ele.
Além do mais, é difícil traçar uma linha direta entre as falsificações de IA que foram identificadas este ano e a forma como as pessoas votaram, diz Farid, da UC Berkeley.
“Acho que isso mudou o resultado da eleição? Não”, disse ele. “Acho que isso impactou o pensamento das pessoas? Sim, acho que sim. E acho que continuará a causar isso.”
Diaa Hadid da Tuugo.pt contribuiu com reportagens de Jaipur e Calcutá, na Índia.
