A Rússia é o ator de influência estrangeira mais prolífico que usa inteligência artificial para gerar conteúdo direcionado às eleições presidenciais de 2024, disseram autoridades de inteligência dos EUA na segunda-feira.
A tecnologia de ponta está a tornar mais fácil para a Rússia, bem como para o Irão, adaptar de forma rápida e mais convincente conteúdos frequentemente polarizadores destinados a influenciar os eleitores americanos, disse um funcionário do Gabinete do Director de Inteligência Nacional, que falou sob condição de anonimato. disse aos repórteres em um briefing.
“A (comunidade de inteligência) considera a IA um acelerador de influência maligno, ainda não uma ferramenta de influência revolucionária”, disse o funcionário. “Em outras palavras, as operações de informação são a ameaça e a IA é um facilitador.”
Autoridades de inteligência disseram anteriormente que viram a IA ser usada em eleições no exterior. “Nossa atualização de hoje deixa claro que isso está acontecendo aqui”, disse o funcionário do ODNI.
As operações de influência russa espalharam imagens, vídeos, áudio e textos sintéticos online, disseram autoridades. Isso inclui conteúdo gerado por IA “de e sobre figuras proeminentes dos EUA” e material que procura enfatizar questões controversas, como a imigração. As autoridades disseram que isso é consistente com o objetivo mais amplo do Kremlin de impulsionar o ex-presidente Donald Trump e denegrir a vice-presidente Kamala Harris.
Mas a Rússia também está a utilizar métodos de baixa tecnologia. O funcionário do ODNI disse que atores influentes russos encenaram um vídeo no qual uma mulher afirma ter sido vítima de um atropelamento cometido por Harris em 2011. Não há evidências de que isso tenha acontecido. Na semana passada, a Microsoft também disse que a Rússia estava por trás do vídeo, que foi divulgado por um site que afirma ser uma estação de TV local inexistente de São Francisco.
A Rússia também está por trás dos vídeos manipulados dos discursos de Harris, disse o funcionário do ODNI. Eles podem ter sido alterados usando ferramentas de edição ou IA. Eles foram divulgados nas redes sociais e por outros métodos.
“Um dos esforços que vemos os actores influentes russos fazerem é, quando criam estes meios de comunicação, tentar encorajar a sua propagação”, disse o responsável do ODNI.
A autoridade disse que os vídeos de Harris foram alterados de várias maneiras, para “pintá-la de uma forma negativa, tanto pessoalmente, mas também em comparação com seu oponente” e para focar em questões que a Rússia acredita serem divisivas.
O Irã também recorreu à IA para gerar postagens nas redes sociais e escrever histórias falsas para sites que se apresentam como meios de comunicação legítimos, disseram autoridades. A comunidade de inteligência disse que o Irã está tentando minar Trump nas eleições de 2024.
O Irão utilizou a IA para criar esse tipo de conteúdo em inglês e espanhol e tem como alvo os americanos “de todo o espectro político em questões polarizadoras”, incluindo a guerra em Gaza e os candidatos presidenciais, disseram as autoridades.
A China, a terceira principal ameaça estrangeira às eleições nos EUA, está a utilizar a IA nas suas operações de influência mais amplas que visam moldar as visões globais da China e amplificar tópicos divisivos nos EUA, como o uso de drogas, a imigração e o aborto, disseram as autoridades.
No entanto, as autoridades disseram que não identificaram nenhuma operação alimentada por IA visando o resultado da votação nos EUA. A comunidade de inteligência disse que as operações de influência de Pequim estão mais focadas nas disputas eleitorais nos EUA do que na disputa presidencial.
Autoridades, legisladores, empresas de tecnologia e pesquisadores dos EUA estão preocupados com o potencial de manipulação alimentada por IA para derrubar a campanha eleitoral deste ano, como vídeos ou áudios deepfake retratando candidatos fazendo ou dizendo algo que não fizeram ou enganando os eleitores sobre a votação processo.
Embora essas ameaças ainda possam materializar-se à medida que o dia das eleições se aproxima, até agora a IA tem sido utilizada com mais frequência de diferentes formas: por adversários estrangeiros para melhorar a produtividade e aumentar o volume, e por partidários políticos para gerar memes e piadas.
Na segunda-feira, o funcionário do ODNI disse que os atores estrangeiros têm demorado a superar três obstáculos principais para que o conteúdo gerado pela IA se torne um risco maior para as eleições americanas: primeiro, superar as barreiras de proteção incorporadas em muitas ferramentas de IA sem serem detectados; segundo, desenvolver os seus próprios modelos sofisticados; e terceiro, direcionar e distribuir estrategicamente conteúdo de IA.
À medida que o dia das eleições se aproxima, a comunidade de inteligência estará monitorando os esforços estrangeiros para introduzir conteúdo enganoso ou gerado por IA de diversas maneiras, incluindo “lavagem de material por meio de figuras proeminentes”, usando contas falsas de mídia social ou sites que se fazem passar por meios de comunicação de notícias, ou “liberar supostos ‘vazamentos’ de conteúdo gerado por IA que parecem sensíveis ou controversos”, disse o relatório do ODNI.
No início deste mês, o Departamento de Justiça acusou a emissora estatal russa RT, que o governo dos EUA diz operar como um braço dos serviços de inteligência russos, de canalizar quase 10 milhões de dólares para influenciadores americanos pró-Trump que publicaram vídeos críticos de Harris e da Ucrânia. Os influenciadores dizem que não sabiam que o dinheiro vinha da Rússia.
