Um membro sênior da equipe de robótica da OpenAI renunciou, citando preocupações sobre como a empresa avançou com uma parceria recentemente anunciada com o Departamento de Defesa dos EUA.
Caitlin Kalinowski, que atuou como membro da equipe técnica focada em robótica e hardware, postou nas redes sociais que havia renunciado por “princípio” depois que a empresa revelou planos para disponibilizar seus sistemas de IA dentro de sistemas de computação seguros do Departamento de Defesa.
O acordo faz parte de um esforço mais amplo do governo dos EUA para incorporar ferramentas avançadas de IA no trabalho de segurança nacional, uma tendência que gerou debate em toda a indústria tecnológica sobre supervisão e utilizações aceitáveis.
Em postagens públicas explicando sua decisão, Kalinowski escreveu: “Demiti-me da OpenAI. Preocupo-me profundamente com a equipe de robótica e com o trabalho que construímos juntos. Esta não foi uma decisão fácil.”
Ela disse que as proteções políticas em torno de certos usos de IA não foram suficientemente definidas antes que a OpenAI anunciasse um acordo com o Pentágono. “A IA tem um papel importante na segurança nacional”, escreveu Kalinowski. “Mas a vigilância dos americanos sem supervisão judicial e a autonomia letal sem autorização humana são linhas que mereciam mais deliberação do que tiveram.”
Kalinowski também enfatizou que suas preocupações eram mais sobre o processo do que sobre executivos específicos dentro da empresa, dizendo que ela tinha “profundo respeito por Sam e pela equipe, e estou orgulhosa do que construímos juntos”, referindo-se ao presidente-executivo da OpenAI, Sam Altman.
Um porta-voz da OpenAI disse à NPR que a empresa acredita que o acordo com o Pentágono “cria um caminho viável para o uso responsável da IA na segurança nacional, ao mesmo tempo que deixa claras nossas linhas vermelhas: sem vigilância doméstica e sem armas autônomas”.
Ele continuou, dizendo que a empresa reconheceu que “as pessoas têm opiniões fortes sobre essas questões e continuaremos a nos envolver em discussões com funcionários, governo, sociedade civil e comunidades em todo o mundo”.
A demissão de Kalinowski ocorre em meio a uma competição acirrada entre os principais desenvolvedores de inteligência artificial para fornecer tecnologia ao governo dos EUA. Nas últimas semanas, as agências federais recorreram à OpenAI e ao Google para sistemas de IA à medida que aumentavam as tensões com uma empresa rival, a Anthropic, sobre o uso militar dos seus modelos.
O CEO da Anthropic se manifestou contra permitir que o software da empresa fosse usado para aplicações como vigilância doméstica em massa ou armas autônomas, uma postura que levou a confrontos com autoridades de defesa – incluindo o secretário de Defesa Pete Hegseth – que disse que o departamento precisa de flexibilidade para implantar ferramentas comerciais de IA em todas as operações “legais”.
Dentro da OpenAI, a função de Kalinowski se concentrou na construção da organização robótica da empresa à medida que ela crescia. Ela escreveu em seu perfil do LinkedIn que isso incluía contratações para apoiar a expansão da empresa nos esforços de IA vinculados à infraestrutura física e ao maquinário.
Kalinowski sinalizou que planeja continuar trabalhando na mesma área. “Estou demorando um pouco, mas continuo muito focada na construção de uma IA física responsável”, escreveu ela.
