Inscreva-se no NPR Primeiro boletim informativo matinal com as histórias que você precisa para começar o dia.
SÃO FRANCISCO – A startup de Flo Crivello com sede em São Francisco, Lindy.ai, cria “assistentes” de inteligência artificial para gerenciar seu e-mail e calendário. No início, a empresa apoiou-se fortemente nos modelos de IA topo de linha da Anthropic.
Mas, em reunião após reunião com seu financeiro, disse Crivello, uma coisa ficou clara: “De longe, nossa despesa número 1 foi a antrópica”, disse ele. “Tipo, mais do que folha de pagamento.”
Mais do que folha de pagamento – para mais de duas dúzias de funcionários. Mais que aluguel. Mais do que qualquer outra coisa. Assim, no mês passado, Crivello anunciou que Lindy havia migrado 100% de seu tráfego para o modelo chinês de IA DeepSeek-V4.
“Era apenas 10 vezes mais barato”, disse ele, acrescentando que isso economizou milhões de dólares para a empresa. “Portanto, foi uma decisão de negócios muito, muito simples.”
A inteligência artificial tornou-se uma das – não o — custos de crescimento mais rápido para as empresas dos EUA. Mas, para muitas empresas, é uma faca de dois gumes: necessária, mas cara. Para sobreviver, um número crescente de empresas está a mudar dos modelos americanos para a IA chinesa, mais barata.
Na corrida para criar os melhores modelos de IA, empresas norte-americanas como Anthropic, OpenAI e Google lideram o mundo. Especialistas dizem que os modelos chineses estão de seis a 12 meses atrasados em termos de capacidades.
Mas a China conquistou um nicho em modelos de código aberto, cujo download e adaptação são gratuitos. “O cenário do código aberto atualmente é absolutamente dominado pelos chineses. Não chega nem perto”, disse Crivello.
Ele disse que todos os fundadores que conhece que trabalham no espaço de IA estão pensando em mudar para modelos chineses ou já o fizeram.
E os custos crescentes da IA também não são apenas um problema inicial. O CEO do Uber, Dara Khosrowshahi, falou sobre isso no mês passado no Invista como o melhor podcast. “Nós estouramos nosso orçamento de IA em um trimestre, você sabe, durante todo o ano, essencialmente. E isso está nos forçando a fazer ajustes”, disse ele.
(A Uber não respondeu ao pedido da NPR de informações sobre se usa modelos chineses.)
A Bloomberg relatou que o CEO do Airbnb, Brian Chesky, disse que no ano passado a empresa confiou no modelo Qwen do Alibaba, que era “bom”, “rápido e barato”. Perplexity e Nvidia também fizeram uso do Qwen.
Como uma Ferrari ou uma Honda
Muitas empresas têm receio de alardear a utilização de modelos chineses devido a sensibilidades políticas, mas os modelos estão amplamente disponíveis em centros de modelos de IA como Hugging Face, na plataforma de hospedagem de código GitHub e por meio de agregadores de modelos e provedores de inferência baseados fora da China.
Isso inclui a empresa Featherless, com sede em São Francisco, que oferece acesso a cerca de 30.000 modelos de IA. O fundador e CEO Eugene Cheah disse que os modelos chineses são populares, mesmo que não sejam modelos “de fronteira” ou os melhores da categoria.
“É como a diferença entre dirigir uma Ferrari e uma Honda. Você pode ter o melhor carro de luxo ou apenas uma Honda em escala que funcione”, disse ele.
“Na verdade, muitos grupos de IA de código aberto estão perfeitamente bem sendo N-1, sendo N onde está a fronteira”, continuou ele. “Porque à medida que a diferença continua diminuindo, em algum momento a questão é: isso realmente importa?”
Para muitos, como Lindy, isso não importa. A Honda da IA é perfeitamente boa.
OpenRouter, outra plataforma onde as startups podem acessar uma variedade de modelos de IA, informou que o uso do DeepSeek da China passou de cerca de 9% para quase 20% desde janeiro. O uso de modelos das empresas chinesas MiniMax, Xiaomi e Tencent também aumentou.
Alguns usuários baixam e auto-hospedam modelos chineses de IA de código aberto, mas muitos os usam por meio de empresas pagas de hospedagem de IA, como Featherless e OpenRouter, para que os dados do usuário sejam mantidos nos Estados Unidos.
Victor Su-Ortiz, que faz marketing global de produtos na MiniMax, com sede em Xangai, participou recentemente de uma conferência de engenheiros de IA em São Francisco. As empresas pagam para usar modelos de IA pagando por tokens ou unidades de trabalho de IA. Su-Ortiz disse que tudo se resume ao custo por token.
“Muitas tarefas repetitivas podem ser realizadas com um modelo que tem o mesmo desempenho, mas tem um custo por token muito menor” quando comparado com os principais modelos de IA, disse ele. “E foi essencialmente isso que trouxe esses modelos abertos para os Estados Unidos.”
Ele disse que as empresas estão mudando do “tokenmaxxing” – usando o máximo de IA possível – para economizar custos limitando o uso, mudando para modelos mais baratos ou encaminhando diferentes tipos de trabalho de IA para diferentes tipos de modelos.
Para pesquisa ou “raciocínio profundo”, por exemplo, os modelos de ponta podem ter melhor desempenho, disse Su-Ortiz. “Mas se você estiver roteando para uma tarefa de codificação repetitiva e de alto volume… é aí que um de nossos modelos, especialmente o MiniMax M3, terá um desempenho excepcionalmente bom por apenas um décimo do custo.”
Economizar alguns dólares não vale a pena para todos
Para algumas empresas, os modelos chineses ainda não são bons o suficiente. Jon Gordner é CEO e cofundador da Comment.io, que foi fundada há apenas algumas semanas e está desenvolvendo um produto que, segundo ele, é como o Google Docs para programadores e agentes de IA.
“Precisamos criar um software tão bom quanto possível, o mais rápido possível. E para nós, economizar alguns dólares em um modelo mais barato não vale a pena se tivermos que gastar mais duas ou três semanas corrigindo seus erros”, disse ele.
Gordner disse que sua empresa está obtendo valor dos modelos Anthropic e OpenAI em parte porque ambas as empresas estão subsidiando usuários para atrair clientes. Ele disse que as assinaturas mensais oferecem tokens com um grande desconto agora – mas isso provavelmente não durará para sempre.
“Então, para nós, fará muito mais sentido começar a avaliar os modelos chineses e os modelos de código aberto”, disse ele.
Ara Kharazian é economista-chefe da Ramp, uma empresa que ajuda empresas a rastrear, controlar e automatizar gastos. Tem informações sobre os gastos com IA, e Kharazian disse acreditar que as empresas norte-americanas continuarão a adaptar-se – por outras palavras, poderão manter os preços sob controlo ou introduzir modelos de código aberto de alta qualidade numa tentativa de superar a concorrência dos rivais chineses.
“A ascensão destes modelos chineses é indicativa do facto de que as empresas querem algo que hoje não é oferecido pelas empresas modelo americanas”, disse ele. “A única razão pela qual estou pessimista em relação aos modelos chineses é porque presumo que as empresas modelo americanas responderão de forma competitiva.”
Gordner, do Comment.io, tem menos certeza. Ele acha que as principais empresas de IA dos EUA podem ter que começar a cobrar mais para a IA à medida que a pressão para demonstrar a rentabilidade aumenta, possivelmente à medida que se aproximam da abertura de capital. Tanto a Anthropic quanto a OpenAI entraram com documentos confidenciais junto ao governo dos EUA para dar início a eventuais ofertas públicas iniciais.
“Em algum momento”, disse Gordner, “a música vai parar”.
A Anthropic é uma apoiadora financeira da NPR.
