Os tokens de IA podem se tornar o quilowatt-hora da era da IA: Planet Money: NPR

GettyImages-2247736767.jpg

No início deste ano, o CEO da OpenAI, Sam Altman, declarou: “Vemos um futuro onde a inteligência é um serviço público, como eletricidade ou água, e as pessoas a compram de nós através de um medidor”.

Muitas outras empresas de IA parecem apostar num futuro semelhante. Se essa visão realmente se concretizar, então os “tokens de IA” podem sair do mundo dos nerds tecnologia e economia conversas e se tornar uma parte muito mais familiar de nossas vidas. O número de tokens de IA que as empresas e os consumidores utilizam pode até tornar-se uma das medidas definidoras de uma nova era industrial – o equivalente da IA ​​ao quilowatt-hora de eletricidade: a forma padrão como medimos e pagamos pela utilização da IA.

Pense nos tokens como um medidor funcionando em segundo plano sempre que você usa IA. Cada vez que um modelo de IA lê seu prompt, escreve uma resposta ou executa uma tarefa, esse trabalho é medido em tokens. Eles são os pequenos pedaços de texto e outros dados que os modelos de IA leem e geram. Em geral, quanto mais trabalho um modelo realiza, mais tokens ele normalmente processa.

Embora as empresas de IA ainda tendam a oferecer assinaturas fixas aos consumidores médios, elas cobram cada vez mais das empresas e dos desenvolvedores com base no número de tokens que usam. Ao mesmo tempo, as empresas, especialmente no setor tecnológico, têm utilizado cada vez mais a IA no seu trabalho. À medida que o uso de IA aumentou, muitas empresas descobriram o quão caros os preços baseados em tokens podem se tornar.

Depois de um período em que os trabalhadores de tecnologia estavam engajados em uma espécie de IA vale-tudo – que alguns apelidaram de “tokenmaxx“- empresas como Uber e Amazônia têm colocado barreiras de proteção em torno do uso de IA e reduzido suas crescentes contas de tokens (que um escritor inteligente em A Informação recentemente apelidado de “minimização de token“).

Mas os tokens não são apenas a forma como as empresas de IA medem o uso e cobram muitos de seus clientes empresariais. Eles também deixam para trás uma espécie de rastro digital de papel que um número crescente de economistas e outros pesquisadores estão usando para rastrear o uso de IA e estudar seu impacto econômico.