ÚLTIMAS NOTÍCIAS

O mundo dos tokens de IA e por que eles importam

Quando o assunto é IA, tokens são a moeda corrente do setor. Entenda por que esse conceito é tão relevante tanto para usuários quanto para as empresas que vendem inteligência artificial.

O Google encontrou uma única forma de dimensionar o crescimento explosivo que a IA tem vivido: medindo tokens.

A empresa processa 3,2 quatrilhões de tokens por mês, revelou o CEO do Google, Sundar Pichai, durante a keynote do Google I/O desta semana. “Nunca imaginei que diria a palavra quatrilhão, mas aqui estamos”, brincou.

De forma simples, tokens são a unidade usada pelos modelos de linguagem (LLMs) para processar dados.

Apelidados de “o novo petróleo” que move a revolução da IA, os tokens também são a forma como as empresas de inteligência artificial medem o consumo e cobram por seus serviços. Empresas de todos os tamanhos estão correndo atrás de tokens, gastando bilhões deles só para garantir tempo de processamento.

Assim como aconteceu com o petróleo, a demanda por tokens parece não ter limite e isso está pressionando uma oferta de GPUs já apertada, o que consequentemente eleva o custo de rodar ferramentas de IA.

O que é, afinal, um token?

De forma parecida com o raciocínio humano, os LLMs entendem o significado de uma frase quebrando as palavras em tokens. Pichai os descreveu como “as unidades fundamentais de dados que nossos modelos processam, muitas vezes representando um problema sendo resolvido”.

Essa unidade pode ser uma palavra inteira, parte de uma palavra, ou uma sequência de letras, símbolos ou expressões. Palavras compostas podem ser divididas em vários tokens.

Por exemplo, no inglês, o comando “I am running after a car” pode gerar “run” como um token e “ing” como outro, já que essa terminação muda o sentido da palavra. Já “car” formaria um token só. Em português o raciocínio é parecido: o modelo também fragmenta palavras e expressões para conseguir interpretar o contexto.

“Em média, um token equivale a três quartos de uma palavra, então 100 palavras dão aproximadamente 135 tokens”, explica Deepak Seth, diretor sênior de análise do Gartner.

O preço do token varia bastante

Nem todo token custa o mesmo. Um token enviado para o sistema de IA (upload) sai mais barato, enquanto o token retornado pela IA (download) custa mais caro. Um usuário, por exemplo, pode pagar para enviar um currículo e pagar ainda mais para receber de volta a versão revisada pelo modelo.

“O custo de envio é menor do que o de retorno porque a IA já fez um trabalho em cima do conteúdo”, explica Max Leaming, diretor de ciência de dados e soluções de IA na ManpowerGroup.

A cobrança por token é usada principalmente para empresas e usuários avançados, como programadores. O Claude Code, da Anthropic, e o Codex, da OpenAI, são cobrados nesse modelo, e o GitHub, da Microsoft, está adotando um esquema parecido de precificação a partir de 1º de junho.

A fatura final de IA soma o custo dos tokens com as despesas de processamento (como o tempo de uso de GPU).

A ManpowerGroup paga o custo dos tokens diretamente ao provedor do modelo, enquanto os custos de processamento são cobrados separadamente, conta Leaming. A empresa usa o Microsoft Azure, que oferece acesso a múltiplos LLMs, com o Snowflake como banco de dados.

Alguns modelos são mais inteligentes e mais econômicos em tokens

Alguns modelos de IA entregam respostas melhores, o que pode representar um uso mais eficiente do orçamento de tokens de uma empresa. Pichai afirmou que o novo Gemini 3.5 Flash, do Google, também cobrado por token, oferece “capacidades de ponta por menos da metade do preço de modelos concorrentes equivalentes”.

“Temos ouvido que muitas empresas já estão estourando seu orçamento anual de tokens”, disse Pichai. “Se as empresas combinarem o uso do Gemini 3.5 Flash com outros modelos de ponta, podem economizar bastante.”

Eficiência no uso de prompts faz diferença

Usar tokens de forma desperdiçada é jogar dinheiro fora, afirma Seth, do Gartner. Um programador pode gastar 10 mil tokens para concluir uma tarefa, enquanto outro resolve o mesmo problema com apenas mil. O problema é que ainda não existe uma ferramenta confiável para medir essa eficiência, pondera Seth.

“Algumas empresas estão migrando para modelos de cobrança baseados em resultado, porque quando as pessoas começam a perceber o custo real dos tokens, passam a se preocupar mais com eficiência”, afirma.

Pensando nisso, a ManpowerGroup criou um painel que reduz as etapas necessárias para os clientes obterem dados, conta Leaming. Novos usuários de uma ferramenta interna de dados do mercado de trabalho precisavam, no início, de dez perguntas de acompanhamento para chegar à informação desejada. Um ano depois, a média caiu para quatro.

“Eles estão usando menos tokens e sendo mais eficientes”, afirma. “E isso, em boa parte, tem a ver com a capacidade de fazer prompts melhores.”

Mas existe outro lado da moeda. Ferramentas como o Mythos, modelo polêmico da Anthropic que ainda não está disponível ao público, podem ter um preço por token extremamente alto, mas compensar isso com uma capacidade de raciocínio superior, tornando o uso mais eficiente no fim das contas.

“Mesmo que o custo por token suba, o custo total pode acabar caindo”, pondera Leaming.

A “estratégia do traficante” das fornecedoras de IA

As grandes empresas de IA estão investindo trilhões na construção de infraestrutura, mas ainda cobram pouco pelos tokens, segundo Seth. “Sinto que OpenAI, Google e Anthropic estão seguindo uma espécie de estratégia de traficante: viciam as pessoas em IA para depois aumentar o preço do token”, afirma.

As empresas de IA também podem usar tokens gratuitos como isca para fidelizar clientes, segundo Leaming. Tokens grátis incentivam empresas a construir processos e fluxos de trabalho em torno de LLMs e agentes proprietários. Reforçando essa estratégia, as grandes fornecedoras de IA têm enviado engenheiros para implementar seus modelos diretamente nas empresas clientes.

Esses profissionais, conhecidos como forward-deployed engineers (FDEs), funcionam como uma espécie de força-tarefa para implantações de IA. Eles ajudam clientes a colocar projetos de IA em prática com sucesso.

Os FDEs participam da definição de estratégias, montam planos de ação, constroem frameworks de agentes e colocam a IA em funcionamento junto com os especialistas e engenheiros da própria empresa cliente. Também avaliam os modelos, resolvem problemas de contexto e raciocínio, e cuidam de questões de segurança.

OpenAI, Google e Microsoft estão deixando de tratar o LLM como o produto em si. “Agora elas querem entrar dentro da empresa e construir a infraestrutura para você”, resume Leaming.

Tokens grátis, o novo benefício corporativo

Tokens já começam a ser oferecidos como benefício para engenheiros, segundo o CEO da Nvidia, Jensen Huang. Especialistas comparam isso ao costume de empresas pagarem a conta do celular de seus funcionários.

Leaming diz que ainda não viu esse tipo de benefício na prática, e acha a ideia até estranha. Mas, se estiver acontecendo, tudo depende de quem está oferecendo os tokens gratuitos.

Quando a própria empregadora oferece tokens grátis da OpenAI ou da Microsoft, isso pode representar uma forma indireta de prender o funcionário àquela ferramenta, segundo ele. “Aí eu fico incentivado. Quanto mais familiarizado eu fico com o produto, mais eu vou usar.”

Tokens gratuitos também são uma forma de acelerar a adoção de tecnologias de IA ainda emergentes e não totalmente prontas para o ambiente corporativo. Vários líderes de tecnologia, por exemplo, estão testando o OpenClaw, considerado um avanço relevante na área, pagando do próprio bolso, já que a ferramenta ainda é vista como arriscada demais para uso dentro das empresas.

Alex Spinelli, vice-presidente sênior de IA e plataformas para desenvolvedores da ARM, é um dos que estão testando o OpenClaw por conta própria.

“No meu OpenClaw, quando configurei errado, recebi uma conta de 500 dólares em um único fim de semana. Fiquei tipo, o que aconteceu aqui? Não existe almoço grátis. Token é caro”, contou Spinelli.

Seth, do Gartner, compara essa tática de tokens gratuitos a uma fábrica de cigarros na Índia que costumava distribuir maços de cigarro junto com o salário dos funcionários. “Além do salário, eles ganhavam algumas caixas de cigarro. A ideia era que distribuíssem entre conhecidos e ajudassem a popularizar o produto”, relembra.

“Se você dá o produto de graça para a pessoa, ela vai usar, porque agora ele está funcionando como uma espécie de moeda.”

Para o mercado brasileiro, o recado é direto: empresas que já usam Claude, ChatGPT ou Gemini em escala (seja em atendimento, geração de conteúdo ou automação de marketing) precisam monitorar de perto o consumo de tokens, assim como acompanham qualquer outro custo de infraestrutura digital. A diferença entre um prompt bem construído e um prompt genérico pode significar economia real na fatura mensal, algo especialmente relevante para agências e startups que ainda operam com margens apertadas.

WhatsApp