Glossário · Inteligência Artificial
Tokens (em IA)
Definição
Tokens são as unidades de texto que os modelos de linguagem leem e produzem, podendo ser palavras inteiras, partes de palavras, números ou sinais, e servem de medida para tudo em IA generativa: o tamanho da janela de contexto, o limite de cada resposta, a velocidade de geração e o preço cobrado pelo uso.
- Token
- Tokenização
- Tokens de entrada e saída
- Cluster
- Inteligência Artificial
- Classificação
- Conceito
- Nível
- Básico
O que são tokens?
Tokens são os pedaços em que um LLM divide o texto para processá-lo. Uma palavra curta e comum pode ser um token só. Uma palavra longa ou rara pode virar três ou quatro. Espaços, números e pontuação também contam.
O modelo não lê letras nem palavras como uma pessoa. Ele recebe uma sequência de tokens, calcula qual é o próximo mais provável e repete o processo até terminar a resposta. Por isso, o token é a unidade que mede quase tudo em IA generativa.
Como funciona na prática?
Os tokens aparecem em quatro decisões do dia a dia:
- Limite de leitura: a janela de contexto é medida em tokens. Documento grande demais não cabe.
- Limite de resposta: cada modelo tem um teto de tokens de saída por chamada.
- Preço: as APIs cobram por milhão de tokens, com valores diferentes para entrada e saída.
- Velocidade: a geração é medida em tokens por segundo, o que afeta a experiência do usuário.
Uma consequência pouco percebida é o idioma. Como os modelos foram treinados com mais texto em inglês, o mesmo conteúdo em português costuma gerar mais tokens, o que encarece e encurta o que cabe na janela.
Tokens vs palavras: qual a diferença?
Palavra é uma unidade da língua. Token é uma unidade do modelo, definida pela forma como ele foi treinado. A relação entre os dois varia por modelo e por idioma. Para estimar custo com precisão, o caminho é usar a ferramenta de contagem do próprio provedor, e não uma regra de conversão genérica.
Exemplos
- Uma empresa que processa mil contratos por mês descobre que a maior parte do custo vem de reenviar o mesmo manual de regras em toda chamada, e passa a usar cache.
- Um assistente corta a resposta no meio porque atingiu o limite de tokens de saída.
- Um agente de pesquisa gasta muito mais tokens do que um chat comum, porque lê páginas inteiras a cada etapa.
Erros comuns
- Estimar custo de um projeto pelo preço de um teste pequeno.
- Esquecer que os tokens de saída e de raciocínio costumam custar mais.
- Ignorar que agentes consomem tokens em todas as etapas, e não só na resposta final.
- Escolher sempre o modelo mais caro, mesmo para tarefas simples.
Por que importa para líderes e empresas?
O token é a unidade econômica da IA generativa. Quem entende como ele funciona consegue prever custos, comparar fornecedores e calcular o ROI de IA com base em números reais. Para líderes, acompanhar o consumo de tokens por processo é tão importante quanto acompanhar o uso de qualquer outro recurso da empresa.
Perguntas frequentes
Quantas palavras tem um token?
Não existe conversão exata, porque cada modelo divide o texto de um jeito. Em inglês, a OpenAI estima que um token equivale em média a cerca de quatro caracteres, ou três quartos de uma palavra. Em português, o mesmo texto costuma gerar mais tokens, porque os modelos foram treinados com mais conteúdo em inglês.
Por que a IA cobra por token?
Porque o custo de processamento cresce com a quantidade de texto lido e gerado. Por isso, os provedores cobram separadamente os tokens de entrada, que o modelo lê, e os de saída, que ele escreve. A saída costuma ser mais cara. Em uso corporativo, essa conta define boa parte do custo de cada automação.
O que são tokens de raciocínio?
São tokens que alguns modelos geram para pensar antes de responder, em uma etapa interna de análise. Eles nem sempre aparecem para o usuário, mas consomem tempo e costumam ser cobrados como saída. Modelos de raciocínio tendem a gastar mais tokens por tarefa, em troca de respostas melhores em problemas complexos.
Como reduzir o gasto com tokens?
As formas mais comuns são enviar só o contexto necessário, resumir históricos longos, pedir respostas no tamanho certo, reaproveitar instruções fixas com cache quando o provedor oferece e usar modelos menores para tarefas simples. Medir o consumo por tarefa ajuda a descobrir onde está o desperdício antes de cortar qualidade.