Quanto custa rodar IA no financeiro (tokens e custo local)

Resposta direta

Rodar IA custa por token: cada pedaço de texto que entra (o seu prompt, o documento) e que sai (a resposta) é contado e cobrado. Para quem usa o chat por assinatura, esse custo é fixo e invisível. Ele aparece quando você automatiza com API, agente ou RAG, porque aí cada chamada vira fatura. No financeiro, a forma mais barata e segura de rodar em volume é local: o motor processa na sua máquina e a IA vê só o resumo.

Em linguagem de operador

Token é a unidade de cobrança da IA, como o kWh é o da conta de luz. Um token é um pedaço de palavra. Um texto vira uma sequência deles. A IA cobra os dois lados do contador: o que você manda (entrada) e o que ela devolve (saída). A saída costuma ser mais cara, porque gerar texto dá mais trabalho que ler. Quanto mais texto você joga, e quanto mais ela responde, mais você paga. A unidade é sempre a mesma, mude o que mudar: o modelo conta tokens, não páginas nem caracteres.

Aqui vale separar de uma pergunta que esta escada já respondeu. Se a IA é grátis e quanto custam os planos trata da assinatura do chat (o grátis, o Plus). Esta peça é a camada de baixo: o custo de token, que é o que você paga quando deixa de só conversar e passa a construir algo que roda sozinho. No chat por assinatura, você paga um valor fixo e nem vê os tokens. No momento em que monta um agente ou liga a IA via API a um processo, cada execução consome tokens e entra na conta. É a diferença entre pagar a Netflix e pagar por filme assistido.

Vale fixar essa fronteira, porque ela confunde muita gente. O custo de token é uma conta distinta da assinatura. Você pode estar no plano grátis e, ainda assim, gerar fatura de token no instante em que pluga a IA num processo automático via API. São dois medidores separados, ligados a dois usos diferentes: um para a pessoa que conversa, outro para o sistema que executa.

E há uma regra que muda a fatura e quase ninguém mapeia: o cache de prompt. Todo turno de um agente reenvia o contexto inteiro (instruções e regras acumuladas) para a IA, e isso é recontado a cada vez. Sem cache, um contexto grande repetido em muitos turnos vira um custo enorme só de overhead. Ferramentas bem feitas guardam a parte fixa em cache e cobram uma fração dela nos turnos seguintes. Não é detalhe técnico. É o que separa um agente que cabe no orçamento de um que assusta na fatura.

Na prática (exemplo BR)

Pegue a conciliação de um extrato com 300 lançamentos. Existem dois jeitos de rodar isso com IA, e a conta de token é o que os separa.

No jeito ingênuo, você joga os 300 lançamentos inteiros no modelo e pede para conciliar. Os 300 viram tokens de entrada. A resposta vira tokens de saída, que custam mais. Repita isso todo fechamento, multiplique pela cauda de idas e voltas para acertar, e o custo cresce com o volume. Pior: você acabou de mandar o seu extrato bruto, com CNPJ e saldo, para a nuvem.

No jeito local, o trabalho pesado roda na sua máquina. Uma skill com motor casa os 300 lançamentos em Python, localmente, e manda para a IA só o resumo agregado (“292 conciliados, 8 divergências, aqui estão”). A IA gasta token para explicar 8 casos, não para processar 300. O custo despenca, porque o que sobe é um resumo, não a base inteira, e o dado sensível nem sai. É o mesmo princípio do Claude Code rodando local: o motor na sua máquina, o modelo só na borda de linguagem.

Repare no que esse resumo faz. Ele resolve as duas dores de uma vez. Corta token, porque sobe pouco texto em vez da base inteira. E preserva o dado, porque o extrato bruto nunca atravessa a rede. Não é só mais barato. É a mesma decisão de desenho que mantém o número sensível dentro de casa. No financeiro, esses dois ganhos andam juntos, e raramente você precisa escolher entre um e outro.

Os números de referência ajudam a calibrar (e mudam rápido, então confirme antes de orçar): os modelos cobram por milhão de tokens, e há uma diferença grande entre os mais baratos e os de ponta. Para a maioria das tarefas de classificação e resumo do dia a dia, dá para usar um modelo mais barato sem perder qualidade, reservando o caro para o que exige raciocínio. A conta que importa para o operador raramente é “qual modelo”. É “quanto texto estou mandando à toa e o que dá para resolver local antes de chamar a IA”.

No chat avulso, não se preocupe com token. Preocupe-se com o plano. No momento em que automatizar (agente, RAG, integração via API), o token vira linha de custo, e você tem duas alavancas: mandar menos texto (resumir antes, cachear o fixo) e processar local o que der. O custo real do financeiro, no fim, ainda é o tempo do analista. O token só vira problema quando você desenha a automação sem pensar nele.

Onde ajuda e onde quebra

Pensar em token só importa quando você automatiza. Para o uso de chat no dia a dia, o custo é a assinatura, e otimizar token é perda de tempo. A partir do momento em que um agente ou uma integração roda sozinha em volume, o token vira fatura de verdade, e aí vale desenhar para gastar pouco. Saber em qual dos dois mundos você está evita tanto a paranoia quanto a surpresa.

Local barateia e protege, mas cobra setup. Processar na sua máquina e mandar só o resumo reduz token e mantém o dado dentro de casa. O preço é a montagem inicial e o requisito de rodar localmente. Para volume recorrente com dado sensível, paga rápido. Para uma tarefa avulsa, é exagero. A decisão é de quanto e com que frequência você roda. Vale somar o custo do seu tempo nessa montagem, porque ele também entra na conta, mesmo sem aparecer numa fatura de token.

O custo escondido é o overhead repetido. A maior parte do gasto inesperado de um agente não é a tarefa, é o contexto reenviado a cada turno sem cache. Um sistema mal desenhado paga o mesmo prompt grande dezenas de vezes. Antes de culpar o preço do modelo, olhe quanto texto fixo você está recontando: quase sempre é aí que a fatura infla. É também o ponto mais fácil de corrigir, porque depende do desenho, não do preço de tabela.

Token barato não é o mesmo que decisão barata. Um modelo mais barato por token pode sair mais caro se errar mais e exigir retrabalho, ou se você precisar de várias chamadas para chegar onde uma boa resolveria. A conta certa é por tarefa concluída com qualidade, não por preço de tabela. Em finanças, um erro que passa custa muito mais que a economia de token que o causou.

Perguntas relacionadas

Como a IA cobra por uso?

Por token, que é um pedaço de palavra. A IA conta o texto que entra (seu prompt, documentos) e o que sai (a resposta), e cobra os dois, geralmente por milhão de tokens. A saída costuma custar mais que a entrada. No chat por assinatura esse custo é fixo e invisível; ele aparece quando você usa a IA via API ou em um agente.

Quanto custa rodar um agente de IA?

Depende de quanto texto ele processa e de quantas vezes roda. Cada turno de um agente reenvia o contexto, então o custo cresce com o tamanho do prompt e o número de execuções. Sem cache de prompt, o overhead do contexto repetido domina a conta. A faixa varia muito: o que controla o custo é o desenho, não só o preço do modelo.

Por que rodar IA local é mais barato?

Porque o trabalho pesado acontece na sua máquina e só um resumo vai para a IA. Em vez de mandar 300 lançamentos para o modelo processar (e pagar token por todos), um motor local concilia e envia só “292 ok, 8 divergências”. A IA gasta token para explicar a exceção, não para processar a base inteira, e o dado sensível nem sai.

O que é cache de prompt e por que importa?

É guardar a parte fixa de um prompt (instruções, contexto, regras) para não recontá-la a cada turno. Sem cache, um agente paga o mesmo contexto grande repetidamente, e o overhead vira o maior custo. Com cache, os turnos seguintes pagam uma fração disso. É o que separa um agente que cabe no orçamento de um que assusta na fatura.

Qual modelo de IA é mais barato para o financeiro?

Para classificação e resumo do dia a dia, modelos mais baratos por token costumam resolver sem perder qualidade; reserve os de ponta para o que exige raciocínio. Mas a pergunta mais útil não é “qual modelo”, é “quanto texto estou mandando à toa”. Resumir antes e processar local o que der economiza mais que trocar de modelo.

Custo de IA é o mesmo que o preço do ChatGPT Plus?

Não. O Plus (ou o grátis) é a assinatura do chat, um valor fixo para uso pessoal. O custo de token é a camada de baixo, que você paga ao usar a IA via API ou em automações que rodam sozinhas. Uma pessoa no chat pensa em plano; quem constrói um agente pensa em token. São duas contas diferentes.

Próximo passo

Custo é, no fundo, sobre quanto texto a IA processa, e isso conecta com como ela busca e representa esse texto. Os próximos conceitos do degrau, embeddings e busca semântica, explicam essa mecânica. O guia de IA para finanças mostra onde cada um entra na escada.

E a alavanca de custo mais concreta para o operador continua sendo a mesma: a skill de conciliação da Trilha Tesouraria processa local e manda só o resumo, o que corta token e mantém o extrato na sua máquina.