Custos de IA expõem problema de contexto e gastos

O crescimento dos gastos com inteligência artificial (IA) pode estar menos relacionado ao uso dos modelos e mais à qualidade do contexto fornecido a eles. Essa é a avaliação da Forrester em análise publicada nesta semana.

Segundo a consultoria, muitas organizações estão descobrindo que a expansão de projetos de IA generativa e agentes autônomos traz custos significativamente maiores do que o previsto inicialmente. O principal motivo está na forma como os sistemas acessam, interpretam e reutilizam informações corporativas.

De acordo com a Forrester, os agentes de IA não executam apenas uma solicitação isolada. Eles operam em ciclos contínuos, consultando dados, recuperando contexto e realizando múltiplas interações até concluir uma tarefa.

Esse processo aumenta o consumo de tokens e amplia a demanda computacional. A consultoria cita pesquisas que indicam que um agente pode consumir cerca de quatro vezes mais tokens do que uma interação convencional de chat, enquanto arquiteturas com múltiplos agentes podem elevar esse volume para até quinze vezes.

Dívida de contexto amplia despesas operacionais

A Forrester define esse fenômeno como “dívida de contexto”. O conceito descreve situações em que o conhecimento corporativo não está estruturado de forma adequada para ser compreendido por máquinas.

Quando isso ocorre, os agentes precisam reconstruir significado repetidamente a cada nova interação, consumindo mais recursos computacionais, aumentando a latência das respostas e elevando os custos operacionais.

Leia mais: Agentes de IA, governança e economia: os três pilares do futuro, segundo CEO da Rimini Street

Segundo a análise, o problema tende a se tornar mais relevante à medida que empresas avançam na adoção de sistemas multiagentes, capazes de executar tarefas complexas de maneira coordenada.

Nesse cenário, a organização de dados, documentação, processos e conhecimento institucional passa a ter impacto direto sobre eficiência financeira e desempenho dos modelos.

Para a Forrester, reduzir custos de IA exigirá investimentos não apenas em modelos mais eficientes, mas também em estratégias para tornar o conhecimento corporativo mais acessível e legível para sistemas inteligentes.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!