As empresas estão começando a obter retorno financeiro e ganhos de produtividade com a inteligência artificial (IA), mas ainda têm dificuldades para confiar na tecnologia quando ela precisa tomar decisões importantes. É o que mostra um estudo da Fico, empresa especializada em soluções de análise de dados e tomada de decisões, realizado em parceria com a Corinium Global Intelligence.
Segundo a pesquisa State of Responsible AI 2026, 85,1% dos executivos afirmam que a IA atingiu ou superou suas expectativas de retorno sobre o investimento. Ao mesmo tempo, apenas 5,2% se dizem muito confiantes em explicar como a tecnologia chega às suas decisões.
As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada
A diferença entre os dois indicadores revela um desafio para as organizações: usar IA para ajudar um funcionário a escrever um e-mail é relativamente simples. Confiar na mesma tecnologia para avaliar uma operação financeira, identificar uma fraude ou influenciar a concessão de crédito exige controles muito mais rigorosos.
Em entrevista exclusiva ao IT Forum, durante evento da Fico em São Paulo, a vice-presidente de gestão de produtos de IA da companhia, Rachael Hadaway, explica que parte da satisfação das empresas está relacionada ao tipo de resultado que elas esperam alcançar neste momento.
“Acho que, se tivéssemos olhado há um ou dois anos, as empresas em geral não estariam felizes com nenhum retorno sobre o investimento da IA. Mas agora elas estão começando a sentir todos esses ganhos de produtividade nos negócios, e isso está sendo muito bom”, afirma.
Para Rachael, o desafio começa quando as organizações tentam levar a tecnologia para atividades que envolvem riscos maiores, como decisões sujeitas à fiscalização de órgãos reguladores.
“Para avançar para alguns dos problemas mais estratégicos, haverá um grande abismo, porque as pessoas tendem a não usar IA quando podem ter problemas, quando isso pode causar constrangimento à empresa, quando pode causar preocupação dos reguladores”, acrescenta.
O retorno chegou antes da confiança
O levantamento ouviu 1.004 lideranças seniores das áreas de tecnologia, dados e riscos em diferentes setores e mercados internacionais. Os resultados mostram que o avanço da IA não acontece na mesma velocidade em todas as atividades das empresas.
Embora a tecnologia já esteja presente em tarefas de produtividade, 71,5% das decisões que afetam clientes ainda são realizadas sem IA. Do total de decisões, 33,3% dependem do julgamento humano, 21,4% de sistemas baseados em regras e 16,8% de análises tradicionais.
Na prática, isso significa que uma empresa pode utilizar IA diariamente e, mesmo assim, continuar dependendo de outros métodos para tomar suas decisões mais importantes.
Durante a coletiva de imprensa, o diretor de análise de dados da Fico, Scott Zoldi, afirma que muitas organizações ainda avaliam o sucesso da IA a partir de expectativas limitadas.
“Acho que suas expectativas ainda não foram ‘vamos transformar o negócio’ ou ‘vamos fazer algo diferente para o consumidor’. Tem sido ‘vamos economizar algum dinheiro ou tornar a empresa mais eficiente com o uso da IA’, e essa é uma expectativa muito diferente”, diz, em resposta a uma pergunta do IT Forum.
Essa diferença ajuda a explicar por que a satisfação com o retorno financeiro pode coexistir com a falta de confiança na tecnologia.
Leia também: 99 investe R$ 150 milhões em segurança e aposta em IA para proteção de usuários
Explicar uma decisão precisa fazer parte da IA desde o início
Um dos principais obstáculos para ampliar o uso da IA está na dificuldade de entender como ela chega a determinados resultados.
Imagine que um banco negue uma operação de crédito utilizando IA. Se o cliente questionar a decisão, a instituição precisa conseguir explicar os motivos. Não basta informar que um sistema analisou os dados e chegou àquela conclusão.
Rachael afirma que muitas empresas desenvolvem primeiro os modelos e só depois procuram maneiras de justificar suas respostas. O problema é que nem sempre essa explicação atende às exigências regulatórias.
“O que acontece é que você tem essas decisões que são tomadas, é um pouco uma caixa-preta, e então você pergunta como a decisão foi tomada, e a resposta geralmente não é suficiente para a regulamentação”, explica.
Para evitar esse problema, a executiva defende que a capacidade de explicar as decisões seja incorporada ao desenvolvimento da tecnologia, e não adicionada depois que ela já estiver pronta.
A pesquisa indica que 71,9% dos entrevistados consideram importantes os padrões de desenvolvimento de modelos de IA, enquanto 67,9% destacam a necessidade de arquiteturas que permitam compreender seu funcionamento. Apesar disso, apenas 58,8% utilizam mecanismos de detecção de vieses e 53,5% realizam auditorias regulares dos modelos.
Essas diferenças mostram que reconhecer a importância da governança não significa necessariamente colocá-la em prática.
Agentes de IA ainda enfrentam dificuldades para sair dos testes
O desafio se torna maior com a chegada dos agentes de IA, sistemas capazes de executar tarefas e tomar determinadas ações com autonomia, seguindo objetivos e limites definidos pelas organizações.
Segundo a Fico, apenas 2,4% das empresas pesquisadas já implementaram amplamente IA agêntica em atividades voltadas aos clientes. Outras 71,5% estão explorando a tecnologia ou conduzindo projetos-piloto.
Para Rachael, a principal mudança em relação à IA generativa tradicional é que os agentes não se limitam a produzir respostas. Eles também podem executar ações em nome de pessoas ou empresas.
“O profissional essencialmente abre mão do controle, e então pode deixar o agente agir em seu nome. E isso se torna algo difícil de abrir mão”, afirma.
A executiva afirma que o desenvolvimento desses sistemas exige regras sobre o que os agentes podem fazer, além de testes constantes para verificar se respeitam essas restrições.
Na Fico, esse processo inclui simulações de situações reais. Os agentes recebem políticas de atuação e passam por milhares de testes que procuram identificar comportamentos inadequados antes de sua utilização.
Quando um problema é encontrado, a equipe revisa as regras e repete as avaliações. O objetivo é reduzir o risco de que um agente execute ações fora dos limites estabelecidos.
Investigação de fraudes é uma das aplicações em desenvolvimento
Uma das aplicações citadas por Rachael envolve a investigação de fraudes bancárias.
Quando um consumidor utiliza seu cartão, sistemas financeiros analisam informações da transação para identificar possíveis irregularidades. Em situações suspeitas, investigadores precisam consultar dados, entrar em contato com clientes e acompanhar os casos.
A Fico está desenvolvendo agentes para executar parte dessas atividades após a identificação de uma possível fraude. A proposta é automatizar investigações mais simples, permitindo que os profissionais concentrem seus esforços nas ocorrências que exigem análises mais complexas.
“Não estamos tentando substituir esse investigador de fraude. Eles ainda são uma peça muito importante do quebra-cabeça, mas têm uma enorme carga de trabalho para lidar”, diz Rachael.
Segundo a executiva, os agentes estão sendo treinados para consultar informações, realizar contatos e acompanhar procedimentos semelhantes aos executados pelos investigadores humanos.
Ela não apresentou indicadores de redução de custos, produtividade ou melhoria na detecção de fraudes associados a essa aplicação.
A maior barreira pode estar dentro das próprias empresas
Além dos desafios técnicos, a pesquisa aponta dificuldades para alinhar as diferentes áreas das organizações. Entre os entrevistados, 61,4% identificam a resistência à mudança como obstáculo, enquanto 58,4% mencionam a falta de entendimento compartilhado sobre IA.
Para Rachael, o sucesso da tecnologia depende de uma mudança na forma como as empresas organizam suas equipes e definem prioridades.
“A maior barreira para a IA não é a tecnologia, e não é o investimento. Acho que a maior barreira é a mudança cultural que precisa acontecer dentro de uma organização”, afirma.
A executiva explica que, em muitas companhias, existe uma equipe especializada em IA tentando levar projetos para outros departamentos. Esse modelo pode dificultar a adoção porque as áreas continuam trabalhando de maneira isolada.
Em sua avaliação, as organizações mais avançadas são aquelas que incorporam a tecnologia às diferentes funções do negócio, aproximando profissionais, dados e sistemas.
A transformação também altera as competências exigidas dos trabalhadores. Na pesquisa, 63,2% dos executivos demonstram preocupação com a capacidade de suas equipes acompanharem a evolução da IA nos próximos cinco anos.
Rachael relata que profissionais de segurança, privacidade, jurídico e governança estão passando a participar do desenvolvimento de agentes desde as primeiras etapas, em vez de avaliar os produtos apenas quando estão prontos.
Ela também observa uma mudança nas atividades dos engenheiros, que passam a dedicar mais atenção ao treinamento e à construção de capacidades dos agentes, além da programação tradicional.
Para os diretores de tecnologia, a discussão deixa de ser apenas sobre quais ferramentas contratar. Passa a envolver a definição de responsabilidades, a integração das equipes e a criação de controles capazes de acompanhar o uso da IA em toda a organização.
Rachael alerta que ignorar essas etapas pode fazer uma empresa investir em um sistema que, depois de pronto, não consegue ser colocado em operação.
“Não consigo dizer o número de vezes que temos algo que uma equipe construiu, e eles estão prontos para implantá-lo, e então nós olhamos para ele, e o avaliamos, e percebemos que ele não vai resistir à regulamentação. Não vai resistir às reclamações dos clientes”, diz.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fonte: https://itforum.com.br/noticias/empresas-retorno-dificuldades-estrategicas/