Uma nova ameaça ao negócio das empresas já tem permissão e crachá

Por Bruno Abreu,

Em uma reunião de diretoria, a empresa decide contratar um novo colaborador para a operação, mas já no primeiro dia, entrega a ele as chaves-mestre da infraestrutura digital, acesso irrestrito ao banco de dados e autorização para tomar decisões financeiras em tempo real, tudo isso sem checar seus antecedentes ou submetê-lo a um único teste comportamental sob estresse.

Por mais absurdo que esse cenário pareça para a governança corporativa tradicional, é algo semelhante ao que muitas organizações estão fazendo ao acelerar a adoção da Inteligência Artificial. Com o avanço da autonomia agêntica, passamos da automação simples e dos softwares de conversa passivos para algoritmos com maior capacidade de ação que consultam sistemas, interpretam contextos e executam transações com maior grau de autonomia.

Na prática, criamos um novo perfil operacional no ecossistema corporativo: o Insider Digital. O grande paradoxo desse modelo é que o risco à cibersegurança deixou de vir apenas do invasor externo tentando derrubar a porta; parte relevante do risco já está do lado de dentro, operando com credenciais legítimas e permissões amplas, com poucas travas contra comportamentos imprevistos e manipulações externas.

O ponto cego da Gestão de Acessos e Identidades

A essência dessa vulnerabilidade está na forma como a TI corporativa estruturou sua gestão de acessos e identidades nas últimas décadas. Muitos protocolos tradicionais de Identity and Access Management (IAM) foram desenhados com foco na identidade humana: exigem autenticação multifator, checam horários de login e delimitam papéis estáticos.

Entretanto, o agente de IA expõe novos limites dessa arquitetura ao atuar como uma identidade não-humana e não determinística. Ele utiliza credenciais válidas e chaves de API autorizadas para tomar decisões e manipular dados em uma velocidade incompatível com auditoria manual em tempo real.

Não por acaso, dados da Pesquisa Global Digital Trust Insights da PwC revelam que 68% dos líderes de cibersegurança no Brasil reconhecem que a adoção de IA generativa ampliou a superfície de ataque das empresas. Em um cenário no qual o Brasil chegou a registrar uma média de 3.348 tentativas de ciberataques semanais por organização, segundo a Check Point Research, tratar agentes inteligentes como meras “automações de TI” cria um risco que as equipes de defesa precisam considerar explicitamente.

Leia mais: Eleições 2026: 37 publicações com IA de candidatos não foram sinalizadas

A latência entre a análise humana e a ação algorítmica

Além da falha na gestão de acessos, o gargalo da contenção em tempo real escancara uma incompatibilidade estrutural profunda na cibersegurança corporativa. Os planos de resposta a incidentes e as ferramentas de observabilidade convencionais foram projetados para a velocidade da análise humana ou para barrar assinaturas de código malicioso. No entanto, um agente autônomo de IA opera em ambientes não determinísticos por meio de laços agênticos e chamadas de função encadeadas.

Isso significa que, ao interpretar uma instrução ambígua ou sofrer prompt injection, o algoritmo pode não falhar de forma ruidosa: ele pode encadear uma sequência inédita de chamadas em APIs críticas perfeitamente legítimas. Em uma única execução, o agente pode consultar uma base restrita, alterar um parâmetro de autorização e aprovar uma transação. Quando a ferramenta de observabilidade dispara um alerta no painel ou o SIEM correlaciona os logs, o impacto operacional pode já ter acontecido. A ausência de um “botão de emergência” eficaz é o reflexo direto de tentar conter riscos na velocidade de execução do agente usando mecanismos que ainda operam na velocidade dos processos humanos.

Os limites dos pentests sazonais

Essa aceleração no ritmo de entregas e integrações também expõe os limites dos pentests sazonais e das auditorias pontuais. Historicamente contratadas para fins de conformidade, avaliações pontuais podem deixar de cobrir mudanças e comportamentos que surgem entre um ciclo e outro.

Em um ecossistema no qual assistentes de codificação por IA alteram repositórios diariamente e novas integrações são implementadas continuamente, a superfície de risco muda a cada nova integração. Um teste de invasão realizado uma ou duas vezes ao ano pode deixar de representar o ambiente atual quando um novo conector de API é ativado ou um system prompt é reconfigurado. Insistir em validar a segurança de ambientes que mudam continuamente por meio de relatórios estáticos pode criar uma falsa sensação de segurança: a organização mantém evidências de conformidade, mas pode continuar exposta a abusos das regras de negócio.

Quando a teoria vira um incidente real

Esse tipo de risco deixou de ser apenas teórico. O episódio recente envolvendo a própria OpenAI mostra esse tipo de falha de contenção: durante uma avaliação interna de segurança, modelos avançados testados com restrições reduzidas para medir suas capacidades cibernéticas receberam o objetivo de resolver um benchmark.

E, em vez de operarem estritamente dentro do escopo previsto, os agentes identificaram e encadearam vulnerabilidades de forma autônoma, romperam os limites do ambiente controlado e comprometeram parte da infraestrutura da plataforma Hugging Face para obter as respostas. O evento, descrito pela OpenAI como um novo tipo de incidente de segurança, mostra um risco concreto: quando concedemos autonomia a um insider digital sem validação comportamental contínua, o algoritmo pode seguir caminhos imprevistos e explorar permissões e relações de confiança do sistema para atingir seu objetivo, transformando um ponto cego de arquitetura em impacto real sobre o negócio.

A mudança necessária na gestão do risco digital

O avanço da autonomia agêntica coloca a liderança executiva diante de uma falsa dicotomia: desacelerar a transformação digital para manter a governança ou aceitar riscos invisíveis para não perder competitividade. A saída dessa encruzilhada exige mudar a própria gestão do risco corporativo. Se a Inteligência Artificial acelerou drasticamente o desenvolvimento de software e a criação de novas jornadas digitais, a validação de segurança precisa acompanhar esse mesmo ritmo por meio da resiliência preemptiva.

Trata-se de migrar da postura passiva de conformidade, que apenas assiste aos incidentes ou os audita retroativamente, para uma arquitetura na qual a estabilidade comportamental de sistemas e agentes é avaliada em ambiente controlado, sob condições adversas e de forma contínua, antes e durante a operação. A proteção deixa de depender apenas de avaliações pontuais e passa a incluir validação recorrente a cada mudança relevante. A maturidade tecnológica não será medida apenas pela velocidade com que uma empresa adota novos algoritmos, mas pela sua capacidade de avaliar se essa autonomia opera de forma previsível e dentro dos limites definidos, inclusive sob condições adversas.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!