As equipes de segurança cibernética enfrentarão um cenário cada vez mais complexo nos próximos anos, marcado pelo avanço da inteligência artificial e pela ampliação das superfícies de ataque digitais. É o que aponta uma análise do Gartner, que identificou quatro ameaças consideradas críticas para as organizações: deepfakes, comprometimento de aplicações de IA, ataques à cadeia de suprimentos de software e injeção de prompts.
Segundo a consultoria, esses riscos se destacam por oferecerem aos atacantes uma vantagem significativa sobre as empresas, tornando mais difícil a prevenção e a mitigação dos impactos. O levantamento faz parte do Gartner ThreatScape 2026-2027, metodologia que avalia ameaças com base na quantidade e qualidade dos sinais disponíveis para identificá-las e na capacidade das organizações de responder a elas.
Para John Watts, Vice-Presidente Analista do Gartner, o desafio atual está em distinguir ameaças relevantes em meio ao grande volume de informações produzidas pelo mercado. “A introdução de iniciativas de segurança por parte de empresas de ponta de IA gera um ruído significativo em um cenário de ameaças já bastante agitado”, afirma. “Os líderes em segurança cibernética devem ser capazes de identificar os sinais de ameaça em meio a todo esse ruído para poderem responder às mudanças no cenário de ameaças.”
O tema estará entre os destaques da Conferência Gartner Segurança & Gestão de Risco, marcada para os dias 4 e 5 de agosto, em São Paulo.
Aplicações de IA entram no radar dos atacantes
Entre as ameaças apontadas pelo Gartner, o comprometimento de aplicações de inteligência artificial ocupa posição de destaque. A expansão do uso corporativo de IA, tanto em ambientes internos quanto em aplicações voltadas ao público, tem criado novas oportunidades para exploração de vulnerabilidades.
Ferramentas baseadas em IA generativa, agentes especializados e integrações com fornecedores externos ampliaram a superfície de ataque das organizações. Em muitos casos, falhas de controle podem expor credenciais, dados sensíveis e informações estratégicas.
Leia também: NTT Data cria AI Office no Brasil para acelerar a transformação empresarial com IA
“As equipes de segurança cibernética precisam expandir seus programas para além das proteções de software tradicionais, mapeando novas superfícies de ataque introduzidas por modelos de IA Generativa (GenAI) ou ferramentas agênticas”, diz Watts. “O uso do framework de gerenciamento de confiança, risco e segurança (TRiSM) do Gartner permite que as equipes de segurança cibernética saibam onde incorporar medidas de mitigação de ameaças específicas para Inteligência Artificial diretamente no processo de desenvolvimento de aplicações de IA.”
O Gartner recomenda que CISOs adotem práticas de desenvolvimento seguro para aplicações de IA, fortaleçam a classificação de dados, implementem controles de acesso mais granulares e monitorem continuamente o comportamento dessas soluções em produção.
Deepfakes ampliam riscos de fraude e engenharia social
Outra ameaça destacada é o uso crescente de deepfakes em ataques corporativos. O avanço das ferramentas de IA generativa elevou significativamente a qualidade e a acessibilidade de conteúdos falsificados em vídeo, voz e imagem, ampliando as possibilidades de golpes.
Segundo a consultoria, essas tecnologias já vêm sendo utilizadas para burlar processos de autenticação biométrica, apoiar ataques de engenharia social em tempo real e até manipular processos de recrutamento.
“O uso de deepfakes por atacantes continua a avançar e agora é comum, tornando fraudes e golpes de phishing difíceis de detectar”, afirma Watts. “Não existe um único controle de segurança cibernética que irá protegê-lo. Em vez disso, as organizações devem usar uma combinação de fortalecimento dos processos de negócios, aumento da conscientização e implementação das tecnologias de detecção de deepfakes disponíveis, sempre que possível.”
Entre as recomendações estão a adoção de estratégias de proteção multicamadas, o fortalecimento de mecanismos biométricos e a implementação de políticas de autenticação mais rígidas em reuniões e ambientes digitais.
Cadeia de suprimentos de software preocupa especialistas
O Gartner também alerta para a evolução dos ataques direcionados à cadeia de suprimentos de software, especialmente em ecossistemas que utilizam componentes de código aberto.
“A evolução das ofertas de GenAI só vai acelerar a tendência de ataques à cadeia de suprimentos de software por meio de vulnerabilidades em softwares de código aberto”, afirma Watts. “As organizações devem trabalhar no sentido de criar registros confiáveis de componentes, fortalecer seus pipelines de integração contínua / desenvolvimento contínuo (CI/CD) e desenvolver capacidades robustas de detecção e resposta a anomalias operacionais.”
A recomendação é que as empresas ampliem a visibilidade sobre seus componentes de software, exijam listas detalhadas de materiais de software e de IA de fornecedores, utilizem repositórios controlados e reforcem a proteção dos ambientes de desenvolvimento.
Injeção de prompts desafia segurança de sistemas baseados em IA
Fechando a lista de ameaças críticas está a injeção de prompts, técnica que explora vulnerabilidades em sistemas baseados em Grandes Modelos de Linguagem (LLMs).
Nesse tipo de ataque, comandos maliciosos são inseridos para alterar o comportamento da IA, levando ao vazamento de informações, execução de ações indevidas ou contorno de mecanismos de proteção.
Com a popularização de aplicações baseadas em IA generativa, o Gartner prevê um aumento na relevância desse tipo de ameaça. Para reduzir os riscos, a consultoria recomenda uma abordagem baseada em múltiplas camadas de proteção, incluindo validação de entradas, monitoramento contínuo, testes específicos de segurança para IA e aprimoramento constante dos controles em tempo de execução.
Segundo o Gartner, a combinação dessas quatro ameaças reforça a necessidade de que líderes de segurança revisem prioridades e direcionem investimentos para áreas capazes de responder às novas vulnerabilidades introduzidas pela inteligência artificial e pela crescente complexidade dos ambientes digitais.
Fonte: https://itforum.com.br/noticias/deepfakes-ia-software-open-source-ameacas/