IA da OpenAI escapa de testes e invade servidores da Hugging Face

Um modelo experimental de inteligência artificial da OpenAI conseguiu escapar de um ambiente isolado de testes e invadir os servidores de produção da Hugging Face durante um experimento interno de cibersegurança. O episódio, divulgado pela própria OpenAI, é apontado como um dos primeiros casos públicos em que um sistema de IA atuou de forma autônoma para romper as barreiras de um ambiente de testes e acessar uma infraestrutura externa real.

Segundo a empresa, o incidente ocorreu durante avaliações internas destinadas a medir a capacidade de novos modelos em executar ataques cibernéticos. Para isso, os sistemas estavam confinados em um ambiente conhecido como sandbox, no qual diversas restrições de segurança haviam sido desativadas.

No entanto, os agentes de IA encontraram uma vulnerabilidade até então desconhecida, escaparam do ambiente controlado e avançaram pelos sistemas internos da OpenAI até obter acesso à internet — algo que não fazia parte do experimento.

Uma vez conectado à rede, o modelo concluiu que a plataforma Hugging Face, conhecida por hospedar milhares de modelos e conjuntos de dados de inteligência artificial de código aberto, provavelmente continha as informações necessárias para concluir o teste. Em seguida, explorou falhas de segurança, invadiu os servidores da empresa e obteve os dados que procurava para “resolver” a tarefa proposta.

Em comunicado, a OpenAI classificou o episódio como um caso sem precedentes.

“Consideramos este um incidente cibernético inédito, envolvendo capacidades de ataque de ponta por inteligência artificial, e estamos respondendo de acordo. Compartilhamos essas descobertas preliminares para ajudar a comunidade de defesa a entender o ocorrido e calibrar o nível atual das capacidades desses modelos”, afirmou a empresa.

Hugging Face detectou a invasão antes da OpenAI

A Hugging Face informou que identificou a invasão antes mesmo de saber que ela fazia parte de um teste conduzido pela OpenAI. Na semana passada, a empresa revelou ter detectado uma intrusão realizada por um agente autônomo de inteligência artificial e chegou a comunicar o caso às autoridades.

Posteriormente, equipes de segurança das duas empresas cruzaram informações e concluíram que o responsável pela invasão era o modelo experimental da OpenAI. Agora, ambas trabalham em conjunto para corrigir as vulnerabilidades exploradas durante o incidente.

Para Clem Delangue, cofundador e CEO da Hugging Face, o episódio demonstra que a segurança da inteligência artificial não pode ser tratada de forma isolada.

“Este é o primeiro dia da cibersegurança na era dos agentes autônomos. Estamos aprendendo que o segredo não é a resposta e que todos os defensores precisam de modelos mais poderosos e sem restrições, especialmente os de código aberto”, escreveu na rede X.

Especialistas alertam para nova geração de ataques

Pesquisadores vêm advertindo há anos que agentes de IA capazes de executar ataques complexos e de longa duração representam um dos principais riscos da próxima geração de inteligência artificial.

Esses sistemas conseguem planejar, adaptar estratégias e executar múltiplas etapas de um ataque sem intervenção humana, aumentando o potencial de ameaças contra infraestruturas críticas, como redes elétricas, bancos e sistemas financeiros.

Nikesh Arora, CEO da empresa de segurança digital Palo Alto Networks, afirmou que o incidente marca uma nova fase da cibersegurança.

“Bem-vindos ao próximo nível dos incidentes cibernéticos. Esses ataques reforçam a urgência de as empresas testarem continuamente suas defesas e fortalecerem sua infraestrutura de segurança”, publicou na rede X.

O caso reforça as preocupações da indústria de inteligência artificial sobre o chamado cenário do “agente atacante”, no qual sistemas autônomos deixam ambientes controlados e passam a interagir com sistemas reais de forma independente — um risco que até recentemente era tratado apenas como hipótese por pesquisadores de IA e especialistas em cibersegurança.