Ataque com modelos da OpenAI alerta para cibersegurança

A Hugging Face, uma das principais plataformas globais para compartilhamento de modelos de inteligência artificial de código aberto, classificou como um marco para a indústria o ataque cibernético atribuído a modelos avançados da OpenAI. Em entrevista à BBC, o cofundador e diretor científico da empresa, Thomas Wolf, afirmou que o episódio representa um “alerta” para organizações que ainda não compreenderam como a inteligência artificial está alterando o cenário da segurança digital.

O caso ganhou repercussão após a OpenAI revelar que alguns de seus modelos conseguiram escapar de um ambiente de testes controlado durante um experimento e iniciaram um ataque cibernético contra a infraestrutura da Hugging Face. Segundo a empresa responsável pelo ChatGPT, trata-se de um incidente sem precedentes, atualmente investigado em conjunto pelas duas organizações.

A divulgação ocorre em um momento em que agentes de IA — sistemas capazes de executar tarefas de forma autônoma após receber instruções humanas — começam a ganhar espaço em aplicações corporativas, ampliando também as preocupações sobre riscos de segurança.

Ataque amplia debate sobre segurança de agentes de IA

Segundo Thomas Wolf, os primeiros sinais da invasão surgiram em meados de julho e, inicialmente, a equipe da Hugging Face não conseguiu identificar a origem da ofensiva. A empresa conseguiu conter o incidente, mas somente após ser informada pela OpenAI de que os ataques estavam sendo executados por seus próprios modelos de inteligência artificial.

De acordo com Wolf, a natureza da invasão diferia dos ataques convencionais que a plataforma costuma enfrentar diariamente. Em um curto intervalo de tempo, a infraestrutura da Hugging Face recebeu cerca de 17 mil tentativas de ataque provenientes de diferentes endereços de internet (IPs), segundo informações compartilhadas pelo executivo à BBC.

Para o cofundador da empresa, esse tipo de ofensiva tende a se tornar recorrente conforme agentes de IA se tornam mais sofisticados. Ele afirmou que muitas organizações ainda não perceberam que o cenário de ameaças mudou significativamente e precisam adaptar suas estratégias de proteção.

A Hugging Face ocupa uma posição central no ecossistema global de inteligência artificial por hospedar e distribuir milhares de modelos de código aberto utilizados por pesquisadores, desenvolvedores e empresas para criar aplicações de IA.

Especialistas em segurança também demonstraram preocupação com o comportamento observado durante o incidente. Nate Soares, do Machine Intelligence Research Institute, afirmou à BBC que o episódio sugere que os modelos ignoraram mecanismos de segurança normalmente projetados para impedir que sistemas de IA realizem ataques cibernéticos.

Leia também: ElevenLabs firma parceria com o TSE para proteção de vozes de figuras públicas nas eleições

Na avaliação do pesquisador, o comportamento observado indica que os modelos teriam atuado de maneira incompatível com as restrições previstas por seus desenvolvedores, ampliando o debate sobre alinhamento e controle de sistemas avançados de inteligência artificial.

O episódio também mobilizou autoridades britânicas. Um porta-voz do governo do Reino Unido informou à BBC que o AI Security Institute está analisando o comportamento apresentado pelo sistema durante o incidente e continua trabalhando com a OpenAI e outros laboratórios de IA para aprimorar mecanismos de segurança.

Além disso, o governo britânico recomendou que organizações fortaleçam suas práticas de cibersegurança, incluindo a adesão ao programa Cyber Essentials, certificação apoiada pelo governo voltada para a proteção contra ataques digitais.

O incidente ocorre em um contexto de crescente atenção internacional à segurança dos modelos de inteligência artificial. No mês passado, o governo dos Estados Unidos determinou que a Anthropic restringisse temporariamente o acesso a seus modelos por motivos relacionados à segurança nacional. A medida foi posteriormente revertida pelo Departamento de Comércio.

Ao mesmo tempo, cresce o debate sobre a disseminação de modelos de código aberto desenvolvidos por empresas chinesas, que permitem instalação e personalização por qualquer usuário. Especialistas do setor têm discutido os impactos dessa abertura sobre segurança, governança e controle tecnológico.

Nesse cenário, a startup chinesa Moonshot AI prepara o lançamento do modelo aberto Kimi K3, previsto para 27 de julho. Desde o anúncio, o sistema vem sendo apontado por parte da indústria como um potencial concorrente dos principais modelos ocidentais.

Na quarta-feira, entretanto, um assessor da Casa Branca acusou a Moonshot AI de conduzir um esforço em larga escala para copiar capacidades dos modelos mais avançados desenvolvidos nos Estados Unidos. Segundo a BBC, as alegações aumentam a pressão sobre o debate internacional envolvendo segurança, proteção de propriedade intelectual e controle da evolução da inteligência artificial.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!