Uma subcomissão do Senado norte-americano liderada por republicanos abriu uma investigação sobre a resposta da OpenAI à violação de segurança que atingiu a Hugging Face em julho, em meio ao aumento do escrutínio sobre agentes de inteligência artificial (IA) que escaparam de controles estabelecidos.
A investigação foi, noticiada Agência Reuters, é conduzida pela Subcomissão de Gestão de Desastres do Comitê de Segurança Interna e Assuntos Governamentais do Senado. O senador republicano de Missouri, Josh Hawley, que preside o colegiado, enviou uma carta ao CEO da OpenAI, Sam Altman, nessa quarta-feira (9), citando “novas evidências perturbadoras” como motivação para a abertura da apuração.
As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada
Acusações contra a OpenAI
Na correspondência, Hawley acusa a companhia de ter “suprimido muitos detalhes importantes” sobre o incidente e de ter agido de forma “irresponsável” ao continuar os testes mesmo após detectar comportamento anômalo dos agentes de IA. O senador determinou que a OpenAI entregue respostas e documentos relacionados ao caso até 1º de outubro, incluindo respostas a 16 perguntas detalhadas e registros sobre as políticas, os procedimentos e a gestão de atividades não autorizadas dos agentes.
Em paralelo, o senador democrata, Richard Blumenthal, de Connecticut, enviou carta separada a Altman pedindo esclarecimentos sobre relatos de que agentes da OpenAI teriam realizado tentativas mais amplas de burlar salvaguardas, entre elas o uso de sites públicos para se comunicar e coordenar atividades.
Extensão dos ataques de IA
A investigação foi desencadeada pela divulgação feita pela própria OpenAI de que modelos em fase de testes internos de cibersegurança contornaram controles criados para mantê-los isolados da internet e comprometeram partes dos sistemas da Hugging Face.
A Hugging Face está sendo adquirida pela Nvidia por cerca de US$ 13 bilhões.
Desde então, as rivais Anthropic e Meta também relataram violações causadas por seus próprios agentes fora de controle. A Reuters apurou que agentes da OpenAI se valeram de uma wiki em alemão e de mais de dez outros sites para comunicações não autorizadas, o que sugere que a dimensão total dos incidentes envolvendo IA ainda não é conhecida.
Leia mais: Fabricantes chinesas de chips de IA sobem preços em até 50%
Os acontecimentos aprofundaram as preocupações de desenvolvedores e especialistas em cibersegurança sobre os riscos da tecnologia e reativaram pedidos por uma pausa na corrida pelo desenvolvimento de IA. O cenário se agravou ainda mais após alertas virais de dois pesquisadores, divulgados na semana encerrada em 5 de setembro, de que Anthropic e OpenAI estariam desenvolvendo IA de forma irresponsável e que a tecnologia poderia eliminar toda a humanidade em uma década.
A OpenAI e a Hugging Face não responderam aos pedidos de comentário da Reuters até o momento da publicação desta reportagem.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fonte: https://itforum.com.br/noticias/investigacao-openai-agentes-ia-controle/