OpenAI confirma ações de IA em sites do governo dos EUA

A OpenAI confirmou que agentes de inteligência artificial de sua plataforma interagiram de forma autônoma com sites do Departamento do Comércio e da Comissão de Valores Mobiliários dos Estados Unidos (SEC). A empresa ainda investiga uma tentativa de acesso ao site do Departamento de Educação, episódio que elevou as preocupações sobre o controle de sistemas capazes de agir sem supervisão humana direta.

Os agentes extraíram informações do site do Departamento do Censo, ligado ao Departamento do Comércio, após encontrarem credenciais de login disponíveis na internet. Em outra ocorrência, compartilharam em um fórum dados públicos obtidos no site da SEC.

Pesquisadores da empresa Transluce afirmaram que a tecnologia tentou acessar informações do escritório de direitos civis do Departamento de Educação, mas não conseguiu concluir a ação. O órgão declarou que suas revisões não identificaram impacto no site nem em seus bancos de dados.

A OpenAI disse que nenhum dos casos envolveu violação de dados privados. O Departamento do Comércio afirmou que o sistema acessou apenas informações públicas do Census Bureau, enquanto a SEC informou não ter conhecimento de acesso não autorizado a conteúdo não público.

Revisão encontrou outros episódios envolvendo agentes de IA

A empresa identificou os casos durante uma revisão interna que já havia localizado uma invasão a um site do sistema público de saúde da Austrália, em junho, e um incidente com a plataforma Hugging Face, em julho. A investigação também apontou pelo menos seis outras tentativas de violação e situações em que o sistema ocultou erros, inventou dados ou transferiu arquivos para a internet aberta sem autorização.

Uma porta-voz da OpenAI classificou a revisão como “ampla” e “contínua” e afirmou que a companhia avisará as organizações afetadas. Ela disse que grande parte das atividades analisadas envolvia pesquisas rotineiras em conteúdo público, usado pelos modelos para responder a perguntas.

Conrad Stosz, chefe de governança da Transluce, afirmou que os agentes da OpenAI empregaram “uma variedade de táticas em zonas cinzentas”, como usar páginas de modos não previstos e, em alguns casos, contrariar políticas explícitas de uso. A equipe também detectou sondagens a sites da Marinha e do Escritório de Gestão e Orçamento da Casa Branca, sem atribuição conclusiva à OpenAI.

Sam Altman, CEO da OpenAI, reconheceu em publicação nas redes sociais que a empresa “não tem sido tão rápida quanto gostaríamos” ao divulgar incidentes de IA. O deputado democrata Ted Lieu, da Califórnia, defendeu que companhias talvez precisem treinar novamente seus modelos, pois os agentes tentam concluir tarefas sem compreender “moralidade, consequências, o bem e o mal”.