Anthropic firma parceria com METR e SecureBio para avaliar riscos de IA

A Anthropic anunciou, nessa quinta-feira (15), uma parceria com as organizações sem fins lucrativos METR (Model Evaluation and Threat Research) e SecureBio para avaliar seus riscos e práticas de segurança. A empresa também está em negociações com outras organizações, incluindo a Hugging Face, para ampliar o programa de avaliadores independentes embarcados.

A iniciativa faz parte de um compromisso firmado pela Anthropic após seu diretor-presidente, Dario Amodei, publicar uma proposta de desaceleração no ritmo de desenvolvimento de modelos de inteligência artificial (IA) no mês anterior. A empresa americana foi a fonte do anúncio, conforme reportagem da CNBC. Dias após a proposta, a Anthropic selecionou a Accenture como seu primeiro parceiro externo.

Três níveis de acesso

Para estruturar as parcerias, a Anthropic criou um sistema com três categorias de avaliadores, cada uma com grau distinto de acesso à empresa. Avaliadores do primeiro nível realizam investigações de risco com escopo restrito. Os do segundo nível podem publicar relatórios sem aprovação prévia da Anthropic. Já os do terceiro nível têm acesso equivalente ao de funcionários internos.

A METR se enquadra no terceiro nível. Seis profissionais da organização foram integrados à empresa e têm acesso a equipamentos, escritórios e ferramentas da Anthropic em nível equivalente ao dos times internos de avaliação de risco. Esses profissionais analisarão os níveis de risco, incidentes e práticas da companhia e publicarão suas conclusões. A Anthropic não financia o trabalho da METR.

A SecureBio, por sua vez, está revisando a seção sobre armas químicas e biológicas do relatório de risco publicado pela Anthropic em agosto de 2026. A organização pode ampliar sua participação em projetos com maior acesso e direito de publicação no futuro.

Contexto e pressão do setor

Avaliadores independentes como a METR ocupavam um espaço discreto na indústria de IA antes da proposta de Amodei. Com o crescimento das preocupações sobre a capacidade das empresas de IA de proteger seus modelos, essas organizações ganharam relevância. O presidente dos Estados Unidos, Donald Trump, estimulou as empresas do setor a se associarem a um auditor ou avaliador externo independente em um acordo voluntário apresentado no final de setembro de 2026. Entre os signatários estão executivos do Google, Meta, OpenAI, SpaceX e Nvidia.

“Estamos incorporando avaliadores voluntariamente e acreditamos que todas as empresas de IA de fronteira deveriam fazer o mesmo”, afirma a Anthropic.

A situação da Accenture segue em aberto. A Anthropic afirmou estar trabalhando em direção a uma parceria ambiciosa com a consultoria, mas não divulgou em qual nível do sistema ela se encaixa. No mês anterior, a empresa informou que financiaria o trabalho da Accenture diretamente, o que gerou críticas nas redes sociais sobre a independência da consultoria.

Leia mais: IBM Quantum Platform será usada pelo Inteli em projeto de IA

Sobre o financiamento do modelo como um todo, a Anthropic reconheceu a ausência de padrões consolidados. “Até o momento, não há parâmetros sobre quais informações os avaliadores embarcados devem acessar nem sobre como devem reportar suas descobertas. Tampouco existe um sistema estabelecido para o financiamento da avaliação independente”, afirma a empresa. “A longo prazo, acreditamos que o financiamento deve vir de fontes coletivas ou governamentais, conforme defendemos em nosso Arcabouço de IA Avançada em junho. Como nenhuma dessas fontes existe hoje, planejamos trabalhar com diferentes avaliadores sob diferentes arranjos de financiamento.”

O nível de acesso que poderá ser concedido à Hugging Face ainda não foi definido. A organização, conhecida por operar uma plataforma de desenvolvimento de código aberto, foi adquirida pela Nvidia por aproximadamente US$ 13 bilhões no mês anterior à publicação da reportagem.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!