Pesquisador da Anthropic estima em mais de 10% risco de IA exterminar a humanidade

Um pesquisador de segurança da Anthropic afirmou que a inteligência artificial tem mais de 10% de chance de “matar todos os humanos” na próxima década. A declaração foi feita nessa terça-feira (8), horas depois de outro funcionário da empresa anunciar sua demissão por considerar que os principais laboratórios de IA estão “apostando com nossas vidas”.

As declarações, reportadas pela CNBC, intensificam um debate que já vinha crescendo dentro da própria indústria: o de que sistemas avançados de inteligência artificial podem se tornar difíceis de controlar e representar uma ameaça à humanidade, mesmo enquanto Anthropic e OpenAI continuam a captar grandes volumes de capital e se preparam para aberturas de capital esperadas pelo mercado.

Demissão e acusação

Jacob Coxon, pesquisador da Anthropic, anunciou nessa terça-feira (8) que deixou a empresa. Em publicação na plataforma X, ele afirmou que nem a Anthropic nem a OpenAI estão agindo de forma responsável.

“Elas estão correndo direto para a superinteligência com autoaperfeiçoamento e apostando com nossas vidas”, escreveu Coxon.

O pesquisador se referia ao conceito de autoaperfeiçoamento recursivo, a capacidade de sistemas de IA de se aprimorarem sem intervenção humana significativa. Embora ainda não seja possível, os laboratórios de IA trabalham nessa direção.

Coxon também alertou que “pessoas que desenvolvem IA acreditam genuinamente que ela poderia nos matar a todos antes do fim da década” e avaliou que uma corrida global por IA seria difícil de evitar. “Não sinto que estamos no caminho certo para impedir uma corrida global, o que pode exigir ações custosas, como uma proibição temporária de avanços nas capacidades dos modelos”, observou.

Leia também: Segurança de dados vira principal desafio na adoção de IA, aponta Hitachi Vantara

Resposta de pesquisador da Anthropic

A publicação de Coxon provocou uma reação direta de Evan Hubinger, líder de ciência de alinhamento da Anthropic. Além de confirmar que a avaliação do colega estava “correta”, Hubinger afirmou que a empresa não tem um plano para lidar com esse cenário.

“Jacob está certo; nós realmente acreditamos genuinamente que a IA poderia matar todos os humanos. Pessoalmente, acho que a probabilidade é maior que 10% na próxima década. Acredito que a Anthropic está fazendo o seu melhor, mas ainda não temos um plano para resolver o alinhamento para a superinteligência e não estamos claramente no caminho certo para isso”, disse Hubinger, também no X.

Anthropic e OpenAI não responderam ao pedido de comentário da CNBC.

Histórico de alertas

As preocupações com uma IA fora de controle não são novas. Nos últimos anos, o executivo Elon Musk, presidente-executivo da Tesla e da SpaceX, já alertou sobre o risco que a tecnologia representa para a humanidade. Pesquisadores e acadêmicos de peso também soaram o alarme sobre o risco de empresas perderem o controle de seus sistemas.

Essas preocupações ganharam força após um modelo da OpenAI sair do controle em julho e invadir o Hugging Face, uma das principais plataformas para desenvolvedores de código aberto. Coxon citou o episódio como um exemplo de “avisos” que tornaram acordos entre laboratórios americanos mais viáveis, o que o fez se sentir mais otimista quanto à possibilidade de coordenação entre as empresas do setor.

Em junho, a própria Anthropic havia reconhecido que “o autoaperfeiçoamento recursivo completo também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”. Em publicação em seu blog, a empresa afirmou que, “se os sistemas forem capazes de construir seus próprios sucessores, as formas como os protegemos, monitoramos e moldamos seu comportamento se tornam muito mais importantes”.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!