A Anthropic intensificou seus alertas ao governo dos Estados Unidos sobre os riscos cibernéticos associados aos modelos mais avançados de IA. Segundo reportagem da CNBC, a empresa argumenta que sistemas recentes já demonstram capacidade suficiente para encontrar vulnerabilidades de software e auxiliar na execução de ataques digitais em escala.
O tema ganhou força após os testes conduzidos com o modelo de segurança conhecido como Mythos. A companhia afirma que a evolução dos sistemas exige atenção crescente das autoridades, especialmente em áreas consideradas críticas para a segurança nacional.
As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada
Executivos da Anthropic têm defendido a adoção de mecanismos de avaliação e monitoramento mais rigorosos para modelos capazes de executar tarefas complexas relacionadas à segurança cibernética.
Segundo a CNBC, representantes da empresa levaram suas preocupações a integrantes do governo do presidente Donald Trump, argumentando que a velocidade da evolução tecnológica exige atualizações frequentes dos parâmetros regulatórios.
Debate sobre segurança divide setor de inteligência artificial
O posicionamento da Anthropic ocorre em meio a divergências dentro da indústria de IA. Enquanto algumas empresas defendem regras mais rígidas para sistemas avançados, outras alertam que exigências excessivas podem prejudicar a competitividade dos Estados Unidos frente à China.
A Anthropic sustenta que a discussão não se limita à segurança futura. Segundo a empresa, modelos atuais já demonstram habilidades que podem ser exploradas para acelerar processos de descoberta de falhas em softwares e sistemas corporativos.
Leia mais: HPE posiciona rede no centro da era agêntica e mira mercado de energia como próximo desafio
A companhia tem investido em avaliações específicas para medir o potencial de uso indevido de seus modelos e afirma que resultados recentes reforçam a necessidade de mecanismos de proteção mais robustos.
O debate ocorre em um momento de crescimento acelerado dos investimentos em IA generativa e de aumento das preocupações com ataques digitais apoiados por ferramentas automatizadas. Empresas de tecnologia, órgãos governamentais e especialistas em segurança vêm discutindo como equilibrar inovação e mitigação de riscos à medida que os modelos se tornam mais capazes.
A CNBC destaca que a Anthropic defende a criação de estruturas que permitam acompanhar a evolução das capacidades dos sistemas sem impedir o desenvolvimento tecnológico, especialmente em áreas consideradas estratégicas para a economia e a segurança dos Estados Unidos.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fonte: https://itforum.com.br/noticias/anthropic-alerta-trump-riscos-ciberneticos/