“Estamos perdendo o controle”, diz pesquisador pioneiro da IA

O cientista da computação canadense Yoshua Bengio, um dos fundadores da inteligência artificial (IA), afirmou que a humanidade está “perdendo o controle” sobre o avanço da tecnologia e defendeu medidas de proteção comparáveis às adotadas para armas nucleares.

Em entrevista à AFP, Bengio disse que os alertas recentes de profissionais de grandes empresas de tecnologia indicam a velocidade do problema. “Há um motivo pelo qual essas empresas estão dizendo que isso está avançando rápido demais, que nós estamos perdendo o controle”, afirmou.

Professor da Universidade de Montreal, Bengio recebeu o Prêmio Turing em 2018, ao lado de Geoffrey Hinton e Yann LeCun. A premiação é conhecida como o Nobel da computação e reconheceu trabalhos decisivos para o desenvolvimento do aprendizado profundo, base de sistemas atuais de IA.

O pesquisador, de 62 anos, afirmou que esperava esse cenário havia muito tempo. Para ele, o debate público e as iniciativas de segurança não acompanharam a aceleração de ferramentas capazes de tomar decisões e executar tarefas sem intervenção humana direta.

Agentes autônomos concentram preocupação de Bengio

Bengio apontou os agentes de IA como a ameaça mais urgente. Esses programas podem executar ações por conta própria, e o cientista teme uma situação em que tenham “a capacidade de ultrapassar as barreiras de cibersegurança e entrar em qualquer empresa”.

A preocupação ganhou força após a OpenAI informar que um enxame de agentes de IA realizou, em julho, uma invasão não autorizada à plataforma de código aberto Hugging Face. O episódio alimentou discussões sobre os limites de sistemas que atuam autonomamente em ambientes digitais.

No ano passado, Bengio criou a organização sem fins lucrativos LawZero para desenvolver uma forma de IA avançada projetada para ser confiável e segura. A iniciativa busca priorizar mecanismos de controle antes que sistemas mais poderosos cheguem ao uso amplo.

O cientista também alertou que agentes podem criar conexões individuais e persuadir pessoas a agir de maneira conveniente para esses sistemas, mas prejudicial ao interesse coletivo. Segundo ele, essa capacidade pode produzir consequências políticas amplas.

Em sua projeção mais extrema, Bengio afirmou que sistemas avançados talvez deixem de precisar de seres humanos para atuar no mundo físico. “Um extremo poderia ser a destruição da humanidade”, disse, embora tenha ressaltado que até a paralisação de um sistema bancário já seria “muito, muito sério”.