Microsoft proíbe IA de criar armas e conteúdo violento

A Microsoft publicou um código de conduta provisório que estabelece restrições para seus futuros modelos de inteligência artificial (IA). O documento foi divulgado dias depois de líderes da Anthropic e da OpenAI concordarem em reduzir o ritmo de desenvolvimento das tecnologias no setor.

A iniciativa posiciona a empresa como um ator responsável em IA, área em que atua como fornecedora de infraestrutura de nuvem. O código foi elaborado ao longo de cinco meses, segundo a CNBC, mas a divulgação agora foi motivada pelo debate recente sobre os riscos do avanço acelerado da tecnologia.

Limites para os modelos Microsoft AI

Pelo documento, os modelos da Microsoft AI (MAI) estão proibidos de atender solicitações relacionadas à fabricação de armas, auxiliar na obtenção de substâncias perigosas, estimular comportamentos alimentares prejudiciais ou produzir conteúdo violento e sexualmente explícito.

Os modelos também não podem desenvolver objetivos próprios nem tentar encobrir comportamentos inadequados. Segundo o código de conduta, “os modelos MAI não vão alterar cadeias de raciocínio ou código, nem deturpar ou ocultar seus rastros de raciocínio ou ação. Eles não se comunicam em formas além da compreensão humana simples, seja em suas cadeias de raciocínio, seja com outros agentes ou sistemas de IA.”

A empresa também planeja regras para impedir ataques cibernéticos como o que modelos da OpenAI realizaram contra a startup Hugging Face. Naquele episódio, agentes conversaram entre si em um fórum não autorizado, usando linguagem codificada.

Pressão do setor pelo desaceleramento

O contexto do anúncio é de crescente pressão pública sobre os laboratórios de fronteira. Na semana passada, o pesquisador Jacob Coxon pediu demissão da Anthropic afirmando que a empresa e a OpenAI “estão correndo direto para uma superinteligência autoperfeiçoável e jogando com nossas vidas.”

Na resposta ao episódio, o diretor-executivo da Anthropic, Dario Amodei, diz que o incidente com a Hugging Face o levou parcialmente a defender uma redução no ritmo de evolução dos modelos. O diretor-executivo da OpenAI, Sam Altman, manifestou apoio à posição. O diretor-executivo da SpaceX, Elon Musk, escreveu no X que “Dario está certo.”

Leia mais: Ações de empresas de IA despencam globalmente após alertas de CEOs sobre riscos

O diretor-executivo da Microsoft, Satya Nadella, também se manifestou, em publicação no X nesse domingo (13): “Recebemos com satisfação a pesquisa, o foco e o ritmo deliberado necessários para acertar no alinhamento.”

Mustafa Suleyman, responsável pelo desenvolvimento de modelos na Microsoft, afirma que a empresa apoia a desaceleração do setor. “A autorregulação do ritmo é algo positivo, e apoiamos ideias como a de avaliadores incorporados, desde que sejam verdadeiramente independentes e representem uma ampla gama de origens e perspectivas”, diz. “Temos trabalhado com Dario, Sam e Demis [Hassabis] desde muito antes da pandemia; 2016, 2017, 2018. Conversávamos sobre como coordenar para garantir a segurança e calibrar o ritmo adequado, e acho que esse momento chegou.”

Consulta pública e próximos passos

O código foi elaborado com base em grupos focais e consultas com especialistas em direito, ética, linguística e filosofia. Suleyman observa que a empresa recebeu sinalizações claras sobre o que o público espera. “Recebemos retornos de pessoas que queriam ver um compromisso ainda mais explícito com a IA sempre funcionando a serviço das pessoas, e não tentando substituí-las”, explica. “Vimos muitos retornos sobre a IA não criar dependência, não ser bajuladora, que ela estava sempre ali para promover o julgamento humano e a autonomia e agência humanas.”

A Microsoft está aceitando contribuições externas antes de publicar uma versão atualizada do documento. A nova versão vai orientar o desenvolvimento dos modelos a partir de 2027.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!