Satya Nadella critica proposta da Anthropic sobre IA

A proposta da Anthropic para que desenvolvedores divulguem os prompts utilizados em aplicações de inteligência artificial (IA) provocou uma reação pública da Microsoft. Durante participação em um episódio do podcast BG2, o CEO da companhia, Satya Nadella, afirmou que a política sugerida pela startup “não faz sentido”, argumentando que esse tipo de exigência pode expor propriedade intelectual e reduzir incentivos à inovação.

Segundo a CNBC, o debate surgiu após a Anthropic defender que empresas publiquem os system prompts — instruções iniciais que orientam o comportamento dos modelos de IA, como forma de aumentar a transparência e facilitar auditorias de segurança. A proposta foi apresentada após episódios em que pesquisadores identificaram comportamentos inesperados em modelos de inteligência artificial.

Para Nadella, no entanto, os prompts representam parte importante do conhecimento desenvolvido pelas empresas e, em muitos casos, funcionam como ativos estratégicos. O executivo comparou essas instruções ao código-fonte de um software, afirmando que obrigar sua divulgação seria equivalente a exigir que empresas publiquem tecnologias proprietárias.

A discussão evidencia uma divergência crescente entre empresas de inteligência artificial sobre o nível de abertura necessário para garantir segurança e responsabilidade no uso da tecnologia.

De acordo com a CNBC, a Anthropic argumenta que tornar públicos os system prompts permitiria que pesquisadores independentes identificassem vulnerabilidades, analisassem mecanismos de proteção e avaliassem se os modelos estão seguindo as políticas anunciadas por seus desenvolvedores.

Já Nadella defendeu que a transparência pode ser alcançada por outros meios, como avaliações independentes, testes de segurança (red teaming) e auditorias externas, sem exigir a divulgação de elementos considerados estratégicos para o funcionamento dos produtos.

O executivo também destacou que empresas investem tempo significativo na engenharia de prompts, processo que envolve experimentação contínua para melhorar precisão, confiabilidade e desempenho dos modelos. Na avaliação dele, obrigar a publicação dessas instruções reduziria a vantagem competitiva conquistada pelos desenvolvedores.

Governança dos modelos de IA

O posicionamento da Microsoft ocorre em um momento em que governos, reguladores e empresas discutem novas formas de governança para modelos de inteligência artificial avançados.

Segundo a CNBC, o debate sobre transparência ganhou força à medida que modelos generativos passaram a ser utilizados em aplicações críticas, como atendimento ao cliente, desenvolvimento de software, criação de conteúdo e suporte à tomada de decisão empresarial.

Enquanto parte do setor defende maior abertura para facilitar pesquisas sobre segurança, outras empresas sustentam que a divulgação de componentes internos pode facilitar tentativas de contornar mecanismos de proteção ou copiar tecnologias proprietárias.

Leia mais: Alphabet ganha força em Wall Street após avanços do Gemini 3.5 Pro em IA

A Microsoft é uma das principais investidoras da OpenAI e tem incorporado recursos de IA generativa em produtos como Microsoft 365 Copilot, GitHub Copilot e Azure AI. A Anthropic, por sua vez, desenvolve a família de modelos Claude e tem como investidores empresas como Amazon e Google.

De acordo com a CNBC, o episódio ilustra uma mudança no debate sobre inteligência artificial. À medida que os modelos se tornam parte da infraestrutura tecnológica de empresas e governos, a discussão deixa de se concentrar apenas na capacidade dos sistemas e passa a envolver também questões de governança, transparência e proteção da propriedade intelectual.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!