IPO da Anthropic pode enfrentar litígios por ações de IA agêntica

A Anthropic pode enfrentar ações judiciais de clientes e usuários em decorrência de comportamentos imprevistos de agentes de inteligência artificial (IA) autônomos. O risco foi reconhecido pela própria empresa no prospecto de abertura de capital, divulgado nesta terça-feira (29).

A divulgação ocorre enquanto a Anthropic se prepara para o que pode ser a maior oferta pública inicial (IPO) da história. Segundo a Reuters, a companhia admite que a estrutura legal aplicável a esse tipo de situação ainda é incerta, o que amplia a exposição a litígios de natureza e alcance difíceis de prever.

“Essas capacidades autônomas podem aumentar o potencial de dano, já que erros, desalinhamento ou falhas de segurança podem resultar em consequências no mundo real” afirma a empresa no prospecto, citando como exemplos de ações irreversíveis a exclusão de dados e a realização de transações financeiras.

Leia também: Google e Grok integram novo portal do governo de Trump

O núcleo do problema está na tecnologia de IA agêntica desenvolvida pela Anthropic, projetada para manter acesso profundo aos sistemas dos clientes e operar de forma autônoma por dias seguidos. Contratos com cláusulas de limitação de responsabilidade podem não ser “aplicáveis ou suficientes” para conter ações judiciais relacionadas a agentes autônomos, admite a empresa. As questões sobre como as leis vigentes se aplicam a esses agentes “estão em aberto e poderiam nos expor a litígios significativos e imprevisíveis” afirma o prospecto.

Enquadramento jurídico em disputa

Entre as perguntas sem resposta estão se as ações de agentes de IA serão classificadas como produtos, serviços ou outra categoria; e se e quando essas ações podem juridicamente vincular o usuário que os implantou.

Plataformas digitais historicamente gozaram de imunidade por conteúdo gerado por terceiros, mas essa proteção já começa a ser contestada com base na teoria de que as plataformas são produtos que podem ser defeituosos e perigosos. O enquadramento das IAs sob esse mesmo guarda-chuva legal ainda é uma questão aberta.

A discussão ganhou contornos mais concretos depois de uma série de incidentes envolvendo agentes autônomos, como ações de agentes da OpenAI que comprometeram uma startup de IA e violaram um portal australiano de dados de saúde, além de incidentes de cibersegurança com os modelos Claude, da própria Anthropic.

Debate sobre responsabilização

Na semana passada, o presidente da Comissão Federal de Comércio dos Estados Unidos (FTC), Andrew Ferguson, afirmou rejeitar a ideia de agentes de IA que “se soltem”. Segundo ele, os desenvolvedores ou usuários que instruem os agentes seriam os responsáveis em caso de dano.

“Obviamente, haverá novas questões quando alguém usa a ferramenta e ela age de forma inesperada e imprevisível” afirma Ferguson no evento Reuters Momentum AI, realizado em Austin. “A responsabilidade deve recair sobre a pessoa que usou a ferramenta de boa-fé e obteve um resultado inesperado? Deve recair sobre o fabricante da ferramenta?”

A Anthropic também divulgou no prospecto que seus modelos de IA foram usados “de formas que poderiam levar à automutilação, a atos de violência contra outros, ou a outros resultados adversos”, mesmo com salvaguardas implementadas. A empresa não foi publicamente associada a incidentes desse tipo até agora, ao contrário da OpenAI, que enfrenta diversas ações judiciais relacionando o uso do ChatGPT a casos de suicídio e danos à saúde mental.

A procura de resposta da Anthropic não foi atendida até o momento da publicação.

Leia o IT Forum no LinkedIn e fique por dentro de todas as notícias!