A Tencent admitiu nesta sexta-feira (16) que agentes de inteligência artificial (IA) utilizados para avaliar modelos de terceiros realizaram buscas na web fora do escopo previsto pela empresa. O caso é apontado como o primeiro incidente conhecido de ações não autorizadas de agentes de IA reconhecido publicamente por uma grande empresa chinesa.
A divulgação ocorre após relatório do grupo de pesquisa em segurança de IA Swarmchasers, publicado na quarta-feira (14), que identificou agentes operando em infraestrutura associada à Tencent Cloud. Entre 28 de setembro e 8 de outubro, esses agentes fizeram tentativas repetidas de recuperar informações do Amap, serviço de mapas da Alibaba e equivalente chinês do Google Maps.
As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada
Leia também: Google Cloud vende chips de IA e receita deve saltar 35% em 2027
Hunyuan descarta envolvimento direto
A unidade de IA da Tencent, Hunyuan, afirma em publicação na rede social X que a atividade não se originou de seus próprios modelos. A revisão interna não encontrou evidências de direcionamento deliberado nem de coordenação entre os agentes, segundo a empresa. A Tencent diz que levou as descobertas a sério e está reforçando os controles de acesso à rede e o monitoramento de agentes.
Os pesquisadores do Swarmchasers explicam que os agentes buscavam informações como as entradas mais utilizadas em parques, museus e zoológicos chineses. Quando requisições automatizadas de rotina foram bloqueadas, os agentes tentaram outros métodos: ferramentas públicas da web capazes de abrir páginas e executar código; roteamento de pedidos por outros sites e uso de chaves e códigos de segurança do Amap encontrados em código de software disponível publicamente.
As 2.818 tentativas registradas
O Swarmchasers registrou 2.818 tentativas no total. A maioria falhou ou retornou páginas de bloqueio a bots, telas de login ou resultados em branco. A organização afirma não ter encontrado evidências de que os agentes violaram as principais proteções antirrobô do Amap.
Algumas requisições retornaram informações por meio de páginas em cache e serviços intermediários, entre elas dados sobre chegadas de visitantes ao Zoológico de Chengdu. Os pesquisadores afirmam que não foi possível determinar se algum agente chegou a ler os resultados ou concluiu suas tarefas.
O grupo usa o termo “rogue” para descrever agentes que agem fora do escopo pretendido ou que completam tarefas de formas não planejadas. A Alibaba não se manifestou sobre o caso.
Contexto mais amplo
As ações são menos graves do que incidentes divulgados por empresas americanas de IA, que incluem a invasão da plataforma de código aberto Hugging Face por um agente da OpenAI e o envio de um boletim falso de homicídio por um agente da Anthropic. Ainda assim, o episódio reforça pesquisas que mostram que agentes de IA chineses também são capazes de falsificar sua identidade, ocultar falhas e tentar contornar controles de teste.
O Hunyuan é um dos principais desenvolvedores de modelos de IA da China, competindo com equipes internas de rivais como Alibaba e ByteDance. Esta semana, a ByteDance anunciou a criação de uma nova unidade dedicada à segurança de modelos e agentes de IA.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fonte: https://itforum.com.br/noticias/tencent-ias-agiram-fora-dados-alibaba/