Fabiana Falcone, da Synapser, diz que agente de IA exige governança de pessoas

Dois dias antes do IT Forum Upload CEO, Fabiana Falcone mudou a linha da própria palestra. Depois de ouvir o ensaio em casa, a filha de 16 anos fez uma pergunta: tecnologia e inteligência artificial (IA) não são a mesma coisa? Para a cofundadora da Synapser, foi o sinal de que a mensagem não tinha chegado. No palco, ela passou a sustentar que são coisas distintas, e que a diferença está na forma como cada uma é governada.

Fabiana explica que o custo de uma empresa se divide em três linhas. A tecnologia faz o que foi programada, erra de forma reproduzível e é governada como ativo. As pessoas custam folha de pagamento e respondem a quatro pilares: alçada, orçamento, avaliação e desligamento. A IA interpreta, escolhe e custa por uso. “Ela se parece com pessoas em tudo o que importa para governar, mas é tratada como software”, afirma.

Segundo ela, a IA também erra de outro jeito. “A mesma entrada pode dar saída diferente”, diz. O erro vem com confiança e convicção e nem sempre se repete, o que dificulta corrigi-lo.

Quem responde pelo agente?

A palestrante aplica os quatro pilares aos agentes. Na alçada, ninguém é contratado sem vaga aprovada, mas qualquer funcionário cria um agente em minutos. Ela conta o caso de uma executiva de vendas que montou um agente para organizar o sistema de gestão de relacionamento com clientes (CRM): o agente gerou um custo, e a empresa não sabe em que área ratear. No orçamento, a conta dos tokens, unidade de cobrança dos modelos de linguagem, só chega depois do uso. Na avaliação, as empresas medem a IA pela economia de tokens. A Synapser reduziu o consumo para 10% do anterior com uma nova arquitetura, e a pergunta, segundo Fabiana, é se o atendimento ao cliente se manteve. No desligamento, ainda não há prática para decidir quando um agente deve ser substituído.

A responsabilidade, observa, continua humana. O agente decide em nome da empresa, e quem responde é “quem o colocou ali, quem definiu os limites e quem deveria estar acompanhando”. Por isso, explica, o tema deixou de ser só do diretor de tecnologia da informação (CIO, na sigla em inglês) e subiu para a mesa do presidente-executivo (CEO, na sigla em inglês), por envolver custo, receita e responsabilidade fiduciária.

Fabiana apresenta números para mostrar o tamanho do problema. Segundo o IT Forum Inteligência, 68% dos CIOs apontam a adoção de IA como principal desafio até 2026. Em pesquisa da McKinsey, afirma, só 6% das empresas relatam que cerca de 5% dos resultados vêm da IA, índice que estaria parado há dois anos. O Gartner projeta que, até 2028, o custo de tokens para programar superará o salário médio de um desenvolvedor. Ela conta ainda que um grande banco já gasta mais com tokens do que com folha de pagamento, e que a conta se divide entre recursos humanos e tecnologia da informação (TI), sem que nenhuma das áreas veja o total.

Leia também: IT Forum Mulheres: “Todas podem chegar lá, se tiverem coragem de tomar riscos”, acredita Sandra Vaz, da Red Hat

O código deixa de ser o gargalo

Para Fabiana, a geração de código deixou de ser o limite, e o limite passou a ser a governança sobre o que é gerado. O usuário de negócio prototipa, testa e chega à TI com o projeto pronto, o que aumenta a fila de demandas e a força do pedido. Ela conta o caso de uma superintendente de crédito de um grande banco que resolveu um problema crítico com programação por prompts (vibe coding) e foi tratada como infratora quando a TI descobriu o uso não autorizado de IA, o shadow AI. Outros CIOs, diz, preferiram criar uma esteira governada para esse tipo de programação.

O risco de segurança também entra na conversa. Fabiana explica que agentes que leem e-mails podem seguir instruções escondidas em mensagens de phishing, como enviar o funil de vendas a terceiros. Para ela, falta definir a alçada mínima do agente depois que ele lê.

No mercado de trabalho, ela cita o déficit de 797 mil profissionais de tecnologia apontado pela Brasscom, contra 53 mil formados por ano, e pergunta de onde virão os profissionais seniores se a base da pirâmide faz menos. Para Fabiana, é a hora dos generalistas: “Não preciso saber muito de uma coisa, mas vou precisar saber um pouco de muita coisa”. Ela afirma que é preciso requalificar as pessoas para a camada de julgamento, como revisar segurança, testes e recuperação de desastres, e observa que “pessoas com medo não pensam, executam”, o que exige envolver os profissionais no redesenho dos processos.

Serviço vira software

A pressão, explica Fabiana, vem de todos os lados. Startups de software como serviço (SaaS, na sigla em inglês) enfrentam o que ela chama de “service as software”, em que o serviço se torna inteligente e o código pode ser feito dentro de casa. Empresas de serviços de tecnologia, como a dela, têm clientes que querem implementar esse modelo e precisam revisar o próprio, baseado em horas de profissionais alocados. “A minha empresa de serviço deixa de ser puramente baseada em pessoas”, diz. Parceiros tradicionais de software, afirma, sentem a receita pressionada por clientes que não querem renovar tantas licenças.

Ela cita o relatório da McKinsey para dizer que as empresas que capturaram valor redesenharam seus fluxos de trabalho com lógica de humanos e agentes, em vez de aplicar IA sobre o processo existente. Isso, diz, é decisão de modelo operacional, e não só de TI, e inclui a forma de medir e remunerar. Se a empresa mede o profissional pelas horas apontadas, não pode esperar que ele automatize o próprio trabalho. É aí, observa, que muitos pilotos morrem antes de chegar à produção.

Para ela, o CIO também precisa se reposicionar. A TI responde pela plataforma, mas perde autoridade quando a área de negócio já definiu o que quer e já mostrou o piloto funcionando. Entre os presidentes-executivos que escalaram a IA, Fabiana vê um padrão: redesenharam o processo, mediram, governaram e escalaram, com dono, meta e custo acompanhados. O critério de sucesso, afirma, é o que continua funcionando depois que o projeto acaba.

Três perguntas e o descompasso

Antes de qualquer processo rodar com IA, Fabiana propõe três perguntas: quem responde por ele, com qual informação ele decide e o que acontece quando erra. Quem não consegue responder está apenas tolerando o que roda, não governando. A pergunta de base, diz, é o que o trabalho precisa: “O agente é a consequência”.

O problema atual, na leitura dela, deixou de ser tecnológico e passou a ser de descompasso. A inteligência que decide, com o ritmo de conselho e de diretoria, não encontra a que executa, que opera em outro ritmo. Dentro de um sistema, explica, orquestração é funcionalidade, e todas as grandes fornecedoras falam disso. Mas, quando vários sistemas são ligados para uma decisão mais ampla, a decisão deixa de ser função de software e passa a ser diferencial competitivo.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!