Lideranças precisam focar em pessoas para reinventar o trabalho com IA

A capacidade de reinventar o trabalho com inteligência artificial depende menos dos modelos tecnológicos e mais das pessoas que decidem onde e como aplicá-los. É essa a tese central de David Walker, ex-diretor de tecnologia do Westpac e ex-líder de tecnologia do DBS, em entrevista publicada pela Forrester nesta segunda-feira (7).

Para Walker, as organizações já desenvolveram ao longo da era digital as competências necessárias para operar com IA: avaliar riscos, redefinir processos e medir valor. O que mudou é a velocidade e a escala em que essas capacidades são testadas.

Governança de IA integrada ao que já existe

No Westpac, Walker optou por não criar uma estrutura de governança exclusiva para IA. A avaliação foi de que um funil separado se tornaria lento demais, especialmente porque a IA tende a se expandir por toda a organização, assim como dados e tecnologia.

A solução foi espelhar o modelo de risco de IA nos fóruns de governança já existentes. As estruturas do banco já pontuavam impacto e probabilidade em duas escalas, e cada caso de uso de IA passou a ser mapeado na mesma matriz. A conclusão do processo foi que a IA amplifica riscos conhecidos, em vez de criar categorias inteiramente novas; as ameaças são familiares, mas aparecem com mais frequência e em mais pontos.

Leia também: IA economiza até R$ 100 mil mensais em contratações de empresas, aponta levantamento

Para garantir que a governança não se tornasse um obstáculo, as equipes jurídica, de conformidade, regulatória e de segurança foram integradas desde o início por meio de um grupo central chamado AI Accelerator. “Os líderes jurídicos, de conformidade, regulatória e de segurança eram as pessoas que precisavam ser as donas das decisões de risco”, afirma Walker. “Se ficassem de fora do processo, ou freavam tudo ou tinham dificuldade de enxergar por que um caso de uso era aceitável”.

O ser humano no ciclo como controle frágil

Um dos pontos mais relevantes da experiência de Walker diz respeito à ideia de “humano no ciclo” como mecanismo de controle. Sua posição evoluiu; embora os humanos permaneçam responsáveis pelas decisões, o processo de revisão humana se torna progressivamente frágil.

O problema observado no Westpac foi que, em casos de uso internos de baixo risco, os revisores humanos se tornaram complacentes após centenas de outputs corretos da IA. A revisão virou aprovação de rotina. Quando o sistema cometeu um erro, o revisor já não analisava o resultado com a mesma atenção. “O controle ‘humano no ciclo’ havia se tornado mais fraco exatamente porque a IA acertava na maior parte do tempo”, afirma Walker.

A alternativa adotada foi tornar os controles o mais eletrônicos e digitais possível e monitorar continuamente se o próprio controle ainda funcionava. Controles manuais, segundo Walker, seriam inevitavelmente superados pelo volume de operações de qualquer forma.

Agência antes de habilidade em IA

No DBS, a abordagem para criar capacidade de reinvenção em escala não partiu de uma equipe central de inovação, mas do treinamento da organização inteira. Paul Cobban conduziu a disseminação de melhoria de processos; Neal Cross fez o mesmo com inovação. Em vez de centralizar ideias em uma fila, Cross ensinou inovação para todos os funcionários, o que originou o conceito do DBS como uma startup de 22 mil pessoas.

Walker observa que distribuir ferramentas de IA e oferecer treinamento técnico não é suficiente para gerar mudança. É preciso começar pela motivação; o que essa tecnologia significa para o funcionário, o que pode mudar na sua área e o que acontece se um experimento não funcionar. No Westpac, antes do treinamento em IA, a organização lançou um programa chamado Shark Tank, patrocinado pelo diretor-presidente e aberto a todos os funcionários, com o objetivo de sinalizar que pensar de forma diferente seria valorizado. A agência veio primeiro; as habilidades em IA vieram depois.

Agentes com foco em resultados, não em processos

A experiência com agentes de IA no Westpac ilustra a diferença entre automatizar um processo existente e orientar um agente por um resultado. Em uma migração de dados durante uma transformação da infraestrutura tecnológica do banco, o caminho tradicional exigia que uma equipe de seis ou sete pessoas mapeasse dados entre dois sistemas, construísse arquivos de teste, criasse mecanismos de reconciliação e percorresse as etapas de descoberta, construção, teste e implantação. O trabalho levava cerca de seis semanas para um conjunto de dados.

A abordagem alternativa consistiu em fornecer ao agente apenas o resultado esperado; mover os dados de um sistema para o outro. A partir disso, o agente identificou quais subagentes precisava acionar. O processo deixou de ser uma migração linear e passou a ser um resultado a ser orquestrado. A configuração final envolveu um agente principal coordenando outros quatro agentes e dois humanos supervisionando o conjunto. O trabalho equivalente foi concluído em cerca de quatro dias.

Confiança como combustível da reinvenção

Walker dedica parte relevante de sua reflexão à comunicação com as equipes. Dentro das organizações, diz ele, é difícil ter uma conversa genuína sobre os aspectos positivos, negativos e incertos da IA. A ausência dessa conversa, no entanto, alimenta ceticismo e medo entre quem já está apreensivo.

A experiência do DBS oferece um paralelo; cerca de 12 meses após o início da transformação digital, os líderes perceberam que a narrativa da “plataforma em chamas”, baseada em urgência, não era sustentável para programas de anos de duração. A mensagem foi reorientada para a construção do “melhor banco do mundo”. Walker vê a mesma lógica se aplicando à IA; a urgência pode iniciar o processo, mas é a confiança que mantém as pessoas mudando o trabalho.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!