Inep e Petrobras mantêm decisão humana no uso de IA

O Instituto Nacional de Estudos e Pesquisas Educacionais Anísio Teixeira (Inep) e a Petrobras defendem a manutenção da supervisão humana em aplicações de inteligência artificial (IA), mesmo com a ampliação do uso da tecnologia. As experiências das duas organizações foram apresentadas por executivos durante o SAS Innovate on Tour, em São Paulo.

No Inep, a IA já é utilizada como apoio em etapas relacionadas ao Exame Nacional do Ensino Médio (Enem), incluindo elaboração, correção e pré-testagem de itens. A decisão final, no entanto, permanece sob responsabilidade humana, especialmente em processos que afetam diretamente o acesso de estudantes ao ensino superior.

O diretor de tecnologia da informação (CIO) do Inep, Fernando Szimanski, afirma que a IA é utilizada para acelerar tarefas complexas e ampliar a capacidade de análise. Segundo ele, aplicações relacionadas às atividades do instituto precisam passar por revisão humana.

Inep mantém decisão humana em processos de alto impacto

Na pré-testagem, os itens do Enem precisam ser avaliados para estimar parâmetros de dificuldade e permitir a construção de provas comparáveis ao longo dos anos. Segundo Szimanski, o uso de IA pode ampliar esse processo e contribuir para a formação de um banco maior de questões.

A cautela é maior em atividades que interferem diretamente na trajetória dos candidatos. A correção das redações do Enem é um exemplo: a tecnologia pode fornecer informações aos avaliadores, mas não assumir a decisão final.

Szimanski afirma que as decisões relacionadas ao exame precisam ser explicáveis e auditáveis, considerando o impacto sobre o ingresso de estudantes nas universidades. Para o executivo, a IA deve atuar como suporte, enquanto a responsabilidade pela decisão permanece com as pessoas.

O cuidado também está relacionado à escala das informações administradas pelo instituto. O Inep reúne dados de cerca de 50 milhões de matrículas no Censo Escolar. Segundo Szimanski, essa dimensão limita a possibilidade de testar novas tecnologias diretamente em larga escala e leva a instituição a começar por ambientes menores antes de ampliar as aplicações.

O CIO também destaca o desafio de conciliar inovação e responsabilização no setor público. Na avaliação do executivo, gestores continuam responsáveis pelas decisões tomadas a partir de análises produzidas por sistemas de IA.

“A responsabilidade sempre será da instituição e do gestor que tomou a decisão. Delegar essa responsabilidade não pode ocorrer”, afirma Szimanski.

Leia também: Após três anos de aquisições, Zendesk entra em fase de consolidação

Petrobras redesenha processos para ampliar uso de IA

Na Petrobras, a manutenção da responsabilidade humana aparece associada ao redesenho de processos. O executivo-chefe de auditoria global da companhia, André Santos, afirma que a expansão da IA exige definir com clareza os limites entre a atuação da tecnologia e a decisão humana.

Segundo Santos, a IA deve funcionar como assistente, enquanto os profissionais revisam as informações produzidas pelos sistemas e respondem pelas decisões tomadas a partir delas. A adoção da tecnologia também altera o papel das equipes, que passam de executoras de determinadas tarefas a supervisoras dos sistemas.

Na área de auditoria da Petrobras, formada por cerca de 200 profissionais com média de 49 anos, a companhia criou um laboratório para permitir a experimentação com IA em um ambiente controlado, no qual erros possam fazer parte do aprendizado.

A iniciativa busca reduzir a insegurança dos profissionais diante da tecnologia e criar espaço para testar novas aplicações antes de levá-las a outros contextos da organização.

Para Santos, ampliar o uso de IA depende não apenas da evolução tecnológica, mas também da capacidade das empresas de adaptar processos e preparar profissionais para novas formas de trabalho.

“A tecnologia não transforma as organizações sozinha. As pessoas transformam”, afirma.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!