A onda de vídeos com IA no YouTube que “hipnotizam” crianças

Vídeos aparentemente criados com inteligência artificial e sugeridos a crianças pelo YouTube acumulam milhares de visualizações e preocupam especialistas em desenvolvimento infantil. O conteúdo inclui animações confusas, músicas sem lógica clara, personagens que mudam de voz e aparência e cenas realistas produzidas em escala.

Em um teste da BBC News Brasil, cerca de 15 minutos de navegação em vídeos curtos bastaram para que clipes desse tipo aparecessem após buscas por temas ligados ao universo infantil, como Roblox, Minecraft e vídeos de animais. Entre os exemplos encontrados estavam um urso panda com reação humana, um avatar de Jesus construindo estátuas de si mesmo e canções infantis com trechos incompreensíveis em mais de um idioma.

A frequência real desse material ainda não tem dimensão precisa. Muitos vídeos com fortes indícios de uso de IA não exibiam o aviso visual do YouTube, embora apresentassem vozes incompatíveis com personagens, desenhos que mudavam de forma entre cenas e movimentos incomuns. Criadores também divulgam o nicho infantil como oportunidade de negócio e dizem que é possível obter renda com esse tipo de produção.

Um estudo conduzido por André Mintz, professor do Departamento de Comunicação Social da Universidade Federal de Minas Gerais (UFMG), e pela estudante Juno Bozzi analisou vídeos infantis em português e inglês no YouTube a partir de uma base com cerca de 17 mil resultados ligados a inteligência artificial e conteúdo infantil.

Depois de novos filtros, os pesquisadores separaram materiais efetivamente voltados a crianças. A maior parte dos vídeos analisados era musical, com imagens geradas por IA acompanhadas de canções infantis.

A pesquisa também encontrou adaptações de histórias, conteúdos educativos, como lições sobre o alfabeto, vídeos religiosos e produções de “transformação”, nas quais personagens de desenhos animados aparecem recriados em versões com aparência de crianças. “O que chama a atenção é um certo desprezo pelo espectador infantil, de colocar qualquer coisa e confiar que a criança vai aceitar”, disse Mintz.

Rachel Franz, diretora do programa Young Children Thrive Offline, da organização americana Fairplay, classifica esse tipo de produção como “AI slop”, expressão usada para definir conteúdos de baixa qualidade fabricados em massa com ferramentas de inteligência artificial.

“O cérebro das crianças atinge cerca de 90% do tamanho adulto até os 5 anos, e o que elas encontram nesse período molda seu desenvolvimento e pode impactá-las pelo resto da vida”, afirmou.

Franz diz que crianças pequenas ainda não distinguem fantasia de realidade com segurança e podem ter o cérebro condicionado a aceitar como real algo que não existe. Ela também relaciona o consumo prolongado desses vídeos à perda de tempo de sono, brincadeiras e interação humana.

“Vídeos hipnotizantes de músicas infantis gerados por IA, por exemplo, podem moldar o cérebro das crianças no longo prazo, afetando sua capacidade de atenção, sua resiliência e sua habilidade de regular as emoções mais tarde na vida.”

Telma Pantano, fonoaudióloga e psicopedagoga do Instituto de Psiquiatria do Hospital das Clínicas da Faculdade de Medicina da USP, afirma que já percebe efeitos semelhantes em atendimentos.

“Há crianças que estão vindo com muitos medos, com muita dificuldade de definir o que acontece e o que não acontece”, disse. Para ela, o risco é maior até os 10 anos, fase em que a criança ainda desenvolve capacidade crítica, autorregulação e tomada de decisão.

O YouTube afirma que permite conteúdos gerados por IA, mas adota padrões mais rígidos para vídeos destinados a espectadores jovens. A plataforma disse que combater material de baixa qualidade feito com inteligência artificial é “prioridade máxima” e inclui remover conteúdos marcados como “feito para crianças” quando eles não atendem aos princípios de qualidade da empresa.

A empresa também afirma que canais que usam IA podem monetizar vídeos quando o resultado final for uma criação original, com perspectiva autêntica, respeito às diretrizes de comunidade e monetização e aviso adequado sobre conteúdo alterado ou sintético.

Em entrevista ao canal Creator Inside, o vice-presidente de confiança e segurança do YouTube, Matt Halprin, citou como problemáticos vídeos genéricos ou repetitivos, materiais que tentam manipular emoções e personagens de IA usados para abordar temas sensíveis, como finanças, questões legais ou saúde.

João Victor Archegas, coordenador de direito e tecnologia do Instituto de Tecnologia e Sociedade do Rio (ITS Rio), avalia que a plataforma precisa indicar com clareza o que considera conteúdo não autêntico e quando impede monetização.

Ele também aponta uma contradição entre estimular ferramentas de IA para criadores e tentar conter a produção massiva de baixa qualidade: “A plataforma segue tendo o desafio imenso de identificar conteúdos gerados por IA e atuar quando eles são identificados”.