O TikTok realizou experimentos com recursos de segurança que não funcionavam para milhares de usuários, incluindo adolescentes e crianças, segundo alegações de uma ação judicial do Estado de Nova York tornadas públicas nessa quarta-feira (7).
A prática é descrita no processo movido pela procuradora-geral de Nova York, Letitia James, como experimentos “fantasmas” ou “placebo”, conforme relata o Valor Econômico. A ação integra um conjunto de mais de duas dezenas de processos movidos por estados americanos que acusam o TikTok de projetar sua plataforma para viciar crianças e de enganar usuários sobre a segurança da ferramenta.
As melhores notícias de tecnologia B2B
Acompanhe todas as novidades diretamente na sua caixa de entrada
Como funcionavam os testes placebo
Nos experimentos, o TikTok selecionou usuários que optaram por ativar recursos como o “Algo Refresh”, ferramenta criada para redefinir as recomendações e ajudar quem buscava evitar conteúdos indesejados ou potencialmente prejudiciais. Segundo a ação, esses usuários acreditavam ter ativado o recurso, mas seus feeds não se alteraram. Apenas os que receberam a versão plenamente funcional da ferramenta tiveram mudanças reais no conteúdo exibido.
A empresa realizou os testes repetidamente com milhares de usuários em 2023, comparando quem não recebeu o recurso com quem o recebeu para medir o tempo de permanência na plataforma e o impacto sobre a receita publicitária, de acordo com o processo. O processo também alega que o TikTok enganou consumidores sobre o funcionamento da ferramenta, dizendo que ela redefiniria o algoritmo de recomendação de vídeos quando, na prática, a mudança era apenas temporária.
Um gerente de produto da área de bem-estar digital da empresa havia alertado internamente que a prática era problemática. “Esse recurso diz respeito à transparência e ao controle do algoritmo”, escreveu o funcionário em uma conversa interna, segundo a ação. “Um grupo placebo entra em completo conflito com isso”, acrescentou.
Leia também: Atraso da soberania de dados e governança são os entraves para a IA física no Brasil, declaram especialistas na Futurecom
Adolescente morreu após receber conteúdos de suicídio
O processo também abrange uma série separada de experimentos, revelados anteriormente em reportagem da Bloomberg. Neles, o TikTok desativou, aleatoriamente, recursos de segurança que limitavam a exposição a conteúdos prejudiciais nas contas de usuários selecionados. Um adolescente de Nova York que participou do teste se suicidou depois de receber conteúdos sobre automutilação e suicídio. Análises internas da empresa mostraram que o jovem havia recebido uma “avalanche” de conteúdos sobre o tema, segundo a ação.
A ação afirma que o TikTok garante aos usuários que a segurança é prioridade máxima e que a plataforma é adequada para crianças e adolescentes, ao mesmo tempo que impede deliberadamente determinados grupos de acessar ferramentas de proteção, incluindo aqueles que haviam buscado especificamente evitar conteúdos indesejados.
Posição do TikTok e histórico jurídico
A empresa negou amplamente as alegações de Nova York em documentos apresentados à Justiça e afirmou que a segurança de jovens usuários é uma prioridade. “Fazemos melhorias contínuas em nossa plataforma, o que significa que, como a maioria das empresas, testamos regularmente novos produtos e recursos para validar a experiência e entender como funcionam no mundo real”, diz um porta-voz do TikTok em comunicado.
Letitia James apresentou a ação originalmente em 2024. As alegações sobre os testes placebo foram incluídas em uma versão atualizada e sigilosa da petição inicial, apresentada no fim de agosto de 2026, cujo sigilo foi retirado por determinação judicial. Muitos documentos de processos estaduais em todo o país foram mantidos sob sigilo ou tiveram grande parte de seu conteúdo censurado enquanto a empresa buscava impedir a divulgação de detalhes sobre suas operações.
Em setembro de 2026, o TikTok fechou um acordo na primeira ação estadual com julgamento previsto, comprometendo-se a pagar ao Alabama até US$ 300 milhões e a mudar o funcionamento de sua plataforma para adolescentes naquele estado.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
Fonte: https://itforum.com.br/noticias/tiktok-testes-placebo-seguranca-usuarios/