Uma investigação da Maldita.es, uma organização sem fins lucrativos focada em segurança online, revelou uma preocupante tendência no TikTok: vídeos de crianças geradas por Inteligência Artificial (IA) com conteúdo sexualmente sugestivo estão viralizando e somando milhões de curtidas.
As contas descobertas, que desafiam as regras rígidas da plataforma, publicam consistentemente vídeos de meninas geradas por computador vestindo roupas justas, lingeries ou uniformes escolares, e frequentemente incluem links diretos para material de pornografia infantil, conforme reportado pela CNN.
???? Contas e Conteúdos Sob o Radar
O estudo identificou mais de uma dúzia de perfis que publicavam esses vídeos sexualizados, acumulando um total de centenas de milhares de seguidores.
“Isso não tem nuances. Ninguém que seja uma pessoa real acharia isso aceitável ou não exigiria remoção,” declarou Carlos Hernández-Echevarría, diretor assistente da Maldita.es, à CNN.
Os criadores utilizavam tanto o recurso “AI Alive” do próprio TikTok para animar imagens, quanto ferramentas externas de IA. Muitos vídeos possuíam comentários que levavam a chats privados no Telegram, onde material ilegal era oferecido para compra, com preços variando entre 50 e 150 euros (R$ 270 a R$ 810).
???? O Dilema da Moderação do TikTok
O TikTok reafirma ter uma política de tolerância zero contra abuso e exploração sexual de jovens, incluindo conteúdos gerados por IA. A empresa alega ter removido mais de 189 milhões de vídeos e banido mais de 108 milhões de contas entre abril e junho de 2025.
No entanto, o relatório da Maldita.es aponta falhas no processo de moderação. Após a denúncia inicial de 15 contas e 60 vídeos, 46 vídeos foram inicialmente considerados dentro das normas e permaneceram ativos. Apenas 14 foram removidos ou restringidos.
“Não há absolutamente nenhuma possibilidade de um ser humano ver isso e não entender o que está acontecendo. Os comentários são extremamente grosseiros,” enfatizou Hernández-Echevarría, criticando a eficácia da moderação humana e automatizada.
Este relatório intensifica a pressão global sobre plataformas digitais para garantir a segurança de seus usuários mais jovens, em um momento em que países como a Austrália já implementaram leis para restringir o acesso de menores de 16 anos a redes sociais. Estudos anteriores já haviam alertado para o risco de o TikTok sugerir termos sexualizados para usuários de 13 anos.
