De acordo com um estudo divulgado pela organização AI Forensics, o diretório de inteligência artificial Hugging Face tem servido para a produção de imagens explícitas falsas e sem permissão. A investigação aponta que o ambiente carece de barreiras de proteção eficazes contra esse tipo de abuso.
Dados da pesquisa
O levantamento examinou aplicações hospedadas no ambiente Spaces, ferramenta do Hugging Face destinada a abrigar softwares desenvolvidos com os algoritmos do diretório. Os dados revelaram que:
- 73% das solicitações acompanhadas possuíam teor sexual, com forte incidência de comandos voltados para despir pessoas digitalmente.
- 6,7% dos pedidos direcionavam o foco para crianças e adolescentes.
Os especialistas destacaram a simplicidade do processo: bastavam comandos textuais diretos para produzir os deepfakes, diferentemente de outras tecnologias que exigem instruções complexas para burlar travas de segurança.
Relatório mostra que Hugging Face abriga diversas IAs para criar imagens NSFW, ou seja, de conteúdo impróprio (Reprodução/AI Forensics)
Ausência de filtros e fiscalização
O ponto central das críticas do relatório é a omissão de barreiras preventivas contra intencionalidades ilícitas.
Em declaração à revista Wired, Paul Bouchaud, integrante da equipe da AI Forensics, ressaltou que o Hugging Face não implementa proteções próprias, delegando a responsabilidade de moderação unicamente às diretrizes internas dos modelos originais.
Embora as normas da comunidade vetem a geração de material prejudicial a pessoas ou coletivos, qualquer usuário com cadastro ativo consegue utilizar os recursos. O monitoramento constatou que aplicativos populares de manipulação visual na seção Spaces viabilizam a fabricação de conteúdo íntimo clandestino sem grandes obstáculos.
O avanço desse mercado clandestino de imagens falsas é impulsionado pela disseminação de editores visuais automatizados. Um levantamento prévio do Institute for Strategic Dialogue (ISD) já havia demonstrado a existência de uma rede digital voltada para essa finalidade, onde plataformas sociais funcionam como pontos de acesso para tais recursos, inclusive fora dos canais oficiais de distribuição de aplicativos.
