Gigantes da tecnologia como a criadora do iPhone e a dona do Android baniram de suas respectivas lojas virtuais — a App Store e a Google Play Store — softwares conhecidos como nudify, especializados na geração de imagens íntimas falsas através de inteligência artificial. A ação foi tomada em cumprimento a uma determinação da Justiça de San Francisco, nos Estados Unidos, que responsabilizou as companhias por permitirem a difusão desses programas e ordenou a exclusão imediata.
Questionada pelo portal 9to5Mac, a empresa de Cupertino ratificou a retirada dos programas indicados pela Promotoria de San Francisco, destacando que também está adotando providências para desativar os perfis dos criadores envolvidos. De forma similar, a dona do sistema Android certificou o expurgo dos itens citados no mandado judicial e implementou bloqueios em pesquisas por palavras-chave relacionadas na sua loja de aplicativos.
Ferramentas de deepfakes sensuais eram distribuídas nas lojas de apps para Android e iOS (Imagem gerada por IA/ChatGPT)
O Desafio da Moderação e o Ecossistema de Deepfakes
O episódio reabre o debate a respeito da facilidade com que utilitários voltados para deepfakes ganham alcance em larga escala. Embora as normativas internas de ambas as corporações vetem explicitamente a comercialização ou oferta de ferramentas que produzam material erótico sem autorização, tais serviços frequentemente burlam barreiras de segurança para figurar nos marketplaces oficiais.
O avanço acelerado da inteligência artificial facilita a criação e a publicação constante de novas aplicações, impondo novos desafios aos filtros de moderação automatizados e humanos.
Contudo, a questão ultrapassa os limites das lojas de aplicativos. Uma pesquisa conduzida pelo Institute for Strategic Dialogue revelou que a prática se apoia em uma rede complexa composta por mais de 180 páginas na internet. Mesmo com as restrições impostas nos mercados oficiais, diversos serviços de deepfake continuam sendo promovidos de maneira ostensiva em redes sociais populares, servindo como principais vias de acesso para os usuários.
