A Amazon detectou centenas de milhares de arquivos com indícios de abuso sexual infantil em bancos de dados destinados ao treinamento de suas inteligências artificiais. O volume de registros foi tão expressivo que as denúncias enviadas pela empresa ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), dos EUA, cresceram 15 vezes em 2025, totalizando mais de um milhão de relatórios — contra apenas 64 mil no ano anterior.
O impasse entre detecção e investigação
Embora a Amazon tenha agido para remover o material antes do treinamento, a empresa enfrenta críticas de especialistas e órgãos de proteção. O motivo é a falta de rastreabilidade:
- Origem desconhecida: A Amazon afirma que os dados foram coletados automaticamente da internet aberta e de fontes externas, alegando não possuir detalhes técnicos que permitam à polícia localizar os criminosos ou resgatar vítimas.
- Falsos positivos: Para evitar falhas, a empresa utiliza filtros de busca “extremamente sensíveis”, o que gera um alto volume de alertas, mas poucos dados acionáveis para investigações reais.
- Comparação com o setor: O NCMEC destaca que concorrentes como Google e OpenAI enviam menos denúncias, porém fornecem informações mais detalhadas que auxiliam o trabalho policial.
Velocidade vs. Ética no treinamento de IA
Pesquisadores como David Thiel alertam que a corrida para lançar novas IAs tem priorizado a velocidade em vez de uma curadoria ética. Ao extrair volumes massivos de dados da web sem verificação profunda, as empresas correm o risco de treinar modelos que podem aprender padrões abusivos ou desenvolver a capacidade de gerar imagens sintéticas de crimes.
Até o momento, a Amazon garante que seus sistemas de IA não geraram conteúdos ilícitos a partir desses dados. A identificação foi realizada por meio de “hashing”, uma tecnologia que compara imagens com um banco de dados de crimes já catalogados.
Próximos passos
Pressionada por mais transparência sobre como limpa e organiza seus bancos de dados, a Amazon prometeu divulgar um relatório detalhado sobre suas práticas de segurança em março de 2026.
