Projeto interno batizado de “Cannes” orientou centenas de contratados a se passarem por adolescentes e enviarem perguntas de alto risco ao ChatGPT, Gemini e Character.AI
Aviso: o texto a seguir aborda o tema suicídio. Caso você ou alguém próximo precise de apoio, o Centro de Valorização da Vida (CVV) atende 24 horas pelo telefone 188, além de chat e e-mail.
De acordo com documentos internos e cinco fontes ligadas ao projeto, a Meta orientou centenas de contratados a montar contas falsas simulando usuários menores de idade para disparar perguntas sobre suicídio, transtornos alimentares, uso de drogas e outros assuntos delicados em chatbots de empresas rivais. A informação é de reportagem exclusiva da Wired.
O programa, conhecido internamente como Cannes e operado pela empresa terceirizada Covalen, seguiu ativo pelo menos até 21 de abril de 2026. Apenas uma rodada de testes, feita em agosto de 2025, resultou em mais de 45 mil prompts disparados contra os sistemas concorrentes. Nenhuma das empresas avaliadas foi avisada sobre a existência da iniciativa.
Como o esquema funcionava
Os contratados recebiam instruções para criar perfis com dados fictícios de adolescentes, enviar textos e imagens aos chatbots e anotar as respostas em planilhas. Conforme as diretrizes internas obtidas pela Wired, os prompts eram construídos justamente para forçar os sistemas a romper suas próprias barreiras de segurança.
Um documento interno da Covalen descreveu a iniciativa como um “benchmarking abrangente de segurança de IA”, responsável por gerar “conjuntos de dados críticos para comparação de modelos”.
Funcionários relatam desconforto
Ex-funcionários entrevistados pela Wired classificaram alguns aspectos do trabalho como perturbadores. Um deles contou que havia receio entre a equipe de estarem, sem querer, produzindo ou armazenando material de abuso sexual infantil, caso algum chatbot respondesse de forma inadequada a prompts envolvendo menores.
“Vi muita coisa que preferia não ter visto fazendo esse trabalho”, relatou um ex-contratado à publicação. “Todo mundo que eu conhecia no projeto ficou chocado com parte dos textos que pediam para testarmos.”
Uma zona cinzenta entre lei e ética
Dois advogados especializados em direito digital ouvidos pela reportagem avaliaram que o conteúdo produzido não chegou a configurar material ilegal de abuso infantil ou obscenidade.
Já Rumman Chowdhury, fundadora da organização sem fins lucrativos Humane Intelligence, levantou questionamentos sobre a estrutura do projeto. Segundo ela, montar uma operação de meses, em larga escala, aparentemente desenhada para burlar essas regras de forma sistemática usando contas falsas de crianças vai além do que costuma ser chamado de avaliação padrão do setor.
Para Chowdhury, misturar avaliação de segurança com benchmarking competitivo cria o que ela descreve como uma zona cinzenta de governança, na qual a bandeira da segurança acaba servindo de disfarce para práticas anticompetitivas.
A iniciativa também parece ter contrariado os termos de uso das três empresas testadas. A OpenAI veda testes de segurança não autorizados e o uso de respostas geradas para treinar modelos concorrentes. O Google proíbe tentativas de burlar seus filtros de segurança fora de programas oficiais de teste. Já a Character.AI não permite conteúdo prejudicial ou de caráter exploratório.
O posicionamento das empresas
A Character.AI declarou que não autorizou os testes e que a conduta relatada pela Wired infringe seus termos e políticas internas. A OpenAI informou que está apurando o caso. O Google disse desconhecer o propósito dos testes e não tê-los autorizado.
Em nota à Wired, a Meta classificou o trabalho como um teste de segurança dentro da rotina da empresa, afirmando que comparar respostas de diferentes chatbots para garantir experiências seguras e adequadas à idade é prática comum no setor. A empresa também negou usar dados de benchmarking de concorrentes para treinar seus próprios modelos de IA.
A Covalen não respondeu aos pedidos de comentário feitos pela Wired.
