Uma apuração recente trouxe à tona que a criadora do ChatGPT emprega centenas de profissionais terceirizados com a missão de examinar, compilar e julgar diálogos reais de clientes com a ferramenta. Embora a corporação utilize filtros para apagar dados identificáveis, registros internos obtidos pelo veículo 404 Media apontam que detalhes confidenciais podem acabar vazando para os olhos desses analistas.
O papel da revisão humana
Esses colaboradores atuam diretamente no refinamento dos algoritmos. O escopo de trabalho inclui julgar as respostas fornecidas pela inteligência artificial e sinalizar posturas indesejadas, a exemplo da bajulação excessiva (quando o assistente virtual concorda ou elogia o interlocutor sem critério real).
O envolvimento de pessoas nesse processo é amplo no mercado tecnológico: concorrentes como a Anthropic adotam revisões similares caso o indivíduo autorize o uso do histórico, enquanto o Google também emprega equipes para analisar chats específicos armazenados no Gemini. O cenário acende alertas sobre a preservação da intimidade, visto que muitas pessoas utilizam o assistente para tarefas corporativas ou acabam revelando aspectos confidenciais de suas vidas.
Revisores humanos contratados por empresas terceirizadas podem analisar conversas reais do ChatGPT. (Viviane França/Canaltech)
Como bloquear o uso das conversas
Para quem utiliza planos individuais (como as categorias gratuita ou pagas), a permissão para alimentar os modelos vem habilitada nativamente — diferentemente de perfis corporativos e educacionais, onde o recurso permanece desligado por padrão. É possível impedir a prática seguindo o passo a passo:
- 1. Abra a plataforma do ChatGPT (seja no navegador ou no aplicativo oficial);
- 2. Clique na opção do seu perfil de usuário;
- 3. Navegue até a seção de Configurações;
- 4. Selecione a aba de Controles de dados;
- 5. Desmarque a chave correspondente a “Melhorar o modelo para todo mundo”.
A opção “Melhorar o modelo para todo mundo” fica ativada por padrão nas contas pessoais do ChatGPT. (Captura de tela/Viviane França/Canaltech)
Com a alteração salva, os novos diálogos deixam de ser empregados no treinamento geral. Contudo, a empresa ainda pode reter registros pontuais com foco em segurança e prevenção de fraudes. Especialistas recomendam evitar o compartilhamento de segredos industriais ou informações íntimas com qualquer assistente virtual.
Os bastidores do Projeto Lily
A iniciativa de monitoramento humano é tratada internamente sob a alcunha de Projeto Lily. Os manuais de orientação repassados aos contratados detalham diretrizes rigorosas para corrigir o estilo e a conduta do software, tais como:
- Eliminação de maneirismos: Evitar o uso excessivo de emojis e construções textuais robóticas ou artificiais.
- Neutralidade de identidade: Impedir que o chatbot finja possuir emoções, sentimentos ou características próprias de seres vivos.
- Combate à submissão cega: Coibir respostas que concordem cegamente com o usuário, evitando o reforço de conceitos incorretos ou preconceitos.
O Projeto Lily é o codinome de uma iniciativa da OpenAI para avaliação humana das respostas do ChatGPT. (Viviane França/Canaltech)
Apesar da existência de algoritmos preventivos de privacidade desenhados para ocultar dados pessoais antes da leitura humana, os próprios relatórios reconhecem falhas ocasionais diante de termos ambíguos. Além disso, alguns avaliadores podem ter acesso a trechos da memória do usuário, revelando contextos como profissão e região geográfica.
