Uma nova demanda judicial protocolada nos Estados Unidos imputa à xAI — startup de inteligência artificial de Elon Musk — a acusação de utilizar registros de exploração sexual infantil no aprimoramento do modelo Grok. A requerente, autuada sob o pseudônimo Jane Doe, sustenta que registros de abusos sofridos em sua menoridade integraram a base de dados da ferramenta, culminando na fabricação de novas mídias ilícitas por meio de IA.
De acordo com os autos, a situação de Jane Doe é monitorada pelo Child Exploitation Notification Program, órgão do FBI voltado ao acompanhamento de vítimas de violência infantil.
Detalhes do processo
O documento argumenta que a xAI concebeu o Grok para atender a comandos de cunho sexual como artifício comercial para captar assinantes para o chatbot e para a plataforma X. Conforme apontado na petição, as diretrizes operacionais da corporação permitem o aproveitamento de qualquer conteúdo público veiculado no X para fins de treinamento, inclusive as próprias respostas geradas pelo assistente virtual.
Esse fluxo operacional teria gerado um ciclo vicioso, onde os arquivos ilícitos gerados pelo algoritmo serviam de insumo para novas rodadas de aprendizado de máquina. Na visão jurídica da defesa da vítima, a simples exclusão isolada de arquivos é ineficaz enquanto a tecnologia mantiver a aptidão técnica de sintetizar esse padrão de conteúdo.
Em nota distribuída à imprensa, a advogada Margaret Mabie, vinculada à Marsh Law Firm, enfatizou que a legislação federal de salvaguarda à infância não contempla nenhum tipo de isenção ou prerrogativa para a inteligência artificial. No mesmo sentido, Sarah London, sócia da Girard Sharp e co-representante da requerente, pontuou que a xAI deve assumir a responsabilidade civil pelo emprego das mídias no aperfeiçoamento da rede neural.
A xAI adquiriu o X, antigo Twitter, em março de 2025 (Reprodução/Casa Branca e Marcelo Fischer/Canaltech)
A petição requer compensação financeira para as partes lesadas, além da invalidação e eliminação de todo o acervo de exploração infantil sintetizado pelo Grok, o que abrange registros ainda acessíveis ao público e acervos destinados ao treinamento de gerações futuras de modelos.
Medidas judiciais movidas pela própria xAI Paralelamente aos litígios que enfrenta, a xAI adotou uma postura atípica no ecossistema tecnológico ao ajuizar ações contra indivíduos suspeitos de empregar o Grok na confecção de mídias proibidas.
Reportagem do veículo Politico apontou que a companhia acionou judicialmente Russell Bloodworth — fotógrafo residente no Arkansas alvo de dezenas de acusações criminais por adulterar fotografias de menores utilizando o robô conversacional — e Terry Wayne Harwood, da Carolina do Sul, que também responde criminalmente por exploração de menor. Ambos os réus rejeitam as acusações.
Nos pleitos, a desenvolvedora exige que os réus custeiem despesas advocatícias da empresa decorrentes de processos abertos por vítimas, além de reparação por danos morais à imagem corporativa. Ouvido pelo Politico, o especialista em direito John Coyle ponderou que medidas desse tipo direcionadas contra o consumidor final são incomuns na indústria, dado o potencial desgaste reputacional.
Representantes legais de vítimas criticaram a manobra. Sophia Rios, atuante em outro litígio sob o pseudônimo South Carolina Roe, qualificou a ofensiva contra Harwood como tardia e ineficaz. Já o advogado Derek Potts avaliou que as contendas judiciais da xAI contra clientes configuram uma tentativa de eximir a companhia de suas obrigações legais.
Controvérsias e sanções regulatórias
O assistente da xAI acumula investigações oficiais, demandas individuais e pelo menos três ações de classe associadas à produção não autorizada de conteúdo erótico, com ramificações envolvendo menores de idade. Em resposta à pressão pública, a empresa impôs barreiras e cobrou taxas pelo recurso que facilitava a descaracterização de vestimentas em fotografias, embora o chamado “modo picante” siga acessível sob restrições mais rígidas.
Registros judiciais divulgados pela imprensa indicam que a companhia reportou cerca de 74 mil ocorrências ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) no decorrer de 2026, culminando em mais de duzentas detenções.
No cenário brasileiro, órgãos competentes emitiram recomendações para que a rede social X impedisse o Grok de produzir mídias de cunho sexual sem autorização prévia. O recurso passou a ser fiscalizado em território nacional, embora o episódio ainda não tenha desaguado em medidas judiciais formais.
