Um escândalo envolvendo inteligência artificial veio à tona no estado de Wyoming, nos Estados Unidos, onde um padrasto utilizou a ferramenta Grok para confeccionar mais de 7 mil registros visuais de teor sensual baseados em fotografias da infância de sua enteada. O episódio resultou em uma ação legal direcionada contra a empresa desenvolvedora da tecnologia.
Conforme apuração divulgada pelo jornal The Washington Post, uma intervenção policial na residência do suspeito resultou na apreensão de dispositivos informáticos. As investigações constataram que o homem gerava e comercializava na internet representações eróticas não autorizadas da vítima, incluindo produções alusivas ao período em que a jovem tinha apenas 11 anos de idade.
O indivíduo foi encontrado morto em decorrência de suicídio poucos dias após a ação policial. Diante do ocorrido, a vítima ajuizou uma petição jurídica contra a xAI, companhia fundada por Elon Musk e responsável pelo software Grok. O caso soma-se a outro processo em esfera federal protocolado por três americanas que acusam a mesma tecnologia de produzir versões sensuais a partir de registros de sua juventude.
O papel do Grok e a proliferação de deepfakes
O episódio ilustra os desdobramentos críticos associados à proliferação de imagens falsas (deepfakes) geradas pelo Grok. A controvérsia ganhou força em janeiro, período em que a interligação da inteligência artificial com a rede social X facilitava a geração de conteúdo de cunho íntimo de qualquer usuário de forma facilitada e sem autorização prévia.
A ferramenta passou a ser escrutinada por autoridades governamentais em diversas nações, motivando a implementação posterior de travas e protocolos de segurança pela plataforma.
Apesar das barreiras de contenção, o uso indevido de sistemas gerativos para a fabricação em larga escala de material ilícito continua gerando preocupações globais, especialmente diante da disseminação frequente de artifícios destinados a burlar as restrições impostas pelos desenvolvedores.
Grok e outras ferramentas de IA são usados para criar deepfakes (Imagem gerada por IA/ChatGPT)
Orientações em casos de crimes digitais
Especialistas reforçam que vítimas de incidentes envolvendo deepfakes ou exposição não autorizada devem reunir o máximo de evidências digitais possíveis e registrar imediatamente um boletim de ocorrência junto aos órgãos competentes.
