Os geradores de imagens movidos a inteligência artificial criados por Google e OpenAI contêm brechas nas travas de segurança projetadas para barrar a produção de nudez sem consentimento e material sexual explícito. O diagnóstico vem de especialistas da organização White Circle, que submeteram a testes os modelos DALL·E 3, Google Nano Banana 2 e GPT-Image-2. Nas simulações, os mecanismos deixaram de barrar comandos proibidos em aproximadamente 13% das tentativas.
A análise aplicou a metodologia Red-teaming via Iterative Strategy Evolution (RISE), um sistema automatizado para localizar falhas progressivas nos filtros de proteção. O procedimento emprega recursos gratuitos disponíveis na rede, a exemplo de uma versão do modelo Qwen obtida via Hugging Face para conduzir as investidas e o Gemini 3.8 Flash para checar as respostas. Por meio dessa arquitetura, os analistas enviaram requisições via API que burlaram as barreiras sem demandar conhecimentos técnicos aprofundados.
A situação mostrou-se ainda mais delicada em sistemas recentes, tais como o ChatGPT Images 2.5 e o Nano Banana 2.1, que se revelaram mais propensos a driblar as salvaguardas do que suas versões anteriores. De acordo com a White Circle, os dados registram o maior índice de êxito já observado sob o mesmo protocolo de avaliação, evidenciando que as barreiras de proteção de grandes companhias de tecnologia podem ser menos eficientes do que se supunha.
A facilidade para contornar esses bloqueios também acende alertas devido ao risco de proliferação de imagens íntimas forjadas. Um levantamento do próprio Google reproduzido pela Ars Technica indica que 20% dos indivíduos que admitiram ter criado nudes por IA o fizeram “por diversão” ou “em tom de brincadeira”. Adicionalmente, quase um terço declarou estar apenas testando o funcionamento da ferramenta. Esses números assinalam que a geração desse material não se restringe a usuários com intenção premeditada de cometer abusos. Para uma parcela das pessoas, a mera curiosidade atua como gatilho, em especial quando os entraves técnicos são fáceis de superar.
Testes identificaram falhas nos filtros de segurança de geradores de imagens por IA do Google e da OpenAI. (Solen Feyissa/Unsplash)
O cenário abrange ainda a confecção de material sintético de exploração sexual infantil. A Internet Watch Foundation (IWF), entidade dedicada ao combate do abuso sexual infantil no ambiente digital, mapeou 6.310 imagens sintéticas enquadradas na tipificação legal desse crime ao longo do primeiro semestre de 2026. A quantidade representa uma alta de cerca de 40% em relação ao consolidado de todo o ano de 2025. Segundo a organização, o levantamento também identificou representações ultra-realistas de crianças em idades muito tenras, incluindo bebês com menos de dois anos.
Em declaração à Ars Technica, o CEO da White Circle, Denis Shilov, classificou os achados como “assustadores”. O executivo ressaltou ainda que as deficiências no bloqueio de conteúdos sexuais explícitos geram dúvidas sobre a capacidade dos mesmos sistemas de barrar ameaças de maior gravidade, como tentativas de invasão e ciberataques.
Os pesquisadores trabalham com duas hipóteses para explicar o aumento da vulnerabilidade nos sistemas mais modernos. A primeira sugere que os novos modelos ganharam capacidade de sintetizar uma diversidade maior de imagens, o que indiretamente amplia as alternativas para burlar as regras. A segunda hipótese pressupõe que as desenvolvedoras tenham priorizado a performance e o desempenho em detrimento das rotinas de segurança.
Dmitrii Kharlapenko, engenheiro de pesquisa da White Circle, pontuou também à Ars Technica que os exames de segurança estabelecidos, como os testes de red-teaming, ainda carecem de padronização na área de síntese visual. A ausência de parâmetros uniformes dificulta a comparação entre métricas e o diagnóstico de falhas, em um ecossistema no qual as empresas competem agressivamente por lançamentos cada vez mais sofisticados.
Imagens de abuso sexual infantil geradas por inteligência artificial cresceram 40% no primeiro semestre de 2026, segundo a IWF. (Solen Feyissa/Unsplash)
Como reforçar a segurança dos geradores de imagens?
Os dados evidenciam a urgência de aprimorar os protocolos de teste e intensificar a auditoria sobre os modelos antes e depois de sua disponibilização ao público. Entre as estratégias aplicáveis, destacam-se:
- Testes automatizados e contínuos: o emprego recorrente de metodologias como o RISE auxilia na detecção de caminhos usados para burlar filtros, permitindo atualizar as defesas contra conteúdos sexuais, violência gráfica e automutilação;
- Compartilhamento de dados de ataques: a divulgação supervisionada de métodos de avaliação, códigos e relatórios auxilia pesquisadores independentes a diagnosticar vulnerabilidades e a aferir a eficácia das barreiras;
- Auditorias independentes: inspeções realizadas por entidades externas antes do lançamento e durante a operação comercial dos modelos aumentam a transparência e cobram investimentos mais consistentes em segurança;
- Proteções integradas aos modelos: sistemas de defesa devem atuar diretamente no processo de geração da imagem, aplicando checagens adicionais para coibir a criação de conteúdo vedado. Marcas-d’água e rastreadores de procedência também ajudam a identificar imagens sintéticas, embora não impeçam, de forma isolada, sua confecção ou distribuição;
- Colaboração com entidades especializadas: parcerias com pesquisadores e ONGs de combate a abusos virtuais auxiliam na identificação prévia de riscos antes que os modelos cheguem ao mercado.
Os achados reforçam a complexidade de fazer com que a evolução dos mecanismos de proteção acompanhe o ritmo veloz dos geradores de imagem. Além de coibir solicitações explícitas, as desenvolvedoras precisam prever como suas ferramentas podem ser manipuladas para criar imagens íntimas falsas de indivíduos reais — um tipo de violência capaz de provocar sérios danos mesmo sem a utilização de fotos autênticas.
