A eSafety, autoridade de segurança digital da Austrália, anunciou que poderá intervir diretamente em lojas de aplicativos e buscadores para bloquear ferramentas de inteligência artificial que não adotarem sistemas rígidos de verificação de idade. A partir de 9 de março, chatbots e buscadores com IA (como o ChatGPT) serão obrigados a impedir que menores de 18 anos acessem conteúdos nocivos, incluindo violência extrema, pornografia e materiais que promovam automutilação ou transtornos alimentares.
O descumprimento das normas pode gerar sanções pesadas, com multas que alcançam 49,5 milhões de dólares australianos (aproximadamente R$ 180,8 milhões).
Expansão da regulação digital
A medida é mais um passo na ofensiva regulatória do país, que recentemente foi o primeiro a proibir adolescentes em redes sociais por questões de saúde mental. Agora, o foco são as IAs, alvos de processos globais por falharem em proteger jovens. Embora não existam casos de violência confirmados na Austrália ligados a chatbots, o órgão regulador relatou preocupação com crianças de 10 anos utilizando essas ferramentas por até seis horas diárias.
O cenário atual de conformidade
Apesar do prazo apertado, uma análise da agência Reuters aponta que o setor ainda não está totalmente preparado:
- Plataformas de texto: Dos 50 serviços mais populares, apenas 9 anunciaram planos de verificação de idade.
- Saída estratégica: 11 plataformas optaram por filtros totais ou pelo bloqueio completo do acesso no país para evitar sanções.
- Resistência: Cerca de 30 serviços ainda não apresentaram medidas claras para cumprir as novas regras.
Enquanto gigantes como OpenAI (ChatGPT) e Character.AI já começaram a implementar restrições e filtros mais severos, o setor de “chatbots complementares” preocupa: três quartos dessas ferramentas não possuem filtragem de conteúdo ou canais de denúncia. O Grok, da xAI, foi um dos serviços identificados sem sistemas adequados até o momento do anúncio.
O papel de Apple e Google
As detentoras das principais lojas de aplicativos também estão sob mira. A Apple afirmou que utilizará “métodos razoáveis” para restringir downloads para menores, sem detalhar a tecnologia, enquanto o Google preferiu não se manifestar sobre as novas exigências australianas.
