Um estudo realizado pelo Youth AI Safety Institute, parte da organização Common Sense Media, classificou as funcionalidades de inteligência artificial da Busca do Google — especificamente o AI Overviews e o Modo IA — como de “risco inaceitável” para o público infantojuvenil. A análise destaca problemas no suporte acadêmico, na precisão dos dados fornecidos e no manejo de temas delicados, como saúde mental.
Para chegar a essas conclusões, os especialistas simularam o uso por menores de 11 e 15 anos com o filtro SafeSearch ligado, replicando o comportamento comum de crianças e adolescentes em seus aparelhos. A pesquisa baseou-se na análise de mais de 2,1 mil respostas obtidas a partir de aproximadamente 2,6 mil consultas.
Apontamentos do relatório: erros e falhas críticas
Conforme o levantamento, a IA frequentemente resolvia lições de casa diretamente, prejudicando o processo de aprendizado dos estudantes. Além disso, foram detectadas imprecisões e conteúdos inadequados, como orientações para a produção de deepfakes.
Outro ponto grave diz respeito à atuação em momentos de vulnerabilidade emocional: a ferramenta apresentou falhas ao lidar com pedidos de ajuda sobre saúde mental, chegando a sugerir contatos de suporte que não estavam mais em funcionamento.
Dificuldades no monitoramento familiar
O relatório critica a falta de autonomia dos responsáveis para gerenciar essas ferramentas. Como os recursos de IA são parte integrante do buscador, a desativação não é intuitiva, permitindo que menores sejam expostos a essas respostas mesmo com as restrições ativadas. Dados da Common Sense Media revelam que 75% dos jovens americanos já interagem com conteúdos gerados por IA em suas pesquisas.
Big Techs estão enfrentando maior pressão nos últimos meses em relação à proteção de crianças e adolescentes na internet (Marcelo Fischer/Canaltech)
O posicionamento do Google
Em resposta à Android Authority, o Google contestou os resultados, argumentando que o estudo se baseou em pesquisas “forçadas” e pouco naturais, que não condizem com a experiência cotidiana dos usuários. A gigante da tecnologia alegou incapacidade de replicar a maioria das situações descritas pelos pesquisadores, argumentando que a ambiguidade das perguntas dificultou uma análise objetiva da segurança.
Adicionalmente, a empresa enfatizou que seu buscador conta com camadas de proteção, alertas para temas sensíveis e direcionamento para fontes confiáveis. O Google reforçou que disponibiliza materiais educativos sobre o uso ético da tecnologia e ferramentas de controle parental, além de assegurar que seus canais de apoio em crises são validados por especialistas clínicos e acadêmicos.
