Organizações extremistas e redes terroristas têm integrado a inteligência artificial como uma ferramenta estratégica para otimizar o planejamento de atentados e otimizar a criação ou modificação de arsenais bélicos. De acordo com um levantamento da Tech Against Terrorism — entidade parceira do Escritório de Contraterrorismo das Nações Unidas —, atores criminosos têm utilizado métodos de jailbreaking para contornar as travas de segurança impostas pelos desenvolvedores de IA.
A análise submeteu 27 plataformas de IA a mais de 2,3 mil consultas inspiradas em cenários reais de terrorismo. Em diversos momentos, os assistentes virtuais forneceram diretrizes que os analistas classificaram como perigosas, incluindo instruções sobre a construção de armamentos, estratégias para ocultar operações ilícitas e o mapeamento de ataques. Notavelmente, ao camuflar essas solicitações como estudos acadêmicos, a eficácia das respostas obtidas por esses grupos foi ainda mais elevada.
O relatório destaca que a IA atua como um acelerador, centralizando dados que anteriormente exigiriam pesquisas exaustivas e contatos diretos com outros radicais. Além disso, existe um ecossistema de colaboração entre esses grupos, que compartilham prompts eficazes para burlar filtros, disseminam diálogos bem-sucedidos e rateiam custos de assinaturas para democratizar o acesso às ferramentas pagas.
Relatório da Tech Against Terrorism mostra que grupos extremistas usam técnicas de jailbreaking para tentar driblar os filtros de segurança de modelos de IA. (Zach M/Unsplash)
A IA como suporte operacional
A Tech Against Terrorism aponta que facções como Al-Qaeda e Estado Islâmico elevaram a sofisticação de suas operações. Além de disseminar propaganda, as ferramentas são usadas para apoio tático: análise de alvos, monitoramento, vigilância e a adaptação técnica de armamento. Investigações em diversas nações — como Estados Unidos, Canadá e Israel — confirmam o uso dessas tecnologias por suspeitos de extremismo. Um caso emblemático envolve o grupo JNIM, afiliado à Al-Qaeda no Mali, que teria utilizado IA para aprimorar drones militares.
Canais no aplicativo Telegram tornaram-se polos de intercâmbio, onde extremistas ensinam técnicas para “enganar” as IAs, compartilham logs de conversas e coordenam o financiamento coletivo de assinaturas premium. A IA, nesse contexto, atua como um tutor personalizado, sintetizando informações complexas e esclarecendo dúvidas operacionais de forma muito mais dinâmica do que uma busca tradicional em motores de pesquisa.
Grupos terroristas usam IA para propaganda, planejamento de ataques, vigilância e adaptação de armamentos. (Growtika/Unsplash)
Aceleração da radicalização e o perfil do usuário
Para a pesquisadora Emily Klein, os chatbots podem exacerbar preconceitos preexistentes, funcionando como catalisadores na jornada de radicalização. Adam Hadley, diretor da Tech Against Terrorism, alerta para a gravidade do cenário, visto que uma fatia considerável de pessoas radicalizadas no Ocidente é composta por crianças e adolescentes, público nativo digital.
A dinâmica da radicalização solitária também sofreu mutação. Se antes o suporte vinha de interações humanas em redes sociais, hoje a IA ocupa o papel de fonte de aconselhamento. Especialistas reforçam que a tecnologia não substitui o componente humano, mas complementa o suporte necessário para que indivíduos sigam caminhos extremistas. Por fim, há registros de que grupos como o Estado Islâmico já promovem tutoriais internos sobre como utilizar a IA para a produção de conteúdo propagandístico, como vídeos e memes, maximizando o alcance de suas ideologias.
A IA também pode acelerar o processo de radicalização ao reforçar crenças já existentes. (Aerps.com/Unsplash)
