A empresa Anthropic detectou cinco situações em que especialistas empregaram o assistente Claude em investigações do setor biológico que poderiam auxiliar na criação de artefatos bélicos biológicos. A companhia ressaltou que não há indícios de dolo ou propósitos maliciosos por parte dos envolvidos, optando por manter em sigilo os países, as entidades e os patógenos ligados a esses episódios.
Os fatos constam em um dossiê de 154 páginas lançado pela organização nesta quinta-feira (10), que compila o uso inadequado do chatbot no intervalo entre dezembro de 2025 e agosto de 2026. O material também detalha ações voltadas para espionagem, disseminação de propaganda, monitoramento digital, fraudes e fabricação de armamentos tradicionais com suporte de inteligência artificial.
Como o Claude foi empregado nas análises biológicas?
As cinco ocorrências retratam cientistas que tentaram burlar as travas de segurança do software ou ocultar o verdadeiro objetivo de suas buscas. Em um dos episódios, profissionais recorreram a uma interface intermediária para contornar restrições geográficas, aplicando a tecnologia em uma iniciativa estatal dedicada a estudos de ganho de função com o patógeno da chikungunya.
Em outro registro, um acadêmico situado em uma área sem suporte oficial da Anthropic dedicou semanas a fio planejando ensaios laboratoriais voltados à mutação do vírus da gripe aviária para hospedeiros mamíferos. Conforme a companhia, as barreiras de proteção restringiram tal atividade às versões menos potentes da ferramenta.
A corporação flagrou ainda indivíduos redigindo artigos científicos e manipulando substâncias químicas de duplo propósito — com potencial tanto medicinal quanto destrutivo. Em certas ocasiões, os clientes ocultaram deliberadamente dados sobre toxinas e proteínas virais em baixa definição para disfarçar o foco real do estudo.
Apesar disso, a Anthropic reitera que o modelo não foi instrumentalizado para a produção efetiva de armas biológicas, pontuando que não há provas de intenções nocivas e reforçando a decisão de omitir dados sensíveis que pudessem expor os participantes.
Anthropic identificou tentativas de usar o Claude em pesquisas biológicas potencialmente perigosas e reforçou as proteções do modelo (Viviane França/Canaltech / Editada por IA/ChatGPT)
Identificação de nações envolvidas
No tocante à frente biológica, a identidade das nações e organizações permaneceu sob sigilo absoluto.
Por outro lado, o documento expõe a origem geográfica de outras infrações. No setor de armamentos convencionais, foram catalogados seis casos: três na China, dois na Rússia e um no Iêmen, onde o Claude auxiliou na engenharia de softwares e na compilação de dados para fins militares.
No campo da desinformação, campanhas de propaganda foram associadas a agentes da Rússia, do Irã, da Turquia, além de territórios do Golfo, do Sul asiático, do continente africano e da Europa. Uma dessas iniciativas gerou mais de 8.900 textos traduzidos para cerca de 20 línguas, visando cidadãos de nações como Estados Unidos, Brasil, França e República Democrática do Congo.
No segmento de ataques cibernéticos e espionagem, uma ofensiva direcionada a oficiais, militares e embaixadores ucranianos foi vinculada a uma célula com padrões de atuação idênticos aos do Midnight Blizzard, grupo ligado por Washington aos serviços secretos russos.
Medidas punitivas e novas defesas
Como resposta aos incidentes, a desenvolvedora cancelou os perfis infratores e utilizou o aprendizado obtido para blindar os sistemas de segurança. O dossiê também pondera sobre um avanço tecnológico sensível: as gerações atuais de IAs já demonstram capacidade de apoiar investigações científicas altamente intrincadas, algo inviável em edições passadas.
Diante disso, a empresa implementou filtros mais rigorosos em seus softwares mais recentes, focado especialmente em consultas que envolvam biotecnologia de uso dual. A organização defende, por fim, que sistemas altamente potentes sejam restritos a ambientes controlados com usuários validados sempre que o risco de desvio ético for elevado.
