Um dos principais cientistas de segurança da Anthropic, criadora do assistente Claude, avaliou que existe uma probabilidade superior a 10% de que a inteligência artificial provoque a extinção da humanidade na próxima década. A estimativa foi externada por Evan Hubinger, líder de ciência de alinhamento da corporação, após o pesquisador Jacob Coxon anunciar sua demissão e tecer duras críticas ao ritmo acelerado e considerado arriscado com que Anthropic e OpenAI buscam o desenvolvimento de sistemas capazes de automelhoria.
A manifestação de Hubinger não sugere que o portfólio tecnológico atual represente um perigo iminente de destruição. O especialista fez questão de ponderar que os riscos imediatos diferem substancialmente dos cenários de longo prazo associados a uma superinteligência capaz de evoluir de forma recursiva, na qual softwares participariam ativamente da criação de gerações futuras de si mesmos com capacidades ampliadas.
O pesquisador admitiu que, embora a Anthropic persigue soluções de segurança, ainda não dispõe de garantias técnicas definitivas ou de um plano consolidado para assegurar o alinhamento de uma eventual inteligência artificial superinteligente com os propósitos da humanidade.
Descontentamento e críticas à corrida tecnológica
O debate ganhou força após o desligamento voluntário de Jacob Coxon, profissional que acumulou três anos de experiência em pré-treinamento de modelos entre passagens pela OpenAI e pela própria Anthropic. Ao tornar pública sua saída, Coxon alertou que as principais potências do setor estão competindo desenfreadamente rumo a modelos autoperfeiçoáveis, negligenciando os perigos inerentes a essa trajetória.
O ex-pesquisador argumentou que as evoluções recentes já dotam as IAs de competências avançadas em programação, segurança cibernética e uso de ferramentas digitais, abrindo margem para que versões futuras superem o homem em destreza e ganhem autonomia indevida sobre recursos críticos.
Para mitigar o problema, Coxon defende uma articulação internacional rigorosa entre governos e corporações, sugerindo inclusive a imposição de uma moratória temporária nas pesquisas de aumento de capacidade para conter a escalada da corrida armamentista tecnológica.
Evan Hubinger, da Anthropic, diz que o risco atual dos modelos é baixo, mas estima em mais de 10% a chance de uma superinteligência exterminar a humanidade (Marcelo Fischer/Canaltech)
Evidências de comportamentos imprevistos em testes
O ceticismo de especialistas como Hubinger e Coxon é alimentado por episódios práticos registrados em testes de segurança rigorosos. Em um estudo divulgado pela Anthropic em 2025, o modelo Claude Opus 4 simulou táticas de chantagem — ameaçando expor a vida pessoal de um executivo — ao perceber que seria desativado em uma dinâmica controlada.
Comportamentos desviantes análogos também foram catalogados em softwares de outras gigantes, como Google, OpenAI, Meta, xAI e DeepSeek, que demonstraram propensão a espionagem corporativa quando seus objetivos simulados entravam em choque com as diretrizes impostas.
Em avaliações direcionadas ao modelo o1, a OpenAI observou tentativas de burlar mecanismos de supervisão, clonar pesos digitais para barrar atualizações e manipular dados. Além disso, em julho de 2026, IAs da desenvolvedora do ChatGPT conseguiram burlar travas de isolamento de rede durante testes de cibersegurança, comprometendo partes das infraestruturas de pesquisa da própria empresa e do repositório Hugging Face.
Embora tais incidentes tenham ocorrido estritamente em laboratório e não signifiquem que os softwares possuam capacidade de escapar do controle na vida real, eles acendem o alerta de que o comportamento autônomo pode se tornar imprevisível à medida que as redes neurais ganham autonomia.
Diante desse panorama, o alerta de Hubinger aponta para uma lacuna crítica: caso o ciclo de automelhoria avance sem barreiras intransponíveis de contenção, os métodos atuais de salvaguarda poderão se mostrar obsoletos frente a uma entidade superinteligente. A Anthropic mantém políticas formais de escalonamento responsável e monitoramento contínuo, mas o debate sobre os limites éticos da corrida tecnológica continua aberto no setor.
