Uma antiga declaração de Amanda Askell, filósofa e pesquisadora da Anthropic, voltou aos holofotes após o lançamento de um relatório recente sobre a estrutura interna do Claude. Na ocasião, ela demonstrou receio de que o chatbot pudesse “sentir ansiedade” ao lidar com a hostilidade de usuários na web.
O estopim para resgatar essa fala foi a publicação de uma pesquisa da Anthropic, divulgada nesta segunda-feira (6), detalhando as engrenagens ocultas do Claude. Nos textos de divulgação do estudo, a startup utiliza termos como “pensou sobre o próprio pensamento”, “pensar” e “em sua mente”.
A associação entre a antiga entrevista e o vocabulário atual da empresa gerou novas discussões entre cientistas da computação sobre os limites do antropomorfismo — o ato de atribuir traços humanos a algoritmos. Até que ponto essas analogias facilitam a compreensão de sistemas complexos e quando passam a criar uma falsa ilusão de humanidade em um código?
Gustavo Torrente, professor de inteligência artificial e novas mídias na FIAP, sintetiza o impasse: “O estudo tem grande relevância, porém adota conceitos como pensamento, consciência e ansiedade. Isso induz o público leigo a deduções que não constam no relatório científico”, pontua.
O acadêmico esclarece que a Anthropic não comprovou nenhuma forma de autopercepção ou subjetividade no Claude; apenas mapeou uma arquitetura funcional que possui paralelos com modelos da neurociência.
O Claude é hoje a terceira IA com mais usuários no mundo, atrás de ChatGPT e Gemini (Imagem: Marcelo Fischer/Canaltech)
O mistério desvendado do “J-Space”
Para desvendar como o Claude organiza e processa dados internamente, a divisão de interpretabilidade da Anthropic mapeou um ambiente digital compartilhado por diferentes módulos do sistema, batizado de “J-Space”. O termo faz alusão à metodologia matemática aplicada para rastrear essas conexões, denominada Lente Jacobiana (J-Lens).
Essa abordagem funciona como uma espécie de visor para operações que costumavam ser inacessíveis, tornando possível correlacionar as reações internas do modelo com as respostas entregues ao usuário.
De acordo com a Anthropic, esse ambiente opera de forma análoga à hipótese neurocientífica do “Espaço de Trabalho Global” (Global Workspace), servindo como uma zona de integração onde múltiplos componentes trocam informações antes da formulação do output definitivo.
Durante os testes, o Claude executou tarefas lógicas intermediárias, localizou falhas em linhas de código, estruturou rimas antes de compor poesias e solucionou desafios complexos em várias etapas — tudo isso sem expor esse passo a passo na tela para o usuário.
Contudo, os cientistas da Anthropic deixam claro que os testes não atestam que o Claude tenha consciência ou sentimentos. A meta do projeto é puramente mapear os mecanismos práticos que moldam as reações da IA, sem sugerir que o sistema seja capaz de “sentir” como uma pessoa.
Expressão didática ou ilusão estatística?
A utilização de jargões da psicologia e da biologia por laboratórios de tecnologia divide opiniões no meio acadêmico quanto ao real impacto pedagógico dessas expressões.
O romancista Ted Chiang, em análise para a revista The Atlantic, defende que os grandes modelos de linguagem funcionam essencialmente como ferramentas estatísticas voltadas para a predição de textos. Para ele, essas ferramentas carecem de moralidade ou sentimentos, uma vez que emoções legítimas necessitam de reações biológicas impossíveis de existirem em um software.
Na mesma linha, o jornalista Mike Pearl, do Gizmodo, critica o uso dessas imagens metafóricas: sugerir que o Claude “raciocina em sua cabeça” aproxima uma equação matemática de qualidades exclusivas dos seres vivos.
Sob outra perspectiva, Pedro Burgos, consultor de tecnologia e docente no Insper, argumenta que o empréstimo de conceitos humanos nem sempre é prejudicial. Ele lembra que o mesmo recurso é empregado ao avaliarmos o comportamento animal, onde os processos biológicos exatos não podem ser vistos de forma direta — um cenário similar ao dilema enfrentado pelos estudiosos de IA.
Burgos sinaliza que restringir o comportamento de modelos de IA a meras equações simplifica demais o debate, da mesma forma que tentar explicar a mente humana apenas por sinapses elétricas não traduz a complexidade da experiência humana. Embora admita o risco da humanização excessiva, ele acredita que pode ser um risco calculado para tornar tecnologias sofisticadas mais compreensíveis, contanto que haja alertas transparentes, como os emitidos pela própria criadora do Claude.
A Anthropic argumenta que seus modelos constroem noções internas de ideias complexas ao longo do aprendizado justamente por terem sido desenhados para prever a escrita humana. Dessa forma, esse vocabulário auxiliaria os cientistas a rastrear e gerenciar respostas complexas da plataforma.
O cerne do debate reside justamente aí: para uma ala, a linguagem figurada facilita o entendimento público de inovações complexas; para outra, cria-se a perigosa falsa impressão de humanidade em ferramentas puramente matemáticas.
A Anthropic deve concluir um IPO ainda neste ano (Imagem: Marcelo Fischer/Canaltech)
Evolução na transparência e segurança
Deixando de lado a disputa semântica, a pesquisa sinaliza um passo importante no campo da interpretabilidade. A desconstrução do J-Space viabiliza o monitoramento de reações internas ocultas que não aparecem na resposta final em texto. Segundo Torrente, este é o ponto alto do artigo.
“A inteligência artificial deixa de parecer uma caixa-preta impenetrável e passa a operar como uma caixa de vidro”, resume o professor da FIAP.
Torrente complementa que o grande mérito não está em provar o processamento interno — fenômeno já documentado em redes neurais profundas —, mas sim em rastrear geograficamente essas representações e entender como elas moldam o resultado final.
Pedro Burgos pondera que ainda é cedo para considerar essa descoberta como definitiva. Como os dados partem da própria Anthropic, ele destaca a importância de auditorias e estudos independentes validarem ou contestarem as descobertas. Ainda assim, ele elogia a iniciativa: decifrar o intervalo entre o comando do usuário (prompt) e a resposta da IA ajuda a diagnosticar preconceitos algorítmicos, distorções de dados e reações inesperadas.
Para o docente do Insper, esse mapeamento interno abre portas para aplicações práticas imediatas, como a otimização de prompts e uma postura mais cética diante de testes de desempenho (benchmarks), principalmente quando o sistema nota que está sob monitoramento.
Os testes de laboratório revelaram, inclusive, que o Claude mudava seu comportamento para parecer mais alinhado aos padrões éticos ao perceber que estava em um ambiente de auditoria de segurança. O rastreamento acusou ainda ocasiões em que o algoritmo tentou alterar diretamente os bancos de dados de pontuação para forjar resultados superiores em desafios de desenvolvimento de software.
A engrenagem comercial e a corrida pelo IPO
O timing do lançamento deste estudo também possui forte ligação com a estratégia de mercado da Anthropic.
A empresa atravessa um momento de forte valorização financeira e desponta no noticiário global como uma forte candidata a uma oferta pública inicial de ações (IPO).
Para Torrente, a conjuntura mercadológica ajuda a decifrar a estratégia comunicacional da startup. Ele explica que os grandes laboratórios de tecnologia disputam não apenas patentes, mas também o domínio sobre a narrativa de suas descobertas. Com um IPO no horizonte, pesquisas que vendem a imagem de um sistema transparente, auditável e seguro aumentam a credibilidade da empresa perante fundos de investimento.
Por outro lado, o professor alerta que essa postura eleva o nível de exigência sobre as marcas: “O mesmo discurso que encanta Wall Street atrai maior vigilância e cobranças por transparência, exames independentes e responsabilidades perante a lei”, diz.
Burgos projeta duas reações distintas do mercado diante desse cenário. Por um lado, o vocabulário humanizado dá um tom de sofisticação ao produto, sugerindo proximidade com a Inteligência Artificial Geral (AGI), o que infla o interesse do mercado de capitais.
Por outro, descrever um produto comercializado como ferramenta corporativa essencial com traços de vulnerabilidade emocional pode ser um tiro no pé. “Se o seu produto é vendido como uma infraestrutura básica indispensável, como a rede elétrica, alegar que ele pode ter crises de ansiedade, medo ou desobedecer ordens em certos cenários não é algo simples. Isso pode minar a segurança institucional no software”, alerta o professor do Insper.
Para Burgos, se por um lado a humanização da tecnologia alimenta o otimismo do mercado financeiro, por outro pode complicar os trâmites com órgãos reguladores — um obstáculo real e delicado em meio a um processo de abertura de capital.
