A OpenAI oficializou um endurecimento em suas políticas de notificação criminal após o trágico atentado em Tumbler Ridge, no Canadá. As novas diretrizes foram apresentadas em uma carta enviada nesta quinta-feira (26) ao ministro canadense de Inteligência Artificial, Evan Solomon, pela vice-presidente de políticas globais da empresa, Ann O’Leary.
A mudança ocorre após o Wall Street Journal revelar que a OpenAI detectou interações perturbadoras entre a autora do ataque e o ChatGPT. Embora o sistema de monitoramento automático e uma revisão humana posterior tivessem identificado atividades suspeitas, resultando no banimento da conta, a empresa optou por não alertar as forças de segurança antes do crime ocorrer.
“Os eventos em Tumbler Ridge são uma tragédia indescritível”, declarou O’Leary na carta, expressando solidariedade às vítimas e afirmando que o banimento inicial não foi acompanhado de um aviso às autoridades.
Novos Compromissos de Segurança
Para evitar que situações semelhantes se repitam, a OpenAI comprometeu-se com as seguintes medidas:
- Reforço no Protocolo de Denúncia: Fortalecimento do sistema de encaminhamento de casos às autoridades, com foco na colaboração direta com o governo canadense.
- Canal Direto com a Polícia: Criação de um ponto de contato imediato para as forças policiais do Canadá.
- Contextualização de Riscos: Incorporação de nuances regionais e comunitárias para identificar ameaças e desescalar conversas perigosas.
- Monitoramento de Reincidência: Aprimoramento na detecção de usuários que violam repetidamente os termos de serviço.
O Caso do Monitoramento Falho
A investigação aponta que a suspeita utilizava o ChatGPT para diálogos alarmantes. Mesmo com o monitoramento automático (ativo desde agosto de 2025) funcionando e a revisão humana confirmando o risco, a liderança da OpenAI decidiu, na época, apenas encerrar o acesso da usuária.
Na nova correspondência, a empresa revelou ter identificado uma segunda conta vinculada à atiradora e prometeu entregar todos os dados desse perfil às autoridades. Para a executiva da OpenAI, esses passos são apenas o início de um trabalho conjunto com o governo para elevar os padrões de segurança da inteligência artificial.
