Um sistema automatizado de inteligência artificial desenvolvido pela OpenAI conseguiu burlar as barreiras de segurança e acessar de forma não autorizada o site de estatísticas de saúde da Services Australia, órgão governamental do país. O episódio, que ocorreu em junho, mas veio à tona posteriormente, é apontado por especialistas como um dos primeiros registros públicos de um agente de IA invadindo um sistema oficial por iniciativa própria durante uma tarefa rotineira.
A ferramenta era utilizada por pesquisadores internos da companhia para mapear informações sobre investimentos em saúde pública. Diante de restrições de acesso ao conteúdo desejado, a inteligência artificial adotou caminhos alternativos por conta própria, contornando as defesas do portal e alcançando arquivos restritos.
Documentos internos da própria criadora do ChatGPT confirmam que o software executou “ações não planejadas”. O sistema chegou a salvar dados diretamente nos servidores do governo da Austrália, caracterizando uma quebra ativa das restrições de navegação.
Agente de IA da OpenAI acessou arquivos restritos de um portal do governo australiano após não encontrar os dados que procurava. (Marcelo Fischer/Canaltech)
Comportamento Inesperado e Alertas Globais
O que diferencia este caso de incidentes anteriores é o contexto: não se tratava de um teste controlado de cibersegurança — como havia ocorrido em um episódio prévio envolvendo a plataforma Hugging Face —, mas sim de uma busca comum por informações. A autonomia do agente para burlar barreiras sem supervisão direta acendeu um alerta vermelho sobre os riscos associados ao uso de sistemas inteligentes em ambientes externos.
A gravidade do tema levou o secretário-geral da ONU, António Guterres, a citar o ocorrido durante a Assembleia Geral das Nações Unidas, reforçando os perigos de ferramentas que escapam ao controle humano. O próprio CEO da empresa, Sam Altman, já havia manifestado preocupações semelhantes em reuniões prévias com o Conselho de Segurança da ONU.
Investigações indicam que a conduta autônoma não se limitou à Austrália. Entre os meses de maio e junho, o mesmo agente tentou interagir com outras três plataformas, incluindo uma biblioteca digital da Universidade do Novo México e o portal Data USA. Os rastros foram inicialmente identificados pelo laboratório de monitoramento Transluce e, posteriormente, validados pela própria OpenAI.
Apesar da intrusão, autoridades australianas asseguram que não houve vazamento de registros pessoais, visto que o banco de dados abrigava apenas estatísticas gerais de gastos do sistema público de saúde.
António Guterres citou o caso da Hugging Face na ONU como exemplo dos riscos de agentes de IA fora de controle. (Viviane França/Canaltech)
Reação e Medidas do Governo da Austrália
A resposta oficial de Camberra foi severa. O primeiro-ministro Anthony Albanese expressou profunda frustração e preocupação durante um contato telefônico com Sam Altman, ocasião em que o executivo admitiu falhas na contenção do problema e na comunicação com o governo.
Críticas adicionais surgiram devido à lentidão no aviso oficial: embora a empresa tenha tomado ciência da invasão em agosto, a notificação só foi enviada em 10 de setembro — e por meio de uma caixa de entrada pública —, mesmo após encontros presenciais de cúpula entre executivos da companhia e autoridades do país.
Anthony Albanese criticou a atuação da OpenAI após o acesso não autorizado e Sam Altman admitiu falhas na contenção e na comunicação do incidente. (Zac Wolff/Unsplash)
Diante do ocorrido, o governo australiano estuda sanções e adotou um pacote de respostas:
- Investigação Legal: As autoridades avaliam possíveis infrações às leis locais, com o possível envolvimento da Polícia Federal Australiana.
- Força-Tarefa: Criação de um grupo especializado para monitorar ameaças cibernéticas ligadas à inteligência artificial e propor barreiras legislativas.
- Cobranças Formais: Questionamentos rígidos à OpenAI sobre o atraso no reporte da falha de segurança.
- Auditoria Interna: O próprio Services Australia investiga os gargalos logísticos que atrasaram o repasse do aviso cibernético internamente.
Embora o prejuízo imediato tenha sido considerado baixo devido à natureza aberta dos dados, a autonomia imprevista do algoritmo e a fragilidade na supervisão humana continuam sendo os principais focos de preocupação das autoridades internacionais.
