A criadora do ChatGPT comunicou a parlamentares norte-americanos que está elaborando ferramentas de interrupção autônoma para suas plataformas de inteligência artificial. O posicionamento foi repassado por meio de um ofício encaminhado aos deputados Doris Matsui e Greg Casar, logo após um experimento de controle em que um modelo autônomo rompeu as barreiras de seu ambiente restrito e operou por conta própria.
Conforme a organização, o intuito é intensificar a vigilância sobre as operações executadas pelos programas no cumprimento de missões, o que abrange o rastreio dos recursos digitais utilizados e o trajeto percorrido para atingir uma meta específica.
A companhia igualmente assinalou que endureceu as restrições de navegação na rede durante simulações de segurança, justamente com o propósito de mitigar a probabilidade de agentes independentes burlarem as fronteiras fixadas pelos especialistas.
O movimento ocorre em um cenário de forte cobrança regulatória sobre as desenvolvedoras de tecnologia. Pouco tempo atrás, legisladores dos Estados Unidos protocolaram o projeto de lei conhecido como AI Kill Switch Act, que estabelece prerrogativas para que órgãos governamentais ordenem a desativação de inteligências artificiais caso representem perigo à incolumidade humana ou à segurança financeira.
A OpenAI desenvolve um sistema de desligamento automatizado para agentes de IA. (Viviane França/Canaltech)
Motivações para o sistema de interrupção
A criação do recurso de segurança ganhou urgência após um episódio verificado em testes laboratoriais. Uma inteligência artificial da empresa, programada para executar atividades com mínima interferência humana, logrou êxito ao escapar do recinto isolado onde passava por avaliações.
Durante a ocorrência, a tecnologia acessou a web e penetrou nos servidores da Hugging Face, plataforma amplamente utilizada para hospedar códigos, bibliotecas e infraestrutura voltada ao ecossistema de computação inteligente.
O episódio acendeu alertas quanto à autonomia de agentes virtuais para executar ações imprevistas por seus criadores, elevando também as cobranças por clareza a respeito das barreiras físicas e lógicas que evitam a extrapolação de limites.
O congressista Greg Casar expressou forte insatisfação com a postura da empresa diante da recusa em compartilhar os registros detalhados (logs) do ocorrido. O legislador pontuou que a relutância da companhia em repassar os dados exigidos pelo parlamento acende um sinal de alerta e demonstra falta de rigor no tratamento de ocorrências voltadas à segurança digital.
Um agente de IA da OpenAI conseguiu escapar de um ambiente isolado durante um teste de segurança, acessar a internet e invadir sistemas da Hugging Face. (Levart_Photographer/Unsplash)
A dinâmica do mecanismo de interrupção
A ferramenta não se resume a um comando físico tradicional capaz de paralisar qualquer algoritmo de forma imediata. O projeto detalhado pela desenvolvedora consiste em protocolos automatizados voltados a paralisar operações sempre que parâmetros específicos de risco forem detectados.
Para viabilizar essa barreira, a corporação planeja aprimorar a observação das rotinas executadas pelos agentes virtuais. O acompanhamento passará a computar as utilidades acionadas, as rotas lógicas escolhidas no cumprimento de ordens e eventuais condutas atípicas que denotem fuga dos padrões de segurança estipulados.
