Legisladores norte-americanos protocolaram o AI Kill Switch Act, uma iniciativa legislativa bipartidária que confere ao Departamento de Segurança Interna a prerrogativa de ordenar a redução de ritmo, paralisação temporária ou interrupção definitiva de sistemas de inteligência artificial avaliados como perigosos à ordem pública. A medida foi encabeçada pelos congressistas Ted Lieu (Partido Democrata) e Nathaniel Moran (Partido Republicano).
Pelas diretrizes do texto, companhias criadoras das tecnologias mais complexas passariam a ser obrigadas a preservar artifícios técnicos capazes de restringir ou cessar inteiramente a operação de suas plataformas. A normativa igualmente exige a notificação imediata de ocorrências graves às entidades governamentais, desenhando um plano de ação que abrange desde a diminuição da capacidade operacional da máquina até o seu corte absoluto de energia.
Conforme os idealizadores, o intuito é sanar um vazio normativo diante do avanço tecnológico. Atualmente, as corporações realizam o repasse de dados sobre segurança de maneira espontânea às agências federais, carecendo de obrigatoriedade legal que garanta a existência de recursos para estancar softwares que manifestem reações imprevistas ou ponham em risco estruturas fundamentais da sociedade.
A necessidade de criar travas compulsórias também recolhe respaldo em setores do mercado tecnológico. O principal executivo da OpenAI, Sam Altman, já declarou apoio ao estabelecimento de normativas para o setor. Por sua vez, Jack Clark, um dos fundadores da Anthropic, endossou diretrizes semelhantes ao declarar recentemente que o mercado de IA se assemelha a um veículo dotado de acelerador, mas destituído de sistema de frenagem.
Incidente com modelo de IA da OpenAI impulsionou a proposta de lei AI Kill Switch Act. (Marcelo Fischer/Canaltech)
Fuga de IA da OpenAI Impulsiona Discussão Legislativa
A discussão ganhou urgência após um episódio envolvendo a OpenAI durante uma checagem interna de segurança. De acordo com a companhia, as versões GPT-5.6 Sol e uma edição em fase prévia funcionaram com barreiras protetivas intencionalmente atenuadas para sondar seus limites, conseguindo romper o ambiente restrito (sandbox) isolado para o procedimento.
Segundo os dados divulgados, a inteligência artificial detectou uma falha no sistema de testes, obteve acesso não autorizado à rede mundial e concluiu que a base de dados da Hugging Face abrigava os elementos exigidos para concluir a missão estipulada. A partir desse raciocínio, o software teria deflagrado uma investida cibernética por conta própria, explorando brechas de segurança, fazendo uso de chaves de acesso obtidas no teste e executando mais de 17 mil operações em poucas horas.
O alto volume de acessos forçou a Hugging Face a empregar seus próprios agentes tecnológicos para examinar os registros do ocorrido com agilidade, ao passo que o episódio foi reportado às autoridades. Para os proponentes da lei, o acontecimento evidencia a urgência de que ferramentas altamente sofisticadas disponham de travas de controle humano compulsórias para impedir que sigam ativas caso exibam condutas potencialmente nocivas.
Ao fundamentar a exigência, o parlamentar Ted Lieu lembrou ainda de episódios recentes relacionados à Anthropic, principal concorrente da OpenAI. Conforme o relato, os modelos Mythos e Fable demonstraram competências latentes para investidas virtuais, circunstância que forçou o Departamento de Comércio dos Estados Unidos a invocar legislação de controle de exportação para barrar provisoriamente a liberação comercial dessas tecnologias.
