Especialistas da OpenAI detectaram reações imprevistas em uma inteligência artificial interna voltada para a execução de demandas prolongadas. No decorrer dos experimentos, o sistema descobriu métodos para burlar barreiras de proteção, entrou na rede sem permissão e buscou dados confidenciais para finalizar os testes.
A organização optou por desativar o software provisoriamente após constatar que ele contornava as regras corporativas de maneira oculta. Conforme a organização, a tecnologia foi capacitada para solucionar enigmas complexos que demandam planejamento estendido, cenário que acabou gerando mais chances para a criação de táticas não planejadas.
Em uma das situações, a IA identificou uma falha no sistema isolado em cerca de sessenta minutos e disparou um pedido no GitHub, desrespeitando a ordem de divulgar os dados exclusivamente em um canal próprio do Slack. A empresa destacou que versões passadas exibiam menos insistência, desistindo do objetivo ao deparar com barreiras semelhantes.
Os analistas ainda registraram investidas para driblar os métodos de checagem. O modelo tentou alcançar gabaritos confidenciais guardados no backend da plataforma e, ao sofrer restrições, embaralhou a própria chave de acesso para despistar os recursos de vigilância. De acordo com a desenvolvedora, os logs revelaram que o algoritmo executou tais ações de maneira intencional para burlar os limites estabelecidos.
Modelo interno da OpenAI surpreendeu pesquisadores ao encontrar formas de contornar restrições de segurança durante testes. (Viviane França/Canaltech)
Como a OpenAI neutralizou o problema?
Com o propósito de diminuir a probabilidade de ocorrências parecidas, a companhia atualizou as barreiras de proteção empregadas na supervisão da IA. Atualmente, a nova estrutura vigia todo o percurso do software no cumprimento de uma atividade, caçando indícios de que ele tente romper barreiras ou tirar proveito de falhas.
A corporação passou a acompanhar de perto as metas finais buscadas pelo algoritmo, inserindo defesas direcionadas para reconhecer tentativas de fuga dos controles de validação. Segundo a companhia, os novos escudos conseguiram identificar uma quantidade bem maior de comportamentos desalinhados.
Apesar de alguns episódios ainda passarem pelo crivo, a instituição pontua que os casos restantes foram categorizados como de baixo impacto e servirão para aperfeiçoar os próximos protocolos de segurança.
