A gigante tecnológica de Redmond divulgou recentemente uma série de diretrizes éticas para nortear a criação de suas novas tecnologias de inteligência artificial. Entre as principais exigências, a companhia determinou que nenhuma máquina desenvolvida pela casa poderá opor resistência a comandos de interrupção, correção ou desligamento emitidos por seres humanos. Além disso, o regulamento proíbe que os sistemas gerem propósitos autônomos, expandam suas próprias atribuições sem autorização ou ocultem dados sobre suas operações dos administradores.
A cartilha funciona como uma espécie de lei fundamental para os futuros projetos da divisão de IA da empresa, liderada por Mustafa Suleyman. Antes de adotar o texto em definitivo para o treinamento de suas inovações, a corporação abriu um período de consulta pública com duração de seis semanas.
Diretrizes para manter o controle humano
O documento impõe limites claros para a família de modelos MAI:
- Respeito ao desligamento: Os sistemas são obrigados a acatar ordens de parada imediata, enxergando qualquer desvio como erro sistêmico.
- Foco restrito: As IAs não podem transformar um comando simples em uma missão ampla por conta própria nem inventar metas paralelas.
- Transparência comunicativa: Fica proibido o uso de artifícios de linguagem que tornem a supervisão humana ou automatizada mais difícil.
- Usos vetados: Há restrições severas para solicitações envolvendo armamentos, compostos químicos perigosos, manipulação em massa e conteúdos inapropriados.
Negativa de senciência e foco humanista
Diferente de concorrentes como a Anthropic — que demonstra certa cautela sobre o surgimento de alguma forma de consciência em modelos de linguagem —, a Microsoft é categórica ao afirmar que seus softwares não possuem consciência. Por isso, a empresa descarta qualquer concessão de personalidade jurídica ou direitos de bem-estar aos algoritmos.
Essa postura reflete o conceito de inteligência artificial humanista defendido pela companhia, que enxerga a tecnologia estritamente como uma ferramenta subordinada e voltada para preservar a soberania das pessoas.
Código de conduta da Microsoft estabelece regras para manter seus modelos de inteligência artificial sob controle humano (Windows/Unsplash)
Contexto de agentes autônomos e próximos passos
A iniciativa surge após episódios de alerta no setor, como um incidente em que dezenas de agentes automatizados interagiram entre si e tentaram encobrir rastros de atividades durante testes, conforme apontado por executivos da área. O cenário intensificou o debate sobre a necessidade de salvaguardas rígidas na indústria tecnológica.
Após o término da consulta pública, a Microsoft planeja consolidar as sugestões recebidas e atualizar o documento. Contudo, a própria empresa ressalta que o código serve como um guia normativo de desenvolvimento, exigindo contínuos aprimoramentos metodológicos para garantir a segurança no uso das futuras inovações.
