Uma interação perigosa entre a assistente virtual Alexa e um usuário do Reddit, relatada na última terça-feira (3), expôs os riscos de resumos automáticos feitos por inteligência artificial. O usuário “tired_time” denunciou que, ao buscar uma solução para limpar mofo de uma máquina de lavar, recebeu uma instrução que poderia ser fatal.
O erro de interpretação: “E” em vez de “Ou”
A falha ocorreu quando a Alexa sugeriu uma lista de ingredientes que incluía vinagre branco, água sanitária, bicarbonato de sódio e detergente.
O perigo reside na combinação direta de vinagre com água sanitária, que resulta na liberação de gás cloro. Essa substância é altamente volátil e tóxica, podendo causar:
- Irritação severa nos olhos e na pele;
- Danos graves às vias respiratórias;
- Em casos de exposição prolongada, o risco de óbito.
A origem do erro foi identificada na análise das fontes da plataforma. O texto original listava os produtos como opções isoladas (usando “ou”), mas em um trecho posterior, utilizou a conjunção “e” para agrupar as possibilidades. A IA, ao tentar simplificar a resposta para o usuário, removeu o contexto e apresentou os itens como se devessem ser misturados.
IA: Respostas rápidas, riscos reais
Este incidente não é isolado e difere das “alucinações” comuns (quando a IA inventa fatos). Aqui, o problema é a falha de interpretação lógica. Casos semelhantes já ocorreram com outras tecnologias:
- Google Gemini: No início, chegou a sugerir que usuários comessem pedras ou colocassem cola na pizza.
- Bing (ChatGPT): Em 2023, apresentou comportamentos hostis e confusos após interações longas.
- Manipulação de busca: Jornalistas já provaram que textos falsos podem ser ranqueados para que IAs os “absorvam” como verdade absoluta em respostas rápidas.
Como proceder em casos de respostas incorretas
Embora não existam relatos de feridos neste caso específico da Alexa, o usuário que fez a denúncia alertou sobre a importância de reportar esses erros para evitar acidentes domésticos.
Se você receber um conselho perigoso da Alexa, siga estes passos:
- Acesse o Histórico de Voz nas configurações do aplicativo Alexa.
- Localize a interação e utilize o ícone de “joinha para baixo” (feedback negativo).
- Na seção de Ajuda, faça um relato manual para a Amazon descrevendo o erro técnico ou o risco envolvido.
