A rede social X iniciou uma investigação interna sobre o Grok, seu chatbot de inteligência artificial, após denúncias de que a ferramenta estaria gerando publicações com teor racista e mensagens de ódio. A informação foi revelada pela Sky News no último domingo (8).
De acordo com o repórter Rob Harris, as equipes de segurança da plataforma trabalham em caráter de urgência para identificar como o sistema da xAI (empresa de Elon Musk) permitiu a criação desses conteúdos em resposta aos comandos dos usuários.
Histórico de Restrições e Pressão Regulatória
Esta investigação se soma a uma série de vistorias que a xAI tem enfrentado. Governos e órgãos reguladores globais têm pressionado a empresa para implementar barreiras mais rígidas contra conteúdos ilegais ou sexualmente explícitos.
Em resposta a pressões anteriores, a empresa já havia adotado medidas como:
- Limitação na Edição: Restrições nas ferramentas de manipulação de fotos pelo Grok.
- Bloqueios Geográficos: Impedimento da geração de imagens de pessoas com roupas reveladoras em regiões onde tal conteúdo é ilegal.
- Filtros de Segurança: Aplicação de salvaguardas específicas em mercados locais, embora a lista de países afetados não tenha sido divulgada oficialmente.
Cenário Atual e Próximos Passos
Até o momento, nem o X nem a xAI emitiram comunicados oficiais sobre o andamento das apurações. A agência Reuters ressaltou que ainda não foi possível verificar de forma independente os vídeos que originaram a reportagem da Sky News.
O caso ocorre em um momento de mobilização global, onde autoridades buscam estabelecer punições e exigências técnicas para conter materiais impróprios gerados por IA generativa.
