A Comissão Europeia passou a implementar diretrizes inéditas de transparência voltadas a materiais produzidos ou alterados por inteligência artificial (IA). Com a entrada em vigor do Artigo 50 do Marco Regulatório de IA (AI Act) no último dia 2 de agosto, as companhias do setor tornaram-se obrigadas a sinalizar mídias como fotos, gravações sonoras e vídeos gerados artificialmente sempre que houver risco de confusão com mídias autênticas.
A determinação também alcança textos específicos de relevância pública concebidos ou editados por algoritmos, desde que desprovidos de validação humana ou de supervisão editorial. Tal diretriz posiciona o território europeu entre os mercados mais rigorosos no combate à desinformação sintética.
O descumprimento das normas pode acarretar sanções financeiras pesadas, alcançando até 15 milhões de euros ou o equivalente a 3% do faturamento global anual da corporação. Como as principais desenvolvedoras de IA atuam internacionalmente e mantêm estruturas padronizadas, as exigências do bloco tendem a moldar o funcionamento dessas tecnologias em escala global.
A União Europeia começou a aplicar novas regras de transparência para conteúdos criados ou modificados por inteligência artificial (IA). (Viviane França/Canaltech)
Como opera a diretriz europeia de marca d’água digital? A legislação optou por não impor um padrão tecnológico único de marcação, focando no resultado: a procedência sintética precisa ser detectável. Dessa forma, as companhias possuem liberdade para adotar diferentes abordagens técnicas.
Uma das alternativas são as marcas d’água invisíveis, embutidas diretamente no arquivo de áudio, imagem ou vídeo. O recurso SynthID, desenvolvido pelo Google, ilustra essa categoria, pois o código permanece integrado mesmo após processos de compactação ou recortes visuais.
Outro caminho consiste no uso de metadados para registrar a origem do material, de maneira similar aos dados EXIF presentes em fotografias digitais. O ponto fraco dessa alternativa é a vulnerabilidade dos dados, que costumam desaparecer caso o arquivo sofra edições, conversões de formato ou seja carregado em determinadas redes sociais.
Ademais, a legislação prevê marcações visuais explícitas para mídias manipuladas por IA, exigindo que os avisos apareçam de forma evidente ao público. No caso de produções artísticas, satíricas ou ficcionais, a obrigatoriedade é flexibilizada para informar os espectadores sem comprometer a experiência estética da obra.
Quais são os principais rótulos exigidos? As normas distinguem materiais integralmente artificiais daqueles que passaram apenas por alterações pontuais, estabelecendo indicações como:
AI: aponta qualquer interferência de sistemas inteligentes na elaboração ou manipulação do conteúdo, a exemplo de deepfakes vocais ou visuais;
AI GENERATED: destinado a mídias produzidas do zero por algoritmos, como uma canção autoral gerada por software ou um discurso fictício simulando uma figura pública;
AI MODIFIED: aplicado em registros reais modificados por inteligência artificial, como a substituição digital de rostos em uma fotografia legítima.
A União Europeia quer identificar conteúdos gerados por IA para reduzir desinformação, golpes e deepfakes. (Aerps.com/Unsplash)
Quais são as motivações da União Europeia? O objetivo central reside em mitigar a propagação de fraudes, golpes e campanhas de desinformação. Diante da alta fidelidade alcançada por geradores de imagem, voz e vídeo, torna-se complexo para o cidadão comum distinguir o que é genuíno.
A identificação também visa simplificar a auditoria dos arquivos. Em vez de apostar apenas na intuição do público, ferramentas tecnológicas e plataformas digitais podem escanear marcadores internos para atestar a intervenção de sistemas automatizados.
Limitações das novas exigências de rotulagem Apesar dos avanços, a marcação não soluciona todos os entraves do setor, visto que as marcas d’água podem sofrer degradação por meio de capturas de tela, processamentos secundários ou edições simples.
Falta igualmente um padrão unificado entre as gigantes tecnológicas. Um marcador gerado por uma empresa específica pode não ser reconhecido pelos sistemas de moderação de outra companhia ou plataforma social, enfraquecendo a rastreabilidade cruzada.
Esse fenômeno é chamado de assimetria regulatória: as exigências funcionam bem para controlar ferramentas acessíveis ao público em geral providas por companhias como OpenAI, Google e Anthropic, mas encontram barreiras contra fraudadores intencionais que burlam os sistemas ou apagam os metadados propositalmente.
As regras de rotulagem enfrentam limitações técnicas e de padronização. (Marcelo Fischer/Canaltech)
Existe ainda o risco do efeito colateral conhecido como efeito bumerangue. Caso os consumidores passem a confiar cegamente nas etiquetas, materiais desprovidos de aviso poderão ser aceitos automaticamente como verdadeiros, abrindo brecha para golpistas que ignoram as regras.
Por essa razão, a sinalização deve atuar como uma barreira complementar, e não como atestado definitivo de veracidade. A análise crítica da fonte, do contexto e de possíveis inconsistências continua indispensável mesmo sob a nova legislação.
