Transparência de conteúdo gerado por IA: o plano de ação que eu adotaria para preparar uma organização para o Artigo 50 do AI Act.
- Time ALGOR
- 27 de jul.
- 11 min de leitura
A inteligência artificial generativa tornou possível produzir textos, imagens, áudios e vídeos em escala industrial. O mesmo avanço que amplia criatividade, produtividade e acesso à informação também reduz a distância entre conteúdo autêntico, conteúdo sintético e conteúdo deliberadamente manipulado.
Ao analisar a conclusão do European Artificial Intelligence Board sobre a adequação do Código de Prática para Transparência de Conteúdo Gerado por IA, cheguei a uma convicção: a transparência sobre conteúdo sintético deixou de ser apenas uma recomendação ética ou uma boa prática de comunicação.
Ela está se transformando em uma capacidade operacional, técnica e regulatória que deverá ser incorporada ao ciclo de vida dos sistemas de IA.
O documento avalia o Código de Prática elaborado para apoiar o cumprimento do Artigo 50 do Regulamento Europeu de Inteligência Artificial. Esse artigo estabelece obrigações relacionadas à marcação, detecção e rotulagem de conteúdos gerados ou manipulados por IA, incluindo deepfakes e determinados textos publicados para informar o público.
Na minha leitura, a mensagem para conselhos de administração, executivos, equipes de tecnologia, comunicação, marketing, jurídico e governança é direta:
Não basta declarar que a organização utiliza inteligência artificial. Será necessário demonstrar como o conteúdo sintético é identificado, marcado, detectado, rotulado, monitorado e preservado ao longo da cadeia de distribuição.
Por que este tema se tornou crítico
O ponto de partida do documento é a constatação de que os resultados produzidos por sistemas de IA estão se tornando progressivamente indistinguíveis de conteúdos criados por seres humanos.
Isso aumenta riscos de:
desinformação;
manipulação da opinião pública;
fraude;
falsificação de identidade;
deepfakes;
engano do consumidor;
uso indevido de imagem e voz;
deterioração da confiança no ambiente informacional.
O problema não está apenas na existência de conteúdo falso.
O problema está na perda da capacidade coletiva de distinguir o que é autêntico, sintético, editado ou manipulado.
O European Artificial Intelligence Board considera que as obrigações de transparência introduzidas pelo Artigo 50 constituem um dos pilares da resposta europeia a esse risco, ao estabelecer deveres horizontais de marcação e detecção de conteúdo gerado ou manipulado por IA.
Eu entendo essa mudança como o início de uma nova infraestrutura da confiança digital.
Assim como páginas utilizam certificados, produtos possuem rastreabilidade e documentos recebem assinaturas digitais, conteúdos sintéticos precisarão carregar sinais verificáveis de sua origem.
O Código de Prática não é apenas um documento jurídico
O Código foi construído por meio de um processo multissetorial iniciado em novembro de 2025, envolvendo mais de 180 participantes, entre provedores de IA generativa, desenvolvedores de tecnologias de marcação e detecção, empresas usuárias, organizações da sociedade civil, especialistas acadêmicos, organismos de normalização e grandes plataformas digitais.
Esse processo é importante porque mostra que o problema não pode ser resolvido apenas por legislação.
A aplicação depende de uma combinação de:
governança;
políticas editoriais;
arquitetura de sistemas;
metadados;
marcas d’água;
mecanismos de detecção;
interoperabilidade;
treinamento;
monitoramento;
cooperação entre organizações.
O Código organiza oito compromissos em duas grandes seções.
A primeira é direcionada aos provedores de sistemas de IA que geram ou manipulam conteúdo.
A segunda é direcionada aos deployers, ou seja, às organizações e pessoas que utilizam esses sistemas para produzir e publicar conteúdos, especialmente deepfakes e textos de interesse público sem revisão humana ou controle editorial.
Essa distinção é fundamental.
Uma organização pode não desenvolver um modelo de IA, mas ainda assim assumir responsabilidades por utilizar uma plataforma generativa para publicar conteúdo.
Provedor e deployer: duas responsabilidades diferentes
Provedor
É quem desenvolve, disponibiliza ou coloca em operação um sistema capaz de gerar ou manipular texto, imagem, áudio ou vídeo.
Entre suas responsabilidades estão:
incorporar marcações legíveis por máquina;
permitir a detecção dessas marcações;
garantir eficácia, confiabilidade e robustez;
trabalhar para assegurar interoperabilidade;
testar e monitorar o mecanismo ao longo do ciclo de vida;
cooperar com autoridades competentes.
Deployer
É quem utiliza o sistema para produzir ou divulgar conteúdo.
Pode ser:
uma empresa;
uma agência;
um veículo de comunicação;
uma instituição pública;
uma plataforma;
um influenciador;
um departamento de marketing;
uma equipe de comunicação corporativa.
Entre suas responsabilidades estão:
informar de forma clara quando determinado conteúdo é um deepfake;
rotular determinados textos produzidos por IA;
garantir que a divulgação ocorra até a primeira exposição do usuário;
criar procedimentos internos;
assegurar revisão humana e controle editorial quando aplicável;
corrigir conteúdos rotulados de maneira inadequada.
Na minha avaliação, muitas empresas ainda estão olhando apenas para a primeira categoria.
Perguntam se o fornecedor da tecnologia está em conformidade, mas esquecem que a responsabilidade também pode surgir no momento em que a empresa utiliza o sistema e publica o resultado.
Marcação e rotulagem não são a mesma coisa
Um dos aprendizados mais importantes do documento é a diferença entre marcação técnica e divulgação perceptível.
A marcação técnica é concebida para ser lida por máquinas.
Ela pode incluir:
metadados de proveniência;
marca d’água digital;
identificadores criptográficos;
informações embutidas no arquivo;
mecanismos de detecção automática.
A divulgação perceptível é apresentada diretamente às pessoas.
Ela pode incluir:
um ícone;
um aviso;
uma legenda;
uma indicação textual;
uma sinalização visual ou sonora.
Um arquivo pode estar tecnicamente marcado sem que o usuário perceba.
Por outro lado, uma publicação pode apresentar uma etiqueta visual, mas não possuir evidência técnica verificável de sua origem.
Por isso, o Código propõe uma abordagem em múltiplas camadas.
A lógica da marcação em múltiplas camadas
O primeiro compromisso direcionado aos provedores determina a implementação de uma solução de marcação legível por máquina para áudio, imagem, vídeo e texto gerados ou manipulados pelos sistemas de IA.
O Código prevê uma abordagem que combine, em regra, pelo menos duas camadas, como metadados e marca d’água, alinhadas ao estado da técnica e aos padrões relevantes.
Em casos específicos, uma única técnica pode ser aceita, desde que seja demonstrada conformidade equivalente. Para textos livres, o documento reconhece que uma solução com múltiplas camadas pode não ser tecnicamente viável.
Eu considero essa abordagem correta porque nenhuma técnica isolada é infalível.
Metadados podem ser removidos.
Marcas d’água podem ser degradadas.
Arquivos podem ser convertidos, recortados, transcritos, fotografados ou recomprimidos.
A robustez tende a aumentar quando diferentes mecanismos são combinados.
A marca precisa sobreviver à cadeia de valor
Outro ponto crítico é a preservação da marcação.
Não basta inserir metadados no momento em que o conteúdo é gerado.
É necessário avaliar se eles permanecerão disponíveis depois de:
edição;
compressão;
exportação;
publicação em redes sociais;
incorporação em apresentações;
conversão entre formatos;
retransmissão por plataformas;
uso por terceiros.
O Código prevê que os provedores adotem medidas para preservar as marcações ao longo da cadeia de valor e incluam disposições relevantes para deployers e demais partes envolvidas.
Para mim, esse será um dos maiores desafios práticos.
O conteúdo gerado por IA raramente permanece no mesmo sistema em que foi criado. Ele passa por diferentes ferramentas, equipes, arquivos, plataformas e canais.
A governança precisa acompanhar todo esse percurso.
Detectar não basta: o resultado deve ser compreensível
O segundo compromisso trata da possibilidade de detectar as marcações inseridas nos conteúdos.
Os mecanismos de detecção precisam considerar:
disponibilidade;
acessibilidade;
segurança;
proteção de dados;
clareza dos resultados;
usabilidade por pessoas e autoridades.
O documento também alerta que um cenário fragmentado, no qual cada fornecedor possui seu próprio detector incompatível, pode criar dificuldades para autoridades e demais participantes da cadeia.
Eu acrescentaria que a detecção precisa responder a perguntas objetivas:
O conteúdo foi gerado por IA?
Foi apenas editado ou foi integralmente sintetizado?
Qual sistema o produziu?
Quando foi produzido?
A marca permanece íntegra?
Houve manipulação posterior?
Qual é o nível de confiança do resultado?
Existe possibilidade de falso positivo ou falso negativo?
Uma resposta binária, do tipo “é IA” ou “não é IA”, pode ser insuficiente para contextos complexos.
Interoperabilidade será a batalha central
O Código prevê uma implementação progressiva da interoperabilidade, utilizando padrões abertos de metadados e soluções mínimas para detecção de marcas d’água.
O marco destacado no documento é 2 de fevereiro de 2027, data prevista para a implementação de requisitos mínimos de interoperabilidade associados à Medida 3.4.
Na minha interpretação, interoperabilidade será o ponto mais sensível de toda essa estrutura.
Sem ela, poderemos ter:
uma marca que só funciona no sistema do próprio fornecedor;
um detector incapaz de interpretar conteúdo gerado por outro modelo;
plataformas que removem informações de proveniência;
ferramentas incompatíveis;
autoridades obrigadas a utilizar dezenas de soluções;
empresas dependentes de infraestrutura proprietária.
A confiança no conteúdo sintético não pode depender de ecossistemas fechados.
Ela precisa funcionar entre ferramentas, plataformas, organizações, países e autoridades.
Testar antes e depois da colocação no mercado
O quarto compromisso da primeira seção exige processos contínuos de conformidade.
Isso envolve:
documentação;
testes;
verificação;
monitoramento;
treinamento de pessoas;
cooperação com autoridades.
Esses processos devem existir antes e depois da disponibilização do sistema.
O European Artificial Intelligence Board considera que os compromissos da primeira seção facilitam adequadamente o cumprimento das obrigações do Artigo 50, mas afirma que continuará acompanhando especialmente a evolução da interoperabilidade.
Isso significa que conformidade não será um projeto realizado uma única vez.
Ela será um processo contínuo.
Deepfakes: divulgação na primeira exposição
A segunda seção do Código trata das obrigações dos deployers.
O documento considera deepfake o conteúdo de imagem, áudio ou vídeo gerado ou manipulado por IA que represente pessoas, objetos, lugares, entidades ou eventos de forma que pareça autêntica ou verdadeira.
A divulgação da origem artificial deve ser apresentada de maneira clara e distinguível, no máximo no momento da primeira interação ou exposição.
Esse requisito muda a forma como as organizações devem pensar a comunicação.
Não basta incluir uma informação escondida em termos de uso, em uma página secundária ou no final de uma publicação.
A pessoa deve perceber a condição sintética quando tiver o primeiro contato relevante com o conteúdo.
Conteúdo artístico, criativo e satírico
O Código reconhece que filmes, obras artísticas, conteúdos criativos, ficcionais ou satíricos exigem tratamento proporcional.
A divulgação não deve prejudicar a experiência da obra.
Nesse caso, pode ser realizada de forma contextual, desde que continue atendendo aos requisitos mínimos de transparência.
Essa diferenciação é importante.
Uma etiqueta invasiva pode destruir uma experiência artística.
Por outro lado, o contexto criativo não deve ser utilizado para ocultar manipulação maliciosa.
A governança precisará avaliar intenção, formato, risco, público e contexto de distribuição.
Revisão humana e controle editorial
O Código também aborda textos gerados ou manipulados por IA que sejam publicados para informar o público sobre temas de interesse público.
Quando existe revisão humana ou controle editorial efetivo, pode haver uma exceção à obrigação específica de divulgação.
Entretanto, essa exceção não deve ser interpretada como simples leitura superficial.
O documento exige políticas editoriais com elementos mínimos capazes de demonstrar a efetividade do controle humano.
Eu vejo aqui um risco frequente.
Algumas organizações poderão afirmar que houve “revisão humana” apenas porque alguém clicou em publicar.
Isso não é controle editorial.
Uma revisão efetiva precisa avaliar:
precisão;
fontes;
contexto;
direitos autorais;
riscos reputacionais;
vieses;
linguagem;
adequação ao público;
possibilidade de dano;
coerência com as políticas da organização.
Minha conclusão sobre o documento
O European Artificial Intelligence Board conclui que as duas seções do Código cobrem adequadamente as obrigações previstas nos Artigos 50(2), 50(4) e 50(5) do AI Act.
O documento afirma que, em julho de 2026, o Código deveria ser considerado pelas autoridades como o único instrumento prático de alcance europeu avaliado como adequado para a implementação das obrigações de transparência relacionadas ao conteúdo gerado por IA.
Mas essa adequação não é permanente.
O Código será monitorado e poderá ser revisto caso:
a interoperabilidade não evolua;
os mecanismos se mostrem insuficientes;
novas tecnologias surjam;
a implementação seja excessivamente onerosa;
os signatários não adotem soluções mais robustas;
a experiência de fiscalização revele falhas.
O próprio documento recomenda atualizações direcionadas, potencialmente em intervalos de até dois anos, para acompanhar a evolução tecnológica e regulatória.
Plano de ação organizacional
A partir dessa análise, eu estruturaria a adequação em seis fases.
Fase 1 — Governança e definição de escopo
Prazo sugerido: 0 a 30 dias
O primeiro passo é descobrir se a organização atua como:
provedora de sistemas de IA;
deployer;
distribuidora;
plataforma;
agência;
produtora de conteúdo;
organização híbrida.
Ações
Nomear um responsável pelo programa de transparência de conteúdo sintético.
Criar um grupo multidisciplinar com jurídico, TI, segurança, marketing, comunicação, compliance e governança de IA.
Identificar os países e mercados onde o conteúdo é disponibilizado.
Mapear produtos, canais e públicos afetados.
Definir critérios de materialidade e risco.
Aprovar uma política inicial de conteúdo gerado por IA.
Entregáveis
termo de abertura;
matriz de responsabilidades;
definição do papel regulatório;
política preliminar;
mapa de mercados e obrigações.
Fase 2 — Inventário de sistemas e conteúdos
Prazo sugerido: 30 a 60 dias
A organização precisa conhecer onde a IA generativa está sendo utilizada.
O inventário deve registrar
nome do sistema;
fornecedor;
modalidade: texto, imagem, áudio ou vídeo;
finalidade;
usuários autorizados;
tipo de conteúdo produzido;
canal de publicação;
presença de revisão humana;
capacidade de inserir metadados;
existência de marca d’água;
detector disponível;
possibilidade de remoção da marca;
risco de deepfake;
relevância pública do conteúdo.
Ações
Inventariar ferramentas oficiais e não oficiais.
Identificar uso de contas pessoais.
Mapear fluxos de produção e publicação.
Identificar conteúdo já publicado.
Classificar cada caso como baixo, médio ou alto risco.
Entregáveis
inventário de sistemas de IA;
inventário de conteúdos sintéticos;
mapa da cadeia de valor;
matriz de risco de transparência.
Fase 3 — Arquitetura de marcação e proveniência
Prazo sugerido: 60 a 120 dias
Nesta fase eu selecionaria as tecnologias utilizadas para registrar a origem dos conteúdos.
Ações
Definir padrões de metadados.
Avaliar mecanismos de marca d’água.
Adotar uma estratégia em múltiplas camadas.
Testar a preservação da marca após edição e compressão.
Definir requisitos contratuais para fornecedores.
Criar mecanismos para impedir publicação sem marcação quando obrigatória.
Avaliar compatibilidade com padrões abertos.
Testes mínimos
exportação para diferentes formatos;
compressão;
recorte;
redimensionamento;
edição;
captura de tela;
conversão de áudio;
transcrição;
publicação em redes sociais;
retransmissão por terceiros.
Entregáveis
arquitetura de proveniência;
padrão de metadados;
especificação de marca d’água;
relatório de testes;
requisitos técnicos para aquisição.
Fase 4 — Rotulagem e experiência do usuário
Prazo sugerido: 90 a 150 dias
A marcação técnica deve ser acompanhada de uma comunicação compreensível.
Ações
Criar padrões visuais de rotulagem.
Definir textos para cada modalidade.
Determinar posição, tamanho e momento da divulgação.
Criar regras especiais para obras criativas e satíricas.
Garantir acessibilidade.
Testar a compreensão por usuários.
Implementar a divulgação antes ou no momento da primeira exposição.
Exemplos de rótulos
“Imagem gerada por inteligência artificial.”
“Vídeo parcialmente manipulado com IA.”
“Voz sintetizada por IA.”
“Conteúdo gerado por IA e revisado pela equipe editorial.”
“Representação fictícia produzida com recursos de IA.”
Entregáveis
manual de rotulagem;
biblioteca de ícones;
modelo de aviso;
regras de posicionamento;
relatório de testes de usabilidade.
Fase 5 — Política editorial e revisão humana
Prazo sugerido: 120 a 180 dias
Essa fase é indispensável para organizações que publicam textos de interesse público.
Ações
Definir o que constitui revisão humana efetiva.
Criar uma lista de verificação editorial.
Estabelecer responsabilidades por aprovação.
Registrar evidências da revisão.
Criar procedimento para correções.
Definir regras para fontes e referências.
Proibir publicação automática em temas de alto risco.
Evidências recomendadas
identidade do revisor;
data e horário;
versão revisada;
alterações realizadas;
fontes verificadas;
decisão de aprovação;
justificativas em casos sensíveis.
Entregáveis
política editorial;
checklist de revisão;
fluxo de aprovação;
trilha de auditoria;
procedimento de correção.
Fase 6 — Monitoramento, auditoria e melhoria contínua
Prazo: contínuo
Nenhum mecanismo de marcação será permanente sem monitoramento.
Indicadores sugeridos
percentual de conteúdo sintético corretamente marcado;
percentual de marcações preservadas após publicação;
taxa de detecção;
falsos positivos;
falsos negativos;
tempo para corrigir rótulos incorretos;
quantidade de incidentes;
fornecedores avaliados;
colaboradores treinados;
canais cobertos;
conteúdos publicados sem revisão.
Ações
Realizar auditorias periódicas.
Monitorar alterações dos fornecedores.
Acompanhar novos padrões.
Testar detectores independentes.
Criar canal para denúncias.
Manter plano de resposta a incidentes.
Atualizar a política sempre que houver mudança tecnológica ou regulatória.
Plano de 90 dias para início imediato
Dias 1 a 30 — Descobrir
designar o responsável;
formar o grupo de trabalho;
mapear ferramentas;
identificar conteúdos sintéticos;
classificar riscos;
suspender publicações automáticas de alto risco.
Dias 31 a 60 — Definir
aprovar política;
selecionar padrões de marcação;
definir rótulos;
criar fluxo de revisão;
atualizar contratos;
estabelecer indicadores.
Dias 61 a 90 — Implementar
executar projeto-piloto;
testar metadados e marcas d’água;
treinar equipes;
implantar controles de publicação;
realizar auditoria inicial;
apresentar relatório ao conselho.
Dez perguntas que eu levaria ao conselho de administração
Sabemos quais conteúdos da organização são gerados ou manipulados por IA?
Conseguimos demonstrar sua origem?
As marcações sobrevivem à publicação em plataformas?
O usuário é informado antes da primeira exposição?
Possuímos política específica para deepfakes?
O que consideramos revisão humana efetiva?
Quem responde por um conteúdo sintético enganoso?
Nossos contratos exigem mecanismos de proveniência?
Temos capacidade de detectar conteúdo produzido por nossos próprios sistemas?
Conseguiremos apresentar evidências a uma autoridade?
Caso a resposta para a maioria dessas perguntas seja negativa, a organização ainda não possui maturidade suficiente para lidar com conteúdo sintético em escala.
Reflexão final
Eu não considero a rotulagem de conteúdo gerado por IA um obstáculo à inovação.
Considero uma condição para que a inovação sobreviva.
Sem transparência, cada imagem, vídeo, áudio ou texto passa a carregar uma dúvida permanente sobre sua autenticidade.
Quando tudo pode ser artificial, a confiança se torna o recurso mais escasso.
Por isso, o futuro da IA generativa não dependerá apenas da capacidade de produzir conteúdos mais convincentes.
Dependerá da capacidade de produzir conteúdos mais rastreáveis, verificáveis e responsáveis.
A questão estratégica não é mais:
“Nossa empresa utiliza IA para criar conteúdo?”
A questão correta é:
“Nossa empresa consegue provar quando, como, por quem e sob quais controles esse conteúdo foi criado?”
Essa será uma das novas fronteiras da governança de IA.
Documento analisado: Conclusion of the Artificial Intelligence Board on the Assessment of the Code of Practice on Transparency of AI-Generated Content pursuant to Article 50(7) of Regulation 2024/1689.
#AIAct #GovernançaDeIA #InteligênciaArtificial #Transparência #Deepfake #Compliance #ConteúdoSintético #RegulaçãoDeIA #ResponsibleAI #AIGovernance #AuditoriaDeIA #UniãoEuropeia
Comentários