O conteúdo criado por IA agora precisa de um rótulo. As câmeras serão as próximas.
- Time ALGOR
- 14 de ago.
- 13 min de leitura
Novas leis da UE e da Califórnia exigem que empresas de IA, e futuramente fabricantes de câmeras, assinem seus conteúdos multimídia. Essa é a nossa melhor chance de distinguir o que é real.
Eddan Katz - Chefe de Políticas e Assuntos Governamentais na Encypher
Dois dias antes das eleições parlamentares de 2023 na Eslováquia, um áudio falso se espalhou pelas redes sociais , aparentemente flagrando um dos principais candidatos e um jornalista renomado discutindo como fraudar a votação. No ano seguinte, deepfakes pornográficos não consensuais de Taylor Swift acumularam mais de 45 milhões de visualizações no X em menos de 24 horas. No verão de 2025, uma idosa em Ontário perdeu todas as suas economias em um golpe com criptomoedas, que começou com um anúncio no Facebook apresentando um deepfake do primeiro-ministro Mark Carney.
Em cada um desses casos, os danos poderiam ter sido reduzidos pelos metadados de proveniência do conteúdo : informações anexadas ao conteúdo que declaram como ele foi produzido. (Geralmente, o termo "proveniência" refere-se a um registro de onde algo veio e o que aconteceu com ele ao longo do caminho.) As ferramentas de proveniência de conteúdo não podem provar diretamente se uma imagem ou vídeo sem assinatura é real ou sintético; nenhuma tecnologia consegue fazer isso de forma confiável. Em vez disso, elas servem como uma camada probatória de governança de IA, produzindo registros sobre os quais outras proteções se baseiam. À medida que a proveniência assinada se torna a norma para conteúdo capturado por câmeras e microfones, o material fabricado — sem proveniência ou com proveniência suspeita — atrairá mais atenção.
Novas leis da UE e da Califórnia exigem a comprovação da proveniência do conteúdo.
Os novos requisitos legais, implementados em dois grandes mercados no mesmo dia, aumentarão significativamente a adoção de técnicas de comprovação de proveniência em todo o ecossistema de IA. Em 2 de agosto de 2026, entraram em vigor o Artigo 50 da Lei de IA da UE e a Lei de Transparência de IA da Califórnia . Essas regulamentações ampliam a criação e a preservação de registros digitais que facilitam o rastreamento de um determinado conteúdo até as câmeras, os modelos de IA e outras ferramentas que o criaram ou capturaram.
Este ensaio explica o que é a proveniência de conteúdo, como ela pode ser implementada e seus benefícios e desvantagens. Em seguida, abordarei as duas leis que entraram em vigor e seu impacto global. A título de esclarecimento: lidero a área de políticas da Encypher, que desenvolve infraestrutura para proveniência de conteúdo.
O que é Proveniência de Conteúdo e como funciona
As novas leis da UE e da Califórnia exigem que algumas empresas — incluindo fabricantes de câmeras e empresas de IA — anexem certos metadados às saídas de seus produtos. De modo geral, isso significa que Os metadados se dividem em três categorias principais: primeiro, os detalhes de origem descrevem a procedência da imagem, como por exemplo, qual câmera a fotografou. Segundo, as informações de rastreabilidade descrevem quais plataformas ou ferramentas manipularam o conteúdo após sua criação. Terceiro, o histórico de modificações registra todas as alterações realizadas, como recorte ou troca de rostos.
O ecossistema de conformidade está convergindo para um padrão tecnológico: C2PA. A Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA) , cuja implementação voltada para o usuário é conhecida como Credenciais de Conteúdo , mantém um padrão aberto e livre de royalties que muitas empresas provavelmente usarão para cumprir as leis da UE e da Califórnia. Nenhuma das leis exige C2PA explicitamente, mas sua interoperabilidade e crescente adoção o tornam a principal opção de conformidade. Anthropic , Google e OpenAI já indicaram que adotarão o C2PA.
A criptografia de dois fatores (C2PA) cria registros de proveniência usando técnicas criptográficas. Por exemplo, imagine que alguém tire uma foto com seu smartphone. Primeiro, o telefone "calcula o hash" dos pixels da foto e dos metadados de proveniência, gerando etiquetas numéricas exclusivas vinculadas aos dados. Em seguida, ele gera uma "assinatura" criptográfica vinculada a esses hashes e ao fabricante do smartphone. Os hashes e a assinatura são armazenados nos metadados da foto. Como resultado, a adulteração geralmente deixa evidências claras: se alguém modificar a foto ou seus metadados de proveniência, uma verificação computacional rápida pode detectar que ocorreu uma alteração. Esses mesmos métodos se aplicam a arquivos de áudio e vídeo.
As edições criam novos registros de proveniência que fazem referência a registros anteriores. Na terminologia da C2PA, cada versão do conteúdo recebe seu próprio "manifesto" — um registro de proveniência assinado criptograficamente que descreve as alterações mais recentes. Continuando com o exemplo acima, se alguém modificar a foto posteriormente no Adobe Photoshop, a Adobe poderá criar um novo manifesto descrevendo as edições aplicadas, armazenando-o nos metadados da foto. Antes de assinar, a Adobe gera um hash do manifesto anterior e adiciona esse hash ao novo manifesto, de modo que uma verificação computacional rápida possa detectar adulteração do manifesto anterior.
Um registro de proveniência pode declarar que o conteúdo foi gerado por IA. De acordo com a C2PA, os metadados de proveniência contêm um campo denominado “digitalSourceType”, que indica se o conteúdo foi capturado por uma câmera ou microfone, gerado por IA ou uma combinação dos dois (como uma fotografia com um elemento de fundo gerado por IA inserido no Photoshop). Os requisitos da UE e da Califórnia dependem muito dessas informações.
As credenciais de conteúdo aparecem como pequenos indicadores familiares. Os criadores verão uma opção simples para "anexar credenciais de conteúdo" no Photoshop ou no Firefly, ou suas câmeras assinarão as fotos automaticamente. Os visualizadores poderão ver um pequeno selo "cr" no conteúdo, no qual podem clicar para ver os metadados. As plataformas verão dados legíveis por máquina que podem ser transformados em rótulos na tela.
Limitações das credenciais de conteúdo
Embora as credenciais de conteúdo sejam uma forma promissora de cumprir os novos requisitos da UE e da Califórnia, elas não são infalíveis. Em última análise, precisam ser combinadas com medidas técnicas e de governança para garantir que os metadados sejam precisos e permaneçam vinculados ao conteúdo.
Vulnerabilidades técnicas permitem que as Credenciais de Conteúdo sejam removidas ou falsificadas. A falha mais comum nas Credenciais de Conteúdo é a remoção de metadados , na qual o processo de upload de arquivos ou conversão de formatos de arquivo descarta os manifestos automaticamente. A segunda é a falha analógica : se um usuário captura uma tela ou regrava o conteúdo, o manifesto original não é transferido para o novo arquivo. O terceiro problema é a assinatura por câmera : aponte uma câmera que assina imagens automaticamente para um deepfake em uma tela e ela assinará honestamente que capturou a imagem. O quarto problema são os manifestos falsificados : atacantes habilidosos podem criar manifestos que contêm declarações falsas. Além disso, pesquisadores continuam investigando se a própria validação criptográfica do C2PA pode ser burlada.
Medidas de mitigação podem ajudar a reduzir essas vulnerabilidades. Para lidar com a remoção de metadados, duas soluções técnicas são a inclusão de marcas d'água invisíveis, como o SynthID do Google , e o uso de " impressões digitais digitais ", que permitem que um arquivo com metadados removidos seja associado novamente ao seu manifesto. Quando essas medidas são combinadas com as Credenciais de Conteúdo, torna-se muito mais difícil separar o registro do conteúdo que ele descreve. A Lei de Transparência de IA da Califórnia também exige que, a partir de 2027, as grandes plataformas não removam dados de proveniência compatíveis com os padrões .
O problema da lacuna analógica, por sua vez, pode ser atenuado à medida que as normas mudam. Embora não haja como impedir que os usuários removam os metadados de proveniência ao regravar o conteúdo, o material sem esses metadados acabará sendo considerado menos confiável por esse motivo. À medida que os fabricantes de câmeras e microfones adotarem amplamente o C2PA (Capture to Productive Awareness), o conteúdo sem metadados se destacará, reduzindo o incentivo para removê-los.
Para autenticação por meio de câmera, soluções técnicas emergentes, como a Solução de Autenticidade de Câmera da Sony, incorporam informações de profundidade 3D nos metadados, revelando se a foto capturou uma cena real ou uma tela plana. A ameaça de manifestos falsificados, por sua vez, exige respostas tanto técnicas quanto institucionais. Por exemplo, programas de conformidade podem verificar se os produtos estão em conformidade com a especificação técnica de Credenciais de Conteúdo e se suas assinaturas não podem ser manipuladas. A própria especificação também pode ser revisada para corrigir vulnerabilidades.
Instituições públicas e privadas podem ajudar a determinar quais signatários são confiáveis. Como discutido anteriormente, o C2PA utiliza assinaturas criptográficas para segurança, e cada assinatura é rastreável até um signatário específico (por exemplo, um fabricante de smartphones). Uma assinatura responde qual credencial assinou uma declaração, mas quem decide quais signatários são confiáveis? Atualmente, as autoridades certificadoras verificam os signatários, e a Lista de Confiança do C2PA determina quais dessas autoridades recebem aprovação oficial. Nesse sistema de certificação, os agentes privados se autorregulam; grandes empresas que desenvolvem as ferramentas para criar e assinar conteúdo, como a Adobe, também definem as regras de conformidade e decidem quais signatários são confiáveis. Instituições de memória pública, como bibliotecas, arquivos e museus, poderiam atuar como custodiantes independentes e orientados por sua missão nesse processo.
Instituições públicas e privadas podem ajudar a determinar quais signatários são confiáveis. Como discutido anteriormente, o C2PA utiliza assinaturas criptográficas para segurança, e cada assinatura é rastreável até um signatário específico (por exemplo, um fabricante de smartphones). Uma assinatura responde qual credencial assinou uma declaração, mas quem decide quais signatários são confiáveis? Atualmente, as autoridades certificadoras verificam os signatários, e a Lista de Confiança do C2PA determina quais dessas autoridades recebem aprovação oficial. Nesse sistema de certificação, os agentes privados se autorregulam; grandes empresas que desenvolvem as ferramentas para criar e assinar conteúdo, como a Adobe, também definem as regras de conformidade e decidem quais signatários são confiáveis. Instituições de memória pública, como bibliotecas, arquivos e museus, poderiam atuar como custodiantes independentes e orientados por sua missão nesse processo.
Existe uma tensão antiga entre transparência e privacidade. A rastreabilidade traz benefícios, mas também o risco de uso indevido. Os registros de rastreabilidade podem, por vezes, revelar quem filmou um vídeo, onde e quando. Jornalistas que desejam comprovar a autenticidade de uma reportagem podem ter dificuldades em proteger dissidentes e denunciantes. Embora exista uma relação de compromisso inerente entre transparência e privacidade, a C2PA busca um equilíbrio. A maioria das declarações da C2PA é opcional; campos sensíveis podem ser ocultados; e os certificados podem ser pseudônimos.
As credenciais de conteúdo foram amplamente adotadas, mas de forma desigual. Diversas ferramentas de IA generativa já assinam conteúdo por padrão, incluindo o Adobe Firefly e o DALL·E 3 e o Sora da OpenAI. Enquanto isso, o Midjourney ainda não incorpora um manifesto e não definiu um cronograma para implementá-lo. A adoção em hardware também está crescendo. A Leica M11-P foi a primeira câmera do mundo a ter credenciais de conteúdo integradas. Agora, a Sony e a Canon seguiram o exemplo, juntamente com o Pixel 10 do Google . A lacuna mais significativa é a Apple, que ainda não se comprometeu a implementar o C2PA nem deu uma explicação pública sobre o motivo. A regulamentação de dispositivos de captura da Califórnia aumentará a pressão sobre a Apple e outros grandes fabricantes para que adotem a rastreabilidade compatível com os padrões a partir de 2028.
O que exigem as leis da UE e da Califórnia
As leis da UE e da Califórnia criam diversas obrigações diferentes. Algumas centram-se na geração e preservação de registos de proveniência; outras focam-se na utilização desses registos para criar etiquetas e avisos adequados.
A UE obriga os fornecedores de IA generativa a criarem registos de proveniência. Na Lei da IA da UE, a obrigação mais importante é o artigo 50.º, n.º 2: os fornecedores de sistemas generativos devem assegurar que esses sistemas marquem automaticamente a saída sintética de áudio, imagem, vídeo e texto num formato legível por máquina. Esta obrigação é fundamental para uma camada probatória capaz de detectar automaticamente material com proveniência fidedigna.
As outras duas obrigações da UE centram-se na divulgação. Com algumas exceções, o artigo 50.º, n.º 4, exige que os responsáveis pela implementação de sistemas de IA rotulem os deepfakes e divulguem o texto gerado por IA em matérias de interesse público. O artigo 50.º, n.º 1, impõe uma exigência semelhante aos fornecedores de IA, obrigando-os a informar as pessoas quando estas interagem com um sistema de IA.
A lei da Califórnia vai além, exigindo que as plataformas online retenham dados de proveniência. A Lei de Transparência de IA da Califórnia aplica-se a fornecedores de sistemas de IA generativa com mais de um milhão de usuários mensais e acessíveis no estado. As principais obrigações desses fornecedores, em vigor a partir de 2 de agosto de 2026, são incluir divulgações incorporadas e oferecer uma ferramenta gratuita que o público possa usar para revelar dados de proveniência do conteúdo. Esses requisitos funcionam como o equivalente californiano às obrigações de marcação e divulgação da UE e exigem que os dados incorporados sejam difíceis de remover. A partir de 1º de janeiro de 2027, as grandes plataformas online devem detectar e exibir dados de proveniência compatíveis com os padrões, anexados ao conteúdo, e — crucialmente — abster-se de removê-los. Essa regra aumentará significativamente a durabilidade dos metadados de proveniência, tornando todo o ecossistema de proveniência de conteúdo mais útil.
A legislação da Califórnia exige que muitos fabricantes de hardware criem registros de procedência. O componente final da lei californiana, em vigor a partir de 1º de janeiro de 2028, estende os requisitos de procedência além do conteúdo gerado por IA, abrangendo também o conteúdo gravado por dispositivos como smartphones, câmeras e gravadores de voz. Esses dispositivos devem criar registros de procedência por padrão, embora os fabricantes possam oferecer aos usuários a opção de desativar esse recurso.
A aplicação da lei pode resultar em somas enormes. De acordo com a Lei de IA da UE, os reguladores nacionais podem impor multas de até € 15 milhões ou 3% do faturamento anual mundial, o que for maior, por violação das obrigações de transparência do Artigo 50. O modelo de percentual da receita global é proporcional ao tamanho da empresa infratora; para uma grande empresa, as multas podem chegar a centenas de milhões de dólares. Na Califórnia, o Procurador-Geral, os procuradores municipais e os consultores jurídicos do condado podem solicitar penalidades civis de US$ 5.000 por violação, que parecem modestas em comparação. No entanto, cada dia de descumprimento é tratado como uma nova violação. A multa por um único produto não conforme, multiplicada ao longo dos dias, pode se acumular rapidamente.
O impacto global das leis da UE e da Califórnia
O princípio da transparência em torno do conteúdo gerado por IA tem sido amplamente discutido na governança da IA e apareceu em acordos internacionais nos últimos anos. No entanto, as leis implementadas na UE e na Califórnia estabelecerão, pela primeira vez, uma base global efetiva para os requisitos de transparência.
A noção de proveniência de conteúdo não é nova, mas os requisitos variam bastante. Documentos de governança de IA da OCDE , UNESCO , G7 e Conselho da Europa já articularam normas de proveniência de conteúdo em nível internacional, embora sejam, em sua maioria, não vinculativas. Os Estados Unidos ainda não possuem uma lei federal geral sobre proveniência de conteúdo. Em nível estadual, Utah e Washington promulgaram suas próprias leis de proveniência de conteúdo, alinhadas à Lei de Transparência de IA da Califórnia.
As leis da China também impulsionam os esforços para construir uma infraestrutura de rastreabilidade. Além da UE e dos EUA, a abordagem mais prescritiva é o regime de rotulagem da China. Suas Disposições de Síntese Profunda , Medidas Interinas de IA Generativa , Medidas para Rotulagem de Conteúdo Sintético Gerado por IA , a norma nacional GB 45438-2025 e outras regulamentações e instituições já exigem que o conteúdo gerado por IA seja marcado. No entanto, a China ainda não estendeu requisitos comparáveis aos fabricantes de hardware.
As leis da UE e da Califórnia aplicam-se ao conteúdo que acaba dentro de suas fronteiras. Nem a lei da UE nem a da Califórnia dependem de onde uma empresa está constituída ou sediada, ou onde seus servidores estão localizados. Em vez disso, ambas as leis se concentram no acesso ao mercado e nos efeitos — se o sistema é colocado no mercado ou acessível publicamente na jurisdição, e se seus resultados são usados por pessoas lá — com a Lei de Transparência de IA da Califórnia adicionando um limite de um milhão de usuários mensais.
O alcance dessas leis é efetivamente global. O conteúdo digital não respeita fronteiras, e nenhum sistema generativo pode garantir que seus resultados jamais aparecerão na União Europeia ou na Califórnia — dois dos maiores e mais ricos mercados do mundo. Tentar operar um ambiente em conformidade com essas leis nesses mercados, enquanto se opera um ambiente não conforme em todos os outros lugares, pode ser inconveniente e caro. Em vez disso, as empresas podem optar por aplicar o padrão mais rigoroso a todos os seus resultados por padrão. Consequentemente, essas exigências específicas para cada região tendem a ter um impacto internacional.
Como as normas de procedência auxiliam os tribunais no combate às provas deepfake
O principal efeito das novas diretrizes da UE e da Califórnia é exigir a criação de registros assinados, com data e hora, e invioláveis, que documentem a origem e a custódia dos dados. Esses registros serão gerados em larga escala, por obrigação legal. Registros são provas, o que levanta uma questão: como os tribunais devem usar essas provas?
Órgãos consultivos estão analisando respostas para deepfakes apresentados como provas. O Comitê Consultivo sobre Regras de Prova, que propõe emendas às Regras Federais de Prova dos EUA, elaborou uma versão preliminar da Regra 901(c) para lidar com provas fabricadas por inteligência artificial generativa. Considere um caso em que uma das partes alega que uma prova apresentada contra ela é um deepfake. De acordo com a versão preliminar, essa parte primeiro teria que produzir provas suficientes para sustentar a conclusão de fabricação — um requisito menos rigoroso do que provar a falsificação diretamente. Somente então o proponente do item precisaria demonstrar ao juiz que é mais provável que seja autêntico. Se tal regra fosse adotada, registros de procedência validados seriam provas contundentes para atender a esse requisito.
Os registros de procedência podem ajudar os tribunais a avaliar a autenticidade, embora sua ausência deva ser interpretada com cautela. O mecanismo da Seção 901(c) depende de se um item foi gerado ou alterado por IA, algo que os tribunais não tinham como comprovar de forma confiável. Registros de procedência validados oferecem um fator importante a ser considerado. Um manifesto ausente, por outro lado, prova pouco por si só: nem todas as câmeras criam um, e as plataformas rotineiramente removem informações de procedência. A ausência se torna significativa apenas quando os fatos do caso sugerem que as informações de procedência deveriam estar presentes — uma situação que se tornará mais comum à medida que as leis de procedência da Califórnia e da UE entrarem em vigor. Em tais situações, uma lacuna inexplicável começa a levantar questões sobre a parte que poderia ter assinado e não o fez, assim como os tribunais já fazem inferências quando uma parte deixa de preservar provas que tinha o dever de manter.
As novas tecnologias frequentemente apresentam desafios inéditos para os tribunais no que diz respeito à identificação de provas autênticas. No século XIX, os tribunais passaram décadas tentando descobrir como lidar com provas fotográficas. No século seguinte, as impressões digitais e o DNA tornaram-se mais confiáveis e úteis nos tribunais, à medida que instituições — registros, laboratórios e padrões — cresceram para apoiar a coleta e a análise dessas provas. Se a C2PA se tornará um padrão global para verificar o status de imagens, áudio e outros dados permanece uma questão em aberto. Mas, com a chegada das leis da UE e da Califórnia, os tribunais terão pelo menos um registro melhor de como um item digital surgiu e como foi alterado. A proveniência do conteúdo é a camada probatória que faltou na era da IA.
Eddan Katz é o Diretor de Políticas e Assuntos Governamentais da Encypher. Ele também é pesquisador associado do LexLab na Faculdade de Direito da Universidade da Califórnia, em São Francisco, onde escreve e leciona sobre responsabilidade da IA. Anteriormente, foi Diretor Executivo do Projeto Sociedade da Informação (ISP) da Faculdade de Direito de Yale, Diretor de Assuntos Internacionais da Electronic Frontier Foundation (EFF), Líder de Projeto da plataforma de Governança de IA na rede do Centro para a Quarta Revolução Industrial do Fórum Econômico Mundial e trabalhou na equipe de Políticas de IA da Meta.
Comentários