O que a Lei de IA da UE significa para você e sua empresa que reside ou têm negócios na Europa.
- Time ALGOR
- há 1 dia
- 17 min de leitura
Se você reside na União Europeia e utiliza produtos ou serviços com inteligência artificial para fins pessoais ou comerciais, é provável que a Lei de IA da UE o afete de alguma forma.
Você provavelmente já viu um dos seus efeitos: avisos ou notificações indicando que uma imagem, vídeo, clipe de áudio ou outro conteúdo foi gerado ou manipulado usando IA em plataformas como Instagram ou TikTok. Essas normas entraram em vigor em agosto de 2026 como parte das regras de transparência da Lei de IA da UE e fazem parte de uma legislação muito mais abrangente que está sendo implementada em etapas.
A Lei de IA da UE também proíbe certos usos de IA, impõe requisitos rigorosos a sistemas considerados de alto risco e estabelece regras para empresas que desenvolvem, fornecem ou utilizam IA, com diferentes disposições entrando em vigor em momentos distintos.
Afinal, o que é exatamente a Lei de IA da UE, quais sistemas de IA ela abrange e o que isso significa para você ou sua empresa? Aqui está o que você precisa saber.
O que é a Lei de IA da UE?
A Lei de IA da UE é a legislação da União Europeia que regulamenta a inteligência artificial. Formalmente conhecida como Regulamento (UE) 2024/1689, seu objetivo é tornar a IA mais segura, transparente, confiável e centrada no ser humano, protegendo os direitos fundamentais e permitindo a inovação e a adoção da IA na UE.
Em termos simples, você pode pensar na Lei de IA da UE como o GDPR para IA(LGPD para o Brasil), embora regule coisas diferentes: o GDPR rege principalmente como os dados pessoais são coletados e processados, enquanto a Lei de IA da UE rege como os sistemas de IA são desenvolvidos, fornecidos, implantados e usados, especialmente quando podem afetar os direitos das pessoas, a segurança ou decisões importantes da vida.
Como o risco da IA é tratado ao abrigo da Lei da Inteligência Artificial da UE
Em vez de regulamentar toda a IA da mesma forma, a Lei de IA da UE adota uma abordagem baseada no risco, que pode ser classificada em quatro níveis:
Inaceitável (proibido)
Alto risco
Risco limitado (de transparência)
Risco baixo ou inexistente
As oito primeiras proibições entraram em vigor em fevereiro de 2025, enquanto a última entrou em vigor em dezembro de 2026.
Em geral, quanto maior o potencial de dano que um sistema de IA pode causar, mais rigorosas são as regras. A lei não define formalmente quatro "níveis de risco", mas suas regras são frequentemente agrupadas em quatro categorias amplas para facilitar a compreensão.
Os exemplos práticos abaixo não são casos apresentados ao abrigo da Lei de IA da UE.
Em vez disso, ilustram os tipos de danos ou usos que a lei de IA visa prevenir, restringir ou regulamentar na UE.
IA de risco inaceitável
Certos usos da IA são considerados inerentemente inaceitáveis, em vez de algo que possa ser gerenciado por meio de mitigação de riscos, documentação ou supervisão. Veja o que é proibido:Manipulação e engano
Inteligência artificial que manipula ou engana as pessoas, levando-as a tomar decisões prejudiciais que, de outra forma, não tomariam.
Um homem belga morreu por suicídio em 2023.
Depois que um chatbot de IA o encorajou e refletiu seus sentimentos por semanas.
Exploração de pessoas vulneráveis
Inteligência artificial que se aproveita das pessoas devido à sua idade, deficiência ou situação socioeconômica.
A plataforma de chatbots Character.AI e o Google concordaram, em janeiro de 2026, em encerrar os processos judiciais. sobre os danos causados a adolescentes, incluindo um processo movido por uma mãe cujo filho adolescente cometeu suicídio após desenvolver um profundo apego emocional a um chatbot que o encorajava a "voltar para casa".
Pontuação social
Inteligência artificial que classifica as pessoas com base em seu comportamento ou características pessoais e usa essas pontuações para tratá-las injustamente.
O sistema de crédito social da China tem sido usado para impedir que cidadãos com baixa pontuação consigam realizar atividades como comprar passagens aéreas ou de trem. Em 2021, a China assinou um compromisso não vinculativo com a ONU. para acabar com a pontuação social, mas desde então o sistema só tem se expandido, e não está claro o quanto dele ainda funciona com IA.
Policiamento preditivo
Inteligência artificial que prevê se alguém cometerá um crime com base apenas em perfis ou traços de personalidade. Outros usos da IA na aplicação da lei, como a avaliação de provas ou a análise de riscos com base em fatos verificáveis, são de alto risco, mas não proibidos.
Em dezembro de 2025, a polícia holandesa descontinuou o CAS, um algoritmo usado desde 2017 para prever onde era provável que ocorresse crime, após uma auditoria ter encontrado um viés reforçado causado pelo policiamento excessivo histórico de certos bairros.
Bancos de dados de reconhecimento facial
Inteligência artificial que coleta indiscriminadamente imagens da internet ou gravações de câmeras de segurança para construir bancos de dados de reconhecimento facial .
A empresa americana Clearview AI coletou bilhões de fotos online (incluindo muitas de cidadãos da UE) para agências governamentais e de aplicação da lei e foi multada em dezenas de milhões de euros por reguladores da UE.
Reconhecimento de emoções
Inteligência artificial que tenta inferir como funcionários ou alunos se sentem em locais de trabalho ou escolas, exceto por razões médicas ou de segurança genuínas.
O reconhecimento de emoções fora desses dois contextos se enquadra nas regras de alto risco, em vez de ser proibido.
Em 2018, uma escola de ensino fundamental em Hangzhou, na China, instalou câmeras nas salas de aula,que escaneava os rostos dos alunos para medir seu nível de atenção e concentração, o que desencadeou um debate nacional sobre a vigilância infantil. Segundo relatos, o programa foi suspenso após a repercussão negativa, mas um monitoramento semelhante logo se espalhou para outras escolas.
Em 2022, alguns já haviam migrado para faixas de cabeça que monitoravam as ondas cerebrais, com a vigilância se estendendo ao ensino remoto e ao acompanhamento das tarefas de casa durante o verão.
Perfilamento biométrico sensível
Inteligência artificial que usa dados biométricos para inferir características como raça, opiniões políticas, filiação sindical, religião, vida sexual ou orientação sexual. A categorização biométrica para outros fins é considerada de alto risco, mas não proibida.
Em 2025, o Congresso Mundial Uigur entrou com uma ação judicial. Na França, as empresas Hikvision, Huawei e Dahua foram acusadas de usar tecnologia de reconhecimento facial para identificar e perseguir uigures.
Reconhecimento facial em tempo real pela polícia
O reconhecimento facial em tempo real é utilizado pelas forças policiais em espaços públicos, exceto em um pequeno número de casos rigorosamente controlados, como encontrar pessoas desaparecidas ou sequestradas, prevenir ameaças iminentes ou localizar suspeitos de crimes graves. O reconhecimento facial que não é em tempo real, não ocorre em espaços públicos ou não é utilizado pelas forças policiais é considerado de alto risco, em vez de ser proibido.
Em 2025, a Hungria proibiu eventos do Orgulho LGBTQ+ e aprovou uma lei que permite à polícia usar reconhecimento facial em tempo real para identificar os participantes. Grupos de defesa das liberdades civis contestaram a lei, argumentando que viola diretamente o Artigo 5º da Lei de Inteligência Artificial da UE.
Em abril de 2026, o principal tribunal da UE decidiu que a Hungria havia violado os direitos fundamentais das pessoas LGBTQ+; as acusações contra os organizadores da Parada do Orgulho foram retiradas e uma mudança de governo naquele mesmo mês revogou a proibição.
Abuso sexual e conteúdo íntimo não consensual
Sistemas de IA que geram material de abuso sexual infantil (CSAM, na sigla em inglês), ou que geram ou manipulam representações sexualmente explícitas ou íntimas de pessoas reais e identificáveis sem o seu consentimento.
Grok, o chatbot de IA integrado ao X, possuía um "modo picante" que gerava deepfakes sexualizados de pessoas reais, incluindo crianças, produzindo mais de 4,4 milhões de imagens em pouco mais de 9 dias. Em janeiro de 2026, procuradores-gerais de estados americanos exigiram que o xAI eliminasse o recurso, o que levou a diversos processos judiciais.
IA de alto risco
Sistemas de IA de alto risco são permitidos no mercado da UE, desde que o fornecedor cumpra um conjunto exigente de obrigações. Um sistema de IA é considerado de alto risco de duas maneiras:Trata-se de um produto ou componente de segurança de um produto já abrangido pela legislação da UE em matéria de segurança de produtos e sujeito a uma avaliação de conformidade por terceiros, como dispositivos médicos, máquinas, elevadores ou brinquedos. Estes sistemas são classificados como de alto risco ao abrigo do artigo 6.º, n.º 1, e do anexo I, e ficam sujeitos às obrigações relativas a produtos de alto risco a partir de agosto de 2028.
Enquadra-se numa das categorias de casos de utilização específicos enumeradas no artigo 6.º, n.º 2, e no anexo III. As obrigações para este grupo iniciam-se em dezembro de 2027 e incluem o seguinte:
Biometria
Isso inclui identificação biométrica remota que não seja em tempo real, que não esteja em um espaço de acesso público ou que não seja usada pelas autoridades policiais; categorização biométrica para fins que não sejam inferir as características sensíveis proibidas acima; e reconhecimento de emoções fora do contexto de trabalho ou educacional (isso exclui a verificação biométrica básica, como desbloquear o telefone com o rosto).
Uma escola secundária na Suécia testou o reconhecimento facial para controlar a frequência dos alunos em 2019. A autoridade sueca de proteção de dados multou a escola, decidindo que os alunos não podiam dar um consentimento válido devido à sua dependência da escola.
Infraestrutura crítica
A inteligência artificial (IA) que gerencia infraestrutura digital, tráfego rodoviário ou o fornecimento de água, gás, aquecimento ou eletricidade é considerada de alto risco.
Em agosto de 2024, Praga implementou um sistema de controle de tráfego com inteligência artificial.que ajusta a temporização dos semáforos em tempo real com base nas condições atuais e prioriza o transporte público e veículos de emergência. É uma das primeiras implantações em larga escala desse tipo na Europa.
Educação e formação profissional
Considera-se de alto risco a inteligência artificial que decide quem entra em uma escola ou programa de treinamento, atribui notas, avalia o nível de educação adequado para alguém ou monitora alunos durante exames.
O órgão regulador de exames da Inglaterra usou um algoritmo para atribuir as notas em 2020 após a pandemia de COVID-19 cancelar os exames, rebaixando as notas de muitos alunos.e prejudicando aqueles que frequentam escolas com histórico de baixo desempenho. Isso desencadeou protestos e uma reversão da decisão governamental.
Emprego e gestão de trabalhadores
Isso diz respeito à IA usada para selecionar ou avaliar candidatos a emprego, ou que afeta promoções, atribuição de tarefas ou monitoramento de desempenho no trabalho.
Um tribunal italiano considerou inconstitucional a aplicação de regras ao algoritmo de classificação de entregadores da Deliveroo, discriminatório. A Deliveroo foi condenada a pagar indenização por penalizar entregadores de comida por baixa disponibilidade sem identificar motivos legítimos, como doença ou greves.
Serviços essenciais
A inteligência artificial que decide a elegibilidade para benefícios públicos ou assistência médica, avalia a solvência, precifica seguros de vida ou saúde ou tria chamadas de emergência é considerada de alto risco.
As autoridades fiscais holandesas usaram um sistema algorítmico de avaliação de risco de fraude que identificou erroneamente cerca de 26.000 pais como suspeitos.(nova janela), atingindo desproporcionalmente pessoas com dupla nacionalidade, para o reembolso de benefícios. O escândalo derrubou o gabinete holandês em janeiro de 2021.
Aplicação da lei
A inteligência artificial que avalia o risco de uma vítima ou de um agressor, avalia a confiabilidade das provas ou traça o perfil de pessoas durante investigações criminais é considerada de alto risco.
A Inglaterra e o País de Gales utilizam o OASys(Offender Assessment System) para avaliar o risco de reincidência de mais de 7 milhões de pessoas, influenciando decisões sobre fiança, sentença e liberdade condicional.
Avaliações oficiais constataram que o sistema é menos preciso para indivíduos negros, asiáticos e de etnia mista do que para infratores brancos, e os presos tinham capacidade limitada de contestar dados imprecisos usados para suas pontuações. Um sistema substituto ARNS(Assess Risks, Needs and Strengths) foi lançada em 17 de junho de 2026.
Migração, asilo e controle de fronteiras
Isso diz respeito à IA na avaliação de riscos de segurança ou migração, na análise de pedidos de asilo ou na identificação de pessoas na fronteira.
O Ministério do Interior do Reino Unido negou o pedido de asilo de uma mulher marroquina e seu filho.citando um documento de segurança que se descobriu não existir. Em apelação, um juiz de alta instância sugeriu que a carta de recusa mostrava sinais de alucinação por parte da IA, chamando-a de "análoga a confiar em provas falsas".
Justiça e processos democráticos
A inteligência artificial que auxilia juízes na interpretação de fatos ou leis, ou sistemas que possam influenciar os resultados das eleições ou a forma como as pessoas votam, é considerada de alto risco.
Talvez o exemplo mais conhecido seja o da Cambridge Analytica, que coletou dados de até 87 milhões de usuários do Facebook sem consentimento para criar perfis psicográficos para anúncios políticos direcionados, notadamente durante a campanha de Trump em 2016 e o referendo do Brexit.
Requisitos para sistemas de IA de alto risco
De acordo com a Lei de IA da UE, os sistemas de IA de alto risco devem atender a requisitos rigorosos antes de serem comercializados ou utilizados. Esses requisitos incluem:
Gestão de riscos : Os prestadores de serviços devem identificar, avaliar e reduzir os riscos potenciais ao longo de todo o ciclo de vida do sistema.
Qualidade dos dados : Os dados de treinamento, validação e teste devem ser adequados e gerenciados para reduzir erros e resultados discriminatórios.
Registro e rastreabilidade : Os sistemas devem manter registros de suas atividades para que seu funcionamento e resultados possam ser rastreados.
Documentação técnica : Os fornecedores devem documentar como o sistema funciona, para que foi projetado e como está em conformidade com a Lei de Inteligência Artificial.
Informações para implementadores : As pessoas e organizações que utilizam o sistema devem receber instruções claras sobre suas funcionalidades, limitações e uso correto.
Supervisão humana : Os sistemas devem ser projetados de forma que pessoas qualificadas possam entender, monitorar e intervir em seu funcionamento quando necessário.
Precisão, robustez e cibersegurança : os sistemas devem atender aos padrões apropriados de precisão, confiabilidade, resiliência e proteção contra ameaças à segurança.
No entanto, o artigo 6.º, n.º 3, prevê certas derrogações para os sistemas de IA enumerados no Anexo III. Estes não devem ser considerados de elevado risco se não “representarem um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares, incluindo por não influenciarem materialmente o resultado da tomada de decisões”. O artigo 6.º, n.º 3, inclui mais detalhes sobre como definir se um sistema de IA se enquadra nesta derrogação.
IA de risco de transparência (risco limitado)
Em relação aos riscos de transparência, o Artigo 50 concentra-se na IA que pode dificultar a distinção entre conteúdo gerado por IA e conteúdo criado por humanos. A principal preocupação reside no engano, na falsificação de identidade, na desinformação, na manipulação e na fraude ao consumidor. Esses sistemas são geralmente permitidos, mas os provedores e implementadores devem tornar o uso da IA suficientemente transparente. As obrigações de transparência do Artigo 50 entraram em vigor em agosto de 2026.
Existem quatro situações principais abrangidas pelas regras de transparência da IA:
Interações de IA
Quando um sistema de IA interage diretamente com uma pessoa, o fornecedor deve deixar claro que se trata de uma interação com IA e não com um ser humano. Isso pode se aplicar a sistemas interativos que incluem IA conversacional ou agentes de atendimento ao cliente.
Um aviso sobre o uso de IA deve ser fornecido desde o início da primeira interação, de forma acessível, clara e facilmente identificável.
IA executada apenas em segundo plano ou que se comunica diretamente entre máquinas não está abrangida por este requisito específico.
Conteúdo padrão gerado por IA
Os fornecedores de sistemas de IA que geram ou manipulam texto, imagens, áudio ou vídeo devem tornar o resultado tecnicamente identificável como gerado ou manipulado por IA, por exemplo, por meio de metadados legíveis por máquina.
Isso não significa necessariamente adicionar um rótulo visível para quem visualiza o conteúdo.
Ferramentas de edição simples que não alteram substancialmente os dados de entrada ou seu significado estão isentas.
Deepfakes e certos conteúdos de interesse público
Se uma organização cria ou manipula imagens, áudio ou vídeo deepfake, um marcador legível por máquina por si só não é suficiente. Ela deve divulgar isso claramente ao público de maneira facilmente perceptível, como por meio de um rótulo visível ou um aviso sonoro.
O mesmo padrão se aplica a textos gerados ou manipulados por IA e publicados para informar o público sobre assuntos de interesse público, a menos que um ser humano os tenha revisado de forma significativa e assumido a responsabilidade editorial por eles.
Reconhecimento de emoções e categorização biométrica
As pessoas devem ser informadas quando a IA está sendo usada para detectar suas emoções ou categorizá-las usando dados biométricos; isso se aplica independentemente de o sistema ser classificado como de alto risco ou não.
IA de baixo ou nenhum risco
A maioria dos sistemas de IA se enquadra nessa categoria e não está sujeita a requisitos obrigatórios adicionais sob a Lei de IA. Exemplos incluem filtros de spam e IA usada em videogames. Os provedores ainda podem seguir voluntariamente as melhores práticas e os códigos de conduta.O que são modelos GPAI e quais são as suas obrigações?
Os modelos de IA de propósito geral (GPAI, na sigla em inglês) são modelos de IA projetados para lidar com diversas tarefas, em vez de um propósito específico e restrito. Exemplos de modelos GPAI incluem os grandes modelos de linguagem (LLMs, na sigla em inglês) que alimentam o ChatGPT , o Gemini , o Claude e o Meta AI .
Eles podem gerar ou analisar conteúdo e podem ser integrados a outros sistemas e aplicativos de IA.
Os modelos GPAI estão sujeitos a requisitos próprios de acordo com a Lei de IA. Os fornecedores devem manter a documentação técnica, fornecer aos desenvolvedores subsequentes informações sobre as capacidades e limitações do modelo, cumprir as normas de direitos autorais da UE e publicar um resumo público descrevendo os tipos de dados (como texto, imagens, áudio ou vídeo) e as fontes (por exemplo, conjuntos de dados públicos, conjuntos de dados privados, sites extraídos, dados de usuários ou dados sintéticos) usados para treinar o modelo.
Os modelos GPAI que representam um risco sistémico — suficientemente poderosos ou amplamente utilizados para que os seus problemas possam causar danos em larga escala em toda a UE — estão sujeitos a requisitos adicionais, incluindo avaliações de modelos e testes adversários, gestão contínua de riscos, comunicação de incidentes e proteções de cibersegurança mais robustas.
A Lei de IA da UE proíbe que sistemas de IA usem dados de pessoas para treinamento de IA?
Não. A Lei de IA da UE não proíbe o uso de dados pessoais para treinamento de IA. Ela exige que sistemas de alto risco usem dados de boa qualidade e que fornecedores de IA de uso geral sejam transparentes sobre os dados utilizados em seu treinamento, mas a legalidade do uso de dados pessoais para treinamento de IA é regida principalmente pelo GDPR ou LGPD(Brasil). As empresas devem ter uma base legal válida para o processamento de dados pessoais e respeitar os direitos e salvaguardas de proteção de dados aplicáveis.
A Lei de IA da UE protege a propriedade intelectual?
Sim, mas apenas de forma limitada e indireta. A Lei de IA da UE não cria novos direitos de propriedade intelectual nem substitui as leis de direitos autorais existentes. No entanto, exige que os fornecedores de IA de uso geral (GPAI) cumpram as regras de direitos autorais da UE, respeitem as opções de exclusão dos detentores de direitos para mineração de texto e dados e publiquem um resumo do conteúdo usado para treinar seus modelos.
Cronograma de implementação da Lei de IA da UE
Aqui estão algumas datas importantes que você precisa saber:
1 de agosto de 2024: A Lei de Inteligência Artificial da UE entrou em vigor.
2 de fevereiro de 2025 : As disposições e definições gerais da Lei começaram a ser aplicadas, juntamente com as oito primeiras proibições de práticas de IA proibidas. Também passaram a ser aplicadas as exigências para que provedores e implementadores promovam a alfabetização em IA entre seus funcionários.
2 de agosto de 2025 : Entraram em vigor as regras para os modelos GPAI, juntamente com disposições que abrangem a governança da IA e as penalidades.
27 de julho de 2026: O Regulamento Omnibus sobre IA entrou em vigor. Formalmente conhecido como Regulamento (UE) 2026/1744, o Regulamento Omnibus sobre IA é uma alteração de 2026 à Lei da IA da UE, concebida para simplificar a sua implementação, reduzir os encargos de conformidade e dar às empresas e aos reguladores mais tempo para se prepararem, mantendo, ao mesmo tempo, as principais proteções de segurança e direitos fundamentais da Lei.
2 de agosto de 2026: A maior parte do restante da Lei de IA tornou-se aplicável, incluindo as regras de transparência que exigem a divulgação ou a marcação técnica de determinados sistemas de IA e conteúdo gerado por IA.
2 de dezembro de 2026: Entra em vigor a nona proibição que abrange CSAM (Conteúdo Sexual Infantil Múltiplo) gerado por IA e representações sexualmente explícitas ou íntimas não consensuais. Os fornecedores de sistemas de IA colocados no mercado antes de 2 de agosto de 2026 que geram texto, imagens, áudio ou vídeo sintéticos também devem cumprir os requisitos de marcação legíveis por máquina da Lei até esta data.
2 de agosto de 2027 : Os Estados-Membros da UE devem ter pelo menos um ambiente nacional de testes regulatórios para IA disponível até esta data, para que as empresas possam desenvolver e testar sistemas de IA sob supervisão regulatória.
2 de dezembro de 2027: Regras de IA de alto risco começam a ser aplicadas a sistemas usados em áreas sensíveis, como biometria, infraestrutura crítica, educação, emprego, serviços essenciais, aplicação da lei, migração e administração da justiça.
2 de agosto de 2028: Os requisitos de alto risco começam a ser aplicados aos sistemas de IA que fazem parte de, ou são componentes de segurança de, produtos regulamentados abrangidos pela legislação de produtos da UE, como determinadas máquinas, dispositivos médicos, brinquedos e elevadores.
Como preparar sua empresa para a conformidade com a Lei de IA da UE
Para as empresas, a maior mudança prática é que a conformidade começa com a definição do papel que a empresa desempenha e do tipo de IA que utiliza. Uma empresa que simplesmente usa um assistente de escrita com IA terá muito menos obrigações do que uma que desenvolve um algoritmo de recrutamento, vende um dispositivo médico com IA ou fornece um modelo GPAI. A lei também pode ser aplicada a empresas fora da UE se elas colocarem sistemas de IA ou modelos GPAI no mercado da UE ou se o resultado de seu sistema de IA for usado na UE.
Para se preparar e manter a conformidade com a Lei de IA da UE, sua empresa deve:
Saber quais ferramentas de IA você utiliza : Monitore os sistemas de IA usados em suas equipes (incluindo ferramentas de terceiros) e entenda para que eles estão sendo usados. Isso pode incluir IA utilizada em RH, atendimento ao cliente, marketing, segurança, análise de dados e outros processos de negócios.
Defina seu papel : Estabeleça se sua empresa é uma fornecedora que desenvolve ou vende um sistema de IA, uma implementadora que o utiliza ou uma importadora ou distribuidora. Obrigações diferentes se aplicam a cada papel.
Classifique a IA por risco : verifique se o uso da IA é proibido, de alto risco, sujeito a requisitos de transparência ou de risco mínimo. Se você estiver usando IA para selecionar candidatos a vagas de emprego, por exemplo, as regras são consideravelmente mais rigorosas do que para filtros de spam de IA.
Interrompa usos proibidos de IA : Audite suas ferramentas e fluxos de trabalho de IA em busca de práticas proibidas e desative ou substitua os sistemas que ultrapassem os limites. Concentre-se especialmente na IA usada para monitorar funcionários, criar perfis de pessoas, analisar dados biométricos , manipular comportamentos ou fazer avaliações sensíveis sobre indivíduos.
Capacitar os funcionários que utilizam IA : Fornecedores e implementadores devem tomar medidas para promover a alfabetização em IA entre os funcionários e outras pessoas que operam sistemas de IA em seu nome. O treinamento deve refletir como a IA está sendo usada na prática e os riscos envolvidos.
Atenda aos requisitos de transparência da IA : Pode ser necessário informar as pessoas quando elas estiverem interagindo com IA, rotular determinados conteúdos gerados ou manipulados por IA ou informar as pessoas quando sistemas permitidos de reconhecimento de emoções ou categorização biométrica estiverem sendo usados.
Aplicar controles mais rigorosos à IA de alto risco : os fornecedores devem gerenciar os riscos, usar dados apropriados, manter documentação e registros, garantir a supervisão humana e atender aos requisitos de precisão, segurança e confiabilidade. Eles também podem precisar concluir avaliações de conformidade e registrar o sistema. As empresas que utilizam IA de alto risco devem seguir as instruções do fornecedor, monitorar seu desempenho e manter os registros necessários.
Verifique as obrigações do GPAI : Se você fornecer modelos GPAI, terá requisitos específicos que abrangem documentação técnica, informações para desenvolvedores subsequentes, conformidade com direitos autorais e resumos do conteúdo de treinamento. Modelos que representam risco sistêmico estão sujeitos a requisitos adicionais de segurança e cibersegurança.
Analise os fornecedores de IA : Se você utiliza IA de terceiros, verifique os sistemas fornecidos pelos fornecedores, como eles são classificados, qual documentação está disponível e quem é responsável por cumprir cada parte da Lei de IA da UE. Modificar ou renomear determinados sistemas de IA também pode transferir as responsabilidades do fornecedor para a sua empresa.
Mantenha a governança de IA atualizada : os sistemas de IA, seus usos e a legislação podem mudar. As empresas devem documentar como a IA é usada, monitorar os sistemas em busca de novos riscos ou incidentes e reavaliar a conformidade quando um sistema de IA for substancialmente alterado ou tiver sua finalidade alterada.
O cumprimento da Lei de Inteligência Artificial não substitui outras obrigações legais. Empresas que utilizam dados pessoais, material protegido por direitos autorais ou inteligência artificial em setores regulamentados também podem precisar cumprir leis como o GDPR, as normas de direitos autorais da UE, a legislação de proteção ao consumidor e regulamentações específicas do setor.
Construa uma abordagem de IA que priorize a privacidade.
A Lei de IA da UE adota uma abordagem baseada em riscos para a IA, e você não precisa necessariamente usar IA para ser afetado por ela. Se você mora na UE, a IA pode influenciar o conteúdo que você vê, os serviços com os quais você interage ou as decisões tomadas a seu respeito, como a possibilidade de comprar determinados produtos ou serviços. Familiarizar-se com a Lei pode, portanto, ajudá-lo a entender quando a IA deve ser divulgada, quais proteções se aplicam e quando você pode questionar ou contestar a forma como um sistema de IA está sendo usado.
Para as empresas, as obrigações dependem do papel que a organização desempenha, de como seus sistemas de IA são utilizados e do nível de risco envolvido.
Por Romain Digneaux
Comentários