UE ordena que os principais laboratórios de IA detalhem suas práticas de segurança.
A Comissão Europeia fez uso pela primeira vez dos novos poderes de fiscalização da IA esta semana, disse a Comissária de Tecnologia, Henna Virkkunen, ao Euractiv , solicitando informações de desenvolvedores líderes sobre segurança cibernética, segurança da informação e conformidade com os direitos autorais.
Este é o primeiro passo da UE para implementar a Lei de IA e surge apenas algumas semanas após uma série de incidentes de cibersegurança de grande repercussão em vários laboratórios de IA de referência. A lei exige que os desenvolvedores de modelos poderosos avaliem e mitiguem os riscos potenciais.
Virkkunen não especificou de quais empresas a Comissão solicitou as informações, mas confirmou que alguns desenvolvedores dos modelos de IA "mais avançados" receberam solicitações.
“Nem todos os fornecedores estão abrangidos por este pedido de informação porque, com alguns deles, já mantivemos um diálogo muito próximo nos últimos meses”, disse ela em entrevista.
A Anthropic, a OpenAI, o Google, a Meta e a Mistral não responderam de imediato quando a Euractiv perguntou se a Comissão as havia contatado.
Virkkunen afirmou que a UE queria garantir que os laboratórios em questão tivessem implementado boas medidas de cibersegurança e proteção de infraestrutura física para seus modelos.
“Trata-se muito de como eles estão mitigando os riscos, para impedir que humanos ou IA roubem o modelo”, acrescentou ela.
Segundo Virkkunen, a Comissão também está preocupada com o nível de acesso que os desenvolvedores estão concedendo aos avaliadores externos de modelos, e com a forma como as recomendações externas de segurança são implementadas, bem como com a maneira como os laboratórios monitoram o uso do modelo depois que uma IA se torna pública.
Em outra frente, as autoridades da UE responsáveis pela aplicação das leis de IA também solicitaram a mais de 30 empresas de IA que detalhassem como estão cumprindo as normas europeias de direitos autorais.
De acordo com a Lei de Inteligência Artificial, os modelos de treinamento dos laboratórios devem fornecer um resumo dos dados utilizados para o desenvolvimento de sua tecnologia. Até o momento, muitos fizeram apenas divulgações tímidas ou nenhuma divulgação, como relatado anteriormente pela Euractiv .
Virkkunen afirmou que a Comissão entrou em contato com desenvolvedores que não publicaram o formulário de dados de treinamento ou não responderam a consultas informais sobre o cumprimento dos direitos autorais.
As empresas são legalmente obrigadas a fornecer à Comissão as informações que esta solicita formalmente para apoiar a supervisão da Lei de Inteligência Artificial. Se uma solicitação não for respondida, a Comissão poderá intensificar o processo com a emissão de uma nova solicitação, cuja recusa em atendê-las poderá resultar em multas.
Além disso, o alcance mais amplo dos poderes de fiscalização da Lei de IA da Comissão permite que ela realize avaliações de modelos ou solicite que as empresas tomem medidas específicas. Como último recurso, pode aplicar multas por descumprimento de até 3% do faturamento anual da empresa.
Comentários