Artigo 15 — Exatidão, robustez e cibersegurança (Regulamento UE sobre IA)

Artigo 15 do Regulamento (UE) 2024/1689 — Exatidão, robustez e cibersegurança. Texto oficial, interpretação prática, obrigações principais e implicações de conformidade.

Resumo do Texto Oficial

O Artigo 15 do Regulamento (UE) 2024/1689 estabelece requisitos técnicos de exatidão, robustez e cibersegurança que devem ser cumpridos pelos sistemas de IA de alto risco ao longo de todo o seu ciclo de vida. O artigo é estruturado em torno de três obrigações interligadas.

Em primeiro lugar, os sistemas de IA de alto risco devem ser concebidos e desenvolvidos para atingir um nível adequado de exatidão para a sua finalidade prevista. Os fornecedores são obrigados a declarar as métricas de exatidão relevantes na documentação técnica que os acompanha, permitindo a verificação a jusante e o escrutínio regulatório.

Em segundo lugar, os sistemas devem demonstrar robustez — a capacidade de lidar com erros, falhas e inconsistências que surgem dentro do próprio sistema, do seu ambiente operacional ou de manipulação adversarial deliberada. O Regulamento menciona expressamente a necessidade de abordar o risco de ciclos de retroalimentação não intencionais, nomeadamente quando um sistema de IA de alto risco influencia os seus próprios dados de treino ou saídas.

Em terceiro lugar, os sistemas devem incorporar medidas de cibersegurança proporcionais aos riscos que apresentam. Estas medidas devem proteger contra tentativas de terceiros de explorar vulnerabilidades do sistema que possam causar o comportamento do sistema de forma prejudicial, tendenciosa ou de outra forma não conforme. O Regulamento reconhece que a resiliência em matéria de cibersegurança não é uma condição estática, mas deve ser mantida à medida que o panorama de ameaças evolui.

Em conjunto, o Artigo 15 operacionaliza o princípio mais amplo — articulado nos Considerandos 51 e 52 — de que a fiabilidade técnica é um pré-requisito para a implantação de IA em domínios consequentes.

O Que Isto Significa na Prática

O Artigo 15 cria obrigações concretas de engenharia e governação para qualquer organização que coloque um sistema de IA de alto risco no mercado da UE ou o coloque em serviço.

Para os fornecedores, a implicação imediata é que a exatidão não é meramente uma afirmação comercial, mas um compromisso regulatório que deve ser documentado, medido e mantido. Um fabricante de dispositivos médicos que integra uma ferramenta de diagnóstico de IA deve especificar se a exatidão é medida como sensibilidade, especificidade, AUC ou outra métrica — e essa escolha deve estar alinhada com a finalidade prevista do sistema e o perfil de risco. Declarações de exatidão vagas ou aspiracionais não satisfarão o requisito.

Os testes de robustez devem ir além da garantia de qualidade padrão. Os fornecedores devem realizar testes de stress, testes fora da distribuição e — quando o sistema está exposto a entradas controladas pelo utilizador — red-teaming adversarial. Quando um sistema incorpora ciclos de retroalimentação (por exemplo, um algoritmo de contratação que aprende com as decisões dos recrutadores), os fornecedores devem mapear e mitigar o risco de que saídas tendenciosas corrompam futuros ciclos de treino.

As obrigações de cibersegurança ao abrigo do Artigo 15 devem ser lidas em conjunto com a postura de segurança da informação mais ampla do fornecedor. Os sistemas de IA de alto risco que tratam dados pessoais ou se ligam a infraestruturas críticas enfrentam obrigações compostas ao abrigo tanto deste Regulamento como da Diretiva NIS 2. As medidas práticas incluem controlos de acesso ao modelo, saneamento de entradas, deteção de anomalias em pedidos de inferência e procedimentos de divulgação de vulnerabilidades.

Para os utilizadores, a conformidade com o Artigo 15 depende substancialmente da preservação das condições operacionais validadas descritas pelo fornecedor. A implantação de um sistema em distribuições de dados materialmente diferentes das utilizadas na validação — por exemplo, aplicar um modelo de pontuação de crédito treinado num mercado nacional a uma jurisdição diferente — pode comprometer as propriedades de exatidão e robustez com base nas quais a marcação CE foi concedida.

Obrigações Principais

• Declarar métricas de exatidão: Os fornecedores devem especificar as métricas de exatidão relevantes para o sistema de IA de alto risco e incluí-las na documentação técnica exigida ao abrigo do Artigo 11 e do Anexo IV. As métricas devem ser adequadas à finalidade prevista do sistema.
• Atingir e manter exatidão adequada: O sistema deve ser concebido e desenvolvido para atingir o nível de exatidão declarado; a exatidão não deve ser tratada como um resultado de validação pontual, mas deve ser monitorizada após a implantação através do sistema de monitorização pós-comercialização exigido ao abrigo do Artigo 72.
• Garantir robustez contra erros e inconsistências: Devem estar em vigor medidas técnicas e organizacionais para que o sistema possa lidar com erros, falhas e inconsistências — quer resultantes de falhas internas, variabilidade ambiental ou entradas adversariais deliberadas — sem causar saídas inseguras ou não conformes.
• Proteger contra ataques adversariais: Quando o sistema está exposto a entradas de terceiros, os fornecedores devem implementar medidas para detetar e resistir à manipulação adversarial, incluindo injeção de prompts, inversão de modelos ou ataques de envenenamento de dados, quando aplicável.
• Abordar riscos de ciclos de retroalimentação: Quando as saídas de um sistema possam influenciar futuros dados de treino ou o comportamento do modelo, os fornecedores devem identificar este risco na documentação técnica e implementar salvaguardas para evitar a degradação do desempenho ou a amplificação do enviesamento ao longo do tempo.
• Implementar medidas de cibersegurança proporcionais: As soluções técnicas — incluindo controlos de acesso, monitorização e procedimentos de resposta a incidentes — devem ser proporcionais aos riscos de cibersegurança apresentados pelo sistema, tendo em conta a sua finalidade prevista, o contexto de implantação e a exposição a redes externas ou entradas controladas pelo utilizador.

Relação com Outros Artigos

O Artigo 15 não pode ser lido de forma isolada. Está no centro dos requisitos técnicos para sistemas de IA de alto risco e intersecta-se com várias outras disposições do Regulamento.

O Artigo 9 (sistema de gestão de riscos) fornece o quadro abrangente no qual os riscos de exatidão, robustez e cibersegurança devem ser identificados, avaliados e mitigados. O sistema de gestão de riscos é o veículo processual para cumprir muitos dos requisitos substantivos que o Artigo 15 impõe.

O Artigo 10 (dados e governação de dados) é fundamental para a exatidão: um sistema treinado com dados de baixa qualidade, não representativos ou tendenciosos não pode alcançar garantias de exatidão significativas. As obrigações de qualidade dos dados permitem diretamente a conformidade com o Artigo 15.

O Artigo 11 e o Anexo IV especificam o que deve constar na documentação técnica, incluindo as métricas de exatidão exigidas pelo Artigo 15(1).

O Artigo 17 (sistema de gestão da qualidade) exige que os fornecedores integrem a conformidade com o Artigo 15 nos seus processos organizacionais, incluindo controlos de conceção, protocolos de teste e procedimentos de gestão de alterações.

O Artigo 72 (monitorização pós-comercialização) cria a obrigação contínua de verificar que os níveis de exatidão e robustez são mantidos após a implantação, fechando o ciclo de vida que o Artigo 15 abre na fase de conceção.

Para os sistemas que são também dispositivos médicos ou componentes de segurança, o Artigo 15 deve ser lido em conjunto com a legislação de harmonização da União aplicável constante do Anexo I.

Calendário de Conformidade

O Artigo 15 segue o calendário de aplicação faseada estabelecido pelo Artigo 113 do Regulamento (UE) 2024/1689, que entrou em vigor em 1 de agosto de 2024.

Os fornecedores que desenvolvam ou coloquem no mercado sistemas de IA de alto risco antes da data aplicável devem, não obstante, preparar com antecedência documentação, protocolos de teste e arquiteturas de cibersegurança — as avaliações de prontidão regulatória e as avaliações de conformidade ao abrigo dos Artigos 43–47 requerem um tempo de preparação substancial. Os atrasos dos organismos notificados e a complexidade dos testes adversariais significam que as organizações que visam um lançamento em 2026 devem iniciar as avaliações de lacunas do Artigo 15 o mais tardar em meados de 2025.