Artigo 55 — Avaliação e testes adversariais de modelos de IA de uso geral com risco sistémico (Regulamento IA da UE)

Artigo 55 do Regulamento (UE) 2024/1689 — Avaliação e testes adversariais de modelos de IA de uso geral com risco sistémico. Texto oficial, interpretação prática, principais obrigações e implicações de conformidade.

Resumo do Texto Oficial

O artigo 55 do Regulamento (UE) 2024/1689 estabelece obrigações específicas de avaliação e testes adversariais para fornecedores de modelos de IA de uso geral (GPAI) que apresentam risco sistémico. Baseando-se no conjunto mais amplo de obrigações estabelecidas no artigo 53 e nos critérios de classificação de risco sistémico do artigo 51, o artigo 55 exige que tais fornecedores realizem avaliações de modelos de acordo com protocolos padronizados, e realizem testes adversariais — comumente referidos como red-teaming — de forma regular.

As avaliações exigidas ao abrigo do n.º 1, alínea a), devem seguir protocolos e ferramentas padronizados que reflitam o estado da técnica, incluindo os desenvolvidos ou endossados pelo Gabinete de IA. Quando não existam protocolos padronizados, os fornecedores devem conceber e aplicar metodologias adequadas para identificar e avaliar a natureza e a extensão dos riscos sistémicos.

O n.º 1, alínea b), obriga à realização de testes adversariais, a serem efetuados internamente ou mediante a contratação de especialistas externos acreditados, com o objetivo de identificar riscos não captados pelos procedimentos de avaliação padrão. Os fornecedores devem documentar a metodologia, o âmbito e os resultados tanto das avaliações como dos exercícios de testes adversariais, e reportar conclusões significativas ao Gabinete de IA. O próprio Gabinete de IA mantém autoridade ao abrigo do n.º 2 para organizar ou encomendar testes adversariais independentes a qualquer momento. O artigo também obriga os fornecedores a partilhar os resultados das avaliações e os relatórios de testes com as autoridades competentes quando solicitado.

O Que Isto Significa na Prática

Para as organizações que desenvolvem ou implantam modelos GPAI de fronteira, o artigo 55 impõe um processo de garantia de qualidade estruturado e documentado focado especificamente na identificação de danos sistémicos. Na prática, isto significa que antes de lançar um modelo qualificado — e de forma contínua após o lançamento — os fornecedores devem executar tanto avaliações de capacidade padronizadas como exercícios adversariais direcionados concebidos para sondar riscos catastróficos ou generalizados, tais como manipulação em massa, geração de conteúdo relacionado com armas, ciberataques em grande escala ou perturbação de infraestruturas críticas.

Do ponto de vista operacional, a conformidade requer a constituição ou contratação de capacidade multidisciplinar de red-team com especialização em segurança de IA, cibersegurança, desinformação, biossegurança e outros domínios relevantes. As avaliações devem ser conduzidas em relação a benchmarks e protocolos que reflitam o estado atual da técnica; os fornecedores não podem basear-se exclusivamente em metodologias proprietárias e não publicadas se existirem alternativas padronizadas.

A documentação é central. Os fornecedores devem manter registos detalhados de cada ciclo de avaliação — incluindo âmbito, composição da equipa, cenários testados, resultados observados e mitigações aplicadas — e devem ser capazes de produzir estes registos para o Gabinete de IA mediante pedido. Quando os testes revelam riscos sistémicos novos ou agravados, os fornecedores são obrigados a implementar medidas corretivas e, quando o risco é grave, a notificar o Gabinete de IA sem demora injustificada.

Por exemplo, um fornecedor que lança um grande modelo multimodal que excede o limiar de treino de 10^25 FLOP deve programar exercícios de red-team antes do lançamento cobrindo no mínimo: elicitação de conhecimento científico de duplo uso, geração de conteúdo persuasivo em escala, e facilitação de ciberataques automatizados. Após o lançamento, estes exercícios devem recorrer sempre que o modelo sofra ajuste fino significativo ou atualizações de capacidade.

Principais Obrigações

• Avaliações padronizadas: Realizar avaliações de modelos utilizando protocolos e ferramentas padronizados de última geração, incluindo os desenvolvidos ou endossados pelo Gabinete de IA, antes da colocação no mercado e de forma contínua.
• Testes adversariais (red-teaming): Realizar exercícios estruturados de testes adversariais — internamente ou através de terceiros externos qualificados — concebidos para revelar riscos sistémicos não identificados pela avaliação padrão.
• Documentação e manutenção de registos: Manter registos detalhados da metodologia de avaliação, âmbito, cenários testados, resultados e quaisquer medidas corretivas tomadas, com registos disponíveis para o Gabinete de IA mediante pedido.
• Notificação de conclusões significativas: Notificar o Gabinete de IA de riscos sistémicos graves ou recentemente identificados descobertos através de avaliações ou testes adversariais sem demora injustificada.
• Cooperação com testes encomendados pelo Gabinete de IA: Facilitar e cooperar com testes adversariais independentes organizados ou encomendados diretamente pelo Gabinete de IA ao abrigo dos seus poderes de supervisão.
• Conformidade contínua após o lançamento: Repetir avaliações e testes adversariais na sequência de atualizações significativas do modelo, ajuste fino ou alterações nos casos de uso pretendidos que possam alterar o perfil de risco do modelo.

Relação com Outros Artigos

O artigo 55 funciona como a contrapartida operacional da classificação de risco sistémico estabelecida no artigo 51 e das obrigações gerais de GPAI estabelecidas no artigo 53. Deve ser lido em conjunto com o artigo 52, que define o limiar e os critérios para a designação de risco sistémico, e com o artigo 54, que trata das obrigações relativas à documentação técnica para modelos GPAI com risco sistémico. O dever de notificação de incidentes no artigo 73 intersecta-se com o artigo 55 onde os testes adversariais revelam um incidente grave ou quase-incidente que requer notificação. Ao nível de supervisão, a autoridade do Gabinete de IA para encomendar testes ao abrigo do artigo 55(2) baseia-se nos poderes de supervisão mais amplos conferidos pelos artigos 88 e 89. Os fornecedores devem também consultar o Considerando 110, que clarifica a fundamentação para distinguir modelos de risco sistémico e a importância da avaliação de segurança pré-mercado como complemento do monitoramento contínuo.

Cronograma de Conformidade

• 1 de agosto de 2024 — O Regulamento (UE) 2024/1689 entrou em vigor, iniciando o relógio de aplicação faseada.
• 2 de fevereiro de 2025 — As práticas de IA proibidas (Título II) tornaram-se aplicáveis.
• 2 de agosto de 2025 — As disposições do Título V que regulam os modelos de IA de uso geral, incluindo o artigo 55, tornaram-se plenamente aplicáveis. Os fornecedores de modelos GPAI qualificados já no mercado eram obrigados a alcançar a conformidade até esta data.
• 2 de dezembro de 2026 — As obrigações relativas a sistemas de IA de alto risco ao abrigo do Anexo I (sistemas de componentes de segurança) tornam-se aplicáveis.
• 2 de agosto de 2027 — As restantes obrigações relativas a sistemas de IA de alto risco (sistemas do Anexo III) tornam-se aplicáveis.

O artigo 55 está portanto já em vigor. Os fornecedores de modelos GPAI com risco sistémico que ainda não estabeleceram programas de avaliação e testes adversariais estão em incumprimento das obrigações atuais e devem tratar a remediação como uma prioridade imediata.