Artigo 60 — Ensaios de sistemas de IA de alto risco em condições reais fora das caixas de areia regulatórias de IA (Regulamento UE sobre IA)

Artigo 60 do Regulamento (UE) 2024/1689 — Ensaios de sistemas de IA de alto risco em condições reais fora das caixas de areia regulatórias de IA. Texto oficial, interpretação prática, principais obrigações e implicações de conformidade.

Resumo do texto oficial

O Artigo 60 do Regulamento (UE) 2024/1689 estabelece as condições em que os fornecedores e os potenciais fornecedores de sistemas de IA de alto risco podem realizar ensaios em condições reais fora do quadro estruturado das caixas de areia regulatórias de IA estabelecidas ao abrigo dos Artigos 57 a 59. Esta disposição reconhece que a avaliação significativa dos sistemas de IA de alto risco requer frequentemente exposição a ambientes operacionais genuínos, mantendo simultaneamente salvaguardas proporcionais aos riscos envolvidos.

O artigo exige que os ensaios fora das caixas de areia sejam realizados apenas quando se encontrem satisfeitas um conjunto de condições cumulativas. O fornecedor ou potencial fornecedor deve apresentar uma notificação à autoridade nacional competente pelo menos 30 dias antes do início dos ensaios. A notificação deve incluir um plano de ensaio que descreva o âmbito, a duração, a área geográfica, as categorias de pessoas envolvidas e as medidas de mitigação de riscos em vigor.

O consentimento informado dos sujeitos é um requisito central. Quando o sistema de IA interage ou toma decisões que afetam pessoas singulares identificáveis, essas pessoas devem ser informadas da sua participação e devem consentir explicitamente, salvo se a legislação setorial aplicável dispuser em contrário. Os ensaios não devem exceder o estritamente necessário para alcançar os objetivos declarados e não devem expor os sujeitos a riscos ou danos inaceitáveis.

O artigo exige ainda que os ensaios sejam realizados sob supervisão do fornecedor, que os resultados sejam registados e que os incidentes graves ocorridos durante os ensaios sejam comunicados à autoridade competente. Os Estados-Membros conservam a possibilidade de autorizar ou recusar atividades de ensaio no seu território e podem impor condições adicionais.

O que isto significa na prática

O Artigo 60 é principalmente relevante para as organizações que desenvolvem ou implantam sistemas de IA de alto risco — conforme definidos no Artigo 6.º e no Anexo III do Regulamento — que necessitam de validar o desempenho do sistema ou as propriedades de segurança em ambientes operacionais genuínos antes ou a par da avaliação de conformidade formal. Isto inclui, por exemplo, um hospital a pilotar uma ferramenta de diagnóstico assistida por IA num ambiente clínico real, ou uma instituição financeira a testar um modelo de solvabilidade com candidatos reais fora de uma caixa de areia controlada.

Na prática, a conformidade implica o estabelecimento de um processo interno para a gestão dos ensaios em condições reais que reflita as obrigações do artigo. Antes do início de qualquer ensaio, a organização deve preparar um plano de ensaio estruturado, verificar que todos os mecanismos de consentimento estão em vigor e apresentar a notificação exigida à autoridade competente pelo menos 30 dias antes — deixando tempo adequado para a autoridade levantar objeções ou impor condições.

Durante o ensaio, a organização deve manter supervisão humana ativa, documentar todos os incidentes materiais e estar preparada para suspender os ensaios imediatamente se os riscos excederem os níveis previstos. Os dados recolhidos durante os ensaios continuam sujeitos às obrigações aplicáveis do RGPD, e o tratamento de categorias especiais de dados requer uma base jurídica específica.

As organizações devem também assegurar que os seus contratos com os responsáveis pelo tratamento ou com os operadores de ensaios terceiros afetam claramente a responsabilidade pelo cumprimento das condições do Artigo 60, dado que a obrigação recai principalmente sobre o fornecedor ou potencial fornecedor, independentemente de quem realize fisicamente o ensaio. São fortemente recomendados quadros de governação interna — incluindo uma pessoa responsável designada e um registo de riscos documentado para o ensaio.

Principais obrigações

• Notificação prévia: Apresentar um plano de ensaio à autoridade nacional competente relevante pelo menos 30 dias antes do início dos ensaios em condições reais, abrangendo o âmbito, a duração, a localização, as categorias de sujeitos e as medidas de mitigação de riscos.
• Consentimento informado: Obter o consentimento informado explícito de todas as pessoas singulares envolvidas ou afetadas pelos ensaios e informá-las do seu direito incondicional de retirada em qualquer momento sem prejuízo.
• Proporcionalidade do risco: Assegurar que as atividades de ensaio não excedem o estritamente necessário para o objetivo declarado e não expõem os sujeitos ou terceiros a riscos que superem os benefícios esperados.
• Supervisão e documentação: Manter supervisão ativa do ensaio, manter registos do plano de ensaio, resultados e quaisquer desvios ou incidentes encontrados durante o período de ensaio.
• Comunicação de incidentes: Comunicar sem demora injustificada qualquer incidente grave que ocorra durante os ensaios em condições reais à autoridade competente e tomar medidas corretivas imediatas para atenuar danos.
• Registo na base de dados da UE: Registar a atividade de ensaio em condições reais na base de dados da UE para sistemas de IA de alto risco estabelecida ao abrigo do Artigo 71, antes do início dos ensaios.

Relação com outros artigos

O Artigo 60 faz parte do Título VI (Medidas de apoio à inovação) e deve ser lido a par dos Artigos 57 a 59, que estabelecem o quadro principal para as caixas de areia regulatórias de IA. O Artigo 60 funciona como um percurso complementar para os ensaios que não ocorrem no seio de uma caixa de areia formal, mas não substitui nem reduz as obrigações substantivas de segurança e transparência aplicáveis aos sistemas de IA de alto risco ao abrigo do Título III (em particular, os Artigos 8 a 15 sobre as obrigações dos fornecedores, a gestão de riscos e a documentação técnica).

Os requisitos de consentimento e proteção de dados do Artigo 60 intersectam diretamente com o Regulamento (UE) 2016/679 (RGPD), em particular os Artigos 6.º, 9.º e 22.º sobre o tratamento lícito e a tomada de decisões automatizada. O Artigo 60 também se liga ao Artigo 71 sobre a base de dados da UE, que rege as obrigações de registo, e ao Artigo 73 sobre a vigilância do mercado, uma vez que as autoridades competentes podem inspecionar os ensaios em condições reais. Os fornecedores devem ainda considerar o Artigo 26 sobre as obrigações dos responsáveis pelo tratamento, dado que os ensaios em condições reais envolvem frequentemente infraestruturas e dados do lado do responsável pelo tratamento.

Calendário de conformidade

O Regulamento UE sobre IA entrou em vigor em 1 de agosto de 2024, vinte dias após a sua publicação no Jornal Oficial da União Europeia. As suas disposições aplicam-se por fases:

• 2 de fevereiro de 2025 — As proibições sobre as práticas de IA de risco inaceitável (Artigo 5.º) tornaram-se aplicáveis.
• 2 de agosto de 2025 — As disposições sobre os modelos de IA de uso geral (Título III, Capítulo 3, Artigos 51 a 56) e as obrigações de governação (Título VI e VIII em parte) tornaram-se aplicáveis. O quadro das caixas de areia regulatórias ao abrigo dos Artigos 57 a 59 tornou-se também aplicável a partir desta data.
• 2 de agosto de 2026 — A data de aplicação geral para a maioria das restantes disposições, incluindo o Artigo 60. A partir desta data, os fornecedores e potenciais fornecedores de sistemas de IA de alto risco que pretendam realizar ensaios em condições reais fora das caixas de areia devem cumprir integralmente as obrigações de notificação, consentimento, documentação e comunicação de incidentes estabelecidas por este artigo.
• 2 de agosto de 2027 — Prazo alargado para os sistemas de IA de alto risco abrangidos pelo Anexo III, ponto 2 (sistemas de IA em produtos existentes já sujeitos à legislação de harmonização da União enumerada no Anexo I), concedendo aos setores afetados tempo adicional para se alinharem com os requisitos de avaliação de conformidade e operacionais.

As organizações que planeiem programas de ensaios em condições reais devem começar a conceber quadros de governação de ensaios conformes e procedimentos de notificação muito antes da data de 2 de agosto de 2026, a fim de evitar atrasos quando a obrigação se tornar aplicável.