Gabinete de IA da UE: Mandato, Poderes e Papel na Execução do Regulamento IA

O Gabinete de IA da UE, estabelecido na Comissão Europeia, é o principal organismo a nível da UE responsável pela supervisão dos modelos GPAI e pela coordenação da execução do Regulamento IA. Esta página explica o seu mandato, poderes de investigação, autoridade sancionatória e como interage com as autoridades nacionais de vigilância do mercado.

O que é o Gabinete de IA da UE?

O Gabinete de IA da UE (formalmente: Gabinete para a Inteligência Artificial) é o organismo a nível da UE estabelecido na Comissão Europeia para supervisionar a implementação e execução do Regulamento IA da UE — com um mandato específico que abrange os modelos de IA de uso geral (GPAI).

Ao contrário das agências tradicionais da UE (como a ENISA ou o BCE), o Gabinete de IA não é uma autoridade regulatória independente. Está estruturado como um gabinete administrativo na Direção-Geral de Redes de Comunicação, Conteúdos e Tecnologia (DG CONNECT). Esta estrutura dá-lhe acesso direto aos recursos e à definição da agenda da Comissão, mas também significa que as suas decisões de execução são tecnicamente decisões da Comissão sujeitas a revisão judicial da UE.

O Gabinete de IA foi criado cedo — estabelecido formalmente em fevereiro de 2024, vários meses antes de o Regulamento IA ser publicado no Jornal Oficial (julho de 2024) e entrar em vigor (agosto de 2024). Esta criação antecipada foi deliberada: a regulação GPAI é urgente dado o ritmo de desenvolvimento dos modelos de fundação, e a Comissão quis a infraestrutura de execução pronta antes de as obrigações mais urgentes entrarem em vigor.

Base Jurídica e Mandato

A base jurídica do Gabinete de IA da UE é o Capítulo VIII do Regulamento IA da UE (Art.º 64–68), complementado pela Decisão da Comissão de 24 de janeiro de 2024 que o estabeleceu formalmente.

O seu mandato principal abrange três áreas:

1. Supervisão dos Modelos GPAI (Execução Direta)

O Gabinete de IA tem competência exclusiva a nível da UE para supervisionar os fornecedores de modelos de IA de uso geral. Inclui:

• Monitorização do cumprimento das obrigações do Capítulo V (transparência, documentação técnica, conformidade com direitos de autor, comunicação de eficiência energética para modelos com risco sistémico)
• Solicitação e revisão de documentação técnica dos fornecedores GPAI
• Realização de avaliações de modelos GPAI — incluindo testes adversariais e exercícios de red-teaming — para avaliar capacidades e riscos sistémicos
• Emissão de alertas quando um modelo GPAI apresenta risco sistémico
• Imposição de coimas e medidas corretivas

2. Coordenação Transfronteiriça (Sistemas de IA de Alto Risco)

Para os sistemas de IA de alto risco, a execução é principalmente nacional. Mas o Gabinete de IA desempenha um papel fundamental de coordenação:

• Facilitação da troca de informações entre as autoridades nacionais de vigilância do mercado (ASM)
• Tratamento de casos em que um sistema de IA de alto risco não conforme circula em vários Estados-Membros
• Fornecimento de orientações e apoio técnico às autoridades nacionais
• Solicitação de investigações conjuntas onde o impacto transfronteiriço é significativo

3. Apoio Científico e Técnico

O Gabinete de IA opera um Conselho Consultivo Científico composto por especialistas independentes em IA (Art.º 68). Este conselho fornece:

• Avaliações técnicas das capacidades e riscos dos modelos GPAI
• Aconselhamento sobre limiares de classificação (por exemplo, o limiar de computação para modelos GPAI com risco sistémico)
• Contributos para o desenvolvimento de normas, códigos de conduta e metodologias de avaliação

Poderes de Investigação e Execução

O Gabinete de IA da UE tem poderes significativos de investigação sobre os fornecedores de modelos GPAI, incluindo:

Pedidos de Informação

O Gabinete de IA pode solicitar qualquer informação a um fornecedor GPAI que considere necessária para as suas tarefas de supervisão (Art.º 91). Os fornecedores devem responder no prazo fixado pelo Gabinete. O não fornecimento de informações, ou o fornecimento de informações falsas ou enganosas, é em si uma infração passível de sanção.

Avaliações e Testes

O Gabinete de IA pode solicitar que um fornecedor GPAI submeta o seu modelo a avaliação, incluindo:

• Avaliações de capacidade (identificação de capacidades perigosas como assistência QBRN, facilitação de ciberataques ou manipulação em escala)
• Avaliações de segurança e alinhamento
• Testes adversariais / red-teaming

O Gabinete pode conduzir avaliações por conta própria, ou encomendá-las a terceiros qualificados ou autoridades nacionais. O Regulamento IA exige que os fornecedores GPAI com modelos de risco sistémico forneçam acesso aos seus modelos para fins de avaliação.

Inspeções no Local

Para os modelos GPAI com risco sistémico, o Gabinete de IA pode realizar inspeções no local nas instalações do fornecedor, com a assistência das autoridades nacionais do Estado-Membro em causa. Geralmente é necessária notificação prévia, a menos que o Gabinete tenha razões específicas para acreditar que a notificação prévia prejudicaria a investigação.

Medidas Provisórias

Quando existe um risco urgente, o Gabinete de IA pode impor medidas provisórias para prevenir danos graves e irreversíveis. Estas medidas devem ser proporcionadas e estão sujeitas a revisão.

Coimas

As coimas estão estruturadas em três níveis:

Para PME e startups, aplica-se o mais baixo entre o montante fixo ou a percentagem do volume de negócios. O Gabinete de IA deve ter em conta a natureza, gravidade, duração e consequências da infração, bem como os níveis de cooperação demonstrados pelo fornecedor.

O Código de Conduta para GPAI

Um instrumento fundamental do Gabinete de IA é o Código de Conduta para GPAI — um instrumento voluntário técnico desenvolvido através de um processo multi-partes interessadas que traduz as obrigações do Capítulo V do Regulamento em orientações concretas de implementação.

O processo do Código de Conduta começou em outubro de 2024, com o Gabinete de IA a convocar grupos de trabalho de fornecedores GPAI, investigadores académicos, organizações da sociedade civil e autoridades nacionais. Abrange:

• Obrigações de transparência para fornecedores GPAI (resumos de dados de treino, documentação de capacidades)
• Procedimentos de conformidade com direitos de autor
• Metodologias de avaliação de modelos para avaliação do risco sistémico
• Normas de segurança e proteção para modelos GPAI com risco sistémico

O cumprimento do Código de Conduta cria uma presunção de conformidade com as obrigações correspondentes do Capítulo V. Este é um benefício significativo: os fornecedores que seguem o Código podem invocar-no em processos de execução em vez de terem de demonstrar conformidade do zero.

O Conselho de IA

O Conselho de IA (Art.º 65) opera em paralelo com o Gabinete de IA. É composto por:

• Um representante por Estado-Membro da UE (autoridades de supervisão nacionais)
• Um representante da Autoridade Europeia para a Proteção de Dados (AEPD)
• Um representante da Comissão (presidente sem direito de voto)

As funções do Conselho de IA incluem:

• Emissão de pareceres e recomendações ao Gabinete de IA e à Comissão
• Coordenação das abordagens de supervisão nacionais
• Aconselhamento sobre a classificação de sistemas e modelos de IA
• Contribuição para o desenvolvimento de normas e metodologias de avaliação

O Conselho é um organismo de aconselhamento e coordenação — não tem autoridade direta de execução. No entanto, os seus pareceres têm peso significativo e espera-se que o Gabinete de IA os tome em consideração.

Autoridades Nacionais de Vigilância do Mercado

Para os sistemas de IA de alto risco (não os modelos GPAI), as autoridades nacionais de vigilância do mercado (ASM) são os principais organismos de execução. Cada Estado-Membro deve designar pelo menos uma ASM responsável pela execução do Regulamento IA no seu território.

As ASM têm autoridade para:

• Realizar atividades de vigilância do mercado
• Solicitar documentação técnica e registos de acesso a fornecedores e utilizadores finais
• Ordenar medidas corretivas (retirada, rechamada, restrição do acesso ao mercado)
• Impor coimas ao abrigo da legislação nacional de transposição

O Gabinete de IA coordena com as ASM através do Conselho de IA e através da cooperação bilateral, mas não as comanda. Os Estados-Membros são responsáveis por dotar e capacitar as suas ASM.

Implicações Práticas para os Fornecedores GPAI

Se está a desenvolver ou a implantar um modelo de IA de uso geral acessível no mercado da UE, o Gabinete de IA da UE é o seu principal interlocutor regulatório. Praticamente, isso significa:

1. Registar e documentar proativamente — o Gabinete de IA espera que os fornecedores tenham documentação técnica pronta antes de serem solicitados. Procurar preparar documentação após uma inquirição não é uma postura de conformidade forte.

2. Envolver-se com o Código de Conduta — a participação no processo do Código de Conduta para GPAI, e a adoção das suas disposições, cria uma presunção de conformidade e demonstra boa fé perante o Gabinete de IA.

3. Conhecer o seu estatuto de risco sistémico — o limiar atual para a classificação de risco sistémico é a computação de treino superior a 10^25 FLOPs. Se o seu modelo está próximo ou acima deste limiar, envolva-se com o Gabinete de IA proativamente sobre as obrigações de avaliação.

4. Preparar-se para avaliações — se desenvolve um modelo GPAI com risco sistémico, deve ser capaz de fornecer acesso ao modelo para avaliação. Tal requer infraestrutura técnica para acesso controlado via API, cooperação em testes adversariais e documentação dos resultados de red-teaming.

5. Monitorizar alertas e pareceres — o Gabinete de IA publica orientações, alertas e pareceres no seu website. Não são regulamentos vinculativos, mas sinalizam prioridades de execução e posições interpretativas que moldarão as investigações.