Working template

Registro de riesgos de IA — sistema de gestión de riesgos (art. 9)

Updated

El artículo 9 exige un sistema de gestión de riesgos durante todo el ciclo de vida. Aquí está como registro de trabajo: 18 escenarios ya redactados, puntuados y vinculados a su artículo.

€99 excl. VAT · one-time

Delivered by email immediately after payment. Excel file, one named user.

El artículo 9 no pide una evaluación de riesgos. Pide un sistema: continuo, documentado, a lo largo de todo el ciclo de vida de un sistema de IA de alto riesgo, que identifique los riesgos, los estime, los evalúe tras la introducción en el mercado y adopte medidas.

La distancia entre ambas cosas es exactamente donde están la mayoría de los programas. Una evaluación puntual produce un documento. El artículo 9 quiere un proceso que siga produciendo pruebas.

Qué contiene el archivo

Dieciocho escenarios de riesgo ya redactados. Datos de entrenamiento que no representan a la población de despliegue, sesgos históricos reproducidos, deriva tras el despliegue, el revisor que solo valida, el responsable del despliegue que se convierte en proveedor sin advertirlo conforme al artículo 25, el proveedor que niega la información del anexo IV, el incidente grave sin ruta hacia el artículo 73. Cada uno lleva su artículo y una medida de mitigación de partida.

La primera revisión pasa a ser una conversación sobre su situación en lugar de una página en blanco.

Una puntuación con sentido

Probabilidad × impacto, donde impacto significa impacto en la salud, la seguridad o los derechos fundamentales — el artículo 9, apartado 2, no pregunta por su cuenta de resultados. El riesgo residual se puntúa tras la mitigación y se registra con el nombre de quien lo aceptó, porque eso es exactamente lo que espera el apartado 2, letra d).

Una hoja sobre el ámbito del anexo III con las exclusiones, para no rellenar el registro de un sistema que nunca fue de alto riesgo.

Un panel que recalcula: cuántos riesgos son altos, cuántos siguen abiertos y cómo se reparten entre los ocho temas.

La reserva honesta

Un registro sin ningún riesgo residual aceptado no ha terminado su trabajo. El archivo lo dice en el panel. El artículo 9 prevé que quede riesgo y pide juzgarlo aceptable y decirlo, no llegar a cero.

What it covers in the regulation

Frequently Asked Questions

Un sistema de gestión de riesgos a lo largo de todo el ciclo de vida de un sistema de IA de alto riesgo: identificación y análisis de los riesgos conocidos y previsibles, estimación de los que puedan surgir con el uso, evaluación de los procedentes de la vigilancia poscomercialización y adopción de medidas adecuadas. Es un proceso continuo, no una evaluación puntual.

No. El artículo 9, apartado 2, se refiere a los riesgos para la salud, la seguridad y los derechos fundamentales. Seguir el impacto financiero en su organización es legítimo, pero no es lo que pregunta este artículo.

No. El artículo 9 prevé que subsista un riesgo residual y pide juzgarlo aceptable y comunicarlo. Un registro donde nada se ha aceptado no ha completado el ejercicio.