El artículo 10 es el requisito que falla en silencio. Inventaríe sus conjuntos de datos, confróntelos con los once criterios del artículo 10 y documente el examen de sesgos exigido.
Delivered by email immediately after payment. Excel file, one named user.
El artículo 10 es el requisito que falla en silencio. El modelo funciona. La documentación existe. Y nadie sabe decir de dónde vienen los datos de entrenamiento ni si representan a las personas sobre las que se aplicará el sistema.
Once cosas, más concretas de lo que la mayoría de los equipos espera:
Un inventario de cada conjunto de entrenamiento, validación y prueba con su procedencia y si contiene datos personales. Los once criterios como lista de comprobación con estado y referencia a la prueba. Un registro de examen de sesgos — atributo examinado, método, hallazgo, mitigación aplicada, residual. Y una hoja de lagunas, porque el apartado 2, letra h), pide identificarlas, no no tenerlas.
El apartado 2, letra b), pide el origen y, cuando hay datos personales, la finalidad original de la recogida. Reutilizar datos de clientes para entrenar un modelo es precisamente donde este archivo y su registro del RGPD deben coincidir, y donde con más frecuencia divergen.
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth — including what the AI Act adds on top of an existing DORA programme.
The AI Act for financial institutions ↗ Explore regulation-dora.eu ↗Los conjuntos de entrenamiento, validación y prueba deben ser pertinentes, suficientemente representativos y, en la medida de lo posible, libres de errores y completos atendiendo a la finalidad prevista. El apartado 2 exige además decisiones de diseño documentadas, la procedencia, las operaciones de preparación, las hipótesis, una evaluación de idoneidad, el examen y la mitigación de sesgos, y la identificación de lagunas.
El artículo 10, apartado 5, lo permite estrictamente para detectar y corregir sesgos, con garantías: limitaciones técnicas a la reutilización, seguridad conforme al estado de la técnica y supresión una vez corregido el sesgo. Es un permiso estrecho, no una autorización general.
No tendrá los datos de entrenamiento, pero seguirá necesitando las respuestas: el anexo IV, sección 2, letra d), las pide y su proveedor es la única fuente. Es una cuestión de diligencia y de contrato.