El artículo 10 es el requisito que falla en silencio. Inventaríe sus conjuntos de datos, confróntelos con los once criterios del artículo 10 y documente el examen de sesgos exigido.
Pago seguro con Stripe. Entrega inmediata por correo electrónico, licencia nominal.
El artículo 10 es el requisito que falla en silencio. El modelo funciona. La documentación existe. Y nadie sabe decir de dónde vienen los datos de entrenamiento ni si representan a las personas sobre las que se aplicará el sistema.
Once cosas, más concretas de lo que la mayoría de los equipos espera:
Un inventario de cada conjunto de entrenamiento, validación y prueba con su procedencia y si contiene datos personales. Los once criterios como lista de comprobación con estado y referencia a la prueba. Un registro de examen de sesgos — atributo examinado, método, hallazgo, mitigación aplicada, residual. Y una hoja de lagunas, porque el apartado 2, letra h), pide identificarlas, no no tenerlas.
El apartado 2, letra b), pide el origen y, cuando hay datos personales, la finalidad original de la recogida. Reutilizar datos de clientes para entrenar un modelo es precisamente donde este archivo y su registro del RGPD deben coincidir, y donde con más frecuencia divergen.
¿Su organización está sujeta tanto al AI Act como a DORA? Los dos reglamentos se cruzan en la resiliencia operativa de los sistemas de IA financieros. Nuestro sitio hermano regulation-dora.eu cubre DORA en profundidad — incluido lo que el AI Act añade sobre un programa DORA ya existente.
El AI Act para entidades financieras ↗ Explorar regulation-dora.eu ↗Los conjuntos de entrenamiento, validación y prueba deben ser pertinentes, suficientemente representativos y, en la medida de lo posible, libres de errores y completos atendiendo a la finalidad prevista. El apartado 2 exige además decisiones de diseño documentadas, la procedencia, las operaciones de preparación, las hipótesis, una evaluación de idoneidad, el examen y la mitigación de sesgos, y la identificación de lagunas.
El artículo 10, apartado 5, lo permite estrictamente para detectar y corregir sesgos, con garantías: limitaciones técnicas a la reutilización, seguridad conforme al estado de la técnica y supresión una vez corregido el sesgo. Es un permiso estrecho, no una autorización general.
No tendrá los datos de entrenamiento, pero seguirá necesitando las respuestas: el anexo IV, sección 2, letra d), las pide y su proveedor es la única fuente. Es una cuestión de diligencia y de contrato.