Regolamento UE sull'IA: Fornitori vs. Deployer — Chi è Responsabile di Cosa?

Il Regolamento UE sull'IA divide gli obblighi tra fornitori (che sviluppano sistemi AI) e deployer (che li mettono in pratica). Capire quale ruolo si occupa determina il proprio onere di conformità — e se è possibile trasferire la responsabilità a un'altra parte.

L'architettura a due soggetti del Regolamento UE sull'IA

Il Regolamento UE sull'IA non crea un singolo obbligo universale per tutti gli stakeholder dell'IA. Distingue sistematicamente tra due ruoli primari nella catena del valore dell'IA:

• Fornitori — soggetti che sviluppano, addestrano o affinano sistemi AI e li portano al mercato
• Deployer — soggetti che gestiscono sistemi AI in un contesto professionale senza averli sviluppati

Questa distinzione non è semantica. Determina quali obblighi si applicano, chi detiene quale documentazione, chi si registra nella banca dati AI dell'UE, chi esegue la valutazione della conformità e chi è responsabile quando qualcosa va storto. Capire correttamente il proprio ruolo è il primo passo in qualsiasi programma di conformità al Regolamento UE sull'IA.

Un terzo ruolo — mandatario autorizzato — si applica ai fornitori stabiliti al di fuori dell'UE che devono designare un rappresentante con sede nell'UE per portare i propri obblighi normativi sul territorio UE.

Definizione del Fornitore (Art. 3(3))

Un fornitore è qualsiasi persona fisica o giuridica, autorità pubblica, agenzia o altro organismo che:

1. Sviluppa un sistema AI o ne fa sviluppare uno, e
2. Lo immette sul mercato o lo mette in servizio sotto il proprio nome o marchio commerciale — che sia a pagamento o gratuitamente

Gli indicatori chiave dello status di fornitore sono la responsabilità di sviluppo e l'immissione sul mercato. Un laboratorio AI che sviluppa e concede in licenza un modello di scoring creditizio è un fornitore. Una società di consulenza che progetta e sviluppa uno strumento personalizzato di screening per il reclutamento per un cliente, poi lo consegna, è anche un fornitore (a condizione che immetta il sistema sul mercato sotto il proprio nome; se è sviluppato con il marchio del cliente, il cliente potrebbe essere il fornitore).

La definizione comprende:

• Start-up AI e fornitori di software che vendono prodotti AI confezionati
• Imprese che sviluppano sistemi AI per il dispiegamento interno
• Istituti di ricerca che pubblicano sistemi AI per uso generale
• Fornitori cloud che offrono IA come servizio con il proprio marchio

I fornitori portano il più pesante onere di conformità ai sensi del Regolamento. Per i sistemi ad alto rischio, ciò include la conduzione di valutazioni della conformità, la preparazione della documentazione tecnica, la registrazione nella banca dati AI dell'UE, l'apposizione della marcatura CE e il mantenimento di un sistema di monitoraggio post-commercializzazione.

Definizione del Deployer (Art. 3(4))

Un deployer è qualsiasi persona fisica o giuridica, autorità pubblica, agenzia o altro organismo che utilizza un sistema AI sotto la propria responsabilità per uno scopo professionale — eccetto quando l'uso è in un'attività personale non professionale.

I deployer non sviluppano sistemi AI. Utilizzano sistemi sviluppati da altri — che siano acquistati pronti all'uso, concessi in licenza tramite API o integrati in un prodotto SaaS. La stragrande maggioranza delle organizzazioni europee che "utilizzano l'IA" sono deployer: aziende che utilizzano ChatGPT o Claude tramite API, dipartimenti HR che utilizzano il monitoraggio automatizzato dei candidati basato sull'IA, ospedali che utilizzano strumenti di diagnostica assistita dall'IA, banche che utilizzano modelli di credito forniti da fornitori.

Obblighi principali del deployer (per i sistemi AI ad alto rischio):

• Utilizzare il sistema solo in conformità con le istruzioni fornite dal fornitore (Art. 26(1))
• Assegnare una persona fisica con competenza, autorità e risorse per eseguire la supervisione umana (Art. 26(2))
• Garantire che i dati di input siano pertinenti e rappresentativi per lo scopo previsto (Art. 26(5))
• Monitorare il funzionamento del sistema per rilevare anomalie (Art. 26(5))
• Conservare i registri prodotti dal sistema per il periodo richiesto (Art. 26(6))
• Notificare al fornitore e all'autorità competente qualsiasi incidente grave (Art. 26(8))
• Condurre una Valutazione dell'Impatto sulla Protezione dei Dati ove richiesto dal GDPR (Art. 26(9))

I deployer di sistemi di riconoscimento delle emozioni e di categorizzazione biometrica devono anche rispettare gli obblighi di trasparenza dell'Art. 50 indipendentemente dalla classificazione del rischio.

Il confine Fornitore-Deployer nella pratica

Il confine tra fornitore e deployer è semplice in teoria ma sfumato nella pratica. Tre scenari illustrano le zone grigie comuni:

Scenario 1: SaaS pronto all'uso senza personalizzazione

Un'azienda si abbona a una piattaforma di screening HR basata sull'IA di un fornitore senza alcuna modifica. Il fornitore è il provider. L'azienda è il deployer. Il fornitore deve all'azienda le istruzioni per l'uso, la documentazione di conformità e la capacità di registrazione. L'azienda deve ai propri dipendenti trasparenza e supervisione umana.

Scenario 2: Integrazione API con ingegneria del prompt significativa

Un'azienda integra un modello GPAI tramite API, aggiunge un prompt di sistema personalizzato, sviluppa un'interfaccia utente e rilascia l'applicazione ai clienti. Per il modello GPAI sottostante, lo sviluppatore originale è il provider. Per l'applicazione sviluppata sopra, l'azienda è il provider — ha sviluppato un sistema AI e lo ha immesso sul mercato con il proprio marchio. Gli obblighi di fornitore e GPAI si applicano a diversi livelli.

Scenario 3: Sviluppo interno personalizzato

Una banca sviluppa il proprio modello di valutazione del merito creditizio, lo addestra su dati proprietari e lo dispiega internamente per le decisioni sui prestiti. La banca è simultaneamente il provider (ha sviluppato e dispiegato il sistema) e il deployer (gestisce il sistema per le proprie finalità). Si applicano tutti gli obblighi del provider ai sensi del Regolamento — inclusa la valutazione della conformità per questo caso d'uso ad alto rischio dell'Allegato III — nonché tutti gli obblighi del deployer.

Quando i Deployer Diventano Fornitori (Art. 25)

L'Art. 25 stabilisce trigger chiari mediante i quali un deployer assume lo status di fornitore ed eredita tutti gli obblighi del fornitore:

1. Modifica sostanziale — il deployer apporta una modifica sostanziale a un sistema AI ad alto rischio oltre quanto previsto dal provider originale
2. Cambiamento dello scopo che determina la classificazione ad alto rischio — il deployer utilizza un sistema non ad alto rischio in un modo che soddisfa i criteri ad alto rischio dell'Allegato III
3. Immissione sotto il proprio nome — il deployer immette il sistema AI sul mercato o lo mette in servizio sotto il proprio nome o marchio commerciale
4. Modifica del modello GPAI — un deployer che apporta modifiche sostanziali a un modello GPAI in un modo che altera il suo caso d'uso per uso generale

Quando l'Art. 25 viene attivato, gli obblighi del provider originale si trasferiscono al nuovo provider. Il provider originale viene sollevato dagli obblighi per il sistema modificato o ridestinato. Questo è un importante meccanismo di allocazione della responsabilità: le organizzazioni che si limitano a personalizzare un sistema devono capire dove finisce la personalizzazione e dove inizia la modifica sostanziale.

Tabella di Confronto degli Obblighi

Come Determinare il Vostro Ruolo

Tre domande stabiliscono il vostro ruolo ai sensi del Regolamento UE sull'IA:

1. Avete sviluppato il sistema AI, o lo avete fatto sviluppare sotto la vostra direzione? Se sì — e lo avete immesso sul mercato o in servizio — siete un fornitore.

2. State utilizzando un sistema AI sviluppato da qualcun altro per uno scopo professionale? Se sì, siete un deployer.

3. Avete sostanzialmente modificato, ridestinato o ribrandizzato un sistema AI? Se sì, potreste essere diventati un fornitore per quel sistema modificato ai sensi dell'Art. 25.

Per le organizzazioni che sono entrambi — sviluppo interno per uso interno — tutti gli obblighi si accumulano. Non vi è alcuna riduzione per le operazioni integrate.

Allocazione Contrattuale delle Responsabilità

Il Regolamento consente ai fornitori e ai deployer di allocare contrattualmente obblighi specifici. L'Art. 25(1) lo permette esplicitamente per alcuni obblighi. Tuttavia, si applicano due limiti:

• La responsabilità normativa non può essere delegata contrattualmente. Se il deployer gestisce un sistema ad alto rischio, rimane responsabile degli obblighi del deployer indipendentemente da quanto dice il contratto. I contratti possono stabilire ricorsi interni ma non possono trasferire la responsabilità normativa all'altra parte.
• Il flusso di informazioni deve essere preservato. Qualsiasi allocazione deve garantire al deployer le informazioni necessarie per adempiere ai propri obblighi — istruzioni per l'uso, accesso alla registrazione, canali di segnalazione degli incidenti. I contratti che interrompono questo flusso di informazioni sono problematici per la conformità, non solo commercialmente.

I team di approvvigionamento dovrebbero utilizzare i contratti con i fornitori AI per garantire che i fornitori forniscano ciò di cui i deployer hanno bisogno: istruzioni, documentazione di conformità, canali di notifica degli incidenti, impegni di aggiornamento e termini di governance dei dati per qualsiasi dato condiviso per la messa a punto.