Artikolu 15 — Preċiżjoni, robustezza u ċibersigurtà (Att tal-UE dwar l-IA)

Artikolu 15 tar-Regolament (UE) 2024/1689 — Preċiżjoni, robustezza u ċibersigurtà. Test uffiċjali, interpretazzjoni prattika, obbligi ewlenin u implikazzjonijiet ta' konformità.

Sommarju tat-Test Uffiċjali

L-Artikolu 15 tar-Regolament (UE) 2024/1689 jistabbilixxi rekwiżiti tekniċi ta' preċiżjoni, robustezza u ċibersigurtà li s-sistemi tal-IA ta' riskju għoli għandhom jissodisfaw tul il-ħajja kollha tagħhom. L-artikolu huwa strutturali madwar tliet obbligi li jintrabtu flimkien.

L-ewwel, is-sistemi tal-IA ta' riskju għoli għandhom jiġu ddisinjati u żviluppati biex jinkiseb livell xieraq ta' preċiżjoni għall-iskop maħsub tagħhom. Il-fornituri huma meħtieġa jiddikjaraw il-metriċi rilevanti tal-preċiżjoni fid-dokumentazzjoni teknika li takkumpanjahom, filwaqt li jippermettu l-verifika downstream u l-iskrutinju regolatorju.

It-tieni, is-sistemi għandhom juru robustezza — il-kapaċità li jittrattaw żbalji, difetti u inkoerenza li jinqalgħu minn ġewwa s-sistema stess, mill-ambjent operattiv tagħha, jew minn manipulazzjoni avversarja deliberata. Ir-Regolament isemmi espressament il-ħtieġa li tiġi indirizzata r-riskju ta' loops ta' feedback mhux intenzjonali, b'mod partikolari fejn sistema tal-IA ta' riskju għoli tinfluwenza d-data tat-taħriġ tagħha stess jew l-outputs.

It-tielet, is-sistemi għandhom jinkorporaw miżuri ta' ċibersigurtà proporzjonali għar-riskji li jippreżentaw. Dawn il-miżuri għandhom jipproteġu kontra tentattivi ta' partijiet terzi li jisfruttaw vulnerabbiltajiet tas-sistema li jistgħu jikkawżaw li s-sistema taġixxi b'mod li jagħmel ħsara, b'preġudizzju, jew mod ieħor mhux konformi. Ir-Regolament jagħraf li r-reżiljenza taċ-ċibersigurtà mhijiex kondizzjoni statika iżda trid tinżamm hekk kif il-panorama tat-theddid tiżviluppa.

Meħudin flimkien, l-Artikolu 15 joperazzjonalizza l-prinċipju usa' — imfisser fil-Premessi 51 u 52 — li l-affidabbiltà teknika hija prerekwiżit għall-użu tal-IA f'dominji b'konsegwenzi importanti.

X'Jfisser Dan fil-Prattika

L-Artikolu 15 joħloq obbligi konkreti ta' inġinerija u governanza għal kull organizzazzjoni li tqiegħed sistema tal-IA ta' riskju għoli fis-suq tal-UE jew tqegħidha fis-servizz.

Għall-fornituri, l-implikazzjoni immedjata hija li l-preċiżjoni mhijiex biss talba kummerċjali iżda impenn regolatorju li għandu jiġi dokumentat, imkejjel u miżmum. Manifattur ta' apparat mediku li jintegra għodda ta' dijanjosi tal-IA għandu jispeċifika jekk il-preċiżjoni titkejjilx bħala sensittività, speċifiċità, AUC, jew metrika oħra — u dik l-għażla għandha tkun allinjata mal-iskop maħsub u l-profil ta' riskju tas-sistema. Dikjarazzjonijiet ta' preċiżjoni vagi jew aspirazzjonali ma jissodisfawx ir-rekwiżit.

It-testjar ta' robustezza għandu jmur lil hinn mill-assigurazzjoni standard tal-kwalità. Il-fornituri għandhom iwettqu testjar ta' stress, testjar out-of-distribution, u — fejn is-sistema hija esposta għal inputs ikkontrollati mill-utent — red-teaming avversarju. Fejn sistema tinkorporja loops ta' feedback (pereżempju, algoritmu ta' reklutaġġ li jitgħallem mid-deċiżjonijiet tar-reklutatur), il-fornituri għandhom jimappjaw u jnaqqsu r-riskju li outputs bi preġudizzju jikkorrumpu ċikli ta' taħriġ futuri.

L-obbligi ta' ċibersigurtà skont l-Artikolu 15 għandhom jinqraw flimkien mal-pożizzjoni usa' ta' sigurtà tal-informazzjoni tal-fornitur. Is-sistemi tal-IA ta' riskju għoli li jipproċessaw data personali jew jikkollegaw ma' infrastruttura kritika jiffaċċjaw obbligi miżjuda kemm skont dan ir-Regolament kif ukoll id-Direttiva NIS 2. Il-passi prattiċi jinkludu kontrolli ta' aċċess għall-mudell, sanitizzazzjoni tal-input, detezzjoni ta' anomalija fuq talbiet ta' inferenza, u proċeduri ta' żvelar tal-vulnerabbiltajiet.

Għall-utenti, il-konformità mal-Artikolu 15 tiddependi sostanzjalment fuq il-preservazzjoni tal-kondizzjonijiet operattivi validati deskritti mill-fornitur. L-użu ta' sistema fuq distribuzzjonijiet ta' data materjalment differenti minn dawk użati fil-validazzjoni — pereżempju, l-applikazzjoni ta' mudell ta' skoring tal-kreditu mħarreġ fuq suq nazzjonali wieħed lil ġurisdizzjoni differenti — jista' jdgħajjef il-proprjetajiet ta' preċiżjoni u robustezza li fuqhom ingħata l-mmarkar CE.

Obbligi Ewlenin

• Iddikjara l-metriċi tal-preċiżjoni: Il-fornituri għandhom jispeċifikaw il-metriċi rilevanti tal-preċiżjoni għas-sistema tal-IA ta' riskju għoli u jinkluduhom fid-dokumentazzjoni teknika meħtieġa skont l-Artikolu 11 u l-Anness IV. Il-metriċi għandhom ikunu xierqa għall-iskop maħsub tas-sistema.
• Jiksbu u jżommu preċiżjoni xierqa: Is-sistema għandha tiġi ddisinjata u żviluppata biex tinkiseb il-livell ta' preċiżjoni ddikjarat; il-preċiżjoni m'għandhiex tiġi ttrattata bħala riżultat ta' validazzjoni ta' darba iżda għandha tiġi mmonitorjata wara l-użu permezz tas-sistema ta' monitoraġġ ta' wara t-tqegħid fis-suq meħtieġa skont l-Artikolu 72.
• Tiżgura robustezza kontra żbalji u inkoerenza: Miżuri tekniċi u organizzattivi għandhom ikunu fis-seħħ sabiex is-sistema tkun tista' tittratta żbalji, difetti u inkoerenza — sew jekk jinqalgħu minn fallimenti interni, varjabbiltà ambjentali, jew inputs avversarji deliberati — mingħajr ma tikkawża outputs mhux siguri jew mhux konformi.
• Tgħasses kontra attakki avversarji: Fejn is-sistema hija esposta għal inputs ta' partijiet terzi, il-fornituri għandhom jimplimentaw miżuri biex jidentifikaw u jirżistu l-manipulazzjoni avversarja, inkluż l-injezzjoni ta' prompt, l-inversjoni tal-mudell, jew attakki ta' avvelenament tad-data fejn applikabbli.
• Tindirizza r-riskji tal-loop ta' feedback: Fejn l-outputs ta' sistema jistgħu jinfluwenzaw data ta' taħriġ futura jew l-imġiba tal-mudell, il-fornituri għandhom jidentifikaw dan ir-riskju fid-dokumentazzjoni teknika u jimplimentaw salvagwardji biex jipprevjenu d-degradazzjoni tal-prestazzjoni jew l-amplifikazzjoni tal-preġudizzju maż-żmien.
• Jimplimentaw miżuri ta' ċibersigurtà proporzjonali: Is-soluzzjonijiet tekniċi — inkluż kontrolli ta' aċċess, monitoraġġ, u proċeduri ta' rispons għall-inċidenti — għandhom ikunu proporzjonali għar-riskji ta' ċibersigurtà ppreżentati mis-sistema, filwaqt li jitqiesu l-iskop maħsub tagħha, il-kuntest tal-użu, u l-espożizzjoni għal networks esterni jew inputs ikkontrollati mill-utent.

Relazzjoni ma' Artikoli Oħra

L-Artikolu 15 ma jistax jinqara iżolat. Jinsab fil-qalba tar-rekwiżiti tekniċi għas-sistemi tal-IA ta' riskju għoli u jinterseka ma' diversi dispożizzjonijiet oħra tar-Regolament.

L-Artikolu 9 (sistema ta' ġestjoni tar-riskju) jipprovdi l-qafas ġenerali li fih ir-riskji ta' preċiżjoni, robustezza u ċibersigurtà għandhom jiġu identifikati, ivvalutati u mnaqqsa. Is-sistema ta' ġestjoni tar-riskju hija l-vettura proċedurali biex jintlaħqu ħafna mir-rekwiżiti sostantivi li l-Artikolu 15 jimponi.

L-Artikolu 10 (data u governanza tad-data) huwa fundamentali għall-preċiżjoni: sistema mħarrġa fuq data ta' kwalità baxxa, mhux rappreżentattiva, jew bi preġudizzju ma tistax tinkiseb garanziji ta' preċiżjoni meqjusa. L-obbligi tal-kwalità tad-data jippermettu direttament il-konformità mal-Artikolu 15.

L-Artikolu 11 u l-Anness IV jispeċifikaw x'għandu jidher fid-dokumentazzjoni teknika, inkluż il-metriċi ta' preċiżjoni meħtieġa mill-Artikolu 15(1).

L-Artikolu 17 (sistema ta' ġestjoni tal-kwalità) jitlob lill-fornituri biex jinkorporaw il-konformità mal-Artikolu 15 fil-proċessi organizzattivi tagħhom, inkluż kontrolli tad-disinn, protokolli ta' testjar, u proċeduri ta' ġestjoni tal-bidla.

L-Artikolu 72 (monitoraġġ ta' wara t-tqegħid fis-suq) joħloq l-obbligu kontinwu li jiġi verifikat li l-livelli ta' preċiżjoni u robustezza jinżammu wara l-użu, u jagħlaq il-linja tal-ħajja li l-Artikolu 15 jiftaħ fl-istadju tad-disinn.

Għas-sistemi li huma wkoll apparat mediku jew komponenti tas-sigurtà, l-Artikolu 15 għandu jinqara flimkien mal-leġiżlazzjoni applikabbli ta' armonizzazzjoni tal-Unjoni elenkati fl-Anness I.

Skeda ta' Konformità

L-Artikolu 15 jsegwi l-iskeda ta' applikazzjoni gradwali stabbilita mill-Artikolu 113 tar-Regolament (UE) 2024/1689, li daħal fis-seħħ fl-1 ta' Awwissu 2024.

Il-fornituri li qed jiżviluppaw jew iqiegħdu sistemi tal-IA ta' riskju għoli fis-suq qabel id-data applikabbli madankollu għandhom iħejju dokumentazzjoni, protokolli ta' testjar, u arkitetturi ta' ċibersigurtà minn qabel — il-valutazzjonijiet ta' tħejjija regolatorja u l-valutazzjonijiet ta' konformità skont l-Artikoli 43–47 jeħtieġu ħin ta' tħejjija sostanzjali. L-arretrati tal-korpi notifikati u l-kumplessità tat-testjar avversarju jfissru li l-organizzazzjonijiet li jimmirati għal tnedija fl-2026 għandhom jibdew il-valutazzjonijiet tal-lakuni tal-Artikolu 15 sa mhux aktar tard minn nofs l-2025.