Artikolu 55 — Evalwazzjoni u ttestjar avversarjali ta' mudelli ta' AI għal użu ġenerali b'riskju sistemiku (Att tal-UE dwar l-AI)

Artikolu 55 tar-Regolament (UE) 2024/1689 — Evalwazzjoni u ttestjar avversarjali ta' mudelli ta' AI għal użu ġenerali b'riskju sistemiku. Test uffiċjali, interpretazzjoni prattika, obbligi ewlenin u implikazzjonijiet ta' konformità.

Sommarju tat-Test Uffiċjali

L-Artikolu 55 tar-Regolament (UE) 2024/1689 jistabbilixxi obbligi speċifiċi ta' evalwazzjoni u ttestjar avversarjali għall-fornituri ta' mudelli ta' AI għal użu ġenerali (GPAI) li jippreżentaw riskju sistemiku. Jibni fuq is-sett usa' ta' obbligi stabbiliti fl-Artikolu 53 u l-kriterji ta' klassifikazzjoni tar-riskju sistemiku fl-Artikolu 51, l-Artikolu 55 jitlob li fornituri bħal dawn iwettqu evalwazzjonijiet tal-mudell skont protokolli standardizzati, u jwettqu ttestjar avversarjali — komunement imsejjaħ red-teaming — fuq bażi regolari.

L-evalwazzjonijiet meħtieġa skont il-paragrafu 1(a) għandhom isegwu protokolli u għodod standardizzati li jirriflettu l-aħħar żviluppi tal-qasam, inkluż dawk żviluppati jew approvati mill-Uffiċċju tal-AI. Fejn ma jeżistux protokolli standardizzati, il-fornituri għandhom jiddisinjaw u japplikaw metodoloġiji xierqa biex jidentifikaw u jivvalutaw in-natura u l-portata tar-riskji sistemiċi.

Il-paragrafu 1(b) jobbliga t-testjar avversarjali, li jsir internament jew billi jingaġġaw esperti esterni akkredjitati, bl-għan li jiġu identifikati riskji li ma jinqabdux bil-proċeduri standard ta' evalwazzjoni. Il-fornituri għandhom jiddokumentaw il-metodoloġija, il-kamp ta' applikazzjoni u r-riżultati tal-evalwazzjonijiet u l-eżerċizzji ta' ttestjar avversarjali, u jirrapportaw sejbiet sinifikanti lill-Uffiċċju tal-AI. L-Uffiċċju tal-AI nnifsu jżomm l-awtorità skont il-paragrafu 2 biex jorganizza jew jikkummissjoni ttestjar avversarjali indipendenti fi kwalunkwe ħin. L-artikolu jobbliga wkoll lill-fornituri jaqsmu r-riżultati tal-evalwazzjoni u r-rapporti ta' ttestjar ma' awtoritajiet kompetenti meta jintalbu.

X'Ifisser Dan fil-Prattika

Għall-organizzazzjonijiet li jiżviluppaw jew jiddisponew mudelli GPAI tal-fruntiera, l-Artikolu 55 jimponi proċess strutturata u dokumentata ta' assigurazzjoni tal-kwalità ffukata speċifikament fuq l-identifikazzjoni ta' ħsarat sistemiċi. Fil-prattika, dan ifisser li qabel il-ħruġ ta' mudell kwalifikanti — u fuq bażi kontinwa wara l-ħruġ — il-fornituri għandhom iwettqu kemm evalwazzjonijiet standardizzati tal-kapaċità kif ukoll eżerċizzji avversarjali mmirati ddisinjati biex jissorveljaw riskji katastrofiċi jew mifruxa bħall-manipulazzjoni fuq skala massiva, il-ġenerazzjoni ta' kontenut relatat mal-armi, attakki ċibernetiċi fuq skala kbira, jew tfixkil tal-infrastruttura kritika.

Mill-perspettiva operattiva, il-konformità teħtieġ il-ġbir jew il-kuntrattar ta' kapaċità red-team multidixxiplinari b'kompetenza li tkopri s-sigurtà tal-AI, iċ-ċibersigurtà, id-diżinformazzjoni, il-bijosigurtà, u dominji rilevanti oħrajn. L-evalwazzjonijiet għandhom jitwettqu kontra punti ta' riferiment u protokolli li jirriflettu l-istat attwali tal-aħħar żviluppi tal-qasam; il-fornituri ma jistgħux jiddependu fuq metodoloġiji proprjetarji, mhux pubblikati biss jekk jeżistu alternattivi standardizzati.

Id-dokumentazzjoni hija ċentrali. Il-fornituri għandhom iżommu rekords dettaljati ta' kull ċiklu ta' evalwazzjoni — inkluż il-kamp ta' applikazzjoni, il-kompożizzjoni tat-tim, ix-xenarji ttestjati, l-outputs osservati, u l-mitigazzjonijiet applikati — u għandhom ikunu kapaċi jipproduċu dawn ir-rekords għall-Uffiċċju tal-AI fuq talba. Fejn l-ittestjar jiżvela riskji sistemiċi ġodda jew aggravati, il-fornituri huma obbligati jimplimentaw miżuri korrettivi u, fejn ir-riskju huwa serju, jinnotifikaw lill-Uffiċċju tal-AI mingħajr dewmien mhux ġustifikat.

Pereżempju, fornitur li joħroġ mudell multimodali kbir li jaqbeż il-limitu ta' taħriġ ta' 10^25 FLOP għandu jiskedja eżerċizzji red-team qabel il-ħruġ li jkopru mill-inqas: l-eliċitazzjoni ta' tagħrif xjentifiku ta' użu doppju, il-ġenerazzjoni ta' kontenut persuasiv fuq skala, u l-faċilitazzjoni ta' attakki ċibernetiċi awtomatizzati. Wara l-ħruġ, dawn l-eżerċizzji għandhom jerġgħu jiġu implimentati kull darba li l-mudell jgħaddi minn fine-tuning sinifikanti jew aġġornamenti tal-kapaċità.

Obbligi Ewlenin

• Evalwazzjonijiet standardizzati: Iwettqu evalwazzjonijiet tal-mudell bl-użu ta' protokolli u għodod standardizzati tal-aħħar żviluppi tal-qasam, inkluż dawk żviluppati jew approvati mill-Uffiċċju tal-AI, qabel il-posizzjonament fis-suq u fuq bażi kontinwa.
• Ttestjar avversarjali (red-teaming): Iwettqu eżerċizzji ta' ttestjar avversarjali strutturati — internament jew permezz ta' partijiet terzi esterni kwalifikati — ddisinjati biex joħorġu riskji sistemiċi mhux identifikati permezz tal-evalwazzjoni standard.
• Dokumentazzjoni u żamma ta' rekords: Iżommu rekords dettaljati tal-metodoloġija ta' evalwazzjoni, tal-kamp ta' applikazzjoni, tax-xenarji ttestjati, tar-riżultati, u ta' kwalunkwe miżura korrettiva meħuda, bir-rekords disponibbli għall-Uffiċċju tal-AI fuq talba.
• Rappurtaġġ ta' sejbiet sinifikanti: Jinnotifikaw lill-Uffiċċju tal-AI dwar riskji sistemiċi serji jew identifikati ġodda skoperti permezz ta' evalwazzjonijiet jew ttestjar avversarjali mingħajr dewmien mhux ġustifikat.
• Kooperazzjoni mal-ittestjar ikkummissjonat mill-Uffiċċju tal-AI: Jiffaċilitaw u jikkooperaw ma' ttestjar avversarjali indipendenti organizzat jew ikkummissjonat direttament mill-Uffiċċju tal-AI skont is-setgħat ta' sorveljanza tiegħu.
• Konformità kontinwa wara l-ħruġ: Jirrepetu evalwazzjonijiet u ttestjar avversarjali wara aġġornamenti sinifikanti tal-mudell, fine-tuning, jew bidliet fil-każijiet ta' użu maħsubin li jistgħu jbiddlu l-profil tar-riskju tal-mudell.

Relazzjoni ma' Artikoli Oħrajn

L-Artikolu 55 jaħdem bħala l-korollarju operattiv tal-klassifikazzjoni tar-riskju sistemiku stabbilita fl-Artikolu 51 u l-obbligi ġenerali GPAI stabbiliti fl-Artikolu 53. Għandu jinqara flimkien mal-Artikolu 52, li jiddefinixxi l-limitu u l-kriterji għad-deżinjazzjoni tar-riskju sistemiku, u l-Artikolu 54, li jindirizza l-obbligi relatati mad-dokumentazzjoni teknika għal mudelli GPAI ta' riskju sistemiku. Id-dmir ta' rappurtaġġ tal-inċidenti fl-Artikolu 73 jaqsam mal-Artikolu 55 fejn l-ittestjar avversarjali jiżvela inċident serju jew kwasi-inċident li jeħtieġ notifika. Fil-livell ta' sorveljanza, l-awtorità tal-Uffiċċju tal-AI biex jikkummissjoni ttestjar skont l-Artikolu 55(2) hija bbażata fuq is-setgħat ta' sorveljanza usa' mogħtija mill-Artikoli 88 u 89. Il-fornituri għandhom ukoll jikkonsultaw il-Premessa 110, li tikkjarifika r-raġunament għad-distinzjoni tal-mudelli ta' riskju sistemiku u l-importanza tal-evalwazzjoni tas-sigurtà qabel is-suq bħala komplement għall-monitoraġġ kontinwu.

Linja ta' Żmien tal-Konformità

• 1 ta' Awwissu 2024 — Ir-Regolament (UE) 2024/1689 daħal fis-seħħ, u beda l-arloġġ tal-applikazzjoni gradwali.
• 2 ta' Frar 2025 — Il-prattiki tal-AI pprojbiti (Titolu II) saru applikabbli.
• 2 ta' Awwissu 2025 — Id-dispożizzjonijiet tat-Titolu V li jirregolaw mudelli ta' AI għal użu ġenerali, inkluż l-Artikolu 55, saru applikabbli bis-sħiħ. Il-fornituri ta' mudelli GPAI kwalifikanti li kienu diġà fis-suq kellhom jiksbu konformità sal-lum.
• 2 ta' Diċembru 2026 — L-obbligi tal-Sistema ta' AI b'riskju għoli skont l-Anness I (sistemi tal-komponenti tas-sigurtà) isiru applikabbli.
• 2 ta' Awwissu 2027 — L-obbligi li jifdal tal-sistema ta' AI b'riskju għoli (sistemi tal-Anness III) isiru applikabbli.

L-Artikolu 55 huwa għalhekk diġà fis-seħħ. Il-fornituri ta' mudelli GPAI b'riskju sistemiku li għadhom ma stabbilux programmi ta' evalwazzjoni u ttestjar avversarjali huma fi ksur tal-obbligi attwali u għandhom jittrattaw ir-rimedjar bħala prijorità immedjata.