4 straipsnis — DI raštingumas (ES DI aktas)

Reglamento (ES) 2024/1689 4 straipsnis — DI raštingumas. Oficialus tekstas, praktinis aiškinimas, pagrindinės prievolės ir atitikties pasekmės.

Oficialaus teksto santrauka

Reglamento (ES) 2024/1689 4 straipsnis nustato bendrąją DI raštingumo prievolę DI sistemų tiekėjams ir naudotojams, veikiantiems Reglamento taikymo srityje. Straipsnis reikalauja, kad tiekėjai ir naudotojai imtųsi priemonių siekdami užtikrinti, kiek įmanoma, kad jų darbuotojai ir bet kokie kiti asmenys, veikiantys jų vardu, dalyvaujantys DI sistemų eksploatavime ir naudojime, turėtų pakankamą DI raštingumo laipsnį.

Straipsnis apibrėžia DI raštingumą kaip įgūdžius, žinias ir supratimą, leidžiantį asmenims priimti informuotus sprendimus dėl DI sistemų, tinkamai jas diegti ir naudoti bei suvokti poveikį, kurį tos sistemos gali daryti. Esminis dalykas yra tai, kad prievolė yra kalibruota: reikalingas raštingumo lygis turi būti proporcingas techninėms žinioms, patirčiai, išsilavinimui, mokymui ir atitinkamų asmenų kontekstui, taip pat DI sistemoms, su kuriomis jie dirba.

Todėl 4 straipsnis nenustato vienodo standarto. Vietoje to, jis sukuria deramo kruopštumo sistemą, pagal kurią organizacijos turi įvertinti atitinkamų darbuotojų kompetencijų poreikius atsižvelgdamos į susijusias DI sistemas ir imtis atitinkamų korekcinių ar ugdomųjų veiksmų ten, kur yra spragų. Nuostata atspindi įstatymų leidėjo ketinimą — išreikštą 20 konstatuojamojoje dalyje — kad žmogaus priežiūra DI sistemų atžvilgiu yra prasminga tik tada, kai žmonės, vykdantys tą priežiūrą, turi pagrindinį supratimą, reikalingą tai daryti veiksmingai. Prievolė yra horizontali: ji taikoma nepriklausomai nuo susijusios DI sistemos rizikos kategorijos, todėl ji yra viena iš nedaugelio I antraštinės dalies nuostatų, generuojančių tiesiogines, vykdytinas prievoles visiems aktoriams, esantiems Reglamento taikymo srityje.

Ką tai reiškia praktiškai

4 straipsnis sukuria nuolatinę vidinę valdymo prievolę. Bet kuri organizacija, kuri kvalifikuojama kaip tiekėjas (pateikianti DI sistemą ES rinkai arba pradedanti ją naudoti) arba naudotojas (naudojanti DI sistemą savo atsakomybe profesiniame kontekste), turi aktyviai vertinti ir spręsti atitinkamo personalo DI raštingumo klausimus.

Praktiškai tai reiškia, kad organizacijos pirmiausia turėtų nustatyti, kurie vaidmenys sąveikauja su DI sistemomis — ar kuriant, integruojant, eksploatuojant, prižiūrint, ar peržiūrint DI rezultatus. Teisės komanda, naudojanti sutarčių analizės priemonę, personalo skyrius, diegiantis CV atrankos sistemą, arba inžinerijos komanda, prižiūrinti prognozuojamos techninės priežiūros modelį, visi patenka į taikymo sritį. Kiekvienas vaidmenų turėtojas turi turėti DI raštingumo lygį, atitinkantį jo pareigas.

Konkrečiai, atitikties veiksmai gali apimti:

• Įgūdžių spragų vertinimo atlikimą visose su DI susijusiose srityse
• Su vaidmeniu susijusio mokymo kūrimą ar pirkimą (techniniai darbuotojai turi turėti gilesnių žinių apie modelio elgesį, šališkumą ir neapibrėžtumą; verslo vartotojai turi suvokti apribojimus ir eskalavimo kelius)
• Raštingumo priemonių, kurių buvo imtasi, dokumentavimą kaip platesnių DI valdymo įrašų dalį
• Raštingumo programų peržiūrą ir atnaujinimą, kai DI sistemos keičiasi ar įdiegiamos naujos sistemos

Pavyzdžiui, logistikos įmonė, diegianti maršruto optimizavimo modelį, turėtų užtikrinti, kad operatoriai, kurie veikia pagal modelio rekomendacijas, suprastų sistemos pasitikėjimo ribas, žinomus gedimo režimus ir kada nepaisyti. Panašiai, sveikatos priežiūros paslaugų teikėjas, diegiantis diagnostikos paramos priemonę, turi užtikrinti, kad klinikos gydytojai suprastų, ką priemonė daro ir ko nedaro prieš remiantis jos rezultatais. Proporcingumo principas reiškia, kad individualus praktikuojantysis, diegiantis paprastą DI priemonę, turės lengvesnes prievoles nei tarptautinė korporacija, diegianti didelės rizikos sistemas dideliu mastu.

Pagrindinės prievolės

• Įvertinti DI raštingumo poreikius: Tiekėjai ir naudotojai turi nustatyti, kurie darbuotojai ir paskirti asmenys sąveikauja su DI sistemomis, ir įvertinti jų esamą DI raštingumo lygį atsižvelgiant į tų vaidmenų reikalavimus.
• Imtis atitinkamų raštingumo priemonių: Organizacijos turi aktyviai įgyvendinti priemones — mokymą, dokumentavimą, gaires ar struktūruotą kvalifikacijos kėlimą — proporcingas kiekvieno asmens vaidmeniui, esamai kompetencijai ir susijusioms sistemoms.
• Taikyti proporcingumą: Reikalaujamas DI raštingumo lygis nėra vienodas; jis turi atspindėti techninį DI sistemos sudėtingumą, jos vykdomo autonomijos laipsnį ir galimą vaidmenų turėtojo sprendimų poveikį.
• Palaikyti nuolatinę aprėptį: Prievolė yra nuolatinė. Kai DI sistemos keičiasi, kai įdiegiamos naujos sistemos arba kai darbuotojai persikelia į su DI susijusius vaidmenis, raštingumo priemonės turi būti peržiūrimos ir atnaujinamos.
• Praplėsti prievolę trečiosioms šalims, veikiančioms organizacijos vardu: Straipsnis aiškiai apima asmenis, veikiančius tiekėjų ar naudotojų vardu, tai reiškia, kad į taikymo sritį patenka sutartiniai darbuotojai, paslaugų teikėjai ir agentai, dalyvaujantys DI sistemų eksploatavime.
• Dokumentuoti pastangas: Nors 4 straipsnis nenumato konkrečių dokumentavimo reikalavimų, suderinimas su platesniais Reglamento valdymo lūkesčiais (ypač didelės rizikos sistemoms) reiškia, kad raštingumo vertinimų ir mokymo veiklų įrašai sudaro gerąją praktiką ir pagrindžia demonstrabilią atitiktį.

Ryšys su kitais straipsniais

4 straipsnis yra I antraštinėje dalyje (Bendrosios nuostatos) ir funkcionuoja kaip horizontalus Reglamento konkrečesnių prievolių įgalintojas. Jis tiesiogiai susijęs su 9 straipsniu (didelės rizikos DI rizikos valdymo sistema), kuris reikalauja, kad asmenys, atsakingi už DI rizikos valdymą, turėtų reikiamą kompetenciją — standartą, kuris numato bazinį DI raštingumą. Jis stiprina 14 straipsnį (žmogaus priežiūra), kur prasminga fizinių asmenų priežiūra priklauso nuo to, ar tie asmenys supranta DI sistemos rezultatus, apribojimus ir gedimo režimus.

4 straipsnis taip pat susijęs su 16 straipsnio g punktu, kuris reikalauja, kad didelės rizikos DI sistemų tiekėjai imtųsi priemonių užtikrinant, kad naudotojai galėtų tinkamai interpretuoti ir naudoti sistemą, ir su 26 straipsnio 2 dalimi, kuri įpareigoja naudotojus paskirti žmogaus priežiūrą asmenims su reikiama kompetencija. Bendrosios paskirties DI modelių kontekste (VIII antraštinė dalis) 4 straipsnis grindžia lūkestį, kad naudotojai, kuriančys BPDI modelių rezultatų pagrindu, suprastų tų modelių pobūdį ir apribojimus. 4 straipsnio skaitymas kartu su 20 konstatuojamąja dalimi patikslina įstatymų leidėjo ketinimą, kad DI raštingumas yra išankstinė sąlyga veiksmingai vykdyti visas kitas Reglamento prievoles.

Atitikties laiko juosta

ES DI aktas įsigaliojo 2024 m. rugpjūčio 1 d., dvidešimt dienų po paskelbimo Oficialiajame leidinyje. Reglamentas taikomas etapais:

• 2025 m. vasario 2 d. — Nepriimtinos rizikos DI praktikų draudimai (5 straipsnis) tapo taikomi.
• 2025 m. rugpjūčio 2 d. — 4 straipsnis tapo taikomas, kartu su nuostatomis dėl bendrosios paskirties DI modelių (VIII antraštinė dalis) ir prievolėmis, reglamentuojančiomis notifikuotas įstaigas ir rinkos priežiūros institucijas. Organizacijos turėjo turėti DI raštingumo priemones iki šios datos.
• 2026 m. rugpjūčio 2 d. — Taikomos prievolės didelės rizikos DI sistemoms, išvardytoms I priede (saugos komponentų sistemos reguliuojamuose produktuose).
• 2027 m. rugpjūčio 2 d. — Prievolės didelės rizikos DI sistemoms, išvardytoms III priede (atskiros didelės rizikos sistemos), taikomos visa apimtimi, įskaitant 9–14 ir 26 straipsnius, kuriems 4 straipsnio raštingumas yra išankstinė sąlyga.

Organizacijos, kurios dar neatliko raštingumo spragų vertinimo ar neįgyvendino jokių mokymo priemonių, jau neatitinka 4 straipsnio reikalavimų nuo 2025 m. rugpjūčio ir turėtų laikyti pažeidimų šalinimą tiesiogine prioritetu.