4. cikk — MI-írástudás (EU MI-rendelet)

Az (EU) 2024/1689 rendelet 4. cikke — MI-írástudás. Hivatalos szöveg, gyakorlati értelmezés, főbb kötelezettségek és megfelelési következmények.

A hivatalos szöveg összefoglalója

Az (EU) 2024/1689 rendelet 4. cikke általános MI-írástudási kötelezettséget állapít meg a rendelet hatálya alá tartozó MI-rendszerek szolgáltatói és üzembe helyezői számára. A cikk megköveteli, hogy a szolgáltatók és az üzembe helyezők a legjobb tudásuk szerint intézkedéseket tegyenek annak biztosítása érdekében, hogy az MI-rendszerek működtetésében és használatában részt vevő, nevükben eljáró munkatársaik és más személyek megfelelő fokú MI-írástudással rendelkezzenek.

A cikk az MI-írástudást úgy határozza meg, mint azokat a készségeket, ismereteket és megértést, amelyek lehetővé teszik a személyek számára, hogy tájékozott döntéseket hozzanak az MI-rendszerekkel kapcsolatban, megfelelően alkalmazzák és használják azokat, és tisztában legyenek a rendszerek esetleges hatásaival. Az előírás kalibrált: az elvárt írástudási szintnek arányosnak kell lennie az érintett személyek technikai ismereteivel, tapasztalatával, végzettségével, képzésével és környezetével, valamint az általuk kezelt MI-rendszerekkel.

A 4. cikk tehát nem ír elő egységes szabványt. Ehelyett egy gondossági keretet hoz létre, amelyen belül a szervezeteknek fel kell mérniük az érintett munkatársak kompetenciaszükségleteit a szóban forgó MI-rendszerekhez képest, és megfelelő korrekciós vagy fejlesztési intézkedéseket kell tenniük, ahol hiányosságok mutatkoznak. A rendelkezés tükrözi a jogalkotó szándékát — amelyet a (20) preambulumbekezdés fogalmaz meg —, hogy az MI-rendszerek feletti emberi felügyelet csak akkor értelmes, ha az azt gyakorló emberek rendelkeznek a hatékony felügyelethez szükséges alapvető megértéssel. A kötelezettség horizontális hatályú: az érintett MI-rendszer kockázati kategóriájától függetlenül alkalmazandó, ezzel a rendelet hatálya alá tartozó összes szereplőre közvetlen, végrehajtható kötelezettségeket generáló I. cím egyik kevés rendelkezésévé válva.

Mit jelent ez a gyakorlatban?

A 4. cikk folyamatos belső irányítási kötelezettséget teremt. Minden szervezetnek, amely szolgáltatónak (MI-rendszert az EU piacán forgalomba hozó vagy üzembe helyező) vagy üzembe helyezőnek (MI-rendszert saját felelőssége alatt szakmai összefüggésben használó) minősül, aktívan fel kell mérnie és kezelnie kell az érintett személyzet MI-írástudását.

A gyakorlatban ez azt jelenti, hogy a szervezeteknek először fel kell térképezniük, hogy mely szerepkörök érintkeznek MI-rendszerekkel — legyen az MI-rendszerek kiépítése, integrálása, működtetése, felügyelete vagy kimeneteinek felülvizsgálata. Egy szerződéselemző eszközt használó jogi csapat, egy önéletrajz-szűrő rendszert alkalmazó HR-osztály, vagy egy prediktív karbantartási modellt fenntartó mérnöki csapat mind a hatály alá tartozik. Minden szerepkörnek az adott felelősségeivel arányos MI-írástudással kell rendelkeznie.

Konkrétan a megfelelési intézkedések a következőket foglalhatják magukban:

• Készségfelmérés elvégzése az MI-vel érintkező szerepkörökre vonatkozóan
• Szerepkör-specifikus képzések tervezése vagy beszerzése (a technikai munkatársaknak mélyebb ismeretekre van szükségük a modell viselkedéséről, elfogultságáról és bizonytalanságáról; az üzleti felhasználóknak tudatosítaniuk kell a korlátokat és az eszkalációs útvonalakat)
• Az írástudási intézkedések dokumentálása a szélesebb körű MI-irányítási nyilvántartások részeként
• Az írástudási programok felülvizsgálata és megújítása az MI-rendszerek fejlődésével vagy új rendszerek bevezetésével

Egy útvonal-optimalizálási modellt alkalmazó logisztikai vállalat esetében például biztosítani kell, hogy a modell ajánlásai alapján cselekvő üzemeltetők megértsék a rendszer megbízhatósági tartományait, ismert hibalehetőségeit és azt, mikor kell felülbírálni. Hasonlóképpen, egy diagnosztikai támogatóeszközt alkalmazó egészségügyi szolgáltatónak biztosítania kell, hogy a klinikusok megértsék, mit tesz és mit nem tesz az eszköz, mielőtt kimeneteire támaszkodnának. Az arányosság elve azt jelenti, hogy egy egyszerű MI-eszközt alkalmazó egyéni vállalkozóra könnyebb kötelezettségek vonatkoznak, mint egy nagy kockázatú rendszereket nagy léptékben alkalmazó multinacionális vállalatra.

Főbb kötelezettségek

• MI-írástudási szükségletek felmérése: A szolgáltatóknak és az üzembe helyezőknek azonosítaniuk kell, hogy mely munkatársak és kijelölt személyek érintkeznek MI-rendszerekkel, és értékelniük kell meglévő MI-írástudási szintjüket az adott szerepkör elvárásaihoz képest.
• Megfelelő írástudási intézkedések megtétele: A szervezeteknek aktívan meg kell valósítaniuk az intézkedéseket — képzés, dokumentáció, útmutatás vagy strukturált fejlesztés —, amelyek arányosak az egyes személyek szerepével, meglévő kompetenciájával és az érintett rendszerekkel.
• Arányosság alkalmazása: Az elvárt MI-írástudási szint nem egységes; tükröznie kell az MI-rendszer technikai összetettségét, az általa gyakorolt autonómia fokát és a szerepkör-tulajdonos döntéseinek esetleges hatásait.
• Folyamatos lefedettség fenntartása: A kötelezettség folyamatos jellegű. Az MI-rendszerek változásával, új rendszerek telepítésével vagy a munkatársak MI-érintett szerepkörökbe kerülésével az írástudási intézkedéseket felül kell vizsgálni és frissíteni kell.
• A kötelezettség kiterjesztése a szervezet nevében eljáró harmadik felekre: A cikk kifejezetten kiterjed a szolgáltatók vagy üzembe helyezők nevében eljáró személyekre, ami azt jelenti, hogy a hatókörbetartozó MI-rendszer működtetésében részt vevő szerződéses munkatársak, szolgáltatók és ügynökök is a hatály alá tartoznak.
• Erőfeszítések dokumentálása: Bár a 4. cikk nem ír elő dokumentációs követelményt, a rendelet tágabb irányítási elvárásaival (különösen a nagy kockázatú rendszerek esetében) való összhang azt jelenti, hogy az írástudási felmérések és képzési tevékenységek nyilvántartásai bevált gyakorlatnak minősülnek, és alátámasztják az igazolható megfelelést.

Kapcsolat más cikkekkel

A 4. cikk az I. cím (Általános rendelkezések) részét képezi, és a rendelet specifikusabb kötelezettségeinek horizontális lehetővé tevőjeként működik. Közvetlenül kapcsolódik a 9. cikkhez (nagy kockázatú MI-rendszerek kockázatkezelési rendszere), amely megköveteli, hogy az MI-kockázatkezelésért felelős személyek rendelkezzenek a szükséges kompetenciával — ez az elvárás előfeltételezi az alapszintű MI-írástudást. Megerősíti a 14. cikket (emberi felügyelet), ahol a természetes személyek által gyakorolt értelmes felügyelet attól függ, hogy ezek a személyek megértik-e az MI-rendszer kimeneteit, korlátait és meghibásodási módjait.

A 4. cikk kapcsolódik a 16. cikk g) pontjához is, amely előírja, hogy a nagy kockázatú MI-rendszerek szolgáltatói tegyenek lépéseket annak biztosítása érdekében, hogy az üzembe helyezők megfelelően értelmezzék és használják a rendszert, valamint a 26. cikk (2) bekezdéséhez, amely kötelezi az üzembe helyezőket, hogy az emberi felügyeletet a szükséges kompetenciával rendelkező személyekhez rendeljék. Az általános célú MI-modellek (VIII. cím) kontextusában a 4. cikk alátámasztja azt az elvárást, hogy az általános célú MI-modell kimenetein alapuló üzembe helyezők megértsék ezeknek a modelleknek a természetét és korlátait. A 4. cikk és a (20) preambulumbekezdés együttes olvasata tisztázza a jogalkotó szándékát, miszerint az MI-írástudás előfeltétele a rendelet szerinti összes egyéb kötelezettség hatékony teljesítésének.

Megfelelési ütemterv

Az EU MI-rendelet 2024. augusztus 1-jén lépett hatályba, húsz nappal a Hivatalos Lapban való közzétételét követően. A rendelet szakaszosan kerül alkalmazásra:

• 2025. február 2. — Az elfogadhatatlan kockázatú MI-gyakorlatokra vonatkozó tilalmak (5. cikk) alkalmazhatóvá váltak.
• 2025. augusztus 2. — A 4. cikk alkalmazhatóvá vált, az általános célú MI-modellekre vonatkozó rendelkezésekkel (VIII. cím) és a bejelentett szervezeteket, valamint a piacfelügyeleti hatóságokat szabályozó kötelezettségekkel együtt. A szervezeteknek erre az időpontra kellett MI-írástudási intézkedéseket bevezetniük.
• 2026. augusztus 2. — Az I. mellékletben (szabályozott termékek biztonsági összetevőrendszerei) felsorolt nagy kockázatú MI-rendszerekre vonatkozó kötelezettségek alkalmazandók.
• 2027. augusztus 2. — A III. mellékletben (önálló nagy kockázatú rendszerek) felsorolt nagy kockázatú MI-rendszerekre vonatkozó kötelezettségek teljes körűen alkalmazandók, beleértve a 9–14. és 26. cikkeket, amelyek előfeltétele a 4. cikk szerinti írástudás.

Azok a szervezetek, amelyek még nem végeztek írástudási résképesség-felmérést vagy nem vezettek be semmilyen képzési intézkedést, 2025 augusztusa óta már nem felelnek meg a 4. cikknek, és a jogorvoslatot azonnali prioritásként kell kezelniük.