50. pants — Pārredzamības pienākumi noteiktu MI sistēmu nodrošinātājiem un lietotājiem (ES MI akts)

Regulas (ES) 2024/1689 50. pants — Pārredzamības pienākumi noteiktu MI sistēmu nodrošinātājiem un lietotājiem. Oficiālais teksts, praktiskā interpretācija, galvenie pienākumi un atbilstības sekas.

Oficiālā teksta kopsavilkums

Regulas (ES) 2024/1689 (ES MI akts) 50. pants nosaka pārredzamības pienākumus noteiktu kategoriju MI sistēmu nodrošinātājiem un lietotājiem. Tas ir IV sadaļas pamatnosacījums un risina risku, ka indivīdi var tikt maldināti par to, vai viņi mijiedarbojas ar cilvēku vai MI sistēmu, vai arī par to, vai patērētais saturs ir mākslīgi ģenerēts.

Saskaņā ar 50. panta 1. punktu MI sistēmu nodrošinātājiem, kas paredzētas tiešai mijiedarbībai ar fiziskām personām, jānodrošina, ka šīs sistēmas ir izstrādātas tā, lai lietotāji tiktu skaidri un nepārprotami informēti, ka viņi mijiedarbojas ar MI sistēmu. Šis pienākums attiecas uz nodrošinātāju izstrādes posmā.

50. panta 2. punkts paplašina lietotāju pienākumus: ikvienam lietotājam, kas izmanto emociju atpazīšanas sistēmu vai biometriskās kategorizācijas sistēmu, jāinformē tai pakļautās fiziskās personas par tās darbību.

51. panta 3. punkts nosaka, ka lietotājiem, kas izmanto MI sistēmas, lai ģenerētu vai manipulētu ar attēlu, audio vai video saturu, kas ir dziļviltojums, jāatklāj, ka saturs ir mākslīgi ģenerēts vai manipulēts. Šaurs izņēmums piemērojams, ja šāda izmantošana ir acīmredzami likumīga vai mākslinieciski nepieciešama.

52. panta 4. punkts attiecas uz MI ģenerētu tekstu, kas publicēts, lai informētu sabiedrību par sabiedriskās nozīmes jautājumiem — lietotājiem jāatklāj, ka tekstu ir sagatavojusi MI sistēma, ja vien nav veikta redakcionāla cilvēka pārskatīšana un izvade nav būtiski modificēta.

53. panta 5. punkts uzliek pienākumus vispārēja mērķa MI (VMIR) modeļu nodrošinātājiem nodrošināt, ka izvades ir mašīnlasāmas un var tikt identificētas kā MI ģenerētas, jo īpaši sintētiskam audio, attēlu, video vai teksta saturam.

Ko tas nozīmē praksē

50. pants tieši ietekmē jebkuru organizāciju, kas izveido vai izmanto MI sistēmas, kuras mijiedarbojas ar cilvēkiem vai ģenerē cilvēkiem prezentētu saturu.

Tehnoloģiju nodrošinātājiem galvenais pienākums rodas izstrādes un attīstības posmā. Uzņēmumam, kas veido klientu apkalpošanas tērzēšanas robotu, pirms produkta laišanas tirgū vai nodošanas ekspluatācijā jāizstrādā informācijas atklāšanas mehānisms — skaidrs, savlaicīgs paziņojums, kas informē lietotāju, ka viņš mijiedarbojas ar MI sistēmu. Tas nevar būt vēlāka pārdoma vai pielikums pakalpojumu noteikumos.

Lietotājiem — uzņēmumiem, kas integrē trešo pušu MI rīkus savās darbībās — pienākums ir operatīvs. Bankai, kas izmanto MI virzītu virtuālo asistentu, jānodrošina, ka klienti katras mijiedarbības sākumā tiek informēti, ka viņi runā ar MI. Plašsaziņas līdzekļu organizācijai, kas izmanto MI rakstu sastādīšanai, jāmarķē šis saturs kā MI ģenerēts, ja vien kvalificēts cilvēku redaktors to materiāli nav pārskatījis un pārstrādājis.

Sintētiskam saturam un dziļviltojumiem pienākums ir īpaši stingrs. Mārketinga komandām, kas izmanto MI ģenerētus cilvēku attēlus, vai mediju ražotājiem, kas veido MI balsotus audio ierakstus, jāpievieno informācijas atklāšana — ideālā gadījumā mašīnlasāma — šim saturam. Platformas, kas izplata šādu saturu, tiek mudinātas, un dažās interpretācijās arī saistītas, parādīt šīs etiķetes gala lietotājiem.

Praktiski organizācijām jāveic savu MI sistēmu inventarizācija, lai identificētu tās, kas ietilpst 50. panta darbības jomā, jānosaka informācijas atklāšanas veidne, kas atbilst panta prasībām, un jāievieš tehniskie kontroles mehānismi — ūdenszīmēšana, metadatu iegulšana vai lietotāja saskarnes līmeņa paziņojumi — lai nodrošinātu, ka atbilstība ir sistemātiska, nevis manuāla. Ieteicams veikt iekšējo apmācību komandām, kas izmanto MI rīkus, lai informācijas atklāšanas pienākumi tiktu uzskatīti par darbplūsmas prasību, nevis juridisku abstrakciju.

Galvenie pienākumi

• Nodrošinātāja izstrādes pienākums: Nodrošinātājiem jāizveido MI sistēmas, kas paredzētas mijiedarbībai ar fiziskām personām, tā, lai šīs sistēmas varētu skaidri un nepārprotami atklāt savu MI dabu pirms mijiedarbības vai tās sākumā.
• Lietotāja informācijas atklāšana — sarunu MI: Lietotājiem, kas izmanto MI sistēmas tiešai mijiedarbībai ar gala lietotājiem, jāinformē šie lietotāji savlaicīgi un saprotami, ka viņi mijiedarbojas ar MI sistēmu, ja vien tas nav acīmredzams no konteksta.
• Lietotāja informācijas atklāšana — emociju atpazīšana un biometriskā kategorizācija: Lietotājiem, kas izmanto emociju atpazīšanas vai biometriskās kategorizācijas sistēmas, jāpaziņo šīm sistēmām pakļautajiem indivīdiem par to izmantošanu un darbību.
• Dziļviltojumu marķēšana: Lietotājiem, kas izmanto MI, lai ģenerētu vai manipulētu ar dziļviltojuma saturu (attēls, audio, video, kas atveido īstas personas, vietas vai notikumus), skaidri jāatklāj šī satura sintētiskais vai manipulētais raksturs.
• MI ģenerēts teksts sabiedriskās informācijas vajadzībām: Lietotājiem, kas publicē MI ģenerētu tekstu, kura mērķis ir informēt sabiedrību par sabiedriskās nozīmes jautājumiem, tas jāmarķē kā MI ģenerēts, izņemot gadījumus, kad cilvēku redakcionālā pārskatīšana ir novedusi pie būtiskas modifikācijas.
• Mašīnlasāma ūdenszīmēšana VMIR: Vispārēja mērķa MI modeļu nodrošinātājiem, kas ģenerē sintētisku saturu, jāievieš tehniskie risinājumi — piemēram, ūdenszīmēšana vai metadatu marķēšana — lai nodrošinātu, ka izvades ir identificējamas kā MI ģenerētas un pakārtotās sistēmas tās var mašīnlasāmi noteikt.

Saistība ar citiem pantiem

50. pants darbojas ES MI akta plašākā pārredzamības arhitektūrā un jālasa kopā ar vairākiem citiem noteikumiem.

13. pants (Pārredzamība un informācijas sniegšana augsta riska MI sistēmām) nosaka paralēlas pārredzamības prasības augsta riska sistēmām, koncentrējoties uz dokumentāciju un paskaidrojamību, kas vērsta uz lietotājiem, nevis gala lietotājiem. Ja augsta riska sistēma arī mijiedarbojas ar fiziskām personām, 13. un 50. pants piemērojami vienlaicīgi.

26. pants (Augsta riska MI sistēmu lietotāju pienākumi) papildina 50. pantu, nosakot plašākās lietotāju operatīvās atbildības, tostarp uzraudzību un cilvēka pārraudzību, kurās ietilpst 50. panta informācijas atklāšanas pienākums.

53. un 54. pants (VMIR modeļu nodrošinātāju pienākumi) ir tieši saistīti ar 50. panta 5. punktu, kas uzliek VMIR nodrošinātājiem ūdenszīmēšanas un mašīnlasāmības prasības — prasības, kas jāatspoguļo tehniskajā dokumentācijā un modeļu atbilstības pasākumos saskaņā ar 53.–54. pantu.

132.–134. apsvērums sniedz interpretācijas norādes par IV sadaļas nolūku, precizējot dziļviltojumu un emociju atpazīšanas noteikumu darbības jomu un izņēmuma noteikumos minētā "acīmredzama no konteksta" nozīmi.

Atbilstības grafiks

ES MI akts stājās spēkā 2024. gada 1. augustā (20 dienas pēc publicēšanas Oficiālajā Vēstnesī 2024. gada 12. jūlijā). Regula piemērojama pakāpeniski:

• 2025. gada 2. februāris — Aizliegtā MI prakse saskaņā ar 5. pantu kļuva piemērojama.
• 2025. gada 2. augusts — Pienākumi saistībā ar vispārēja mērķa MI modeļiem (VIII sadaļa, 51.–56. pants) un pārvaldības struktūras kļuva piemērojami.
• 2026. gada 2. augusts — IV sadaļa, tostarp 50. pants, kļuva pilnībā piemērojama. Sarunu MI, sintētiskā satura sistēmu, emociju atpazīšanas sistēmu un biometriskās kategorizācijas sistēmu nodrošinātājiem un lietotājiem līdz šim datumam bija jābūt ieviesušiem atbilstīgiem informācijas atklāšanas mehānismiem.
• 2026. gada 2. decembris — Augsta riska MI sistēmām, kas uzskaitītas Annex I (produktu drošības tiesību akti), jāatbilst pilnajiem augsta riska pienākumiem.
• 2027. gada 2. augusts — Augsta riska MI sistēmām, kas uzskaitītas Annex III un jau ir ekspluatācijā (esošās sistēmas, kas laistas tirgū pirms 2024. gada augusta), jāatbilst prasībām.

Organizācijas, kas līdz 2026. gada 2. augustam vēl nebija ieviesušas 50. pantam atbilstīgus informācijas atklāšanas mehānismus, jau pārkāpj Regulu un tām remediācija jāuzskata par tūlītēju prioritāti.