Член 50 — Задължения за прозрачност на доставчиците и ползвателите на определени системи за ИИ (Регламент за ИИ на ЕС)

Член 50 от Regulation (EU) 2024/1689 — Задължения за прозрачност на доставчиците и ползвателите на определени системи за ИИ. Официален текст, практическо тълкуване, основни задължения и последици за съответствието.

Резюме на официалния текст

Член 50 от Regulation (EU) 2024/1689 (Регламентът за ИИ на ЕС) установява задължения за прозрачност за доставчиците и ползвателите на специфични категории системи за ИИ. Той е основополагащата разпоредба на Дял IV и се отнася до риска хората да бъдат измамени относно това дали взаимодействат с човек или с система за ИИ, или дали съдържанието, което консумират, е изкуствено генерирано.

Съгласно Член 50(1), доставчиците на системи за ИИ, предназначени да взаимодействат пряко с физически лица, трябва да гарантират, че тези системи са проектирани по начин, позволяващ на потребителите да бъдат информирани ясно и недвусмислено, че взаимодействат с система за ИИ. Това задължение лежи върху доставчика на етапа на проектиране.

Член 50(2) разширява задълженията до ползвателите: всеки ползвател, използващ система за разпознаване на емоции или система за биометрична категоризация, трябва да информира изложените на нея физически лица за нейното действие.

Член 50(3) изисква ползвателите, използващи системи за ИИ за генериране или манипулиране на изображения, аудио или видео съдържание, съставляващо дийпфейк, да оповестят, че съдържанието е изкуствено генерирано или манипулирано. Ограничено изключение се прилага, когато такова използване е очевидно законно или творчески необходимо.

Член 50(4) се отнася до текст, генериран от ИИ, публикуван с цел информиране на обществеността по въпроси от обществен интерес — ползвателите трябва да разкрият, че текстът е произведен от система за ИИ, освен ако не е извършен редакционен преглед от хора и изходът не е бил съществено модифициран.

Член 50(5) поставя задължения върху доставчиците на модели за ИИ с общо предназначение (GPAI) да гарантират, че изходите са машинно четими и могат да бъдат идентифицирани като генерирани от ИИ, особено за синтетично аудио, изображение, видео или текстово съдържание.

Какво означава това на практика

Член 50 пряко засяга всяка организация, изграждаща или разгръщаща системи за ИИ, взаимодействащи с хора или генериращи съдържание, представено на хора.

За технологичните доставчици основното задължение произтича на етапа на проектиране и разработка. Компания, изграждаща чатбот за обслужване на клиенти, трябва да разработи механизъм за разкриване — ясно, авансово уведомление, информиращо потребителя, че взаимодейства с система за ИИ — преди продуктът да бъде пуснат на пазара или въведен в експлоатация. Това не може да бъде вторична мисъл или бележка в условията за ползване.

За ползвателите — компании, интегриращи инструменти за ИИ на трети страни в своите операции — задължението е оперативно. Банка, разгръщаща виртуален асистент, задвижван от ИИ, трябва да гарантира, че клиентите са уведомени, че говорят с ИИ в началото на всяко взаимодействие. Медийна организация, използваща ИИ за изготвяне на статии, трябва да обозначи това съдържание като генерирано от ИИ, освен ако квалифициран редактор-човек не го е материално прегледал и преработил.

За синтетичното съдържание и дийпфейковете задължението е особено строго. Маркетинговите екипи, използващи генерирани от ИИ изображения на хора, или медийните производители, създаващи аудио с гласове от ИИ, трябва да прикрепят разкриване — за предпочитане машинно четимо — към това съдържание. Платформите, разпространяващи такова съдържание, се насърчават и в някои тълкувания са задължени да показват тези етикети на крайните потребители.

На практика организациите следва да проведат опис на своите системи за ИИ, за да идентифицират кои попадат в обхвата на Член 50, да определят шаблон за разкриване, съобразен с изискванията на Члена, и да въведат технически контроли — водни знаци, вграждане на метаданни или банери на ниво потребителски интерфейс — за да гарантират, че съответствието е системно, а не ръчно. Вътрешното обучение на екипите, разгръщащи инструменти за ИИ, е препоръчително, така че задълженията за разкриване да се третират като изискване на работния процес, а не като правна абстракция.

Основни задължения

• Задължение на доставчика при проектирането: Доставчиците трябва да проектират системи за ИИ, предназначени да взаимодействат с физически лица, така че тези системи да могат да разкрият своята ИИ природа ясно и недвусмислено преди или в началото на взаимодействието.
• Разкриване от страна на ползвателя — разговорен ИИ: Ползвателите, използващи системи за ИИ за пряко взаимодействие с крайни потребители, трябва да информират тези потребители своевременно и разбираемо, че взаимодействат с система за ИИ, освен ако това не е очевидно от контекста.
• Разкриване от страна на ползвателя — разпознаване на емоции и биометрична категоризация: Ползвателите, управляващи системи за разпознаване на емоции или биометрична категоризация, трябва да уведомят физическите лица, предмет на тези системи, за тяхното използване и действие.
• Етикетиране на дийпфейкове: Ползвателите, използващи ИИ за генериране или манипулиране на дийпфейк съдържание (изображения, аудио, видео, наподобяващи реални лица, места или събития), трябва ясно да разкрият синтетичния или манипулиран характер на това съдържание.
• Текст, генериран от ИИ за обществена информация: Ползвателите, публикуващи генериран от ИИ текст, насочен към информиране на обществеността по въпроси от обществен интерес, трябва да го обозначат като генериран от ИИ, освен ако редакционният преглед от хора не е довел до съществена модификация.
• Машинно четими водни знаци за GPAI: Доставчиците на модели за ИИ с общо предназначение, генериращи синтетично съдържание, трябва да внедрят технически решения — като водни знаци или маркиране с метаданни — за да гарантират, че изходите могат да бъдат идентифицирани като генерирани от ИИ и машинно засичани от последващи системи.

Връзка с други членове

Член 50 действа в рамките на по-широката архитектура за прозрачност на Регламента за ИИ на ЕС и трябва да се чете заедно с няколко други разпоредби.

Член 13 (Прозрачност и предоставяне на информация за высокорисковите системи за ИИ) установява паралелни изисквания за прозрачност на высокорисковите системи, фокусирани върху документацията и обяснимостта, насочени към ползвателите, а не към крайните потребители. Когато высокорискова система взаимодейства и с физически лица, Членове 13 и 50 се прилагат едновременно.

Член 26 (Задължения на ползвателите на высокорискови системи за ИИ) допълва Член 50, определяйки по-широките оперативни отговорности на ползвателите, включително мониторинга и надзора от страна на хора, в рамките на които стои задължението за разкриване по Член 50.

Членове 53 и 54 (Задължения на доставчиците на модели с общо предназначение) са пряко свързани с Член 50(5), поставящ изисквания за водни знаци и машинна четимост върху доставчиците на GPAI — изисквания, които трябва да бъдат отразени в техническата документация и мерките за съответствие на моделите по Членове 53–54.

Съображения 132–134 предоставят тълкувателни насоки относно намерението зад Дял IV, изяснявайки обхвата на разпоредбите за дийпфейкове и разпознаване на емоции и значението на "очевидно от контекста" в разпоредбите за изключения.

Срокове за съответствие

Регламентът за ИИ на ЕС влезе в сила на 1 август 2024 г. (20 дни след публикуването му в Официалния вестник на 12 юли 2024 г.). Регламентът се прилага поетапно:

• 2 февруари 2025 г. — Забранените практики за ИИ по Член 5 станаха приложими.
• 2 август 2025 г. — Задълженията, свързани с моделите за ИИ с общо предназначение (Дял VIII, Членове 51–56), и структурите за управление станаха приложими.
• 2 август 2026 г. — Дял IV, включително Член 50, стана напълно приложим. Доставчиците и ползвателите на разговорен ИИ, системи за синтетично съдържание, системи за разпознаване на емоции и системи за биометрична категоризация трябваше да разполагат с отговарящи на изискванията механизми за разкриване до тази дата.
• 2 декември 2026 г. — Высокорисковите системи за ИИ, изброени в Annex I (законодателство за безопасност на продуктите), трябва да спазват пълните высокорискови задължения.
• 2 август 2027 г. — Высокорисковите системи за ИИ, изброени в Annex III, вече в експлоатация (съществуващи системи, пуснати на пазара преди август 2024 г.), трябва да спазват изискванията.

Организации, които не са внедрили до 2 август 2026 г. механизми за разкриване, отговарящи на Член 50, вече са в нарушение на Регламента и следва да третират коригирането като незабавен приоритет.