Член 4 — Грамотност в областта на ИИ (Закон за ИИ на ЕС)

Член 4 от Регламент (ЕС) 2024/1689 — Грамотност в областта на ИИ. Официален текст, практическо тълкуване, основни задължения и последици за съответствието.

Резюме на официалния текст

Член 4 от Регламент (ЕС) 2024/1689 установява общо задължение за грамотност в областта на ИИ за доставчици и ползватели на системи за ИИ, действащи в обхвата на Регламента. Членът изисква от доставчиците и ползвателите да вземат мерки, за да гарантират в максимална степен, че техният персонал и всякакви други лица, действащи от тяхно име, участващи в операцията и употребата на системи за ИИ, притежават достатъчна степен на грамотност в областта на ИИ.

Членът определя грамотността в областта на ИИ като умения, знания и разбиране, позволяващи на лицата да вземат информирани решения относно системи за ИИ, да ги внедряват и използват правилно и да са наясно с въздействието, което тези системи могат да имат. От съществено значение е, че задължението е калибрирано: изискваното ниво на грамотност трябва да бъде пропорционално на техническите знания, опита, образованието, обучението и контекста на съответните лица, както и на системите за ИИ, с които работят.

Член 4 следователно не налага единен стандарт. Вместо това, той създава рамка за надлежна грижа, при която организациите трябва да оценят нуждите от компетентност на съответния персонал спрямо системите за ИИ в съответния случай и да предприемат подходящи коригиращи или развиващи действия там, където съществуват пропуски. Разпоредбата отразява намерението на законодателя — артикулирано в Съображение 20 — че човешкият надзор над системите за ИИ е смислен само когато лицата, упражняващи този надзор, притежават основното разбиране, необходимо за ефективното му осъществяване. Задължението е хоризонтално по обхват: то се прилага независимо от рисковата категория на съответната система за ИИ, което го прави една от малкото разпоредби в Дял I, генерираща преки, изпълними задължения за всички участници в обхвата на Регламента.

Какво означава това на практика

Член 4 създава текущо вътрешно задължение за управление. Всяка организация, която се квалифицира като доставчик (пускащ система за ИИ на пазара на ЕС или въвеждащ я в експлоатация) или ползвател (използващ система за ИИ под своя отговорност в професионален контекст), трябва активно да оценява и адресира грамотността в областта на ИИ на съответния персонал.

На практика, това означава, че организациите трябва да започнат с картографиране на ролите, взаимодействащи със системи за ИИ — независимо дали ги изграждат, интегрират, оперират, наблюдават или преглеждат резултатите от ИИ. Правният екип, използващ инструмент за анализ на договори, отделът по човешки ресурси, внедряващ система за проверка на автобиографии, или инженерният екип, поддържащ модел за прогнозна поддръжка, всички попадат в обхвата. Всеки носител на роля трябва да притежава ниво на грамотност в областта на ИИ, подходящо за неговите отговорности.

Конкретно, действията за съответствие могат да включват:

• Провеждане на оценка на пропуските в уменията в ролите, свързани с ИИ
• Проектиране или набавяне на специфично за ролята обучение (техническият персонал изисква по-задълбочени познания за поведението на модела, пристрастията и несигурността; бизнес потребителите изискват осведоменост за ограниченията и пътищата за ескалация)
• Документиране на предприетите мерки за грамотност като част от по-широките записи за управление на ИИ
• Преглед и обновяване на програмите за грамотност с развитието на системите за ИИ или при въвеждане на нови системи

Логистична компания, внедряваща модел за оптимизация на маршрути, например, трябва да гарантира, че операторите, действащи по препоръките на модела, разбират диапазоните на доверие на системата, известните режими на повреда и кога да отменят. По подобен начин, доставчик на здравни услуги, внедряващ инструмент за диагностична поддръжка, трябва да гарантира, че клиницистите разбират какво прави и не прави инструментът, преди да разчитат на неговите резултати. Принципът на пропорционалност означава, че самостоятелен практикуващ, внедряващ прост инструмент за ИИ, ще има по-леки задължения от мултинационална компания, внедряваща системи с висок риск в мащаб.

Основни задължения

• Оценете нуждите от грамотност в областта на ИИ: Доставчиците и ползвателите трябва да идентифицират кой персонал и назначени лица взаимодействат със системи за ИИ и да оценят съществуващото им ниво на грамотност в областта на ИИ спрямо изискванията на тези роли.
• Предприемете подходящи мерки за грамотност: Организациите трябва активно да прилагат мерки — обучение, документация, насоки или структурирано повишаване на квалификацията — пропорционални на ролята на всяко лице, съществуващата му компетентност и съответните системи.
• Прилагайте пропорционалност: Изискваното ниво на грамотност в областта на ИИ не е единно; то трябва да отразява техническата сложност на системата за ИИ, степента на автономност, която упражнява, и потенциалното въздействие от решенията на носителя на роля.
• Поддържайте текущо покритие: Задължението е непрекъснато. С промяната на системите за ИИ, внедряването на нови системи или ротацията на персонала в роли, свързани с ИИ, мерките за грамотност трябва да се преглеждат и актуализират съответно.
• Разширете задължението към трети страни, действащи от името на организацията: Членът изрично обхваща лица, действащи от името на доставчици или ползватели, което означава, че наетият персонал, доставчиците на услуги и агентите, участващи в операцията на системата за ИИ, са в обхвата.
• Документирайте усилията: Въпреки че Член 4 не предписва конкретно изискване за документация, съгласуването с по-широките очаквания за управление на Регламента (особено за системи с висок риск) означава, че записите за оценки на грамотността и дейностите по обучение представляват добра практика и подкрепят доказуемото съответствие.

Връзка с други членове

Член 4 се намира в Дял I (Общи разпоредби) и функционира като хоризонтален помощен елемент за по-специфичните задължения на Регламента. Той е пряко свързан с Член 9 (система за управление на риска за системи с висок риск), който изисква лицата, отговорни за управлението на риска от ИИ, да притежават необходимата компетентност — стандарт, предполагащ базова грамотност в областта на ИИ. Той подсилва Член 14 (човешки надзор), където смисленият надзор от страна на физически лица зависи от разбирането на тези лица за резултатите, ограниченията и режимите на повреда на системата за ИИ.

Член 4 е свързан и с Член 16(g), който изисква от доставчиците на системи за ИИ с висок риск да предприемат стъпки, за да гарантират, че ползвателите могат да интерпретират и използват системата по подходящ начин, и с Член 26(2), който задължава ползвателите да възлагат човешкия надзор на лица с необходимата компетентност. В контекста на моделите с общо предназначение за ИИ (Дял VIII), Член 4 подкрепя очакването, че ползвателите, изграждащи на базата на резултати от модели с общо предназначение за ИИ, разбират естеството и ограниченията на тези модели. Четенето на Член 4 заедно със Съображение 20 изяснява намерението на законодателя, че грамотността в областта на ИИ е предпоставка за ефективното упражняване на всички останали задължения по Регламента.

График за съответствие

Законът за ИИ на ЕС влезе в сила на 1 август 2024 г., двадесет дни след публикуването в Официален вестник. Регламентът се прилага на фази:

• 2 февруари 2025 г. — Забраните за практики в областта на ИИ с неприемлив риск (Член 5) станаха приложими.
• 2 август 2025 г. — Член 4 стана приложим, заедно с разпоредбите за модели с общо предназначение за ИИ (Дял VIII) и задълженията, уреждащи нотифицираните органи и органите за надзор на пазара. Организациите трябва да са имали въведени мерки за грамотност в областта на ИИ до тази дата.
• 2 август 2026 г. — Задълженията за системи за ИИ с висок риск, изброени в Annex I (системи-компоненти за безопасност в регулирани продукти), се прилагат.
• 2 август 2027 г. — Задълженията за системи за ИИ с висок риск, изброени в Annex III (самостоятелни системи с висок риск), се прилагат изцяло, включително Членове 9–14 и 26, за което грамотността по Член 4 е предпоставка.

Организациите, които все още не са провели оценка на пропуските в грамотността или не са приложили никакви мерки за обучение, вече не спазват Член 4 от август 2025 г. и трябва да третират отстраняването на нарушенията като незабавен приоритет.