Член 14 — Човешки надзор (Регламент ЕС за ИИ)

Член 14 от Регламент (ЕС) 2024/1689 — Човешки надзор. Официален текст, практическо тълкуване, ключови задължения и последици за съответствие.

Резюме на официалния текст

Член 14 от Регламент (ЕС) 2024/1689 установява задължителни изисквания за човешки надзор на високорискови системи с ИИ, формирайки основен стълб на регулаторната рамка в Дял III, Глава 2. Членът изисква от доставчиците да проектират и разработват високорискови системи с ИИ по начин, позволяващ ефективното им наблюдение от физически лица по време на периода на използване.

По-конкретно, Член 14(1) задължава доставчиците да гарантират, доколкото е технически осъществимо, че мерките за човешки надзор са вградени в системата преди пускането й на пазара или въвеждането й в експлоатация. Тези мерки трябва да дадат възможност на лицата, натоварени с надзора, да разберат възможностите и ограниченията на системата (Член 14(4)(a)), да следят работата за признаци на аномалия, неизправност или неочаквана ефективност (Член 14(4)(b)), да остават наясно с риска от автоматизационна пристрастност (Член 14(4)(c)), да тълкуват правилно резултатите (Член 14(4)(d)) и да вземат решение да не използват системата или да я отменят, игнорират или спрат във всяка ситуация (Член 14(4)(e)).

Член 14(3) изисква физическите лица, натоварени с надзора, да имат необходимата компетентност, правомощия и ресурси за изпълнение на своята роля. Когато системата е предназначена за използване от физически лица, мерките за надзор трябва, доколкото е технически осъществимо, да бъдат вградени директно в интерфейса на системата. Член 14(5) разглежда системите с функция за компонент за безопасност, налагайки завишени очаквания, когато резултатът от ИИ се включва в решения, критични за безопасността.

Какво означава това на практика

Член 14 създава задължения както за доставчиците, така и за операторите, въпреки че естеството на тези задължения се различава на всеки етап от жизнения цикъл на системата с ИИ.

За доставчиците задължението е основно проектно: човешкият надзор не трябва да бъде допълнителна мярка след разработката, а функция, проектирана в системата от самото начало. Това означава изграждане на интерфейси, показващи значими индикатори за достоверност, маркиране на резултати с ниска сигурност, осигуряване на прекъсване или отмяна без технически пречки и предоставяне на документация, позволяваща на операторите да разберат какъв надзор е реалистично постижим.

За операторите задължението е оперативно: те трябва да назначат квалифицирани лица за наблюдение на системата, да гарантират, че тези лица са обучени и информирани за ограниченията на системата, да установят процедури за ескалация и намеса и да поддържат записи за надзорната дейност. Оператор, използващ базиран на ИИ инструмент за подбор на персонал, например, трябва да гарантира, че служителите по подбора на персонал преглеждат маркираните кандидати, разбират критериите, прилагани от модела, и запазват правомощието да отменят класирането без санкция или процедурна пречка.

Критичен практически проблем е автоматизационната пристрастност — документираната склонност на лицата, осъществяващи надзор от страна на хората, да следват безкритично резултатите на ИИ. Член 14(4)(c) изрично изисква лицата, осъществяващи надзор, да са наясно с този риск. На практика това означава, че програмите за обучение трябва да разглеждат когнитивната пристрастност и работните потоци следва да бъдат структурирани така, че да изискват истинско обмисляне, а не механично одобрение.

Операторите в регулирани сектори като здравеопазване, правоприлагане и кредитна оценка са изправени пред завишени очаквания, предвид тежестта на вредата, която може да произтече от непроверени препоръки на ИИ в тези контексти.

Ключови задължения

• Интеграция на етапа на проектиране: Доставчиците трябва да вградят възможностите за човешки надзор в високорискови системи с ИИ преди пускането им на пазара, гарантирайки, че са технически осъществими, а не само номинални.
• Разбираемост: Мерките за надзор трябва да дадат възможност на назначените лица да разберат възможностите, предназначението и ограниченията на системата, включително условията, при които ефективността може да се влоши.
• Наблюдение за аномалии: Назначените лица трябва да могат да открият неизправности, неочаквани резултати и отклонения от очакваното поведение на системата по време на работа.
• Осведоменост за пристрастността: Лицата, отговорни за надзора, трябва да бъдат запознати с риска от автоматизационна пристрастност и склонността да се разчита прекомерно на генерираните от ИИ резултати без независима проверка.
• Правомощие за отмяна: Надзорниците трябва да имат реалната, безпрепятствена възможност да игнорират, отменят или спрат системата с ИИ по всяко време по време на употреба, без технически или организационни пречки за намеса.
• Изисквания за компетентност и ресурси: Операторите трябва да гарантират, че лицата, натоварени с надзора, имат достатъчна компетентност, обучение, правомощия и време за осъществяване на значим надзор — надзорът не може да бъде делегиран на лица, на които липсват необходимите квалификации или капацитет.

Връзка с други членове

Член 14 не функционира изолирано. Той предполага съответствие с Член 9 (система за управление на риска), тъй като ефективният надзор зависи от идентифицирането на рисковете, пред които е изправена системата, и условията, при които надзорът става критичен. Той е тясно свързан с Член 13 (прозрачност и предоставяне на информация на операторите), който изисква от доставчиците да предоставят информацията, необходима на операторите за разбиране и наблюдение на системата — без тази информация надзорът, предвиден от Член 14, не може да функционира.

Член 16 и Член 26 установяват общите задължения съответно на доставчиците и операторите, в рамките на които са вложени задълженията по Член 14. Член 17 (система за управление на качеството) изисква процедурите за човешки надзор да бъдат документирани като част от рамката за качество на доставчика.

За системи с функция за компонент за безопасност, Член 14(5) се пресича с продуктовото законодателство, посочено в Annex I, и с секторните изисквания, които могат да налагат допълнителни или по-детайлни задължения за надзор. Накрая, Член 72 (пост-пазарно наблюдение) разширява логиката на надзора отвъд внедряването в текущия оперативен жизнен цикъл на системата.

Срокове за съответствие

Регламент (ЕС) 2024/1689 влезе в сила на 1 август 2024 г., двадесет дни след публикуването му в Официален вестник. Неговите разпоредби се прилагат по поетапен график:

• 2 февруари 2025 г.: Забраните за практики с неприемлив риск от ИИ (Член 5) станаха приложими.
• 2 август 2025 г.: Правилата за модели с ИИ с общо предназначение (Дял VIII) и задълженията за управление (Дял III, Глава 4) станаха приложими.
• 2 август 2026 г.: Задълженията за високорискови системи с ИИ, изброени в Annex III — включително Член 14 — стават напълно приложими за повечето категории. Това е основният краен срок за съответствие за доставчиците и операторите на високорискови системи с ИИ, подлежащи на изисквания за човешки надзор.
• 2 август 2027 г.: Удължен срок за определени високорискови системи с ИИ, вече подлежащи на специфично за сектора хармонизационно законодателство на Съюза (системи от Annex I), давайки на тези вериги на доставки допълнително време за адаптиране на процедурите за оценка на съответствието.

Доставчиците и операторите на високорискови системи с ИИ следва да третират 2 август 2026 г. като оперативния краен срок за съответствие с Член 14, като подготвителната работа по проектирането и управлението изисква започване добре преди тази дата, за да се осигури достатъчно време за оценка на съответствието и документиране.