Член 76 — Надзор върху тестването при реални условия от страна на органите за надзор на пазара (Регламент ЕС за ИИ)

Член 76 от Регламент (ЕС) 2024/1689 — Надзор върху тестването при реални условия от страна на органите за надзор на пазара. Официален текст, практическо тълкуване, ключови задължения и последици за съответствие.

Резюме на официалния текст

Член 76 от Регламент (ЕС) 2024/1689 предоставя специфични надзорни правомощия на органите за надзор на пазара по отношение на тестването на високорискови системи с ИИ при реални условия, предвидено в член 60. Членът установява, че когато такова тестване се провежда на територията на дадена държава членка, компетентният орган за надзор на пазара за тази територия има юрисдикция да надзирава провеждането на теста и да проверява, че всички условия, предписани от член 60, се спазват по време на целия период на тестване.

Органите са упълномощени да изискват достъп до цялата документация, лежаща в основата на теста при реални условия, включително плана за тестване, процедурите за информирано съгласие, прилагани по отношение на участниците, и всякакви записи, генерирани от системата с ИИ по време на работа. Когато органът установи обстоятелства, предполагащи, че тестването поражда риск — особено за здравето, безопасността или основните права на физическите лица — той може да разпореди спирането или окончателното прекратяване на дейността по тестване. Тези решения трябва да бъдат съобщени незабавно на Европейската комисия и на органите за надзор на пазара на другите държави членки чрез съществуващата инфраструктура на Съюза за информация и комуникация относно безопасността на продуктите.

Членът урежда и координацията между органите, когато тестването обхваща няколко държави членки, определяйки органа на държавата членка, в която е установен доставчикът, като водещ надзорен орган, като едновременно с това запазва правото на всеки засегнат орган да предприема защитни мерки на своя територия. Това отразява модела на координирано правоприлагане, прилаган съгласно другото законодателство на Съюза за хармонизация, и гарантира, че трансграничните тестове при реални условия не попадат в надзорен вакуум.

Какво означава това на практика

За доставчиците и ползвателите, провеждащи тестване на високорискови системи с ИИ при реални условия, член 76 означава, че тестването не е саморегулирана дейност: определен орган за надзор на пазара запазва непрекъснато надзорно правомощие от момента на започване на тестването до неговото приключване.

На практика, доставчик на ИИ, провеждащ пилот на например система за подкрепа на медицинска диагностика при пациенти в две държави членки, трябва да идентифицира водещия надзорен орган — обикновено органа в държавата членка, в която е установен доставчикът — и да гарантира, че цялата документация за теста, изисквана съгласно член 60, е достъпна за проверка при кратко предизвестие. Ако органът поиска достъп до системни регистрационни файлове, регистъра за информирано съгласие или записите за управление на инциденти, те трябва да бъдат предоставени в срока, определен от органа, който може да бъде само няколко дни при спешни ситуации.

Ползвателите (болници, агенции за набиране на персонал, кредитни институции или други организации, интегриращи системата на доставчика) споделят тежестта за спазване на изискванията. Те трябва да си сътрудничат с надзорните инспекции и да не пречат на достъпа на органите до тестовите обекти или интерфейсите на системата.

Когато тестването поражда сериозен инцидент — вреда, почти-инцидент или неочакван неблагоприятен резултат, засягащ участник — задълженията за уведомяване по член 73 се задействат паралелно, а органът за надзор на пазара, упражняващ надзор съгласно член 76, става незабавен получател на това уведомление. Организациите следователно трябва да интегрират своите процедури за реагиране при инциденти с рамките за управление на тестването, преди тестването да започне, а не след настъпването на инцидент.

Многонационалните програми за тестване следва да определят единствен вътрешен отговорник за съответствие, отговорен за координация между органите на държавите членки, и следва предварително да определят кой орган има водеща юрисдикция и кой разполага с паралелни териториални правомощия.

Ключови задължения

• Доставчиците и ползвателите трябва да поддържат цялата документация за тестване при реални условия — включително плана за тестване, записите за съгласие на участниците, записите за управление на риска и регистрационните файлове за работата на системата — в такава форма, която е незабавно достъпна за компетентния орган за надзор на пазара за срока на теста.
• При поискване от органа за надзор на пазара, доставчиците и ползвателите трябва да предоставят всяка информация, данни или достъп, необходими на органа за оценка на спазването на условията, предвидени в член 60, в срока, определен от органа.
• Когато тестването обхваща няколко държави членки, доставчикът трябва да се ангажира с водещия надзорен орган (органа на държавата членка по установяване) и да гарантира, че всички засегнати териториални органи са информирани и могат да упражняват защитни мерки в рамките на своята юрисдикция.
• Когато орган за надзор на пазара разпореди спирането или прекратяването на тестването при реални условия, доставчикът и ползвателят трябва незабавно да се съобразят и да преустановят всички дейности по тестване на територията на Съюза, докато органът не вдигне мярката или въпросът бъде решен чрез приложимата процедура за преразглеждане.
• Всеки сериозен инцидент, настъпил по време на тестването при реални условия, трябва да бъде нотифициран на надзорния орган за надзор на пазара в съответствие със сроковете и процедурите, установени съгласно член 73, без да се изчаква приключването на вътрешно разследване.
• Доставчиците и ползвателите трябва да си сътрудничат добросъвестно с инспекциите за надзор на пазара, включително да осигуряват достъп на място до съоръжения, персонал и интерфейси на системата с ИИ при поискване.

Връзка с другите членове

Член 76 се намира на пресечната точка на няколко взаимосвързани разпоредби на Регламент (ЕС) 2024/1689. Основната му връзка е с член 60, който определя съществените условия, при които тестването на високорискови системи с ИИ при реални условия е разрешено; член 76 е неговият правоприлагащ аналог, придаващ задължителна сила на тези условия чрез надзорен контрол.

Той се позовава на общата рамка за надзор на пазара, установена от членове 74 и 75, които определят правомощията и процедурите, достъпни за органите за надзор на пазара за всички категории системи с ИИ, и следва да се чете заедно с тези членове, за да се разбере пълният обхват на наличните разследващи и коригиращи правомощия.

Членът се свързва с член 73 относно докладването на сериозни инциденти, тъй като инциденти, настъпили по време на надзорно тестване, незабавно задействат веригата за уведомяване по този член. Член 57 относно регулаторните пясъчници за ИИ е свързана, но различна разпоредба: пясъчниците функционират под надзора на националните компетентни органи със специални дерогации, докато член 76 урежда тестването при реални условия съгласно стандартния режим за надзор на пазара.

Членове 85 и 86 относно санкциите и достъпа до правосъдие са уместни в последствие: неуспехът да се сътрудничи с надзора по член 76 може да представлява нарушение на съответствието, привличащо административни глоби съгласно рамката за санкции по Закона.

График за съответствие

Регламент (ЕС) 2024/1689 влезе в сила на 1 август 2024 г., отбелязвайки началото на поетапния график на прилагане. Член 76, като част от дял IX относно наблюдението след пускане на пазара и надзора на пазара, попада в разпоредбите, ставащи напълно приложими за високорисковите системи с ИИ на втора и трета фаза на прилагане.

За високорисковите системи с ИИ, изброени в Приложение III (самостоятелни приложения с висок риск), пълните задължения за надзор на пазара — включително надзорът по член 76 върху тестването при реални условия — се прилагат от 2 август 2026 г. За високорисковите системи с ИИ, които са компоненти за безопасност на продукти, регулирани от съществуващото законодателство на Съюза за хармонизация, изброено в Приложение I (като медицински изделия и машини), приложимата дата е 2 август 2027 г.

Доставчиците, планиращи тестване при реални условия на системи с висок риск, следва да третират август 2026 г. като твърд краен срок за наличие на съответстващи рамки за управление на тестването, включително документирани процедури за достъп на органите, ескалация на инциденти и трансгранична координация. Предвид факта, че програмите за тестване нерядко продължават шест до дванадесет месеца преди дадена система да достигне до внедряване, рамките за управление следва реалистично да бъдат проектирани и тествани не по-късно от началото на 2026 г., за да се избегнат закъснения при навлизането на пазара.