Член 72 — Наблюдение след пускане на пазара от страна на доставчиците и план за наблюдение след пускане на пазара за високорискови системи с ИИ (Регламент ЕС за ИИ)

Член 72 от Регламент (ЕС) 2024/1689 — Наблюдение след пускане на пазара от страна на доставчиците и план за наблюдение след пускане на пазара за високорискови системи с ИИ. Официален текст, практическо тълкуване, ключови задължения и последици за съответствие.

Резюме на официалния текст

Член 72 от Регламент (ЕС) 2024/1689 установява задължително задължение за наблюдение след пускане на пазара за доставчиците на високорискови системи с ИИ. Доставчиците са длъжни проактивно да събират, документират и анализират съответни данни за работата на своите високорискови системи с ИИ през целия оперативен живот на тези системи, след като са пуснати на пазара или въведени в употреба.

Членът задължава доставчиците да изготвят и прилагат план за наблюдение след пускане на пазара, който трябва да бъде пропорционален на естеството на високорисковата технология с ИИ и свързаните с нея рискове. Този план трябва да е включен в техническата документация, изготвена съгласно член 11 и определена в съответствие с Приложение IV. Той трябва да определя методите и процедурите за систематично събиране на данни за ефективността, включително данни, получени от ползвателите, когато е уместно.

Когато наблюдението разкрие, че дадена високорискова система с ИИ вече не отговаря на изискванията, определени в глава III, раздел 2, доставчикът трябва незабавно да предприеме подходящи коригиращи мерки. Това включва актуализиране на системата, изтеглянето й от пазара или нейното отзоваване при необходимост.

Член 72 признава и ролята на ползвателите: доставчиците трябва да инструктират ползвателите да предоставят съответни оперативни данни, които не могат да бъдат събрани пряко. Задължението за наблюдение е непрекъснато, а не еднократно, което отразява динамичния характер на работата на системата с ИИ и развиващите се контексти, в които тези системи се разгръщат.

Какво означава това на практика

За организациите, които разработват или доставят високорискови системи с ИИ, член 72 въвежда структурирано, текущо задължение за съответствие, което се простира далеч отвъд момента на пускане на пазара. Доставчиците не могат да третират оценката на съответствието като еднократно упражнение. Вместо това те трябва да проектират и въведат в действие инфраструктура за наблюдение, преди тяхната система да влезе в употреба.

На практика това означава предварително да се определи какви данни ще бъдат събирани от внедрените екземпляри на системата, как ще бъдат анализирани тези данни и какви прагове на ефективност ще задействат преглед или коригиращо действие. Например, доставчик на инструмент за диагностика на медицински устройства с помощта на ИИ трябва да уточни кои показатели — като степени на фалшиво отрицателни резултати, различия в ефективността по демографски признак или метрики за отклонение на модела — ще бъдат проследявани, с каква честота и от кого.

Доставчиците на системи с ИИ, вградени в продукти на трети страни, се изправят пред допълнително предизвикателство: те зависят от ползвателите да предават оперативни данни, до които доставчикът не може да получи достъп пряко. Това изисква договорни договорености с ползвателите, които ясно определят задълженията за споделяне на данни, предвидени при съвместното четене на член 72 и член 25.

Организациите с вече съществуващи системи за управление на качеството (СУК) — като тези, вече съответстващи на ISO 13485 за медицински изделия или по-общо на ISO 9001 — ще открият естествено съответствие с изискванията на член 72. Планът за наблюдение след пускане на пазара трябва да бъде интегриран в по-широката СУК, документирана съгласно член 17, а не да се третира като самостоятелен документ.

По-малките доставчици и стартиращите предприятия ще трябва да осигурят подходящи ресурси за тази функция: член 72 не предвижда изключение de minimis въз основа на размера на компанията, въпреки че пропорционалността на плана спрямо нивото на риск на системата е изрично призната.

Ключови задължения

• Изготвяне на план за наблюдение след пускане на пазара, пропорционален на нивото на риск и естеството на високорисковата система с ИИ, документиран като част от техническата документация съгласно член 11 и Приложение IV.
• Активно събиране и анализ на данни след пускане на пазара относно работата на системата през целия оперативен жизнен цикъл, включително данни от ползвателите, когато прякото събиране не е възможно.
• Предварително определяне на показатели за ефективност и прагове за коригиращи действия, уточняване на какво ниво на влошаване или несъответствие задейства официален преглед или коригиращ отговор.
• Предприемане на коригиращи действия без забавяне, когато наблюдението разкрие, че системата вече не отговаря на високорисковите изисквания на глава III, раздел 2, което може да включва актуализиране, отзоваване или изтегляне на системата.
• Интегриране на резултатите от наблюдението в системата за управление на качеството, установена съгласно член 17, като се гарантира, че констатациите се отразяват обратно в подобряването на продукта, актуализациите на документацията и процесите на повторна оценка.
• Инструктиране на ползвателите да предоставят оперативно релевантни данни и да си сътрудничат в процеса на наблюдение след пускане на пазара, подкрепено от подходящи договорни или технически договорености.

Връзка с другите членове

Член 72 е в центъра на набор от взаимосвързани задължения. Той пряко се свързва с член 73, който урежда докладването на сериозни инциденти и неизправности пред националните компетентни органи: системата за наблюдение, установена съгласно член 72, е механизмът за установяване на събитията, които член 73 изисква да бъдат докладвани.

Член 17 (системи за управление на качеството) осигурява организационната рамка, в която трябва да бъде вграден планът за наблюдение след пускане на пазара. Член 11 и Приложение IV определят изискванията за техническата документация, чиято неразделна част трябва да представлява планът за наблюдение.

Член 25 разпределя отговорностите между доставчиците и ползвателите и е от съществено значение за разбирането как доставчиците могат да получат оперативни данни от последващите потребители. Член 26 допълва това, като подробно описва задълженията на ползвателите, включително задължението да наблюдават използването на системата и да докладват аномалии обратно на доставчика.

За високорискови системи с ИИ, които са компоненти за безопасност на продукти, обхванати от законодателството на Съюза за хармонизация, изброено в Приложение I, член 72 трябва да се чете заедно с задълженията за надзор след пускане на пазара в приложимия секторен регламент, като например Регламент за медицинските изделия (ЕС) 2017/745 или Регламент за машините (ЕС) 2023/1230, осигурявайки съгласувано и неудвоено съответствие.

График за съответствие

Регламентът на ЕС за ИИ влезе в сила на 1 август 2024 г. след публикуването му в Официален вестник на Европейския съюз. Регламентът се прилага поетапно за различни категории задължения.

Член 72, като част от дял IX, уреждащ наблюдението след пускане на пазара и надзора на пазара, се прилага за доставчиците на високорискови системи с ИИ, изброени в Приложение III (общи категории с висок риск като биометрия, заетост, образование и достъп до основни услуги), считано от 2 август 2027 г. Високорисковите системи с ИИ, обхванати от Приложение I — тези, които са компоненти за безопасност на продукти, вече регулирани съгласно съществуващото законодателство на Съюза за хармонизация — също подлежат на пълните задължения, включително член 72, считано от 2 август 2027 г. в повечето случаи, в съответствие с общата дата на прилагане за висок риск.

Доставчиците следва да отбележат, че по-ранните крайни срокове — февруари 2025 г. за забранени практики с ИИ и август 2025 г. за задълженията по отношение на модели с ИИ с общо предназначение — не управляват пряко член 72, но основата за инфраструктура за наблюдение трябва да бъде положена добре преди крайния срок за 2027 г. На организациите, разработващи днес високорискови системи с ИИ, се препоръчва да започнат да проектират своите планове за наблюдение след пускане на пазара като част от процеса на подготовка за съответствие, вместо да ги въвеждат допълнително в момента на прилагане.