Член 13 — Прозрачност и предоставяне на информация на операторите (Регламент ЕС за ИИ)

Член 13 от Регламент (ЕС) 2024/1689 — Прозрачност и предоставяне на информация на операторите. Официален текст, практическо тълкуване, ключови задължения и последици за съответствие.

Резюме на официалния текст

Член 13 от Регламент (ЕС) 2024/1689 (Регламентът на ЕС за ИИ) установява задължения за прозрачност, приложими за високорискови системи с ИИ, определени в Дял III. Той изисква от доставчиците да проектират и разработват високорискови системи с ИИ по начин, позволяващ на операторите да разбират и правилно интерпретират резултатите на такива системи и да ги използват по подходящ начин.

Централният механизъм на члена е задължителното предоставяне на инструкции за употреба — структуриран документ, който трябва да придружава всяка високорискова система с ИИ, пусната на пазара или въведена в експлоатация. Член 13(3) определя подробно минималното съдържание на този документ. Той трябва да включва: самоличността и данните за контакт на доставчика; характеристиките, възможностите и ограниченията на системата, включително нейното предназначение и конкретните контексти, за които е валидирана; нивото на точност, надеждност и киберсигурност, спрямо което системата е тествана, заедно с всички известни и предвидими обстоятелства, които могат да повлияят на тази ефективност; когато е уместно — техническите възможности относно човешкия надзор, включително мерки за улесняване на тълкуването на резултатите; и насоки относно входните данни и хардуерната и софтуерна среда, в която е предназначена да функционира системата.

Прозрачността, изисквана от Член 13, не е само информационна: тя е предпоставка за смисления човешки надзор, предписан от Член 14. Доставчиците не могат да изпълнят задълженията по Член 14, ако операторите нямат разбирането, което Член 13 е предназначен да предоставя.

Какво означава това на практика

За организации, разработващи или предлагащи на пазара високорискови системи с ИИ, Член 13 се превръща в конкретно документационно задължение, което трябва да бъде вградено в жизнения цикъл на разработка на продукта, а не третирано като допълнителна формалност.

За доставчиците това означава изготвяне на инструкции за употреба, надхвърлящи стандартното техническо ръководство. Документът трябва да бъде съобразен с аудиторията на операторите — обикновено организация, закупуваща системата с ИИ за конкретен оперативен контекст, не непременно инженер по ИИ. Конкретни примери за това, което трябва да бъде обхванато: нивата на точност, постигнати по време на валидиране, разбити по съответни подгрупи от населението, когато е приложимо (важно за системи, използвани при подбор на персонал или оценки на кредитоспособността); видовете входни данни, върху които е обучена системата, и какви отклонения от това разпределение могат да причинят влошена ефективност; и конкретни насоки за това как проверяващият от страна на хората следва да интерпретира показател за достоверност или маркировка за риск, генерирани от системата.

За операторите Член 13 е основата на процеса на надлежна проверка преди въвеждане в експлоатация. Оператор, закупуващ високорискова система с ИИ, трябва да провери дали инструкциите за употреба са налице и са съдържателни. Липсата на адекватни инструкции сама по себе си е сигнал за съответствие, свързан с доставчика. Операторите в регулирани сектори — кредитни институции, доставчици на здравни услуги, публични органи — следва да включат преглед на документацията по Член 13 в своите процедури за оценка на доставчици и обществени поръчки.

Практически примери: Доставчик на базиран на ИИ инструмент за подбор на автобиографии (високорисков съгласно Annex III, точка 4) трябва да документира точността му по демографски групи и условията, при които резултатите на системата не следва да се ползват без преглед от страна на човек. Доставчик на система с ИИ, използвана за кредитен скоринг, трябва да посочи необходимите входни данни и статистическата достоверност на класификациите на риска.

Ключови задължения

• Проектиране за интерпретируемост: Високорисковите системи с ИИ трябва да бъдат проектирани и разработени така, че тяхната работа да е достатъчно прозрачна, за да могат операторите да интерпретират резултатите и да използват системата по подходящ начин (Член 13(1)).
• Предоставяне на инструкции за употреба: Доставчиците трябва да предоставят инструкции за употреба в цифрова или физическа форма с всяка високорискова система с ИИ, пусната на пазара или въведена в експлоатация (Член 13(2)).
• Разкриване на самоличност и данни за контакт: Инструкциите трябва да идентифицират доставчика и да предоставят данни за контакт, позволяващи на оператора да отправя запитвания, свързани със съответствието (Член 13(3)(a)).
• Документиране на възможностите и ограниченията: Инструкциите трябва да описват предназначението на системата, нивата на ефективност, валидирани с тестове, известни или предвидими обстоятелства, при които ефективността може да падне под документираните нива, и всички известни пристрастия (Член 13(3)(b)).
• Посочване на изискванията за входни данни: Когато е уместно за ефективността, инструкциите трябва да описват естеството, формата и произхода на данните, които системата изисква като вход (Член 13(3)(c)).
• Осигуряване на човешки надзор: Инструкциите трябва да включват информация за мерките, вградени в системата в подкрепа на задълженията за човешки надзор по Член 14, включително насоки как да се интерпретират и прилагат резултатите на системата (Член 13(3)(d) и (e)).

Връзка с други членове

Член 13 се намира на пресечната точка на няколко взаимосвързани задължения в Дял III, Глава 2. Той е оперативно неотделим от Член 14 (Човешки надзор): мерките, даващи възможност за човешки надзор, описани в Член 13(3)(d), са пряката информационна предпоставка операторите да могат да упражняват задълженията за надзор, наложени им от Член 14. Без адекватни инструкции по Член 13, съответствието с Член 14 е структурно невъзможно.

Член 13 се основава на техническата документация, изготвена съгласно Член 11, който изисква от доставчиците да поддържат изчерпателна документация за техните високорискови системи с ИИ. Инструкциите за употреба представляват извлечение от тази по-широка документация, насочено към операторите.

Задълженията взаимодействат с Член 16 (задължения на доставчиците) и Член 26 (задължения на операторите), в рамките на които всяка страна трябва да изпълни съответната си роля, след като системата е на пазара. За системи, преминаващи оценка на съответствието съгласно Член 43, инструкциите за употреба представляват задължителен елемент от досието за оценка на съответствието, разглеждано от нотифицираните органи.

Накрая, Член 13 е свързан с Член 50 (задължения за прозрачност при определени системи с ИИ) в смисъл, че и двата се занимават с прозрачност, но Член 50 е насочен към различен контекст — системи с ИИ, взаимодействащи с физически лица, а не с професионални оператори.

Срокове за съответствие

Регламентът на ЕС за ИИ влезе в сила на 1 август 2024 г., двадесет дни след публикуването му в Официален вестник на Европейския съюз. Прилагането е поетапно:

• 2 февруари 2025 г.: Забраните за практики с неприемлив риск от ИИ (Член 5) станаха приложими.
• 2 август 2025 г.: Правилата, регулиращи моделите с ИИ с общо предназначение (Дял VIII, Членове 51–56), и задълженията за управление станаха приложими.
• 2 август 2026 г.: Член 13 става приложим за високорискови системи с ИИ, изброени в Annex III (самостоятелни високорискови системи, включително използваните при биометрична идентификация, критична инфраструктура, образование, заетост, основни услуги, правоприлагане, миграция и правораздаване).
• 2 август 2027 г.: Член 13 става приложим за високорискови системи с ИИ, обхванати от Annex I (системи с ИИ, които са компоненти за безопасност на продукти, подлежащи на съществуващото законодателство на ЕС за безопасност на продуктите, като машини, медицински изделия и оборудване за гражданска авиация).

Доставчиците, насочени към крайния срок август 2026 г., следва да третират настоящия период като активно време за подготовка. Инструкциите за употреба трябва да бъдат финализирани и валидирани спрямо изискванията на Член 13(3), преди системата да бъде пусната на пазара, а не след това. Организациите, закупуващи високорискови системи с ИИ, следва да започнат да включват проверката по Член 13 в процесите на надлежна проверка на доставчиците още сега, преди приложимите дати.