Член 86 — Право на обяснение при индивидуално вземане на решения (Регламент на ЕС за ИИ)

Член 86 от Регламент (ЕС) 2024/1689 — Право на обяснение при индивидуално вземане на решения. Официален текст, практическо тълкуване, основни задължения и последствия за съответствието.

Резюме на официалния текст

Член 86 от Регламент (ЕС) 2024/1689 — Регламентът на ЕС за ИИ — установява право на обяснение за физическите лица, предмет на решения, взети с участието на системи с ИИ с висок риск, изброени в Annex III. Когато такова решение поражда правни последици за дадено лице или го засяга по подобно значителен начин, то има право да получи от оператора смислено обяснение за ролята, която системата с ИИ е изиграла в процедурата по вземане на решения.

Обяснението трябва да обхваща, като минимум, основните параметри, взети предвид от системата, и тежестта, която тези параметри са носели при достигането до конкретния резултат, засягащ лицето. Това задължение е наложено на оператора — субекта, пускащ системата с ИИ с висок риск в употреба — а не на доставчика, разработил и пуснал системата на пазара.

Правото не е абсолютно. Член 86 изключва ситуации, в които решението е необходимо за сключване или изпълнение на договор, е изисквано или разрешено от правото на Съюза или на държавата членка, или се основава на изричното предварително съгласие на субекта на данни. Дори в тези изключени ситуации от операторите обикновено се изисква да въведат подходящи гаранции, включително да предоставят преглед от страна на човек и да информират лицата за тяхната възможност да поискат такъв преглед. Членът по този начин действа като допълващ инструмент към рамката за индивидуални права, установена по ОРЗД, особено по членове 13–15 и 22 от Регламент (ЕС) 2016/679, като е пригоден към специфичния контекст на вземане на решения с помощта на ИИ.

Какво означава това на практика

Член 86 има преки оперативни последствия за всяка организация, разполагаща система с ИИ с висок риск в контекст, в който са застрашени индивидуални резултати. Типичните сценарии включват кредитно оценяване с помощта на ИИ от финансови институции, инструменти за набиране на персонал или предварителен подбор на кандидати с подкрепата на ИИ, системи с ИИ, използвани при определяне на право на обезщетения от публични органи, и класификация на риска, управлявана от ИИ при застрахователния поемател.

Във всеки от тези случаи операторът трябва да е способен да генерира — при поискване — достатъчно подробен отчет за това защо конкретно решение се е развило по начина, по който се е развило за конкретно лице. Общото описание на начина на функциониране на модела като клас е недостатъчно. Обяснението трябва да бъде индивидуализирано: то трябва да отразява действителните параметри, оценени за това лице, и как всеки параметър е допринесъл за резултата.

На практика това изисква от операторите да поддържат способности за регистриране и одитна следа на ниво индивидуален извод, а не само на ниво модел. Когато системата с ИИ е доставена от доставчик трета страна, операторът трябва да гарантира, че договорните и техническите договорености, въведени в действие, позволяват получаването и предаването на необходимата информация. Доставчиците са съответно задължени по член 13 (прозрачност) и член 16 (задължения на доставчиците) да предоставят на операторите документацията, необходима за изпълнение на това задължение.

Организациите следва да преразгледат и как член 86 се пресича с техните съществуващи процеси по член 22 от ОРЗД. Когато автоматизираното вземане на решения задейства правата по член 22 от ОРЗД, правото на обяснение по Регламента на ЕС за ИИ може да се прилага едновременно, а консолидиран механизъм за отговор, обхващащ двете рамки, ще намали тежестта от съответствие и ще подобри преживяването на засегнатите лица.

Основни задължения

• Операторите на системи с ИИ с висок риск, изброени в Annex III, трябва да предоставят при поискване индивидуализирано обяснение на основните параметри на решение, взето с участието на ИИ, и относителната тежест на тези параметри при конкретния резултат.
• Обясненията трябва да бъдат специфични за засегнатото лице, а не общо описание на цялостната логика или методологията за обучение на системата.
• Операторите трябва да поддържат техническа и документна инфраструктура — включително регистрационни файлове на ниво извод — достатъчна за реконструиране и предаване на съответните параметри на решението след факта.
• Операторите трябва да информират засегнатите лица за тяхното право да поискат обяснение и, когато е приложимо, за тяхното право да поискат преглед от страна на човек на дадено решение, по ясен и достъпен начин.
• Когато се прилагат изключения (договорна необходимост, правно задължение, изрично съгласие), операторите трябва все пак да гарантират въвеждането на адекватни гаранции, включително действителен механизъм за преглед от страна на човек.
• Доставчиците, доставящи системи с ИИ с висок риск на оператори, трябва да предоставят достатъчна техническа документация и инструкции по членове 13 и 16, за да позволят на операторите да изпълнят своите задължения по член 86 надолу по веригата.

Връзка с другите членове

Член 86 не действа изолирано и трябва да се чете заедно с няколко взаимосвързани разпоредби на Регламента на ЕС за ИИ и външни инструменти.

В рамките на Регламента член 86 зависи пряко от класификацията в Annex III на системите с ИИ с висок риск; правото се задейства само когато дадена система попада в този обхват. Той е тясно свързан с член 13 (прозрачност и предоставяне на информация на операторите), член 14 (изисквания за човешки надзор), член 26 (задължения на операторите) и член 72 (задължения за оценка на въздействието върху основните права за определени публични оператори).

Отвън член 86 е изрично проектиран да допълва член 22 от ОРЗД, ограничаващ изцяло автоматизираните решения, пораждащи значителни последици за лицата, и членове 13–15 от ОРЗД, уреждащи правата на информация. Когато се прилагат и двата инструмента, правото на обяснение по Регламента за ИИ добавя специфичен за ИИ слой на детайлност към съществуващата рамка за прозрачност на ОРЗД. Практиците следва да имат предвид и взаимодействието с предложената Директива за отговорност за ИИ, при която записите от обясненията могат да станат съществени при установяването на причинно-следствената връзка при искания за обезщетение, произтичащи от решения, взети с помощта на ИИ.

График за съответствие

Регламентът на ЕС за ИИ влезе в сила на 1 август 2024 г., двадесет дни след публикуването му в Официален вестник на Европейския съюз. Прилагането е поетапно:

• Февруари 2025 г.: Разпоредбите относно забранените практики в областта на ИИ (член 5) станаха приложими.
• Август 2025 г.: Правилата, уреждащи моделите с изкуствен интелект с общо предназначение (Дял VIII, членове 51–56) и структурите за управление, станаха приложими.
• Август 2026 г.: Правилата, приложими за системи с ИИ с висок риск, обхванати от съществуващото хармонизационно законодателство на Съюза (Annex I), започнаха да се прилагат.
• Декември 2026 г. / Август 2027 г.: Пълните задължения за системи с ИИ с висок риск по Дял III — включително задълженията на операторите по член 26 и правото на обяснение по член 86 — се прилагат от 2 август 2026 г. за системи, изброени в Annex III, с преходен период за определени системи с висок риск, вече в експлоатация, разширяващ се до 2 август 2027 г.

Организациите, разполагащи системи с ИИ с висок риск по Annex III, които все още не спазват изискванията на член 86, следва да третират декември 2026 г. като твърд краен срок и да поставят като приоритет изграждането на инфраструктура за обяснения и работни потоци за искания за индивидуални права в достатъчно добро предварително съответствие с тази дата.