Служба по ИИ на ЕС: Мандат, правомощия и роля в правоприлагането по Закона за ИИ

Службата по ИИ на ЕС, установена в рамките на Европейската комисия, е основният орган на ниво ЕС, контролиращ GPAI моделите и координиращ правоприлагането по Закона за ИИ. Тази страница обяснява нейния мандат, правомощия за разследване, санкционни правомощия и взаимодействието й с националните органи за надзор на пазара.

Какво е Службата по ИИ на ЕС?

Службата по ИИ на ЕС (официално: Служба за изкуствен интелект) е органът на ниво ЕС, установен в рамките на Европейската комисия, за надзор на изпълнението и правоприлагането на Закона на ЕС за ИИ — с конкретен мандат, обхващащ моделите за ИИ с общо предназначение (GPAI).

За разлика от традиционните агенции на ЕС (като ENISA или EBA), Службата по ИИ не е независим регулаторен орган. Тя е структурирана като административна служба в рамките на Генерална дирекция „Комуникационни мрежи, съдържание и технологии" (ГД CONNECT). Тази структура й дава пряк достъп до ресурсите и формирането на дневния ред на Комисията, но означава и че нейните решения за правоприлагане са технически решения на Комисията, подлежащи на съдебен контрол от ЕС.

Службата по ИИ беше създадена рано — официално установена през февруари 2024 г., няколко месеца преди Законът за ИИ да бъде публикуван в Официален вестник (юли 2024 г.) и да влезе в сила (август 2024 г.). Това ранно установяване беше умишлено: регулацията на GPAI е чувствителна към времето, предвид темпото на развитие на фундаментални модели, и Комисията искаше инфраструктурата за правоприлагане да е готова преди влизането в сила на най-спешните задължения.

Правна основа и мандат

Правната основа на Службата по ИИ на ЕС е Глава VIII от Закона на ЕС за ИИ (чл. 64–68), допълнена от Решението на Комисията от 24 януари 2024 г., официално установяващо службата.

Нейният основен мандат обхваща три области:

1. Надзор на GPAI модели (пряко правоприлагане)

Службата по ИИ разполага с изключителна компетентност на ниво ЕС за надзор на доставчиците на модели за ИИ с общо предназначение. Това включва:

• Мониторинг на спазването на задълженията по Глава V (прозрачност, техническа документация, спазване на авторски права, докладване за енергийна ефективност за моделите с системен риск)
• Изискване и преглед на техническа документация от доставчиците на GPAI
• Провеждане на оценки на GPAI модели — включително тестване срещу противника и red-team упражнения — за оценка на способностите и системните рискове
• Издаване на сигнали, когато GPAI модел представлява системен риск
• Налагане на глоби и коригиращи мерки

2. Трансгранична координация (системи за ИИ с висок риск)

За системи за ИИ с висок риск правоприлагането е предимно национално. Но Службата по ИИ играе ключова координационна роля:

• Улесняване на обмена на информация между националните органи за надзор на пазара (МСА)
• Обработване на случаи, при които несъответстваща система за ИИ с висок риск циркулира в множество държави-членки
• Предоставяне на техническа експертиза и насоки на националните органи
• Искане за съвместни разследвания при значително трансгранично въздействие

3. Научна и техническа подкрепа

Службата по ИИ управлява Научен консултативен съвет, съставен от независими ИИ експерти (чл. 68). Този съвет предоставя:

• Технически оценки на способностите и рисковете на GPAI модели
• Съвети относно праговете за класификация (напр. изчислителният праг за GPAI модели с системен риск)
• Принос в разработването на стандарти, кодекси за поведение и методологии за оценка

Правомощия за разследване и правоприлагане

Службата по ИИ разполага със значителни правомощия за разследване над доставчиците на GPAI модели, включително:

Искания за информация

Службата по ИИ може да поиска всяка информация от доставчик на GPAI, която счита за необходима за надзорните си задачи (чл. 91). Доставчиците трябва да отговорят в срока, определен от Службата. Непредоставянето на информация или предоставянето на невярна или подвеждаща информация само по себе си е санкционируемо нарушение.

Оценки и тестване

Службата по ИИ може да поиска от доставчик на GPAI да представи модела си за оценка, включително:

• Оценки на способностите (установяване на опасни способности като помощ за CBRN, улесняване на кибератаки или манипулация в мащаб)
• Оценки на безопасността и съответствието
• Тестване срещу противника / red-teaming

Службата може да провежда оценки сама или да ги възлага на квалифицирани трети страни или национални органи. Законът за ИИ изисква от доставчиците на GPAI с модели с системен риск да осигуряват достъп до моделите им за целите на оценката.

Проверки на място

За GPAI модели с системен риск Службата по ИИ може да провежда проверки на място в съоръженията на доставчика, с помощта на националните органи в засегнатата държава-членка. Обикновено се изисква предварително уведомление, освен ако Службата не разполага с конкретни основания да смята, че предварителното уведомление би накърнило разследването.

Временни мерки

При спешен риск Службата по ИИ може да налага временни мерки за предотвратяване на сериозни и непоправими вреди. Тези мерки трябва да бъдат пропорционални и подлежат на преразглеждане.

Глоби

Глобите са структурирани в три нива:

За МСП и стартиращи предприятия се прилага по-малката от фиксираната сума или процента от оборота. Службата по ИИ трябва да вземе предвид естеството, тежестта, продължителността и последиците от нарушението, както и нивото на сътрудничество, проявено от доставчика.

Кодексът за поведение на GPAI

Ключов инструмент на Службата по ИИ е Кодексът за поведение на GPAI — технически доброволен инструмент, разработен чрез многостранен процес, превеждащ задълженията по Глава V на Закона в конкретни насоки за прилагане.

Процесът по Кодекса за поведение започна през октомври 2024 г., като Службата по ИИ свика работни групи от доставчиците на GPAI, академични изследователи, организации на гражданското общество и национални органи. Обхваща:

• Задължения за прозрачност за доставчиците на GPAI (резюмета на данни за обучение, документация за способности)
• Процедури за спазване на авторски права
• Методологии за оценка на модели за оценка на системния риск
• Стандарти за безопасност и сигурност за GPAI модели с системен риск

Спазването на Кодекса за поведение създава презумпция за съответствие с съответните задължения по Глава V. Това е значителна полза: доставчиците, следващи Кодекса, могат да разчитат на него в производствата по правоприлагане, вместо да трябва да демонстрират съответствие от нулата.

Съветът по ИИ

Съветът по ИИ (чл. 65) функционира паралелно с Службата по ИИ. Той е съставен от:

• По един представител на всяка държава-членка на ЕС (национални надзорни органи)
• Представител на Европейския надзорен орган по защита на данните (ЕНОЗД)
• Представител на Комисията (невъзможен за гласуване председател)

Функциите на Съвета по ИИ включват:

• Издаване на становища и препоръки до Службата по ИИ и Комисията
• Координиране на националните надзорни подходи
• Консултиране по класификацията на системи и модели за ИИ
• Принос в разработването на стандарти и методологии за оценка

Съветът е консултативен и координационен орган — не разполага с пряка правоприлагателна власт. Неговите становища обаче имат значително тегло и от Службата по ИИ се очаква да ги взема предвид.

Национални органи за надзор на пазара

За системи за ИИ с висок риск (не GPAI модели) националните органи за надзор на пазара (МСА) са основните органи за правоприлагане. Всяка държава-членка трябва да определи поне един МСА, отговорен за правоприлагането на Закона за ИИ на нейна територия.

МСА имат правомощия да:

• Провеждат дейности по надзор на пазара
• Изискват техническа документация и журнали за достъп от доставчиците и крайните потребители
• Нареждат коригиращи мерки (изтегляне, изземване, ограничаване на достъпа до пазара)
• Налагат глоби по националното изпълнително законодателство

Службата по ИИ координира с МСА чрез Съвета по ИИ и чрез двустранно сътрудничество, но не ги командва. Държавите-членки са отговорни за осигуряването на ресурси и правомощия на своите МСА.

Практически последици за доставчиците на GPAI

Ако разработвате или разгръщате модел за ИИ с общо предназначение, достъпен на пазара на ЕС, Службата по ИИ на ЕС е вашият основен регулаторен контрагент. На практика това означава:

1. Регистрирайте и документирайте проактивно — Службата по ИИ очаква доставчиците да разполагат с техническа документация, готова преди да бъдат попитани. Суетенето за подготовка на документация след запитване не е силна позиция за съответствие.

2. Ангажирайте се с Кодекса за поведение — участието в процеса по Кодекса за поведение на GPAI и приемането на неговите разпоредби създава презумпция за съответствие и демонстрира добросъвестност пред Службата по ИИ.

3. Познайте статуса си на системен риск — текущият праг за класификация на системен риск е изчислителен ресурс за обучение, надвишаващ 10^25 FLOP. Ако моделът ви е близо до или над този праг, ангажирайте се проактивно с Службата по ИИ относно задълженията за оценка.

4. Подгответе се за оценки — ако разработвате GPAI модел с системен риск, трябва да можете да осигурите достъп до модела за оценка. Това изисква техническа инфраструктура за контролиран API достъп, сътрудничество при тестване срещу противника и документация на red-teaming резултатите.

5. Наблюдавайте сигналите и становищата — Службата по ИИ публикува насоки, сигнали и становища на уебсайта си. Те не са обвързващи регулации, но сигнализират приоритети за правоприлагане и тълкувателни позиции, които ще оформят разследванията.