Článek 68 — Vědecký panel nezávislých odborníků (zákon EU o AI)

Článek 68 nařízení (EU) 2024/1689 — Vědecký panel nezávislých odborníků. Oficiální text, praktický výklad, klíčové povinnosti a důsledky pro dodržování předpisů.

Shrnutí oficiálního textu

Článek 68 nařízení (EU) 2024/1689 zřizuje vědecký panel nezávislých odborníků na podporu prosazování a správy zákona EU o AI, zejména s ohledem na modely AI pro obecné účely (GPAI). Komise je pověřena zřízením panelu prostřednictvím prováděcího aktu, v němž stanoví jeho složení, jednací řád a postup pro výběr členů.

Členové panelu jsou jmenováni na základě jejich aktuální, vysoké vědecké nebo technické odbornosti v oblasti umělé inteligence a funkci vykonávají v osobním a nezávislém postavení. Je jim zakázáno jednat jménem jakéhokoli členského státu, orgánu EU nebo soukromého zájmu a před účastí na příslušných jednáních musí deklarovat případné střety zájmů.

Hlavní mandát panelu zahrnuje: poskytování nezávislých vědeckých stanovisek, analýz a technického poradenství Úřadu pro AI a v příslušných případech vnitrostátním příslušným orgánům; přispívání k posouzení modelů GPAI, které mohou představovat systémová rizika; upozorňování Úřadu pro AI na konkrétní obavy; a podpora jednotného uplatňování nařízení v celém Unii. Panel může rovněž požadovat přístup k informacím a dokumentaci od poskytovatelů modelů GPAI, s výhradou povinností mlčenlivosti. Jeho práce doplňuje institucionální strukturu Evropské rady pro AI a Úřadu pro AI a poskytuje nezávislou vědeckou vrstvu v celkové architektuře správy zavedené hlavou VII.

Co to znamená v praxi

Pro většinu organizací nasazujících nebo vyvíjejících systémy AI funguje článek 68 v pozadí: vědecký panel je institucionálním orgánem, nikoli přímou povinností dodržování předpisů pro soukromé subjekty. Jeho praktické důsledky jsou však významné, zejména pro poskytovatele modelů AI pro obecné účely se širokým dosahem nebo potenciálem systémového rizika.

Pro poskytovatele modelů GPAI: Panel má pravomoc požadovat technickou dokumentaci, hodnocení modelů a výsledky testů. Poskytovatelé modelů klasifikovaných jako představující systémové riziko — nebo podléhajících šetření ohledně takové klasifikace — by měli počítat s žádostmi o informace ze strany panelu a být připraveni odpovědět v lhůtách stanovených Úřadem pro AI. Udržování strukturované, auditovatelné technické dokumentace je proto žádoucí jako proaktivní opatření k dodržování předpisů.

Pro vnitrostátní příslušné orgány a oznámené subjekty: Panel slouží jako ústřední vědecká reference. Jeho stanoviska ohledně prahových hodnot rizika, metodologií testování a schopností modelů jsou určena k podpoře harmonizovaného prosazování v členských státech, čímž se snižuje riziko odlišných vnitrostátních výkladů.

Pro týmy pro dodržování předpisů a právní poradce: Pochopení operačních postupů panelu — včetně způsobu vydávání upozornění a doporučení — je důležité pro předvídání regulační trajektorie správy GPAI. Výstupy panelu mohou ovlivnit následné akty v přenesené pravomoci nebo pokyny vydané Komisí, čímž utvářejí očekávání týkající se dodržování předpisů nad rámec toho, co je v současnosti kodifikováno.

Panel nevydává závazná rozhodnutí, ale jeho posouzení mají autoritativní váhu v rámci řetězce prosazování.

Klíčové povinnosti

• Povinnost Komise: Evropská komise musí zřídit vědecký panel prostřednictvím prováděcího aktu, v němž stanoví složení, kritéria pro členství, pravidla provozu a postupy pro střet zájmů.
• Nezávislost odborníků: Členové panelu musí jednat výhradně ve veřejném zájmu a v osobním postavení, přičemž musí zveřejňovat veškeré střety zájmů, které by mohly ovlivnit nestrannost jejich práce.
• Technická podpora Úřadu pro AI: Panel je povinen poskytovat vědecká stanoviska, upozornění a doporučení ohledně modelů GPAI, posouzení systémových rizik a technických záležitostí, které mu předloží Úřad pro AI nebo vnitrostátní orgány.
• Přístup k informacím: Panel může požadovat příslušné technické informace a dokumentaci od poskytovatelů modelů GPAI, kteří jsou povinni spolupracovat s výhradou platných ochrany důvěrnosti.
• Mechanismus upozornění: Panel má výslovnou funkci upozorňovat Úřad pro AI na vznikající rizika, bezpečnostní obavy nebo vzorce nedodržování předpisů zjištěné v průběhu jeho vědeckých činností.
• Podpora harmonizace: Panel přispívá k jednotnému a rovnoměrnému uplatňování nařízení v celém EU, zejména tím, že poskytuje referenční vědecká posouzení, na která se mohou vnitrostátní příslušné orgány spoléhat.

Vztah k dalším článkům

Článek 68 je součástí hlavy VII (Správa) a je úzce propojen se širší architekturou správy zákona EU o AI. Je nutné jej číst společně s článkem 64 (pravomoc Komise přistupovat k informacím a provádět šetření modelů GPAI) a článkem 65 (pravomoci k prosazování a šetření na úrovni Unie), protože technická zjištění panelu přímo vstupují do těchto procesů.

Práce panelu na systémovém riziku přímo souvisí s článkem 51 (klasifikace modelů GPAI se systémovým rizikem) a články 55–55 (povinnosti platné pro poskytovatele modelů GPAI, včetně dokumentace, hodnocení a hlášení incidentů). Kritéria, která panel používá k posouzení systémového rizika, se vážou na prahové hodnoty a ukazatele definované v příloze XIII.

Na institucionální úrovni článek 68 doplňuje článek 65 (Úřad pro AI) a článek 66 (Evropská rada pro umělou inteligenci), čímž vytváří tripartitní strukturu správy, v níž panel poskytuje nezávislé vědecké odborné znalosti, Úřad pro AI vykonává pravomoci k prosazování a Rada koordinuje vnitrostátní postoje. Článek 70 (pravomoci vnitrostátního příslušného orgánu) by rovněž měl být čten společně s článkem 68 při zvažování toho, jak se doporučení panelu promítají do opatření na úrovni členských států.

Časový harmonogram dodržování předpisů

Zákon EU o AI vstoupil v platnost 2. srpna 2024, dvacet dní po zveřejnění v Úředním věstníku. Jeho ustanovení se uplatňují postupně:

• Únor 2025: Zákazy nepřijatelných praktik AI s rizikem (hlava II) se staly použitelnými.
• Srpen 2025: Ustanovení hlavy VII o správě, včetně článku 68, se stala použitelnými. Toto je datum, od něhož se rámec vědeckého panelu — zahrnující dohled nad GPAI, zřízení panelu a postupy posuzování systémového rizika — stal provozním. Úřad pro AI byl povinen sestavit panel a podpůrnou infrastrukturu v tomto okně.
• Prosinec 2026: Požadavky na systémy AI s vysokým rizikem podle přílohy I (legislativa bezpečnosti výrobků) se uplatní.
• Srpen 2027: Požadavky na systémy AI s vysokým rizikem podle přílohy III (samostatné systémy s vysokým rizikem) se uplatní v plném rozsahu.

Pro poskytovatele modelů GPAI je srpen 2025 kritickým referenčním datem pro dodržování předpisů: od tohoto okamžiku je panel oprávněn požadovat dokumentaci a vydávat upozornění, což z technické připravenosti a úplnosti dokumentace činí aktivní požadavek pro dodržování předpisů, nikoli budoucí povinnost.