Obveznosti iz Uredbe EU o umetni inteligenci za zavarovalniško UI: aktuarski modeli, sklepanje zavarovanj, ocenjevanje škodnih zahtevkov in cenovna politika UI za fizične osebe. Zajema kategorijo 5(b) iz Priloge III in razmerje do direktive Solventnost II.
Zavarovalništvo in Uredba EU o umetni inteligenci — aktuarski izziv
Uredba EU o umetni inteligenci (Uredba (EU) 2024/1689) nalaga največje breme skladnosti sistemom umetne inteligence, ki vplivajo na zmožnost fizičnih oseb do dostopa do bistvenih storitev in finančnih produktov. Zavarovalništvo je v središču te skrbi. Sistemi umetne inteligence, ki določajo, ali fizična oseba lahko pridobi avtomobilsko, zdravstveno, življenjsko ali premoženjsko zavarovanje — in po kakšni ceni — so v številnih konfiguracijah visoko tvegani sistemi umetne inteligence v skladu s Prilogo III, točka 5(b) Uredbe.
Ključni izziv za zavarovalniški sektor je aktuarski. Že več kot sto let temelji zavarovalniško določanje cen na statističnem modeliranju tveganja prek populacijskih kohort. Uredba EU o umetni inteligenci ne prepoveduje aktuarskega razlikovanja, a nalaga vsebinske obveznosti sistemom umetne inteligence, prek katerih se takšno razlikovanje izvaja, kadar ti sistemi delujejo na ravni posamezne fizične osebe. Prehod od tradicionalnih modelov združevanja k individualnem ocenjevanju tveganj z umetno inteligenco — ki ga omogočajo telematika, tokovi zdravstvenih podatkov in vedenjska analitika — je natanko tisto, kar sproži visoko tvegani režim iz Uredbe.
Zavarovalnice, ki delujejo v EU, morajo zato izvesti sistematično klasifikacijo: kateri njihovi sistemi umetne inteligence proizvajajo individualizirane izhode, ki določajo ali bistveno vplivajo na odločitve o kritju za fizične osebe? Ta klasifikacijska vaja ni zgolj skladnostna formalnost. Njen izid določa, ali zavarovalnica kot izvajalec uvajanja v skladu s čl. 26 (ali ponudnik v skladu s čl. 16) nosi obveznosti v zvezi z upravljanjem podatkov, tehniško dokumentacijo, nadzorom s strani človeka, ocenjevanjem skladnosti in registracijo v bazi podatkov EU za visoko tvegano umetno inteligenco.
Uporaba Uredbe za zavarovalništvo je dodatno zapletena z obstoječo regulativno gostoto sektorja. Direktiva Solventnost II (2009/138/ES), Direktiva o distribuciji zavarovalnih produktov (IDD) (EU) 2016/97, GDPR in smernice EIOPA o umetni inteligenci na osnovi načel (2021) vsaka posebej nalagajo zahteve glede aktuarskega modeliranja, ravnanja s strankami in uporabe podatkov. Ti okviri se prekrivajo z obveznostmi iz Uredbe EU o umetni inteligenci, a je ne nadomeščajo. Programi skladnosti morajo hkrati obravnavati vse.
Visoko tvegani primeri uporabe umetne inteligence v zavarovalništvu
Aktuarski modeli določanja cen za fizične osebe
Priloga III, točka 5(b) Uredbe EU o umetni inteligenci razvršča med visoko tvegane vsak sistem umetne inteligence, ki se uporablja za ocenjevanje kreditne sposobnosti fizičnih oseb ali za razvrščanje fizičnih oseb glede na njihov profil tveganja z namenom dostopa do zavarovalnih storitev. To zajema aktuarske sisteme umetne inteligence, ki:
- Generirajo individualno oceno tveganja, ki se uporablja za določitev premije motornega zavarovanja za imenovanega zavarovalca
- Razvrščajo zdravstveni status ali tveganje umrljivosti fizične osebe z namenom določanja upravičenosti do življenjskega zavarovalnega kritja ali premije
- Sprejmejo odločitev o določitvi cene premoženjskega zavarovanja na osnovi z umetno inteligenco ocenjenih dejavnikov tveganja, ki so lastni določeni fizični osebi
Kritični prag je vpliv na posamezno fizično osebo. Aktuarska umetna inteligenca, ki se uporablja za pravne osebe — korporativna odgovornost, komercialno blago, industrijska lastnina — ne sproži Priloge III, kat. 5(b), razen če so fizične osebe prizadete na vsebinsko enakovreden način. Zavarovalnice, ki sklepajo tako osebne kot komercialne police, morajo vsak sistem umetne inteligence razvrstiti glede na populacijo, na katero deluje.
Telematika motornih zavarovanj in sistemi plačevanja glede na vožnjo
Telematski sistemi zavarovalnega določanja cen, ki zbirajo podatke o voznikovem vedenju — hitrost, pospeševanje, vzorci zaviranja, uporaba glede na čas v dnevu — in z modeli umetne inteligence generirajo individualno premijo za imenovano fizično osebo, so paradigmatičen primer visoko tveganega zavarovalnega sistema umetne inteligence. Ti sistemi izpolnjujejo vse elemente Priloge III, kat. 5(b): ocenjujejo posamezne fizične osebe, proizvajajo izhode, ki določajo dostop do zavarovanja in njegovo ceno, pri čemer je individualizacija z umetno inteligenco natanko tisto, kar jih razlikuje od tradicionalnega aktuarskega združevanja.
Ponudniki telematskih ocenjevalnih mehanizmov — razvitih interno ali pridobljenih z licenco od ponudnika tretje osebe — morajo ravnati v skladu s čl. 9 (upravljanje tveganj), čl. 10 (upravljanje podatkov za učne in validacijske nabore podatkov), čl. 11 v povezavi s Prilogo IV (tehnična dokumentacija), čl. 12 (beleženje), čl. 13 (preglednost), čl. 14 (nadzor s strani človeka) in čl. 15 (natančnost, robustnost, kibernetska varnost).
Umetna inteligenca za sklepanje življenjskih in zdravstvenih zavarovanj
Sistemi umetne inteligence, ki se pri sklepanju življenjskih zavarovanj uporabljajo za ocenjevanje tveganja dolgoživosti ali umrljivosti za posamezne prosilce — pri čemer se odloča, ali se ponudi kritje in po kakšni premiji — so visoko tvegani v skladu s Prilogo III, kat. 5(b), kadar za fizične osebe proizvajajo individualizirane ocene. To vključuje sisteme umetne inteligence, ki obdelujejo odgovore na zdravstvene vprašalnike, zdravstveno dokumentacijo (kadar je do nje zakonito dostopano) ali tokove podatkov iz nosljivih naprav z namenom generiranja ocene tveganja, ki vpliva na odločitve pri sklepanju zavarovanj.
Umetna inteligenca za zdravstvena zavarovanja, ki posamezne prosilce razvršča po profilu zdravstvenega tveganja z namenom določanja cen ali ugotavljanja upravičenosti, je predmet iste razvrstitve. Zavarovalnice morajo biti pozorne na presečišče čl. 9 GDPR (zdravstveni podatki kot posebna kategorija podatkov) in zahtev glede upravljanja podatkov iz čl. 10 Uredbe o umetni inteligenci: učni nabori podatkov, ki vsebujejo zdravstvene podatke, zahtevajo izrecno pravno podlago po čl. 9(2) GDPR, ki mora biti dokumentirana v tehniški dokumentaciji, zahtevani po Prilogi IV.
Umetna inteligenca za ocenjevanje in reševanje škodnih zahtevkov
Razvrstitev umetne inteligence za škodne zahtevke je odvisna od njene funkcionalne vloge v postopku odločanja o zahtevkih. Razlikovati je treba dva scenarija:
- Umetna inteligenca, ki bistveno vpliva na izid škodnega zahtevka za fizično osebo: kadar sistem umetne inteligence oceni zahtevek in njegov izhod neposredno povzroči znižanje, zavrnitev ali pogojno plačilo zavarovalniške ugodnosti fizični osebi — čeprav jo nominalno pregleduje človek — je sistem verjetno visoko tvegan v skladu s Prilogo III, kat. 5(b), ker dejansko določa dostop fizične osebe do zavarovalnih ugodnosti.
- Umetna inteligenca, ki označuje zahtevke za preiskavo s strani človeka: kadar je izhod umetne inteligence le eden od več vhodnih podatkov, ki jih upošteva obravnovalec škodnih zahtevkov, ki sprejme neodvisno vsebinsko odločitev, pri čemer ima obravnovalec pooblastilo in informacije za odstopanje od ocene umetne inteligence, sistem morda ni visoko tvegan. To razlikovanje mora biti dokumentirano in operativno resnično, ne zgolj nominalno.
Odkrivanje zavarovalniških goljufij
Sistemi umetne inteligence, ki se uporabljajo za odkrivanje potencialno goljufivih zahtevkov, zasedajo pomembno mejno območje. Kadar umetna inteligenca za odkrivanje goljufij sproži samodejno neugodno ukrepanje — prekinitev plačila, razveljavitev police — ki prizadene fizično osebo brez vsebinskega pregleda s strani človeka, je verjetno visoko tvegana. Kadar umetna inteligenca zgolj generira opozorilo o tveganju goljufije, ki ga nato preiskuje specializirani obravnovalec z ohranjenimi polnimi pooblastili za odločanje, morda ni visoko tvegana. Zavarovalnice morajo podrobno dokumentirati postopek umetne inteligence za odkrivanje goljufij in oceniti, ali je operativni nadzor s strani človeka vsebinski ali zgolj nominalni.
Ponudnik in izvajalec uvajanja v zavarovalništvu
Razlikovanje vlog
Uredba EU o umetni inteligenci nalaga različne sklope obveznosti glede na to, ali je organizacija ponudnik (razvija in daje umetno inteligenco na trg) ali izvajalec uvajanja (uporablja sistem umetne inteligence tretje osebe v poklicnem kontekstu). Za zavarovalnice je to razlikovanje poslovno pomembno:
- Zavarovalnica, ki razvija lastni telematski ocenjevalni mehanizem ali aktuarsko cenotvorno umetno inteligenco, je ponudnik v skladu s čl. 3(3) in nosi polne obveznosti ponudnika v skladu s čl. 16: sistem upravljanja kakovosti, tehnična dokumentacija, izjava EU o skladnosti, oznaka CE, registracija v bazi podatkov EU in poizvedovanje po tržnem nadzoru.
- Zavarovalnica, ki pridobi aktuarsko programsko rešitev umetne inteligence z licenco od ponudnika, je izvajalec uvajanja v skladu s čl. 3(4) in nosi obveznosti izvajalca uvajanja v skladu s čl. 26: izvajanje v skladu z navodili ponudnika, nadzor s strani človeka, vzdrževanje dnevniških zapisov in poročanje o incidentih.
- Zavarovalnica, ki modificira licencirani sistem umetne inteligence na načine, ki spremenijo njegov predvideni namen — na primer z uporabo telematskega modela za populacijo zavarovalcev zunaj validiranega obsega — je lahko prerazvrščena kot ponudnik v skladu s čl. 25(1) s polnimi obveznostmi ponudnika.
Skrbna analiza za izvajalce uvajanja aktuarskih sistemov umetne inteligence ponudnikov
Zavarovalnice, ki uvajajo aktuarske sisteme umetne inteligence tretjih oseb, morajo izvajati strukturirano skrbno analizo pred in po uvajanju:
Pred uvajanjem: Preverite, ali je sistem umetne inteligence registriran v bazi podatkov EU za visoko tvegano umetno inteligenco v skladu s čl. 49, ali nosi oznako CE in ali je priložena izjava EU o skladnosti. Zahtevajte in preglejte povzetek tehniške dokumentacije, vključno z meritvami natančnosti in pristranskosti, obsegom validiranega primera uporabe in izjavo o predvidenem namenu.
Pogodbena zaščita: Nabavne pogodbe s ponudniki umetne inteligence morajo določati: obveznost ponudnika, da zavarovalnico obvesti o pomembnih posodobitvah ali ponovnih ocenah; obveznost ponudnika, da na zahtevo zagotovi posodobljene podatke o poizvedovanju po tržnem nadzoru; ter meje dovoljenega obsega uvajanja — z jasnim mehanizmom, ki zavarovalnici omogoča, da zahteva oceno razširitve obsega namesto enostranskega ukrepanja.
Stalno spremljanje: V skladu s čl. 26(5) morajo izvajalci uvajanja v svojem operativnem kontekstu spremljati delovanje visoko tveganih sistemov umetne inteligence. Za aktuarsko umetno inteligenco to pomeni sledenje delovanju modela glede na dejanske izide škodnih zahtevkov, spremljanje porazdelitvenih premikov med učno populacijo in živo populacijo zavarovalcev ter posredovanje bistvenih odstopanj ponudniku v preiskavo.
Razmerje do direktive Solventnost II, IDD in GDPR
Direktiva Solventnost II — sistem upravljanja in ORSA
Zahteve II. stebra Direktive Solventnost II vzpostavljajo sistem upravljanja aktuarskih funkcij in funkcij upravljanja tveganj. Lastna ocena tveganj in solventnosti (ORSA) zahteva dokumentirano opredelitev tveganj, stresno testiranje in upravljanje notranjih modelov. Te zahteve se v veliki meri prekrivajo s sistemom upravljanja tveganj iz čl. 9 Uredbe EU o umetni inteligenci in komponentami validacije modelov iz tehniške dokumentacije po Prilogi IV.
Zavarovalnice bi morale izvesti strukturirano analizo vrzeli, da bi ugotovile, katere upravljavske artefakte direktive Solventnost II je mogoče izkoristiti za skladnost z Uredbo o umetni inteligenci in katere vrzeli ostajajo. Ključne vrzeli so praviloma naslednje: testiranje pristranskosti in ocena pravičnosti, specifična za umetno inteligenco (direktiva Solventnost II tega ne obravnava); dokumentacija nabora podatkov po čl. 10 za učne in validacijske podatke (ki presega obseg validacije modela po direktivi Solventnost II); samodejno beleženje delovanja sistema umetne inteligence po čl. 12; ter oblikovanje mehanizmov nadzora s strani človeka po čl. 14. Kadar notranji model, odobren v skladu z direktivo Solventnost II, vključuje komponente umetne inteligence, je treba upravljavski okvir tega modela razširiti, da se pred zakonitim uvajanjem sistema v okviru visoko tveganega režima izpolnijo obveznosti iz Uredbe o umetni inteligenci.
Direktiva o distribuciji zavarovalnih produktov — pravičnost in preglednost
IDD (EU) 2016/97 zahteva, da se distribucija zavarovalnih produktov izvaja v najboljšem interesu stranke, z informacijami, predstavljenimi na razumljiv način. Kadar se umetna inteligenca uporablja v distribucijskem procesu — na primer na digitalni platformi, ki generira personalizirana priporočila za produkte ali ponudbe premij — se obveznosti IDD glede pravičnosti in razkrivanja informacij ujemajo z zahtevami preglednosti iz čl. 13 Uredbe EU o umetni inteligenci. Zavarovalnice bi morale obveznosti razkrivanja informacij iz Uredbe o umetni inteligenci vključiti v dokumente o razkritju produktov po IDD (IPID) in ključne informacijske dokumente ter zagotoviti, da je vloga umetne inteligence pri distribuciji ali odločitvi o določanju cen posredovana v jeziku, ki je dostopen zavarovalcu.
GDPR — podatki posebnih kategorij in avtomatizirano odločanje
Čl. 9 GDPR zdravstvene podatke, genetske podatke in podatke v zvezi s telesnim ali duševnim zdravjem osebe razvršča med podatke posebnih kategorij, katerih obdelava je prepovedana brez posebnega odstopanja. Zavarovalnice za življenjska in zdravstvena zavarovanja, ki takšne podatke uporabljajo pri učenju ali ocenjevanju z umetno inteligenco, morajo za vsako kategorijo podatkov in namen obdelave opredeliti in dokumentirati veljavno pravno podlago po čl. 9(2) — najpogosteje izrecno privolitev po čl. 9(2)(a) ali odstopanje po pravu države članice po čl. 9(2)(b).
Čl. 22 GDPR omejuje izključno avtomatizirane odločitve, ki imajo za fizične osebe pravne ali podobno pomembne učinke. Odločitev umetne inteligence pri sklepanju zavarovanj, ki samodejno zavrne zahtevek za zavarovalniško kritje, ali odločitev umetne inteligence pri škodnih zahtevkih, ki samodejno zniža plačilo ugodnosti brez udeležbe človeka, pomeni izključno avtomatizirano odločanje po čl. 22. Posameznik, na katerega se nanašajo osebni podatki, je upravičen do: pregleda odločitve s strani človeka; razlage glavnih dejavnikov, ki vplivajo na avtomatizirano odločitev; in pravice, da izpodbija izid. Zavarovalnice morajo te pravice vgraditi v procese, usmerjene h kupcem, ter zagotoviti vsebinsko delovanje notranjih mehanizmov pregleda.
Smernice EIOPA o umetni inteligenci
Smernice EIOPA o uporabi umetne inteligence v zavarovalništvu (2021) na osnovi načel so pred uveljavitvijo Uredbe o umetni inteligenci vzpostavile sektorska pričakovanja glede preglednosti, nediskriminacije, kakovosti podatkov in razložljivosti modelov. EIOPA razvija sektorsko specifične smernice za izvajanje Uredbe EU o umetni inteligenci, zavarovalnice pa bi morale pozorno spremljati objave EIOPA. Nacionalni nadzorniki — ACPR (Francija), BaFin (Nemčija), IVASS (Italija), DNB (Nizozemska) — bodo v skladu s smernicami EIOPA izvajali nadzorna pričakovanja, v obdobju izvajanja Uredbe pa se pričakuje objava sektorsko specifičnih vprašanj in odgovorov.
Izvrševanje — EIOPA in nacionalni nadzorniki
Nadzorna vloga EIOPA
EIOPA (Evropski organ za zavarovanja in poklicne pokojnine) v skladu z Uredbo EU o umetni inteligenci, ki v skladu s čl. 70 za pristojne organe določa nacionalne nadzorne organe, nima neposrednih pooblastil za izvrševanje. EIOPA pa usklajuje nadzorno konvergenco med zavarovalniškimi regulatorji EU in izdaja zavezujoče in nezavezujoče tehnične standarde. Pričakovanja EIOPA glede upravljanja umetne inteligence — izražena prek smernic, mnenj in nadzornih izjav — bodo oblikovala način, kako nacionalni nadzorniki v zavarovalniški kontekst uvajajo zahteve Uredbe o umetni inteligenci. Zavarovalnice bi morale objave EIOPA obravnavati kot merodajne sektorske smernice, tudi kadar niso pravno zavezujoče.
Nacionalni zavarovalniški nadzorniki kot pristojni organi za umetno inteligenco
Nacionalni zavarovalniški nadzorniki na večjih trgih EU so postavljeni tako, da bodo opravljali funkcije pristojnih organov za umetno inteligenco v zvezi z zavarovalniškimi sistemi umetne inteligence:
- ACPR (Autorité de contrôle prudentiel et de résolution) v Franciji, ki je objavil nadzorna pričakovanja glede umetne inteligence v finančnih storitvah
- BaFin (Bundesanstalt für Finanzdienstleistungsaufsicht) v Nemčiji z uveljavljenim dosjejem na področju nadzora algoritemskega odločanja
- IVASS (Istituto per la Vigilanza sulle Assicurazioni) v Italiji
- DNB (De Nederlandsche Bank) na Nizozemskem
Ti organi imajo v skladu s čl. 74 in čl. 75 pooblastila za zahtevanje dostopa do učnih podatkov, tehniške dokumentacije in dnevniških zapisov; za izvajanje inšpekcij na kraju samem; za odrejanje korektivnih ukrepov; in za priporočilo denarnih kazni za neskladnost. Globe za dajanje visoko tveganega sistema umetne inteligence, ki ni v skladu s predpisi, na trg lahko dosežejo 30 milijonov EUR ali 6 % skupnega letnega globalnega prometa, kar koli je višje.
Dvojni nadzor: Uredba o umetni inteligenci in sektorska ureditev
Zavarovalniški nadzorniki, ki izvajajo Uredbo o umetni inteligenci, bodo to počeli v okviru svojih širših bonitetnih in vedenjskih pooblastil. Preiskava po Uredbi o umetni inteligenci v zvezi s pristranskostjo aktuarskega modela za določanje cen bo morda hkrati sprožila obveznosti poročanja po III. stebru direktive Solventnost II, vedenjske zahteve IDD in uveljavljanje GDPR s strani organa za varstvo podatkov. Zavarovalnice morajo računati s tem, da bodo nadzorni posegi medfunkcijski, in temu primerno zasnovali svoje programe skladnosti.
Načrt skladnosti za zavarovalnice
1. korak: Popis in razvrstitev sistemov umetne inteligence
Izvedite celovit popis vseh sistemov umetne inteligence, ki se uporabljajo pri: določanju premij; sprejemu ali zavrnitvi pri sklepanju zavarovanj; ocenjevanju ali plačilu škodnih zahtevkov; odkrivanju goljufij; ocenjevanju tveganja strank; ter distribuciji ali priporočilih za produkte. Za vsak sistem ocenite, ali ustvarja izhode, ki določajo ali bistveno vplivajo na izide za posamezne fizične osebe. Sistemi, ki dosegajo ta prag, zahtevajo oceno razvrstitve v skladu s Prilogo III, kat. 5(b).
2. korak: Določitev vloge ponudnika/izvajalca uvajanja
Za vsak visoko tvegani sistem umetne inteligence ugotovite, ali je zavarovalnica ponudnik, izvajalec uvajanja ali — kar je ključno — ali je uporaba zunaj validiranega obsega ponudnika sprožila prerazvrstitev v ponudnika. Za oceno mejnih konfiguracij vključite pravnega svetovalca, zlasti kadar so se interni podatki ali populacije zavarovalcev uporabile za fino uravnavanje ali razširitev licenciranega modela.
3. korak: Analiza vrzeli glede na obveznosti Uredbe o umetni inteligenci
Obstoječe upravljavske artefakte direktive Solventnost II, dokumentacijo ORSA in procese validacije notranjih modelov preslikajte na zahteve Uredbe o umetni inteligenci po čl. 9 (upravljanje tveganj), čl. 10 (upravljanje podatkov), čl. 11 in Prilogi IV (tehnična dokumentacija), čl. 12 (beleženje), čl. 13 (preglednost), čl. 14 (nadzor s strani človeka) in čl. 15 (natančnost, robustnost, kibernetska varnost). Dokumentirajte ugotovljene vrzeli in dodelite odgovornost za odpravo.
4. korak: Upravljanje podatkov in usklajenost z GDPR
Za vsak visoko tvegani sistem umetne inteligence revidite učne in validacijske nabore podatkov. Dokumentirajte izvor podatkov, metode zbiranja, reprezentativnost po ustreznih demografskih skupinah zavarovalcev in znane omejitve. Zagotovite pravne podlage GDPR za vse osebne podatke in, kjer je primerno, za podatke posebnih kategorij. Dokumentacijo po čl. 10 vključite v tehniško datoteko po Prilogi IV.
5. korak: Oblikovanje mehanizmov nadzora s strani človeka
Za vsako uvajanje visoko tvegane umetne inteligence oblikujte operativno realistične mehanizme nadzora s strani človeka. Za umetno inteligenco pri sklepanju zavarovanj to pomeni, da ima usposobljeni zavarovalniški delavec informacije, pooblastila in čas v postopku za pregled in odstopanje od priporočila umetne inteligence, preden to vpliva na zavarovalca. Za umetno inteligenco pri škodnih zahtevkih to pomeni, da ima obravnovalec zahtevkov vsebinsko pooblastilo za pregled — ne zgolj nominalno funkcijo odobritve. Zasnovo nadzora dokumentirajte in jo vključite v tehniško dokumentacijo.
6. korak: Skrbna analiza ponudnikov in sanacija pogodb
Za aktuarske sisteme umetne inteligence tretjih oseb izvedite zgoraj opisani postopek skrbne analize pred uvajanjem in preglejte obstoječe pogodbe s ponudniki. Kadar pogodbe ne vsebujejo določb, ki od ponudnika zahtevajo vzdrževanje dokumentacije skladnosti z Uredbo o umetni inteligenci, obveščanje zavarovalnice o pomembnih spremembah in dovolitev revizije delovanja sistema umetne inteligence, to odpravite z dopolnitvijo ali ponovnim pogajanjem pogodbe. Vzpostavite interne postopke za spremljanje delovanja sistema umetne inteligence v živi populaciji zavarovalcev in poročanje o bistvenih odstopanjih ponudnikom ter, kadar je to zahtevano, nadzornim organom.
Official AI Act Compliance Deadline Calendar
Updated · Sources: Regulation (EU) 2024/1689 and the 2026 Digital Omnibus on AI.
| Obligation | Applies to | Original date | New date | Status | Countdown | Legal basis |
|---|---|---|---|---|---|---|
| Prohibited Practices (Art. 5) | All providers and deployers | active | — | AI Act Art. 5 | ||
| GPAI Rules (Chapter 5) | GPAI model providers | active | — | AI Act Art. 51-56 | ||
| High-risk AI — Annex III (standalone) | Providers of standalone Annex III systems | deferred | — | AI Omnibus 2026 Art. 6(2) | ||
| High-risk AI — Annex I (embedded) | AI embedded in Annex I regulated products | deferred | — | AI Omnibus 2026 Art. 6(1) | ||
| AI-Generated Content Marking | Providers of generative GPAI systems | active | — | AI Act Art. 50(2) | ||
| Regulatory Sandboxes | National competent authorities | active | — | AI Act Art. 57 |
⬇ Download JSON · CC BY 4.0
AI Act meets DORA and NIS2
Is your organisation subject to both the AI Act and DORA? The two regulations intersect on the operational resilience of financial AI systems. Our sister site regulation-dora.eu covers DORA in depth.
Explore regulation-dora.eu ↗Frequently Asked Questions
Algoritem za določanje premij motornega zavarovanja je verjetno visoko tvegan v skladu s Prilogo III, točka 5(b), če ocenjuje kreditno sposobnost ali profil tveganja posameznih fizičnih oseb z namenom določanja višine premij ali upravičenosti do zavarovalnega kritja. Telematski sistemi plačevanja glede na vožnjo, ki ocenjujejo vedenje posameznih voznikov in ta rezultat uporabijo za določitev premij za imenovanega zavarovalca, nedvomno spadajo v to kategorijo. Tradicionalni aktuarski modeli združevanja, ki razvrščajo posameznike v aktuarske razrede brez individualnega ocenjevanja z umetno inteligenco, se nahajajo v bolj sivem območju, toda vsako komponento umetne inteligence, ki generira individualizirano oceno, ki se uporablja za določanje cene ali sprejema police fizične osebe, je treba oceniti v skladu s čl. 6(2) v povezavi s Prilogo III, kat. 5(b).
Ne, čeprav obstaja precejšnje prekrivanje, ki bi ga bilo treba izkoristiti. Čl. 9 Uredbe EU o umetni inteligenci zahteva sistem upravljanja tveganj, ki v celotnem življenjskem ciklu sistema umetne inteligence opredeljuje, analizira in zmanjšuje predvidljiva tveganja. Zahteve II. stebra direktive Solventnost II o lastni oceni tveganj in solventnosti (ORSA) ter zahteve sistema upravljanja zahtevajo dokumentirano opredelitev tveganj in upravljanje notranjih modelov v aktuarskih in cenotvorbnih procesih. Upravljavske strukture, dokumentirane ocene tveganj in postopki validacije modelov, razviti za direktivo Solventnost II, lahko tvorijo temelj za skladnost z Uredbo o umetni inteligenci, a jih je treba dopolniti, da se obravnavajo obveznosti, specifične za umetno inteligenco: testiranje pristranskosti, upravljanje podatkov v skladu s čl. 10, samodejno beleženje v skladu s čl. 12 in nadzor s strani človeka v skladu s čl. 14. Bistvena je analiza vrzeli glede na zahteve tehniške dokumentacije iz Priloge IV.
Kadar se visoko tvegan sistem umetne inteligence uporablja za sprejetje odločitve ali bistveno vplivanje nanjo, ki zadeva fizično osebo — vključno s sprejemom, zavrnitvijo ali cenovnim določanjem zavarovalnega kritja — mora izvajalec uvajanja posredovati smiselne informacije fizični osebi v skladu s čl. 26(6) Uredbe EU o umetni inteligenci; kjer pa je vključeno avtomatizirano odločanje iz čl. 22 GDPR, se uporabljajo določbe o pravicah posameznikov, na katere se nanašajo osebni podatki, iz čl. 13–15 in 22 GDPR. Zavarovalci so upravičeni do razlage logike avtomatiziranih odločitev, do zahteve za pregled s strani človeka in do pravice, da izpodbijajo izid. Zavarovalnice, ki uporabljajo orodja umetne inteligence za sklepanje zavarovanj, morajo zato zasnovati postopke razkrivanja informacij, usmerjene h kupcem, ter vzpostaviti mehanizme pregleda s strani človeka, ki so resnično dostopni — in niso pogojeni s specialnim znanjem.
Ne samodejno. Umetna inteligenca za odkrivanje goljufij, ki označuje zahtevke za preiskavo s strani človeka — pri čemer človeški preiskovalec sprejme končno odločitev o tem, ali zahtevek plačati, znižati ali zavrniti — morda ne dosega praga za razvrstitev med visoko tvegane v skladu s Prilogo III, kat. 5(b), ker umetna inteligenca samostojno ne določa dostopa do zavarovanja za fizične osebe. Če pa izhodni podatki sistema za odkrivanje goljufij neposredno sprožijo samodejno znižanje, začasno prekinitev ali zavrnitev plačila škodnega zahtevka fizični osebi brez vsebinskega pregleda s strani človeka, je sistem verjetno visoko tvegan. Zavarovalnice morajo natančno dokumentirati, kako se izhodni podatki umetne inteligence za odkrivanje goljufij uporabljajo v postopku reševanja škodnih zahtevkov, in zagotoviti, da tam, kjer so prizadete fizične osebe, pred odvzemom ugodnosti poseže smiseln nadzor s strani človeka.
Zavarovalnice, ki uvajajo aktuarska orodja umetne inteligence tretjih oseb, bi morale od ponudnika pogodbeno zahtevati naslednje: izjavo EU o skladnosti in dokumentacijo o oznaki CE za visoko tvegane sisteme; tehniško dokumentacijo, kot jo zahteva Priloga IV, vključno z izjavo o predvidenem namenu, opisi učnih naborov podatkov, rezultati validacije in testiranja (vključno z meritvami pristranskosti in natančnosti po demografskih podskupinah) ter datoteko upravljanja tveganj; navodila za uporabo, naslovljena na izvajalca uvajanja; podatke o poizvedovanju po tržnem nadzoru in poročila o incidentih; ter parametre in pogoje, v okviru katerih je bil sistem validiran, vključno z morebitnimi omejitvami glede primerov uporabe ali populacij zavarovalcev. Uvajanje zunaj okvira navodil za uporabo ponudnika lahko zavarovalnico prerazvrstite kot ponudnika s polnimi obveznostmi ponudnika v skladu s čl. 16.
Stay ahead of AI Act changes
Get compliance alerts when deadlines or obligations change.
No spam. One-click unsubscribe.