Evropska komisija je predstavila osnutek predloge za presojo vplivov umetne inteligence na temeljne pravice. Bo novi instrument prispeval k učinkovitejšemu varstvu pravic ali predvsem k bolj urejeni dokumentaciji?
Evropska komisija je 16. novembra 2026 objavila osnutek predloge za oceno učinka na temeljne pravice (Fundamental Rights Impact Assessment oziroma FRIA), ki jo predvideva 27. člen Akta o umetni inteligenci (Akt o UI). Hkrati je odprla javno posvetovanje, ki bo trajalo do 15. januarja 2027, ter povabila organizacije k praktičnemu preizkušanju predlaganega vprašalnika – prijave za pilotno testiranje zbira do 4. decembra 2026.
Na prvi pogled gre za razmeroma tehnično novost – še en obrazec, s katerim bo evropska regulacija umetne inteligence dobila svojo operativno razsežnost. Toda v ozadju se skriva precej pomembnejše vprašanje: ali lahko standardizirana presoja vplivov na temeljne pravice dejansko izboljša odločitve o uvajanju umetne inteligence? Odgovor ni samoumeven, saj nas dosedanje izkušnje opozarjajo, da med prepoznavanjem pravnih obveznosti in njihovim dejanskim uresničevanjem pogosto zeva precejšnja vrzel.
Od pravnega okvira k konkretnemu orodju
O tem, kaj prinaša 27. člen Akta o UI, zakaj ocena vplivov na temeljne pravice ni zgolj razširjena ocena učinka v zvezi z varstvom podatkov (DPIA) in kako ozko organizacije pogosto razumejo temeljne pravice, sem podrobneje že pisala (tule). Tam smo ob ugotovitvah Agencije EU za temeljne pravice (FRA) iz decembra 2025 izpostavili, da je glavna težava predvsem v praksi: organizacije sicer poznajo varstvo podatkov in zasebnosti, pogosto pa spregledajo širše posledice za pravico do izobraževanja, svobodne izbire poklica ali enakega obravnavanja, hkrati pa se preveč zanašajo na zgolj formalni človeški nadzor.
Z objavo novembrskega osnutka predloge se razprava premika z ravni načel na raven konkretnega orodja. Dokument, ki ga je Urad za UI pripravil v sodelovanju z Agencijo EU za temeljne pravice (FRA), šest zakonskih elementov iz 27. člena Akta o UI prevaja v strukturiran vprašalnik – od opisa postopkov, okoliščin uporabe in prizadetih skupin ljudi do prepoznavanja konkretnih tveganj, ureditve človeškega nadzora in zaščitnih ukrepov. Obveznost FRIA pri tem ne velja za vse uvajalce visokotveganih sistemov, temveč za določene uvajalce sistemov iz Priloge III: predvsem za osebe javnega prava in zasebne subjekte, ki zagotavljajo javne storitve, ter za uvajalce določenih sistemov za ocenjevanje kreditne sposobnosti fizičnih oseb in ocenjevanje tveganj ter oblikovanje cen pri življenjskem oziroma zdravstvenem zavarovanju. Izvzeti so sistemi s področja kritične infrastrukture iz druge točke Priloge III. Ko bo predloga dokončno sprejeta, bo uvajalcem pomagala pri pripravi presoje, o rezultatih katere bodo morali obvestiti pristojni organ za nadzor trga. Komisija predvideva tudi avtomatizirano orodje za izpolnjevanje predloge na enotni informacijski platformi Akta o UI.
Po prilagojeni časovnici, ki jo je prinesel poletni Digitalni omnibus za UI (Uredba (EU) 2026/1744), se bo obveznost FRIA začela uporabljati 2. decembra 2027. Organizacije imajo tako dobro leto dni časa, da dokument spremenijo v delujoč notranji proces.
Kaj lahko vprašalnik preveri – in česa ne more odločiti?
Osnutek evropske predloge je precej konkretnejši, kot bi morda pričakovali. V sedmih vsebinskih sklopih uvajalce vodi od osnovnih informacij o sistemu in okoliščinah njegove uporabe do opredelitve prizadetih skupin, prepoznavanja tveganj za posamezne temeljne pravice ter presoje njihove verjetnosti in resnosti. Posebno pozornost namenja zaščitnim ukrepom, preostalim tveganjem po njihovi izvedbi, človeškemu nadzoru in postopkom ukrepanja, kadar se tveganja uresničijo. Predviden je tudi sklepni povzetek ugotovitev.
Zanimivo je, da osnutek pri človeškem nadzoru ne ostaja zgolj pri vprašanju, ali je ta zagotovljen, temveč zahteva tudi opredelitev pristojnosti oseb, ki lahko rezultate sistema zavrnejo, spremenijo ali razveljavijo. Odpira se celo možnost, da bi prihodnje digitalno orodje samodejno oblikovalo sklepno sintezo ugotovljenih tveganj.
Takšna strukturiranost je nedvomno dobrodošla. Lahko prispeva k primerljivosti presoj in zmanjša verjetnost, da bi organizacije spregledale pomembne vidike varstva pravic. Hkrati pa odpira zanimivo dilemo: ali je mogoče presojo vplivov na temeljne pravice standardizirati, ne da bi pri tem standardizirali tudi samo pravno in vrednostno presojo?
Predstavljajmo si javno institucijo, ki želi umetno inteligenco uporabiti kot podporo pri odločanju o upravičenosti do socialne pomoči. Vprašalnik ji lahko pomaga prepoznati tveganja diskriminacije, posegov v zasebnost ali omejevanja učinkovitega pravnega varstva. Pomaga ji lahko oceniti njihovo resnost in dokumentirati predvidene zaščitne ukrepe. Ne more pa namesto nje odgovoriti na bistveno vprašanje: ali je uporaba takšnega sistema glede na konkretne okoliščine sploh upravičena in ali obstajajo primernejši načini za doseganje istega cilja?
Predloga lahko strukturira presojo, ne more pa prevzeti odgovornosti za njene zaključke. In prav tu vprašanje regulativne skladnosti preraste v precej širše vprašanje odgovornega upravljanja tehnologije.
Ko se vprašanje pravic spremeni v vprašanje upravljanja
Prav ta premik k standardiziranemu vprašalniku odpira ključno vprašanje: ali bo enotna evropska predloga dejansko spremenila način, kako institucije sprejemajo odločitve o tehnologiji?
Zanimivo širšo perspektivo ponuja poročilo Programa Združenih narodov za razvoj (UNDP) New Ways of Governing, ki povzema razprave mednarodne konference v Oslu oktobra 2025. Čeprav poročilo ne obravnava neposredno pravnih obveznosti iz Akta o UI, se posveča vprašanju, kako naj se institucije prilagajajo tehnološkim spremembam ter pri tem ohranjajo legitimnost, odgovornost in zaupanje javnosti. Med njegovimi ugotovitvami velja izpostaviti tri poudarke, ki so posebej pomembni za razumevanje FRIA.
Prvo zadeva dejansko sposobnost odločanja o tehnologiji. UNDP digitalno suverenost razume tudi kot možnost, da posamezniki, skupnosti in države tehnologijo sprejmejo, prilagodijo, začasno ustavijo ali zavrnejo. Če se FRIA začne šele potem, ko je organizacija že sprejela dokončno odločitev o uvedbi sistema, zanj zagotovila proračunska sredstva in sklenila pogodbe, je njena sposobnost vplivanja na izid bistveno omejena. V takšnih okoliščinah hitro postane orodje za naknadno upravičevanje že sprejete odločitve. Prava vrednost presoje pa je ravno v tem, da lahko odločitev še spremeni.
Drugo sporočilo zadeva sodelovanje prizadetih skupin. Odgovorno upravljanje tehnologije zahteva vključevanje ljudi in skupnosti, na katere bodo nove rešitve neposredno vplivale. Ker organizacije pogosto nimajo celovitega vpogleda v vse potencialne učinke svojih sistemov, lahko prav prizadeti posamezniki, njihovi predstavniki in neodvisni strokovnjaki najhitreje opozorijo na slepe pege. Takšen participativni pristop ima oporo tudi v samem Aktu o UI. Čeprav 27. člen ne določa splošne obveznosti posvetovanja, uvodna izjava 96 izrecno predvideva možnost vključevanja predstavnikov prizadetih skupin, neodvisnih strokovnjakov in organizacij civilne družbe v pripravo presoje ter oblikovanje zaščitnih ukrepov, kadar je to primerno. Takšno sodelovanje bi zato moralo postati temeljni standard dobre prakse.
Tretje sporočilo UNDP zadeva institucionalno odgovornost in javno naročanje. Preglednost, možnost nadzora, pravica do izpodbijanja odločitev in učinkoviti pritožbeni mehanizmi niso le dodatki tehnološkim sistemom, temveč jedro njihovega upravljanja. Pri tem imajo odločilno vlogo postopki javnega naročanja: pogodbe s ponudniki tehnologije morajo institucijam zagotoviti dostop do potrebnih informacij, možnost preverjanja delovanja sistemov ter realno možnost njihove zamenjave ali opustitve. Brez takšnih pogodbenih varovalk ima še tako temeljita presoja vplivov v praksi zvezane roke.
Ali je vsako tveganje mogoče rešiti z dodatnim ukrepom?
V razpravah o regulaciji umetne inteligence pogosto prevladuje predpostavka, da je vsako tveganje mogoče zmanjšati na sprejemljivo raven z ustreznimi tehničnimi in organizacijskimi ukrepi. Velikokrat to drži, včasih pa ne.
FRA v svojem poročilu izpostavlja potrebo, da presoja poleg prepoznavanja in blaženja tveganj vsebuje tudi končno oceno njihove sprejemljivosti. Organizacija bi se morala vprašati, ali je uporaba sistema sploh nujna, ali so pričakovane koristi sorazmerne s posegi v pravice in ali obstajajo manj invazivne, tudi nealgoritemske alternative. Čeprav 27. člen ne določa samostojnega, univerzalnega preizkusa sorazmernosti za vsako uporabo UI, takšna presoja izhaja iz širših pravil o varstvu temeljnih pravic. Institucija mora imeti strokovno in upravljavsko zrelost, da na podlagi ugotovljenih tveganj sistema ne le popravi, temveč po potrebi spremeni svojo odločitev o njegovi uvedbi.
Ob tem ne smemo spregledati še ene pomembne meje 27. člena: obveznost FRIA je odvisna od razvrstitve sistema med visokotvegane. Člen 6(3) Akta o UI pod določenimi pogoji omogoča izvzetje sistemov iz Priloge III iz kategorije visokega tveganja, kadar ne predstavljajo znatnega tveganja škode za zdravje, varnost ali temeljne pravice. Med relevantnimi okoliščinami je tudi opravljanje določenih ozko opredeljenih postopkovnih ali pripravljalnih nalog. FRA opozarja, da lahko preširoka razlaga teh izjem ustvari pomembne vrzeli v varstvu pravic, saj lahko tudi na videz podporni sistemi bistveno vplivajo na končne odločitve. Varstva temeljnih pravic zato ne smemo enačiti izključno z obveznostjo izpolnjevanja obrazca FRIA; tudi kadar ta ni obvezna, ostajajo v veljavi vse druge zahteve evropskega in nacionalnega prava.
Slovenski preizkus: priložnost za aktivno oblikovanje prakse
Za Slovenijo je razvoj evropske predloge FRIA pomemben predvsem z vidika prihodnje uporabe umetne inteligence v javnih institucijah, zdravstvu, izobraževanju in finančnem sektorju. Nacionalni institucionalni okvir je z Zakonom o izvajanju Akta o UI (ZIUDHPUI) že vzpostavljen, vendar bo njegova dejanska učinkovitost odvisna od zmogljivosti posameznih institucij za prepoznavanje in obvladovanje tveganj.
To zahteva precej več od poznavanja predpisov. Potrebujemo sistematično povezovanje pravnega, tehnološkega in področnega znanja, sodelovanje z neodvisnimi nadzornimi institucijami ter postopke, ki presojo vplivov vključijo že v fazo načrtovanja in javnega naročanja – ne šele kot zadnjo administrativno kljukico pred zagonom sistema.
Zato je odprtje pilotnega preizkušanja predloge do 4. decembra 2026 (in javnega posvetovanja do 15. januarja 2027) redka priložnost za slovenske deležnike. Ministrstva, javne agencije, bolnišnice in podjetja lahko evropski vprašalnik preizkusijo na svojih konkretnih primerih uporabe še preden postane zavezujoč. Sodelovanje v tej fazi ne pomeni le zgodnje priprave na skladnost, temveč tudi neposreden vpliv na to, ali bo evropska metodologija resnično uporabna v manjših upravnih in poslovnih sistemih z omejenimi kadrovskimi viri.
Od vprašalnika do infrastrukture zaupanja
Nova predloga Evropske komisije bo pomembno vplivala na to, katera vprašanja bodo organizacije zastavljale, katera tveganja bodo prepoznavale in kako bodo dokumentirale svoje odločitve. Toda nobena predloga, še tako premišljeno zasnovana, ne more nadomestiti človeške presoje, strokovne integritete in institucionalne odgovornosti.
Uspešnosti FRIA zato ne bomo merili zgolj s številom opravljenih presoj, temveč predvsem s tem, ali bodo njihove ugotovitve dejansko vplivale na kakovost odločitev. V tem izzivu pa leži tudi velika priložnost. Evropski pristop k umetni inteligenci bo uspešen takrat, ko organizacije presoje vplivov ne bodo dojemale kot zavore inovacijam, temveč kot sestavni del njihovega odgovornega uvajanja. Jasni mehanizmi človeškega nadzora, odgovornosti in pravnega varstva so namreč pomemben pogoj za hitrejši, pogumnejši in bolj suveren tehnološki razvoj. Kakovostna FRIA je zato več kot pravna varovalka – je eden od pomembnih gradnikov zaupanja, ki omogoča, da tehnološki napredek spremljata tudi učinkovito varstvo temeljnih pravic in odgovorno odločanje.
***
Viri
Uredba (EU) 2024/1689 – Akt o umetni inteligenci, 27. člen, konsolidirano besedilo.
Uredba (EU) 2026/1744 – Digitalni omnibus za UI. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32026R1744
Evropska komisija (16. 11. 2026): Osnutek predloge FRIA, pilotno preizkušanje in javno posvetovanje. https://digital-strategy.ec.europa.eu/en/news/commission-seeks-feedback-draft-template-fundamental-rights-impact-assessment-under-ai-act
Zakon o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI), Uradni list RS, št. 85/2025. https://pisrs.si/pregledPredpisa?id=ZAKO9225
FRA (2025): Assessing High-risk Artificial Intelligence: Fundamental Rights Risks. https://fra.europa.eu/en/news/2025/fra-report-calls-effective-fundamental-rights-assessment-high-risk-ai
UNDP (2025): New Ways of Governing – Conference Report. https://www.undp.org/policy-centre/governance/publications/new-ways-governing-conference-report
