Okvir za usklajevanje vrednot
Sistemi umetne inteligence (UI) so vse bolj integrirani v številna področja, vključno z javno upravo (JU), kjer imajo pomemben vpliv na odločanje, upravljanje in zagotavljanje storitev. Etika UI je v tem okviru osnova za usklajevanje vrednot, ki usmerja razvoj UI tako, da je ta (i) osredotočena na državljana in univerzalne človekove vrednote, kot so (ii) poštenost in pravičnost, (iii) transparentnost in razložljivost, (iv) varnosti, vključujoča rast, trajnostni razvoj in blaginjo ter (v) odgovornost [1].
Etika UI v JU (PPŠ 2023)Pravni in normativni okvir
V tem kontekstu Uredba o UI kot enega svojih ključnih namenov deklarativno opredeljuje prav »zagotoviti visoko raven varovanja zdravja, varnosti in temeljnih pravic« iz Listine Evropske unije o temeljnih pravicah (člen 1).
Uredba, skladno z načelom ocene tveganj, ki ga uporablja zakonodajalec EU, predvideva, da je treba v vseh fazah upravljanja tveganj upoštevati vpliv UI na temeljne pravice. To vključuje oceno skladnosti ter specifično oceno vpliva na temeljne pravice v skladu s členom 27 (»Fundamental rights impact assessment« oz. FRIA). Posebej pomembna je tudi določba, ki se nanaša na splošne modele UI s sistemskimi tveganji. Vpliv na temeljne pravice mora biti zato skrbno analiziran in upoštevan v vseh fazah življenjskega cikla sistemov in modelov UI – od njihovega načrtovanja in razvoja do uvedbe v prakso.
Opredelitev usklajevanja vrednot za etiko UI v JU
Usklajevanje vrednot v sistemih UI je temeljnega pomena za zagotavljanje njihove skladnosti s širšim etičnim, pravnim in družbenim okvirom, zlasti v kontekstu javne uprave. Gre za več kot tehnično vprašanje – gre za bistven del odgovornega upravljanja javnih storitev, kjer imata zaupanje državljanov in odgovornost institucij ključno vlogo. Le sistemi umetne inteligence, ki so vrednotno usklajeni skozi celoten življenjski cikel – od načrtovanja in razvoja do uvajanja, uporabe in stalnega nadzora – lahko učinkovito prispevajo k javnemu dobru.
V odsotnosti ustreznega etičnega usklajevanja obstaja resno tveganje, da UI v JU reproducira ali celo poglablja sistemske pristranskosti, ogroža zasebnost posameznikov ali oslabi temeljne demokratične vrednote. Zato morajo biti procesi razvoja in uporabe UI transparentni, preverljivi in vključujoči, pri čemer je nujno zagotoviti aktivno sodelovanje vseh ključnih deležnikov – od institucij javnega sektorja in raziskovalne sfere do civilne družbe in širše javnosti. Le s takšnim pristopom lahko umetna inteligenca postane orodje, ki krepi javni interes, pravno varnost in družbeno zaupanje.
Z NpUI2025 se je Slovenija zavezala k vzpostavitvi ustreznega pravnega in etičnega okvira za razvoj in uporabo UI, s ciljem zagotoviti, da bodo rešitve, ki temeljijo na umetni inteligenci, skladne z družbenimi pričakovanji in etičnimi smernicami. Kot enega osrednjih ciljev je program opredelil »zagotavljanje visoke kakovosti, preglednosti in etičnosti, v katero bodo državljani zaupali« (SC8). Pravni in etični okvir bo razvit v sodelovanju z evropskimi partnerji in temelji na evropskih smernicah, usklajenih z univerzalnimi vrednotami EU in človekovimi pravicami.
Usklajevanje vrednot
za etiko UI v JU
Usklajevanje vrednot na področju UI v javni upravi tako zajema več dimenzij – od spoštovanja pravičnosti, avtonomije in človeškega dostojanstva do varstva temeljnih pravic in vključevanja širšega družbenega konteksta – pri čemer je ključnega pomena, da javna uprava pri tem deluje kot zgled odgovorne in etične digitalne preobrazbe.
Učinkovito usklajevanje vrednot prav tako zahteva aktivno sodelovanje različnih deležnikov, da so potrebne razlage vrednot in izidi teh razlag ustrezno razumljeni. Participativen pristop zagotavlja, da je UI sistem usklajen z vrednotami skupnosti, ki ji služi.
Tehnični in organizacijski vidiki etike UI v JU
Pristopi k usklajevanju vrednot umetne inteligence v javni upravi vključujejo tako tehnične mehanizme kot tudi organizacijske procese, ki temeljijo na premišljenem vključevanju etičnih načel v vse faze razvoja in uporabe umetne inteligence. Na organizacijski ravni se etično usklajevanje začne z analizo specifičnih scenarijev uporabe v javnem sektorju, kjer se zahteva upoštevanje občutljivosti obdelovanih podatkov, vpliva odločitev na posameznike in potrebo po odgovornem ravnanju oblasti. Ključno vlogo pri tem igrajo večdeležniški posvetovalni postopki, ki vključujejo strokovnjake, javne uslužbence, civilno družbo in druge relevantne akterje, pa tudi ustrezna izobraževanja in usposabljanja razvijalcev ter uporabnikov UI v JU.
Na tehnični ravni se etično usklajevanje vrednot uresničuje z različnimi pristopi in metodami, kot so skrbno kuriranje učnih podatkovnih nizov, uporaba inverznega ojačevalnega učenja (IRL) in ojačevalnega učenja s povratnimi informacijami uporabnikov (RLHF) [4]. Ti pristopi omogočajo, da umetna inteligenca bolje odraža družbene norme in pričakovanja, kar je še posebej pomembno v kontekstu javne uprave, kjer so legitimnost odločitev, enakost obravnave ter spoštovanje temeljnih pravic vitalnega pomena. Navedena orodja se lahko uporabljajo v vseh fazah življenjskega cikla umetne inteligence – od načrtovanja in zbiranja podatkov, prek učenja in testiranja, do uvajanja v prakso, spremljanja delovanja in naknadne revizije. Le z usklajenim delovanjem organizacijskih in tehničnih pristopov lahko javna uprava zagotovi, da umetna inteligenca deluje v skladu z etičnimi načeli, družbenimi vrednotami in pravno zavezujočimi standardi.
Načelo transparentnosti kot ključen element etične uporabe UI v JU zahteva celovito preglednost nad razvojem, uvajanjem in uporabo UI sistemov. Državljani kot neposredni uporabniki javnih storitev morajo imeti pravico do vpogleda v delovanje sistemov, ki vplivajo na njihove pravice, možnosti in življenjske okoliščine. Enako velja za regulatorje in revizorje, ki morajo imeti dostop do informacij, na podlagi katerih lahko presodijo, ali so bili postopki oblikovanja sistema skladni z vrednotami, predpisi in načeli odgovornega ravnanja.
Za uresničevanje teh zahtev etični okvir za uporabo UI v javni upravi predvideva vzpostavitev t. i. dokumentacije preglednosti. Ta mora jasno zajemati, (1) katere vrednote so bile v postopku razvoja upoštevane, (2) katere metode in preizkusi so bili uporabljeni za preverjanje skladnosti sistema z izbranimi vrednotami, (3) kakšne tehnike so bile uporabljene za njihovo vgradnjo v delovanje sistema ter (4) kateri scenariji uvajanja in uporabe so za dani sistem ustrezni in varni. Transparentnost pri uporabi UI v JU ne pomeni zgolj vpogleda v trenutno delovanje sistema, temveč tudi v razumevanje etičnih, tehničnih in organizacijskih odločitev, ki so vplivale na njegovo zasnovo, arhitekturo in upravljanje. Gre za celovit koncept, ki omogoča, da so mehanizmi odločanja razumljivi, sledljivi in utemeljeni tako za strokovno javnost kot za državljane.
Ključno je, da je proces transparentnosti zasnovan kot dinamičen in medsebojno povezan, kar pomeni, da mora temeljiti na nenehnem učenju iz izkušenj, pridobljenih v preteklih fazah razvoja, uvajanja in uporabe UI sistemov. Te izkušnje morajo biti sistematično vključene v nadaljnje faze, da se omogoči stalno izboljševanje in nadgrajevanje tako tehničnih kot organizacijskih pristopov.
Le z iterativnim pristopom k transparentnosti lahko zagotovimo, da UI v JU ostaja usklajena z etičnimi načeli, pravno zavezujočimi standardi in vrednotami javnega interesa, ter tako dolgoročno prispeva k zaupanja vredni, odgovorni in vključujoči digitalni preobrazbi javnega sektorja.
Ključni dejavniki uvedbe etike UI v JU
Celovit pristop k etičnemu upravljanju umetne inteligence v javni upravi temelji na strukturiranem usklajevanju vrednot, aktivnem vključevanju deležnikov in nenehnem nadzoru nad delovanjem sistemov. Tako se zagotavlja, da umetna inteligenca v javnem sektorju deluje kot orodje v službi javnega interesa, temelječe na zaupanju, pravičnosti in zakonitosti.
Za učinkovito usklajevanje vrednot v življenjskem ciklu UI sistemov – od zasnove do uporabe – je ključna uporaba štirih vzvodov: (1) regulativnih smernic, (2) sodelovanja ljudi, (3) organizacijskih sprememb ter (4) etičnega nadzora.
1. Regulativne smernice
Pravni in normativni okviri nudijo strukturirano podporo razvoju in upravljanju UI v JU. Omogočajo presojanje, ali sistemi delujejo v skladu z družbenimi pričakovanji ter pravnimi in etičnimi standardi. Njihova uporaba prispeva k povečani preglednosti in zaupanju deležnikov, hkrati pa olajša obvladovanje kompleksnosti, povezane z etiko UI.
2. Sodelovanje ljudi
Vključevanje strokovnjakov, uporabnikov in predstavnikov civilne družbe je temelj za oblikovanje vključujočih in družbeno relevantnih UI sistemov. Posebno vlogo imajo pristopi, kot sta participativno oblikovanje in učenje na osnovi človeških povratnih informacij (npr. inverzno ojačevalno učenje). To zagotavlja, da UI ostane v skladu z vrednotami skupnosti in omogoča sprotno prilagajanje sistemov glede na izkušnje iz prakse. Vključevanje marginaliziranih skupin povečuje pravičnost, izobraževanje vseh deležnikov pa omogoča informirano soodločanje in dolgoročno legitimnost.
3. Organizacijske spremembe
Uvedba UI v javnem sektorju zahteva preoblikovanje organizacijske kulture in struktur. Ključni elementi vključujejo: spodbujanje etične miselnosti, uvedbo trdnih upravljavskih okvirov, stalno izobraževanje zaposlenih o etiki UI in prilagoditev politik, ki odražajo načela usklajevanja vrednot. Uporaba standardov, kot sta ISO/IEC 42001 in ISO/IEC JTC 1/SC 42, zagotavlja mednarodno primerljive temelje za vzpostavitev odgovornega sistema upravljanja UI.
4. Etična presoja
Neodvisni in notranji pregledi ter etične presoje so nujni za stalno preverjanje skladnosti UI s temeljno etiko in vrednotami javnega sektorja. Vključujejo razložljivost sistemov, oceno celotnega življenjskega cikla, uporabo skupnih standardov ter vključevanje strokovnjakov s področja UI in etike. Poudarek je na stalnem izboljševanju, preglednosti rezultatov in krepitvi odgovornosti do uporabnikov, javnosti in regulatorjev.
Konkretni ukrepi za implementacijo etike UI v JU (WEF 2024)
Nacionalni svet za etiko umetne inteligence
Ena od osrednjih nalog pri zagotavljanju zaupanja vredne uporabe UI v JU je vzpostavitev celovitega sistema etične presoje, ki temelji na jasnih standardih, strokovni presoji in javni odgovornosti.
Za sistematično izvajanje in koordinacijo teh nalog je nujna ustanovitev Nacionalnega sveta za etiko umetne inteligence. Ta bi predstavljal neodvisno, multidisciplinarno in strokovno telo, pristojno za izvajanje in nadzor etične presoje v javnem in zasebnem sektorju. S svojim delovanjem bi omogočal objektivno, nepristransko in vsebinsko poglobljeno ocenjevanje skladnosti sistemov umetne inteligence z etičnimi načeli, človekovimi pravicami ter vrednotami, utemeljenimi v evropskem pravnem in družbenem prostoru.
Ob tem bi Svet igral pomembno vlogo tudi pri spodbujanju notranjih presoj znotraj institucij in organizacij. Notranji pregledi omogočajo globlje razumevanje konkretnih kontekstov uporabe UI, zgodnje prepoznavanje morebitnih tveganj in aktivno vključevanje vseh relevantnih deležnikov v procese presoje in izboljšav.
Zaradi multidisciplinarne sestave – s strokovnjaki z različnih področij, od umetne inteligence in etike do prava, človekovih pravic, javne uprave in tehnologije – bi Svet omogočal celostno razumevanje izzivov, povezanih z uporabo umetne inteligence, ter nudil usmerjeno strokovno podporo razvoju odgovornih, transparentnih in zaupanja vrednih rešitev.
Svet bi kot svetovalno telo deloval kot varuh skladnosti s ključnimi nacionalnimi in mednarodnimi standardi, kot so Uredba o umetni inteligenci, priporočila OECD in UNESCO ter standardi ISO/IEC. S tem bi pomembno prispeval k primerljivosti, preglednosti in odgovornosti na sistemski ravni ter podpiral enotno prakso vrednotnega usklajevanja na področju umetne inteligence.
Posebna pozornost bi bila namenjena razložljivosti delovanja UI sistemov, saj ta omogoča uporabnikom in nadzornim institucijam razumevanje odločitev, ki jih sistemi sprejemajo. S tem se krepita javna transparentnost in demokratični nadzor nad avtomatiziranim odločanjem, kar je ključno za ohranjanje legitimnosti tehnologij v službi javnega interesa.
Nacionalni svet za etiko UI bi izvajal celovite etične presoje, ki bi pokrivale vse faze razvoja in uporabe umetne inteligence – od začetnega oblikovanja, razvoja in testiranja, do uvajanja, vsakodnevnega delovanja in stalnega spremljanja učinkov v praksi. S tem bi omogočil sprotno prilagajanje sistemov razvijajočim se etičnim standardom in družbenim pričakovanjem.
Nenazadnje bi svet zagotavljal visoko raven transparentnosti in odgovornosti, saj bi bili rezultati presoje redno objavljeni in dostopni javnosti. Takšen pristop bi dodatno krepil zaupanje v uporabo umetne inteligence, varoval pravice posameznikov ter podpiral delovanje javne uprave v skladu z načeli zakonitosti, enakosti in odgovornosti.
Sklepno
Uvajanje etike umetne inteligence v javno upravo je strateški, večplasten in dinamičen proces, ki zahteva premišljeno vključevanje etičnih načel v vsako fazo življenjskega cikla tehnologije – od zasnove in razvoja do uvajanja, uporabe in nadzora.
Za učinkovito upravljanje tega procesa je nujna uporaba celovitega nabora mehanizmov, ki omogočajo vrednotno usklajevanje umetne inteligence z javnim interesom. Ključni med njimi so: pravni in normativni okviri, ki zagotavljajo skladnost z zakonodajo in temeljno zaščito pravic; aktivno vključevanje ljudi, ki omogoča pluralnost pogledov in vključevanje družbenega konteksta; organizacijske spremembe, ki podpirajo kulturo odgovorne rabe UI; ter etična presoja, ki zagotavlja neodvisno in strokovno ocenjevanje vplivov sistemov na posameznike in družbo.
Ti pristopi ne delujejo le kot formalne zahteve, temveč kot orodja za uveljavljanje temeljnih vrednot javne uprave. Prispevajo k temu, da so sistemi umetne inteligence načrtovani, uvajani in upravljani na način, ki ohranja človekovo dostojanstvo, krepi varstvo pravic in svoboščin posameznikov ter spodbuja preglednost, odgovornost in vzajemno zaupanje med državljani in institucijami.
S tem pristopom umetna inteligenca postane ne le tehnološko, temveč tudi etično orodje javne vrednosti, ki podpira razvoj pravične, vključujoče in zaupanja vredne digitalne uprave.
*******
[1] Prim. Načela OECD za umetno inteligenco, prvi medvladni standard na področju UI (2019), ki spodbuja inovativno, zaupanja vredno umetno inteligenco ob doslednem spoštovanju človekove pravice in demokratičnih vrednot, in ki jih je sprejela tudi Slovenija. V maju 2024 je OECD, spodbujen zlasti z izjemnim napredkom na področju generativne UI, posodobil načela s poudarki na okolijski trajnosti, varstvu zasebnosti, obravnavi tveganj napačnih in zavajajočih informacij ter Izboljšani preglednost in odgovornosti.
[2] Uredba (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci), Uradni list EU L 12.7.2024
[3] Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (
Splošna uredba o varstvu podatkov), UL L 119, 4.5.2016,
Zakon o varstvu osebnih podatkov (ZVOP-2), Ur. L. RS, št. 163/22, idr.
