Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

 Prihaja prva globalna konvencija o umetni inteligenci

Vse kaže, da nam bo september prinesel prvo svetovno pogodbo o umetni inteligenci. 5. septembra bo namreč pripravljena za podpis mednarodna pogodba Sveta Evrope s polnim naslovom Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi (v nadaljevanju Okvirna konvencija oz. OK).

Kot pove že ime, bo ta pogodba, ki je, kar ni nepomembno, glede na naravo mednarodne organizacije odprta tudi za države zunaj Sveta Evrope, stremela zlasti k zaščiti človekovih pravic, podpori pravne države in ohranjanju demokratičnih standardov pri uporabi umetne inteligence. In najpomembneje: za države podpisnice bo zavezujoča.

»Okvirna konvencija o umetni inteligenci je prva globalna pogodba te vrste, ki bo zagotovila, da bo umetna inteligenca spoštovala pravice ljudi. Je odgovor na potrebo po mednarodnem pravnem standardu, ki ga podpirajo države na različnih celinah, ki si delijo enake vrednote, da bi izkoristili prednosti umetne inteligence in hkrati ublažili tveganja. S to novo pogodbo želimo zagotoviti odgovorno uporabo umetne inteligence, ki spoštuje človekove pravice, pravno državo in demokracijo«.  

Generalna sekretarka Sveta Evrope Marija Pejčinović, 17. maj 2024

 

Pogajanja o besedilu

Začetki segajo že v leto 2019; ad hoc odbor za umetno inteligenco pri Svetu Evrope je bil zadolžen za preučitev izvedljivosti priprave skupnega instrumenta, ki bi bil sposoben začrtati pravni okvir za skupna načela, pravila razvoja in pravila uporabe umetnointeligenčnih sistemov prihodnosti. Po končanju mandata ga je leta 2022 nasledil Odbor za umetno inteligenco (Committee on Artificial Intelligence – CAI); ta je pripravil osnutek pričujoče Okvirne konvencije in izvedel pogajanja o besedilu.

Kot izhaja iz preambule OK, je države članice in druge sodelujoče pri snovanju deklarativno vodilo zlasti prepričanje, da »je treba kot prednostno nalogo vzpostaviti globalno veljaven pravni okvir, ki določa skupna splošna načela in pravila, ki ureja dejavnosti v življenjskem ciklu umetnointeligenčnih sistemov, ki učinkovito ohranja skupne vrednote in ki izkorišča prednosti umetne inteligence za spodbujanje teh vrednot na način, ki vodi do odgovornih inovacij« (9. tč. preambule OK).

Temu zahtevnemu cilju kodifikacije je bil prilagojen tudi tehnični okvir pogajanj; pod vodstvom CAI je Svet Evrope združil ne le 46 držav članic in Evropsko unijo, pač pa tudi 11 držav nečlanic, in sicer Združene države Amerike, Kanado, Mehiko, Peru, Urugvaj, Kostariko, Argentino, Avstralijo, Japonsko, Izrael in Sveti sedež. Kot običajno so v postopku priprave besedila kot opazovalci sodelovali tudi številni predstavniki civilne družbe, zasebnega sektorja in akademskega sveta.

Zlasti s strani slednjih je bilo tekom dveletnih pogajanj zaznati ostre kritike o pretiranem »mehčanju«  konvencije in o eklatantnem popuščanju pritiskom močnejših držav. Idejna zasnova je namreč temeljila na želji po širokem začrtanju pravil; ta naj bi imela moč nagovoriti tako javni kot zasebni sektor, v imenu varovanja človekovih pravic pa vnesla splošno veljavne omejitve uporabe UI ter vzpostavila učinkovite mehanizme ocene tveganj umetne inteligence na področju človekovih pravic.

Priznati je treba, da je končna različica besedila, tako pod pritiskom posameznih držav na eni strani kot tudi izrazite želje Sveta Evrope, da zagotovi besedilu Okvirne konvencije čim širši krog podpisnic, na drugi strani, postala resda nekoliko okrnjena verzija izhodiščnih prizadevanj za postavitev korektnega, uravnoteženega okvira za prihodnost demokratičnega sveta z UI. Že marca 2024 so številni podpisniki, med njimi različne organizacije civilne družbe, strokovnjaki in posamezniki, na pogajalce naslovili odprto pismo, s katerim so javno pozvali Svet Evrope, naj zagotovi zaščito človekovih pravic, demokracijo in vladavino prava ter enakopravno naslovi tako javni kot zasebni sektor. Številni podpisniki so namreč odločno nastopili proti splošnim izjemam za področje nacionalne varnosti in obrambe, saj so menili, da bi takšne izjeme zagotovo oslabile konvencijo, zasebnim podjetjem, zlasti velikim tehnološkim korporacijam, pa omogočile izogibanje odgovornosti. 

Izkazalo se je, da so bila opozorila na mestu - tako na primer Ian Barber iz Global Partners Digital končnemu besedilu med drugim očita prav neenakopravno obravnavo zasebnih subjektov, pretirano zaščito interesov nacionalne varnosti, odsotnost nedvoumnih meril za ocenjevanje tveganj in pomanjkanje samostojnih določb o delu, zdravju in okolju.[1]

Vsebina izpogajanega besedila

V svoji končni različici Okvirna konvencija v luči razvoja umetne inteligence naslavlja (1) obstoječe mednarodne standarde o človekovih pravicah, demokraciji in pravni državi, (2) te kategorično smiselno aplicira na umetnointeligenčne sisteme in nove izzive, ki jih prinašajo, ter (3) izpostavlja pomen splošne obveznosti držav podpisnic k zagotavljanju in varovanju doseženih standardov – ob tako začrtanih načelih pa načine in ukrepe za njihovo zagotavljane v kar največji meri prepušča nacionalnim ureditvam.

Tako na primer 2. poglavje OK eksplicitno izpostavlja splošne obveznosti vseh držav podpisnic, ki jih zavezuje k varstvu človekovih pravic na način, »da so dejavnosti v življenjskem ciklu sistemov umetne inteligence skladne z obveznostmi varovanja človekovih pravic, kot so zapisane v veljavnem mednarodnem pravu in v domači zakonodaji« (4. čl.). Nadalje terja od držav podpisnic spoštovanje integritete demokratičnih procesov in načel pravne države. »Vsaka pogodbenica sprejme ali ohrani ukrepe, s katerimi želi zagotoviti, da se sistemi umetne inteligence ne uporabljajo za spodkopavanje integritete, neodvisnosti in učinkovitosti demokratičnih institucij in procesov, vključno z načelom delitve oblasti, spoštovanjem neodvisnosti sodstva in dostopom do pravnega varstva« (1. odst. 5. čl.). V ta namen vsaka pogodbenica sprejme ali ohrani ukrepe za »zaščito svojih demokratičnih procesov v kontekstu dejavnosti znotraj življenjskega cikla sistema umetne inteligence, vključno s poštenim dostopom in sodelovanjem posameznikov v javni razpravi ter njihovo sposobnostjo svobodnega oblikovanja mnenj« (2. odst. 5. čl. OK).

Podobno nomotehniko je zaslediti tudi v 3. poglavju OK, ki naslavlja splošna načela v zvezi z dejavnostmi v življenjskem ciklu sistemov UI. Besedilo konvencije namreč dosledno predvideva avtonomno urejanje držav podpisnic, češ da vse naslovljene dejavnosti »vsaka pogodbenica izvaja [ …] na način, ki ustreza njenemu domačemu pravnemu sistemu in drugim obveznostim iz te konvencije« (6. čl.). Pod to podmeno OK opredeljuje človekovo dostojanstvo in avtonomijo posameznika (7. čl.), pregled in nadzor (8. čl.), odgovornost (9. čl.), enakost in nediskriminacijo (10. čl.), zasebnost in varstvo osebnih podatkov (11. čl.) ter zanesljivost (12. čl.), ki jim je skupno predvsem to, da jih besedilo izpostavlja kot področja posebnega pomena, obenem pa se vzdrži predlaganja konkretnih ukrepov – kot rečeno, njihovo začrtanje v celoti prepušča notranjim pravnim redom držav podpisnic. Zgolj v oris tega pristopa v celoti podajam besedilo še zadnjega člena iz 3. poglavja »Načel«, tokrat na temo varnosti inovacij:

»Z namenom spodbujanja inovacij in ob izogibanju škodljivim vplivom na človekove pravice, demokracijo in pravno državo je vsaka pogodbenica pozvana, da po potrebi omogoči vzpostavitev nadzorovanih okolij za razvoj, eksperimentiranje in testiranje sistemov umetne inteligence pod nadzorom svojih pristojnih organov.« 

13. čl. Okvirne konvencije

Drugi, po mojem mnenju zgolj pogojno upravičen očitek, leti na izvzetje zasebnih akterjev. Okvirna konvencija je v 3. čl. kot področje uporabe posebej izpostavila, da njena pravila zajemajo dejavnosti v življenjskem ciklu sistemov UI, ki jih bodisi izvajajo javni organi, za zasebne pa veljajo le, v kolikor in kadar delujejo v imenu javnih (1a. odst. 3. čl.). A vendar ne gre spregledati tudi točke b taistega odstavka. Ta namreč izraža pričakovanje, da bo vsaka pogodbenica v izjavi, ki jo bo predložila generalnemu sekretarju Sveta Evrope ob podpisu ali deponiranju svoje listine o ratifikaciji, sprejetju, odobritvi ali pristopu, navedla, kako namerava izvajati obveznost obravnave tveganj in vplivov, ki izhajajo iz dejavnosti zasebnih akterjev v življenjskem ciklu sistemov UI. Zagotovo je v takšni dikciji mogoče uzreti če ne pravnega, pa vsaj moralen pritisk, da ob podpisu države sprejmejo in javno začrtajo sprejete oziroma načrtovane ukrepe.

Menim tudi, da je očitek o neupravičenem izvzetju določb glede UI za področje zaščite interesov nacionalne varnosti držav podpisnic (2. odst. 3. čl. OK) sicer razumljiv, a glede na naravo Sveta Evrope pravzaprav pričakovan in tudi realen. Nenazadnje, tudi v tem primeru, kjer državam v imenu varnosti in obrambe prepušča avtonomijo, Okvirna konvencija obenem poziva vse podpisnice, da »takšne dejavnosti izvajajo na način, ki je skladen z veljavnim mednarodnim pravom, vključno z obveznostmi mednarodnega prava o človekovih pravicah ter s spoštovanjem njenih demokratičnih institucij in procesov« (ibid.). 

Zdi se, da bi imela Okvirna konvencija zaznavno večjo težo, v kolikor bi uspela doseči kakršenkoli, četudi vsebinsko skromen kompromis glede konkretnih ukrepov in standardov. Končno besedilo namreč daje občutek, da je državam dopuščena znatna (morda prevelika?) mera fleksibilnosti pri implementaciji načelnih zavez. Tudi v nadaljevanju namreč konvencija dosledno sledi principu ne-določanja standardov za izvedbo načel. Tako npr. tudi 5. poglavje, ki opredeljuje okvire za obvladovanje tveganj in škodljivih vplivov iz naslova sistemov UI, prepušča vsaki pogodbenici, da sama, seveda ob upoštevanju predhodno opredeljenih načel OK, sprejme potrebne ukrepe »za prepoznavanje, ocenjevanje, preprečevanje in zmanjševanje tveganj, ki jih predstavljajo sistemi umetne inteligence, z upoštevanjem dejanskih in potencialnih vplivov na človekove pravice, demokracijo in pravno državo.« (1. odst. 16. čl.). Kateri so ti ukrepi, Okvirna konvencija molči.

Kot rečeno, umanjkanje konkretnih rešitev, strožjih zahtev in višjih standardov so dejansko najpogosteje izraženi očitki končnemu besedilu OK – pod političnimi pritiski naj bi, tako je razbrati, konvencija »zvodenela« in postala nič več kot le še en brezzobi tiger v zgodovini mednarodnega prava.

Sama menim drugače. Kot pravnica ocenjujem, da je konvencija uspela celovito opredeliti temeljna načela, povezana z dejavnostmi v življenjskem ciklu sistemov umetne inteligence – kar je glede na novost področja in dejstvo, da se je s sprejemom globalnih normativnih okvirov prav zaradi hitrosti razvoja UI mudilo, pravzaprav izjemen uspeh. Izpostavljene so skupne vrednote človeštva in narodov, ki naj se še posebej varujejo v dobi umetne inteligence. Te zahteve temeljijo na obstoječih mednarodno-pravnih obveznostih in jih ne poskušajo zamejiti ali nadomestiti, pač pa jih, nasprotno, vrednostno usmerjajo v sprejemljive smeri razvoja UI. Ocenjujem, da bodo zastavljena načela ponudila ustrezno podstat za naslavljanje vseh novih izzivov, ki nam jih bodo pripeljali sistemi umetne inteligence. 

Četudi pripoznavamo okoliščino, da se je osnovno besedilo v veliki meri resda spremenilo prav zaradi močnih političnih pritiskov, pa končni izdelek odlikuje – morda prav zaradi tega – njega brezčasna narava. Z vztrajanjem pri načelnih vodilih, določanjem vredno(s)tnih standardov ter obenem izmikanjem opredelitev konkretnih ukrepov se je OK izognila pasti, da bi jo povozil čas. Kvaliteta vrednot je namreč prav v njihovi brezčasnosti - podobno kot je vrednota tehnologije, nasprotno, v njenem nenehnem razvoju.

Z vztrajanjem pri načelih je OK pridobila karakter tehnološke nevtralnosti – in tehnološka nevtralnost je v tem primeru vrlina, ne šibkost. Ne gre namreč spregledati, da bi v želji ugoditi glasnim pobudnikom civilne sfere lahko kaj hitro zapadli v prenormiranje, ki bi že v naslednjem trenutku zaradi hitrega tehnološkega napredka postalo ne čvrsta opora, pač pa pravna vrzel. Pri urejanju normativne podstati, ki naj učinkovito usmeri strugo tehnološkega razvoja v vobče dobro človeštva, je pač treba spoštovati naravo hitrih sprememb. V tem smislu je nomotehnično edino modro, da se norme najvišjih aktov samokritično omejijo na načela, ki naj jih razvoj podpira in spoštuje, tehnične podrobnosti in ukrepe pa prepušča nižjim pravnim aktom. 

Vsled navedenega toplo pozdravljam Okvirno konvencijo o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi, čestitam vsem akterjem za doseženo soglasje glede skupnih izhodišč in končno upravičeno pozitivno prognozo za pričakovano postopno standardiziranje (nad)nacionalnih ukrepov v imenu lepšega jutri za nas vse.

* * * * * * * 

[1] Global Partners Digital poročajo, da je bilo med pogajanji pod okriljem Odbora Sveta Evrope za umetno inteligenco (CAI) eno najbolj spornih vprašanj področje uporabe konvencije – ali naj bi ta sploh zajemala zasebni sektor in če, v kakšnem obsegu. Uhajanja podatkov o pogajanjih in komentarji novinarjev so namreč nakazali, da si je več držav, zlasti ZDA, prizadevalo, da se konvencija ne bi neposredno uporabljala za zasebne subjekte. Temu pristopu so nasprotovali različni člani CAI, predvsem pa opazovalci iz civilne družbe, vključno z omenjenimi Global Partners Digital, ki so dosledno zagovarjali pogodbo z obravnavo tako javnega kot tudi zasebnega sektor, ter zavračali splošne izjeme glede nacionalne varnosti. Vir: https://www.gp-digital.org/the-worlds-first-treaty-on-ai-our-thoughts-and-the-way-forward/