Strani

ponedeljek, 5. februar 2024

Akt o umetni inteligenci

 Februar 2024 nam je v evropskem prostoru prinesel sprejem konsolidiranega besedila Akta o umetni inteligenci. V javnosti kot dosežka odmevata zlasti dva njegova parametra, namreč da je (i) to prva(!) zakonodaja o umetni inteligenci na svetu (1) in da (ii) je Akt o umetni inteligenci sprejet (2). Prvi drži pogojno, (pa še tam res ni razloga, da bi pri pravnem urejanju pri zdravi pameti sodelovali v hitrostni tekmi), drugi pa ne zdrži niti tehnično. Resnica je, kot običajno, nekje vmes.


Slika ustvarjena z generativno UI.

Naj začnem pri zadnji trditvi - preprosto zato, ker je argument enostaven, preprost in premočrten. Dejstvo je, da je COREPER, torej Odbor stalnih predstavnikov vlad držav članic Evropske unije, na Svetu EU dne 2. februarja 2024 potrdil kompromisno končno besedilo Akta o Umetni inteligenci. Gre torej le za fazo zakonodajnega postopka – jasno je, da za veljavnost kateregakoli zakonskega akta zaključitev zgolj ene izmed zakonodajnih faz (pa naj bo ta navidezno še tako zahtevna) seveda še ne pomeni per se prelitja norme v veljavno pravo. Če poenostavim. Da bo Akt o umetni inteligenci sprejet, torej prelit v zavezujoče pravo, ga morata najprej potrditi tako Svet EU kot tudi Evropski parlament. A še takrat ne bo a priori veljaven. Formalno sprejet akt je v skladu s pravili zakonodajnega postopka potrebno pred začetkom veljavnosti še objaviti, kot to iz razloga pravne varnosti praviloma velja za vse zavezujoče pravo. Kot je dogovorjeno, naj bi prepovedi začele veljati šest mesecev po objavi v Uradnem listu, kodeksi ravnanja v devetih mesecih, modeli in sistemi splošnega namena v 12 mesecih, preostali del Akta pa naj bi začeli veljati 24 mesecev po objavi v Uradnem listu. 

Če torej preslikam zakonodajni postopek na funkcionalno časovnico: Akt o umetni inteligenci (še) ni(!) sprejet. Akt o UI bo v postopku v EP in Svetu EU predvidoma, torej ne avtomatično(!), sprejet marca 2024. Pričetek veljavnosti, če bodo izpolnjene vse prejšnje postavke, pa je predviden šele za leto 2025/2026. Prehitevanju s trditvami v smislu »Akt o UI je tu«, je mogoče očitati vsaj nekorektno preuranjenost.

In ko sem že pri prehitevanju (ki ni na mestu) – zakaj je tako strašansko pomembno, da bo prav EU prva na svetu v pripravi zakonodajnega okvira, ki bo reguliral UI?(3) Dejstvo je, da je umetna inteligenca v zadnjih dveh letih prežela ves svet - zato se s tem fenomenom tudi ukvarja cel svet. Ne gre za šport. Kdo bo tu prvi, je celo nepomembno, pravni red vendar nima športnih metafor. Konsolidirano pravo je tehtno. Sledi dogodkom, spremembam, zamejuje patologijo, ščiti družbo, a obenem ne zavira razvoja. Če že, ga predvsem usmerja v okviru družbeno sprejetih skupnih vrednot. Glede na takšno naravo je vnaprejšnje določanje neznanega pravzaprav nesmiselno; v družbeni red ne vnaša predvidljivosti, pač pa, nasprotno, prenormiranost in nepreglednost, kar krni pravno varnost. 

Po drugi strani pa je tudi res, da je naloga prava, da prav v imenu pravne varnosti s primernim tempom, ki zrcali hitrost družbenih sprememb, začrtuje sprejemljive okvire življenja, delovanja in pravil igre, kar terja tenkočuten posluh zakonodajnega telesa. Hitenje pri tem zagotovo ni koristno. Ne pravimo zaman, da je pravo žlahtno konzervativno.

Umetna inteligenca nas je (tu mislim predvsem nas, pravnike), z vidika njenega izjemnega dometa, razsežnosti in hitrosti razvoja, ujela nepripravljene. S konceptom UI ter pravnim redom, ki bi začrtal področje uporabe, (kar, prevedeno, pomeni predvsem doseči soglasje, kaj da UI sploh je(!), oblikovanje in konsolidiranje načina pristopa k urejanju UI, določbi zaščitnih ukrepov ter oblik ustreznega nadzora), se posledično pravzaprav ukvarja cel svet. Tako tudi, zgolj primeroma, Svet Evrope, mednarodna organizacija, ki jo sestavlja 46 držav iz evropske regije, podobno kot EU hiti s pripravo Konvencije o umetni inteligenci, s polnim in nazivom Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi. Visokozveneč naziv nakazuje njeno težo - predstavljala naj bi prvo svetovno pogodbo o umetni inteligenci v novi eri. A naj vas naslov ne zavede – vprašanja urejanja UI so tako nova in nejasna, da se zapleta že pri osnovnih dilemah: ali naj velja kot opt-in ali opt-out, ali naj bodo s konvencijo zajeta tudi zasebna podjetja, in kaj naj bo sploh področje uporabe. Po oceni Luca Bertuzzija iz Eurativa so zato poskusi doseči soglasje za vsako ceno že tako oslabili besedilo predloga konvencije, da je ta v svoji revidirani obliki zdaj že »bližje deklaraciji kot zavezujoči pogodbi«.

Takšen razplet je pravzaprav eden od najmanj želenih. Pravna država lahko cveti le ob podmeni pravne predvidljivosti, pravna predvidljivost pa se veča s tehtnostjo pravil, njihovo stabilnostjo (torej pretežno nespremenljivostjo – besedilo naj bo dovolj splošno in abstraktno, da njegova narava ne terja pogostih sprememb) in pregledno. Če naj se namreč družba oz. njeni pravni subjekti, torej fizične in pravne osebe, ustrezno podredijo pravnim normam, jih morajo/moramo najprej razumeti. Ideja kvalitetne nomotehnike terja jasno, enoznačno in predvidljivo pravno normo, ki jo je mogoče preprosto dojeti. Če namreč zakonodajalec ne uspe sprejeti pravil, ki so splošna, abstraktna in vobče razumljiva, kako lahko država upravičeno pričakuje, da jim bodo subjekti, nad katerimi izvaja suverenost, sledili? 

Ob Aktu o umetni inteligenci, ki je napisan na kar 272 straneh, ima 85 členov ter 13 aneksov, se človek nehote vpraša, kako je z njegovo razumljivostjo. Zgolj kot intermezzo: slovensko Ministrstvo za digitalno preobrazbo je v izjavi za javnost ob nedavni potrditvi besedila Akta celo gladko zapisalo, da takšen obseg »kaže na njegovo kompleksnost«. Pa je bil to namen? Mar ni naloga prava, da skrbno in tehtno destilira družbeno kompleksnost in jo naredi, ravno obratno – preglednejšo? Z malo cinizma bi človek pripomnil, da ima tisto »prvo mesto na svetu« precej visoko ceno.

Akt o umetni inteligenci: Posledice in povratni napredek

Naslov je sposojen – vira niti nima smisla navajati. Samo v zadnjem tednu (ko pišem prispevek, še ni minilo niti 7 dni od potrditve končnega besedila), sem namreč prejela kar 3 (z besedo: tri!) vabila na delavnice v smislu »Kako krmariti po Aktu o UI« - kar je bržkone odraz (nenazadnje tudi) obljubljene »kompleksnosti« akta. Pa je to res potrebno? Da ne bo pomote, absolutno se mi zdijo smiselna izobraževanja o novostih, pravni praksi ipd. A sem obenem trdnega prepričanja, da nova zakonodaja ne bi smela terjati posebnih dodatnih razlag. V kolikor ni napisana dovolj jasno, je zakonodajalcu spodletelo. Promocija, popularizacija osveščanje ja, plačljiva izobraževanja pač ne.

Je pa kompleksnost razumljiva. Nenazadnje gre le za prvi zakon s področja UI – tokrat ne mislim v smislu »prehitevanja«, pač pa preprostega razvojnega vidika. Prvi pač vedno orje ledino, z vsemi izzivi, ki jih to pripelje. Nejasnost koncepta UI je tu le eden izmed njih. Upoštevati je potrebno tudi številne deležnike, ki morajo doseči soglasje o vsebini in dorečenosti. In kot vedno so tu tudi parcialni interesi. V tem smislu si Akt o umetni inteligenci nedvomno zasluži vse dolžno spoštovanje.

Pogajanja za končno besedilo Akta o UI so pogosto označena kot »maratonska«. Priprave in usklajevanja so se začela že junija 2021, junija 2023 je EP z veliko večino sprejel svoje stališče o Aktu o umetni inteligenci, in sledila so intenzivna pogajanja v trialogu, medinstitucionalnih pogajanjih med poslanci EU, Svetom mistrov EU, ki predstavlja evropske vlade, in Evropsko komisijo. Kot je razbrati iz sprememb besedila, so bile glavne točke razhajanj zlasti vprašanja kategorij, ki naj bi bile zajete kot visoko tvegane, temeljnih pravic in velikih jezikovnih modelov. 

Končni dogovor usklajevanj je bil dosežen decembra lani. Predsednica Evropske komisije Ursula von der Leyen ga je pozdravila kot »prvi celovit pravni okvir o umetni inteligenci na svetu«; označila ga je kot »zgodovinski trenutek«, ki prinaša »evropske vrednote v novo dobo«. Pojasnila je, da je EU s tem pomembnim delom zakonodaje želela ustvariti daljnosežen in celovit pravni okvir za ureditev sistemov UI, ki bodo varni in ki bodo spoštovali temeljne pravice, njihov razvoj pa bo »osredotočen na človeka, pregleden in odgovoren«.

Kot je razvidno že iz prvih osnutkov Akta o umetni inteligenci, je bila rdeča nit oblikovanja njegovih pravnih norm obvladovanje tveganj. Splošno vodilo je bilo zagotoviti varnost sistemov UI na trgu EU, kar vključuje tako pravno varnost za naložbe in investicije na eni strani, kot tudi varnost oz. zmanjšana tveganja na strani potrošnikov. Osnutek Akta je opredelil štiri razrede tveganj, in posebne pozornosti so bili tekom pogajanj, kot rečeno, deležni prav sistemi, ki bodo v EU v celoti prepovedani, in sistemi UI z visokim tveganjem, vključno z razvrstitvijo in izjemami za biometrične identifikacijske sisteme. Na drugi strani pa je bilo zlasti v zadnjih pogajalskih trialogih moč zaznati burne razprave na temo generativne UI, saj bi po ocenah deležnikov pretirana regulacija z oviranjem inovacij povzročila nepopravljivo škodo evropskim podjetjem.

Osnutek Akta je namreč predvidel najstrožje obveznosti  za vodilne ponudnike temeljnih modelov stojnega učenja, ki so (vsaj zaenkrat) neevropska podjetja. Vendar je, kot poroča Eurative, ta pristop v zadnji fazi pogajanj naletel na nasprotovanje velikih evropskih držav. Predstavniki več držav članic, predvsem Francije, Nemčije in Italije, so odločno nasprotovali kakršnikoli ureditvi za temeljne modele (5).

Takšne spremembe bi zahtevale znatnejšo revizijo osnutka. Toda EU je želela izkoristiti svojo priložnost, svoj momentum, da pri postavljanju pravnih standardov UI zasede prvo mestu v svetu; znatnejše spremembe koncem leta 2023 bi jo lahko stale izgube vodilnega položaja.

Pa smo spet pri športnih metaforah.

V nadaljevanju: Navigacija po Aktu o umetni inteligenci


***

(1) Prim. npr. Evropska Komisija: Statement by President von der Leyen on the political agreement on the EU AI Act, 9. 12.2023, https://ec.europa.eu/commission/presscorner/detail/en/statement_23_6474. Prim. tudi Ministrstvo za digitalno preobrazbo RS, Uspešen zaključek usklajevanja Akta o umetni inteligenci v postopku trialoga na ravni Evropske unije, 18.12.2023, https://www.gov.si/novice/2023-12-18-uspesen-zakljucek-usklajevanja-akta-o-umetni-inteligenci-v-postopku-trialoga-na-ravni-evropske-unije/

(2) Prim. npr. Gregor Kocijanič, EU je končno sprejela akt o umetni inteligenci, a ta bo začel veljati šele leta 2025, v: Mladina, 15.12.2023, https://www.mladina.si/229416/eu-je-koncno-sprejela-akt-o-umetni-inteligenci-a-ta-bo-zacel-veljati-sele-leta-2025/. Prim. tudi Ministrstvo za digitalno preobrazbo, Potrjen prvi zakonodajni okvir na svetu, ki bo reguliral področje umetne inteligence, https://www.gov.si/novice/2024-02-02-potrjen-prvi-zakonodajni-okvir-na-svetu-ki-bo-reguliral-podrocje-umetne-inteligence/ (2.2.2024)

(3) Ibid. Prim. tudi Evropski parlament, Akt EU o UI: prva zakonodaja o umetni inteligenci, 19.6.2023, https://www.europarl.europa.eu/news/sl/headlines/society/20230601STO93804/akt-eu-o-ui-prva-zakonodaja-o-umetni-inteligenci

(4) Prim. Luca Bertuzzi, EU’s AI Act negotiations hit the brakes over foundation models, v: Euractive, 10.11.2023, https://www.euractiv.com/section/artificial-intelligence/news/eus-ai-act-negotiations-hit-the-brakes-over-foundation-models/

(5) Prim. Zosia Wanat, ‘EU’s AI act could kill our company,’ says Mistral’s Cédric O, v: Sifted, 27.10.2023, https://sifted.eu/articles/eu-ai-act-kill-mistral-cedric-o