Transparentnost in obveznost razkritja
Predstavljajte si, da minister v pozni nočni uri, ko že malo
trepeta pred jutranjo kavo in tiskovno konferenco, uporabi umetno inteligenco
za hitro sestavo javnega obvestila. Klikne objavi in gre spat. Naslednje
jutro pa panika – UI je v besedilu skoval novo besedno zvezo, ki jo narod
razume kot napoved novih davkov, in v državi se vname ogorčenje. Krik in stok
na družbenih omrežjih, razjarjeni komentatorji, vse do večerne Tarče.
In potem sledi vprašanje: kdo je kriv? Je to minister, ki ni
prebral, kaj je objavil? Je to umetna inteligenca, ki piše brez razumevanja
konteksta? Je to ljudstvo, ki je prehitro povleklo zaključke? Ali pa je problem
v pomanjkanju jasnih pravil?
Primer je hipotetičen, vprašanja hipotetična, uporaba pa
povsem praktična. Dilema že vse od sprejema Akta o UI tudi ni več zgolj načelna
– gre za pravne obveznosti, določene v 2. odst. 4. tč. 50. čl. Akta o umetni
inteligenci.
Kaj določa Akt o UI glede transparentnosti?
»Uvajalci sistema UI, ki ustvarja ali prireja besedilo, ki
se objavi z namenom obveščanja javnosti o zadevah javnega interesa, morajo
razkriti, da je bilo besedilo umetno ustvarjeno ali prirejeno. Ta obveznost se
ne uporablja, kadar je uporaba zakonsko dovoljena za odkrivanje, preprečevanje,
preiskovanje ali pregon kaznivih dejanj ali kadar je bila vsebina, ustvarjena z
UI, predmet človeške preverbe ali uredniškega pregleda in kadar ima fizična ali
pravna oseba uredniško odgovornost za objavo vsebine.«
Prevedeno: če umetna inteligenca napiše članek, mora biti to
označeno – razen če ga je potem še kdo preveril, uredil in zanj prevzel
odgovornost. Nič več prelaganja krivde na neviden algoritem.
Namen pravila je jasen: preprečiti kaos in manipulacije. UI
že danes piše osupljivo prepričljive, a popolnoma lažne novice. Ljudje delijo
naslove brez branja vsebine, javno mnenje pa kroji UI, ki ne razume ironije.
Primer? Nedavno je UI-generiran članek »razkril«, da je znani teniški igralec priznal nekaj, česar v resnici ni. Kdo je to preveril? Nihče. Kdo je to delil?
Vsi.
Kako to vpliva na Slovenijo?
Ministrstva, agencije in
javne institucije, ki uporabljajo UI za ustvarjanje vsebine, morajo jasno
razkriti, če vsebina ni bila preverjena in odobrena s strani človeškega
urednika. Tudi novičarski portali ne morejo več objavljati »novic«, ki jih je
sestavil algoritmični Frankenstein, ne da bi to jasno označili.
Zakaj je to pomembno?
Ker živimo v času, ko je mogoče
v nekaj sekundah ustvariti povsem verodostojno laž. In čeprav radi govorimo, da
so »ljudje pametni«, zgodovina socialnih omrežij dokazuje, da naša presoja
pogosto ne zdrži več kot treh sekund. Zato: če UI piše novice, moramo to
vedeti. In če ne vemo, nas bo UI slej ko prej pretental – ali vsaj napisal
tako prepričljivo laž, da bo celo minister pomislil, da je nemara resnična.