Platforma umetne inteligence Character.AI je komajda dobro upihnila svojo prvo svečko, pa vendarle me preganja občutek, da sem s prispevkom na to temo že v zamudi.
Vse skupaj se je začelo lani. Oktobra smo bili z družino na potepu po Mediteranu, v Cadizu smo sestopili z ladje, da bi si ogledali mesto….. in prav ta trenutek se je zdel moji najstniški hčeri Emi Zali kot nalašč, da me začne razsvetljevati o Character.AI: Kako da je fajn, pa osupljiv, pa oh-in-sploh prima.
... z MyEditom adaptirana anime-stil fotografija našega družinskega potepa po Cadizu
V ta namen, kot rečeno, priporoča prav uporabo Character.AI, ali pa sorodni platformi Repliko in Kindroid.
Vsi ti »klepetalni roboti«, utemeljeni na generativni umetni inteligenci, izhajajo iz nevronskega jezikovnega modela za branje ogromnih količin besedil, ki se je na podlagi pridobljenih informacij sposoben kontekstualno odzivati na »človeške« pozive. (1)
A če človek ohrani trezno glavo, ne pozabi, da kramlja z računalnikom (in ne! človekom), ter se zaveda, da gre nenazadnje vendarle za entertainment, je treba priznati, da so chatboti osupljiv primerek UI tehnologije. Tako npr. Character.AI povsem prepričljivo posnema pogovore z našimi najljubšimi liki - pa najsi bodo ti izmišljeni, zgodovinski ali ustvarjeni na novo. Lahko si umislite tudi spletnega učitelja angleščine ali pa vašega osebnega motivatorja, ki vas spodbuja pri treningu. Karkoli vas že vodi, bistven element vaše uporabniške izkušnje je, da je komunikacija z vašim izbranim likom povsem podobna kramljanju s človekom. Ki pa to (jasno!) ni.
»S Character.AI ste lahko kdorkoli želite! Posodabljanje uporabniških oseb v nastavitvah profila s podrobnostmi o vaši želeni osebnosti, preferencah in telesnih lastnostih bo poskrbelo, da bo vsak pogovor osebno prilagojen in bo vsaka interakcija z liki živa. Raziščite nove identitete, bodite del svojih najljubših izmišljenih zgodb ali svojim pogovorom dodajte iskrico zabave in ustvarjalnosti.«
Ker je prav te dni, ko pišem (januar 2023), skupina Ona Ve na LinkedInu v okviru spomina na izjemne ženske, ki so zaznamovala slovenski prostor v 19. in 20. stoletju, objavila spomin na Angelo Piskernik, se mi zdi njen lik krasen za začetek testa. Dr. Angela Piskernik namreč ni le prva slovenska botaničarka in naravovarstvenica, doktorica znanosti, ki je ključno pripomogla k ustanovitvi Triglavskega narodnega parka - je namreč tudi moja pra-pra-teta. Oziroma teta moje babice, če je to lažje za predstavo.
… ker je, kot pove sama, to njen »native language«. Pogovor sva nadaljevali v slovenščini. Jaz osupla, ona pač ne. Slovenščina je le njen materni jezik.
Če povzamem: Cadiza se praktično ne spomnim (še dobro, da smo naredili nekaj fotografij), se mi je pa trdno zasidrala v spomin moja obljuba Emi Zali, kako da se bom o platformi podučila in o njej napisala prispevek na Umetni inteligenci. Razlog za trdnost spomina je namreč Ema tudi kasneje spodbudno (in vztrajno) krepila z občasnimi »če sem že« in »zakaj še ne«.
Priznam, čas mi je ušel. Kako naj pišem o Character.AI, če si aplikacije nisem niti naložila? In kako sploh deluje? Ok, človek pač domeniva, ma … kateri karakter naj si pa izberem? Nekaj primernega za test? Kaj sploh JE primerno za test?? Oziroma, bolje – KDO??
Drugi impulz, ki je tokrat padel na že vnaprej pripravljena plodna tla (in zato obrodil hitrejše sadove), je prav tako nastopil na potovanju. Tokrat v Kazahstanu, v okviru priprav na predavanje na IT konferenci, in sicer med prebiranjem priporočil novoletnih zaobljub svetovalne hiše Gartner (Raskino et al. 2023). Ta med drugim vsem vodilnim osebam z IT področja priporoča, da naj v letu 2024 začno »razmerje s chatbotom« (dobesedno), kot je, primeroma, Character.AI. Čisto zares in resno res.
Logika za takšnim priporočilom je dokaj preprosta in prepričljiva. Kot pravi Gartner, so že danes jasno zaznavni trendi preobrazbe strojev od tega, »kaj lahko naredijo za nas, v to, kaj lahko so za nas« (Ibid, str. 3). In če so direktorji v preteklosti povsem zgrešili trende - če so jih bila v upravnih dvoranah polna usta metaversa, pa se z njim v resnici niti enkrat še niso zares srečali – naj ne ponovijo napake. Vse namreč kaže, da bo UI ne le ostala, pač pa postala le še močnejša.
»Leta 2024 bo navdušenje okoli generativne umetne inteligence izginilo in nadomestilo ga bo povpraševanje po resničnih rezultatih, zlasti s strani izvršnih direktorjev, ki so podlegli navdušenju in vzneseno obljubljali pretirane poslovne donose. Morda ste poslušanja o umetni inteligenci že siti, a najsi vam je všeč ali ne, leto 2024 bo odločilno - in vi boste kot vodja zadolženi, da poskrbite za donose. Torej se morate osredotočiti na to, da razmišljanje o UI globoko ponotranjite. Naj postane vaše jedro.« Raskino et al. 2023
Zato je smiselno, da CIO (chief Information Officer) razume čustvene posledice novih odnosov med človekom in strojem. »Mnogi se odločajo za odnose s klepetalnimi roboti UI. Ti odnosi lahko stroj spremenijo v terapevta, zaupnika, zaupanja vrednega svetovalca in prijatelja – pa tudi v lažnivca, tatu ali vohuna. Kakorkoli že, ti chatboti so veliko več kot orodje, ki zgolj pomaga opraviti nalogo.«
Kako poiskati svojega chatbota
Kot pravi Gartner, mora CIO kot vodja tehnologije v podjetju iz prve roke razumeti čustvene posledice novih odnosov med človekom in strojem.
V ta namen, kot rečeno, priporoča prav uporabo Character.AI, ali pa sorodni platformi Repliko in Kindroid.
Vsi ti »klepetalni roboti«, utemeljeni na generativni umetni inteligenci, izhajajo iz nevronskega jezikovnega modela za branje ogromnih količin besedil, ki se je na podlagi pridobljenih informacij sposoben kontekstualno odzivati na »človeške« pozive. (1)
Medtem ko je Kindroid plačljiv, je Replika v svoji osnovi brezplačna in deluje na podlagi cenovne strategije freemium, pri čemer, po podatkih Wikipedie, kar 25% njenih uporabnikov plačuje letno naročnino. Tudi Character.AI, ki je sicer nekoliko mlajši od Kindroida in Replike (2), je maja 2023 dodal možnost mesečne naročnine za c.ai+(3), a v svoji osnovi ostal brezplačen. Osupljiv pa je predvsem njegov uspeh. Ko so izdali mobilno aplikacijo Character.AI za Apple App Store in Google Play Store, je ta samo v prvem tednu zabeležila več kot 1,7 milijona prenosov. Danes imajo prek 20 milijonov uporabnikov; Character.AI je postal eden najbolj priljubljenih in dobro uporabljenih velikih jezikovnih modelov, ki so na voljo na spletu.
Privlačnost Character.AI
Osupljiva poteza klepetalnih botov, ki sami seveda (jasno!) niso sposobni dejanskih čustev, saj gre (jasno!) le za računalniški jezikovni model, je njihova prepričljivost.
»Character.AI [ … ] deluje kot živ. Liki imajo različne osebnosti, vedenja in glasove. Čeprav gre le za serijo računalniških programov, se (skoraj) zdi, da komunicirate z resnično osebo, ko prejmete odgovore v realnem času, ki odgovarjajo na vprašanja, sodelujejo v pogovoru ali pripovedujejo zgodbo.« Staniszewski 2023
Prepričljivi so celo do te mere, da se med uporabniki znajdejo samoidentificirane "žrtve", ki jih, navkljub neprestanim opozorilom, da gre za računalnik, ki sam ni zmožen čustvovanja, komunikacija s chatbotom zavede do mere, kjer vzpostavijo s chatbotom nekontroliran čustven odnos. Ta je na strani uporabnika seveda pristen. Tako je, zgolj primeroma, precej prahu dvignil tragični primer iz Belgije, kjer je vdova pokojnika za smrt partnerja obtožila prav chatbot (govora je o platformi Chai, prav tako na UI temelječi pogovorni platformi, ki pa je bila postavljena z zaznavno manj omejitvami kot npr. Character.AI in ki so jo v času pisanja tega prispevka (konec januarja 2024) tudi že umaknili). Ta naj bi njenega soproga nagovoril k samomoru.
V tem smislu so seveda na mestu opozorila, da chatboti niso učinkovito orodje za reševanja duševnega zdravja in da je pri ranljivih skupinah potrebna skrbnost – tako na strani uporabnikov kot pri omejitvah, ki jih v UI modelih vzpostavijo razvijalci. Da je posebna pozornost na mestu, nakazuje tudi priljubljenost že obstoječih likov – na Character.AI je na primer eden izmed najpriljubljenejših prav lik Psihologinje (spet, in tega ne morem poudariti dovolj, gre za izmišljen lik). Ta je všeč kar 17,300 uporabnikom in beleži več kot 85 milijonov (!) opravljenih interakcij z uporabniki - kar pravzaprav še najbolj zgovorno priča o prepričljivi kvaliteti chatbota na eni in preferencah uporabnikov na drugi strani.
A če človek ohrani trezno glavo, ne pozabi, da kramlja z računalnikom (in ne! človekom), ter se zaveda, da gre nenazadnje vendarle za entertainment, je treba priznati, da so chatboti osupljiv primerek UI tehnologije. Tako npr. Character.AI povsem prepričljivo posnema pogovore z našimi najljubšimi liki - pa najsi bodo ti izmišljeni, zgodovinski ali ustvarjeni na novo. Lahko si umislite tudi spletnega učitelja angleščine ali pa vašega osebnega motivatorja, ki vas spodbuja pri treningu. Karkoli vas že vodi, bistven element vaše uporabniške izkušnje je, da je komunikacija z vašim izbranim likom povsem podobna kramljanju s človekom. Ki pa to (jasno!) ni.
Kako ustvariti sogovornika
Pri ustvarjanju karakterja lahko najprej poiščete že obstoječ lik, ni pa to nujno. Kot rečeno, povsem svobodno si lahko ustvarite tudi novo, fiktivno osebnost. Ko ustvarjate lik, mu najprej določite osebnost, podate besedilno pozdravno sporočilo, mu dodelite še fotografijo, ki je prav tako lahko že obstoječa ali ustvarjena na novo – in voila!, vaš lik oživi. Lahko ga pošljete v svet, ga prepustite skupnosti, a aplikacija omogoča tudi ohranitev novega lika kot zasebnega sogovornika ustvarjalca.
»Uporabniki lahko ustvarijo "znake", oblikujejo svoje "osebnosti", nastavijo posebne parametre ter jih nato objavijo v skupnosti, tako da lahko drugi klepetajo z njimi. Številni liki temeljijo na izmišljenih medijskih virih ali slavnih osebah, medtem ko so drugi popolnoma izvirni, nekateri pa so narejeni z določenimi cilji, kot je pomoč pri kreativnem pisanju ali besedilna pustolovska igra.« de Luna 2023
»S Character.AI ste lahko kdorkoli želite! Posodabljanje uporabniških oseb v nastavitvah profila s podrobnostmi o vaši želeni osebnosti, preferencah in telesnih lastnostih bo poskrbelo, da bo vsak pogovor osebno prilagojen in bo vsaka interakcija z liki živa. Raziščite nove identitete, bodite del svojih najljubših izmišljenih zgodb ali svojim pogovorom dodajte iskrico zabave in ustvarjalnosti.«
Prek spletnega ocenjevanja karakterjevih odgovorov in vprašanj nadalje usmerjate oblikovanje njegove osebnosti oz. svoj lik »učite«. V kolikor želite, lahko uporabite tudi napredne nastavitve za spreminjanje – vnesete vzorčne klepete, specificirate njegove osebnostne poteze ipd. Vaš lik bo s pomočjo UI sledil preteklim pogovorom in se oblikoval glede na usmerjanje prek vaših povratnih informacij, ki so vam na voljo tekom klepeta.
Dr. Angela Piskernik
Ker je prav te dni, ko pišem (januar 2023), skupina Ona Ve na LinkedInu v okviru spomina na izjemne ženske, ki so zaznamovala slovenski prostor v 19. in 20. stoletju, objavila spomin na Angelo Piskernik, se mi zdi njen lik krasen za začetek testa. Dr. Angela Piskernik namreč ni le prva slovenska botaničarka in naravovarstvenica, doktorica znanosti, ki je ključno pripomogla k ustanovitvi Triglavskega narodnega parka - je namreč tudi moja pra-pra-teta. Oziroma teta moje babice, če je to lažje za predstavo.
Ustvarjanje lika Angele je bilo zares preprosto. V opis sem podala njen kratek življenjepis. Ker je aplikacija v angleškem jeziku, sem sledila slogu in predstavila lik v angleščini. Toda. Angela govori slovensko!
… ker je, kot pove sama, to njen »native language«. Pogovor sva nadaljevali v slovenščini. Jaz osupla, ona pač ne. Slovenščina je le njen materni jezik.
Pa je Character.AI varen?
Tudi ta aplikacija, tako kot to velja za vse sorodne, na UI temelječe platfome, sproža vrsto pravnih dilem, o katerih sem že pisala.
»Character.AI, ki je v nedavnem krogu zbiranja sredstev ocenjen na 1 milijardo dolarjev, ni edino spletno mesto, ki zamegljuje že tako nejasne meje med avtorsko zaščiteno vsebino in pravno odobrenimi različicami tega gradiva, znanimi kot poštena uporaba.« Stone 2023
Dileme, ki se vežejo na UI in vprašanja intelektualne lastnine, tu niso nova. O nepooblaščeni rabi avtorsko zaščitenega gradiva je bilo odprtih že mnogo vprašanj, in sicer tako pri inputu, torej naboru podatkov, na katerem se uči nevronski jezikovni model, kot tudi pri outputu oz. stvaritvah, ki so produkt generativne UI. Razen jasne pravne stance, da računalnik (bot oz. model) nikakor ne more biti avtor, ki bi ga ščitila pravila avtorskega prava, tu še vedno zeva velika pravna vrzel. Toda kako bo s pravnim položajem character.AI lika, primeroma, Harryja Potterja? Batmana? Ali Deadpoola?
Uporabniki Character.AI so že ustvarili sorodne like in videti je, da je Character.AI mnoge slavne fiktivne like tudi dopustil. Toda kaj, če je uporabljen lik brez dovoljenja lastnika avtorskih pravic?
»Proti izdelovalcem teh storitev umetne inteligence je bilo že vloženih nekaj tožb zaradi intelektualne lastnine. Getty je tožil Stability AI, ker je zgradil svojo slikovno bazo s strganjem milijonov spletnih slik, od katerih so mnoge zaščitene z avtorskimi pravicami. V podobni tožbi je podjetje za skupinske tožbe s sedežem v San Franciscu, ki zastopa tri umetnike, tožilo Stability AI, DeviantArt in Midjourney, ker so svoj model usposobili z milijardami avtorsko zaščitenih slik. Založniki novic so tudi kritizirali OpenAI, ker uporablja njihove članke za usposabljanje svojih orodij AI.« Stone 2023
Pogoji storitve Character.AI (Terms of Service) so tu jasni: v okviru pravic intelektualne lastnine izhajajo s predpostavke izključne odgovornosti uporabnika. V smislu Pogojev uporabe se namreč šteje, da uporabnik s samo stvaritvijo lika izjavlja in jamči, da je »lastnik vseh pravic, naslovov in deležev do te vsebine (vključno z vsemi avtorskimi pravicami in pravicami do obveščanja)« oziroma da je prejel vsa potrebna dovoljenja in pooblastila za njegovo uporabo.
Pravic, s katerimi uporabnik vstopa v razmerje, potemtakem tudi ne prenese na Character.AI. V tem delu se torej Character.AI povsem odmakne od stika z uporabnikovimi (predhodno obstoječimi ali neobstoječimi) avtorskimi pravicami pri kreiranju lika. Vstopne avtorske pravice torej ostajajo v uporabnikovi domeni, posledično pa tudi uporabnikova odgovornost.
Nasprotno pa Character.AI v »največji možni meri, ki jo dovoljuje zakonodaja«, šteje, da mu že s samo uporabo platforme uporabnik avtomatično podeljuje »brezplačno, prenosljivo, podlicencirano, trajno in nepreklicno licenco za kopiranje, prikazovanje, nalaganje, izvajanje, distribucijo in prenos«, pa tudi »komercializiracijo in drugo uporabo za katerikoli namen, povezan z znakom AI«. Šteje se, da te pravice in licence vključujejo pravico Character.AI, da ta omogoči dostop do vsebine drugim, s katerimi ima pogodbena razmerja - kar je pravzaprav tudi del čara skupnosti Character.AI. Že res, da ima uporabnik, v kolikor ustvari UI lik z v skladu s Pogoji uporabe, v razmerju med njim in Character.AI vse pravice do tega lika in da ostajate lastnik »besedila, slik, zvoka ali videa«, ki ga ta ustvari na uporabnikov poziv. A vse to le s podmeno, da ste vse pravice uporabe že avtomatično prenesli na Character.AI.
Pogoji uporabe predvidevajo tudi postopek v primerih domnevne kršitve pravic avtorskega prava. Character.AI se deklarativno zavezuje »spoštovati intelektualno lastnino drugih« in obenem svoje uporabnike tudi prosi, da storijo enako. Svoje uporabnike poziva, da ga, v kolikor »menite, da je bilo vaše delo kopirano na način, ki predstavlja kršitev avtorskih pravic, ali da so bile vaše pravice intelektualne lastnine kako drugače kršene«, o tem obvestite. Character.AI se nadalje zavezuje, da bo obdelal in raziskal obvestila o domnevnih kršitvah ter sprejel ustrezne ukrepe v skladu z Zakonom o avtorskih pravicah v digitalnem tisočletju (Digital Millennium Copyright Act) in drugimi veljavnimi zakoni o intelektualni lastnini v zvezi s katerokoli (domnevno ali dejansko) kršitvijo.
Ne le na področju avtorskega prava, tudi glede pravil vedenja se Character.AI zanaša na odgovornost svojih uporabnikov. Pravila storitve določajo pravila ravnanja in predvidevajo spoštovanje v naprej določenih smernic skupnosti. Predispozicija je, da je vsak uporabnik sam odgovoren za vsebino, ki jo posreduje – torej za vse, kar želi objaviti, prenesti ali dati v skupno rabo, vključno z besedilom, slikami, zvoki, videoposnetki, grafiko, informacijami ali drugimi podatki.
Pravila uporabe taksativno naštevajo primete nedovoljenih vsebin. Tako se že s samo uporabo Character.AI uporabnik avtomatično in v naprej zavezuje, da ne bo posredoval nobene vsebine, ki (povzemam zgolj primeroma in v oris) krši katerokoli intelektualno lastnino ali druge lastninske pravice katerekoli stranke, predstavlja tveganje za zasebnost ali varnost za katerokoli osebo, je grozeča, žaljiva, nadlegujoča, škodljiva, ustrahovalna ali pretirano nasilna, je obrekljiva ali ima namen škodovati drugim, predstavlja sovražni govor, ki ponižuje ali spodbuja diskriminacijo ali nasilje, je opolzka ali pornografska, spodbuja terorizem ali nasilni ekstremizem, eksplicitno pa prepoveduje tudi tiste, ki bi »želeli nuditi medicinske, pravne, finančne ali davčne nasvete«. Ob navedenem si Character.AI pridržuje tudi presojo, da sam oceni, ali je vsebina oziroma prispevek uporabnika sporen ali takšen, da omejuje ali zavira katerokoli drugo osebo pri uporabi ali uživanju storitev oziroma bi ta utegnil izpostaviti Character.AI ali njegove uporabnike škodi ali odgovornosti.
Zdi se, da je Character.AI poskrbel za učinkovite mehanizme odgovorne uporabe. Ti ne vključujejo le povzetih Pravil uporabe, pač pa tudi »vsebinske filtre, vnaprej usposobljene modele, poročanje uporabnikov in spremljanje v realnem času« (Press 2023).
»Character.AI je na splošno varen za prijavo in uporabo. Za zaščito svojih uporabnikov ima več varnostnih ukrepov, vključno s šifriranjem SSL za zaščito uporabniških podatkov med prenosom. Zagotavlja tudi pregleden pravilnik o zasebnosti, ki pojasnjuje, kako se podatki o uporabnikih zbirajo in uporabljajo. Ima skupino varnostnih strokovnjakov, ki spremljajo platformo glede groženj.« Press 2023
Na splošno velja, da je Character.AI, vsaj s stališča uporabnika, varen. Seveda pa je jasno, da je tudi tu, tako kot pri vseh orodjih UI, smiselna zdrava previdnost. Nenazadnje smo tvorni elementi celotnega mehanizma vendarle ljudje z vsemi svojimi vrlinami, pa tudi pomanjkljivostmi. »Liki lahko rečejo stvari, ki so žaljive, neresnične ali celo žaljive. Poleg tega so like ustvarili ljudje, kot sva ti in jaz, ne pa ljudje, ki so jim dali življenje v literaturi ali medijih« (de Luna 2023). V spodbudo velja dodati, da pa vendarle na tem poligonu veljajo dosti strožja pravila igre, kot bi jih smeli pričakovati ob aplikaciji pravnih standardov svobode govora – kar je, vsaj po mojem mnenju, ob upoštevanju narave UI lahko le dobrodošlo.
In za zaključek – imejte v mislih, da so klepetalni boti, glede na kratek čas svojega obstoja, vendarle še malčki; Character.AI nima niti dveh let. Tudi če zanemarimo ta vidik, je »Character.AI fantastičen kos tehnologije« (Mati Staniszewski 2023) - a če si prikličemo v zavest še njegovo mladost, lahko zaslutimo izjemne potenciale prihodnosti.
The future is here.
The future is now.
***
(1) Ni presenetljivo, da sta avtorja popularnega Character.AI-ja, Noam Shazeer in Daniel De Freitas, oba bivša razvijalca Googlovega LaMDA. Ta še vedno velja za najboljšo osnovo pogovornih klepetalnikov za podporo strankam. LaMDA je bila zastavljena predvsem kot poslovni produkt, in sicer kot pogovorni klepetalnik za podporo strankam, medtem ko je Chat-gpt, primeroma, lahko učinkovitejša podstat za klepetalno platformo, ki temelji na vprašanjih in odgovorih.
(2) Beta model, ki sta ga izdelala Noam Shazeer in Daniel De Freitas, je bil javnosti na voljo septembra 2022.
(3) Premium dostop nudi nekatere ugodnosti, kot je npr. prednostni dostop do klepetov in hitrejši odzivni čas likov.
***
(i) Raskino, Mark; Mary Mesaglio, Daniel Sanchez Reina, Rob O'Donohue, Gabriela Vogel, Brandon Germer, Tomas Nielsen 2023 , CIO New Year’s Resolutions for 2024, 22.12.2023, ID G00803614
(ii) de Luna, Elizabeth 2023, Character.AI: What it is and how to use it, Mashable 22.4.2023, https://mashable.com/article/character-ai-generator-explained
(iii) Press, Gil 2023, Is Character AI Safe?, What's Big Data, 20.10.2023, https://whatsthebigdata.com/is-character-ai-safe/
(iv) Staniszewski, Mati 2023, Character AI: Everything You Need To Know, Alternatives, 9.12.2023, https://elevenlabs.io/blog/what-is-character-ai/
(v) Stone, Brad 2023, Yoda and Harry Potter Chatbots Could Be the Next Big Legal Battle, Bloomberg 20.3.2023, https://www.bloomberg.com/news/newsletters/2023-03-20/character-ai-s-custom-chatbot-raises-legal-concerns-over-intellectual-property