83 MIRO CERAR doktor pravnih znanosti, profesor na Pravni fakulteti Univerze v Ljubljani Etičnost prava in umetna inteligenca Pregledni znanstveni članek UDK 340.131:17:004.8 Povzetek Pravo mora temeljiti na (vsaj) zadostni etični podlagi. Ta podlaga je še posebej pomembna za obstoj in učinkovito delovanje pravne države (vladavine prava). T. i. umetna inteligenca (UI), ki ima vedno pomembnejšo vlogo tudi v pravu, ni človeška in v resnici ni primerljiva s člove- ško večrazsežnostno avtentično inteligenco. Toda UI nenehno napreduje v razvoju in vedno bolje posnema človeške kognitivne in druge funkcije. Pri tem v marsičem tudi presega obsto- ječe človeške zmožnosti mišljenja in delovanja. Toda UI niti v sedanjih oblikah niti na njeni zamišljeni najvišji stopnji razvoja, tj. kot povsem avtonomna in samogenerirajoča se splošna inteligenca, ne more doseči lastnosti avtentične človeškosti in človečnosti (humanosti). Ti dve lastnosti sta za obstoj etike in prava ključni. V tem pogledu pomeni poleg (1) etičnih deficitov na različnih družbenih področjih ter (2) totalitarnih režimov največjo grožnjo etiki in pravu (3) osamosvojena UI, ki se je sposobna obrniti od človeka ali celo proti njemu in ga nadvladati. V prvih dveh primerih je izničena človečnost prava, v zadnjem, za zdaj le namišljenem prime- ru, pa hkrati tudi njegova človeškost, kar je najslabši možni scenarij, ki ga je treba preprečiti z ohranjanjem avtentičnih etičnih vrednot in vrednot pravne države (vladavine prava). Ključne besede: morala, etika, pravna država, vladavina prava, človeškost, človečnost, totali- tarizem, umetna inteligenca The ethics of law and artificial intelligence Abstract Law must be based on (at least) a sufficient ethical foundation. This foundation is particularly important for the existence and effective functioning of the rule of law. So-called artificial 84 II. Umetna inteligenca intelligence (AI), which is playing an increasingly important role in law, is not human and in reality cannot be compared to multidimensional authentic human intelligence. How ever, AI is constantly evolving and increasingly mimics human cognitive and other functions, often surpassing existing human thinking and acting capabilities. Nevertheless, neither in its cur- rent form nor in its envisioned highest stage of development as a fully autonomous and self-generating general intelligence can AI achieve the qualities of authentic humanity and humanness. These two qualities are essential for the existence of both ethics and law. In this regard, besides (i) ethical deficits in various societal domains and (ii) totalitarian regimes, the greatest threat to ethics and law is (iii) a fully autonomous AI that has the potential to turn away from or even against humanity and eventually overwhelm it. In the first two scenarios, the humanity of law is nullified, while in the latter scenario —which is currently only an ima- gination — both humanity and humanness of law are extinguished. This is the worst possible scenario, which must be prevented by preserving authentic ethical values and the values of the rule of law. Keywords: morality, ethics, rule of law, humanity, humaneness, totalitarianism, artificial in- telligence 1. Uvod Vpliv t. i. umetne inteligence na področjih normativnega urejanja sodobne družbe vsak dan narašča. Namen tega prispevka1 je po eni strani pojasniti razmerje med moralo, etiko in pra- vom ter temeljni pomen, ki ga ima etika za razvito pravo in pravno državo (vladavino pra- va). Po drugi strani pa prispevek obravnava pomen ter posledice razvoja in uporabe umetne inteligence na področjih etike in prava ter v tem pogledu še posebej potencialne grožnje, ki jih za pravo in pravno državo (vladavino prava) ter tudi družbo na splošno pomenijo umetna inteligenca in nekateri drugi dejavniki. V prispevku sta posebej izpostavljeni razsežnosti člo- veškosti in človečnosti prava ter nečloveška in v mnogih vidikih specifična in dinamična na- rava umetne inteligence. Slednja že postaja neizogiben pripomoček in dejavnik na področjih oblikovanja, sprejemanja, razlaganja in uporabljanja prava ter na drugih področjih družbenega delovanja, pri čemer se je treba ob njenih dobrih in koristnih lastnostih in učinkih zavedati tudi njenih nevarnosti. V prispevku je tako pojasnjeno, da umetna inteligenca na etičnem in pravnem področju ne more in ne sme v pretežni meri prevzeti mesta in vloge človeka. Le ohranjanje pravega (so)razmerja in ravnovesja med tehnološkim napredkom ter človeškimi 1 Ta prispevek se navezuje na avtorjevo predavanje z naslovom Odločanje v pravu in umetna inteligenca, ki je bilo predstavljeno na XXII. Dnevih civilnega in gospodarskega prava (18.–19. april 2024, GH Bernardin, Portorož), ter dopolnjuje in nadgrajuje nekatere avtorjeve ugotovitve iz njegovega članka Ethical perspective of the future develop- ment of law. V: Medicine, law & society, vol. 16 (2023), št. 2, str. 247–266. MIRO CERAR Etičnost prava in umetna inteligenca 85 lastnostmi in vrednotami lahko v družbi ohrani ustrezno etično kulturo in na njeni podlagi zasnovano pravo (pravno državo) kot sredstvo za zagotavljanje pravičnosti, varnosti, svobode in človeškega dostojanstva. 2. Človeškost prava Pravo je po svoji naravi človeški pojav. Čeprav je v sodobnem svetu vedno bolj kompleksno in v njem kot pravni subjekti vedno pogosteje nastopajo tudi umetni subjekti, predvsem t. i. pravne osebe, je človek njegov ustvarjalec ter neposredni ali posredni naslovnik, seveda pa v tem okviru tudi njegov razlagalec in odločevalec. Tako na primer zakone, ki so namenjeni ure- janju medčloveških odnosov, sprejemajo ljudje, pri čemer prav tako ljudje te zakone razlagajo in na podlagi njih odločajo. Seveda pa v formalni shemi prava ljudje kot takšni nastopajo bo- disi kot fizične osebe (na primer pri sklepanju in razlaganju pogodb) bodisi v okviru pravnih oseb ali kot njihovi predstavniki oziroma zastopniki. Pravna zgodovina nas uči, da so ljudje že v preteklosti lastnost pravnih subjektov večkrat pripisovali tudi nečloveškim entitetam. V religioznih, običajnih in državnih pravnih uredi- tvah je bila pravna subjektivnost priznana bogu, nekaterim »nadnaravnim bitjem«, živalim in stvarem.2 Tudi v sodobnem času poznamo takšne opredelitve pravnih subjektov, pri čemer so nekatere celovito pravno izdelane,3 druge pa so pravno manj domišljene in so predvsem odraz političnih javnomnenjskih interesov.4 Še posebej v sodobnejšem času so poleg ljudi kot fizičnih oseb subjekti prava tudi pravne osebe kot umetno pojmovane entitete. Predvsem gre za različne pravno pripoznane organizacije in združenja ali premoženjske enote (na primer skladi). V sodobnem času so vedno pogosteje prisotna tudi stališča, da bi bilo treba pravice in vsaj omejeno pravno subjektivnost priznati tudi živalim. Najnovejši razvoj tehnologije pa je privedel celo do stališč, da bi bilo treba nekatere temeljne pravice priznati celo robotom.5 Toda kljub vključitvam nečloveških entitet v sfero subjektov prava le-to ostaja še vedno bi- stveno soopredeljeno s človekom. Tudi v primerih pripisovanja določenih pravnih statusov 2 Obširneje na primer Holmes, str. 1–33. 3 Tako je na primer leta 2017 na Novi Zelandiji reka Whanganui dobila status pravne osebe, ki sta ji bila za nasto- panje pred sodišči dodeljena dva (človeška) pravna zastopnika. 4 Takšen je, denimo, znani primer iz leta 2017, ko je Savdska Arabija priznala državljanstvo (tj. pravni status) androidu Sophia. 5 Glej Evans, str. 373–383. Avtor meni, da stroji na nobenem področju ne morejo imeti pravic, dokler so zgolj stroji. Toda ob tem hkrati omenja teorijo o mrežnem delovanju (actor-network theory), po kateri kolesa, kladiva, umetna inteligenca in ljudje obstajajo v okviru spektra ali omrežja, ki ga skupno pojmujemo kot kulturno, zato naj bi bili družbeni dejavniki povsod, saj je »družbenost« porazdeljena med vse stvari in bitja, s katerimi so ljudje v interakciji (prav tam, str. 379). Tako so, denimo, v skladu s takšnim pogledom pravice robotov moralne dolžnosti družbe nasproti njenim strojem, podobno kot pri človekovih pravicah ali pravicah živali. 86 II. Umetna inteligenca ali pravic živalim, delom okolja, predmetom, strojem (robotom), premoženjskim enotam ter različnim organizacijam in združenjem je človek še vedno ustvarjalec in neposredni ali vsaj posredni naslovljenec pravnih norm. Človek je nesporen ustvarjalec pozitivnega prava (na primer ustave, zakonov, sodb), čeprav mu pri tem ustvarjanju pomaga tehnologija. Prav tako človek neposredno ali posredno nosi posledice pravnih in protipravnih ravnanj. Neposredni nosilec pravnih ravnanj in posledic je, kadar mu pravo kot fizični osebi neposredno določa pravice in dolžnosti. Posredni nosilec pravnih ravnanj in posledic pa je človek po eni strani takrat, ko zastopa pravne osebe ali je njihov član, po drugi strani pa takrat, ko se sicer pravice ali koristi pravno pripisujejo drugim entitetam (na primer pravnim osebam, živalim, naravnim danostim ali predmetom), vendar so kot takšne vzpostavljene po volji ljudi, in sicer zaradi človeških želja, potreb ali interesov. Zaradi sodobnega razvoja umetne inteligence se srečujemo z vedno manj teoretičnim vpraša- njem, ali je lahko pravo normativni pojav, katerega ustvarjalci nismo več ljudje. V skrajni kon- sekvenci gre celo za vprašanje, ali smo lahko ljudje iz prava izločeni tudi kot naslovljenci. Prvo bi pomenilo, da bi pravo pretežno ali v celoti kot zakonodajalci in sodniki določali avtonomni umetnointeligentni stroji. Drugo pa bi pomenilo, da bi umetna inteligenca toliko prevladala nad človeštvom, da bi človeka ne štela več za subjekt prava, temveč le še za objekt prava (na primer podobno kot sužnja), kolikor bi človeštvo sploh še imela za pravno relevantno.6 Pri vsem tem ne gre več zgolj za domišljijo ali znanstveno fantastiko, kajti zaradi razvoja na področju umetne inteligence in tehnologije ter človeške neustavljivosti pri spodbujanju tega razvoja se že danes srečujemo z realnostmi, ki so bile pred le kakimi petdesetimi leti še v domeni čiste znanstvene fantastike. Vendar že takrat in prej ideja o konfliktu med strojem in človekom ni bila nepoznana. To nazorno dokazuje film 2001: A Space Odissey iz leta 1968, v katerem pride misleči računalnik v konflikt s človeško vesoljsko posadko. V nastali situaciji stroj oceni, da človeški element v vesoljskem plovilu pomeni grožnjo zastavljeni (programira- ni) misiji, in ga je zato pripravljen tudi odstraniti. Človeškost prava ni le temeljna opredelilna lastnost prava. Je tudi temeljna prvina morale in etike, o čemer bo več povedano v nadaljevanju. Če bi pravo ne bilo več človeška stvaritev, namenjena človeku, bi izgubilo svojo bistveno lastnost in postalo nekaj povsem drugega. Ob tem bi seveda izgubilo tudi svojo vez s človeško etiko, kar bi imelo za človeštvo dodatne ne- gativne učinke. 6 V hipotetičnem oziroma namišljenem primeru bi obe takšni situaciji lahko nastali tudi, če bi prišla na naš planet nečloveška bitja iz vesolja in nasilno povsem prevladala nad človeštvom. MIRO CERAR Etičnost prava in umetna inteligenca 87 3. Umetna inteligenca Izraz umetna inteligenca se navezuje na pojem inteligence, ki jo pripisujemo človeku. Z vidika tega prispevka je glede umetne inteligence bistveno to, da je to krovni izraz za tehnologijo, ki ima nekatere lastnosti, ki so sicer na videz podobne nekaterim lastnostim človeških možganov oziroma človeškemu mišljenju, nikakor pa ne izvirajo neposredno iz človeka kot takšnega. Umetna inteligenca torej nikakor ni kakorkoli avtentično človeška pojavnost ali entiteta. Opisno in zgolj v ponazoritvenem smislu lahko rečemo, da je človeška inteligenca človekova avtentična naravna sposobnost za razumevanje, učenje, prilagajanje in reševanje bolj ali manj kompleksnih problemov. Gre za zmožnost učenja in uporabe znanja v smislu logičnega razmi- šljanja ter čustvenega, prostorsko-časovnega, socialnega in drugačnega zaznavanja, delovanja in ustvarjalnosti. Človeška inteligenca je po svoji naravi večrazsežnostna (večdimenzionalna)7 ter kot takšna vključuje ne le racionalne (matematično-logične), temveč tudi družbene in čustvene komponente, ki so ključno orodje za človekovo interakcijo z drugimi ljudmi, družbo, naravo in svetom na splošno. T. i. umetna inteligenca izvira s področja računalništva, ki se ukvarja z razvojem sistemov in programov, ki posnemajo ali v določenih vidikih presegajo sedanje povprečne sposobnosti človeške inteligence. Zelo splošna opredelitev umetne inteligence se v tem smislu nanaša na strojne in programske rešitve, ki lahko izvajajo naloge, kot so učenje, logično sklepanje, razumevanje in uporaba jezika, prepoznavanje in kreiranje vzorcev in vizualnih vsebin ter ustvarjanje novih vsebin in podob ter odločanje.8 Eden ključnih vidikov umetne inteligence je njena sposobnost prilagajanja in lastnega izboljševanja na podlagi izkušenj (strojno učenje). Opredelitev umetne inteligence je veliko in njihov obseg se bo verjetno širil z njenim na- daljnjim razvojem. Na mednarodni ravni še vedno ni sprejetega skupnega dogovora o njeni delovni definiciji, in sicer ne na tehnični ne na pravni in politični ravni,9 pri čemer bo realno gledano splošen ali univerzalen dogovor težko kadarkoli dosežen. Umetna inteligenca je na- mreč pojav v razvoju, pri čemer lahko ta pojem uporabljamo bodisi le v doslej pretežno uve- ljavljenem konvencionalnem bodisi dogovornem pomenu, nikakor pa ne v smislu esencialne definicije, ki bi bila povsem analogna definiciji človeške inteligence. Slednja se tudi že po svoji naravi izmika zelo določni ali esencialni definiciji, kajti njena struktura je izjemno kom- 7 O teoriji o več inteligencah oziroma o večrazsežnosti uma glej na primer Gardner. 8 Tako na primer Cambridge Dictionary umetno inteligenco označuje kot sposobnost računalniških sistemov ali strojev, ki imajo nekatere lastnosti človeških možganov, kot na primer sposobnost razlage in proizvajanja jezika na način, ki je videti človeški, ter sposobnost prepoznave ali ustvarjanja podob ter reševanja problemov in učenja iz po- datkov, ki so jim na razpolago, (8. 12. 2024). 9 Kritikos, str. 2. 88 II. Umetna inteligenca pleksna. Vse to seveda vodi v potrebo po nacionalnih in mednarodnih pravnih opredelitvah umetne inteligence ter po določitvi dopustnih meja njenega delovanja,10 s čimer se bo vsaj na pravni ravni pretežno poenotila in predvidljivo uredila njena uporaba. Drugače od človeške inteligence, ki temelji na človeških neposrednih in posrednih izkušnjah, čustvih, instinktih, intuiciji ter ne nazadnje na človeški domišljiji, temelji umetna inteligenca na umetnem (algoritemskem) programiranju in učenju iz podatkov. Umetna inteligenca je ta- ko bistveno bolj omejena kot človeška, čeprav znotraj svojega področja delovanja človeka izra- zito prekaša v sposobnostih, ki imajo podporo v tehnologiji. Čeprav torej umetna inteligenca ni inteligenca v človeškem pomenu besede, niti za zdaj še zdaleč ni na takšni razvojni stopnji, da bi bila od človeka osamosvojena, tj. avtonomna in neodvisna, uporabljam v nadaljevanju za vse njene razvojne oblike, ki se danes v svetu uvrščajo pod izraz umetna inteligenca, tudi v tem prispevku ta splošno uveljavljeni izraz. Umetna inteligenca po svoji naravi ni in ne more biti avtentično moralna ali etična. Avten- tično moralno in etično bitje je le človek kot kompleksno bitje, v katerem se skozi različnost v enosti prepletajo človekova duševna, mentalna, energetska, čustvena, fizična in druge razse- žnosti. Umetna inteligenca tudi v idealno-tipsko zamišljeni popolni razvitosti, ko je povsem neodvisna od človeka ter se v celoti avtonomno samogenerira, ne more biti človek in zato tudi ne more biti etična ali moralna. Seveda pa lahko umetna inteligenca že tudi na manj razvitih stopnjah, denimo na ravni delno in relativno avtonomnih umetnointeligenčnih sistemov (na primer pri upravljanju avtonomnih vozil ali strojev), sprejema na videz etične odločitve in iz- vaja etična dejanja, pri katerih se za zdaj ravna po programsko opredeljenih človeških etičnih navodilih in v določeni meri posnema človeška ravnanja (kot na primer v kritičnih situacijah, ko je treba ob nesreči ali napaki posledično človeško materialno ali nematerialno škodo mi- nimalizirati glede na etična načela). V takšnem in zgolj v takšnem smislu je mogoče govoriti tudi o »etični umetni inteligenci«. V zvezi s tem potekajo danes v svetu intenzivne razprave o tem, na katerih etičnih načelih je treba utemeljevati delovanje umetne inteligence, pri čemer seveda ta načela za umetno inteligenco v osnovi še vedno programsko določajo ljudje. Med taka načela spadajo na primer spodbujanje blagostanja, ohranjanje človeškega dostojanstva, spodbujanje trajnostnega razvoja, zagotavljanje varstva zasebnosti in varnosti, zagotavljanje določene avtonomije umetne inteligence, ki pa ne sme iti na škodo človeške avtonomije, za- gotavljanje pravičnosti in poštenosti itd.11 Ključno vprašanje, ki ga obravnava ta prispevek, ni sposobnost umetne inteligence, da na različne koristne načine pripomore k lažjemu in boljšemu ustvarjanju ter uporabljanju prava. V tem pogledu je umetna inteligenca že prišla v širšo pravno uporabo in se v marsičem kaže 10 O pristopih mednarodne skupnosti k regulaciji umetne inteligence glej na primer Strojin, str. 13–25. 11 Glej podrobneje Floridi, str. 55–66; primerjaj tudi Leslie, Shaw, str. 31–60. MIRO CERAR Etičnost prava in umetna inteligenca 89 kot koristen pripomoček pri delovanju pravnikov, na primer pri iskanju, analizi, sintezi in selekcioniranju pravnih podatkov, pri pripravi odgovorov na pravna vprašanja, pri sestavi in urejanju splošnih in posamičnih pravnih aktov, komentarjev, strokovnih člankov in drugih pravnih besedil itd. Ni torej dvoma, da je lahko umetna inteligenca danes in v prihodnje do neke mere koristen praktičen pripomoček na različnih področjih prava. Seveda se tudi tu pojavljajo številna vprašanja glede primernega in dopustnega vpliva umetne inteligence na pravo, na primer še posebej na področje zagotavljanja oziroma varstva človekovih pravic ter na splošno na področje delovanja pravne države (vladavine prava). Toda še pomembnejše od teh vprašanj je predhodno vprašanje, ki zadeva vpliv umetne inte- ligence na etičnost prava. Ker je, kot bo pojasnjeno v nadaljevanju, etika podstat prava in še posebej pravne države, se je nadvse pomembno zavedati, kako (lahko) na to podstat vpliva v pravu in etiki vedno bolj prisotna umetna inteligenca. V tem pogledu je zato ključno vpra- šanje, ali lahko umetna inteligenca nadomesti človeka tudi v njegovi moralno-etični vlogi, ki determinira naravo in kakovost prava. Iz tega pa seveda izhaja tudi vprašanje, kaj pomeni nadomestitev človeške morale in etike z umetnointeligenčno »moralo« in »etiko« za samo naravo prava ter posledično za ljudi kot ustvarjalce prava in pravne naslovljence. 4. Človečnost (humanost) prava Teorija in filozofija prava nas učita, da pravo ni le del družboslovnega preučevanja, ampak je tudi humanistična veda in praksa. To izvira na eni strani iz dejstva, da je – kot je bilo že po- jasnjeno – pravo človeški fenomen, na drugi strani pa iz dejstva, da je pravo v svojem temelju tudi človečno (humano). To ne pomeni, da je človečnost kot vrednota neposredno prisotna v vseh pravnih normah in pravnih razmerjih. Pomeni pa, da je in mora biti pravo kot celota zavezano tudi tej vrednoti. Pravo mora torej kot celota v neki zadostni meri služiti v dobro človeku kot večdimenzionalnemu bitju, v katerem se prepletajo fizična, čustvena, energetska, mentalna, duhovna in druge razsežnosti. V duhu Kantovega etičnega imperativa mora biti (tudi) v pravu človek vedno cilj in nikoli zgolj sredstvo.12 V tem duhu je pomembna misel Georga Jellinka iz 19. stoletja, po kateri je pravo etični minimum.13 Čeprav se na teoretični ali filozofski ravni misleci razlikujejo glede vprašanja, ali je treba pravo strogo ločiti od morale ali dojemati oba pojava (fenomena) v eksistenčni soodvisnosti, sta v najglobljem ontološkem pogledu obe pojavnosti dejansko eno(st). Takšna monistična ontološka perspektiva se v človeški razlikovalni racionalni predstavi, ki je pogo- jena s prav tako razlikovalnimi čutnimi zaznavami, bipolarizira in nato nadalje pluralizira v 12 Glej Kant, str. 48–53, 105–106, 130–132. 13 Jellinek, str. 42. 90 II. Umetna inteligenca najrazličnejše pojave in njihove odtise ali vtise (impresije) v človeških predstavah. V racionalni predstavi ali zamisli, ki ustvarja koncept pluralnosti družbenih fenomenov, se tako tudi mora- la, običaji, politika, religija in drugi normativni pojavi razlikujejo med seboj in posebej tudi od prava. Pravo je tako v človeški kolektivni racionalni predstavi relativno avtonomno področje človeškega delovanja, čeprav je v resnici to področje neločljivo povezano z vsemi preostalimi pojavi (fenomeni) tega sveta in tako tudi z moralo ter etiko. 5. Etika kot podstat prava Etika je torej podstat prava tako kot tudi drugih človekovih področij delovanja. Brez zadostne etične podlage nobena človeška dejavnost nima pravega človeškega in družbenega smisla. Toda ker se etika, ki je sčasoma prerasla v samostojno družbeno pojavnost (teorijo in prakso), v racionalni perspektivi razlikuje od prava, politike, religije in drugih področij, je za slednja značilno, da v določeni meri normativno urejajo ali posegajo v družbo in posameznika tudi na načine, ki bodisi niso etično relevantni bodisi etiki celo nasprotujejo. Poleg tega ljudje v ra- zumsko-čutni, emocionalni in drugih parcialnih perspektivah etiko dojemamo in posledično tudi teoretično koncipiramo različno, čemur ustrezajo različne partikularne etike. Vse to kaže, da je razmerje med etiko, pravom in drugimi normativnimi področji kompleksno. Kljub temu pa niti pravo niti politika, ekonomija, religija, običaji ali katero drugo področje urejanja medčloveških odnosov ni dolgoročno družbeno vzdržno, če ne temelji v zadostni me- ri na etiki. Le-ta je kljub svoji na videz pluralni in v racionalni perspektivi tudi kontradiktorni pojavnosti14 temeljni vrednotni nosilec konstruktivnega družbenega sobivanja in razvoja. In ker je pravo tisti skupni normativni imenovalec, ki se mu morajo v (državno) organizirani družbi podrediti vsi drugi normativni sistemi, je etična podstat prava odločilna za kakovost prava in pravne kulture, posledično pa vsaj deloma tudi za kakovost obče družbene kulture. Etična podstat je v pravu najbolj prisotna takrat, ko pravo deluje po načelih pravne države (vladavine prava). Sodobni integralni koncept pravne države, ki konceptualno in praktično povezuje in združuje različne moderne pravne tradicije (nem. Rechtsstaat, fr. l‘Etat de droit, angl. rule of law, amer. due process of law itd.)15 ter je vzajemno pogojen z moderno demokra- cijo, bistveno intenzivneje varuje človekovo dostojanstvo ter človekove svoboščine in pravice, kot je to značilno za pravne ureditve v nedemokratičnih sistemih. Prav nediskriminatorno varstvo človekovih pravic je najpomembnejši odraz etičnosti prava, saj te pravice v veliki meri 14 Različne partikularne etike so si lahko nasprotujoče ali medsebojno izključujoče. Tako lahko na primer zagovor- nik imperativne etike meni, da je za morilca primerna (zgolj) smrtna kazen, medtem ko lahko na primer zagovornik etike sočutja smrtno kazen že načelno zavrača. 15 Glej Cerar 2023, str. 6–9. MIRO CERAR Etičnost prava in umetna inteligenca 91 zagotavljajo posamezniku njegovo človečnost in dostojanstvo na osebni in družbeni ravni (v sferi politike, ekonomije, delovnih razmerij, socialne varnosti, kulture itd.). Etika na dani stopnji (točneje: stopnjah) družbene zavesti človeštva nikakor ne more v celoti nadomestiti prava in drugih normativnih svetov. Etika in pravo torej potrebujeta drug dru- gega. To pa pomeni, da je prava mera prava pogojena s pravo mero obče oziroma univerzalne etike, posebej pa tudi s pravo mero pravne etike, ki se v okviru pravne dejavnosti členi na partikularne sklope, kot so sodniška, odvetniška in notarska etika, pa tudi etike tistih širših poklicnih skupin, ki vključujejo tudi pravnike (na primer etika javnih uslužbencev ali etika določene gospodarske sfere). »Več etike, manj prava«16 zato pomeni, da je treba hipertrofijo pravnih aktov ter pretirano vero v pravno urejanje in reševanje sporov17 »zdraviti« predvsem tudi z doseganjem prave mere obče družbene etike ter pravne etike – slednje kot prvenstvene domene pravniških poklicev. Etičnih temeljev prava, kot rečeno, ne tvorijo le specifične etike pravnih poklicev, ampak tudi druge vrste etike. Temeljna predpostavka prava je predvsem univerzalna etika, ki se ji pripi- suje veljavnost in relevantnost za vse ljudi.18 Nadalje spadajo v sklop predpostavk pravnega urejanja in delovanja različne partikularne etike z »nepravnih« področij, med katere spadajo predvsem etike različnih nepravnih poklicev, ki pomembno zaznamujejo različna družbena področja. Končno so seveda del sfere pravkar omenjenih predpostavk tudi že omenjene etike 16 To misel so na različne načine artikulirali že mnogi stari misleci, na primer Konfucij, ki je verjel, da je treba družbene odnose v čim večji meri urejati z etičnimi pravili (konfucijanski koncept li), ki diferencirano (diskrimi- natorno) upoštevajo različen pomen in funkcijo družbenih vlog. Konfucij in konfucijanci so zavračali koncept fa, tj. zakonodajno urejanje družbenih odnosov, za katerega so menili, da zaradi svoje splošnosti in zunanje prisile ne more biti ustrezno prilagojen raznovrstnosti družbenih vlog in zato kvari družbene odnose (o konceptu li in fa te- meljno David, Grasmann, str. 431–433). Kitajski filozof Lao Ce je v zvezi s tem dejal: »Čim več zakonov in uredb, tem več tatov in roparjev.« Nav. prav tam, str. 431. 17 O škodljivosti takšnega ideologiziranja prava glej Cerar 2009, str. 94–96. 18 Univerzalno etiko lahko preprosto utemeljujemo z njeno pogojenostjo v univerzalnih človeških potrebah, iz katerih izhajajo univerzalne moralne zahteve oziroma vrednote. Tako so na primer hrana, prostor, možnost gibanja in občutek varnosti človekove nujne primarne potrebe, iz katerih izhaja primarna moralna zahteva po zavarovanju teh vrednot, ki nato vodi v univerzalno etično zahtevo po spoštovanju človeškega življenja, dostojanstva in svobode (primerjaj Žalec, str. 22–23). Eden pomembnejših sodobnih zagovornikov univerzalne etike je Hans Küng, ki v svo- jem projektu svetovnega etosa poleg temeljnega načela humanosti (»Z vsakim človekom moramo ravnati človeško, in ne nečloveško.«) in zlatega pravila vzajemnosti (»Drugim ne stori tega, česar ne želiš, da oni storijo tebi.«) poudarja predvsem naslednje štiri splošne etične zahteve oziroma vrednote: (a) nenasilje in spoštovanje življenja (prepoved ubijanja, mučenja in trpinčenja ter zapoved spoštovanja življenja); (b) solidarnost in pravično gospodarsko ureditev (prepoved kraje, izkoriščanja in podkupovanja ter zapoved iskrenosti in poštenosti); (c) iskrenost in strpnost (prepo- ved laži, prevare in manipuliranja ter zapoved govorjenja in ravnanja po resnici) in (d) enakopravnost in partnerstvo (prepoved zlorabljanja spolnosti, prepoved zlorabljanja, poniževanja ali zaničevanja partnerja ter zapoved spošto- vanja in medsebojne ljubezni) (Küng, str. 26 in 35). Ta in podobni pristopi k opredeljevanju univerzalnih etičnih načel (usmeritev k univerzalnim etičnim načelom zagovarja na primer tudi Dalajlama) pomenijo pomembno okvirno podlago tudi etiki v pravu. 92 II. Umetna inteligenca različnih pravnih poklicev, ki neposredno vplivajo na ravnanja pravnikov v pravnih postopkih ter na širjenje pravnega znanja, vrednot in zavesti. Na pravno urejanje in delovanje poleg etike neposredno vplivajo tudi prevladujoča družbe- na morala oziroma različne skupnostne morale, v tem okviru pa tudi različne vrste oziroma oblike moralnega življenja.19 Morala je etimološko zelo blizu etiki,20 vendar se je skozi čas vzpostavila razlika med obema pojmoma. Ker tu ni prostora za podrobnejše pojasnjevanje razmerja med moralo, etiko in pravom, naj moralo strnjeno opredelim kot človekovo indivi- dualno notranje čutenje in zavest o dolžnostni potrebi in zavezanosti delati dobro in poma- gati drugim. Temeljna vrednostna opredelilna znaka moralnosti sta dobro kot nasprotovanje slabemu oziroma zlu ter človečnost (humanost) kot delovanje v korist človeka oziroma ljudi. Drugače kot normativna etika, ki sicer išče svojo vsebino v določeni prevladujoči morali, vendar nato zavezuje posameznika od zunaj (na primer prek načel, postavljenih v kakem etič- nem kodeksu ali v kaki izdelani etični teoriji), je morala sklop norm, ki se skozi socializacijo pretežno spontano oblikujejo v posameznikovi notranjosti in ga zavezujejo le intimno, tj. od znotraj. Posameznikova morala je pogosto, ne pa vedno, v sozvočju z moralo pripadnikov njegove ožje ali širše skupnosti ali družbe, zato v tem smislu govorimo o različnih kolektivnih moralah (na primer plemenska morala, vaška morala, novinarska morala, pravniška morala, krščanska morala, morala zahodne družbe). Morala pomeni odgovornost posameznika nasproti njegovi lastni vesti. Ravno zato je avten- tično moralno ravnanje zgolj tisto, ki ga posamezniku avtonomno-dolžnostno nalaga njegova vest, posledično pa je edina avtentična moralna sankcija pekljenje vesti (t.  i. avtosankcija). Zunanje moralne sankcije, tj. tiste, ki jih zoper nemoralnega posameznika uveljavlja neka skupnost, na primer v obliki kritike, začasnega bojkota, telesne kazni ali izločitve posamezni- ka iz skupnosti, z vidika tega posameznika niso avtentične moralne sankcije. Resnično se ga namreč »notranje dotaknejo« oziroma ga »prepričajo« le toliko, kolikor sovpadajo z njegovo vestjo, tj. z njegovo avtentično, avtonomno moralo. V preostalem delu so takšne bolj ali manj skupnostno usklajene moralne norme in njihove sankcije za posameznika zgolj heteronomne in torej zanj pomenijo zgolj zunanjo prisilo, ki ga osebno ne prepriča o nemoralnosti njego- 19 Ker tu ni mogoče podrobneje obravnavati pojma in vrst morale, naj le opozorim na razčlenitev morale v osem vrst moralnega življenja, ki jih ob sklicevanju na G. Gurvitcha (Sociologija, 2. zv., 1966) strnjeno povzema Sruk. Po tej razčlenitvi obstajajo naslednje oblike moralnega oziroma nravstvenega življenja: 1. tradicionalna morala; 2. finalis- tična oziroma utilitaristična morala; 3. morala kreposti; 4. morala naknadno sprejetih sodb ali ocen; 5. imperativna ali normativna morala, 6. morala idealnih simboličnih predstav; 7. morala aspiracije; 8. demiurška ali ustvarjalna morala (Sruk, str. 102–103, 154–155, 191–192, 306–310, 504–505, 531–532). 20 Glej na primer Hutchings, str. 7; Stres, str. 10–11. Slednji opozarja na Ricoeurjevo ugotovitev, da sta oba pojma povezana z dvema prvinama pogleda na življenje. Ti prvini sta: 1. zavest o tistem, kar je za človeka dobro; 2. zavest o dolžnostih, ki jih mora človek izpolniti (Stres, str. 11). MIRO CERAR Etičnost prava in umetna inteligenca 93 vega ravnanja21 (seveda lahko dolgoročno skupnostna morala vpliva na spremembo morale posameznika, včasih pa se zgodi tudi obratno). Če si z vidika prava za ponazoritev pogledamo vezanost slovenskega sodnika na moralne nor- me, vidimo, da je ta vezanost povzdignjena celo na raven pravnega načela. Sodnik se namreč ob nastopu svoje funkcije v skladu z zakonom zaveže, da bo pri sojenju sodil po svoji vesti.22 Pravna norma je tu povsem blanketna, kajti vest vsakega sodnika je specifična, individualna. Moralna vest vsebinsko ni in ne more biti generičen urejevalni pojem, zato je seveda razu- mljivo, da sodniška prisega vsebuje tudi zavezo sodnika ustavi in zakonu (tj. pravu), s čimer je zagotovljeno, da bo sodnik pri odločanju uveljavljal načela predvidljivosti, enakopravnosti, ne- diskriminacije, sorazmernosti, pravne varnosti, spoštovanja pravnega formalizma in vse druge temeljne in izvedene norme modernega prava, ki zagotavljajo ustavno, zakonito in ustaljeno sodno prakso ter uveljavljanje pravne države. S pravnega vidika je sodnikova zaveza pravu (ustavi in zakonu) primarna glede na njegovo vest, čeprav bi ga slednja pri opravljanju njego- vega poklica napeljevala k neposlušnosti pravu. Ko sodnik opravlja svojo sodniško funkcijo, lahko svojo moralno vest uveljavlja le v okviru ustave in zakona.23 Seveda pa je znotraj pravnega (ustavnega in zakonskega) okvira še vedno relativno veliko prostora za sodnikovo delovanje po lastni vesti, kar v njegovo pravno odločanje, ki naj bi bilo zaradi zagotavljanja enotne sodne prakse čim bolj racionalizirano in objektivizirano, vnaša relativno »vpliven« subjektivni element.24 Morebitni specifični moralni nazori posameznega sodnika, tudi takšni, ki se razvijejo v (diskriminatorne) predsodke, lahko namreč pri sojenju precej vplivajo na izid obravnavane zadeve, bodisi prek sodnikovih odločitev o pomembnejših procesnih dejanjih bodisi pri njegovem sprejemanju končne odločitve. 21 Nekaj primerov za ponazoritev: nadomestna mati je moralno obsojana s strani ožje skupnosti, ki ji pripada, vendar je sama prepričana, da je s tem storila moralno dobro in nesporno dejanje pomoči paru, ki jima je prepustila rojenega otroka; oseba, ki moralno tolerira homoseksualnost, je moralno obsojana s strani skupnosti, ki te tolerance nima; oseba je s strani skupnosti moralno obsojana za javno izrečeno laž, pri čemer ta oseba meni, da je bila zaradi dobrega namena ali koristnih učinkov laž moralno upravičena. 22 V skladu s 23. členom Zakona o sodniški službi (ZSS), Uradni list RS, št. 94/07 – uradno prečiščeno besedilo, 120/08 – odl. US, 91/09, 33/11, 46/13, 63/13, 69/13 – popr., 95/14 – ZUPPJS15, 17/15, 23/17 – ZSSve, 36/19 – ZDT-1C, 34/23 – odl. US, sodnik nastopi sodniško službo z dnem, ko pred predsednikom Državnega zbora izreče naslednjo prisego: »Prisegam, da bom sodniško funkcijo opravljal-a v skladu z ustavo in zakonom ter sodil-a po svoji vesti in nepristransko.« 23 Na takšen način razmišlja na primer tudi Hribar, str. 154, ko obravnava pomen vesti v okviru ustavno določene prisege predsednika Republike Slovenije ter predsednika Vlade in ministrov (104. in 112. člen Ustave), saj navaja, da mora politični funkcionar veljavni (pravni) zakon brezpogojno upoštevati, čeprav se njegova vest in etika takemu zakonu upirata. V tem primeru se funkcionar lahko in se tudi mora zavzeti za spremembo moralno ali etično nespre- jemljivega zakona (sledenje lastni vesti je celo pravna dolžnost tistega, ki izreče navedeno ustavno prisego, Hribar, str. 152), vendar lahko to zavzemanje uresničuje le po pravno dopustni poti. 24 Primerjaj Merc, str. 10–12. 94 II. Umetna inteligenca Vseh takšnih in drugačnih sodnikovih moralnih nazorov, ki bi utegnili neustrezno vplivati na pravno odločanje, ni mogoče ustrezno nadzirati ali omejiti s pravnimi normami, saj se pravo ne more in tudi ne sme v tolikšni meri usmeriti v urejanje sodnikovih notranjih moralnih občutij in prepričanj.25 Na tej točki vstopi »v igro« sodniška etika. Ob tem je treba že takoj opozoriti, da na sodnika – poleg morale, običajev, prava in drugih dejavnikov – ne vpliva zgolj sodniška etika, ampak tudi vsaka druga etika, ki ji je tako ali drugače privržen. Toda najbolj neposreden vpliv na sodnikovo odločanje imajo prav načela sodniške etike. Na najširši ravni se etika opredeljuje kot filozofija morale ali sistematična refleksija o tem, kaj je moralno.26 V tem pomenu je etika teoretična oziroma filozofska refleksija o nravnosti, o pojavih in procesih, ki so moralno relevantni.27 Glede na dve poglavitni vrsti svojih nalog se etika deli na dve temeljni področji. Teoretična etika (metaetika, deskriptivna etika) utemeljuje obstoj, bistvo in smisel morale, moralnih načel in moralnih sodb, raziskuje vlogo človekove osebnosti, njegove namere, cilje in motive pri nravstvenem presojanju ter teoretično in filozof- sko obravnava vse moralno-etične kategorije in vprašanja oziroma probleme (osebnost, vest, svoboda volje, dobro, zlo, sreča, smisel človekovega bivanja itd.). Praktična normativna etika pa moralno sodi, moralno opredeljuje in pojasnjuje moralna načela ter ne nazadnje določa, kakšen oziroma kateri značaj, pobuda, motiv, namera, cilj in delovanje so moralno pozitivni in kateri negativni.28 Med praktično normativno etiko spadajo tudi etike pravniških poklicev, kolikor so zajete v etičnih kodeksih (na primer sodniška etika, odvetniška etika). Ker v tem prispevku ni mogoče podrobneje obravnavati pojma etike, velja le še omeni- ti, da kažejo na kompleksnost tega pojma že temeljne etične smeri oziroma teorije, ki se razlikujejo glede na opredelitev vrednostne osnove etičnega mišljenja in delovanja. Poleg omenjene dihotomne delitve etike so v ospredju filozofskega in teoretičnega razpravljanja o etiki predvsem naslednje skupine teorij: evdemonizem, hedonizem, utilitarizem, rigorizem, naravnopravne teorije, etični relativizem, teorije o etiki kot vrlini (virtue ethics) in teorije o etiki kot skrbi za druge (care ethics).29 Vse te teorije se bodisi izključujejo bodisi delno prekrivajo oziroma prepletajo, zato je treba tu vsaj omeniti, da seveda to neizogibno vpliva tudi na etične pristope, ki se želijo programirati v umetno inteligenco. Če naj namreč ume- tna inteligenca rešuje oziroma se odziva tudi na etične dileme, to predpostavlja določeno 25 Tu velja omeniti misel, da med pravom in moralo vselej obstaja ustrezna napetost, ki je del pravne in moralne igre, pri čemer je ta napetost produktivna, če utrjuje moralnost prava, in neustvarjalna, če duši moralo tam, kjer jo mora pravo spoštovati in na njej graditi (Pavčnik 2007-I, str. 3). Smiselno enako lahko rečemo tudi za razmerje med etiko in pravom. 26 Primerjaj Poel, Royakkers, str. 70–71. 27 Sruk, str. 138. 28 Prav tam. Glej na primer tudi Poel, Royakkers, str. 71. 29 Glej na primer Kos, str. 253–272; Dell´Ollio, Simon, str. 64–462; Poel, Royakkers, str. 75–107. MIRO CERAR Etičnost prava in umetna inteligenca 95 osnovno izhodiščno etično usmeritev umetne inteligence, ki pa je nato kot takšna do drugih etičnih usmeritev izključevalna, kar je seveda nesprejemljivo z vidika demokratične ureditve, ki pri ljudeh dopušča pluralnost moralnih in etično-nazorskih opredelitev. To in še marsi- kaj drugega, česar seveda ni mogoče obravnavati v okviru tega prispevka, le dodatno kaže na neprimerljivost med umetno in človeško (večrazsežnostno) inteligenco ter na etične in posledično pravne, politične in druge implikacije etičnega programiranja ali celo etičnega samogeneriranja umetne inteligence. Ob teh in drugih zahtevnih vprašanjih, ki se nanašajo na etiko in so pomembna tudi za opre- deljevanje etičnosti prava, se moramo zavedati tudi kompleksnosti pojma prava, ki s svojim eksistenčnim okvirom zajema pravne norme, pravne vrednote ter pred- in postnormativna pravna razmerja, poleg tega pa še različne psihološke, zgodovinske in druge refleksije pravnih prvin. Pojem prava se tako opredeljuje naravnopravno, pozitivnopravno, zgodovinsko, socio- loško, normativistično, pravnorealistično, psihološko in na druge načine, ki se med seboj tudi prepletajo ali prekrivajo.30 Kljub tej kompleksnosti etike in prava je mogoče oba pojava za namen tega prispevka dovolj prepričljivo obravnavati tudi skozi njuni strnjeni poimenovanji (etika, pravo), seveda ob mestoma izpostavljenih dodatnih atributih in pojasnilih. Tu je zdaj treba vsaj strnjeno pojasniti še naravo in pomen že omenjenih poklicnih etik, ki so urejene s posebnimi in v današnjem času praviloma zapisanimi etičnimi kodeksi. Ti ko- deksi (deontološki kodeksi) so racionalizirana (zapisana, abstrahirana, formalizirana) objek- tivizacija prevladujočih moralnih norm na določenem poklicnem ali drugačnem področju, kar pomeni, da kot takšni vedno v določeni meri odstopajo od avtentične morale31 ter se s tem vzpostavljajo kot relativno avtonomne pojavnosti. Ob tem je treba omeniti, da vsebujejo takšni kodeksi poleg tipičnih etičnih norm (načel, pravil, meril, vodil, smernic itd.), s katerimi usmerjajo mišljenje in ravnanje svojih naslovljencev, tudi norme, ki se po svoji naravi oddalju- jejo od etično-moralnih norm ter se približujejo običajnim ali pravnim normam (na primer norme, ki urejajo postopke ugotavljanja etične odgovornosti, organe za ugotavljanje takšne odgovornosti in sankcije za primere ugotovljenih kršitev, ter norme, ki urejajo postopek spre- minjanja oziroma dopolnjevanja etičnega kodeksa). Naslovljenec etičnega kodeksa je na vsebino kodeksa vezan sorazmerno toliko, kolikor po položaju in delovanju pripada družbeni skupini, ki je sprejela etični kodeks. Tako na primer sodnika etično veže sodniški kodeks, ki ga je sprejela sodniška organizacija, ki ji pripada, kar 30 O različnih pravnofilozofskih in teoretičnih pogledih na pravo glej na primer Pavčnik 2022 in Kaufmann; o različnih pravnih kulturah in pravnih družinah pa glej na primer Zweigert, Kötz in Novak 2022, str. 476–508. 31 Etični oziroma deontološki kodeksi skušajo v jezikovne formule zajeti snov, ki se izmika ubeseditvi; moralno vodilo namreč z zapisom izgubi del svoje narave, saj se odpove delu svoje notranje gibkosti (Novak 2001, str. 1084). 96 II. Umetna inteligenca med drugim pomeni, da ima ta kodeks glede sodnikovega poklicnega in širšega družbenega ravnanja višjo zavezujočo moč od njegove osebne morale oziroma moralne vesti. Dokler torej nekdo opravlja funkcijo sodnika, se mora pri svojem sodniškem delu in vseh družbenih de- javnostih, ki imajo za njegovo sodniško delo etično relevanten pomen, ravnati po etičnih nor- mah, ki jih določa zanj zavezujoči sodniški kodeks, čeprav njegova (osebna, notranja) morala nekaterim od teh etičnih norm nasprotuje. Podobno velja, kot je bilo že pojasnjeno, da se mo- ra sodnik (in vsakdo drug) podrediti državnemu pravu, čeprav ga bodisi njegova morala bodisi njegova poklicna etika odvrača od spoštovanja nekaterih pravnih norm. V takšnih primerih je sicer sodnik v neprijetnih notranjih – vrednostnih in funkcionalnih – dilemah in precepih, toda dokler opravlja funkcijo sodnika, mora predvsem dosledno in zgledno spoštovati pravo. Seveda pa lahko s svoje moralne, etične, intelektualne ali drugačne pozicije na ustrezen način izrazi kritiko pravne ureditve, ki se mu zdi sporna (na primer v obliki strokovnega članka, predavanja ali pobude za spremembo zakonske ureditve). Omeniti je treba še možnost, da se pri sodniku pojavi skrajna in neznosna napetost med njegovo vestjo ter zanj nesprejemljivo pravno ureditvijo, pri čemer mu osebno ne zadoščajo omenjene dopustne možnosti, da s svojega moralnega, etičnega ali intelektualnega stališča kritizira veljavno ureditev.32 Pri tem je situacija za sodnika nevzdržna, če na primer kot moral- na oseba v celoti izrazito nasprotuje nedemokratičnemu in nečlovečnemu pravnemu sistemu, kajti v takšni situaciji mu vest veleva, da se odreče sodniški funkciji oziroma poklicu. Manj skrajna je situacija, ko sodnik na podlagi lastne vesti izrazito nasprotuje le nekaterim delom pravne ureditve, ki jo sicer na splošno sprejema. V tem primeru se lahko sodnik iz sojenja, ki bi potekalo na podlagi zanj nesprejemljive pravne ureditve, enostavno izloči in s tem konkretno razreši mučno dilemo. Če pa takšna izločitev ni mogoča oziroma dopustna, lahko sodnik pod pritiskom svoje morale v konkretnem primeru uveljavlja ugovor vesti, seveda ob zavedanju možnih pravnih posledic takšnega ravnanja.33 6. Pomen človeškosti in človečnosti za obstoj in razvoj prava Človeškost in človečnost (humanost) prava sta njegovi temeljni etični predpostavki. Če se ti predpostavki v pravu ne izražata v zadostni meri, pravo izgubi svojo izvorno družbeno in hu- 32 Takšna možnost seveda obstaja le v demokratični in pravni državi oziroma v političnem sistemu, ki vsaj toliko uveljavlja vrednote demokracije in pravne države, da sploh dopušča tovrstno kritiko pravnega sistema s strani sod- nikov. V avtoritarnem ali totalitarnem političnem sistemu se namreč sodnik z javno kritiko, s katero ocenjuje pravni sistem kot moralno nesprejemljiv, de facto že tudi odreče svoji sodniški funkciji; de iure odstranitev s sodniškega položaja je nato kot samoumevna posledica takšnega sodnikovega »izpada« zgolj vprašanje časa. V takšnem primeru sodnik, če upoštevamo dosedanje prakse avtoritarnih in totalitarnih sistemov, s svojo kritiko praviloma resno ogrozi tudi svojo družbeno in individualno eksistenco ter eksistenco svojih bližnjih. 33 O naravi, pogojenosti in posledicah ugovora vesti glej Cerar 1993. MIRO CERAR Etičnost prava in umetna inteligenca 97 mano funkcijo. Če na kratko povzamem že povedano, pomeni človeškost prava, da je človek tisti, ki prek državnih in drugih oblastnih institucij določa vsebino prava ter je hkrati tudi njegov neposredni ali posredni naslovljenec. Človečnost (humanost) prava pa pomeni etično zahtevo (najstvo, zadanost), da mora biti človek v pravu načelno temeljna izhodiščna in ciljna vrednota, pri čemer je treba to načelo razumeti v kompleksnem kontekstu posameznika in družbe ter v skladu z naravo prava. Med človeško in človečno naravo prava je bistvena razlika. Človeškost je pravno dejstvo (da- nost, bit, Sein). Kljub temu, da je človeškost v različnih zgodovinskih in sodobnih vrstah prava upoštevana različno, saj v določenih pravnih ureditvah nekaterim ljudem in skupinam ljudi ni priznana pravna subjektiviteta (na primer sužnjem), pravo kot takšno po svoji naravi vedno temelji na človeškem elementu. Brez človeka kot ustvarjalca in naslovljenca prava le-tega kot takšnega ni več. Pravo je v vsej svoji zgodovini ne glede na stopnjo etičnosti, pravičnosti, pri- mernosti, učinkovitosti itd. vedno črpalo svojo definicijo iz človeškega substrata. Če bi pravo izviralo iz nečloveške sfere, na primer iz povsem avtonomne in splošne umetne inteligence, bi to bistveno spremenilo njegovo naravo. Ali bi takšen sistem norm, ki bi urejala razmerja med ljudmi in drugimi entitetami (seveda tudi nosilci umetne inteligence), še vedno imenovali pravo ali bi za to uporabljali kak drug izraz, je drugotnega pomena. Dejstvo je, da bi to ne bilo več pravo, kot smo ga v najrazličnejših bolj ali manj osvobajajočih ali zatiralskih oblikah poznali vse do danes. Drugače od človeškosti je človečnost v pravu ena izmed njegovih temeljnih zadanosti (najstev, Sollen). Ob drugih temeljnih pravnih zadanostih (vrednotah), kot so npr. zagotavljanje miru, reda, pravičnosti, svobode in varnosti, je človečnost tisto najstvo, ki naj bi ga pravo upoštevalo v nekakšni optimalni meri (kar seveda ni kvantitativno izmerljiva količina). Po eni strani bi lahko tako po analogiji z Radbruchovo formulo34 skrajno nečlovečnemu pravu, na primer takšnemu, ki upravičuje genocid, odrekli celo naravo oziroma lastnost prava, po drugi strani pa od prava ne moremo pričakovati, da bo človečnost njegovo edino ali v vseh pogledih odlo- čilno merilo. Človečnost je namreč predvsem temeljno merilo morale, medtem ko je pravo pri urejanju družbenih razmerij v nekaterih pogledih bodisi moralno indiferentno bodisi mora upoštevati in dajati prednost tudi drugim vrednotam in dobrinam, ki izvirajo na primer iz skupnostnega, družbenega ali državnega interesa. V slednjih primerih je lahko (javni) interes skupnosti, družbe ali države v določeni meri pomembnejši od interesa posameznika, kar lahko pomeni, da je človečnost prava v razmerju do posameznika v takšnih primerih lahko upošte- vana tudi le v manjši meri. Seveda pa se mora kakovost vsake pravne ureditve meriti predvsem 34 O Radbruchovi formuli glej temeljno v Pavčnik 2022, str. 604–607. 98 II. Umetna inteligenca tudi po tem, koliko je ob vseh drugih pomembnih elementih (zagotavljanje družbenega miru, reda, varnosti, predvidljivosti itd.) vanj vtkana tudi človečnost. Z vidika zagotavljanja človečnosti je zagotovo moderna (materialno-formalna) pravna država oziroma vladavina prava doslej najbolj človečna koncepcija in praktična oblika udejanjanja prava, saj temelji predvsem na nediskriminatornem zagotavljanju človekovega dostojanstva ter človekovih pravic in svoboščin, pri čemer je seveda usmerjena tudi v zagotavljanje miru, pravičnosti, solidarnosti, pravne varnosti in podobnih vrednot. K povedanemu je treba dodati, da seveda pravo varuje tudi živali, naravne in umetne pred- mete, materialne in nematerialne proizvode oziroma stvaritve, pravne osebe in druge pravne objekte ali pravne entitete. Pri tem pa je njihovo varstvo vedno vsaj posredno namenjeno tudi zadovoljevanju človeških individualnih in kolektivnih želja, potreb in interesov. Etična perspektiva pogleda na pravo, s katere torej pravo presojamo predvsem po njegovi člo- veškosti (človek je ustvarjalec in naslovljenec etičnih in pravnih norm) ter človečnosti (pravne norme morajo v zadostni meri temeljiti na moralno-etičnih vrednotah), je pomembno merilo za presojo obstoja in kakovosti prava. Pokaže nam, koliko in kako pravo izraža etično-moral- ne norme. Pri tem pa je treba upoštevati, da se pravo razvija predvsem: a) v povezavi s filozofskimi, humanističnimi, družboslovnimi, naravoslovnimi, tehnološkimi in drugimi odkritji, spoznanji, izumi ipd., b) v odvisnosti od razvoja različnih področij družbenega življenja, kot so gospodarstvo, var- nostne strukture, delovna razmerja, okoljevarstvene aktivnosti, zdravstvo, sociala, šolstvo, kultura, šport itd., ter c) kot relativno avtonomno znanstveno in strokovno področje pravnega mišljenja in delo- vanja. Poleg univerzalne etike (spoštovanje življenja, osebne varnosti, intime, svobode itd.) vplivajo na pravo tudi partikularne poklicne etike s področij, navedenih pod točkama a in b, hkrati pa pravo kot avtonomna pojavnost (točka c) proizvaja tudi lastne partikularne poklicne etike ter bolj ali manj poenotene etične standarde za celotno pravno sfero, ki jih običajno zajemamo s pojmom pravne kulture. Etična perspektiva razvoja prava je tako pogojena s posebnostmi vseh teh zunajpravnih in partikularnih pravnih etik, posebej pa tudi s splošnimi etičnimi izhodišči in koncepti, ki so domena individualnih in kolektivnih svetovnih nazorov, ideologij, filozofij ipd., na primer utilitaristična etika, etika dolžnosti, etika vrednot ali etika vrlin. Pomen umetne inteligence za etičnost prava je treba torej ocenjevati glede na pomen vseh do zdaj predstavljenih etično-moralnih dejavnikov za pravo ter (ne)zmožnost umetne inteligen- ce in strojev kot njenih nosilcev, da bi v razmerju do prava vzpostavili takšen etično-moralni odnos, kot ga lahko vzpostavi (le) človek. MIRO CERAR Etičnost prava in umetna inteligenca 99 7. Funkcije (sodobnega) modernega prava S sodobnim modernim pravom razumemo pravo, ki v pretežni meri uveljavlja načelo/-a prav- ne države oziroma vladavine prava.35 Če se vprašamo po temeljnih funkcijah tega prava, vidi- mo, da dandanes zagotavlja predvsem:36 a) učinkovito delovanje države (mir, varnost, nemoteno delovanje državnih podsistemov); b) pravičnost, svobodo (človekove svoboščine in pravice) ter varnost pravnih subjektov; c) svobodo zasebne in še posebej tudi zasebnolastninske sfere pravnih subjektov; d) družbeno kooperacijo (pogodbeno, združevalno itd.); e) socialno varnost posameznikov (institucije socialne države); f ) splošno družbeno integracijo (povezanost v sistem). Če bo pravo tudi v prihodnosti ostalo dovolj odprto za univerzalno etiko ter druge omenjene partikularne etične podlage, se bodo te njegove temeljne funkcije tudi v dogledni prihodnosti v osnovi ohranile. Seveda pa se bodo pod vplivom postmodernih in drugih dejavnikov v pre- cejšnji meri spreminjale pojavne oblike njihovega praktičnega udejanjanja. Glede na dane družbene in druge predpostavke se bo pravo v prihodnjih letih in tudi v ne- kaj prihodnjih desetletjih, vsaj kolikor je to mogoče danes okvirno napovedati, zelo verjetno razvijalo v smereh: • vedno večje kompleksnosti pravnega sistema in pravnih razmerij; • povečevanja števila in obsega potencialnih in aktualnih konfliktnih razmerij (nastajale bo- do mnoge nove oblike pravnih razmerij); • nadaljnje digitalne transformacije (informatizacije, avtomatizacije itd.); • uporabe umetne inteligence pri zakonodajnih, upravnih, sodnih in drugih vrstah pravnega normiranja in odločanja; • oblikovanja novih pravnih institutov in pravnih vrednot (na primer pravice živali, pravice rastlin, kriptovalute, genetika, arktično pravo, vesoljsko pravo, pravice robotov, pravice in dolžnosti umetne inteligence itd.). Vse to bi lahko kljub mnogim koristnim učinkom vodilo v nadaljnjo depersonalizacijo in de- humanizacijo prava. To pa bi pomenilo slabitev etičnosti prava, tj. slabitev njegove človeškosti in človečnosti. Pravni deležniki (akterji) in človeštvo kot celota smo tako postavljeni pred 35 Pojem sodobnosti ima v tem kontekstu časovno razsežnost in označuje vse vrste in oblike prava, ki so prisotne v sodobnem času, pojem modernosti prava pa označuje skupek vsebinskih in formalnih lastnosti posebnega tipa prava, ki se uresničuje skozi koncept pravne države oziroma vladavine prava. O pojmu modernega prava podrobneje Cerar 2001, str. 179–236. 36 Primerjaj Rüthers, str. 48–58. 100 II. Umetna inteligenca velike etične izzive v povezavi s pravom, seveda pa tudi v zvezi z drugimi družbenimi področji in družbo na splošno. Temeljno vprašanje je, ali nam bo v prihodnje uspelo okrepiti etičnost v pravu ali je vsaj ohraniti dovolj ali pa bo pravo postalo instrument takšnih ali drugačnih neetičnih deležnikov. 8. Umetna inteligenca kot potencialna grožnja etičnosti pravne države Etičnost pravne države je lahko izrazito ogrožena na različne načine. Med največjimi družbe- nimi nevarnostmi, ki ogrožajo etičnost prava, v nadaljevanju omenjam tri, pri čemer posebno pozornost namenjam umetni inteligenci. S tem pa seveda nikakor ne izničujem že omenjene- ga dejstva, da je lahko umetna inteligenca v omejeni in nadzirani meri tudi koristen pripomo- ček na področju pravnih aktivnosti. Prva nevarnost etični podstati pravne države je lahko izrazit upad etike na znanstvenih in strokovnih področjih, od katerih je pravo bistveno (so)odvisno. Če na primer etični standardi izrazito upadejo v šolstvu, znanosti, politiki, javni upravi, gospodarstvu, javnih medijih, zdrav- stvu itd., to nevarno ogroža tudi etično razsežnost prava. V takih primerih lahko pravniki v svojih poklicnih vlogah z zavzemanjem za varstvo človekovih pravic ter načel pravne države do neke mere preprečujejo neetične vplive na opredeljevanje in udejanjanje pravnih institutov. Toda če neetični vplivi prevladajo tudi v politiki, tj. v oblastnih organih, ki odločilno vplivajo na družbene podsisteme ter sprejemajo ustavo, zakone in druge ključne formalne pravne vire, etična ozaveščenost pravnikov ne more prevladati. S tem pa se že srečamo z naslednjo temelj- no nevarnostjo, tj. s prevlado totalitarnih pravnih sistemov. Druga velika nevarnost so torej totalitarni politični sistemi. Seveda zanikajo etičnost prava v izraziti meri že avtoritarni politični sistemi. Toda totalitarni politični sistem kot skrajno nehumana oblika avtokratičnega sistema je v tem pogledu še bistveno večja nevarnost etičnim vrednotam in vrednotam pravne države. V totalitarnem sistemu, v katerem se vse popol- noma podreja interesom vodje in njegove politične stranke, se za čim popolnejši nadzor in podrejanje prebivalstva uporabljajo vsa razpoložljiva tehnična sredstva in človeški viri. Ob uporabi sodobne tehnologije to vodi v družbo najvišje stopnje nadzora v človeški zgodovini. V totalitarnem sistemu so povsem zanikane človekove svoboščine in pravice ter načela in in- stitucije pravne države. V takem sistemu je, kot je bilo že pojasnjeno, pravo povsem podrejeno totalitarni politiki, zato ni mogoče pričakovati, da se bodo lahko etično-moralno ozaveščeni sodniki in drugi pravniki takšnemu represivnemu režimu uspešno postavili po robu. Tretja velika nevarnost je možnost prevlade umetne inteligence nad človekom v pravu. To se lahko zgodi, če se umetna inteligenca razvije do te mere, da postane v izrazito pretežni meri sposobna samogeneriranja, kot na primer t. i. splošna umetna inteligenca (artificial general MIRO CERAR Etičnost prava in umetna inteligenca 101 inteligence – AGI).37 To bi pomenilo, da bi človek pretežno ali v celoti izgubil možnost progra- miranja etičnega in drugačnega vpliva na stroje in njihovo umetno inteligenco.38 Na ta način bi umetna inteligenca postala »miselno« in »odločevalsko« avtonomna39 ter bi človeka lahko celo izključila iz prava kot pravodajalca ali drugačnega pravnega odločevalca (zakonodajalca, sodnika itd.) ter temeljnega naslovljenca prava. V takšni za zdaj zgolj hipotetično zamišljeni situaciji bi se človek transformiral v objekt prava, nad katerim bi imeli oblast stroji. Če se lahko danes, ko skušamo ljudje stroje naučiti etičnih odzivov na kritične življenjske situacije,40 še vedno sklicujemo vsaj na človeški izvor teh algoritemsko zastavljenih ocen in vrednotenj, bi v primeru povsem avtonomne oziroma splošne umetne inteligence prevladalo tudi ume- tnointeligenčno vrednotenje takšnih situacij. Če se tako na primer ljudje zdaj vsaj prepiramo o različnih etičnih izhodiščih, ko vrednotimo človeško življenje, zasebnost, zdravje, poklicni uspeh ali karkoli drugega, bi se morali v primeru nadvlade umetne inteligence podrediti nje- nim odločitvam, za katere bi bila lahko katerakoli človeško prepoznana etika tudi povsem nepomembna in brezpredmetna. Danes je sicer umetna inteligenca vsaj na kognitivnem področju, kjer se išče način, kako proizvesti nebiološki ekvivalent človeški inteligenci, še vedno le znanstvena fantastika.41 Toda za oceno možnosti za prevlado umetne inteligence nad človeško inteligenco v pravu in na drugih družbenih področjih ni ključno to, da se umetna inteligenca kot takšna, na primer kot splošna umetna inteligenca, dejansko vzpostavi, ampak je ključno že to, koliko se temu zamišljenemu cilju (»idealu«) dejansko približa. Vsak korak v tej smeri namreč krepi vlogo umetne inteligence ter slabi človeško vlogo pri odločanju in drugačnem delovanju v pravu in družbi na splošno. 37 Glej Modin, Andren, str. 58–59. 38 O učenju strojev, kako naj se etično odzivajo na življenjske situacije, glej na primer Anderson, Anderson Leigh, str. 15–25. 39 Izraza »miselno« in »odločevalsko« dajem v navednice zgolj v opozorilo, da človeške misli in človeški proces odločanja niso identični s tistim, kar prek simbolne (»jezikovne«) strojne artikulacije pripisujemo temu stroju kot »misli« oziroma »odločanje«. Človeška inteligenca je namreč, kot je bilo že povedano, večdimenzionalen pojav, zato na človekove (razumske) misli ter odločitve v pravu in na drugih področjih neizogibno vplivajo tudi čustvene, socialne in druge razsežnosti človeške inteligence. 40 Na primer ko programiramo reagiranje samovozečega vozila na neizogibno trčenje, pri čemer se mora »inteligen- ca« tega vozila odločiti, ali bo ob neizogibnosti trčenja v eno od dveh oseb približno iste starosti raje trčila v moškega ali žensko, v osebo svetle ali temne polti, v starejšega ali mlajšega ipd. V zvezi s tem na primer Dorn (str. 37) opozarja, da stroji oziroma umetna inteligenca ne morejo na podlagi programiranih algoritmov resnično moralno-etično pre- sojati takšnih situacij, kajti takšna presoja je lastna le človeku, ki se tako razumsko kot tudi čustveno, intuitivno in na druge načine spontano odziva na takšne situacije. Pri tem opozarja, da etike oziroma morale ni mogoče vnaprej pred- vidljivo normirati, saj se življenjske situacije nenehno spreminjajo, njihova etično-moralna presoja pa je pogojena s posameznikovo individualno etično-moralno intuicijo (lahko bi tudi rekli z moralno vestjo), ki je poleg vsega odvisna od situacijskega konteksta in tudi od obče kulturnih norm, ki jih posameznik sprejema in spoštuje. 41 Glej na primer Floridi, str. 20–21. 102 II. Umetna inteligenca Ta nevarnost prevlade umetne inteligence nad človeško, ki jo prinaša navedena krepitev odlo- čevalske in izvrševalske vloge umetne inteligence na račun slabitve človeške vloge na področju prava ter na drugih področjih družbenega delovanja, je realna in velika. Izhaja iz več razlogov, pri čemer naj tu omenim le dva, ki naj ju ponazorim v povezavi s primerom sojenja. Pred- stavljajmo si kompleksno pravno zadevo, v kateri bi na primer sodnik na podlagi relativno velikega števila razpoložljivih podatkov, ki bi bili zajeti, na primer na več sto ali celo več tisoč strani pisnega gradiva ter morebiti tudi v zabeleženih zvočnih posnetkih, potreboval za njeno preučitev in sprejem končne odločitve (sodbe) z ustrezno obrazložitvijo več dni ali tednov. Umetna inteligenca bi v tem primeru, po tem, ko bi prejela vse dostopne podatke, sodniku predlagala že obrazloženo končno odločitev v na primer nekaj minutah. Prvi razlog za to, da je sodnik v takem primeru v »podrejeni« vlogi, ne izhaja toliko iz njegove volje, temveč iz dejstva, da ni zmožen na enak(ovreden) način zajeti vseh teh podatkov, še posebej pa tudi ne drugih podatkov, ki so dostopni umetni inteligenci in na katere se ta pri presoji in oblikovanju odločitve opira. Sodniku seveda prav tako ni dostopen oziroma v celoti znan (algoritmični itd.) proces, po katerem umetna inteligenca predela vse dostopne podatke ter jih oblikuje v odločitev in njeno obrazložitev. Takšna nezmožnost sodnika, da bi sploh lahko celovito preveril uporabljene vire in verodostojnost podatkov ter korektnost oziroma pravno pravilnost izdelka umetne inteligence, kaže njegovo nemoč in ga lahko zato v določeni meri celo pasivizira, saj njegovo sodniško delo in poslanstvo na ta način deloma izgubljata svoj smisel. Pri tem se seveda zastavlja tudi vprašanje, kako naj sodnik v skladu z zakonom in sodniško etiko v takšnih okoliščinah sodi po svoji vesti (glej točko 5). Drugi razlog, ki vodi v slabitev sodnikove vloge ter v njegovo pasivizacijo, pa je lahko tudi njegova voljna odločitev, da se z zadevo, ki je tako »prikladno rešena«, ne bo več ukvarjal in bo tako prihranjeni čas raje namenil za kaj drugega – takšna sodnikova odločitev je še pose- bej verjetna v primeru, če se odločitev in obrazložitev, ki mu ju predlaga umetna inteligenca, pretežno ali v celoti ujemata z njegovim dotedanjim poznavanjem in začetno (preliminarno) pravno presojo primera ter ne nazadnje z njegovim pravnim občutkom. V primeru tovrstnega prvostopenjskega sodnikovega »odločanja«, ko sodnik enostavno sprejme predlog odločitve umetne inteligence, lahko pa na primer obrazložitev še na določenih mestih deloma spremeni ali dopolni, je sodniku lahko v psihološko oporo za takšno pretežno pasivno držo najprej dejstvo, da ima nezadovoljna stran v sporu še vedno pravico do pritožbe, ter seveda dejstvo, da nasprotni strani sodna odločitev ustreza. Na pritožbeni ravni pa je sodniku, ki bi bil morebiti prav tako nekritičen do odločbe prve stopnje in se vanjo ne bi resnično poglobil, v psihološko oporo predvsem misel, da se je pri prvostopenjskem odločanju volja sodnika povsem ujela tudi s presojo umetne inteligence. Seveda se s tem zgodba z umetno inteligenco ne konča, temveč se šele dodobra začne. Nadalj- nje vprašanje je namreč, ali je pritožba v primeru intenzivirane ali pretežne uporabe umetne MIRO CERAR Etičnost prava in umetna inteligenca 103 inteligence pri sojenju sploh še smiselna. Če namreč prvostopenjsko odločbo, pri kateri je imela ključno vlogo umetna inteligenca, presoja pritožbeno sodišče z uporabo te iste umetne inteligence, je pritožba praviloma nesmiselna. Če pa je (lahko) umetnih inteligenc več (tako v pravni sferi kot na drugih področjih, na primer v smislu njihovih različnih programskih oziroma algoritmičnih podlag in okvirov, na naprednejši ravni pa glede na različno avto- nomno samogeneracijo posameznih umetnointeligenčnih entitet), potem bo seveda prišlo v prvostopenjskem in pritožbenem postopku ne le do interakcije treh ali več udeležencev v postopku (sodnik, dve stranki, priče, izvedenci itd.), ampak tudi do interakcije različnih umetnih inteligenc, ki jih bo vsak od teh udeležencev uporabil v svoj namen. Tako bodo na primer tudi odvetniki strank in izvedenci za oblikovanje svojih stališč uporabili kot pripomo- ček vsak »svojo umetno inteligenco«, ki jo bodo seveda odvetniki prilagodili interesom strank, umetnointeligenčna mnenja izvedencev različnih specifičnih strok ter umetnointeligenčno pripomočki drugih udeležencev postopkov pa bodo človeške sodnike postavljali pred dodatne dileme in izzive. Vse to v določeni meri niti ni več zgolj hipotetično ali znanstvenofantastič- no razmišljanje, kajti generativni oziroma kreativni računalniški jezikovni modeli (na primer ChatGPT) in različni algoritemski programi oziroma pripomočki, ki jih že opredeljujemo kot vrsto umetne inteligence, so že dandanes »v prosti uporabi« v sodnih in drugih pravnih postopkih, saj so nekateri (na primer generativni jezikovni modeli) praktično dostopni že vsem udeležencem teh postopkov. Na tem mestu seveda ni mogoče podrobneje obravnavati teh in številnih drugih vprašanj, ki jih sprožata razvoj umetne inteligence ter njena uporaba v pravu. Marsikaj v pravu in družbi na splošno se bo ob uporabi umetne inteligence temeljito spremenilo.42 V zvezi s pravkar povedanim je treba reči, da gre pri tem v ozadju za globlje filozofsko in teoretično vprašanje, ki je ključno tudi za soočanje z etično podlago prava. Gre namreč za vprašanje, ali je umetna inteligenca na ravni dosedanjih in prihodnjih razvojnih stopenj ter seveda še posebej kot pov- sem razvita splošna umetna inteligenca lahko le ena ali pa jih je več. V obeh primerih so lahko posledice za človeka in človeštvo radikalne in dramatične. Umetna inteligenca na področju prava lahko vsekakor v več pogledih vodi v pasivizacijo po- klicnih pravnikov, uradnikov in drugih pravnih odločevalcev oziroma pravnih akterjev. To je bilo predstavljeno le na primeru sodnika. Če pa se vprašamo, kako bo pomoč umetne inteli- gence vplivala na pripravljavce zakonov, pravilnikov, upravnih in vseh drugih odločb državnih organov ter na stranke pri sklepanju najrazličnejših pravnih poslov, je jasno, da se bodo tudi ti akterji vedno bolj zanašali na podlage (osnutke, delovne predloge ipd.), ki jih bo pripravila umetna inteligenca. Če bodo ti akterji zaradi vstopa v cono udobja, ki ga prinaša umetna inte- 42 Glede napovedi o temeljnih spremembah, ki naj bi jih umetna inteligenca prinesla na področje prava, glej na primer Romeo, str. 18–27. 104 II. Umetna inteligenca ligenca kot pomočnik pri odločanju, postopno in vedno bolj opuščali svoje aktivnosti v smeri preverjanja in nadzora nad odločitvami, ki jih ponuja umetna inteligenca, bo to postopno ter neopazno privedlo do prevlade umetne nad človeško inteligenco (učinek kuhane žabe). V povzetku je na tem mestu mogoče ugotoviti, da so torej največje družbene grožnje etiki in pravu (1) etični deficiti družbenih področij, od katerih je pravo (so)odvisno, (2) avtoritarni in totalitarni režimi ter (3) vedno bolj osamosvojena umetna inteligenca, ki se je sposobna obrni- ti od človeka ali celo proti njemu ter ga na določeni visoki stopnji lastne razvitosti tudi nadvla- dati. Od vseh treh opisanih groženj etiki in pravu, ki so tudi medsebojno povezane, je ta tretja najhujša. Etični deficiti družbenih področij ter totalitarni politični sistemi lahko v določenem času in prostoru izrazito prizadenejo ali celo izničijo človečnost prava. Toda opisana prevlada umetne inteligence pretirano omeji ali celo izniči hkrati človečnost in človeškost prava, kar je najslabši možni scenarij. Ker se (lahko) vse te nevarnosti tudi medsebojno prepletajo in vodijo v sinergijske učinke, jih je treba tako ločeno kot tudi povezano sproti prepoznavati in ustre- zno odvračati s prizadevanjem za ohranitev in krepitev pravih (človeških oziroma družbenih) etičnih in pravnih vrednot. 9. Sklepno o etičnosti prava in umetni inteligenci Umetna inteligenca na nobeni stopnji svojega razvoja sama po sebi ni in ne more biti avten- tično etična. Avtentična moralnost in etičnost pripadata kot takšni zgolj človeku in njegovi (za)vesti, ki je integralni izraz številnih človekovih racionalnih in iracionalnih lastnosti. Ume- tna inteligenca lahko sproža, jezikovno izraža in izvaja etične odločitve, ki se pri konkretnih vprašanjih ali praktičnih primerih oblikujejo na podlagi njene programske zgradbe ter so na videz bolj ali manj podobne človeškim etičnim odločitvam, vendar v resnici ne izvirajo ne- posredno iz človeške volje in premisleka. Umetna inteligenca zato v pravu ne more povsem nadomestiti človeka, pri čemer bi z lastne etično-moralne pozicije dejal, da ga tudi ne sme, saj bi s tem izničila avtentično etično podstat prava ter posledično tudi pravo kot takšno. Tega si kot človek ne želim in se zato zavzemam za strogo nadzorovano in omejeno uporabo umetne inteligence v pravu (in na drugih družbenih področjih). Zavedam pa se, da lahko znanstve- ni in širši družbeni razvoj pripelje tudi do prevlade tehnologije in umetne inteligence nad človekom, družbo in človeštvom. V tem primeru bi bila človeška družba bistveno drugačna, in sicer ne transhumanizirana, temveč predvsem dehumanizirana. Posledično bi bilo seveda dehumanizirano tudi pravo. Mišljenjski in materialni napredek človeka in človeštva (evolucija) je del procesa človekove samorealizacije, tj. njegovega učenja o svetu in sebi ter končno njegove dokončne notranje (involutivne) in vseobsežne osvoboditve. V proces človeške evolucije spadajo tako vzponi kot MIRO CERAR Etičnost prava in umetna inteligenca 105 padci, pri čemer so skozi različne perspektive vzponi lahko v resnici padci in obratno. Tisto, kar se nam zdi v nekem trenutku uspeh (na primer povečanje cone udobja), lahko z druge perspektive prepoznamo kot zablodo (prevelika cona udobja slabi željo po učenju in delovanju ter škodi našemu psihofizičnemu zdravju). Razvoj tehnologije ter procesov avtomatizacije, digitalizacije in porajanja umetne inteligence nas kot ljudi in družbo vsekakor v marsičem bogati, hkrati pa sooča s številnimi pastmi in nevarnostmi. Predvsem pa nas opominja na možnost, da naj na podoben način, kot razvijamo umetno inteligenco, začnemo mnogo in- tenzivneje razvijati tudi lastno, človeško inteligenco, saj imamo kot najkompleksnejše bitje v vesolju v tem pogledu izjemne potenciale. Intenzivirani razvoj človeške večrazsežnostne inteligence pomeni tako pozitiven razvoj naših intelektualnih sposobnosti kot tudi razvoj naših čustvenih, socialnih ter drugih lastnosti in vrlin, kar vodi tudi v zmanjšanje pohlepa in egocentričnosti ter v višjo stopnjo miroljubnosti, empatije, solidarnosti in strpnosti. Vse to je tudi pogoj za višje razvito pravno, politično in občedružbeno kulturo in torej za (še) bolj civilizirano družbo. Ker je (človeška) etika temeljna in nujna predpostavka človekovega smiselnega (samo)razvo- ja in procesa samorealizacije, je hkrati že po naravi stvari tudi precejšnje breme za vsakega posameznika. Etika nas namreč nenehno postavlja pred vrednostna vprašanja in dileme ter zahteva od nas odgovorno odločanje. Toda to odločanje je še vedno naše, človeško. Tudi če sprejmemo ljudje v določenem trenutku napačno individualno ali kolektivno odločitev, je to še vedno naša odločitev, ki nam kot takšna daje možnost, da se izboljšamo. Ali kot pravi znani rek: Na napakah se učimo. Le tako lahko ljudje resnično napredujemo in osmišljamo svoja življenja. Če bi namesto nas in za nas odločitve sprejemala pretežno ali celo izključno umetna inteligenca, bi to pomenilo popolno degradacijo človeka ter konec človekovega sprejemanja odgovornosti za lastne odločitve, kar bi posledično pomenilo konec človeške družbe kot takš- ne in v tem okviru tudi prava, politike, kulture, znanosti in drugih avtonomnih človeških pojavnosti, kot jih poznamo vse do danes. Pogosto slišano stališče je, da tehnologija sama po sebi ni ne slaba ne dobra – vse naj bi bilo odvisno od tega, za kakšne cilje in kako jo človek uporablja. Načelno in abstraktno seveda ta misel drži. Toda njena konkretizacija je neizogibno problematična, saj jo ljudje inkorporiramo v svoje nepopolne in pogosto zmotne subjektivne predstave o dobrem in slabem. Poleg tega se velika večina ljudi in še posebej tudi politične in druge vodilne elite niso sposobne brzdati v svojih pretirano posesivnih željah, strasteh in interesih, zato je tehnologija vedno znova uporabljena in zlorabljena tudi za pretirano egoistične in družbeno destruktivne namene. Če k temu dodamo še dejstvo, da človeštvo vse svoje proizvode, tudi tiste najbolj boleče in uniču- joče, prej ali slej vedno tudi dejansko uporabi, lahko ugotovimo, da pomeni premalo kritično pristajanje na umetno inteligenco in drugačno »napredno« tehnologijo veliko nevarnost za človeka in človeštvo. 106 II. Umetna inteligenca Za konec je smiselno poudariti, da si moramo tudi pravniki etično in pravno prizadevati, da pri soočenju med Homus dignitatis in Homus digitalis zagotovimo prednost prvemu.43 Prav tako moramo krepiti zavest o pomenu človeškosti in človečnosti prava. Le tako lahko pravu omogočimo ustrezno etično razvojno perspektivo, ki se kaže predvsem v razvijanju pravne države in na njej temelječi pravni kulturi. Doslej relativno najvišjo etično raven prava smo namreč civilizacijsko dosegli prav z vzpostavitvijo pravne države (vladavine prava), ki je ne- ločljivo povezana v varstvom človekovih pravic in demokracijo. Seveda pa je človeštvo kljub temu zgodovinskemu napredku še vedno na nizki stopnji civilizacijskega razvoja. To dokazu- jejo ne le vojne in drugi konflikti, mučenja, različne oblike diskriminacije in zatiranja ranljivih skupin, daleč pretirana premoženjska neenakost ljudi, lakota, revščina ipd., ampak že sam ob- stoj prava kot takšnega (pomislimo le, kakšno civilizacijsko sporočilo razberemo iz kazenskih zakonikov). Več etike in manj prava ostaja zato sicer prava civilizacijska usmeritev, pri čemer pa je na sedanji stopnji človeškega razvoja dovolj humano pravo (pravna država oziroma vla- davina prava) še vedno najpomembnejši splošni družbeni garant človeškosti in človečnosti. Literatura ANDERSON, Michael, ANDERSON LEIGH, Susan. Machine Ethics: Creating an Ethical Intelligent Agent. AI Magazine, 2007, letn. 4, št. 28, str. 15–25. Cambridge dictionary, (8. 12. 2024). CERAR, Miro. (I)racionalnost modernega prava. Ljubljana: Bonex založba, 2001. CERAR, Miro. (Ne)ideološkost pravne države ((Non-)Ideology of the rule of law). V: Pavčnik, M. (ur.), Pravna država. Ljubljana: GV Založba, 2009, str. 57–99. CERAR, Miro. Oris razvoja in značilnosti pravne države. Pravna praksa, 2023, letn. 42, št. 22/23, str. 6–9. CERAR, Miro. Nekateri pravni in moralni vidiki ugovora vesti. Zbornik znanstvenih razprav, 1993, letn. 53, str. 31–48. DALAJLAMA. Etika za novo tisočletje. Tržič: Založba Učila, 2000. DAVID, Rene, GRASMANN, Günther, (ur.). Uvod v velike sodobne pravne sisteme. Ljubljana: Cankarjeva založba, 1998, 1999. DELL´OLLIO, J. Andrew; SIMON J. Caroline (ur.). Introduction to Ethics. Lanham, Boulder, New York: Rowman & Littlefield Publishers, Inc., 2010. DORN, Manfred. Leichter Leben, Künstliche Intelligenz aus Sicht des Nutzers. V: Hoeren, T. Pinelli, S. (ur.), Künstliche Intelligenz – Ethik und Recht. München: C. H. Beck, 2022, str. 17–43. EVANS, Woody. Posthuman rights: Dimensions of Transhuman Worlds. Revista Teknokultura, 2015, letn. 2, št. 12, str. 373–384. 43 Primerjaj Kirschlaeger, str. 415–418. MIRO CERAR Etičnost prava in umetna inteligenca 107 FLORIDI, Luciano. The ethics of Artificial Inteligence, Principles, Challenges, and Opportunities. Ox- ford: Oxford University Press, 2023. GARDNER, Howard. Razsežnosti uma, Teorija o več inteligencah (The Frames of Mind). Ljubljana: Založba Tangram, 1995. HOLMES, Wendel O. The Common Law. Boston, Toronto: Little, Brown and Company, 1963. HRIBAR, Tine. (2012). Etični pomen ustavne prisege. V: Kečanović, B. (ur.), Javna etika in integ- riteta, Odgovornost za skupne vrednote. Ljubljana: Komisija za preprečevanje korupcije, 2012, str. 151–154. HUTCHINGS, Kimberly. Global Ethics (An Introduction). Cambridge: Polity Press, 2010. JELLINEK, George. Die socialethische Bedeutung von Recht, Unrecht und Strafe. Wien, 1878. KANT, Immanuel. Kritik der praktischen Vernunft. ULFIG, A. (ur.). Köln: Parkland Verlag, 1999. KAUFMANN, Arthur. Uvod v filozofijo prava. Ljubljana: Cankarjeva založba (Pravna obzorja), 1994. KIRSCHLAEGER, Peter G. Digital Transformation and Ethics, Ethical Consideratons on the Ro- botization and Automation of Society and the Economy and the Use of Artificial Intelligence. Baden-Baden: Nomos, 2021. KOS, Janko. Oris filozofije (Outline of philosophy). Ljubljana: Cankarjeva založba, 1970. KRITIKOS, Mihalis. Artificial Intelligence ante portas: Legal & ethical reflections. European Par- liamentary Research Service (EPRS), Scientific Foresight Unit (STOA), European Parliament, 2019. KÜNG, Hans. Priročnik svetovni etos, Vizija in njena uresničitev, v sodelovanju s Stephanom Schlensogom in Güntherjem Gebhardtom. Ljubljana: Partner graf, 2012. LESLIE, David, SHAW, Patricia. Ethics: Context Really Matters for Responsible Innovation. V: Hervey, M., Lavy KC, M. (ur.), The Law of Artificial Intelligence. London: Thomson Reuters (Sweet & Maxwell), 2024, str. 31–60. MERC, Božidar. Sodno odločanje kot človeški proces. Pravnik, 2005, št. 1-3, str. 5–32. MODIN, Anton, ANDREN, Jacob (ur.). The Essential AI Handbook for Leaders. London: Peltarion Company, 2021. NOVAK, Aleš. Pravo in vrednote: Deontološki kodeksi pravniških poklicev – med moralo in pra- vom. Podjetje in delo, 2001, št. 6, str. 1081–1089. NOVAK, Aleš. Velike pravne kulture. V: Pavčnik, M., Teorija prava, Prispevek k razumevanju pra- va, 6., dopolnjena izdaja (s poglavjem Aleša Novaka). Ljubljana: Lexpera, GV Založba, 2022. PAVČNIK, Marijan. Etika in pravo. Pravna praksa, 2007-I, št. 3, str. 3. PAVČNIK, Marijan. Teorija prava, Prispevek k razumevanju prava, 6., dopolnjena izdaja (s po- glavjem Aleša Novaka). Ljubljana: Lexpera, GV Založba, 2022. POEL, Ibo, van de, ROYAKKERS, Lamber. Ethics, Technology and Engineering. An Introduction. Hoboken: Wiley-Blackwell, 2011. ROMEO, Francesco. Algorithmical Justice, What is Changing in Law. V: Martuccelli, S., Romeo, F., GIacalone, M. (ur.). The European Common Ground of Available Rights. Napoli: Edi- toriale Scientifica, 2020. 108 II. Umetna inteligenca RÜTHERS, Bernd. Rechtstheorie, Begriff, geltung und Anewndung des Rechts. Munich: Verlag C. H. Beck, 1999. SRUK, Vladimir. Leksikon morale in etike. Maribor: Ekonomsko-poslovna fakulteta, 1999. STRES, Anton. Etika ali filozofija morale (Ethics or moral philosophy). Ljubljana: Družina, d. o. o., 1999. STROJIN, Gregor. Pristopi mednarodne skupnosti k regulaciji umetne inteligence. V: Završnik, A., Simončič, K. (ur.), Pravo in umetna inteligenca: vprašanja etike človekovih pravic in družbene škode. Ljubljana: Inštitut za kriminologijo pri Pravni fakulteti v Ljubljani, 2021, str. 13–25. ZWEIGERT, Konrad, KÖTZ, Hein. Introduction to Comparative Law. Oxford: Clarendon Pres, 1998. ŽALEC, Bojan. Doseganje dobrega (Reaching the Good). Ljubljana: Študentska založba, 2005.