109
VASILKA SANCIN
doktorica pravnih znanosti,
redna profesorica na Pravni fakulteti
Univerze v Ljubljani
LOVRO BOBNAR
mladi raziskovalec na Inštitutu
za primerjalno pravo pri Pravni fakulteti
v Ljubljani, doktorski študent na Pravni
fakulteti Univerze v Ljubljani
Pravica do svobode izražanja
v času umetnointeligenčnih
sistemov*
Izvirni znanstveni članek
UDK 342.7:004.8
Povzetek
Prispevek obravnava vpliv razvoja in uporabe umetne inteligence na temeljno pravico do
svobode izražanja. Tehnologije, ki uporabljajo umetnointeligenčne sisteme, niso inertne ali
nevtralne in pogosto izražajo vrednote in predsodke ustvarjalcev in uporabnikov, kar lahko
vpliva na družbo in demokratične procese. Njihova uporaba prinaša tako koristi kot tvega-
nja za svobodo izražanja. Algoritmi odločajo, katere vsebine so dostopne uporabnikom, kar
lahko povzroči pristranskost, omejevanje pluralizma in oblikovanje t. i. »odmevnih komor«.
Poleg tega samodejno odstranjevanje vsebin z uporabo umetne inteligence pogosto vodi do
čezmernih omejitev, saj algoritmi ne morejo ustrezno prepoznati konteksta in čustev. Drža-
ve imajo dolžnost zagotoviti, da umetnointeligenčni sistemi ne ogrožajo svobode izražanja,
vključno s pravico do informacij. Prispevek ponuja kritično analizo obstoječega mednaro-
dnega regulativnega okvira in možnosti prihodnjega pravnega razvoja, vključno s sprejetjem
globalne mednarodne pogodbe, ki bi celovito uredila umetno inteligenco in njene vplive na
* Prispevek temelji na raziskavah v okviru raziskovalnega projekta J5-3107 »Razvoj in uporaba umetne inteli-
gence v luči negativnih in pozitivnih obveznosti države zagotavljati pravico do življenja« in raziskovalnega pro-
grama P5-0337 »Pravni izzivi informacijske družbe«, ki ju financira Javna agencija za znanstvenoraziskovalno in
inovacijsko dejavnost RS. Prispevek deloma temelji tudi na vsebini magistrskega diplomskega dela z naslovom
Mednarodnopravni vidiki vpliva umetne inteligence na svobodo (političnega) izražanja (avtor: Lovro Bobnar,
mentorica: prof. dr. Vasilka Sancin).
110
II.
Umetna inteligenca
človekove pravice. Tak pristop bi lahko pomembno prispeval k odpravljanju fragmentacije
in vzpostavitvi enakopravnih pogojev za tehnološki razvoj, utemeljen na varstvu človekovih
pravic, pri čemer bi bilo zaradi hitrega razvoja pomembno predvideti možnosti za prilagajanje
različnim prihodnjim situacijam.
Ključne besede: pravica do svobode izražanja, umetna inteligenca, nove tehnologije, pravica
do informacij, mednarodno pravo človekovih pravic, mednarodna regulacija
The right to freedom of expression in the era of artificial intelligence systems
Abstract
This article examines the impact of the development and use of artificial intelligence on the
fundamental right to freedom of expression. Technologies using AI systems are not inert
or neutral and often reflect the values and prejudices of their creators and users, which can
have an impact on society and democratic processes. Their use brings both benefits and risks
for freedom of expression, as algorithms decide which content is accessible to users, which
can lead to bias, limit pluralism and create so-called „echo chambers“. In addition, the au-
tomatic removal of content using artificial intelligence often leads to excessive restrictions,
as algorithms cannot adequately identify context and emotion. States have a duty to ensure
that AI systems do not undermine the right to freedom of expression, including the right to
information. This paper offers a critical analysis of the existing international regulatory fra-
mework and the possibilities for future legal developments, including the adoption of a global
international treaty that would comprehensively regulate AI and its human rights impacts.
Such an approach could make an important contribution to overcoming fragmentation and
creating a level playing field for technological development based on the protection of human
rights, while, in view of the rapid pace of development, it would be important to foresee the
possibility of adapting to different future situations.
Keywords: the right to freedom of expression, artificial intelligence, new technologies, right
to information, international human rights law, international regulation
1. Uvod
Sodobna informacijska družba, vse bolj odvisna od novih tehnologij, delujočih z uporabo
umetnointeligenčnih sistemov, se srečuje s številnimi izzivi pri uresničevanju temeljnih
človekovih pravic. Skupna značilnost novih tehnologij je, da omogočajo in pospešujejo
sinhronizacijo spletnega in fizičnega prostora, pri čemer pa tehnologije niso inertne ali
nevtralne in pogosto utelešajo vrednote ter predsodke organizacij ali posameznikov, ki
jih ustvarjajo in uporabljajo. Tako lahko tehnologije izvajajo subtilen, a močan regulativni
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 111
učinek na človeško družbo. Dolgoročnega vpliva zlorabe takšnih tehnologij na demokra-
tične procese in pravno državo, zlasti če se zlorabljajo za namene družbenega nadzora, ne
gre podcenjevati. Cilj ne sme (in ne more biti) zaustavitev širjenja novih tehnologij, temveč
zagotoviti podlago za spodbujanje koristi novih tehnologij ob hkratnem zmanjševanju tve-
ganj, ki jih prinašajo.
Kot vodilna opredelitev UI – čeprav se o njej pogajajo mednarodni, regionalni in nacionalni
organi1 – se kaže definicija Organizacije za gospodarsko sodelovanje in razvoj (OECD), ki
UI opredeljuje kot »strojni sistem, ki za eksplicitne ali implicitne cilje na podlagi vhodnih
podatkov, ki jih prejme, sklepa, kako ustvariti rezultate, kot so napovedi, vsebine, pripo-
ročila ali odločitve, ki lahko vplivajo na fizična ali virtualna okolja. Različni sistemi UI se
razlikujejo po stopnji avtonomije in prilagodljivosti po namestitvi.«2 Tej definiciji sledi tudi
Konvencija Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni
državi, prva mednarodnopravno zavezujoča pogodba, ki ureja UI,3 pa tudi Evropska unija
(EU) v Uredbi (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o
določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008,
(EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144
ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci),4
ki sistem UI definira kot »programsko opremo, ki je razvita z eno ali več tehnikami in pri-
stopi iz Priloge I ter lahko za določen sklop ciljev, ki jih opredeli človek, ustvarja izhodne
podatke, kot so vsebine, napovedi, priporočila ali odločitve, ki vplivajo na okolje, s katerim
so v stiku«. Brazilski5 predlog zakona o UI sprejema definicijo OECD, kar kaže na namero
države, da svojo zakonodajo uskladi z vse večjim mednarodnim soglasjem o skupni opredeli-
tvi UI.6 Izvršni ukaz predsednika ZDA o varnem, zanesljivem in zaupanja vrednem razvoju
in uporabi UI in nedavni koloradski zakon o UI prav tako sprejemata definicijo OECD.7 To
1 Future of privacy forum, The world’s first binding treaty on artificial intelligence, human rights, democracy, and
the rule of law (2024), (30. 7. 2024).
2 OECD, Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449 (2023), str. 7.
3 Council of Europe, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the
Rule of Law (2024), 2. člen.
4 UL L, 2024/1689, 12. 7. 2024.
5 Brazilija je ena prvih držav, ki so začele sprejemati zakonodajo o UI.
6 Belli, Curzi de Mendonça, Gaspar, str. 1–2.
7 Future of privacy forum, The world’s first binding treaty on artificial intelligence, human rights, democracy, and
the rule of law (2024), (30. 7. 2024).
112
II.
Umetna inteligenca
kaže, da države prepoznavajo definicijo OECD kot vodilno in bo verjetno tudi v prihodnje
uporabljena v relevantnih mednarodnopravnih dokumentih za opredeljevanje UI.8
Pravica do svobode izražanja kot temeljna človekova pravica je pomembna tako na indivi-
dualni kot kolektivni ravni in zavarovana v temeljnih mednarodnih pogodbah o človekovih
pravicah.9 Razvoj in vse obsežnejša uporaba umetne inteligence (UI) prinašata številne koristi,
saj lahko UI med drugim izboljša strateško predvidevanje in napovedovanje, demokratizira
dostop do znanja, pospeši znanstveni napredek ter poveča zmogljivost obdelave velikih koli-
čin informacij in podatkov,10 treba pa je obravnavati tudi možne negativne vplive, vključno s
tistimi, ki posegajo v pravico do svobode izražanja.
Z vplivi UI na uresničevanje človekovih pravic se ukvarjajo tako države kot mednarodne
organizacije. Svet OECD je že leta 2019 sprejel priporočila, ki poudarjajo potrebo po zau-
panja vrednem in odgovornem razvoju in rabi UI. Ravno tako pa OECD spodbuja idejo, da
bi države uskladile svoje domače politike, ko gre za regulacijo UI.11 Organizacija Združenih
narodov za izobraževanje, znanost in kulturo (UNESCO) je leta 2021 sprejela Priporočilo o
etiki umetne inteligence,12 ki poudarja relevantne vrednote, načela in način njihovega uresni-
čevanja v praksi, ko gre za UI.13
Generalni sekretar Organizacije združenih narodov (OZN) je oktobra 2023 sprejel načrt gle-
de digitalnega sodelovanja14 in ustanovil Svetovalno telo za umetno inteligenco, da bi opravilo
analizo in pripravilo priporočila za mednarodno upravljanje UI.15 Svetovalno telo za umetno
8 Temu bodo verjetno sledile tudi države, ki bodo vsaka v svojem nacionalnem pravnem redu prav tako morale
definirati UI.
9 Mednarodni pakt o državljanskih in političnih pravicah (MPDPP), Uradni list RS, št. 35/92 – Mednarodne
pogodbe, št. 9/92, 19. člen; Evropska konvencija o varstvu človekovih pravic in temeljnih svoboščin (EKČP), Zakon
o ratifikaciji Konvencije o varstvu človekovih pravic in temeljnih svoboščin, spremenjene s protokoli št. 3, 5 in 8 ter
dopolnjene s protokolom št. 2, ter njenih protokolov št. 1, 4, 6, 7, 9, 10 in 11 (MKVCP), Uradni list RS – Mednaro-
dne pogodbe, št. 33/94, 10. člen; Evropska unija, Listina Evropske unije o temeljnih pravicah, UL C 83, 30. 3. 2010,
11. člen; Organizacija ameriških držav, Ameriška konvencija o človekovih pravicah (»Pact of San Jose«) (1969),
13. člen; Afriška unija, Afriška listina človekovih pravic in pravic ljudstev (»Banjul Charter«), CAB/LEG/67/3 rev. 5,
21 I.L.M. 58 (1982) (1981), 9. člen; glej tudi HRC, General Comment No. 34, Article 19, Freedoms of opinion and
expression. UN Doc. CCPR/C/GC/34 (2011), drugi odstavek.
10 Sancin 2023, str. 1006 in 1009.
11 OECD, Recommendation of the Council on Artificial Intelligence (2019).
12 UNESCO, Recommendation on the Ethics of Artificial Intelligence (2021).
13 Prav tam, str. 13; UNESCO, Nacionalne komisije Nemčije, Nizozemske in Slovenije, Priporočilo o etiki umetne
inteligence (2024), str. 5.
14 UNGA, Road map for digital cooperation: implementation of the recommendations of the High-level Panel on
Digital Cooperation – Report of the Secretary-General, U.N. Doc. A/74/821 (2020).
15 United Nations, Office of the Secretary-General‘s Envoy on Technology, High-Level Advisory Body on Artifi-
cial Intelligence, (20. 9. 2024).
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 113
inteligenco je septembra 2024 izdalo končno poročilo Upravljanje umetne inteligence za člo-
veštvo.16 Generalni sekretar je ob predstavitvi poročila poudaril, da UI prinaša tako takojšnja
kot dolgoročna tveganja za človekove pravice, zato mora upravljanje UI temeljiti na medna-
rodnih normah in načelih, kar vključuje tudi spoštovanje človekovih pravic. Prav zato pripo-
ročila, ki so del poročila, predvidevajo vzpostavitev globalnega dialoga o upravljanju UI pri
OZN ter razvoj okvira, ki bo zagotovil pravično porazdelitev koristi UI in zmanjšal tveganja
za marginalizirane skupine.17
Generalna skupščina Združenih narodov (GS OZN) je marca 2024 sprejela resolucijo o za-
nesljivih sistemih UI,18 septembra 2024 pa še Pakt za prihodnost,19 ki vključuje več določb, ki
obravnavajo vprašanja, povezana z vedno pogostejšo rabo UI. Za ta prispevek je pomemben
predvsem ukrep številka 27, ki obravnava tveganja in priložnosti, ki jih prinašajo hitre tehno-
loške spremembe, vključno z razvojem tehnologij, ki temeljijo na UI, poudarjena pa je tudi
vloga znanosti, tehnologij in inovacij pri uresničevanju človekovih pravic. Ukrep številka 30
tako prepoznava priložnosti in tveganja, ki jih prinašajo nove tehnologije, ter poziva k odgo-
vornemu in etičnemu raziskovanju, ki varuje in spodbuja človekove pravice. Poleg tega ukrep
vključuje zahtevo, da se človekove pravice sistematično vključujejo v regulativne in normativ-
ne procese, pri čemer je pomembna tudi vloga zasebnega sektorja, ki mora spoštovati etična
načela pri razvoju novih tehnologij.20
Tudi Svet Združenih narodov za človekove pravice (SČP), ki je pomožni organ GS OZN,
se aktivno ukvarja z vprašanji, povezanimi z vplivi UI na človekove pravice. Predsednik SČP,
Omar Zniber, je septembra leta 2024 sklical neformalno razpravo o novih tehnologijah, UI
in digitalnem razkoraku.21 V uvodnem nagovoru je poudaril, da je vprašanje, kako izkoristiti
potencial UI in drugih novih tehnologij ter hkrati zaščititi človekove pravice, »eden najbolj
perečih izzivov našega časa«.22 Zato je nujno oblikovati jasnejše smernice za uporabo standar-
dov varstva človekovih pravic v digitalni dobi, razvoj UI pa mora temeljiti na spoštovanju in
16 UN AI Advisory body, Governing AI for Humanity – Final Report (2024), (29. 11. 2024).
17 United Nations – Meetings Coverage and Press Releases, Artificial Intelligence Advisory Board’s Report ‘a Cru-
cial Milestone in Efforts to Ensure AI Serves all of Humanity’, Says Secretary-General, in Video Message, (29. 11. 2024).
18 UNGA, Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable
development, A/78/L.49 (2024).
19 UNGA, Resolution adopted by the General Assembly on 22 September 2024, The Pact for the Future, A/
RES/79/1 (2024).
20 Prav tam, str. 20–22.
21 UN Human Rights Council, High-Level Informal Presidential Discussion on New Technologies, Data, Artifi-
cial Intelligence, and the Digital Divide from a Human Rights Perspective: Summary Report (2024).
22 Prav tam, str. 2.
114
II.
Umetna inteligenca
zagotavljanju človekovih pravic, da bi preprečili spodkopavanje človekovih pravic ter pogla-
bljanje globalnih neenakosti.23 Med razpravo so govorniki poudarili, da UI pomembno vpliva
tudi na pravico do svobode izražanja, predvsem zaradi algoritmične pristranskosti in širjenja
dezinformacij, ki lahko marginalizirata določene skupine ljudi in jezikovne skupnosti.24 Po-
udarjena je bila tudi nevarnost uporabe generativne UI za ustvarjanje globokih ponaredkov25
in manipulacijo informacij, kar spodkopava zaupanje v demokratične procese in (državne)
institucije.26 Med razpravo je bila poudarjena potreba po regulaciji UI, ki pa ne sme posegati
v človekove pravice, kot je pravica do svobode izražanja.27
Pomembno je omeniti tudi posebne postopke (t. i. special procedures) SČP, med katere uvršča-
mo tudi posebne poročevalce.28 Za pravico do svobode izražanja je ključno delovanje poseb-
nega poročevalca za svobodo mnenja in izražanja, ki v svojih poročilih, ki bodo podrobneje
predstavljena v nadaljevanju, vedno pogosteje omenja tudi vprašanja glede pravice do svobode
izražanja v povezavi z UI.29 Pomembno je tudi delo delovne skupine za podjetništvo in člove-
kove pravice, ki se osredotoča na zagotavljanje, da transnacionalne korporacije in druga podje-
tja spoštujejo mednarodne standarde varstva človekovih pravic.30 To je še posebej pomembno
za pravico do svobode izražanja, saj lahko UI, ki jo uporabljajo številna podjetja, (negativno)
vpliva na posameznikovo svobodo izražanja. Omeniti velja tudi delo posebne poročevalke za
pravico do izobraževanja, ki je v svojem najnovejšem poročilu o UI in pravici do izobraževa-
nja poudarila, da so predvsem države pa tudi mednarodne organizacije, akterji civilne družbe,
podjetja, vključno s tehnološkimi, ter posamezniki odgovorni za zagotavljanje na človekovih
pravicah temelječega pristopa k uporabi UI v izobraževanju, in ob tem izpostavila nujnost
spoštovanja mednarodnopravnih standardov varstva človekovih pravic in temeljnih svobo-
ščin.31
Svetovalni odbor SČP, ki deluje kot pomožni organ SČP, je v svoji študiji Vplivi, priložnosti
in izzivi novih in nastajajočih digitalnih tehnologij v zvezi s spodbujanjem in varstvom člove-
23 Prav tam, str. 1.
24 Prav tam, str. 17.
25 Angleško deepfake.
26 Prav tam, str. 19.
27 Prav tam, str. 16.
28 UNGA, Promotion and protection of the right to freedom of opinion and expression, A/73/348 (2018).
29 UNGA, Disinformation and freedom of opinion and expression, Report of the Special Rapporteur on the pro-
motion and protection of the right to freedom of opinion and expression, A/HRC/47/25 (2021); UN, Report on the
Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression, A/74/486.
30 UN Human Rights Council, Human rights and transnational corporations and other business enterprises,
A/HRC/RES/17/4 (2011).
31 UNGA, Right to education, Report of the Special Rapporteur on the right to education, A/79/520 (2024).
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 115
kovih pravic32 iz leta 2021 poudaril, da morajo biti nove tehnologije, pri katerih podatki, ki jih
zbirajo, pomembno vplivajo na življenje posameznikov, zasnovane z dobrim razumevanjem
mednarodnega okvira človekovih pravic,33 pri čemer lahko nove tehnologije močno prispevajo
k uveljavljanju pravic in svoboščin posameznikov z večanjem komunikacijskih zmožnosti in s
krepitvijo njihovih zmožnosti v resničnem svetu. Vendar je treba obravnavati tudi morebitne
vrzeli, kot so podatkovna obdelava, ki vodi v izgubo zasebnosti, radikalizacijo, segregacijo,
diskriminacijo in kibernetsko nasilje.34
Na regionalni ravni je v povezavi z regulacijo UI aktiven Svet Evrope (SE),35 ki je sprejel
Konvencijo Sveta Evrope o umetni inteligenci, človekovih pravicah, demokraciji in pravni
državi. Ta konvencija ni pomembna samo zaradi tega, ker je postavila osnovni okvir, name-
njen varovanju človekovih pravic pri uporabi UI, ampak tudi zato, ker pri njenem nastanku
ni sodelovalo zgolj 46 članic SE, ampak tudi EU, 11 držav, ki sicer niso članice SE,36 prav
tako predstavniki zasebnega sektorja, civilne družbe in akademskega sveta.37 To je ključno,
saj vključitev čim več deležnikov, tudi proizvajalcev in uporabnikov tehnologij UI, zagotavlja
pravila, ki bodo učinkovito varovala človekove pravice, demokracijo in pravno državo, hkrati
pa ne bodo zavirala razvoja novih tehnologij. Regulacije UI se je dejavno lotila tudi EU38 in
sprejela Akt o UI, prvi zavezujoč pravni okvir na področju UI, ki obravnava tveganja, ki jih
prinaša UI. Njegov namen je razvijalcem in uporabnikom UI zagotoviti jasne zahteve in ob-
veznosti v zvezi s specifično uporabo UI in drugih novih tehnologij.
Namen tega prispevka je osvetliti nekatere izzive, ki jih razvoj in uporaba umetnointeligenč-
nih sistemov prinašata za uresničevanje pravice do svobode izražanja. Zato je najprej kratko
predstavljena sama pravica in njene dopustne omejitve, nato pa so analizirani različni vidiki
možnih izzivov, ki jih prinašajo umetnointeligenčni sistemi, in odzivov nanje. Na koncu so
dodana kritična razmišljanja glede možnega pravnega razvoja na tem področju.
32 UN Human Rights Council, Possible impacts, opportunities and challenges of new and emerging digital techno-
logies with regard to the promotion and protection of human rights, U.N. Doc. A/HRC/47/52 (2021).
33 Prav tam, 13. odstavek.
34 Prav tam.
35 Sancin 2024, str. 1.
36 Na primer ZDA, Avstralija in Kanada.
37 Council of Europe, Council of Europe adopts first international treaty on artificial intelligence (2024), (30. 7.
2024); glej tudi Tekavčič Veber.
38 Za več glej Sancin 2021, drugi odstavek.
116
II.
Umetna inteligenca
2. Osnovno o mednarodnopravni ureditvi pravice do svobode izražanja
in dopustnih omejitvah
Varstvo svobode izražanja je bilo vključeno že v 19. člen39 Splošne deklaracije človekovih
pravic (SDČP),40 nato v 19. člen Mednarodnega pakta o državljanskih in političnih pravicah
(MPDPP),41 večina njenih določb pa se šteje za del mednarodnega običajnega prava.42
MPDPP v 19. členu določa: »Vsakdo ima pravico do svobodnega izražanja; s to pravico je
mišljeno svobodno iskanje, sprejemanje in širjenje vsakovrstnih informacij in idej, ne glede na
državne meje, v ustni, pisni, tiskani ali umetniški obliki ali na katerikoli drug svobodno izbran
način.« V nadaljevanju člena MPDPP sicer določa tudi možnost, da se pravica do svobode
izražanja omeji, vendar morajo biti omejitve izrecno določene z zakonom in potrebne zaradi
spoštovanja pravic in ugleda drugih ali zaradi varovanja nacionalne varnosti ali javnega reda,
javnega zdravja ali morale.43
Avtoritativna razlaga 19. člena MPDPP je zajeta v splošnem komentarju št. 34,44 ki ga je
sprejel Odbor OZN za človekove pravice (HRC) – nadzorni mehanizem po MPDPP.45 V
njem je zapisal, da obveznost spoštovanja pravice do svobode mnenja in izražanja zavezuje
vsako državo pogodbenico kot celoto, torej vse veje državne oblasti, ter tudi druge javne ali
vladne organe ne glede na raven – nacionalno, regionalno ali lokalno – ki lahko prevzamejo
odgovornost države pogodbenice. Države pogodbenice MPDPP pa so dolžne zaščititi osebe
pred kakršnimikoli dejanji zasebnih oseb in entitet, ki bi ovirala uživanje svobode mnenja in
izražanja, če so te pravice iz MPDPP primerne za uporabo med zasebnimi osebami ali entite-
tami. Poleg tega so države pogodbenice dolžne zagotoviti, da se pravice iz 19. člena MPDPP
uresničujejo tudi v notranji zakonodaji držav.46 Področje uporabe drugega odstavka 19. člena
39 Vsakdo ima pravico do svobode mnenja in izražanja; ta pravica vključuje svobodo imeti mnenje brez vmešavanja
ter svobodo iskati, sprejemati in širiti informacije in ideje na kakršenkoli način in ne glede na meje.
40 Splošna deklaracija človekovih pravic (SDČP), Sklep o objavi besedila Splošne deklaracije človekovih pravic,
Uradni list RS – Mednarodne pogodbe, št. 24/18.
41 Za podrobnejšo razlago tega člena glej Schabas, str. 540–575.
42 Hannum, str. 145–147.
43 Glej tretji odstavek 19. člena MPDPP.
44 Glede pomena splošnih komentarjev glej Sancin 2022, str. 311–321; glej tudi Ahmadou Sadio Diallo, Republic
of Guinea v. Democratic Republic of the Congo (2010), 66. odstavek.
45 Shaw, str. 275–280; Türk, str. 132–133.
46 HRC, General Comment No. 34, Article 19, Freedoms of opinion and expression. UN Doc. CCPR/C/GC/34
(2011), sedmi in osmi odstavek; glej tudi HRC, General comment No. 31, The nature of the general legal obligation
imposed on States Parties to the Covenant, UN Doc. CCPR/C/21/Rev.1/Add.13 (2004), četrti odstavek; HRC,
Communication No. 633/1995, Gauthier v. Canada, U.N. Doc. CCPR/C/65/D/633/1995 (1999).
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 117
MPDPP zajema celo izražanje, ki se lahko šteje za globoko žaljivo. Takšno izražanje se lahko
omeji le v skladu z določbami tretjega odstavka 19. člena, ki določa izjeme, kdaj se pravica do
svobode izražanja sme omejiti, kar bo kratko predstavljeno v nadaljevanju. Splošni komentar
HRC poudarja, da pravica do svobode izražanja vključuje pravico do iskanja, sprejemanja in
širjenja vseh vrst informacij in idej ne glede na državne meje.47 Gre za pravico, ki vključuje
izražanje in sprejemanje sporočil vseh oblik idej in mnenj,48 ki jih je mogoče posredovati dru-
gim, in vključuje politično razpravo, komentiranje lastnih in javnih zadev, agitacijo, razpravo o
človekovih pravicah, novinarstvo, kulturno in umetniško izražanje, poučevanje in versko raz-
pravo.49 To, da je pravica do informacij integralni del pravice do svobode izražanja, izhaja že iz
resolucije GS OZN, sprejete leta 1946, v kateri je celo poudarjeno, da je pravica do informacij
kot del svobode izražanja bistven dejavnik pri vseh resnih prizadevanjih za mir in napredek
v svetu.50 Podobno izhaja tudi iz SDČP, ki v 19. členu glede pravice do informacij uporabi
dikcijo, enako dikciji, zapisani v 19. členu MPDPP.
Tudi regionalne mednarodne pogodbe urejajo varstvo svobode izražanja. Evropska konvencija
o človekovih pravicah (EKČP) poleg splošnega opisa te pravice poudarja, da so mogoče njene
omejitve, ki jih lahko postavijo države. Tudi v Listini Evropske unije o temeljnih pravicah
(Listina EU), ki sicer velja samo za države članice EU, je opis pravice podoben, vendar Listina
EU ne vsebuje določbe o možnosti omejitev svobode izražanja, hkrati pa v drugem odstavku
11. člena poudarja tudi pomen svobode in pluralnosti medijev.51 Besedilo Ameriške konven-
cije o človekovih pravicah (AKČP), ki varuje svobodo izražanja, se nekoliko razlikuje od tega,
saj podrobneje našteva, katere oblike izražanja so zavarovane.52 Afriška listina človekovih pra-
vic in pravic ljudstev svobodo izražanja sicer posredno omenja, vendar je določba bolj skopa
in manj določna kot v EKČP in AKČP.53 Evropsko sodišče za človekove pravice (ESČP) je
svobodo izražanja opredelilo kot bistveni temelj demokratične družbe,54 zelo podobno svobo-
do izražanja razlaga tudi Medameriško sodišče za človekove pravice (IACtHR).55
47 HRC, General Comment No. 34, Article 19, Freedoms of opinion and expression. UN Doc. CCPR/C/GC/34
(2011), 11. odstavek.
48 Poudarjeno je, da to lahko vključuje tudi na primer komercialno oglaševanje.
49 HRC, General Comment No. 34, Article 19, Freedoms of opinion and expression. UN Doc. CCPR/C/GC/34
(2011), 11. odstavek.
50 UNGA, Calling of an International Conference on Freedom of Information, A/RES/59 (1946), prvi odstavek.
51 Evropska unija, Listina Evropske unije o temeljnih pravicah, UL C 83, 30. 3. 2010, 11. člen.
52 Organizacija ameriških držav, Ameriška konvencija o človekovih pravicah (»Pact of San Jose«) (1969), 13. člen.
53 Afriška unija, Afriška listina človekovih pravic in pravic ljudstev (»Banjul Charter«), CAB/LEG/67/3 rev. 5,
21 I.L.M. 58 (1982) (1981), 9. člen.
54 ESČP, Case of Wingrove v. The United Kingdom, (1996), 52. odstavek.
55 IACtHR, Herrera-Ulloa v. Costa Rica (2004), 127. odstavek; IACtHR, Case of Ricardo Canese v. Paraguay
(2004), 82. in 88. odstavek; IACtHR, Case of Claude-Reyes et al. v. Chile (2006), 85. odstavek; IACtHR, Case of
118
II.
Umetna inteligenca
V skladu z MPDPP, EKČP in AKČP so države pogodbenice dolžne zagotoviti, da lahko
posamezniki pod njihovo jurisdikcijo uresničujejo svojo pravico do svobode izražanja brez
nezakonitega vmešavanja.56 Dolžnost držav vključuje varstvo pred zlorabo te pravice s strani
tretjih oseb, tudi podjetij, kot je poudarjeno v Smernicah Organizacije združenih narodov za
spoštovanje človekovih pravic v gospodarstvu (Smernice OZN).57
SČP je svobodo izražanja označil za »enega bistvenih temeljev demokratične družbe in enega
osnovnih pogojev za njen napredek in razvoj«,58 posebni poročevalec za spodbujanje in varstvo
pravice do svobode mnenja in izražanja pa je poudaril, da je svoboda izražanja temeljna za
uresničevanje vseh človekovih pravic in sme biti zato omejena le izjemoma, pod ozko določe-
nimi pogoji in strogim nadzorom.59
V tretjem odstavku 19. člena MPDPP je navedeno, da uresničevanje pravice do svobode
izražanja od države zahteva odgovornost in posebne dolžnosti. Omejitve so dovoljene samo
zaradi spoštovanja pravic ali ugleda drugih ali zaradi varovanja nacionalne varnosti ali jav-
nega reda in miru ali javnega zdravja ali morale.60 Na omejitve se nikoli ne smemo sklicevati,
da bi s tem upravičili utišanje zagovarjanja večstrankarske demokracije, demokratičnih načel
in človekovih pravic, poleg tega morajo države pogodbenice uvesti učinkovite ukrepe za
zaščito pred napadi, katerih namen je utišanje tistih, ki uveljavljajo svojo pravico do svobode
izražanja.61
Vsakršna omejitev mora biti določena z zakonom, uvedena pa samo iz enega od razlogov,
naštetih v tretjem odstavku 19. člena MPDPP. Poleg tega morajo omejitve prestati tudi stroga
preizkusa nujnosti in sorazmernosti.62 Splošni komentar št. 34 opozarja, da so »zaradi razvoja
sodobnih množičnih medijev potrebni učinkoviti ukrepi za preprečevanje takšnega nadzora
Kimel v. Argentina (2008); IACtHR, Case of Ríos et al. v. Venezuela (2009), 105. odstavek; IACtHR, LÓpez Lone
et al. v. Honduras (2015), 165. odstavek.
56 Shepherd, str. 64.
57 UN, Office of the High Commissioner for Human Rights, Guiding Principles on Business and Human Rights,
1. načelo.
58 UN, Human Rights Council, Resolution 21/12, A/HRC/ RES/21/12 (2012), str. 1.
59 UN, Report on the Special Rapporteur on the promotion and protection of the right to freedom of opinion and
expression, A/74/486 (2019), str. 5, šesti odstavek.
60 Podrobneje glej Nowak, str. 350–358.
61 HRC, Communication No. 458/91, Mukong v. Cameroon, U.N. Doc. CCPR/C/51/D/458/1991 (1994), od-
stavka 9.7 in 9.8.
62 HRC, General Comment No. 34, Article 19, Freedoms of opinion and expression. UN Doc. CCPR/C/GC/34
(2011), 22. odstavek; glej tudi HRC, Communication No. 1022/2001, Velichkin v. Belarus (2005), U.N. Doc. CCPR/
C/85/D/1022/2001, odstavek 7.3.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 119
medijev, ki bi posegal v svobodo izražanja vsakega posameznika«,63 kar je še bolj relevantno v
današnjem času, ko so množični mediji in družbena omrežja bistveno bolj razviti kot včasih.
3. Umetnointeligenčni sistemi in njihov vpliv na pravico do svobode
izražanja
Tehnologije so lahko namerno uporabljene na način, ki ni v skladu z varovanjem človekovih
pravic, povsem mogoče pa je tudi, da do kršenja človekovih pravic pride, čeprav tehnologijo
uporabljamo v dobri veri. GS OZN je že leta 201864 pozvala k uporabi mednarodnega prava
človekovih pravic za UI in druge nove tehnologije in opozorila, da profiliranje, avtomatizi-
rano odločanje in tehnologije strojnega učenja brez ustreznih zaščitnih ukrepov lahko ogro-
zijo uživanje človekovih ekonomskih, socialnih in kulturnih pravic, ter priznala potrebo po
uporabi mednarodnega prava človekovih pravic pri oblikovanju, ocenjevanju in urejanju UI
ter drugih novih tehnologij.65 SČP pa je leta 2019 sprejel resolucijo,66 v kateri je prepoznal
pozitivne učinke, ki jih UI lahko ima na človekove pravice, pa tudi negativne, saj lahko upo-
raba UI brez ustreznih zaščitnih ukrepov pomeni tveganje za krepitev diskriminacije in za
kršitve človekovih pravic. Tveganja je treba zmanjšati, kar se lahko doseže z upoštevanjem
mednarodnega prava človekovih pravic pri oblikovanju, razvoju in uvajanju novih tehnologij,
kot je UI.67
UI lahko ogroža pravico do svobode izražanja na več načinov.68 V digitalnem svetu vpliva
na dostop do informacij in svobodo izražanja prek algoritmov, ki odločajo, katere vsebine so
vidne uporabnikom in pogosto dajejo prednost nekaterim informacijam, kar vodi v pristran-
skost in zavajanje. V javnem prostoru, kjer posamezniki uresničujejo svoje pravice, lahko UI
preoblikuje odločevalne sisteme, to pa omejuje združevanje in organiziranje. Na področju
medijev UI ogroža pluralizem, saj lahko omejeno število korporacij postane osrednji vir in-
formacij, s čimer se zmanjša raznolikost mnenj, to pa škoduje svobodi izražanja. V povezavi
s transparentnostjo UI nadomešča človeške odločitve pri dostopu do informacij in lahko se-
lektivno izključuje pomembne podatke, kar otežuje preglednost in zmanjšuje odgovornost v
procesu odločanja. Končno v zvezi z varnostjo UI s cenzuro in nadzorom meri na posame-
63 HRC, General Comment No. 34, Article 19, Freedoms of opinion and expression. UN Doc. CCPR/C/GC/34
(2011), 40. odstavek.
64 UNGA, Resolution adopted by the General Assembly on 17 December 2018, A/RES/73/179 (2019).
65 Prav tam, str. 3.
66 UN Human Rights Council, Resolution adopted by the Human Rights Council on 26 September 2019,
A/HRC/RES/42/15 (2019).
67 Prav tam, str. 2–4.
68 Glej tudi Moreira Alcici.
120
II.
Umetna inteligenca
znike, katerih izražena mnenja so v nasprotju z interesi oblasti.69 Konkretneje pa je eden od
problemov UI njena sposobnost hitrega ustvarjanja lažnih vsebin, ki se zdijo človeško ustvar-
jene in avtoritativne, v velikem obsegu. Poleg tega je, kot bo pojasnjeno v nadaljevanju, po-
sameznikom zaradi UI lahko onemogočen dostop do resničnih informacij ali onemogočeno
razlikovanje med dejanskimi in lažnimi informacijami, kar prav tako pomeni kršitev pravice
do svobode izražanja.70
Glede na to, da so tradicionalne medije nadomestili družbena omrežja, novičarski portali in
iskalniki, ki so postali glavna sredstva obveščanja, se družba pri uveljavljanju pravice do svo-
bode izražanja in dostopa do informacij močno zanaša na spletne platforme. ESČP potrjuje,
da internet igra vse pomembnejšo vlogo71 in je postal eden glavnih načinov, kako posamezniki
uresničujejo svojo pravico do svobode izražanja.72 Zato je pomembno, kar je v eni od resolucij
zapisal tudi SČP, da se »iste pravice, ki jih imajo ljudje v resničnem življenju, varujejo tudi na
spletu, zlasti pravica do svobode izražanja«.73
V teoriji se morebitni posegi UI v pravico do svobode izražanja razvrščajo v več skupin:
personalizacija vsebin za posameznika, samodejno onemogočanje ali odstranjevanje nezako-
nitih vsebin, razvrednotenje in oslabitev zakonitih, vendar škodljivih vsebin74 ter samodejno
uveljavljanje pravice do pozabe.75
Pri vplivu UI na pravico do svobode izražanja, povezano s pravico do informacij, ki je in-
tegralni del te svobode,76 gre za personalizacijo informacij na spletu z uporabo algoritmov,
ki določijo, katere novice ali objave bodo prikazane posameznemu uporabniku, kar lahko
močno vpliva na raznolikost informacijskega in medijskega okolja.77 Personalizacija novic
lahko ovira oblikovanje popolnoma informiranih državljanov, kar je zlasti v demokratični
družbi problematično,78 ker lahko vodi v fragmentacijo javne sfere in ustvarjanje »odmevnih
69 Article 19, Privacy and Freedom of Expression In the Age of Artificial Intelligence (2018), str. 9–10.
70 The Office of the United Nations High Commissioner for Human Rights, Taxonomy of Human Rights Risks
Connected to Generative AI, (3. 9. 2024), str. 10.
71 ESČP, Times Newspapers Ltd. v. United Kingdom (2009), 27. odstavek.
72 ESČP, Case of Ahmet Yildirim v. Turkey (2012), 54. odstavek.
73 UNGA, Resolution adopted by the Human Rights Council on 13 July 2021, A/HRC/RES/47/16 (2021), prvi
odstavek.
74 Na primer dezinformacije.
75 Brkan, str. 2.
76 UNGA, Disinformation and freedom of opinion and expression, Report of the Special Rapporteur on the pro-
motion and protection of the right to freedom of opinion and expression, A/HRC/47/25 (2021), str. 8.
77 Prav tam; Bozdag, str. 213–214.
78 Eskens, Helberger, Moeller, str. 22.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 121
komor«,79 pri čemer se daje prednost le nekaterim virom novic, posameznikov dostop do
informacij je omejen na način, da komunicira le s podobno mislečimi osebami ter se izogiba
dejstvom in prepričanjem, s katerimi se ne strinja, to pa prispeva k polarizaciji in radikaliza-
ciji družbe.80 Algoritmi lahko pristransko dajejo prednost nekaterim vsebinam ali ponudni-
kom, to pa ogroža medijski pluralizem, zlasti na družbenih omrežjih, na katerih uporabnikom
prikazujejo predvsem vsebine, skladne z njihovimi prepričanji. To zmanjšuje izpostavljenost
kritičnim in raznolikim informacijam ter omejuje vpogled v drugačne družbene in politične
poglede.81 Čeprav se ta problem s širjenjem UI in vedno zmogljivejšimi algoritmi povečuje,
je v Evropi manj izrazit, predvsem zaradi večje medijske raznolikosti in dejstva, da Evropejci
uporabljajo različne vire informacij.82 Poleg tega UI lahko prispeva tudi k reševanju te težave
z razvojem orodij, ki povečujejo zavedanje o izpostavljenosti različnim pogledom, prikazujejo
manj vidne rezultate iskanja ali omogočajo razprave med ljudmi z različnimi prepričanji.83
Vpliv UI je razviden tudi pri samodejnem onemogočanju in odstranjevanju vsebin,84 saj so
spletne platforme dolžne nadzorovati in odstraniti neprimerne, žaljive ali nezakonite vsebine,
vendar s povečanjem števila uporabnikov in vsebin fizično pregledovanje postaja nemogoče,
zato se uporablja UI. Tehnologija samodejnega onemogočanja pa pogosto odstrani tudi vse-
bine, ki niso sporne ali so le mejno sporne, in bi zato morala biti opravljena človeška presoja.85
Algoritmi namreč za zdaj ne morejo prepoznati čustev ali tona86 vsebine,87 težave lahko pov-
zročajo jezikove in kulturne posebnosti.88 Poleg tega je, zlasti kar zadeva pravico do informa-
cij, problematično, da onemogočanje in odstranjevanje vsebine poteka v ozadju, z uporabo
algoritmov, pri čemer ljudje pogosto ne vedo, zakaj je algoritem neko vsebino onemogočil ali
odstranil,89 kar povečuje tveganje za kršenje pravice do svobode izražanja.90 EU se na to gro-
79 »Odmevna komora« opisuje situacijo v množičnih medijih, ko se prepričanja širijo in krepijo znotraj zaprtega
sistema. Uporabniki v tem primeru iščejo informacije, ki potrjujejo njihova prepričanja, s tem pa potrjujejo svojo
pristranskost.
80 Bozdag, str. 218.
81 Kolarević, str. 117.
82 Prav tam, str. 18; glej tudi Moeller, Helberger, str. 25.
83 Bozdag, van den Hoven, str. 259–263.
84 Council of Europe, Algorithms and human rights (2018), str. 18.
85 European Parliment, Artificial intelligence and human rights (2024), str. 116.
86 Na primer cinizma, kritike, humorja ali ironije.
87 Brkan, str. 4.
88 Če na primer sistemi UI za moderiranje vsebin niso prilagojeni za sleng ali nestandardne izraze manjšinskih
skupin, lahko cenzurirajo legitimno izražanje.
89 Jougleux, str. 233–234.
90 UNGA, Promotion and protection of the right to freedom of opinion and expression – Report of the Special Rap-
porteur on the promotion and protection of the right to freedom of opinion and expression, A/73/348 (2018), str. 15.
122
II.
Umetna inteligenca
žnjo odziva z zakonodajo in nezavezujočimi instrumenti, ki urejajo odstranjevanje in onemo-
gočanje nezakonitih vsebin.91 Direktiva 2000/31/ES Evropskega parlamenta in Sveta z dne
8. junija 2000 o nekaterih pravnih vidikih storitev informacijske družbe, zlasti elektronskega
poslovanja na notranjem trgu (Direktiva o elektronskem poslovanju)92 v 14. členu ponudnike
razbremeni odgovornosti za vsebine tretjih oseb, vendar jim nalaga obveznost, da odstranijo
ali onemogočijo nezakonite vsebine, takoj ko so o njih obveščeni. Čeprav določa, da morajo
ponudniki pri odstranjevanju vsebine upoštevati svobodo izražanja, ne predvideva postopka
za obnovitev vsebine, če se ta po opravljenem pregledu izkaže za zakonito. To pomeni, da je
pravica do svobode izražanja delno omejena, saj lahko UI napačno presodi vsebino, ki je sicer
zakonita. Tudi odločitev o ponovni objavi takšnih vsebin je v rokah ponudnikov, saj Direktiva
glede tega ne določa konkretnih obveznosti, ampak le splošno nalaga spoštovanje pravice do
svobode izražanja. Poleg Direktive v EU obstajajo tudi nezavezujoči dokumenti, kot je na
primer Kodeks ravnanja za odpravo nezakonitega sovražnega govora na spletu,93 ki opozarjajo
na problematiko samodejnega onemogočanja, vendar za ponudnike niso obvezni, kar pomeni,
da se ponudniki sami odločijo, ali bodo te dokumente spoštovali ali ne.
Omeniti velja tudi, da je Sodišče Evropske unije (SEU) leta 2014 v zadevi Google proti Španiji
odločilo, da pravica biti pozabljen omogoča posameznikom, da zahtevajo odstranitev netoč-
nih, neustreznih, nepomembnih ali pretiranih osebnih podatkov iz iskalnikov.94 Ta pravica
je bila kasneje vključena v zakonodajo EU, v kateri je poudarjeno, da je treba pri varovanju
zasebnosti upoštevati tudi pravico do svobode izražanja in pravico do informacij. Tako na
primer Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o var-
stvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o
razveljavitvi Direktive 95/46/ES (Uredba o varstvu podatkov, GDPR)95 v 17. členu izrecno
določa, da pravica do pozabe ne velja, če je obdelava potrebna za uresničevanje pravice do
svobode izražanja in pravice do informacij. Težave nastanejo, ko ponudniki ob uveljavljanju te
pravice uporabljajo UI, saj ta ni vedno primerna za opravljanje presoje in je v nekaterih prime-
rih ključna človeška presoja. Pretirano poudarjanje varovanja osebnih podatkov s strani UI96
91 Bossuyt, str. 7.
92 UL L 178, 17. 7. 2000.
93 Evropska komisija, Kodeks ravnanja za odpravo nezakonitega sovražnega govora na spletu (2016); glej tudi
EU, Evropska komisija, Sporočilo Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu
odboru in Odboru regij – Boj proti nezakonitim spletnim vsebinam – Povečanje odgovornosti spletnih platform
(2017); EU, Priporočilo Komisije z dne 1. marca 2018 o ukrepih za učinkovito preprečevanje nezakonitih spletnih
vsebin, 2018/334 (2018).
94 Zadeva SEU C-131/12, Google Spain SL, Google Inc. v. Agencia Española de Protección de Datos (AEPD), Mario
Costeja González, z dne 13. 5. 2014.
95 UL L 119, 4. 5. 2016.
96 Situacija je primerljiva z odstranjevanjem nezakonitih vsebin.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 123
lahko nesorazmerno poseže v svobodo izražanja ponudnikov vsebin ali v pravico prejemnikov
do informacij, ki je, kot že večkrat omenjeno, integralni del pravice do svobode izražanja.97
Na spletu in družbenih omrežjih se zaradi velike količine novic za pregledovanje in odstra-
njevanje dezinformacij pogosto uporablja UI. Algoritmična orodja za zaznavanje in boj proti
dezinformacijam so lahko zelo učinkovita, saj omogočajo hitro zaznavanje, zmanjševanje vi-
dnosti in obveščanje javnosti o lažnih informacijah.98 Vendar lahko uporaba teh tehnologij
privede do napak in so resnične, vendar nenavadne novice napačno označene kot dezinforma-
cije. Poleg tega obstaja tveganje, da se UI namerno zlorabi za zmanjšanje vidnosti vsebin, ki
so kritične, izzivalne ali neprijetne, kar lahko vodi v omejevanje pravice do svobode izražanja
in pomeni grožnjo demokraciji.99
David Kaye,100 nekdanji posebni poročevalec za svobodo izražanja in mnenja, je v Poroči-
lu posebnega poročevalca o spodbujanju in varstvu pravice do svobode mnenja in izražanja
(Poročilo),101 objavljenem leta 2018, obravnaval tudi vplive UI na pravico do svobode izraža-
nja. V njem poudarja, da kompleksnost moderiranja vsebin z uporabo UI in avtomatiziranih
procesov narašča102 ter da UI in algoritmi drugače od ljudi ne morejo zaznati kulturnega kon-
teksta ali ironije in niso sposobni kritične analize, potrebne za prepoznavanje sovražnega go-
vora ali ekstremističnih vsebin. Zato je verjetno, da bo prišlo do čezmernega onemogočanja in
omejevanja vsebin, s tem pa je lahko kršena pravica do svobode izražanja in omejena pravica
dostopa do informacij brez cenzure.103 Poudaril je, da bi morale države sprejeti ustrezne ukre-
pe in zakonodajo za preprečevanje neupravičenega prevzema medijev oziroma koncentracije
medijskih skupin v zasebnih rokah, saj takšna koncentracija medijev zmanjšuje raznolikost
virov in mnenj, to pa ogroža pravico do informacij, ki je temelj svobode izražanja.104 Poleg tega
je poudaril pomanjkanje jasnih informacij o pravilih in delovanju platform, upravljanih z UI.
Brez jasnosti glede obsega in uporabe UI posamezniki težko razumejo, kako in zakaj se in-
97 Brkan, str. 7.
98 Sporočilo Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru
regij – Boj proti dezinformacijam na spletu: evropski pristop, COM(2018) 236 final, str. 11.
99 Brkan, str. 6.
100 David Kaye je bil od avgusta 2014 do julija 2020 posebni poročevalec OZN za spodbujanje in varstvo pravice
do svobode mnenja in izražanja.
101 UNGA, Promotion and protection of the right to freedom of opinion and expression – Report of the Special
Rapporteur on the promotion and protection of the right to freedom of opinion and expression, A/73/348 (2018).
102 Prav tam, str. 12.
103 Prav tam; glej tudi Council of Europe, Algorithms and human rights – Study on the human rights dimensions
of automated data processing techniques and possible regulatory implications (2018), str. 21.
104 HRC, General Comment No. 34, Article 19, Freedoms of opinion and expression. UN Doc. CCPR/C/GC/34
(2011), 40. odstavek.
124
II.
Umetna inteligenca
formacije širijo, omejujejo ali ciljno usmerjajo, s čimer je omejena njihova pravica do svobode
izražanja.105 Posebni poročevalec ugotavlja, da tudi če so posamezniki obveščeni o obstoju in
delovanju sistemov UI, ti še vedno lahko ovirajo prizadevanja za transparentnost in ustreznost
delovanja. Prav tako poudarja, da ponudniki spletnih mest in platform premalo pozornosti
namenjajo razvoju načinov za preglednost in razumevanje tehničnih temeljev avtomatiziranih
odločitev.106 Zaradi tega je pogosto prizadeta svoboda izražanja posameznikov, ki ne morejo
raziskati ali razumeti, zakaj in kako je bila njihova svoboda izražanja omejena.
V že omenjenem poročilu Svetovalnega odbora SČP Vplivi, priložnosti in izzivi novih in
nastajajočih digitalnih tehnologij v zvezi s spodbujanjem in varstvom človekovih pravic107 se
odbor nekoliko podrobneje osredotoča tudi na vpliv novih tehnologij108 na pravico do svobo-
de izražanja. Čeprav poročilo na začetku poudarja, da lahko zmogljivost novih tehnologij za
izboljšanje komunikacije prispeva k uresničevanju pravice do svobode izražanja – predvsem
zaradi oblikovanja do uporabnika prijaznih platform družbenih omrežij in številnih načinov
komunikacije, ki javnosti omogočajo izražanje mnenj –, se v nadaljevanju posveča predvsem
negativnim vplivom in vrzelim, na katere morajo biti države pozorne.109 Svetovalni odbor
je zapisal, da se digitalni prostori paradoksalno uporabljajo tudi za omejevanje pravice do
svobode izražanja in dostopa do informacij. Vlade po svetu namreč omejujejo ti pravici z iz-
klapljanjem internetnih storitev, selektivnim onemogočanjem dostopa do spletnih virov, cen-
zuriranjem medijskih hiš ter preganjanjem ljudi zaradi izražanja njihovih mnenj na spletu.110
Poročilo nadalje poudarja, da je digitalna revolucija korenito spremenila medijski prostor, pri
čemer so informacije postale cenejše in jih je mogoče hitreje širiti, a je zaradi tega vse težje
ločiti resnične informacije od dezinformacij. Svetovalni odbor navaja, da to, da različni akterji
na spletu širijo dezinformacije, ne spodbuja le sovražnega diskurza, temveč tudi postavlja
vprašanja glede pravice do informacij, ki je pomemben del pravice do svobode izražanja.111
105 UNGA, Promotion and protection of the right to freedom of opinion and expression – Report of the Special
Rapporteur on the promotion and protection of the right to freedom of opinion and expression, A/73/348 (2018),
31. odstavek.
106 Ananny, Crawford, str. 973.
107 UN Human Rights Council, Possible impacts, opportunities and challenges of new and emerging digital tech-
nologies with regard to the promotion and protection of human rights, U.N. Doc. A/HRC/47/52 (2021).
108 Na začetku poročila je pojasnjeno, da med nove tehnologije spada tudi UI.
109 UN Human Rights Council, Possible impacts, opportunities and challenges of new and emerging digital
technologies with regard to the promotion and protection of human rights, U.N. Doc. A/HRC/47/52 (2021),
11. odstavek.
110 Prav tam, 26. odstavek.
111 Prav tam, 20. odstavek.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 125
Marca 2024 je GS OZN sprejela resolucijo Izkoriščanje priložnosti varnih, zanesljivih in za-
upanja vrednih sistemov umetne inteligence za trajnostni razvoj.112 Ta resolucija se v nasprotju
s starejšimi resolucijami OZN, ki so se dotikale UI, bolj poglobljeno ukvarja s težavami, ki jih
UI lahko prinaša, tudi tistimi na področju človekovih pravic. Pomembno je, da je na začetku
resolucije navedeno, da morajo biti sistemi UI varni, zanesljivi in vredni zaupanja, to pomeni,
da morajo biti osredotočeni na človeka, zanesljivi, razložljivi, etični, vključujoči, varovati mo-
rajo zasebnost, usmerjeni morajo biti k trajnostnemu razvoju in odgovorni. Ključno je tudi, da
resolucija izrecno zahteva, da sistemi UI v celoti spoštujejo, spodbujajo in varujejo človekove
pravice ter so skladni z mednarodnim pravom.113 Človek mora biti postavljen v središče z
zagotavljanjem uživanja človekovih pravic in temeljnih svoboščin za vse.114 Za varno uporabo
sistemov UI je nujno, da so za vsak posamezen sistem vzpostavljena ustrezna varovala oziro-
ma postopki, ki morajo biti skladni z mednarodnim pravom.115 Vzpostavitev ustreznih varoval
je še posebej pomembna zaradi želje po doseganju ciljev trajnostnega razvoja, zapisanih v
Agendi za trajnostni razvoj 2030.116 Med mogočimi posledicami, če ustrezna varovala niso
uveljavljena, so zmanjšano varovanje in uživanje človekovih pravic in temeljnih svoboščin ter
spodkopavanje integritete informacij in dostopa do njih.117 To pomeni, da se je GS OZN vsaj
posredno opredelila do tega, da so lahko sistemi UI problematični za varstvo svobode izraža-
nja, saj je pravica do informacij integralni del svobode izražanja. V resoluciji je GS OZN prav
tako poudarila, da je upravljanje sistemov UI področje, ki se nenehno razvija, in da je ključno,
da se nadaljnje razprave in pogajanja o mogočih pristopih ter načinih urejanja in upravljanja
UI, ki so ustrezni, opirajo na mednarodno pravo.118 Poudarja, da je treba pravice, ki jih ljudje
uživajo v »resničnem« življenju, zavarovati tudi na spletu, kar vključuje varovanje človekovih
pravic in temeljnih svoboščin v celotnem življenjskem ciklu sistemov UI.119 Zato GS OZN
poziva vse države članice, po potrebi pa tudi druge deležnike, naj se vzdržijo uporabe oziroma
nehajo uporabljati sisteme UI, ki ne delujejo skladno z mednarodnim pravom človekovih
pravic ali ki pomenijo neupravičeno tveganje za uživanje človekovih pravic, zlasti tistih po-
sameznikov, ki so v družbi ranljivejši. Vse države članice OZN bi morale nameniti zadostna
112 UNGA, Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable
development, A/78/L.49 (2024).
113 Prav tam, str. 2.
114 Prav tam.
115 Prav tam, str. 3.
116 UNGA, Resolution adopted by the General Assembly on 25 September 2015 – Transforming our world: the
2030 Agenda for Sustainable Development, A/RES/70/ (2015).
117 UNGA, Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable
development, A/78/L.49 (2024), str. 3.
118 Prav tam.
119 Prav tam, str. 5.
126
II.
Umetna inteligenca
sredstva za razvoj in izvajanje učinkovitih zaščitnih ukrepov, k čemur spadajo ocene tveganja
in vpliva v celotnem življenjskem ciklu sistemov UI, da se zavarujejo človekove pravice in
temeljne svoboščine ter ublažijo morebitni negativni vplivi na polno in učinkovito uživanje
teh pravic in svoboščin.120
4. Mednarodna prizadevanja za regulacijo umetnointeligenčnih
sistemov v povezavi s pravico do svobode izražanja
V poročilu generalnega sekretarja OZN Načrt za digitalno sodelovanje: izvajanje priporočil
Visokega odbora za digitalno sodelovanje121 je zapisano, da se morajo države članice in pod-
jetja zavzemati za pregledno in odgovorno upravljanje vsebin, ki bo zagotavljalo varovanje
pravice do svobode izražanja, ter da so potrebna odločnejša prizadevanja za razvoj nadaljnjih
smernic o tem, kako se standardi človekovih pravic uporabljajo v digitalni dobi, tudi prek
SČP, ter za nadgradnjo dela posebnih postopkov in mednarodnih pogodb Urada visokega
komisarja Združenih narodov za človekove pravice in drugih deležnikov.122
Priporočilo UNESCO o etiki umetne inteligence že v prvem poglavju prepozna, da UI lahko
pomeni grožnjo za pravico do svobode izražanja123 ter da imajo tehnologije UI vse večji vpliv
na obdelavo in distribucijo informacij, kar postavlja vprašanja glede dostopa do informacij,
lažnih novic, sovražnega govora, diskriminacije, svobode izražanja in zasebnosti, kar vključuje
tudi izzive, kot sta avtomatizirano novinarstvo in algoritmično urejanje vsebin na družbenih
omrežjih in v iskalnikih. Poudarja, da morajo države članice zagotoviti, da akterji na področju
UI spoštujejo in spodbujajo svobodo izražanja ter dostop do informacij, zlasti v zvezi z av-
tomatiziranim ustvarjanjem in moderiranjem vsebin, ključno pa je vzpostaviti tudi postopke
za hitro obveščanje uporabnikov o razlogih za odstranitev ali drugačno obravnavo vsebin ter
pritožbene mehanizme, ki uporabnikom omogočajo dostop do učinkovitega pravnega var-
stva.124 Leta 2023 je UNESCO sprejel še Smernice za upravljanje digitalnih platform: varstvo
svobode izražanja in dostopa do informacij s pristopom vseh zainteresiranih deležnikov,125 z
namenom zavarovati pravico do svobode izražanja, vključno s pravico do dostopa do infor-
macij, in druge človekove pravice pri upravljanju digitalnih platform, hkrati pa obravnavati
120 Prav tam, str. 6.
121 UN General Assembly, Road map for digital cooperation: implementation of the recommendations of the
High-level Panel on Digital Cooperation – Report of the Secretary-General, U.N. Doc. A/74/821 (2020).
122 Prav tam, str. 10 in 12.
123 UNESCO, Recommendation on the Ethics of Artificial Intelligence (2021), 2. in 3. točka.
124 Prav tam, 113. točka.
125 UNESCO, Guidelines for the Governance of Digital Platforms (2023).
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 127
vsebine, ki jih je dopustno omejiti v skladu z mednarodnim pravom in standardi človekovih
pravic, vse tudi v povezavi s prihodnjimi izzivi, zlasti tistimi, ki jih prinaša generativna UI.126
Smernice opredeljujejo odgovornosti različnih deležnikov glede varovanja svobode izražanja,
dostopa do informacij in drugih človekovih pravic, hkrati pa zagotavljajo odprto, varno in
zanesljivo okolje za uporabnike in neuporabnike digitalnih platform. To zajema dolžnosti dr-
žav, da spoštujejo, varujejo in uresničujejo človekove pravice, odgovornost digitalnih platform,
da te pravice spoštujejo, ter vlogo medvladnih organizacij, civilne družbe, medijev, akadem-
ske sfere, tehnične skupnosti in drugih deležnikov pri spodbujanju človekovih pravic.127 Po-
membno je tudi, da smernice pozivajo k večstranski obravnavi upravljanja digitalnih platform.
To pomeni, da je treba identificirati vse relevantne deležnike s platformami vred, spodbujati
vključujočo udeležbo, zagotavljati uravnoteženo zastopanost, omogočiti preglednost in odgo-
vornost, spodbujati sodelovalno odločanje in dialog, usklajevati prizadevanja za izvajanje med
deležniki ter izvajati periodične presoje in preglede.128
Čeprav svoboda izražanja v Konvenciji SE ni neposredno omenjena, že njena preambula
poudarja pomen regulacije UI, saj lahko nekatere aktivnosti v življenjskem ciklu umetnoin-
teligenčnih sistemov ogrožajo človekovo dostojanstvo, posameznikovo avtonomijo, človekove
pravice, demokracijo in pravno državo,129 namen njenih določb pa je zagotoviti, da so dejavno-
sti v življenjskem ciklu sistemov UI v celoti skladne s človekovimi pravicami, demokracijo in
pravno državo.130 Ključen pa je člen konvencije Varstvo človekovih pravic, ki določa, da »vsaka
pogodbenica sprejme ali ohrani ukrepe za zagotovitev, da so dejavnosti v življenjskem ciklu
sistemov UI skladne z obveznostmi varstva človekovih pravic, kot so določene v veljavnem
mednarodnem pravu in njeni nacionalni zakonodaji«.131 Če bi v končni različici te konvencije
ostalo besedilo iz enega od osnutkov konvencije,132 ki ga je pripravil Odbor za UI, bi v njej pi-
salo, naj »vsaka pogodbenica sprejme potrebne ukrepe za ohranitev posameznikove svobode,
človeškega dostojanstva in avtonomije ter zlasti zmožnosti sprejemanja informiranih odloči-
tev brez neprimernega vpliva, manipulacije ali škodljivih učinkov, ki lahko zaradi neustrezne
uporabe sistema UI negativno vplivajo na pravico do svobode izražanja in združevanja, demo-
kratičnega sodelovanja ter uveljavljanja drugih človekovih pravic in temeljnih svoboščin«.133
126 Prav tam, str. 7 in 8.
127 Prav tam, str. 14.
128 Prav tam, str. 24.
129 Prav tam, preambula.
130 Prav tam, 1. člen.
131 Prav tam, 4. člen.
132 CAI, Revised Zero Draft [Framework] Convention On Artificial Intelligence, Human Rights, Democracy And
The Rule Of Law (2023).
133 Prav tam, 9. člen.
128
II.
Umetna inteligenca
V že omenjenem Aktu o UI je glede svobode izražanja zapisano, da je pri razvrstitvi sistema
UI kot sistema velikega tveganja zlasti pomemben obseg škodljivega vpliva tega sistema na
temeljne pravice, varovane z Listino EU, torej tudi na svobodo izražanja.134 Ker je Akt o UI
usmerjen predvsem v regulacijo uporabe UI v industriji in regulacijo organov pregona, se va-
rovanju svobode izražanja podrobneje ne posveča. (Pre)številne izjeme v končnem besedilu135
pa bi lahko omogočile delovanje škodljivih sistemov UI, ki bi resno ogrozili državljane, zlasti
najranljivejše.136
5. Sklep
Uresničevanje pravice do svobode izražanja v sodobni informacijski družbi je zelo odvisno
od odločitev zasebnih subjektov, ki nadzorujejo objavo in širjenje vsebin ter vsebine tudi or-
ganizirajo, pogosto z uporabo umetnointeligenčnih tehnologij. Pogodbenice EKČP imajo
dolžnost zagotoviti, da zasebno upravljanje digitalnega prostora, zlasti tistega, ki temelji na
UI, ne ogroža pasivnih in aktivnih vidikov svobode izražanja, tudi pravice do informacij.137
Vse pomembnejše tako postaja vprašanje, kako lahko v mednarodnem pravu zagotovimo, da
ne bodo le države, ampak tudi korporacije, ki ponujajo platforme in uporabljajo UI, medna-
rodnopravno odgovorne za varstvo pravice do svobode izražanja.
Veljavni mednarodni dokumenti, namenjeni regulaciji UI, so pogosto zelo splošni, zato se
zdi smiselno prizadevanje za sprejetje nove celovite multilateralne mednarodne pogodbe, ki
bi podrobneje uredila UI, vključno z vplivi, ki jih ima na polno uresničevanje človekovih pra-
vic, s čimer bi se lahko preprečila prevelika fragmentacija pravnega okvira.138 Hkrati pa velja
priznati, da razvoj tehnologij z umetnointeligenčnimi sistemi tako hitro napreduje, da bi bilo
verjetno težko vnaprej predvideti vse možne dejanske situacije, ki zahtevajo pravno urejanje,
kar govori v prid splošnejšemu normativnemu okviru. Pričakovati gre, da se bodo pravne raz-
lage glede vplivov na človekove pravice v veliki meri razvijale tudi z jurisprudenco domačih in
mednarodnih sodišč ter tudi z različnimi mednarodnimi telesi na področju človekovih pravic,
kot so pogodbena telesa OZN, v zvezi s pravico do svobode izražanja zelo verjetno predvsem
134 Prav tam, str. 11.
135 Ob tem vseeno poudarjajo, da je napredek glede varstva človekovih pravic in temeljnih svoboščin v Aktu o UI
od prvih osnutkov do končnega besedila viden.
136 Glej na primer EDRi, EU’s AI Act fails to set gold standard for human rights (2024), (10. 9. 2024); accessnow, The EU AI Act: a failure
for human rights, a victory for industry and law enforcement (2024), (10. 9. 2024).
137 Council of Europe, Recommendation of the Committee of Ministers to member States on the roles and respon-
sibilities of internet intermediaries, CM/Rec(2018)2 (2018), 6. točka.
138 Za več glej Payandeh, str. 1–20.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 129
v okviru Odbora ZN za človekove pravice. Slednji bi se lahko do izzivov, ki jih obravnava ta
prispevek, opredelil tudi v morebitnem novem Splošnem komentarju 19. člena MPDPP, če
bi se odločil za njegovo pripravo, o čemer sicer že nekaj časa potekajo neformalni pogovori
med člani tega odbora.
Literatura
AKANDJI-KOMBE, J. F. Positive obligations under the European Convention on Human
Rights: A guide to the implementation of the European Convention on Human
Rights, Human rights handbooks, No. 7, Council of Europe, 2007.
MOREIRA ALCICI, L. The Protection of the Right to Freedom of Expression in International
Human Rights Law: An Overview. Studia Prawnicze. Rozprawy i Materiały, 2020,
str. 151–160.
Amnesty International, Human Rights Principles For Companies, AI Index: ACT 70/01/98,
1998.
ANANNY, M., CRAWFORD, K. Seeing without Knowing: Limitations of the Transparency
Ideal and Its Application to Algorithmic Accountability. New Media & Society, 2016,
vol. 20, no. 3, str. 973–989.
ANDREW, C. Human Rights Obligations of Non-State Actors. Oxford: Oxford University Press,
2006.
Article 19, Privacy and Freedom of Expression In the Age of Artificial Intelligence, 2018.
BALKIN, J. M. Free Speech is a Triangle. Columbia Law Review, 2018. Public Law Research Pa-
per, No. 640, str. 2011–2056.
BELLI, L., CURZI DE MENDONÇA, Y., GASPAR, W. AI Regulation in Brazil: Advance-
ments, Flows, and Need to Learn from the Data Protection Experience. Computer Law
& Security Review, 2023, vol. 48, str. 1–6.
BOLLINGER, L. C., STONE, G. R. (ur.). Social Media, Freedom of Speech, and the Future of Our
Democracy. Oxford: Oxford Academic, 2022.
BOSSUYT, A. Artificial Intelligence and Freedom of Expression What is the impact of AI on
Freedom of Expression?, 2020.
BOZDAG, E. Bias in Algorithmic Filtering and Personalization. Ethics and Information Techno-
logy, 2013, str. 209–227.
BOZDAG, E., VAN DEN HOVEN, J. Breaking the Filter Bubble: Democracy and Design.
Ethics and Information Technology, 2015, vol. 17, str. 249–265.
BRKAN, M. Freedom of Expression and Artificial Intelligence: On Personalisation, Disinformation
and (Lack of ) Horizontal Effect of the Charter. Maastricht Faculty of Law Working Pa-
pers, 2019, str. 1–17.
BROWNLE, I. Principles of Public International Law. 7. izd. Oxford: Oxford University Press,
2008.
130
II.
Umetna inteligenca
CARLSSON, U. Freedom of Expression and Media in Transition: Studies and Reflections in the Di-
gital Age. NORDICOM, 2016.
CASSESE, A. International Law. Oxford: Oxford University Press, 2001.
CASSESE, A. International Law. 2. izd. Oxford: Oxford University Press, 2005.
CASTANEDA, J. Legal Effects of United Nations Resolutions. New York: Columbia University
Press, 1969.
CENTER ON TRANSNATIONAL BUSINESS AND THE LAW. Overview of the Propo-
sed Binding Treaty on Business and Human Rights. 2023, (4. 9. 2024).
Committee on artificial intelligence (CAI), Revised Zero Draft [Framework] Convention on Ar-
tificial Intelligence, Human Rights, Democracy and the Rule Of Law, CAI(2023)01,
2023.
DE GREGORIO, G., DUNN, P. Artificial Intelligence and Freedom of Expression. V: Quinta-
valla, A., Temperman, J. (ur.), Artificial Intelligence and Human Rights. Oxford: Oxford
University Press, 2023, str. 76–90.
DEVA, S. Multinationals, Human Rights and International Law: Time to Move beyond the “Sta-
te-Centric” Conception. V: Letnar Černič, J., Van Ho, T. (ur.), Human Rights and Bu-
siness: Direct Corporate Accountability for Human Rights. Wolf Legal Publishers (WLP),
2013, str. 27–49.
ESKENS, S., HELBERGER, N., MOELLER, J. Challenged by News Personalisation: Five Per-
spectives on the Right to Receive Information. Journal of Media Law, 2017, str. 1–26.
GILLESPIE, T. Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions
That Shape Social Media. New Haven: Yale University Press, 2018.
HANNUM, H. The UDHR in National and International Law. Health and Human Rights, 1998,
vol. 3, no. 2, str. 144–158.
HIGGINS, R. Problems and Process: International Law and How We Use It. Oxford: Clarendon
Press, 1994.
JOULEUX, P. Facebook and the (EU) Law: How the Social Network Reshaped the Legal Framework.
Springer, 2022.
JØRGENSEN, R., ZULETA, L. Private Governance of Freedom of Expression on Social Media
Platforms. Nordicom Review, 2020, str. 51–67.
KINLEY, D., CHAMBER, R. The UN Human Rights Norms for Corporations: The Private
Implications of Public International Law. Human Rights Law Review, 2006, vol. 2,
str. 447–497.
KOLAREVIĆ, E. The Influence of Artificial Intelligence on the Right to Freedom of Expressi-
on. Pravo Teorija i Praksa, 2022, vol. 39, str. 111–126.
LEE, J. Artificial Intelligence and International Law. Springer, 2022.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 131
LETNAR ČERNIČ, J. An Elephant in a Room of Porcelain: Establishing Corporate Responsi-
bility for Human Rights. V: Letnar Černič, J., Van Ho, T. (ur.), Human Rights and Bu-
siness: Direct Corporate Accountability for Human Rights. Wolf Legal Publishers (WLP),
2013, str. 131–158.
LETNAR ČERNIČ, J., VAN HO, T. (ur.). Human Rights and Business: Direct Corporate Accounta-
bility for Human Rights. Wolf Legal Publishers (WLP), 2013.
MAAS, M. M. International Law Does Not Compute: Artificial Intelligence and the Deve-
lopment, Displacement or Destruction of the Global Legal Order. Melbourne Journal
of International Law, 2019, vol. 20, str. 29–57.
McGONAGLE, T. The Development of Freedom of Expression and Information within the UN:
Leaps and Bounds or Fits and Starts?. V: McGonagle, T., Donders, Y. (ur.), The United
Nations and Freedom of Expression and Information: Critical Perspectives. Cambridge:
Cambridge University Press, 2015, str. 1–24.
MOELLER, J., HELBERGER, N. Beyond the filter bubble: concepts, myths, evidence and issues
for future debates, Report drafted for the Dutch Media Regulator (Commissariaat
voor de Media), 2018.
MOREIRA ALCICI, L. The use of artificial intelligence by social media companies for content
moderation: a look at the international human rights framework on the right to free-
dom of expression. V: Miraut Martin, L., Załucki, M., Gonçalves, M., Partyk, A. (ur.),
Artificial intelligence and human rights. Dykinson, S.L., 2021, JSTOR, str. 169–179.
MUCHLINSKI, P. Corporations in International Law. Max Planck Encyclopedia of Public Inter-
national Law, 2014, str. 1–16.
NOBLE, U. N. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: New
York University Press, 2018.
NILSSON, N. J. The Quest for Artificial Intelligence: A History of Ideas and Achievements. 1. izd.
Cambridge: Cambridge University Press, 2010.
NOWAK, M. U.N. Covenant on Civil and Political Rights: CCPR Commentary. Kehl: N.P. Engel
Verlag, 1993.
OBSERVER RESEARCH FOUNDATION (ORF). A History of the Right to Freedom of Expres-
sion. 2022, (26. 7. 2024).
ÖBERG, M. D. The Legal Effects of Resolutions of the UN Security Council and General As-
sembly in the Jurisprudence of the ICJ. European Journal of International Law, 2005,
vol. 16, no. 5, str. 879–906.
PAUST, J. J. Human Rights Responsibilities of Private Corporations. Vanderbilt Law Review,
2021, vol. 35, str. 801–825.
PAYANDEH, M. Fragmentation within International Human Rights Law. V: Andenas, M.,
Bjørge, E. (ur.), A Farewell to Fragmentation: The ICJ’s Role in the Reassertion and Con-
vergence of International Law. Cambridge: Cambridge University Press, 2015, str. 1–20.
132
II.
Umetna inteligenca
QUINTAVALLA, A., TEMPERMAN, J. (ur.). Artificial Intelligence and Human Rights. Oxford:
Oxford University Press, 2023.
REVENTLOW, N., McCULLY, J. The Protection of Political Expression. V: Callamard, A., Bol-
linger, L. (ur.), Regardless of Frontiers: Global Freedom of Expression in a Troubled World.
New York: Columbia University Press, 2021, str. 25–44.
RINWIGATI, P. The Legal Position of Multinational Corporations in International Law. Jurnal
Hukum & Pembangunan, 2019, vol. 49, no. 2, str. 376–396.
RUSSEL, S. J., NORVIG, P. Artificial Intelligence: A Modern Approach. 4. izd. Pearson, 2009.
SASLOW, K., LORENZ, P. Artificial Intelligence Needs Human Rights, 2019.
SCHABAS, W. A. U.N. International Covenant on Civil and Political Rights, Nowak‘s CCPR Com-
mentary. Kehl: N. P. Engel Verlag, 2019.
SEARLE, J. R. Minds, Brains and Science. Cambridge: Harvard University Press, 1984.
SANCIN, V. Artificial Intelligence and Human Rights: Conference Proceedings from the Ljubljana
2024 Conference. Ljubljana: Litteralis Ltd, 2024.
SANCIN, V. General Comments and Recommendations. V: Binder, C. (ur.), et al. Elgar Encyclo-
pedia of Human Rights. Cheltenham; Northampton: E. Elgar, 2022, vol. 2, str. 311–321.
SANCIN, V. Kalejdoskopski pogled na umetno inteligenco in pravo človekovih pravic. Podjetje in
delo, 2023, letn. 49, št. 6/7, str. 1005–1015.
SANCIN, V. Umetna inteligenca in pravica do življenja. TFL Glasnik, 2021, letn. 29, str. 29.
SCHWEBEL, S. M. The Effect of Resolutions of the U.N. General Assembly on Customary
International Law. Proceedings of the Annual Meeting (American Society of International
Law), 1979, vol. 73, str. 301–309.
SHAW, M. N. International Law. 9. izd. Cambridge: Cambridge University Press, 2021.
SHEPHERD, A. Extremism, Free Speech and the Rule of Law: Evaluating the Compliance of
Legislation Restricting Extremist Expressions with Article 19 ICCPR. Utrecht Journal
of International and European Law, 2017, vol. 33, no. 85, str. 62–83.
Statement on Behalf of a Group of Countries at the 24th Session of the Human Rights Council. 2013,
(5. 8. 2024).
TEKAVČIČ VEBER, M. Kaj prinašata Okvirna konvencija o umetni inteligenci, človekovih pra-
vicah, demokraciji in pravni državi ter Akt o umetni inteligenci?. TFL Glasnik, 2024,
št. 16, str. 1–15.
THEMISTOKLIS, T. Legal and Ethical Challenges of Artificial Intelligence from an International
Law Perspective. Springer, 2022.
THE OFFICE OF THE UNITED NATIONS HIGH COMMISSIONER FOR HUMAN
RIGHTS (OHCHR). BHR Treaty Process – OHCHR and Business and Human
Rights,
(7. 8. 2024).
The Law Library of Congress, Global Legal Research Directorate, Legal Effect of United Nations
Resolutions Under International and Domestic Law, 2015.
VASILKA SANCIN, LOVRO BOBNAR
Pravica do svobode izražanja v času umetnointeligenčnih sistemov 133
TÜRK, D. Temelji mednarodnega prava. 2. pregledana in dopolnjena izdaja. Ljubljana: GV Založ-
ba, 2021.
UNESCO, Guidelines for the Governance of Digital Platforms: Safeguarding Freedom of
Expression and Access to Information Through a Multistakeholder Approach, 2023.
UNESCO Recommendation on the Ethics of Artificial Intelligence, No. 61910. 2021, (7. 8. 2024).
UNESCO, World trends in freedom of expression and media development: global report
2017/2018, 2018.
UNESCO Nacionalne komisije Nemčije, Nizozemske in Slovenije, Priporočilo o Etiki umetne
inteligence: Oblikovanje prihodnosti naše družbe, 2024.
UNICRI CENTRE FOR ARTIFICIAL INTELLIGENCE AND ROBOTICS. The Hague,
The Netherlands,
(30. 7. 2024).
UNITED NATIONS – MEETINGS COVERAGE AND PRESS RELEASES. General As-
sembly Adopts Landmark Resolution on Steering Artificial Intelligence Towards Global Go-
od, Faster Realization of Sustainable Development. 2024, (4. 8. 2024).
UNITED NATIONS – MEETINGS COVERAGE AND PRESS RELEASES. Secretary-Ge-
neral Appoints John Ruggie of United States Special Representative on Issue of Human Ri-
ghts, Transnational Corporations, Other Business Enterprises. 2005, (5. 8. 2024).
UNITED NATIONS. International Human Rights Law, (10. 8. 2024).