221 Članki / Articles DELAVCI IN DELODAJALCI 2-3/2023/XXIII * Sara Bagari, magistrica prava, asistentka na Pravni fakulteti Univerze v Ljubljani in raziskovalka na Inštitutu za delo pri Pravni fakulteti v Ljubljani. sara.bagari@pf.uni-lj.si Sara Bagari, Master of Laws, Teaching and Research Assistant at the Faculty of Law, University of Ljubljana, Slovenia, and Researcher at the Institute for Labour Law at the Faculty of Law, University of Ljubljana, Slovenia. Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Sara Bagari* UDK: 349.22:004.8 Povzetek: V zadnjih letih različni avtorji opozarjajo na številne izzive, ki jih prinaša uporaba umetne inteligence v delovnih razmerjih, šele pred kratkim pa se je na ravni mednarodnih, evropskih in domačih institucij začelo razmišljati o tem, kako posodobiti obstoječe predpise, da bi se soočili s temi izzivi. Ustrezen in učinkovit pravni okvir na mednarodni, evropski in nacionalni ravni bo namreč igral ključno vlogo pri zagotavljanju tega, da bodo koristi umetne inteligence v delovnem razmerju odtehtale tveganja. V luči tega prispevek izpostavlja tveganja pri uvajanju umetne inteligence v delovna razmerja in analizira pravne rešitve v nacionalnem ter evropskem pravnem okvirju, hkrati pa izpostavlja morebitne pomanjkljivosti obstoječih pravnih instrumentov. Ključne besede: umetna inteligenca, delovno razmerje, tveganja, digitalizacija, diskriminacija, neskončen nadzor, pravni okvir Risks of Introducing Artificial Intelligence into Employment Relationships and Possible Legal Solutions Abstract: In recent years, various authors have pointed out the challenges posed by the use of artificial intelligence in the employment relationships, yet only recently have international, European, and national institutions begun to reflect on how to adapt and renew existing regulations as an answer to these challenges. In this regard, an appropriate legal framework at the international, European, and national level plays a crucial role in ensuring that the benefits of artificial intelligence in employment Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 222 Članki / Articles relationships outweigh the risks. The paper therefore highlights the risks posed by the use of artificial intelligence in employment relationships and analyses legal solutions in the national and European legal frameworks, pointing out possible shortcomings of existing legal instruments. Key words: artificial intelligence, employment relationships, risks, digitalisation, discrimination, limitless surveillance, legal framework 1. UVOD1 Danes se z uporabo umetne inteligence srečujemo na vsakem koraku, čeprav pogosto neopazno. Kar se je še včeraj zdelo skoraj nepredstavljivo, bo morda že jutri sestavni del vsakdanjega življenja. Umetna inteligenca postaja vse bolj razširjena tudi na področju dela. Delodajalcem in delavcem prinaša mnoge priložnosti, hkrati pa njena uporaba v delovnih razmerjih in drugih oblikah dela prinaša precejšnja tveganja in izzive. Ta niso omejena na nove oblike dela, saj se uporaba umetne inteligence povečuje tudi v bolj tradicionalnih delovnih okoljih in standardnih delovnih razmerjih.2 Nosljive naprave in pametne kamere omogočajo nove oblike nadzora, algoritmi pa se že uporabljajo za dodeljevanje nalog, razporejanje delovnega časa, načrtovanje aktivnosti, ocenjevanje dela in celo zaposlovanje ter odpuščanje zaposlenih. Umetna inteligenca nadomešča kadrovski management tudi pri odločanju.3 Pričakuje se, da bo to v prihodnosti vplivalo na vse dejavnosti, pri čemer bo delavce delno ali celo v celoti upravljala umetna inteligenca.4 1 Prispevek je nastal v okviru ciljnega raziskovalnega projekta raziskovalnega programa Vpliv umetne inteligence na trg dela: ekonomska analiza, zmanjševanje kompetenčnega razkoraka in zagotavljanje delovnopravne zaščite (V5-2267), ki ga financirata Javna agencija za raziskovalno dejavnost Republike Slovenije in Službe Vlade Republike Slovenije za digitalno preobrazbo. 2 Adams-Prassl (2019). 3 V teoriji se je v zvezi z dodeljevanjem dela, dajanjem navodil, nadzorom in ocenjevanjem delavcev s strani ali s pomočjo algoritmov uveljavil izraz algoritemsko upravljanje (angl. algorithmic management). To se je sprva razvilo na spletnih platformah, danes pa je razširjeno v celotnem gospodarstvu, ne glede na obliko dela, saj se uporaba umetne inteligence povečuje tudi v bolj tradicionalnih delovnih okoljih in delovnih razmerjih. O uporabi umetne inteligence v delovnih razmerjih glej Bagari (2022). 4 Cefaliello in Kullmann (2022). 223 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles Uporaba umetne inteligence v delovnih razmerjih je v zadnjih letih zato utemeljeno predmet številnih razprav, v katerih avtorji izpostavljajo tveganja, povezana z uporabo umetne inteligence v delovnih razmerjih in opozarjajo na potrebo po ustrezni pravni ureditvi.5 Šele pred kratkim pa se je v evropskih in domačih institucijah začelo razmišljati o tem, kako posodobiti obstoječe predpise, da bi se soočili s številnimi izzivi, ki jih prinaša umetna inteligenca. Evropska unija (EU) je začela vrsto pobud, namenjenih upravljanju digitalne preobrazbe trgov dela. Med njimi velja omeniti Splošno uredbo o varstvu podatkov (GDPR),6 ki naslavlja vprašanja, povezana z varstvom osebnih podatkov in zasebnosti, ter Evropski program znanj in spretnosti (European Skills Agenda), ki spodbuja vseživljenjsko učenje.7 Nekatere pomembne pobude, povezane z umetno inteligenco, pa so še vedno v razpravi. Med najpomembnejšimi sta Akt o umetni inteligenci in Predlog Direktive o izboljšanju delovnih pogojev pri platformnem delu. Čeravno jih lahko vsaj v določenem delu označimo za obetavne, trenutno še ni jasno, kako se bodo javna razprava, predvsem pa utemeljene kritike s strani stroke,8 dejansko prenesle in upoštevale v njihovi vsebini. Ustrezen in učinkovit pravni okvir na mednarodni, evropski in nacionalni ravni bo igral ključno vlogo pri zagotavljanju, da bodo koristi umetne inteligence v delovnem razmerju odtehtale tveganja. V luči tega prispevek izpostavlja tveganja pri uvajanju umetne inteligence v delovna razmerja in skuša najti rešitve zanje v nacionalnem in evropskem pravnem okvirju, hkrati pa izpostavlja morebitne pomanjkljivosti obstoječih pravnih instrumentov. 5 Za celovit pregled glej denimo Gyulavári in Menegatti (ur.) (2022); De Stefano in Wouters (2022); Comparative Labor Law & Policy Journal, “Automation, Artificial Intelligence and Labour Protection”, 41(1), idr. 6 Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (Besedilo velja za EGP), Uradni list L 119. 7 Evropski parlament (2021). 8 Glej npr. Adams-Prassl (2022); Cefaliello in Kullmann (2022); Ponce Del Castillo in Naranjo (2022); De Stefano in Wouters (2022). Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 224 Članki / Articles 2. ZAHTEVE GDPR IN ZVOP-2 KOT TEMELJNE PRAVNE VAROVALKE Zbiranje in obdelava osebnih podatkov v delovnih razmerjih sama po sebi nista novost, vendar pa je bil obseg v preteklosti omejen z dostopnostjo podatkov, pa tudi s človeško zmogljivostjo za obdelavo teh podatkov. Zaradi algoritmov, velikih količin podatkov in umetne inteligence je postal dostop do podatkov praktično neomejen, saj so se pomembno zmanjšali stroški dostopa in obdelave podatkov. Uporaba novih tehnologij za ocenjevanje in spremljanje delavcev je tako temeljito spremenila i) način zbiranja podatkov in vire, ii) način obdelave teh podatkov in iii) način sprejemanja odločitev, nižji stroški teh treh aktivnosti pa podjetjem omogočajo, da zlahka okrepijo spremljanje delavcev: cenejše, kot je spremljanje, več ukrepov bo delodajalec sprejel za zaščito svojih zakonitih poslovnih interesov.9 Tehnološki razvoj je zato v zadnjih desetletjih v ospredje postavil pomen varstva osebnih podatkov, s pravico do varstva osebnih podatkov pa so se začele ukvarjati različne mednarodne in evropske institucije.10 Pomembna pravna instrumenta pri naslavljanju tveganj, povezanih z uvedbo umetne inteligence na trg dela, sta Splošna uredba o varstvu osebnih podatkov (GDPR) in Zakon o varstvu osebnih podatkov (ZVOP-2).11 Pri tem je treba uvodoma izpostaviti temeljna načela v zvezi z obdelavo osebnih podatkov. V skladu s prvim odstavkom 5. člena GDPR morajo biti osebni podatki obdelani zakonito (skladno z eno izmed podlag po 6. členu GDPR), pošteno in pregledno (zagotovitev obvestitve o obdelavi in vseh relevantnih informacij v zvezi z obdelavo). Zbrani morajo biti za določene, izrecne in zakonite namene ter se ne smejo nadalje obdelovati na način, ki ni združljiv s temi nameni (»omejitev namena«), pri čemer se lahko obdelujejo samo tisti podatki, ki so potrebni za namen, za katerega se obdelujejo (»najmanjši obseg podatkov«). Ob priznavanju posebnih značilnosti delovnega razmerja Delovna skupina za varstvo podatkov iz 29. člena poudarja, da »za večino primerov obdelave podatkov zaposlenih torej pravna podlaga za to obdelavo ne more in ne sme biti privolitev zaposlenih, zato je potrebna drugačna pravna podlaga,« zato se bodo morali delodajalci zanašati na drugo pravno podlago, npr. zakoniti interes.12 Vendar pa zakoniti interes sam po sebi ne zadostuje za prevlado nad pravicami in svoboščinami zaposlenih. Tudi v tem 9 Todolí-Signes (2019). 10 Hendrickx (2022). 11 Uradni list RS, št. 163/22. 12 Delovna skupina za varstvo osebnih podatkov iz člena 29 (2017). 225 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles primeru »mora biti namen obdelave zakonit; izbrana metoda ali posebna tehnologija mora biti potrebna, sorazmerna in izvedena na najmanj vsiljiv način, kot je mogoče, poleg tega mora biti delodajalec sposoben dokazati, da so bili vzpostavljeni ustrezni ukrepi za zagotovitev ravnotežja s temeljnimi pravicami in svoboščinami zaposlenih.«13 Poleg splošnih omejitev za obdelavo osebnih podatkov GDPR ureja druge institute, ki pripomorejo k spoštovanju zasebnosti delavca, kot je ocena učinka v zvezi z varstvom podatkov, ki jo je praviloma obvezno treba opraviti pred vpeljavo tehnologij nadzora v delovno okolje, in dolžnost upravljalca (delodajalca), da se posvetuje z nadzornim organom, kadar se po izvedbi izkaže, da ne more sprejeti zadostnih ukrepov za zmanjšanje tveganj na sprejemljivo raven (36. člen GDPR). Poleg navedenega je pomembna obveznost določitve pooblaščenca za varstvo osebnih podatkov (39. člen GDPR) in pravica do neposredne pritožbe pri nadzornem organu (Informacijskem pooblaščencu), če delavec meni, da z obdelavo njegovih podatkov prihaja do kršitev GDPR. Pomembno vlogo pri preprečevanju kršitev imajo tudi relativno visoke globe, ki jih GDPR predvideva za kršitve temeljnih pravil obdelave osebnih podatkov.14 V luči tveganj pri uvajanju umetne inteligence v delovna razmerja velja kot pomembnega izpostaviti 22. člen GDPR, ki izrecno prepoveduje odločitve, ki temelji zgolj na avtomatizirani obdelavi. Izjema velja le, če je odločitev: »nujna za sklenitev ali izvajanje pogodbe med posameznikom, na katerega se nanašajo osebni podatki, in upravljavcem podatkov; dovoljena v pravu Unije ali pravu države članice, ki velja za upravljavca in določa tudi ustrezne ukrepe za zaščito pravic in svoboščin ter zakonitih interesov posameznika, na katerega se nanašajo osebni podatki, ali utemeljena z izrecno privolitvijo posameznika, na katerega se nanašajo osebni podatki« (drugi odstavek 22. člena GDPR). Navedena določba tako prepoveduje npr. odpoved pogodbe o zaposlitvi, ki bi temeljila izključno na uporabi umetne inteligence, kar velja označiti za dobrodošlo. Še vedno pa se pojavljajo pomisleki o (ne)dopustnosti odločitve o odpovedi, ki je bila sprejeta s pomočjo (ne pa zgolj z) uporabo umetne inteligence. Navkljub izostanku konkretnih določb glede obdelave osebnih podatkov v delovnih razmerjih GDPR v 88. členu ureja obdelavo v okviru zaposlitve. Člen določa, da lahko države članice »v zakonu ali kolektivnih pogodbah določijo 13 Prav tam. 14 Polajžar (2021). Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 226 Članki / Articles podrobnejša pravila za zagotovitev varstva pravic in svoboščin v zvezi z obdelavo osebnih podatkov zaposlenih v okviru zaposlitve.« Točka 155 preambule GDPR pojasnjuje, da pojem kolektivne pogodbe vključuje različne oblike sporazumov, ki se sklepajo med delavskimi predstavniki in delodajalcem (odvisno od nacionalnega sistema urejanja delovnih razmerij na ravni delodajalca). Navedena določba torej državam članicam izrecno dovoljuje, da vprašanja dopustnosti nadzora na delovnem mestu (obdelave osebnih podatkov) uredijo s posebnimi pravili, ki pa morajo biti v skladu s splošno ureditvijo po GDPR. Pomembno je opozoriti tudi na 80. člen GDPR, ki državam članicam omogoča, da sindikatom omogočijo vložitev postopkov v imenu svojih članov.15 V skladu z drugim odstavkom 80. člena GDPR lahko namreč države članice določijo, da ima katero koli telo, organizacija ali združenje (neprofitno telo, organizacija ali združenje), odvisno od pooblastila posameznika, na katerega se nanašajo osebni podatki, v tej državi članici pravico, da vloži pritožbo pri pristojnem nadzornem organu (informacijski pooblaščenec) in da uveljavlja pravice v 78. členu (Pravica do vložitve pritožbe pri nadzornem organu) in 79. členu (Pravica do učinkovitega pravnega sredstva zoper nadzorni organ), če meni, da so pravice posameznika, na katerega se nanašajo osebni podatki, iz te Uredbe kršene zaradi obdelave. Poleg temeljnih pravil, ki so urejena in veljajo že na podlagi GDPR, velja v zvezi z delovnim razmerjem posebej omeniti še 77. člen ZVOP-2 o videonadzoru dostopa v uradne službene oziroma poslovne prostore, 78. člen ZVOP-2 o videonadzoru na delovnih mestih in 92. člen ZVOP-2 o objavi podatkov delavcev.16 Čeprav GDPR z vidika naslavljanja tveganj, povezanih z uvedbo umetne inteligence v delovna razmerja, predstavlja zelo obetaven instrument, pa mnogi avtorji utemeljeno opozarjajo, da so načela in merila GDPR precej prožna, kar otežuje njeno dosledno uporabo.17 Evropski parlament je tako že predlagal, da bi Evropski odbor za varstvo podatkov sprejel smernice v zvezi z umetno inteligenco, profiliranjem in popolnoma avtomatiziranim odločanjem v kadrovskem okolju. 15 O tem glej v McCullagh, Tambou, Bourton (2019). 16 O vprašanjih varstva osebnih podatkov v delovnih razmerjih glej tudi Smernice Informacijskega pooblaščenca; dostopno na: https://www.ip-rs.si/fileadmin/user_upload/Pdf/smernice/ Smernice_-_Varstvo_OP_v_delovnih_razmerjih_verzija_1.1_koncna.pdf. 17 Adams-Prassl (2022); Stefano in Wouters (2022). 227 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles 3. NOVI IZZIVI ZA PROTIDISKRIMINACIJSKO PRAVO Ker se algoritmi usposabljajo na podlagi podatkov, ki odražajo preteklo vedenje, lahko ohranjajo enake potencialno diskriminatorne vzorce, ki obstajajo v družbi. To še posebej velja, če upoštevamo, da je namen uporabe umetne inteligence praviloma povezan s povečanjem produktivnosti.18 Številne raziskave že kažejo, da lahko avtomatizirano odločanje ponovi ali celo okrepi vzorce diskriminacije, ki obstajajo na trgu dela.19 Tveganje diskriminacije je še posebej veliko v primeru, da se algoritmi uporabljajo za odločanje.20 Primeri in načini, kako lahko uporaba umetne inteligence vodi v diskriminacijo, so bili obširno obravnavani v splošni literaturi o umetni inteligenci in protidiskriminaciji v EU.21 Hkrati pa pravne kategorije, vključno s posredno diskriminacijo, morda ne bodo zadostovale, da bi delodajalci odgovarjali za uporabo umetne inteligence, ki prinaša diskriminatorne rezultate. J. Adams-Prassl izpostavlja, je treba za oblikovanje učinkovitih pravnih rešitev razumeti bistveno drugačne strukture nadzora in odločanja v ozadju algoritemskega upravljanja ter ustrezno oblikovati pravne odzive – vse do popolnega ponovnega razmisleka o pravnih tehnikah, ki so potrebne za preprečevanje diskriminacije na delovnem mestu.22 Težava, povezana z obstoječim pravnim okvirom proti-diskriminacijskega prava je, da je glavna metoda uveljavljanja njenih pravnih določil vložitev tožbe na sodišču s strani posameznikov. Ker pa je avtomatizirana diskriminacija praviloma abstraktna, 18 De Stefano (2018), Delovna skupina za varstvo podatkov iz člena 29 (2017). 19 Odločitve o zaposlovanju lahko odražajo pretekle odločitve in odpuščanja na podlagi spola, rase ali genetske pogojenosti z določenimi boleznimi (Ajunwa et al. (2017)). Tudi če so podatki, zbrani od zaposlenih, anonimizirani, so lahko posamezniki še vedno določljivi, občutljive osebne podatke pa je mogoče uporabiti njim v škodo (Adams-Prassl (2019); De Stefano (2018)). 20 Čeprav odločitve, ki temelji zgolj na avtomatizirani obdelavi na podlagi določbe 22. člena GDPR niso dopustne, pa to še ne prepoveduje uporabo algoritmov kot pomoč pri sprejemanju odločitev. 21 Glej npr. K. Lutman (2023), Artificial Intelligence and the Prohibition of Discrimination in the EU: A Private Law Perspective, v: Završnik, A., Simončič, K. (ur.), Artificial Intelligence, Social Harms and Human Rights. Critical Criminological Perspectives. Palgrave Macmillan, Cham; F. J. Zuiderveen Borgesius (2020), Strengthening legal protection against discrimination by algorithms and artificial intelligence. The International Journal of Human Rights, 24(10), str. 1572–1593; R. Xenidis, L. Senden (2020), EU Non-discrimination Law in the Era of Artificial Intelligence: Mapping the Challenges of Algorithmic Discrimination. V: General Principles of EU Law and the EU Digital Order, Kluwer, 2020; S. Laulom (2022), Discrimination by Algorithms at Work. V: T. Gyulavári, E. Menegatti (2022), str. 271–290. 22 Adams-Prassl (2019). Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 228 Članki / Articles subtilna in neoprijemljiva, lahko kandidati in zaposleni težko prepoznajo diskriminacijo in posledično sprožijo pravne postopke. Hkrati velja, da četudi posameznik meni, da obstoji tveganje za diskriminatorne prakse, mora tožeča stranka predložiti dovolj dejstev, preden se dokazno breme obrne, kar še oteži sodno varstvo pravic.23 Diskriminacijo je pogosto težko odkriti, saj določene zahteve npr. za izpolnjevanja pogojev za delovno mesto, običajno kot take niso diskriminatorne, vendar pa algoritem pri iskanju ustreznih kandidatov vključi dodatne informacije, ki lahko vodijo do diskriminatornih rezultatov. K. Lutman v zvezi s tem opozarja, da protidiskriminacijska zakonodaja EU še zdaleč ni sposobna za boj proti novim oblikam diskriminacije, ki jih prinašajo digitalne tehnologije in algoritmi, kar pa zaenkrat prelaga breme na države članice in njihove nacionalne zakonodaje.24 4. VAROVALKE V ZAKONODAJI NA PODROČJU VARNOSTI IN ZDRAVJA PRI DELU Umetna inteligenca bo pomembno vplivala na varnost in zdravje pri delu, zato postaja relevanten tudi pravni okvir, ki ureja to področje.25 Na ravni EU temeljni pravni akt predstavlja Direktiva Sveta 89/391/EGS o uvajanju ukrepov za spodbujanje izboljšav varnosti in zdravja delavcev pri delu,26 na nacionalni ravni pa Zakon o varnosti in zdravju pri delu (ZVZD-1).27 Iz obeh izhaja nedvomna obveznost delodajalca zagotoviti varnost in zdravje delavcev v vseh vidikih, povezanih z delom. Čeravno (zaenkrat) niti Direktiva niti ZVZD-1 ne naslavljata konkretnih vprašanj, povezanih z uvajanjem umetne inteligence v delovna razmerja, pa vsebujeta nekatere relevantne določbe, ki jih je treba pri tem upoštevati.28 Tako se morajo o vprašanjih varnosti in zdravja pri delu v skladu s 13. členom ZVZD-1 delodajalci 23 Wachter, Mittelstadt in Russell (2021), str. 5; De Stefano in Wouters (2022), str. 48-49. 24 Lutman (2023), str. 78. 25 O tem glej denimo Todolí-Signes (2021). 26 Direktiva Sveta 89/391/EGS z dne 12. junija 1989 o uvajanju ukrepov za spodbujanje izboljšav varnosti in zdravja delavcev pri delu, UL L 183, 29.6.1989. 27 Uradni list RS, št. 43/11. 28 To dopolnjujejo tudi drugi pravni akti, kot je denimo Direktiva 2009/104/ES z dne 16. septembra 2009 o minimalnih varnostnih in zdravstvenih zahtevah za uporabo delovne opreme delavcev pri delu, UL L 260, 3.10.2009. 229 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles in delavci oziroma njihovi predstavniki medsebojno obveščati, skupaj posvetovati ter soodločati v skladu s tem zakonom in predpisi o sodelovanju delavcev pri upravljanju. Uporabo umetne inteligence bi bilo nedvomno treba vključiti v oceno tveganja (17. člen ZVZD-1), delodajalec pa bi moral izjavo o varnosti z oceno tveganja objaviti na običajen način in jo v delu, ki se na njih nanaša, posredovati delavcem vsakokrat, ko se spremeni in dopolni (18. člen ZVZD-1). Poleg navedenega mora delodajalec v skladu s 37. členom ZVZD-1 delavce seznaniti (med drugim) o vrstah nevarnosti v delovnem okolju in na delovnem mestu, o varnostnih ukrepih, potrebnih za preprečevanje nevarnosti in zmanjšanje škodljivih posledic, kar lahko vključuje tudi uporabo umetne inteligence v delovnih razmerjih.29 Glede na novosti in specifike, ki jih na (določena ali vsa) delovna mesta prinaša uvedba umetne inteligence, pa mora delodajalec poskrbeti tudi za ustrezno usposabljanje delavcev, ki bodo pri svojem delu uporabljali umetno inteligenco. V skladu z določbami s področja varnosti in zdravja pri delu morajo delodajalci pri uvajanju umetne inteligence na delovnem mestu opraviti oceno tveganja, da ugotovijo in obravnavajo tveganja za varnost in zdravje pri delu. To obveznost je treba upoštevati in uresničevati v praksi, saj se (upoštevajoč obstoječe tuje raziskave in literaturo) zdi malo verjetno, da bi delodajalci v svojih ocenah tveganja namenili potrebno pozornost vplivu programske opreme umetne inteligence na zdravje in varnost delavcev, vključno z njenimi psihosocialnimi elementi.30 Pomembno bo povečati ozaveščenost o nekaterih posebnih tveganjih za varnost in zdravje pri delu, povezanih z umetno inteligenco, in zagotoviti ustrezen ter pravočasen odziv na ta tveganja (tudi) v okviru instrumentov varnosti in zdravja pri delu.31 29 Glej tudi prvi odstavek 6. člena in 11. člen Direktive 89/391/EGS. 30 De Stefano in Wouters (2022). 31 Prvi poskus tega lahko najdemo v 7. členu predloga Direktive o izboljšanju delovnih pogojev pri platformnem delu, ki spletne platforme zavezuje k rednemu spremljanju in ocenjevanju učinka posameznih odločitev, ki se sprejemajo ali podpirajo z avtomatiziranimi sistemi spremljanja in odločanja, na delovne pogoje. Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 230 Članki / Articles 5. PRAVICA DO IZOBRAŽEVANJA IN KOLEKTIVNE PRAVICE KOT PROTIUTEŽI INFORMACIJSKI ASIMETRIJI IN NERAVNOVESJU MOČI Številni avtorji opozarjajo, da je zelo težko, pogosto celo nemogoče, pojasniti odločitev in delovanje umetne inteligence. Poleg tega lahko zapletenost algoritemskega upravljanja delodajalcem omogoča, da odgovornost za vodstvene odločitve prenesejo na stroje oz. umetno inteligenco,32 s tem pa prikrijejo odločitve o pravicah iz delovnega razmerja, ki so lahko v nasprotju z delovnim pravom in/ali predpisi o varstvu osebnih podatkov.33 Zato se postavlja vprašanje, kako bi lahko posamezniki, zlasti delavci, pa tudi predstavniki delavcev, ki imajo različne ravni razumevanja umetne inteligence, dostopali do odločitev, sprejetih s pomočjo le-te, jih razumeli in izpodbijali. Tudi pravna varnost in učinkovito uveljavljanje pravnih sredstev zahtevata, da je odločitev (tudi v primeru uporabe umetne inteligenca) obrazložena in jo je mogoče pojasniti tudi za nazaj.34 V zvezi s tem se izpostavlja pomen pravice do izobraževanja in usposabljanja,35 saj je treba delavce usposobiti za delo z novimi tehnologijami, hkrati pa lahko ta pravica igra pomembno vlogo pri razumevanju delovanja in vloge umetne inteligence v delovnem razmerju. Čeprav ne gre zanemariti individualnih pravic delavcev do izobraževanja in usposabljanja pri zagotavljanju transparentnosti uporabe umetne inteligence v delovnih razmerjih, se delovno pravo v zvezi s tem praviloma v večji meri opira na kolektivne pravice in vključevanje predstavnikov delavcev, ki naj bi imeli več strokovnega znanja.36 Poleg izobraževanja in usposabljanja delavcev, lahko ključno vlogo pri naslavljanju izzivov kot so informacijska asimetrija in posledično neravnovesje moči igra vključitev predstavnikov delavcev v proces vpeljave umetne inteligence in določitvijo jasnih pravil o uporabi algoritmov in njihovem delovanju.37 Evropski ekonomsko-socialni odbor denimo izpostavlja, da bi morali »EU, nacionalni organi in socialni partnerji skupaj ugotoviti, na katere segmente trga dela bo 32 Adams-Prassl (2019); Mateescu in Nguyen (2019). 33 Gaudio (2022). 34 Bagari (2022). 35 V skladu s 170. členom ZDR-1 ima delavec pravico in dolžnost do stalnega izobraževanja, izpopolnjevanja in usposabljanja v skladu s potrebami delovnega procesa, delodajalec pa mu je to dolžan zagotoviti. 36 Hendrickx (2019). 37 Bagari (2022). 231 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles vplivala umetna inteligenca ter v kakšnem obsegu in kdaj bo do tega prišlo, in poiskati rešitve, da se bo mogoče soočiti s posledicami, ki jih bo to imelo na zaposlovanje, naravo dela, socialne sisteme in (ne)enakost.« To izhaja iz Priporočila MOD o prenehanju delovnega razmerja št. 166,38 ki predlaga uvedbo postopka posvetovanja pred uvedbo sprememb v proizvodnji, organizaciji, tehnologiji ipd., ki bi lahko imele za posledico prenehanje delovnih razmerij.39 Tudi različni avtorji izpostavljajo, da imajo socialni dialog in kolektivna pogajanja ključno vlogo pri ublažitvi vpliva umetne inteligence na trg dela, olajšanju uvajanja novih tehnologij ter dopolnjevanju javnih politik pri uvajanju programov prekvalifikacije in izpopolnjevanja.40 Na ravni EU temeljni pravni vir predstavlja Direktiva 2002/14/ES o določitvi splošnega okvira za obveščanje in posvetovanje z delavci v Evropski skupnosti,41 ki določa splošni okvir za obveščanje in svetovanje delavcev v podjetjih, ki zaposlujejo najmanj 20 ali 50 delavcev, odvisno od izbire države članice EU. Dolžnost obveščanja in posvetovanja obveščanje velja za vse odločitve, ki lahko povzročijo znatne spremembe v organizaciji dela ali v pogodbenih razmerjih (člen 4(2)(c) Direktive). Iz navedene določbe izhaja, da je potrebno predstavnike zaposlenih občasno obveščati o izvajanju novih orodij umetne inteligence in se z njimi posvetovati. Če gre za bistvene spremembe organizacije dela, potem naj bi se ta posvetovanja opravila z namenom doseganja sporazuma (člen 4(4)(e) Direktive). Navkljub navedeni pravni podlagi, pa je učinkovitost pravice predstavnikov delavcev do obveščenosti in posvetovanja delno odvisna od tega, kako domača zakonodaja in sodišča izvajajo predmetno Direktivo. Pri tem se odpira vprašanja kdaj šteti, da umetna inteligenca povzroči bistvene spremembe v organizaciji dela in ali je bistvena narava spremembe sploh pomembna.42 Veljajo 38 Dostopno na: https://www.ilo.org/dyn/normlex/en/f?p=NORMLEXPUB:12100:0::NO: :P12100_ILO_CODE:R166. 39 20. člen Priporočila. 40 Glej npr. Krämer in Cazes (2022); De Stefano in Taes (2021); Daniel Vaughan-Whitehead Danies, Ghellab Youcef in Rafael Muñoz de Bustillo Llorente (2021), The New World of Work, Challenges and Opportunities for Social Partners and Labour Institutions, Mednarodna organizacija dela, Edward Elgar Publishing. O možnostih predstavnikov delavcev in delodajalcev glej tudi prispevek A. Polajžarja. 41 Direktiva 2002/14/ES Evropskega parlamenta in Sveta z dne 11. marca 2002 o določitvi splošnega okvira za obveščanje in posvetovanje z delavci v Evropski skupnosti (UL L 080 23.3.2002, str. 29). 42 De Stefano in Wouters (2022), str 41-42. Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 232 Članki / Articles bi namreč šteti, da je posvetovanje z namenom doseganja sporazuma potrebno vedno, ko umetna inteligenca vpliva na delovne pogoje.43 6. REŠITVE V NOVEJŠIH PRAVNIH INSTRUMENTIH EU Umetna inteligenca ima že nekaj časa pomembno vlogo na ravni EU, vpliv digitalizacije in umetne inteligence na trg dela pa je v evropski javni razpravi pritegnil veliko pozornosti. Z vidika uporabe umetne inteligence na področju dela je relevantno predvsem sekundarno pravo EU, kljub temu pa velja opozoriti na pomembne vidike in instrumente primarnega prava EU. Poleg že sprejetih aktov se o nekaterih pomembnih pobudah, povezanih z umetno inteligenco, še vedno razpravlja. V okviru prvih velja izpostaviti predvsem zgoraj obravnavano GDPR in Direktivo (EU) 2019/1152 Evropskega parlamenta in Sveta z dne 20. junija 2019 o preglednih in predvidljivih delovnih pogojih v Evropski uniji (v nadaljevanju: Direktiva (EU) 2019/1152),44 z vidika drugih pa predlog uredbe o umetni inteligenci in predlog direktive o izboljšanju delovnih pogojev pri delu na platformah. 6.1. Direktiva (EU) 2019/1152 o preglednih in predvidljivih delovnih pogojih Čeprav Direktiva (EU) 2019/1152 uporabe umetne inteligence v delovnih razmerjih ne naslavlja neposredno, lahko nekatere njene določbe predstavljajo pomembno pravno podlago pri naslavljanju tveganj, ki se lahko pojavijo pri uporabi umetne inteligence na področju dela. Tako mora denimo delodajalec v skladu s 3. členom Direktive (EU) 2019/1152 vsakemu delavcu v pisni obliki zagotoviti informacije, zahtevane na njeni podlagi. Te informacije se lahko zagotovijo v papirni ali elektronski obliki pod pogojem, da so delavcu dostopne in da jih lahko shranjuje in natisne. Direktiva (EU) 2019/1152 tudi določa, da mora delodajalec delavcu zagotoviti informacije o bistvenih vidikih delovnega razmerja, kot so razporeditev dela, dolžina delovnega dneva, ureditve nadurnega dela in 43 Primer dobre prakse lahko predstavlja španski zakon o dostavljavcih, katerega glavni cilj je varovanje delovnopravnih pravic oseb, ki se ukvarjajo z dostavo preko digitalnih platform. O vsebini zakona glej Todolí-Signes Adrian (2021), Spanish riders law and the right to be informed about the algorithm. European Labour Law Journal, str. 12(3), 399–402. 44 UL L 186, 11. 7. 2019. 233 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles pripadajoče plačilo ter morebitne ureditve izmenskega dela (4. člen Direktive (EU) 2019/1152). Kadar je delovni urnik zaposlenega nepredvidljiv, delodajalec od zaposlenega ne more zahtevati opravljanja dela, če nista izpolnjena dva določena pogoja. Prvi je, da delo poteka v okviru vnaprej določenih referenčnih ur in dni, drugi pa, da delodajalec delavca o delovni nalogi obvesti vnaprej v razumnem roku, določenem v skladu z nacionalnim pravom, kolektivnimi pogodbami ali prakso (10. člen Direktive (EU) 2019/1152). Čeprav naša zakonodaja že vsebuje temeljne splošne določbe glede trajanja delovnega časa, njegovega razporejanja, nadurnega dela, referenčnih obdobij itd., Tičar (2020) in Končarjeva (2018) ugotavljata, da bo treba področje verjetno normativno nadgraditi. Prav tako pa je pomembno opozoriti, da v našem delovnopravnem sistemu pogodba o delu na zahtevo (on deman contract) nima narave ali statusa pogodbe o zaposlitvi, ampak bi jo še najlažje primerjali s podjemno pogodbo ali drugo obliko pogodbenega sodelovanja (npr. prek s. p.), za katerega delovno pravo praviloma ne velja.45 Z vidika varstva delavcev v negotovih oblikah dela prvi odstavek 12. člena Direktive (EU) 2019/1152 obvezuje države članice, da zagotovijo, da lahko delavec z vsaj šestmesečno delovno dobo pri istem delodajalcu, ki je zaključil morebitno poskusno dobo, zahteva obliko zaposlitve z bolj predvidljivimi in varnejšimi delovnimi pogoji, kadar je ta na voljo, in prejme obrazložen pisni odgovor, pri čemer lahko omejijo pogostost delavčevih zahtev. Ker pa mora delodajalec na takšno zahtevo predložiti le obrazložen pisni odgovor, ni jasno, ali bo ta določba prinesla dejanske spremembe. Kot je že bilo pojasnjeno, je eno izmed pomembnih tveganj pri uvajanju UI nepreglednost in neasimetričnost informacij, hkrati s tem pa tudi težavnost razumevanja delovanja umetne inteligence. V luči tega je relevanten 13. člena Direktive (EU) 2019/1152, ki je ureja obveznost delodajalca, da delavcu zagotovi usposabljanje, ki mu omogoča opravljanje dela, za katerega je zaposlen, pri čemer tako usposabljanje delavcu zagotovi brezplačno in se šteje v delovni čas ter, kadar je mogoče, poteka med delovnim časom.46 Izpostaviti velja tudi pravico do učinkovitega in nepristranskega reševanja sporov ter pravico do pravnega sredstva ter varstvo delavcev pred odpovedjo oz. enakovrednimi ukrepi, če slednji uveljavljajo pravico, ki jo zagotavlja zadevna Direktiva. 45 Tičar (2020). 46 Pri tem se pojavlja vprašanje, ali morda naš ZDR-1 to področje že ureja širše in temeljiteje kot Direktiva, kar bi z vidika delavca lahko ocenili za višjo raven varstva, ki se z implementacijo Direktive ne sme zniževati (Tičar, 2020). Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 234 Članki / Articles 6.2. Predlog Direktive o izboljšanju delovnih pogojev pri platformnem delu Najbolj oprijemljive pravne rešitve za naslavljanje tveganj pri uvajanju umetne inteligence v delovna razmerja najdemo v predlogu Direktive Evropskega parlamenta in Sveta o izboljšanju delovnih pogojev pri platformnem delu (angl. Proposal for a Directive of the European Parliament and of the Council on improving working conditions in platform work),47 ki ga je Evropska komisija predlagala decembra 2021. Po dolgi razpravi in iskanju kompromisov s strani različnih deležnikov, je Odbor Evropskega parlamenta za zaposlovanje decembra 2022 sprejel spremembe Direktive, ki je bila nato 2. februarja 2023 potrjena v Evropskem parlamentu.48 Z vidika uvajanja umetne inteligence na trg dela je zelo pomembno poglavje III, ki predstavlja prvo pravno regulacijo algoritemskega upravljanja (predlog direktive sicer uporablja izraz algoritmično upravljanje) na ravni EU. Predlog direktive v 6. členu tako vsebuje zahtevo, da morajo digitalne platforme platformne delavce obveščati o uporabi in ključnih značilnostih avtomatiziranih sistemov, ki se uporabljajo za spremljanje, nadziranje ali ocenjevanje opravljanja dela platformnih delavcev z elektronskimi sredstvi, in o avtomatiziranih sistemih odločanja, ki se uporabljajo za sprejemanje ali podpiranje odločitev, ki znatno vplivajo na delovne pogoje platformnih delavcev. Informacije, ki jih je treba zagotoviti, vključujejo kategorije dejavnosti, ki se spremljajo, nadzorujejo in ocenjujejo (vključno s stranmi strank), ter glavne parametre, ki jih taki sistemi upoštevajo pri avtomatiziranih odločitvah. Člen določa, v kakšni obliki in kdaj je treba te informacije zagotoviti, ter da jih je treba na zahtevo predložiti tudi organom za delo in predstavnikom platformnih delavcev. Poleg tega navedena določba predpisuje, da platforme ne smejo obdelovati osebnih podatkov v zvezi s platformnimi delavci, ki niso neločljivo povezani in nujno potrebni za izvajanje njihove pogodbe. To vključuje podatke o zasebnih pogovorih, zdravstvenem stanju, psihološkem ali čustvenem stanju platformnega delavca in vse podatke, zbrane, ko platformni delavec ne ponuja ali opravlja platformnega dela. V skladu s 7. členom morajo platforme redno spremljati in ocenjevati učinek, ki jih imajo 47 Prvoten predlog je dostopen na: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM% 3A2021%3A762%3AFIN. Besedilo se je tekom zakonodajnega postopka nekoliko spremenilo, vendar v času pisanja zadnji predlog še ni javno dostopen. 48 To Evropskemu parlamentu omogoča, da začne pogajanja s Svetom in Komisijo o končnem besedilu. 235 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles posamezne odločitve, ki se sprejemajo ali podpirajo z avtomatiziranimi sistemi spremljanja in odločanja, na delovne pogoje. Platforme bodo morale zlasti oceniti tveganja avtomatiziranih sistemov spremljanja in odločanja za varnost in zdravje platformskih delavcev ter zagotoviti, da taki sistemi nikakor ne bodo povzročali neupravičenega pritiska na platformske delavce ali kako drugače ogrožali njihovega telesnega in duševnega zdravja. Člen določa tudi, da morajo digitalne platforme dela zagotoviti zadostne človeške vire za spremljanje avtomatiziranih sistemov. Osebe, ki jih digitalna platforma dela zadolži za to nalogo, morajo imeti potrebne kompetence, usposobljenost in pooblastila za opravljanje svoje funkcije ter morajo biti zaščitene pred negativnimi posledicami (kot so odpoved ali druge sankcije) v primeru razveljavitve avtomatizirane odločitve. 8. člen nato vsebuje pravico platformnih delavcev, da od platforme dobijo pojasnilo za odločitev, ki jo sprejmejo ali podpirajo avtomatizirani sistemi in ki znatno vpliva na njihove delovne pogoje. V ta namen bi jim morala platforma omogočiti, da s kontaktno osebo razpravljajo o dejstvih, okoliščinah in razlogih take odločitve ter jih razjasnijo. Poleg tega člen od platform zahteva, da predložijo pisno obrazložitev vsake odločitve o omejitvi, začasni ukinitvi ali zaprtju računa platformnega delavca, zavrnitvi plačila za delo, ki ga opravi platformni delavec, ali odločitvi, ki vpliva na njegov pogodbeni status. Kadar pridobljena razlaga ni zadovoljiva ali če delavci menijo, da so njihove pravice kršene, imajo tudi pravico, da od platforme zahtevajo pregled odločitve in da v enem tednu pridobijo utemeljeni odgovor. Platforme morajo odločitev nemudoma popraviti ali, če to ni več mogoče, ponuditi ustrezno odškodnino, če odločitev krši pravice zadevnega delavca. V skladu z 9. členom morajo platforme predstavnike platformnih delavcev ali, če teh predstavnikov ni, delavce same obveščati o algoritmičnem upravljanju in se z njimi posvetovati, na primer če nameravajo uvesti nove avtomatizirane sisteme spremljanja ali odločanja ali te sisteme bistveno spremeniti. Namen te določbe je spodbujati socialni dialog o algoritmičnem upravljanju. Glede na kompleksnost vsebine lahko zadevnim predstavnikom ali platformnim delavcem pomaga strokovnjak po lastni izbiri. Ta člen ne posega v obstoječe zahteve glede obveščanja in posvetovanja v Direktivi 2002/14/ES. Zadnji, 10. člen, poglavja zagotavlja, da se določbe o preglednosti, človekovem spremljanju in pregledovanju v 6., 7. in 8. členu, ki se nanašajo na obdelavo osebnih podatkov s strani avtomatiziranih sistemov, uporabljajo tudi za osebe, ki opravljajo platformno delo in nimajo pogodbe o zaposlitvi ali niso v delovnem razmerju, tj. resnično samozaposlene osebe. To ne vključuje določb o zdravju in varnosti pri delu, ki so specifične za delavce. Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 236 Članki / Articles Čeprav velja pozdraviti pravno urejanje algoritemskega upravljanja, težavo predstavlja predvsem osebna veljavnost Direktive. Ta namreč ureja izključno delo prek spletnih platform (1. člen direktive), kar pomeni, da določbe o algoritemskem upravljanja za tradicionalna delovna razmerja ne veljajo. Zato se na ravni EU že razmišlja o pripravi predloga direktive, ki bi izrecno naslovil (le) to problematiko. Na nujnost takšne direktive že opozarjajo tudi nekateri avtorji.49 6.3. Predlog Uredbe o umetni inteligenci Poleg delovnopravnih instrumentov se veliko upanja polaga tudi v predlog Uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (Akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov unije.50 Uredba o umetni inteligenci sicer ne ureja umetne inteligence kot tehnologije, temveč se osredotoča na umetnointeligenčne sisteme, ki so dani na trg ali v uporabo. Predlaga večplasten pristop, ki temelji na tveganju. Pri tem pristopu so načini uporabe umetne inteligence, ki povzročajo nesprejemljivo tveganje, prepovedani. Načini uporabe, ki ustvarjajo veliko tveganje, so dovoljeni, če so izpolnjene določene zahteve, medtem ko so načini uporabe z minimalnim ali majhnim tveganjem dovoljeni večinoma brezpogojno. Uredba o umetni inteligenci tako uvaja: zahteve in specifikacije umetnointeligenčnih sistemov velikega tveganja (8.–15. člen), strožje obveznosti ponudnikov in uporabnikov tovrstnih sistemov velikega tveganja in drugih strank (16.–28. člen), pri najbolj tveganih sistemih pa prepoveduje njihovo dajanje na trg, v uporabo ali v obratovanje (5. člen).51 Vendar pa stroka že izpostavlja, da Predlog za delavce ne prinaša ustrezne zaščite, saj za umetnointeligenčne sisteme na področju dela (4. točka Priloge III) predvideva, da se postopek ugotavljanja skladnosti izvede na podlagi notranje kontrole, ki ne predvideva sodelovanja priglašenega organa,52 hkrati pa uporabe teh sistemov ne problematizira oziroma njihovo uporabo dopušča, pri čemer zadošča (že) njihova skladnost s postopkovnimi zahtevami. Nekateri avtorji prav tako opozarjajo na tveganje, da bo Uredba v primeru sprejetja prevladala nad 49 Ponce del Castillo (2021). 50 COM(2021) 206 final, 2021/0106(COD) z dne 21. aprila 2021. 51 O tem glej denimo Bagari (2022); Šerbec in Polajžar (2022). 52 To izhaja iz drugega odstavka 43. člena Predloga. 237 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles bolj omejevalnimi zakonodajami in sprožila deregulacijo v sistemih delovnih in industrijskih razmerij po Evropi, saj Uredba ne vsebuje klavzule, primerljive z že omenjenim 88. členom GDPR.53 Poleg navedenega se izpostavlja, da je Komisija izbrala ozek pristop, ki temelji na tveganju, zaradi česar vidiki, kot so učinek umetne inteligence na temeljne pravice delavcev in delovno okolje, niso obravnavani v zadostni meri, hkrati pa se vsebina Uredba na določenih mestih prekriva z različnimi področji prava EU.54 Uredba ne obravnava niti ključnega vprašanja odgovornosti za škodo, ki je posledica umetnointeligenčnih sistemov. Končni uporabniki, ki menijo, da jim je določen umetnointeligenčni sistem povzročil škodo, nimajo dostopa do nobenega učinkovitega mehanizma za povrnitev škode niti s strani uporabnikov tovrstnih sistemov niti ponudnikov.55 7. SKLEPNE MISLI Spremembe, ki jih bo v svet dela prinesla umetna inteligenca, zahtevajo temeljit premislek o tradicionalnem okvirju delovnega prava in o pravicah, ki jih lahko uporaba umetne inteligence v svetu dela ogrozi. V zvezi s tem lahko že danes ugotovimo, da so tveganja, ki jih uporaba umetne inteligence prinaša v delovna razmerja, različna in terjajo pravočasen ter učinkovit odziv tako na nacionalni kot na evropski ravni. Čeprav lahko predvsem na ravni EU že najdemo nekaj novejših pravnih instrumentov, ki neposredno naslavljajo nekatera tveganja, ki jih prinaša uvedba umetne inteligence v delovnih razmerjih, noben od teh instrumentov problematike umetne inteligence na trgu dela ne obravnava celovito. Zato velja pritrditi nekaterim avtorjem, ki se zavzemajo za direktivo o uporabi umetne inteligence v delovnih razmerjih, pri tem pa bo ključno prepoznati in odpraviti nekatere pomanjkljivosti v obstoječih pravnih aktih in si hkrati prizadevati za njihovo medsebojno skladnost. Prav tako nujen je pravočasen pristop na nacionalni ravni. Potrebna je evalvacija obstoječih pravnih pravil in socialni dialog o potrebnih spremembah tako glede relevantnih zakonov kot kolektivnih pogodb, da se zagotovi delujoč in učinkovit pravni okvir za naslavljanje izzivov, ki jih prinaša uporaba umetne inteligence 53 O tem Adams-Prassl (2022); De Stefano in Wouters (2022); Wass (2022). 54 Glej npr. Cefaliello in Kullmann (2022). 55 Ponce Del Castillo (2021). Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 238 Članki / Articles v delovnih razmerjih. Prav tako pomembno je dosledno izvajanj določb, ki že ponujajo nekatere rešitve, kot so določbe glede varstva osebnih podatkov, prepoved diskriminacije, pravni okvir varnosti in zdravja pri delu, pravica do stalnega izobraževanja in usposabljanja, obveznost medsebojnega obveščanja in posvetovanja pri uvajanju umetne inteligence v delovni proces, ipd., pa tudi priprava ustreznih smernic pravno skladnega ravnanja s strani pristojnih organov. Kjer obstoječi pravni okviri ne dajejo odgovorov ali so presplošni glede na posebnosti odnosov med delodajalci in delojemalci, bo treba rešitve iskati tako na ravni EU kot na nacionalni ravni, in sicer na podlagi razprave, posvetovanja in socialnega dialoga. Pri tem mora biti vodilo vseh deležnikov, vključno z evropskimi institucijami in državami članicami, zagotoviti dostojne in pravične delovne pogoje ne glede na spreminjajočo se naravo dela in novosti na trgu dela, predvsem pa poskrbeti, da se tehnologija uporablja v podporo dostojnemu delu in ne kot grožnja slednjemu. VIRI IN LITERATURA - ADAMS-PRASSL Jeremias (2019), What if Your Boss Was an Algorithm? The Rise of Artificial Intelligence at Work. Comparative Labor Law & Policy Journal, 41(1), str. 123-146. - ADAMS-PRASSL Jeremias (2022), Regulating algorithms at work: Lessons for a ‘European approach to artificial intelligence.’ European Labour Law Journal, 13(1), str. 30–50. - AJUNWA Ifeoma, CRAWFORD Kate, SCHULTZ Jason (2017), Limitless worker surveillance. California Law Review, 105(3), str. 735–776. - BAGARI Sara (2022), Uporaba algoritmov na področju delovnih razmerij in socialne varno- sti. Delavci in Delodajalci, 22(1), str. 41–56. - CEFALIELLO Aude, KULLMANN Miriam (2022), Offering false security: How the draft artificial intelligence act undermines fundamental workers rights. European Labour Law Journal, 13(4), str. 542–562. - EVROPSKI EKONOMSKO-SOCIALNI ODBOR (2021), Mnenje - Predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteli- genci) in spremembi nekaterih zakonodajnih aktov Unije, 22. september 2021, UL C 517/61, 22.12.2021. - EVROPSKI PARLAMENT (2021), The future of work: Trends, challenges and potential initiati- ves. EPRS Ideas Paper Thinking About Future EU Policy. Dostopno na: https://www.europarl. europa.eu/RegData/etudes/BRIE/2021/679097/EPRS_BRI(2021)679097_EN.pdf (dostop 1. 4. 2022). - DELOVNA SKUPINA ZA VARSTVO OSEBNIH PODATKOV IZ ČLENA 29 (2017), Mnenje 2/2017 o obdelavi podatkov pri delu, sprejeto 8. junija 2017, WP 249. Dostopno na: https://ec.europa. eu/newsroom/article29/items/610169. 239 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles - GAUDIO Giovanni (2022), Algorithmic Bosses Can’t Lie! How to Foster Transparency and Limit Abuses of the New Algorithmic Managers, Comparative Labor Law & Policy Journal, vol. 43(3). - GYULAVÁRI Tamás, MENEGATTI Emanuele (ur.) (2022), Decent Work in the Digital Age: European and Comparative Perspectives. Oxford: Hart Publishing. - HENDRICKX Frank (2019), Privacy 4.0 at Work: Regulating Employment, Technology and Automation, Comparative Labor Law & Policy Journal, 41(1), str. 147. - KONČAR Polona (2018), Predlog direktive o preglednih in predvidljivih delovnih pogojih. Delavci in delodajalci, 18(2/3), str. 267-283. - KRÄMER Clare, CAZES Sandrine (2022), »Shaping the transition: Artificial intelligence and social dialogue«, OECD Social, Employment and Migration Working Papers, No. 279, OECD Publishing, Paris. - LUTMAN Karmen (2023).,Artificial Intelligence and the Prohibition of Discrimination in the EU: A Private Law Perspective. V: Završnik, A., Simončič, K. (ur) Artificial Intelligence, Social Harms and Human Rights. Critical Criminological Perspectives. Palgrave Macmillan, Cham. - MATEESCU Alexandra, NGUYEN Aiha (2019), Explainer Algorithmic Management in the Workplace. New York: Data & Society. Dostopno na: DS_Algorithmic_Management_Explainer. pdf (datasociety.net) (dostop 1. 4. 2023). - MCCULLAGH Karen, TAMBOU Olivia, BOURTON Sam (ur.) (2019), National Adaptations of the GDPR, Collection Open Access Book, Blogdroiteuropeen, Luxembourg. - POLAJŽAR Aljoša (2021), Varstvo zasebnosti delavca v dobi digitalizacije: GDPR in vloga delavskih predstavnikov, Delavci in Delodajalci, 21(2-3), str. 273. - PONCE DEL CASTILLO Aida (2021), The AI Regulation: Entering an AI Regulatory Winter? Why An Ad Hoc Directive on Ai in Employment Is Required (June 25, 2021). ETUI Research Paper - Policy Brief 2021.07. - PONCE DEL CASTILLO Aida, NARANJO Diego (2022), Regulating algorithmic management An assessment of the EC’s draft Directive on improving working conditions in platform work. ETUI Research Paper - Policy Brief 2022.08. - DE STEFANO Valerio (2018), “Negotiating the algorithm”: Automation, artificial intelligence and labour. Employment Working Paper No. 246, Ženeva: Mednarodna organizacija dela. - DE STEFANO Valerio, TAES Simon (2021), Algorithmic management and collective bargaining. Bruselj: ETUI. - DE STEFANO Valerio, WOUTERS Mathias (2022), AI and digital tools in workplace management and evaluation: An assessment of the EU's legal framework (March 1, 2022). Osgoode Legal Studies Research Paper No. 4144899. - ŠERBEC Hana, POLAJŽAR Aljoša (2022) Predlog Akta o umetni inteligenci in vpliv na delovna razmerja, Pravna praksa, št. 15, str. 11-13. - TIČAR Luka (2020), Pregled minimalnih zahtev glede delovnih pogojev po direktivi (EU) 2019/1152 v luči ZDR-1. Delavci in delodajalci, 20( 2/3), str. 245-256. - TODOLÍ-SIGNES Adrian (2019), Algorithms, artificial intelligence and automated decisions concerning workers and the risks of discrimination: the necessary collective governance of data protection. Transfer: European Review of Labour and Research, 25(4), str. 465–481. - TODOLÍ-SIGNES Adrian (2021), Making Algorithms Safe for Workers: Occupational Risks Associated With Work Managed by Artificial Intelligence (September 1, 2021). Transfer: European Review of Labour and Research. Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 240 Članki / Articles - WACHTER Sandra, MITTELSTADT Brent, RUSSEL Chris (2021), Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI, Computer Law & Security Review, 41 (2021). - WOOD Alex J. (2021), Algorithmic Management Consequences for Work Organisation and Working Conditions, JRC Technical Report, Seville: European Commission, 2021, JRC124874. 241 Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve Članki / Articles Risks of Introducing Artificial Intelligence into Employment Relationships and Possible Legal Solutions Sara Bagari* Summary The risks of introducing artificial intelligence into employment relationships are diverse and require a timely and effective response at both national and European level. The use of artificial intelligence in employment relationships has therefore been the subject of many discussions in recent years. In them, the authors point out the risks associated with the use of artificial intelligence in employment relationships and emphasise the need for appropriate legal regulation. Only recently have European and national institutions begun to consider how to renew existing regulations to address the many challenges posed by artificial intelligence. An appropriate and effective legal framework at the international, European, and national levels will play a key role in ensuring that the use of artificial intelligence in the workplace outweighs the risks. In this regard, the paper highlights the risks of introducing artificial intelligence into employment relationships and seeks to find solutions to these risks in national and European legal frameworks, while identifying potential shortcomings of existing legal instruments. Although we can already find some recent legal instruments, especially at the EU level, that directly address some of the risks posed by the introduction of artificial intelligence in employment relationships, none of these instruments comprehensively address the issue of artificial intelligence in the labour market. Notable among these are the General Data Protection Regulation (GDPR), which addresses personal data protection and privacy issues, and Directive 2019/1152 on Transparent and Predictable Working Conditions, which addresses insufficient protection for workers in more precarious jobs. However, some important initiatives related to artificial intelligence are still under discussion. Among the * Sara Bagari, Master of Laws, Teaching and Research Assistant at the Faculty of Law, University of Ljubljana, Slovenia, and Researcher at the Institute for Labour Law at the Faculty of Law, University of Ljubljana, Slovenia. sara.bagari@pf.uni-lj.si Sara Bagari: Tveganja pri uvajanju umetne inteligence v delovna razmerja in možne pravne rešitve 242 Članki / Articles most important are the Proposal for the Artificial Intelligence Act and the proposal for a Directive on improving working conditions in platform work. Although they can be described as promising, at least partly, it is not clear at present whether and how the public debates and, above all, the justified criticism will actually be translated into their content. Timely action the national level is also needed. An assessment of existing legislation and social dialogue on the necessary changes in both relevant laws and collective agreements are needed to ensure a functioning and effective legal framework for addressing the challenges posed by the use of artificial intelligence in employment relationships. Equally important is the consistent implementation of provisions that provide some solutions, such as provisions on the protection of personal data, the prohibition of discrimination, the legal framework for health and safety at work, the right to continuous education and training, the obligation to inform and consult when introducing artificial intelligence in the workplace, etc. In cases where the existing legal framework does not provide answers or is too general for the specifics of relations between employers and employees, solutions must be sought at both the EU and national levels, based on discussion, consultation, and social dialogue. In doing so, all stakeholders, including the European institutions and the Member States, must be guided by the goal of ensuring decent and fair working conditions, regardless of the changing nature of work and innovations in the labour market, and, above all, ensuring that technology is used to support decent work and not as a threat to the latter.