41 Članki / Articles DELAVCI IN DELODAJALCI 1/2022/XXII * Sara Bagari, magistrica prava, asistentka na Pravni fakulteti Univerze v Ljubljani in raziskovalka na Inštitutu za delo pri Pravni fakulteti v Ljubljani sara.bagari@pf.uni-lj.si Sara Bagari, Master of Laws, Teaching and Research Assistant at the Faculty of Law, University of Ljubljana, Slovenia, and Researcher at the Institute for Labour Law at the Faculty of Law, University of Ljubljana, Slovenia Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Sara Bagari* UDK: 349:004.8 Povzetek: Umetna inteligenca že precej posega na področji delovnega prava in prava socialne varnosti. Pri mnogih pravnih institutih, kot so zaposlovanje, ocenjevanje in odpuščanje, se uporabljajo algoritmi. To ne velja več le za delo prek spletnih platform, saj se algoritmi uporabljajo v različnih sektorjih, delovnih mestih in ne glede na obliko dela. Uporaba algoritmov narašča tudi na področju socialne varnosti. Nekatere države algoritme že uporabljajo v postopku dodeljevanja socialnovarstvenih dajatev in za nadzor nad njihovimi prejemniki. Prispevek v luči tega obravnava uporabo algoritmov v delovnem pravu in pravu socialne varnosti. Pri tem izpostavlja izzive in tveganja, ki jih prinaša uporaba algoritmov, ter skuša odgovoriti na vprašanje, kakšen naj bo odziv delovnega prava in prava socialne varnosti. Ključne besede: umetna inteligenca, algoritmi, delovna razmerja, socialna varnost Use of Algorithms in the Field of Labour Relations and Social Security Abstract: Artificial intelligence is already significantly affecting the fields of labour law and social security law. Many legal institutes, such as hiring, employee evaluation, and firing, use algorithms. This does not apply only to online platform work, since algorithms are now used across different sectors and professions, and regardless of the work form. The use of algorithms is also increasing in social security. Some countries are already using algorithms in the process of allocating social security benefits and Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 42 Članki / Articles to monitor recipients. In view of this, the article addresses the use of algorithms in labour and social security law. It points out the challenges and risks posed by the use of algorithms and attempts to answer the question of how labour law and social security law should respond. Key words: artificial intelligence, algorithms, labour relations, social security 1. UVOD Umetna inteligenca že precej posega na področji delovnega prava in prava socialne varnosti. Pri mnogih pravnih institutih, kot so zaposlovanje, ocenjevanje in odpuščanje, se uporabljajo algoritmi. To ne velja več le za delo prek spletnih platform, saj se algoritmi uporabljajo v različnih sektorjih, delovnih mestih in ne glede na obliko dela. Uporaba algoritmov narašča tudi na področju socialne varnosti. Nekatere države algoritme že uporabljajo v postopku dodeljevanja socialnovarstvenih dajatev in za nadzor nad njihovimi prejemniki. Čeprav je pri nas zaznati dokaj redko uporabo algoritmov v delovnih razmerjih in socialni varnosti, se ta povečuje in bo imela pomemben vpliv v svetu dela v prihodnje.1 Vprašanje, ki se pri tem odpira, je, ali obstoječi delovno- in socialnopravni okvir še odgovarja na vse izzive, ki jih prinaša digitalizacija. Uporaba algoritmov spreminja delovna in socialnopravna razmerja, vpliva na pravni položaj delavcev oziroma zavarovanih oseb in drugih upravičencev ter predstavlja določena tveganja za temeljne človekove pravice. To zahteva ustrezno razlago oziroma prilagoditev nekaterih pravil (tudi)2 delovnega prava in prava socialne varnosti. Poleg vprašanj, ki jih stroka že dlje časa utemeljeno izpostavlja v zvezi z delom prek spletnih platform, denimo, ali gre v tem primeru za delovno razmerje, kdo je delavec in kdo delodajalec ipd.,3 vedno pogostejša uporaba algoritmov v različnih 1 Evropski ekonomsko-socialni odbor ugotavlja, da sta se »raznovrstnost uporabe in obseg vlaganj v umetno inteligenco v zadnjem času skokovito povečala. Trg umetne inteligence je trenutno vreden približno 664 milijonov ameriških dolarjev in naj bi do leta 2025 po ocenah dosegel 38,8 milijarde ameriških dolarjev.« Evropski ekonomsko-socialni odbor (2017), točka 2.5. 2 Z razvojem umetne inteligence se pojavljajo številna vprašanja, ki niso le pravne narave. 3 Glej npr. D. Senčur Peček (2017), V. Franca in U. Glih Škrjanec (2017), B. Kresal (2020). 43 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles oblikah dela terja dodatno razpravo ter odpira številna druga temeljna teoretična in praktična vprašanja, na katera bosta morala odgovoriti (tudi) delovno pravo ter pravo socialne varnosti. Prispevek v luči tega obravnava uporabo algoritmov v delovnih razmerjih in socialni varnosti. Njegov namen je odpreti vprašanja, ali vse pogostejša uporaba algoritmov zahteva nova delovno- in socialnopravna pravila, kakšni izzivi se pri tem pojavljajo in kakšen naj bo odziv delovnega prava ter prava socialne varnosti. 2. PRIMERI UPORABE ALGORITMOV V DELOVNIH RAZMERJIH IN SOCIALNI VARNOSTI Uporaba algoritmov ni omejena na spletne platforme, določen sektor, poklic, obli- ko dela ali del delovnega razmerja. Funkcije delodajalca je mogoče avtomatizirati in digitalizirati skozi celoten cikel delovnega razmerja, od zaposlovanja do odpu- ščanja.4 Z uporabo algoritmov lahko delodajalci pospešijo postopek zaposlovanja novih delavcev in hitreje izberejo najustreznejše kandidate, ocenijo uspešnost zaposlenih ter ugotovijo, kateri delavec je upravičen do napredovanja. Algoritmi se lahko uporabljajo za razporejanje dela in vrednotenje uspešnosti dela. Poleg navedenega lahko algoritmi igrajo vlogo tudi pri prenehanju delovnega razmerja. Ugotovimo lahko, da umetna inteligenca ne nadomešča (več) le nižje kvalificiranih delavcev, ampak tudi višje izobraženi, vodstveni kader. V teoriji se je v zvezi z dajanjem navodil, nadzorom in ocenjevanjem delavcev s strani ali s pomočjo algoritmov5 uveljavil izraz algoritemsko upravljanje (angl. algorithmic management). To se je sprva razvilo na spletnih platformah, danes pa je razširjeno v celotnem gospodarstvu, ne glede na obliko dela.6 Gre za dodeljevanje dela (dajanje navodil), optimiziranje, nadziranje in vrednotenje dela z uporabo algoritmov.7 A. Mateescu in A. Nguyen ga opredeljujeta kot »nabor tehnoloških orodij in tehnik za oddaljeno upravljanje delovne sile, ki se opira na zbiranje podatkov in nadzor nad delavcem, in omogoča avtomatizirano ali polavtomatizirano odločanje.«8 4 J. Adams-Prassl (2019), str. 13. 5 A. J. Wood v zvezi s tem ugotavlja, da so primeri, ko so ti procesi v celoti avtomatizirani, redki. 6 J. Adams-Prassl (2019), str. 12, A. J. Wood (2021), str. 1. 7 O opredelitvah glej tudi A. J. Wood (2021), str. 1. 8 A. Mateescu in A. Nguyen (2019). Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 44 Članki / Articles Zaposlovanje Uporaba algoritmov je pogosta v postopku zaposlovanja. Delodajalci algoritme uporabljajo za pomoč pri iskanju ustreznih kandidatov ali pa izbiro kandidata v celoti prepustijo algoritmu. Čeprav se na prvi pogled lahko zdi, da je v tem primeru izločen subjektivni vpliv na izbiro kandidata, iz prakse izhaja mnogo primerov diskriminacije. Med medijsko najbolj izpostavljenimi je primer družbe Amazon, kjer je bilo ugotovljeno, da je pri uporabi algoritmov za iskanje najprimernejšega kandidata za zaposlitev prišlo do diskriminacije na podlagi spola.9 V zvezi s tem velja izpostaviti, da mora delodajalec ne glede na način izbire kandidata za zaposlitev, tudi če pri tem uporablja algoritme, upoštevati določbe, ki omejujejo njegovo pogodbeno svobodo pri izbiri kandidata (npr. 9. člen ZDR-1 in 22. člen ZDR-1) in druge zakonske prepovedi, med katerimi sta najpomembnejši prepoved diskriminacije (6. člen ZDR-1) ter obveznost predhodne javne objave prostega delovnega mesta (25. člen ZDR-1).10 Organizacija dela, navodila, nadzor in ocenjevanje Način in organizacija dela se spreminjata z razvojem družbe. Pojavljajo se vedno nove tehnološke in organizacijske rešitve, kar se kaže tudi v načinih opravljanja dela. Tudi navodila glede dela lahko namesto osebe (delodajalca oziroma nadrejenega) delavcu daje algoritem,11 ki mu narekuje, kaj je treba narediti, v kakšnem vrstnem redu in v katerem časovnem obdobju. Tak primer je delo prek spletnih platform, kjer algoritmi prevzamejo nekatere funkcije upravljanja, tako da delavcem prek ročnih naprav, pametnih telefonov in računalnikov samodejno dodelijo naloge, jim dajejo usmeritve glede najkrajše poti ter časa, ki naj bi ga za delo porabili.12 Algoritemsko dajanje navodil se vse pogosteje pojavlja tudi v drugih, bolj tradicionalnih delovnih okoljih. Na primer v trgovinah in gostinstvu se algoritmi pogosto uporabljajo za razporejanje delavcev ter odrejanje delovnega 9 Glej npr. https://www.independent.co.uk/life-style/gadgets-and-tech/amazon-ai-sexist- recruitment-tool-algorithm-a8579161.html (dostop 4. 1. 2022). 10 Pri zaposlovanju v javnem sektorju je treba upoštevati še dodatne omejitve pogodbene svobode, kot jih določajo posebni zakoni. 11 S. O'Connor (2016) za delavce, ki delajo prek spletnih platform navaja, da jih ne upravljajo ljudje, ampak algoritem, ki z njimi komunicira prek njihovih pametnih telefonov. 12 A. J. Wood (2021), str. 2–5. 45 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles časa upoštevajoč obdobja, ko je predvideno povečano povpraševanje strank.13 Izpostaviti velja, da iz prakse že izhajajo primeri, ko je optimiziranje delovnega procesa za delavce pomenilo prehod z zaposlitve za polni delovni čas na zaposlitev s krajšim delovnim časom,14 manj ugoden delovni čas (kot je denimo izmensko delo in deljeni delovni čas) in rast nestandardnih oblik dela,15 pri katerih lahko prepoznamo različna tveganja za prekarnost.16 Algoritmi se lahko uporabljajo tudi za nadzor delovnega procesa, kar se je v času pandemije covid-19 še okrepilo. To velja še posebej za delo na domu, vendar pa lahko enak trend zaznamo tudi na delovnih mestih, kjer delo na domu ni (bilo) mogoče, kot so skladišča in tovarne.17 Delodajalci algoritme uporabljajo tudi v zdravstvene in varnostne namene, denimo za nadzor gibanja delavcev in opozarjanje, če se poti delavcev v skladišču preveč približajo.18 Algoritmi omogočajo tudi nove načine ocenjevanja delavca in uspešnosti njegovega dela. V primeru spletnih platform igrajo pomembno vlogo pri ocenjevanju delavca ocene strank oziroma uporabnikov. Poleg ocen uporabnikov imajo spletne platforme pogosto vzpostavljen sistem vrednotenja, v skladu s katerim se pogostejša in daljša dostopnost oziroma razpoložljivost delavca višje vrednoti. Delavci, ki so na spletni platformi dostopni pogosteje, ob različnih (tudi manj ugodnih) urah in dlje časa, so na platformi višje ovrednoteni.19 Algoritemsko ocenjevanje delavcev oziroma uspešnosti njihovega dela lahko najdemo tudi v bolj tradicionalnih sektorjih gospodarstva.20 13 Za primere glej A. J. Wood (2021), str. 4–5. 14 Prav tam. 15 O tem tudi V. De Stefano (2018), str. 10. 16 O prekarnem delu obsežno v K. Kresal Šoltes, G. Strban, P. Domadenik (ur.) (2020). Prekarno delo: multidisciplinarna analiza. Ljubljana : Pravna fakulteta, Založba Pravne fakultete : Ekonomska fakulteta, Založništvo. 17 Družba Amazon je denimo patentirala zapestnice, ki lahko natančno določijo lokacijo delavca v skladišču in spremljajo gibanje njegovih rok (https://www.theverge.com/2018/2/1/16958918/ amazon-patents-trackable-wristband-warehouse-employees (dostop 4. 1. 2022)). Za druge primere glej A. J. Wood (2021), str. 6. 18 https://www.theverge.com/2020/6/16/21292669/social-distancing-amazon-ai-assistant- warehouses-covid-19 (dostop 4. 1. 2022). 19 Glej tudi B. Kresal (2020), str. 111. 20 A. J. Woord (2021), str. 6. Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 46 Članki / Articles Prenehanje delovnega razmerja Algoritemsko upravljanje omogoča tudi avtomatizirano prenehanje delovnih oziroma drugih pogodbenih razmerij ali vodi v druge oblike sankcioniranja delavcev, ki pri delu ne dosegajo pričakovanih rezultatov.21 V primeru spletnih platform se lahko delavcem zaradi nizkih ocen strank onemogoči nadaljnje delo prek spletnih platform ali omeji dostop do dela v bolj zaželenih terminih. Opozoriti velja, da delovno razmerje delavcu ne more prenehati, če za to ni resnega, utemeljenega razloga, ki opravičuje odpoved,22 delodajalec pa mora v odpovedi pogodbe o zaposlitvi pisno obrazložiti dejanski razlog za odpoved pogodbe o zaposlitvi.23 Dodeljevanje socialnih dajatev Algoritmi se uporabljajo tudi na področju socialne varnosti.24 Nosilci socialne varnosti vse pogosteje uporabljajo algoritme, predvsem v postopku dodeljevanja socialnovarstvenih dajatev in pri ugotavljanju morebitnih goljufij pri njihovem uveljavljanju.25 Izpostaviti velja, da so pri tem v skladu z veljavno zakonodajo dolžni svojo odločitev obrazložiti,26 saj je le tako možno zagotoviti učinkovito pravno varstvo. 21 Glej npr. https://www.technologyreview.com/2020/06/04/1002671/startup-ai-workers- productivity-score-bias-machine- learning-business-covid/, https://www.theverge. com/2019/4/25/18516004/amazon-warehouse-fulfillment-centers-productivity-firing- terminations (dostop 4. 1. 2022). 22 To izhaja tudi iz mednarodnopravnih norm, ki zavezujejo Slovenijo. 23 Drugi odstavek 87. člena ZDR-1. 24 Svet Evrope (2018), str. 30. 25 Glej npr. https://www.dutchnews.nl/news/2018/04/dutch-councils-use-algorithms-to- identify-potential-social-security-fraudsters/ (dostop 4. 1. 2022); Center for Democracy and Technology (2020), Challenging the Use of Algorithm-driven Decision-making in Benefits Determinations Affecting People with Disabilities; dostopno na: https://cdt.org/wp-content/ uploads/2020/10/2020-10-21-Challenging-the-Use-of-Algorithm-driven-Decision-making- in-Benefits-Determinations-Affecting-People-with-Disabilities.pdf (dostop 4. 1. 2022). 26 Sestavine obrazložitve določa 214. člen Zakona o splošnem upravnem postopku (Ur. l. RS, št. 24/06 – uradno prečiščeno besedilo, 105/06 – ZUS-1, 126/07, 65/08, 8/10, 82/13 in 175/20 – ZIUOPDVE; ZUP) 47 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles 3. VPLIV UPORABE ALGORITMOV NA DELOVNA IN SOCIALNOPRAVNA RAZMERJA – IZZIVI IN TVEGANJA Upoštevajoč navedeno lahko ugotovimo, da vprašanje ni več ali, temveč kako bo umetna inteligenca vplivala na delo in sisteme socialne varnosti. Čeprav uporaba algoritmov v delovnih razmerjih (pa tudi drugih pogodbenih razmerjih, v katerih se opravlja delo) omogoča večjo učinkovitost in prinaša mnogo prednosti tudi za delavce, hkrati prinaša mnogo tveganj ter vprašanj, ki utemeljeno vzbujajo zaskrbljenost in terjajo razpravo.27 Podobno velja za vpeljavo algoritmov v socialnopravnih postopkih, v katerih se odloča o upravičenosti posameznika do dajatev, ko se uresniči socialno tveganje in pride do socialnega primera. Ker gre pri socialnih zadevah za varovanje zdravja, zagotavljanje sredstev za življenje, celo preživetje posameznika in njegove družine,28 je ključno, da procesna pravila omejujejo nosilce socialne varnosti, in da se v postopku dosledno upoštevajo človekove pravice. Učinkovito uveljavljanje socialnih pravic je mogoče le, če je postopek jasen in transparenten, odločitev organa pa ustrezno obrazložena. Primeri uporabe algoritmov, navedeni v prejšnjem poglavju, kažejo, da umetna inteligenca že posega v temeljno značilnost delovnega razmerja, to je nadzor delodajalca nad delavci, kot najpomembnejši vidik subordinacije,29 ki zajema tri pravice delodajalca: dodeljevanje nalog in dajanje enostranskih navodil delavcem, spremljanje ter nadzor nad izvajanjem odrejenega dela in sankcioniranje v primeru, da delavec ne opravlja odrejenega dela oziroma ga ne opravlja v skladu s podanimi navodili.30 Kot izpostavlja V. De Stefano je pri tem ključno, da delovnopravna zaščita z omejevanjem nadzora delodajalca zagotavlja, da se te pravice ne izvajajo na način, ki bi ogrožal človekove pravice delavcev. Iskanje rešitev z vidika delovnega prava in prava socialne varnosti mora tako temeljiti na varstvu človekovih pravic (angl. human rights approach) in kolektivnih pravicah.31 27 Kot izpostavlja J. Adams-Prassl (2019), zgodovina kaže, da tehnološki napredek delo naredi lažje, varnejše in bolj produktivno, hkrati pa odpira možnosti za zlorabe (J. Adams-Prassl (2019), str. 30). 28 S. Bagari in G. Strban (2019), str. 12. 29 O tem tudi A. Aloisi in E. Gramano (2019), str. 115. 30 Tako V. De Stefano (2018), str. 13. 31 V. De Stefano (2018), str. 13–20. Več o tem v nadaljevanju. Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 48 Članki / Articles Uporaba algoritmov je lahko problematična iz različnih vidikov, kot je netransparentnost odločitev, ki so lahko diskriminatorne. Stroka v zvezi s tem opozarja, da algoritemsko upravljanje ne pomeni nujno bolj objektivne in nepristranske kadrovske prakse. Obstaja namreč tveganje, da algoritmi odražajo pristranskost njihovih programerjev, saj je njihov glavni namen praviloma povečanje produktivnosti in delovne uspešnosti. Kot izpostavlja Evropski ekonomsko-socialni odbor »se umetna inteligenca trenutno razvija v homogenem okolju, ki ga povečini sestavljajo mladi belci, zaradi česar se (hote ali nehote) razlike med kulturami in spoloma vnašajo v umetno inteligenco, zlasti ker se sistemi umetne inteligence učijo s pomočjo učnih podatkov.«32 Zaskrbljujoč je tudi vidik posega v zasebnost delavcev. Informacijska tehnologija in umetna inteligenca omogočata spremljanje ter nadzorovanje dejavnosti delavcev v obsegu, ki je bil v preteklosti nepredstavljiv.33 To hkrati vključuje tudi zbiranje in obdelavo ogromne količine podatkov, kar odpira vprašanja glede varstva osebnih podatkov ter zasebnosti.34 Uporaba umetne inteligence v delovnih razmerjih je lahko problematična tudi z drugih vidikov, kot je omejevanje kolektivnega povezovanja,35 slabšanje delovnih pogojev,36 povečan stres zaradi nenehnega nadzora, stalna dosegljivost delavcev37 ipd. 4. ODZIVI PRAVA Rešitve za opisane izzive in tveganja velja iskati že v veljavnem pravu in delovno- ter socialnopravnih institutih. Obstoječi mednarodni in evropski pravni okviri lahko prav tako predstavljajo podlago za uvedbo novih ali posodobitev obstoječih delovnopravnih predpisov.38 32 Evropski ekonomsko-socialni odbor (2017), točka 3.5. 33 O tem V. De Stefano (2018), str. 7–8, J. Adams-Prassl (2019), str. 18–19. 34 O varstvu zasebnosti delavca v dobi digitalizacije glej A. Polajžar (2021). 35 Glej npr. De Stefano, Valerio (2018). 36 A. J. Wood (2021), str. 13. 37 O izzivih upravljanja delovnega časa v dobi digitalizacije glej D. Senčur Peček (2021). 38 J. Adams-Prassl ugotavlja, da npr. Splošna uredba o varstvu podatkov (GDPR) predvideva mehanizme, ki naslavljajo nekatere pomisleke, ki se v zvezi z varstvom osebnih podatkov pojavljajo pri algoritemskem upravljanju, vendar pa ne ponuja vseh rešitev. J. Adams-Prassl (2019), str. 24. 49 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles a. Uporaba in prilagajanje obstoječih pravnih pravil in institutov ali potreba po njihovi posodobitvi? Delodajalci in nosilci socialne varnosti (država ali od nje ustanovljen javni zavod), ki v delovnih oziroma socialnopravnih razmerjih uporabljajo algoritme oziroma jih bodo v prihodnje, morajo skrbeti za enako obravnavo delavcev oziroma zavarovanih oseb in drugih upravičencev (v socialnopravnih razmerjih) ter zagotavljati, da pri tem ne prihaja do diskriminacije. K temu jih zavezuje že veljavna zakonodaja. Prav tako pomembno je zagotoviti varstvo osebnih podatkov in zasebnost delavcev. Zagotoviti je treba tudi, da se težnje po večji produktivnosti ne odrazijo v slabših delovnih pogojih, in da se ob uporabi algoritmov skrbi tudi za varnost in zdravje delavcev. Splošni pravni okvir za to predstavlja že pravna ureditev varnosti in zdravja pri delu. Z vidika iskanja odgovorov, ki jih obstoječa zakonodaja še ne rešuje (ali morda terjajo njeno prilagoditev), je pomembno predvsem, da se o uporabi umetne inteligence v delovnih razmerjih in socialni varnosti razpravlja v socialnem dialogu, ter da so v vzpostavljanje algoritmov vključeni socialni partnerji.39 To izhaja iz Priporočila MOD o prenehanju delovnega razmerja št. 166,40 ki predlaga uvedbo postopka posve- tovanja pred uvedbo sprememb v proizvodnji, organizaciji, tehnologiji ipd., ki bi lahko imele za posledico prenehanje delovnih razmerij.41 Tudi Direktiva 2002/14/ ES o določitvi splošnega okvira za obveščanje in posvetovanje z delavci v Evropski skupnosti42 izpostavlja, da je »pravočasno obveščanje in posvetovanje prvi po- goj za uspešno prestrukturiranje in prilagoditev podjetij novim razmeram, ki jih ustvarja globalizacija gospodarstva, zlasti z razvojem novih oblik organizacije dela.«43 Upoštevajoč navedeno Direktiva (med drugim) določa »obveščanje o naj- novejšem in verjetnem razvoju dejavnosti in gospodarskem položaju podjetja ali obrata« ter »obveščanje in posvetovanje o odločitvah, ki lahko povzročijo zna- 39 Evropski ekonomsko-socialni odbor izpostavlja, da bi morali »EU, nacionalni organi in socialni partnerji skupaj ugotoviti, na katere segmente trga dela bo vplivala umetna inteligenca ter v kakšnem obsegu in kdaj bo do tega prišlo, in poiskati rešitve, da se bo mogoče soočiti s posledicami, ki jih bo to imelo na zaposlovanje, naravo dela, socialne sisteme in (ne)enakost.« 40 Dostopno na: https://www.ilo.org/dyn/normlex/en/f?p=NORMLEXPUB:12100:0::NO: :P12100_ILO_CODE:R166 (dostop 4. 1. 2022). 41 20. člen Priporočila. 42 Direktiva 2002/14/ES Evropskega parlamenta in Sveta z dne 11. marca 2002 o določitvi splošnega okvira za obveščanje in posvetovanje z delavci v Evropski skupnosti (UL L 080 23.3.2002, str. 29). 43 Deveta alineja uvodnih pojasnil Direktive 2002/14/ES. Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 50 Članki / Articles tne spremembe v organizaciji dela ali v pogodbenih razmerjih.«44 Podobno tudi Evropski ekonomsko-socialni odbor »poziva k zagotovitvi polnega vključevanja in obveščanja delavcev in socialnih partnerjev v postopku odločanja o uporabi umetne inteligence na delovnem mestu ter o njenem razvoju, javnem naročanju in uporabi.«45 Razprava pred samo uvedbo je bistvena, da se predvidijo posledice postopkov avtomatizacije in pravočasno prepoznajo rešitve.46 Izzive, povezane z digitalizacijo, je treba naslavljati v kolektivnih pogodbah na različnih ravneh. Tako se zagotovi, da je nadzor algoritmov v rokah človeka (angl. human-in-command),47 da je način njihovega delovanja pregleden, razumljiv in nadzorljiv, ter da se ustrezno opredelijo primeri, ko je treba še vedno dati prednost človeškemu posredovanju oziroma nadzoru ali ga celo zahtevati.48 Delavci oziroma zavarovane osebe in drugi upravičenci morajo biti seznanjeni z delovanjem algoritmov. To je mogoče doseči z vključitvijo predstavnikov delavcev v proces vpeljave algoritmov in določitvijo jasnih pravil o uporabi algoritmov in njihovem delovanju.49 Kot že poudarjeno, tudi pravna varnost in učinkovito uveljavljanje pravnih sredstev zahtevata, da je odločitev (tudi v primeru uporabe algoritmov) obrazložena in jo je mogoče pojasniti tudi za nazaj. Poleg navedenega lahko pomembno vlogo pri vpeljavi algoritmov in naslavljanju izzivov, povezanih s tem, igra tudi izobraževanje delavcev.50 b. Odziv prava EU – akt o umetni inteligenci Vplivi umetne inteligence presegajo nacionalne meje, zato je potreben odziv tudi na ravni EU. Aktualen primer s tega področja je Predlog Uredbe o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (v nadaljevanju: Predlog).51 Predlog (med 44 Alineji a in c drugega odstavka 4. člena Direktive. 45 Evropski ekonomsko-socialni odbor (2021), točka 4.17. 46 V. De Stefano (2018), str. 22–23. 47 Evropski ekonomsko-socialni odbor (2017), točka 1.6. 48 Prav tam, točka 3.12. 49 Primer dobre prakse v zvezi s tem izhaja iz Španije. Glej https://socialeurope.eu/spains- platform-workers-win-algorithm-transparency (dostop 4. 1. 2022). 50 V skladu s 170. členom ZDR-1 ima delavec pravico in dolžnost do stalnega izobraževanja, izpopolnjevanja in usposabljanja v skladu s potrebami delovnega procesa, delodajalec pa mu je to dolžan zagotoviti. 51 Dostopno na: https://eur-lex.europa.eu/legal-content/SL/TXT/HTML/?uri=CELEX:52021P C0206&from=EN (dostop 4. 1. 2022). 51 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles drugim) opredeljuje področja uporabe umetne inteligence, ki predstavljajo veliko tveganje za zdravje in varnost ali temeljne pravice fizičnih oseb ter med njimi opredeljuje tudi umetnointeligenčne sisteme, »namenjene zaposlovanju ali izbiri fizičnih oseb, zlasti za oglaševanje prostih delovnih mest, pregledovanje ali filtriranje prijav in ocenjevanje kandidatov med razgovori ali preizkusi; in umetno inteligenco, namenjeno odločanju o napredovanju in prenehanju z delom povezanih pogodbenih razmerij, dodeljevanju nalog ter spremljanju in ocenjevanju uspešnosti in vedenja oseb v takih razmerjih«52, saj lahko ti sistemi po mnenju Komisije »občutno vplivajo na prihodnje poklicne možnosti in možnosti preživljanja teh oseb«. Kot posebej problematična sta pri tem izpostavljena možnost diskriminacije in vpliv na pravice delavcev do varstva podatkov in zasebnosti.53 Kot umetnointeligenčne sisteme, ki prinašajo veliko tveganje, Predlog opredeljuje tudi sisteme, ki »naj bi jih uporabljali javni organi ali naj bi se uporabljali v njihovem imenu za ocenjevanje upravičenosti fizičnih oseb do ugodnosti in storitev javne pomoči ter za dodelitev, zmanjšanje, preklic ali povračilo takih ugodnosti in storitev«,54 saj so »fizične osebe, ki zaprosijo za ugodnosti in storitve javne pomoči ali jih prejemajo od javnih organov, po navadi odvisne od teh ugodnosti in storitev ter so v ranljivem položaju v odnosu do odgovornih organov. Če se umetnointeligenčni sistemi uporabljajo za določanje, ali naj organi take ugodnosti in storitve zavrnejo, zmanjšajo, prekličejo ali zahtevajo povračilo, lahko pomembno vplivajo na preživljanje oseb in kršijo njihove temeljne pravice, kot so pravica do socialne zaščite, nediskriminacije, človekovega dostojanstva ali učinkovitega pravnega sredstva.«55 Uvrstitev navedenih področij med umetnointeligenčne sisteme velikega tveganja, ki so navedeni v Prilogi III, pomeni, da so bili ti prepoznani kot sistemi, katerih tveganja so se že uresničila ali se bodo verjetno uresničila v bližnji prihodnosti,56 kar le še poudarja pomen potrebe po iskanju ustreznih rešitev. Predlog glede tega predvideva pravne zahteve v zvezi s podatki in upravljanjem podatkov, vodenjem dokumentacije in evidenc, preglednostjo ter zagotavljanjem informacij 52 4. točka Priloge III. 53 36. točka uvodnih določb. 54 5.a točka Priloge III. 55 37. alineja uvodnih določb. 56 Obrazložitveni memorandum Predloga, točka 5.2.3. Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 52 Članki / Articles uporabnikom, človeškim nadzorom, robustnostjo, točnostjo in varnostjo,57 obveznosti za ponudnike umetnointeligenčnih sistemov,58 postopke ugotavljanja skladnosti59 ter okvir za sodelovanje priglašenih organov kot neodvisnih tretjih oseb v teh postopkih.60 Navkljub navedenemu stroka že izpostavlja, da Predlog za delavce ne prinaša ustrezne zaščite,61 saj za umetnointeligenčne sisteme na področju dela (4. točka Priloge III) in dostopa do socialnih ugodnosti (5.a točka Priloge III) predvideva, da se postopek ugotavljanja skladnosti izvede na podlagi notranje kontrole, ki ne predvideva sodelovanja priglašenega organa,62 hkrati pa uporabe teh sistemov ne problematizira oziroma njihovo uporabo dopušča, pri čemer zadošča (že) njihova skladnost s postopkovnimi zahtevami. Evropski ekonomsko-socialni odbor v zvezi s tem priporoča obvezno ugotavljanje skladnosti s strani tretje osebe za vse umetnointeligenčne sisteme velikega tveganja63 in vključitev mehanizma pritožb ter pravnega varstva v primeru škode, ki bi bila posledica uporabe umetnointeligenčnega sistema.64 Poleg navedenih pomislekov V. De Stefano opozarja na tveganje, da bo Uredba v primeru sprejetja »prevladala nad bolj omejevalnimi zakonodajami in sprožila deregulacijo v sistemih delovnih in industrijskih razmerij po Evropi.«65 5. SKLEPNE MISLI Umetna inteligenca že zelo vpliva na obseg zaposlovanja, pa tudi naravo številnih delovnih in socialnopravnih razmerij, s čimer posega tudi na področje delovnega prava in prava socialne varnosti, ki se bosta morala temu prilagoditi. To ne pomeni 57 Poglavje 2 Naslova III. 58 Poglavje 3 Naslova III. 59 Poglavje 5 Naslova III. 60 Poglavje 4 Naslova III. 61 Razprava o tem je potekala v okviru konference »AI for Fundamental Rights at Work: Is the EC’s Proposal on a European Approach to AI Up to It?'«, organizirane s strani Univerze v Lundu in Labour Law Community – LLC 10. junija 2021. 62 To izhaja iz drugega odstavka 43. člena Predloga. 63 Evropski ekonomsko-socialni odbor (2021), točka. 1.10. 64 Evropski ekonomsko-socialni odbor (2021), točka. 1.11. 65 O tem obširno V. De Stefano (2021). Glej tudi Evropski ekonomsko-socialni odbor (2021), točke 3.8, 4.17 53 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles le sprejemanja nove zakonodaje in iskanje novih rešitev, temveč tudi prilagajanje obstoječih pravnih pravil novim izzivom na trgu dela. Ugotovitve kažejo, da se lahko pri iskanju rešitev na izzive, ki jih prinaša uporaba algoritmov v delovnih razmerjih in sistemih socialne varnosti, deloma že opremo na obstoječe pravne okvire. V delu, kjer ti odgovorov ne ponujajo oziroma so slednji presplošni glede na specifiko delovnih in socialnopravnih razmerij, moramo rešitve iskati na temelju razprave, posvetovanja in socialnega dialoga. VIRI IN LITERATURA - Adams-Prassl, Jeremias (2019), What if Your Boss Was an Algorithm? The Rise of Artificial Intelligence at Work. [2019] 41(1) Comparative Labor Law & Policy Journal 123. - Alexander, Charlotte in Tippett, Elizabeth Chika (2017), The Hacking of Employment Law. Missouri Law Review, Forthcoming, Georgia State University College of Law, Legal Studies Research Paper No. 2018-09. Dostopno na: https://ssrn.com/abstract=3016624 (dostop 4. 1. 2022). - Aloisi, Antonio, Gramano, Elena (2019), Artificial Intelligence Is Watching You at Work. Digital Surveillance, Employee Monitoring, and Regulatory Issues in the EU Context (June 10, 2019). Special Issue of Comparative Labor Law & Policy Journal, “Automation, Artificial Intelligence and Labour Protection”, Vol. 41, No. 1, pp. 95-121. - Berg, Janine (2019), Protecting Workers in the Digital Age: Technology, Outsourcing and the Growing Precariousness of Work. Dostopno na: https://ssrn.com/abstract=3413740 (dostop 4. 1. 2022). - Evropski ekonomsko-socialni odbor (2017), Umetna inteligenca – posledice za enotni (digitalni) trg, proizvodnjo, potrošnjo, zaposlovanje in družbo (mnenje na lastno pobudo), 31. maj 2017, UL C 288, 31. 8. 2017. - Evropski ekonomsko-socialni odbor (2021), Mnenje - Predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spre- membi nekaterih zakonodajnih aktov Unije, 22. september 2021, UL C 517/61, 22. 12. 2021. - Franca, Valentina, Gliha Škrjanec, Urška (2017), Delavec v delitveni ekonomiji (2): kakšno bo delovnopravno varstvo prihodnosti?, Pravna praksa, št. 38, 2017, str. 12-14. - Kresal, Barbara (2020), Delo prek spletnih platform. V: Kresal Šoltes Katarina, Strban Grega, Domadenik Polona (2020). Prekarno delo: multidisciplinarna analiza. Ljubljana : Pravna fakul- teta, Založba Pravne fakultete : Ekonomska fakulteta, Založništvo, str. 105-127. - Mateescu, Alexandra, Nguyen, Aiha (2019), Explainer Algorithmic Management in the Workplace. New York: Data & Society. Dostopno na: DS_Algorithmic_Management_Explainer. pdf (datasociety.net). - O'Connor, Sarah (2016), When your boss is an algorithm. FT Magazine. Dostopno na: https:// www.ft.com/content/88fdc58e-754f-11e6-b60a-de4532d5ea35 (dostop 4. 1. 2022). - Polajžar, Aljoša (2021), Varstvo zasebnosti delavca v dobi digitalizacije : GDPR in vloga delavskih predstavnikov, v: Delavci in delodajalci, št. 2-3/2021, str. 273-293. Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 54 Članki / Articles - Senčur Peček, Darja (2017), Vpliv informacijske tehnologije na delovna razmerja, v: Podjetje in delo, št. 6-7, str. 1170-1184. - Senčur Peček, Darja (2021), Pravica do odklopa in druga pravna vprašanja upravljanja delov- nega časa v dobi digitalizacije, v: Delavci in delodajalci, št. 2-3/2021, str. 295-323. - Svet Evrope (2018), A LGORITHMS AND HUMAN RIGHTS Study on the human rights dimensi- ons of automated data processing techniques and possible regulatory implications. Dostopno na: https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5 (dostop 4. 1. 2022). - De Stefano, Valerio (2018), “Negotiating the algorithm”: Automation, artificial intelligence and labour. Employment Working Paper No. 246, Ženeva: Mednarodna organizacija dela. - De Stefano, Valerio (2021), The EU Proposed Regulation on AI: a threat to labour protection?, Regulating for Globalization. Dostopno na: http://regulatingforglobalization.com/2021/04/16/ the-eu-proposed-regulation-on-ai-a-threat-to-labour-protection/ (dostop 4. 1. 2022). - Wood Alex J. (2021), Algorithmic Management Consequences for Work Organisation and Working Conditions, JRC Technical Report, Seville: European Commission, 2021, JRC124874. 55 Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti Članki / Articles Use of Algorithms in the Field of Labour Relations and Social Security Sara Bagari* Summary The question is no longer if, but how artificial intelligence will affect employment relationships and social security systems. The use of algorithms is not limited to online platforms, particular sectors, professions, forms of work, or parts of employment relationships. It is possible to automate and digitize employer functions throughout the entire employment cycle, from hiring to firing. The use of algorithms is also increasing in the field of social security. Some countries are already using algorithms in the process of allocating social security benefits and to monitor their recipients. Although the use of algorithms in employment relationships (as well as in other contractual relationships in which work is performed) allows for greater efficiency and can also bring significant benefits to workers, it also carries many risks and provides opportunities for abuse. This can be compared to the introduction of algorithms in social law procedures, where an individual's entitlement to benefits is decided when a social risk materializes. Since the aim of social security is to protect health, provide means of subsistence, and even ensure survival of individuals and their families, it is crucial that procedural rules restrict social security providers, and that human rights are strictly respected in the process. Effective enforcement of social rights is only possible if the procedure is clear and transparent, and the authority’s decision is properly reasoned. The question that arises is, whether or not the existing labour and social law frameworks still meet all the challenges posed by digitalisation. Employers and social security institutions (the state or a public institution established by it) that use or will use algorithms in employment relationships or the social security system, must ensure equal treatment of workers or insured persons and other beneficiaries, and prevent any kind of discrimination. It is also important to protect workers’ personal data and privacy. It is necessary * Sara Bagari, Master of Laws, Teaching and Research Assistant at the Faculty of Law, University of Ljubljana, Slovenia, and Researcher at the Institute for Labour Law at the Faculty of Law, University of Ljubljana, Slovenia sara.bagari@pf.uni-lj.si Sara Bagari: Uporaba algoritmov na področju delovnih razmerij in socialne varnosti 56 Članki / Articles to ensure that the trend towards higher productivity does not result in poorer working conditions and that workers’ safety and health are also taken into account when algorithms are used. The challenges of digitalisation need to be addressed in collective agreements at different levels. This is important to ensure that control over algorithms is in the hands of human users (human-in- command) and that they work in a transparent, understandable, and controllable way. Workers or insured persons and other beneficiaries need to be familiar with how algorithms work. This can be achieved by involving workers’ representatives in the algorithm implementation process, and setting clear and accessible rules for the use of algorithms and their operation. The education of workers also plays an important role. In conclusion, when seeking solutions to the challenges posed by the use of algorithms in employment relationships and social security systems, we can in part rely on existing legal frameworks. Where these do not provide answers or are too general with regard to the specifics of employment and social relations, solutions based on discussion, consultation, and social dialogue must be sought.