Anthropos 57 (2): 215-232 | issN 0587-5161 | E-ISSN2630-4082
Veliki jezikovni modeli in obči intelekt
Lea Kuhar
Univerza v Ljubljani, Slovenija lea. kuhar@ff.uni-lj.si
HCSMI © 2025 Lea Kuhar
Povzetek. Članek obravnava vprašanje avtomatizacije na primeru velikih jezikovnih modelov. Osrednja teza članka je, da veliki jezikovni modeli ne avtomatizirajo individualnih sposobnosti mišljenja niti javne vednosti, kot so jo razumeli avtorji nemške klasične filozofije, temveč tisto, kar je Marx imenoval »obči intelekt«. Z danim konceptom Marx označuje obdobje, ko obče družbeno znanje postane gonilna sila proizvodnje, kar pomeni, da se upredmeti tako v proizvodnih silah (napredek pri avtomatizaciji strojev) kot v organizaciji delavcev (sprememba v organizaciji dela, nujna za tehnično-znanstveni razvoj). Če se je v Marxovem času, torej v obdobju industrijske dobe, obči intelekt upodabljal v strojih, se danes uteleša v algoritmih in statističnih modelih umetne inteligence. Članek sledi »delovni teoriji avtomatizacije«, kot jo je razvil Matteo Pasquinelli, in pokaže, da veliki jezikovni modeli avtomatizirajo predvsem delo percepcije, tj. sposobnost prepoznavanja vzorcev, obenem pa tudi specifična družbena razmerja, ki so zakodirana v matematičnih algoritmih.
Ključne besede: obči intelekt, Marx, veliki jezikovni modeli, Pasquinelli, delovna teorija avtomatizacije
Large Language Models and General Intellect
Abstract. The article discusses the issue of automation using the example of large language models. The central thesis of the article is that large language models do not automate individual thinking skills or public knowledge, as understood by the authors of German classical philosophy, but what Marx called 'general intellect.' With this concept, Marx marks the period when general social knowledge becomes the driving force of production, which means that it is materialized both in the productive forces (progress in the automation of machines) and in the organization of workers (a change in the organization of work, necessary for technical and scientific development). If in Marx's time, that is, in the period of the industrial age, general intellect was depicted in machines, today it is embodied in algorithms and statistical models of artificial intelligence. The article follows the 'work theory of automation,' as developed by Matteo Pasquinelli, and shows that large
https://doi.org/10.26493/2630-4082.57.215-232
Lea Kuhar
language models automate primarily the work of perception, i.e. the ability to recognize patterns, but also specific social relationships that are encoded in mathematical algorithms.
Key Words: general intellect, Marx, large language models, Pasquinelli, labour theory of automation
V delu Fajdros je Platon izrazil svojo zaskrbljenost glede narave in vpliva pisanja, ki gaje videl kot obliko tehnologije. Pravi, daje pisanje dvorezen meč: gre za tehnologijo, ki lahko ohranja znanje in ideje skozi čas, vendar hkrati predstavlja grožnjo resničnemu človeškemu znanju, ustvarjalnosti in sposobnosti mišljenja. Opozarja, dabo iznajdba pisave »povzročila pozabo«, ker se bodo ljudje »zaradi zaupanja v pisanje spominjali od zunaj, zaradi tujih znakov, ne pa od znotraj, sami od sebe« (Platon 2009, 569). Platon ne pravi neposredno, da pisava poneumlja ljudi, pravi pa, da lahko oslabi določene intelektualne sposobnosti in prakse, ki so potrebe za pravo modrost, predvsem zmožnost spominjanja in poglobljenega razmišljanja.
Na podoben način, kot je pisavo videl Platon, se danes razpravlja o vsesplošnem razponu umetne inteligence, predvsem v navezavi na velike jezikovne modele, ki generirajo besedila, podobna človeškemu jeziku, kot so chatcpT (openAi), LaMDA (Google), Claude (Anthropic), Co-Pilot (Microsoft). Na eni strani imamo zagovornike teze, da nam veliki jezikovni modeli kradejo kreativnost, spodbujajo lenobo, prokrastinacijo in izgubo spomina pri študentih, širijo dezinformacije ter preko avtomatizacije proizvodnje vodijo do izgube služb. Na drugi strani imamo tiste, ki trdijo, da veliki jezikovni modeli družbo osvobajajo nepotrebnega dela, spodbujajo in razširjajo človeško kreativnost, spreminjajo koncept človeške inteligence in vodijo do nastanka novih zaposlitev.
Izkupiček danih debat je podoben tistemu pri Platonu. Na splošno se avtorji in avtorice strinjajo, da je zadeva kompleksna ter da ima razvoj jezikovnih modelov in umetne inteligence tako pozitivne kot negativne posledice. Razvoj nevronskih mrež, na katerih temelji strojno učenje, ključno za delovanje velikih jezikovnih modelov, je pogosto dojet kot nekakšen nepristranski medij, ki ga je mogoče uporabiti tako v dobre kot slabe namene. Vendar pa takšen pristop k preučevanju velikih jezikovnih modelov zakriva ključno vprašanje, in sicer: kaj natanko si prisvajajo stroji? Kaj se v procesu digitalizacije in avtomatizacije dejansko izgublja oz. nadomešča?
Glavna teza danega članka je, da si veliki jezikovni modeli ne prisvajajo
216
Veliki jezikovni modeli in obči intelekt
individualnih sposobnosti mišljenja niti javne vednosti v smislu, kot so jo razumeli avtorji nemške klasične filozofije, temveč tisto, kar je Marx imenoval »obči intelekt«. S tem konceptom Marx označuje čas, ko obče družbeno znanje postane gonilna sila proizvodnje, kar pomeni, da se upred-meti tako v proizvodnih silah (napredek pri avtomatizaciji strojev) kot v organizaciji delavcev (sprememba v organizaciji dela, ki je nujna za tehnično-znanstveni razvoj). Če se je v Marxovem času, torej v obdobju industrijske dobe, obči intelekt upodabljal v strojih, se danes uteleša v algoritmih in statističnih modelih umetne inteligence. Članek sledi »delovni teoriji avtomatizacije«, kot jo je razvil Matteo Pasquinelli, in pokaže, da veliki jezikovni modeli avtomatizirajo delo percepcije, to je sposobnost prepoznavanja vzorcev, ter specifično družbeno razmerje, ki je zakodirano v matematičnih algoritmih.
Od javne vednosti do občega intelekta
Vprašanje, kaj jejavna vednost in kako se konstituira, je bilo ključno vprašanje, s katerim so se ukvarjali avtorji nemške klasične filozofije. Po Kantu ima vednost vselej univerzalen značaj. Prava vednost je vselej obča in univerzalna, saj temelji na zmožnosti človeškega razuma, ki deluje po univerzalnih in nujnih načelih. V Kritiki čistega uma (2019) Kant pokaže, da se znanje o svetu oblikuje na podlagi nujnih in univerzalnih pogojev spoznavanja. Dane pogoje spoznavanja utemelji v svoji teoriji transcendentalnega idealizma, v kateri izpodbija dihotomijo med empirizmom in racionalizmom. Medtem ko empirizem trdi, da vednost nastane preko čutnega zaznavanja, ima za racionaliste človek pred vsakim izkustvom neko razumsko spoznavo, ki je pojavlja v obliki vrojenih idej. Napram dani dihotomiji Kant pokaže, da vednost sicer nastaja iz izkustva, a vse vednosti ni mogoče utemeljiti v izkustvu. Obstajajo namreč apriorne sintetične sodbe, kot so ideje o prostoru in času, ki ne izvirajo iz izkustva, vendar obstaj'aj'o kot nujne ideje, kijih razum apriorno uporablja za struk-turiranje čutnih zaznav. Ključni poudarek Kantove spoznavne teorije je, da razum deluje po univerzalnih načelih, kar pomeni, da je vednost, ki jo tvori, potencialno dostopna vsem ljudem, ki delujejo v skladu z istimi razumskimi možnostmi.
V spisu »Odgovor na vprašanje: Kaj je razsvetljenstvo?« (1987) Kant nato doda, da se vednost razvija skozi svobodno in univerzalno rabo uma v javni sferi. Za Kanta je ključna razlika med zasebno in javno rabo uma. Zasebna raba uma se nanaša na tiste situacije, v katerih posameznik deluje na določenem zaupanem mu javnem položaju ali uradni službi in
217
Lea Kuhar
mora v skladu s svojim poklicem slediti določenim zakonom ter predpisom. Kant poda primer duhovnika, ki mora pri opravljanju svojega poklica slediti dogmam svoje vere. Po drugi strani pa javna raba uma omogoča kritično izmenjavo idej in preizpraševanje slednjih. V javni rabi uma je vsak posameznik svoboden, da na svoj način - preko zapisov, knjig, javnih razprav ali drugih oblik komuniciranja - svoj razum uporablja za iskanje resnic. Kant trdi, da je razsvetljenstvo mogoče doseči zgolj tako, da se ljudje odrečejo subjektivni nezrelosti (nedoletnosti) in začnejo lasten razum uporabljati na način, ki je odprt in skupen vsem. Uveljavitev vsestranske javne uporabe lastnega uma je torej pogoj za dosego svobode posameznika in kot tak pogoj za dosego razsvetljenstva.
Poleg Kantaje imelatudi za Heglajavnavednostključno vlogo pri oblikovanju človeške svobode in zgodovine. V Fenomenologiji duha (2017) Hegel predstavi svojo teorijo zgodovine, ki jo razume kot dialektičen proces razsvetljevanja človeštva, v katerem se Duh postopoma razkriva skozi čas. Javna vednost je del tega zgodovinskega procesa, ki vodi k napredku v človeškem znanju in svobodi. Ta napredek pa se kaže v vse večji refleksiji posameznikov o lastnem mestu v svetu ter v vse večji sposobnosti človeštva, da prepozna svojo lastno univerzalnost. V tem pogledu se Hegel razlikuje od Kanta, ki je javno vednost razumel kot prostor svobode, ki je ločen od političnih in družbenih struktur. Za Hegla je javna vednost vselej vezana na specifične družbene in politične institucije, znotraj katerih se posamezniki lahko razvijajo in prehajajo v višje oblike svobode. Po njem se posamezniki torej ne morejo razvijati in dosegati višjih oblik svobode v abstraktnem prostoru, temveč le v okviru družbenih struktur, ki jim omogočajo udejanjanje njihove racionalnosti. Javna vednost se torej ne oblikuje zunaj institucij, temveč skozi njih.
V Orisu filozofije pravice (2013) Hegel nato doda, da posamezniki lahko svojo resnično svobodo dosežejo le v okviru sodobne države. Država je po Heglu institucija vednosti, ki deluje kot realizacija konkretne svobode posameznikov. Po eni strani to pomeni, da posameznike obravnava glede na univerzalne zakone, ki so enaki in zavezujoči za vse. Po drugi strani pa utemeljuje svoje delovanje v okviru načel razuma. Posameznikom še vedno pripada možnost samostojnega razmisleka, vendar se ta ne realizira v državi, temveč v civilni družbi. Kantovo razlikovanje med zasebno in javno rabo razuma je pri Heglu, zelo grobo rečeno, preneseno na institucionalno razlikovanje med civilno družbo in državo. Medtem ko lahko civilno družbo razumemo kot množico izoliranih posameznikov, ki sejim ni treba obremenjevati z univerzalnimi načeli in ki se ukvarjajo s svojimi
218
Veliki jezikovni modeli in obči intelekt
partikularnimi posli, je država zanj isto ljudstvo, združeno pod sfero vednosti. Čeprav lahko posameznik svobodno počne, kar koli že želi, lahko svojo svobodo uresniči le v prostoru razuma, torej v sferi vednosti. Država, kot jo pojmuje Hegel, je institucija, ki nenehno ustvarja in vzdržuje javno vednost.
Z vpeljavo koncepta »občega intelekta« Marx sicer govori o določeni obliki družbenega znanja, vendar pa v svojem pojmovanju slednjega prelomi z razumevanjem javne vednosti nemških klasičnih filozofov. Koncept je prvič uporabil leta 1858 v fragmentu »Fiksni kapital in razvoj produktivnih sil družbe« (Marx 1985), ki so ga postoperaisti kasneje preimenovali v znameniti Fragment o strojih (Virno 1996, 21). V istem tekstu Marx (1985) govori tudi o »splošnih produktivnih silah družbenih možganov« (str. 499), »občih močeh človeške glave« (str. 506) in »akumuliranem znanju družbe« (str. 511). Z danimi koncepti naslavlja preoblikovanje družbenega znanja, do katerega pride v modernem industrijskem kapitalizmu. V omenjenem tekstu Marx (str. 506-507) zapiše:
Narava ne gradi strojev, lokomotiv, železnic, electric telegraphs, sel-facring mules etc. So produkti človeške industrije; naravni material, preobražen v organe človeške volje nad naravo ali njegovega udej-stvovanja v naravi. So s človeško roko ustvarjeni organi človeških možganov, upredmetena moč znanja. Razvoj capital fixe nakazuje, na kateri stopnji je obče družbeno znanje, knowledge, postalo neposredna produktivna sila, tako da so sami pogoji družbenega procesa prišli pod kontrolo general intelecta ter so njemu primerno preusmerjeni. Do katere stopnje so proizvedene družbene produktivne sile, ne le v obliki znanja, ampak kot neposredni organi družbene prakse; realnega življenjskega procesa.
Obči intelekt je za Marxa skupek različnih oblik vednosti, ki izhajajo tako iz znanstvenih in tehnoloških inovacij kot tudi iz povsem praktičnih veščin in intelekta, ki jih delavci potrebujejo pri opravljanju vsakodnevnih nalog. Obči intelekt je obči, kolikor ne izraža individualne vednosti enega posameznika, temveč naslavlja kolektivno družbeno znanje. Poleg tega pri občem intelektu ne gre zgolj za abstraktno znanje in veščine, ki jih posedujejo delavci. Ključni moment občega intelekta je, da je vselej upredmeten in »postane neposredna produktivna sila«. Za Marxa so stroji oz. mašinerija produkt določene vednosti in nekakšen podaljšek človeških možganov - so »s človeško roko ustvarjeni organi človeških možganov« in kot taki »upredmetena moč znanja«. Znanje se
219
Lea Kuhar
upredmeti tako v proizvodnih silah (napredek pri avtomatizaciji strojev) kot v organizaciji delavcev (sprememba v organizaciji dela, ki je nujna za tehnično-znanstveni razvoj).
Pri Marxovem konceptu občega intelekta gre torej za kolektivno družbeno znanje, vendar se njegov koncept razlikuje od koncepta javne vednosti, kot so jo razvijali misleci nemške klasične filozofije. Po eni strani se od Kantovega pojmovanja razlikuje tako, da obči intelekt ni več vezan na posameznika, temveč je v svojem temelju družben. Kot rečeno, je pri Kantu vednost vselej obča in univerzalna, saj je razum zaradi svoje univerzalne narave enak za vse in načeloma dostopen vsem. Vendar se ta koncepcija ne izključuje nujno s partikularno produkcijo vednosti in ne prelamlja z idejo individualnega avtorstva. Čeprav je vednost, ko je enkrat proizvedena, obča z vidika svoje veljavnosti, je lahko proizvedena povsem individualno, npr. s strani nekega samotarskega intelektualca. Pri Marxu pa je obči intelekt obči predvsem z vidika svoje produkcije: intelekt v izhodišču ne more biti partikularen, saj nima nobenega posameznega avtorja, temveč nastane zgolj skozi kolektivno kooperacijo. Ključni epistemološki premik, ki ga Marx izvede, je v tem, da fokus prestavi na produkcijo vednosti. Pri Marxu je torej intelekt obči z vidika svojega izhodišča - z vidika produkcije vednosti.
Poleg tega se Marxovo pojmovanje občega intelekta razlikuje od Kantovega razumevanja javne vednosti tudi glede na področje, kjer se ta nahaja. Kantov obči intelekt ne nastaja na področju javne rabe uma, torej na področju, ki bi ga danes imenovali zasebna sfera vsakega posameznika, temveč na področju zasebne rabe uma, kjerje neločljivo povezan z delom, ki ga posamezniki opravljajo v produkcijskem procesu. Obči intelekt po Marxu ni bil prisoten od nekdaj, temveč je nastal na določeni stopnji razvoja kapitalističnih produkcijskih sil in odnosov. Pojavil se je v trenutku, ko je produkcijski proces od delavcev zahteval večjo stopnjo organiziranosti in produktivnosti ter ko se je znanje delavcev akumuliralo do te mere, da se je upredmetilo v strojih.
Če sledimo dani liniji razmisleka, lahko primerjamo Marxovo in Heglovo razumevanje javne vednosti oz. občega intelekta. V določenem pogledu je Hegel s svojim pojmovanjem javne vednosti prišel precej blizu temu, kar je Marx poimenoval obči intelekt. Ključna razlika je v tem, da se po Marxu obči intelekt ne udejanja v državi kot pri Heglu, temveč v produkcijskem procesu. Udejanja se v strojih - tehnološkem razvoju - in organizaciji dela. Stroji za Marxa niso zgolj skupek orodij, temveč materializacija kolektivnega družbenega znanja in tehnoloških inovacij.
220
Veliki jezikovni modeli in obči intelekt
Marx pravi, da tehnološki razvoj (capital fixe) nakazuje, na kateri stopnji družbenega razvoja vednost postane »neposredna produktivna sila«. Dana teza ima dva pomena. Po eni strani pomeni, da delo, ki so ga prej fizično opravljali delavci, zdaj opravljajo stroji. Po drugi strani pa pomeni, da stroji niso več zgolj orodja, s katerimi delavci upravljajo, temveč sami postanejo nosilci znanja in organizacije dela. Obči intelekt se tako neposredno utelesi v produkcijskem procesu.
Poleg tega se obči intelekt za Marxa ne manifestira kot javna sfera, v kateri bi posamezniki lahko prehajali v višje oblike racionalnosti in svobode, temveč postane integralen del produkcije, ki je podvržena zasebnemu lastništvu in kapitalističnim razmerjem moči. Obči intelekt nastane kot posledica »subsumcije dela pod kapital«. V Fragmentu o strojih - in kasneje v Kapitalu - Marx pravi, da ima dana subsumcija dve stopnji. V prvi stopnji, ki jo poimenuje »formalna subsumcija« dela pod kapital, je presežna vrednost pridobljena iz človeškega dela (Marx govori o »živem delu«) s prisilnim podaljšanjem delovnega dne, medtem ko sam delovni proces ostaja pod neposrednim nadzorom delavcev. Formalna subsumb-cija dela pod kapital pomeni, da se npr. delovni dan poveča z osem na deset ur, kar pomeni, da kapital pridobi dve dodatni uri za ekstrapolacijo absolutne presežne vrednosti. Temu je sledila »realna subsumcija« dela pod kapital, do katere je prišlo z industrijsko revolucijo, ki je omogočila proizvajanje relativne presežne vrednosti. Relativna presežna vrednost je pridobljena z zmanjševanjem količine časa, kije potrebna za proizvodnjo dobrin, ki jih delavec potrebuje za preživetje. Doseže se s povečano produktivnostjo dela preko tehnoloških inovacij, organizacije dela in uporabe strojev. Če pri formalni subsumciji dela pod kapital vednost še vedno pripada delavcem, pri realni subsumciji vednost pripada strojem -ljudje so zgolj podaljšek strojev.
S konceptom občega intelekta se je Marx navezoval na »pohod inte-lekta«, znan tudi kot »pohod uma« (Pasquinelli 2019). Navezoval se je torej na gibanje, ki seje pričelo z obdobjem industrializacije in z njo povezanih izobraževalnih reform v zgodnjem 19. stoletju v Angliji. Glavni namen gibanja je bil razširiti javno izobraževanje, zlasti za delavske otroke, ter promovirati znanstveno in tehnološko izobraževanje za podporo industrijski revoluciji, ki je takrat potekala v Angliji. Zagovorniki gibanja so prispevali k izjemnemu povečanju števila publikacij in ustanov, namenjenih ustvarjanju in širjenju znanja. Znanje, ki se je prej omejevalo na elitne ustanove, je postalo »uporabno« (Rauch 2001). Postopoma se je vključevalo v vsakdanje življenje z ustanavljanjem znanstvenih društev,
221
Lea Kuhar
novih institucij in organizacij, vključno z muzeji naravne zgodovine in javnimi knjižnicami. Nove oblike znanja so množice dosegle preko raznih tiskovin, kot so enciklopedije, slovarji, znanstveni časopisi in priročniki za uporabo.1 Za Marxa je bil razvoj množičnega izobraževanja bistveni pogoj, ki je delavcem omogočil, da si naberejo tehnološko in praktično znanje, ki bi ustrezalo razvojni stopnji družbe, dosežene s kapitalističnim razvojem in tehnično delitvijo dela.
S konceptom občega intelekta je Marx naslovil ključno vprašanje pohoda intelekta, to je vprašanje, ali lahko obče družbeno znanje spodkoplje stare institucije. V nekakšnem heglovskem obratu je Marx predpostavil, da bo razvoj občega intelekta sčasoma vodil do zloma obstoječega produkcijskega načina in povzročil nastanek nove, svobodnejše družbene oblike. Z realno subsumcijo dela pod kapital se namreč zmanjšuje nujni delovni čas in povečuje prosti čas delavcev. Marx pravi (1985,506), da kapital »zmanjšuje delovni čas v formi nujnega, da bi ga povečeval v formi odvečnega«. Protislovje se nahaja v tem, da kapital stremi k čedalje večji redukciji delovnega časa, a hkrati delovni čas postavlja kot edino mero vrednosti. To pa pomeni, da odvečni delovni čas čedalje bolj postavlja kot pogoj nujnega delovnega časa. Marx je bil prepričan, da bo dano protislovje privedlo do tega, da bodo delavci zaradi čedalje večje avtomatizacije proizvodnje imeli več prostega časa, ki ga bodo lahko namenili izobraževanju, umetnosti in vsesplošni človeški kreativnosti. To naj bi privedlo do zloma obstoječega produkcijskega načina, saj naj bi prosti čas in novopridobljeno znanje delavcem omogočila nove oblike upora ter kon-stitucijo novega družbenega reda.
Kaj si prisvajajo stroji?
V 20. stoletju se je uresničila Marxova napoved, da bo znanje vse bolj postajalo gonilna sila proizvodnega procesa, vendar pa dane spremembe
1 Že od samega začetka je bil pohod intelekta dojet na nasprotujoče si načine. Porast javnega znanja je po eni strani sprožala vsesplošni entuziazem, po drugi strani pa je sprožala kulturno tesnobo. Dano dvoumnost sta dobro prikazala William Heath in Robert Seymour v seriji karikatur Pohod intelekta (»March of Intellect«, 1828-1829). Na eni izmed karikatur tako vidimo robota, ki stopa po družbi. Njegova glava predstavlja znanje - sestavljena je iz zvezkov zgodovine, filozofije in mehaničnih priročnikov. Na vrhu glave ima krono, ki predstavlja londonsko univerzo, v roki pa drži metlo, na kateri je glava reformatorja Henrya Broughama in s katero pometa vse pred sabo - vikarje, župnike, birorkate, zdravnike šarlatane, prošnje, pritožbe in zapoznele parlamentarne pripombe. Med pohodom kadi pipo, iz katere prihajajo baloni na vroči zrak in krik »prihajam, prihajam«.
222
Veliki jezikovni modeli in obči intelekt
niso privedle do »popolnoma avtomatiziranega luksuznega komunizma« (Bastani 2019), temveč do novih oblik družbene dominacije in kapitalističnega izkoriščanja, vključno z nastankom »bulšihtov« (Graeber 2024) in s privatizacijo »digitalnega skupnega« (angl. digital commons). Do velike spremembe je prišlo tudi pri premiku od tradicionalnih industrijskih oblik dela, ki so temeljile predvsem na manualnem delu, k postfordistič-nim oblikam dela, ki obsegajo različne oblike kognitivnega in nematerialnega dela. Postfordistične oblike dela so v zadnjem desetletju podrobno preučevali predvsem postoperaistični misleci, ki so, izhajajoč iz Makovega koncepta občega intelekta, razvijali koncepte »množične intelektual-nosti« (Virno 2003), »razpršene intelektualnosti« (Vercellone 2007), »kognitivnega dela« (Bifo 2013; Moulier-Boutang 2011) in »nematerialnega dela« (Lazzarato 1996; Negri in Hardt 2003).
Po omenjenih postfordističnih teorijah se obči intelekt ne udejanja več zgolj v fiksnem kapitalu (strojih oz. tehnologiji), temveč tudi v delovni sili (»živem delu«), torej v samih delavcih in njihovih kognitivnih, komunikacijskih in emocionalnih sposobnostih. Virno (1996) npr. trdi, da obči intelekt v postfordistični družbi »vključuje formalno in neformalno znanje, domišljijo, etična nagnjenja, mentaliteto in jezikovne igre«. Zanj je množična intelektualnost nekakšno skladišče kognitivnih kompetenc, ki jih ni mogoče upredmetiti v strojih. To pomeni, da so same zmožnosti mišljenja, komunikacije in diskurzivne prakse upredmetene v živem delu ter so kot take postale del proizvodnega procesa. Na podoben način Laz-zarato trdi, da je po letu 1970 prišlo do družbene preobrazbe in nastanka »masovne intelektualnosti«, ki zakriva stare razlike med manualnim in intelektualnim delom oz. razlike med materialnim in nematerialnim delom. Pravi, da manualno delo vse bolj vključuje postopke, ki bi jih lahko označili za »intelektualne«, medtem ko nove komunikacijske tehnologije vse bolj potrebujejo »subjektivitete, ki so bogate z znanjem« (Lazzarato
1996, 133).
Ena najodmevnejših tehnoloških inovacij v zadnjih letih, ki poskuša avtomatizirati »subjektivitete, bogate z znanjem«, je nastanek velikih jezikovnih modelov. Ti modeli lahko opravljajo številne naloge, npr. urejajo in povzemajo informacije, pišejo e-poštna sporočila ali osnutke dokumentov, nudijo pomoč pri prevajanju, analizirajo in ustvarjajo vizualne podobe, vodijo pogovore, razlagajo kodo v različnih programskih jezikih ter prevajajo človeški jezik v programsko kodo. Pri tem se neposredno odzivajo na vprašanja, ki jih zastavijo uporabniki, in nanje odgovarjajo. Jezikovni modeli ne ustvarjajo novega znanja, temveč na specifi-
223
Lea Kuhar
čen način prestrukturirajo in povezujejo že obstoječe informacije. Npr., kot lahko preberemo na spletni strani o pen a i, chatG p t deluje na podlagi treh glavnih virov: (1) javno dostopnih informacij s spleta, (2) podatkov, pridobljenih v sodelovanju s tretjimi osebami, in (3) vsebin, ki jih prispevajo uporabniki, človeški trenerji ali raziskovalci (openAi 2025).
Kako razumeti delovanje velikih jezikovnih modelov? Na površini se zdi stvar precej enostavna. chatGPTnpr. deluje tako, da pregleduje širok nabor informacij, kot so tekst, slike, avdio in video, in na podlagi teh informacij tvori novo vsebino. To počne po načelu izračuna verjetnosti. Pri generiranju besedila se na podlagi velike količine podatkov nauči, kako se besede običajno povezujejo in pojavljajo v različnih kontekstih. Na podlagi tega znanja nato statistično preračuna najverjetnejšo naslednjo besedo injo doda v besedilo. Postopek ponavlja besedo za besedo, dokler ne ustvari celotnega odgovora.2 Podoben mehanizem deluje tudi pri vizualnih podatkih. chatGPTanalizira, kako so piksli, ki sestavljajo sliko, povezani med seboj, ter kako so te slike opisane z besedilnimi oznakami (npr. s podnapisi pod slikami). Tako se nauči prepoznavati vzorce in tvoriti nove vizualne vsebine. chatGPT-ju tako lahko npr. zastavimo vprašanje »Kaj je obči intelekt«? Model nato pregleda obsežen nabor podatkov, vključno s spletnimi članki, blogi in z drugimi dostopnimi viri, ki jih je analiziral med učenjem. Na podlagi teh informacij se »nauči« razumeti vprašanje ter izračuna zaporedje besed, ki tvorijo smiseln in kontekstualno ustrezen odgovor. Npr., eden izmed možnih odgovorov na zastavljeno vprašanje o občem intelektu bi bilo: »Obči intelekt (ali general intellect) je filozofski in družbenoteoretični koncept, ki ga je v svojem delu Grundrisse izpostavil Karl Marx, zlasti v kontekstu analize kapitalizma in razvoja proizvodnih sil.«
Na prvi pogled se zdi, da veliki jezikovni modeli na nek način avtomatizirajo diseminacijo javnega znanja. Kot rečeno, ti modeli ne ustvarjajo novega znanja, temveč zajemajo že obstoječe znanje, ki ga klasificirajo, urejajo in povzemajo na nov način. To je sicer res, toda če na pojav jezikovnih modelov pogledamo s perspektive Marxovega koncepta občega intelekta, se razkrije še ena dimenzija. Za Marxa so veliki jezikovni mo-
2 Jezikovni modeli v splošnem po izračunu verjetnosti ne uporabijo besede, ki bi bila najprimernejša (najvišje uvrščene besede). Če bi model namreč izbral najverjetnejšo besedo, bi sproduciral zelo monotono in neustvarjalno besedilo, ki pogosto ponavlja eno in isto besedo. Pri izboru zato naključno uporablja nižje, statistično manj verjetne (nižje uvrščene) besede, s čimer se ustvarja smiselnejše besedilo (Wolfram 2023).
224
Veliki jezikovni modeli in obči intelekt
deli neposredno utelešenje občega intelekta, torej družbenega znanja, ki se emancipira od delavcev in postane neposredna sila proizvodnje. Če je v industrijski dobi potekal prenos znanja z delavcev na stroje, moramo pojave umetne inteligence razumeti kot del istega procesa, s tem da umetna inteligenca danes upredmetuje obči intelekt v novih oblikah, kot so nabori podatkov, algoritmi in statistični modeli, na katerih temelji strojno učenje. To je pomemben poudarek, saj omogoča pokazati, da pri delovanju chatGPT-ja ne gre zgolj za to, da slednji na novo klasificira že obstoječe znanje, temveč gre predvsem za avtomatizacijo specifičnega znanja, ki temelji na določeni obliki človeškega dela in družbenih razmerij, ki jih zakodira v matematične algoritme. Ključno vprašanje za Marxa bi torej bilo, katero specifično delo in katera družbena razmerja so upredmetena v algoritmih velikih jezikovnih modelov.
Na dano vprašanje odgovarja Matteo Pasquinelli v študiji The Eye of the Master: A Social History of Artificial Intelligence (2023). V delu Pasquinelli razvije »delovno teorijo avtomatizacije« oz. »delovno teorijo strojev«, ki jo preko študije umetne inteligence razširi v »delovno teorijo strojne inteligence«. Zanj je ključno vprašanje, kaj je strojna inteligenca oz. zakaj so stroji videti inteligentni. Pasquinelli je neposredno kritičen do pozicij, ki umetno inteligenco obravnavajo kot imitacijo biološke inteligence posameznikov, kar je stališče, ki ga pogosto zagovarjajo tehnološki giganti iz Silicijeve doline. Namesto tega avtor predlaga svojo definicijo umetne inteligence, po kateri je umetna inteligenca »projekt, katerega cilj je zajeti znanje, izraženo preko posameznih in kolektivnih vedenj, ter ga zako-dirati v algoritmične modele za avtomatizacijo najrazličnejših nalog: od prepoznavanja slik in manipulacije s predmeti do prevajanja jezikov in odločanja« (str. 2).
Pasquinellijeva teza ima dve ključni posledici za razumevanje inteligence novih tehnologij. Po eni strani pokaže, da inteligentnost novih tehnologij izhaja predvsem iz njihove zmožnosti, da zakrijejo delo, ki je v prvi vrsti omogočilo njihovo delovanje. Kot zapiše Simon Schaffer (1994, 204): »Da bi bili stroji videti inteligentni, je bilo treba poskrbeti, da so viri njihove moči - delovna sila, ki jih je obkrožala in upravljala - postali nevidni.« Če pogledamo primer velikih jezikovnih modelov, lahko rečemo, da pride ob njihovi uporabi do dvojne mistifikacije. Po eni strani se mistificira delo, kije bilo potrebno za samo delovanje sistema. Tu gre za celotno verigo procesov, ki vključujejo tehnično implementacijo, strojno opremo in obsežno delo na področju omejevanja ter moderiranja rezultatov. Po drugi strani gre za mistifikacijo samega vira znanja, torej »nevi-
225
Lea Kuhar
dni« postanejo vsi članki in spletne vsebine, ki so jih napisali znanstveniki in znanstvenice ali drugi ustvarjalci spletnih vsebin, iz katerih npr. chatGPT črpa vsebino.
Po drugi strani Pasquinelli poudarja, da pri umetni inteligenci ne gre zgolj za zakrivanje dela, ki je bilo potrebno za razvoj določene tehnologije. Ključni poudarek je, da vsi, tudi najkompleksnejši algoritmi umetne inteligence in strojnega učenja temeljijo na družbenih in materialnih praksah. Pasquinelli trdi, da umetna inteligenca ne nastane z repliciranjem človeške inteligence, temveč s kodiranjem človeških dejavnosti v ponovljive postopke - algoritme. »Delo je prvi algoritem«, pravi Pasquinelli (2023,16). Algoritemsko mišljenje se je pojavilo kot materialna abstrakcija interakcije med umom in orodjem z namenom reševanja predvsem gospodarskih in družbenih problemov. Pri tem je ključno, da algoritem-sko mišljenje ni zgolj abstrakcija, temveč je »realna abstrakcija«, sajje utelešeno v dejanskih materialnih praksah in ne zgolj v idejah. Pasquinelli se s tem pojmom opira na teorijo Alfreda Sohn-Rethela (2021), kije trdil, da »realne abstrakcije«, kot je npr. denar, izhajajo iz dejanskih materialnih praks menjave v družbi in ne le iz človeškega dogovora, da je »denar nekaj vreden«. Na podoben način algoritmi abstrahirajo sistem navodil, ki usmerjajo človeško dejavnost.
Prvi algoritmi so bili »družbeni algoritmi«, kar pomeni, da so bili upodobljeni v ritualih in družbenih praksah. Kot zgodnji primer družbenega algoritma Pasquinelli navaja hindujski obred Agnicayana za gradnjo simbolnih oltarjev. Ti utelešeni algoritmi so bili način prenosa znanja in spretnosti. Prvi algoritmi niso bili formalizirani, ampak so bili postopki, opisani z besedami. To seje kasneje spremenilo z razvojem formalnih matematičnih zapisov, ki so algoritme predstavljali abstraktneje. Prvi »formalni algoritmi« so se razvili v Indiji in kasneje v srednjem veku v Evropi, ko je nastala potreba po matematičnih operacijah, namenjenih izračunavanju in administrativnim nalogam. To je bil tudi trenutek, ko se je avtomatiziralo kognitivno delo. Kot poudarja Pasquinelli, so bila prva vrsta avtomatizacije kognitivnega dela ročna izračunavanja, ki so jih opravljali »človeški računalniki«. V 19. stoletju »računalnik« ni bilo ime za stroj, ampak za osebo, ki je delala izračune. Ime izvira iz latinskega glagola computare, kar pomeni računati ali izračunati. Računalniki so bile najpogosteje ženske, ki so izvajale matematične izračune z orodji, kot so abaki, logaritmična ravnila ali logaritmične tabele. Najemale so jih organizacije zato, da so delale izračune za glavna področja, kot so astronomija, inže-nirstvo in navigacija. Pogosto so delale od doma. Delo je potekalo tako,
226
Veliki jezikovni modeli in obči intelekt
da so na dom prejele kup številk, ki so jih morale preračunati in jih nato po pošti poslati nazaj. Kot pravi Pasquinelli (2023,51), je bil celoten proces »prvi zgodovinski pojav računalniškega omrežja v obliki domačega dela«. Z industrijsko dobo na Zahodu so se začeli razvijati »avtomatizirani algoritmi«, kar je Pasquinellijev opis za izvajanje formalnih algoritmov v strojnih in elektronskih računalnikih. To so algoritmi, ki jih poznamo danes.
Ključen Pasquinellijev poudarek je, da moramo zgodovino algoritmič-nega mišljenja in umetne inteligence obravnavati v povezavi z družbenogospodarskimi spremembami in ne zgolj skozi prizmo tehnološkega napredka. Delovna teorija avtomatizacije tako prikazuje, daje razvoj nove tehnologije - vključno z umetno inteligenco - v preteklosti vedno sledil in ponavljal logiko delitve dela. Npr., zgodnja računska orodja in rituali so se pojavili kot utelešene oblike algoritmičnega mišljenja, matematični koncepti, kot so števila, pa so izhajali iz praktičnih družbenih potreb, kot je razdeljevanje virov. Sama matematika za Pasquinellija temelji na materialni izkušnji, saj je štetje nastalo pred števili in dejansko se števila pojavijo kot abstrakcija štetja. Na podoben način vsak nov stroj oz. tehnologija posnema in nadomešča specifično materialno prakso delitve dela. Parni stroj, npr., je obstajal že v antiki, vendar se je uveljavil šele z industrijsko revolucijo, torej po tem, ko je specifična delitev dela ustvarila potrebo po njem. Na podoben način je Charles Babbage mehaniziral umsko delo »človeških računalnikov« z uporabo računskih strojev na parni pogon zaradi nove potrebe po obsežnih preglednicah navigacijskih podatkov v kolonialnih časih, torej po tem, ko se je pojavila potreba po hitrejših in natančnejših izračunih.3
Kako se Pasquinellijeva teorija nanaša npr. na velike jezikovne modele? V primeru umetnih nevronskih mrež za prepoznavanje vzorcev, na katerih temeljijo sodobni pojavi umetne inteligence - med drugim chatGPT -, je logika podobna kot pri avtomatizaciji »človeških računalnikov«, vendar ti modeli ne avtomatizirajo ročnih kalkulacij, temveč delo percepcije (prepoznavanje vzorcev) in nadzora. Ključen izum za avtomatizacijo per-cepcije je bila iznajdba »perceptrona«, ki ga je leta 1952 razvil psiholog Frank Rosenblatt. Pasquinelli (2023, 209) perceptron definira kot »statistično nevronsko omrežje za prepoznavanje vzorcev - to je samoorga-
3 Na podoben način Pasquinelli trdi, da razvoja novih strojev ne poganja zgolj znanost -termodinamika se je kot znanost pojavila šele po izumu parnega stroja in ne obratno -, temveč predvsem vse zapletenejša delitev dela.
227
Lea Kuhar
nizirajoče računalniško omrežje za binarno razvrščanje dražljajev«.4 Rečeno zelo preprosto, je perceptron naprava za učenje in prepoznavanje vzorcev. Medtem ko so starejše oblike strojnega učenja delovale po de-duktivnem načinu sklepanja, kar pomeni, da so sklepale od splošnega k posameznemu, strojno učenje na podlagi perceptrona deluje po induktivni metodi sklepanja, kar pomeni, da uporablja razpoložljive informacije, znanja ali dejstva za oblikovanje splošnega zaključka. Kot pokaže Pa-squinelli, je izumitev perceptrona prinesla veliko spremembo v delovanju sodobne tehnologije, saj je omogočila t. i. »globoko učenje« (angl. deep learning), na katerem temeljijo umetne nevronske mreže. Načelo induktivnega sklepanja tako omogoča, da umetne nevronske mreže imitirajo človeško zaznavo in percepcijo, torej lahko prepoznajo obraze, analizirajo slike ali pa razumejo govor.
Delo percepcije, ki ga avtomatizirajo velikijezikovni modeli, ni delo individualne percepcije, temveč temelji na obsežnem modeliranju občega intelekta - torej kolektivnega družbenega znanja. To modeliranje poteka tako, da vedenje posameznikov vkodira v obliki obsežnih statističnih ko-relacij. Kot pokaže Pasquinelli, iznajda perceptrona izhaja iz psihome-trike - metode merjenja duševnih pojavov s psihološkimi testi za zbiranje podatkov in njihovo statistično obdelavo. Rosenblattov perceptron je analiziral vzorce podobnosti v numeričnih predstavitvah na podoben način, kot je psihometrika določala vzorce podobnosti v numeričnih matrikah psiholoških profilov. Če se je v industrijski dobi obči intelekt upred-metil v strojih, se v sodobnem času umetne inteligence upodobi v statističnih orodjih. Inteligenca strojnega učenja je v prvi vrsti statistična inteligenca, oz. kot pravi Pasquinelli (2023, 245), »trenutna oblika umetne inteligence, strojno učenje, je avtomatizacija statičnih metrik, ki so bile prvotno uvedene za merjenje kognitivnih, družbenih in z delom povezanih sposobnosti«.
Z razvojem umetne inteligence se je statistični pogled na svet in družbo tako rekoč avtomatiziral, s čimer je postal vse bolj normaliziran in natura-liziran. Pasquinellijeva delovna teorija avtomatizacije omogoči pokazati, da s kodifikacijo občega intelekta v računalniško berljiv jezik veliki jezikovni modeli ne le avtomatizirajo dela človeške percepcije in reorganizacije obstoječih podatkov, temveč tudi reproducirajo družbene strukture,
4 Perceptron ni bil prva umetna nevronska mreža, temveč prva prilagodljiva nevronska mreža, kar pomeni, da ni zgolj prepoznavala vzorcev, temveč se je naučila, kako jih prepoznavati.
228
Veliki jezikovni modeli in obči intelekt
znotraj katerih so nastali. To se nanaša predvsem na družbene hierarhije in neenakosti. Eden takšnih primerov so razredne, spolne in rasne pristranskosti, ki jih sistemi umetne inteligence ohranjajo in reproduci-rajo. Skupina tehnoloških in jezikoslovnih raziskovalcev je npr. razkrila, da veliki jezikovni modeli, kot sta chatGPT podjetja openAi in Googlov Gemini, reproducirajo rasistične stereotipe o govorcih afroameriške ljudske angleščine (angl. African-American vernacular English - aave), angleškega narečja, ki so ga ustvarili in govorili temnopolti Američani (Hofmann idr. 2024). Drug primer so spolni stereotipi, ki jih veliki jezikovni modeli ohranjajo, ko pri pisanju zgodb izbirajo poklice, ki stereotipno pripadajo določenemu spolu (Kotek idr. 2023). Takšna reprodukcija ste-reotipov dokazuje, da avtomatizacija vednosti ni nevtralen proces, temveč je vedno umeščena v širši politični kontekst, znotraj katerega je nastala.
Poleg tega je ključno vprašanje pri nastanku novih tehnologij tudi, kdo jih nadzoruje in upravlja. Vidimo lahko, da se tudi sami veliki jezikovni modeli med seboj razlikujejo glede na to, kje in kako so bili ustvarjeni. Januarja 2024 je kitajsko podjetje DeepSeek izdalo svoj velik jezikovni model, kar je imelo pomembne posledice za obstoječe jezikovne modele. Po eni strani je DeepSeek dekomodificiral rezultate usposabljanja jezikovnih modelov, s čimer je ogrozil lastniški model obstoječih ameriških modelov. Medtem ko so ti preko plačljivih naročniških shem ponujali svoje storitve kot blago, je DeepSeek dostopen popolnoma brezplačno. Takoj po njegovi izdaji so računalniški programerji po vsem svetu začeli razvijati svoje modele na podlagi njegove odprtokodne kode, kar je imelo velike posledice za ameriško gospodarstvo. Po drugi strani pa razlika med, npr., chatGPT-jem in DeepSeekom ni zgolj v lastniškem ali odprtokodnem modelu, temveč tudi v načinu, kako njuni algoritmi sintetizirajo znanje. Če chatGPT-ju, ki ga razvija ameriško podjetje openAi, zastavimo isto vprašanje kot kitajskemu DeepSeeku, bomo prejeli odgovor, ki reproducira drugačen ideološki nazor.
Z avtomatizacijo kolektivnega intelekta je prišlo do dveh nasprotujočih si tendenc. Po eni strani so veliki jezikovni modeli do neke mere avtomatizirali številna intelektualna dela (od pisanja e-pošte do programiranja zapletenih kod) in olajšali oblikovanje »skupnega znanja« - informacij, podatkov in vsebin, ki so na voljo za uporabo skupnosti uporabnikov. Po drugi strani pa je ta proces tesno povezan s privatizacijo podatkov in z asimetrijo lastništva nad njimi. Čeprav večino podatkov, s katerimi se učijo algoritmi velikih jezikovnih modelov, proizvajajo internetni upo-
229
Lea Kuhar
rabniki, si lastniške pravice nad njimi lastijo velike tehnološke korpora-cije, kot so Google, Alphabet in Meta. To pomeni, da javno proizvedeni podatki postajajo vir zasebnega kapitala, kar vodi v koncentracijo moči in bogastva v rokah peščice tehnoloških gigantov. Tako se avtomatizacija kolektivnega intelekta ne izraža le kot tehnološki napredek, temveč tudi kot širši politično-ekonomski proces, ki odpira vprašanja glede dostopa do znanja, nadzora nad informacijami in pravične porazdelitve digitalnih virov.
Isti tehnološki mehanizmi, ki omogočajo delovanje velikih jezikovnih modelov, omogočajo tudi kodificiranje drugih oblik človeškega vedenja in izkušenj, s čimer omogočajo nove oblike družbenega nadzora. Sho-shana Zuboff (2019) poudarja, da smo s pretvorbo človeških praks v »vedenjske podatke« vstopili v novo fazo kapitalizma, ki jo imenuje »kapitalizem nadzora«. Ta novi sistem temelji na masovnem zbiranju, analizi in uporabi podatkov o vedenju posameznikov. Shoshana Zuboff trdi, da tehnološke platforme in korporacije z uporabo naprednih algoritmov in umetne inteligence ne le sledijo našemu vedenju, temveč tudi aktivno oblikujejo in napovedujejo naše odločitve, s čimer ustvarjajo novo obliko ekonomske in družbene moči. Nekateri drugi avtorji gredo še korak dlje, saj trdijo, da so nove tehnologije temeljito preoblikovale tradicionalni kapitalizem in privedle do nastanka nove družbene strukture. McKenzie Wark (2019) npr. trdi, daje celotna politična ekonomija, ki temelji na asi-metriji lastništva podatkov, privedla do nastanka novega družbenega razreda. Ta razred ne poseduje produkcijskih sredstev kot kapitalisti niti ne ponuja delovne sile kot delavci, temveč si lasti »vektor«, po katerem se zbirajo in proizvajajo informacije. Po mnenju McKenzie Wark počasi prehajamo v nov sistem, ki ni niti kapitalizem niti socializem, temveč »nekaj slabšega od kapitalizma«. Na podoben način Yanis Varoufakis (2023) v zadnji knjigi trdi, da je kapitalizem mutiral in se sprevrgel v obliko »teh-nofevdalizma«, torej družbene ureditve, v kateri vladajo tehnološki giganti. Ti imajo monopolni nadzor tako nad spletnimi platformami kot nad našimi informacijami, kijih uporabljajo za nadzor in manipulacijo z vedenjem posameznikov.
Dane interpretacije do neke mere pritrjujejo Marxovi tezi, da bo razvoj občega intelekta pripeljal do nove družbene oblike, s to razliko, daje Marx pričakoval komunizem, dobili pa smo nove oblike družbene dominacije in izkoriščanja. Kot je prikazal članek, sodobnih pojavov umetne inteligence, kot so veliki jezikovni modeli, ne smemo razumeti preprosto kot avtomatizacijo individualnih sposobnosti mišljenja niti ne avtomatizacijo
230
Veliki jezikovni modeli in obči intelekt
javne vednosti, kot sojo razumeli avtorji nemške klasične filozofije, temveč kot neposredno upredmetenje občega intelekta. Umetne nevronske mreže, na katerih temeljijo veliki jezikovni modeli, niso nevtralen medij, temveč medij, ki kodificira obči intelekt - torej tako skupno družbeno znanje kot njim pripadajoča družbena razmerja - v statistična orodja strojnega učenja. Pasquinellijeva delovna teorija avtomatizacije pokaže, da so sodobni pojavi umetne inteligence prizorišče boja - tako za nadzor in lastništvo nad tehnologijo kot tudi za reapropriacijo zgodovinskih oblik abstraktnega mišljenja (statističnih algoritmov).
Opomba
Članek je rezultat dela na raziskovalnem projektu Skupno med substanco in subjektom: heglovski predlog nove socialne filozofije (J6-50209), ki ga financira ARis, Javna agencija za znanstvenoraziskovalno in inovacijsko dejavnost Republike Slovenije.
Literatura
Bastani, Aaron. 2019. Fully Automated Luxury Communism: A Manifesto. Verso.
Bifo, Franco Berardi. 2013. Duša na delu. Prevedel Gašper Malej. Maska. Graeber, David. 2024. Bulšihti: teorija. Prevedla Aleksandra Rekar. /*cf. Hegel, GeorgWilhelm Friedrich. 2013. Oris filozofije pravice. Uredil in prevedel
Zdravko Kobe. Krtina. Hegel, GeorgWilhelm Friedrich. 2017. Fenomenologija duha. Prevedel Božidar
Debenjak. Društvo za teoretsko psihoanalizo. Hofmann, Valentin, Pratyusha Ria Kalluri, Dan Jurafsky in Sharese King. 2024. »Ai Generates Covertly Racist Decisions About People Based on Their Dialect.« Nature 633 (8028): 147-154. Kant, Immanuel. 1987. »Odgovor na vprašanje: kaj je razsvetljenstvo?« Vestnik
Inštituta za marksistične študije 8 (1): 9-13. Kant, Immanuel. 2019. Kritika čistega uma. Prevedel in uredil Zdravko Kobe.
Društvo za teoretsko psihoanalizo. Kotek, Hadas, Rikker Dockum in David Sun. 2023. »Gender Bias and Stereotypes in Large Language Models.« V Proceedings oftheAcM Collective Intelligence Conference (ci '23), uredili Michael Bernstein, Saiph Savage in Ales-sandro Bozzon. Association for Computing Machinery. Lazzarato, Maurizio. 1996. »Immaterial Labor.« V Radical Thought in Italy: A Potential Politics, uredila Paolo Virno in Michael Hardt. University of Minnesota Press.
Marx, Karl. 1985. »Fiksni kapital in razvoj produktivnih sil družbe.« V Karl Marx, Kritika politične ekonomije 1857/58, zv. I/8, uredilaRado Rihain Pavel Zgaga. Delavska enotnost. Moulier-Boutang, Yann. 2011. Cognitive Capitalism. Prevedel Ed Emery. Polity. Negri, Antonio, in Michael Hardt. 2003. Imperij. Prevedel Janez Dular. Študentska založba.
231
Lea Kuhar
openAi. 2025. »HowchatGPTand Our Foundation Models Are Developed.« https://help.openai.com/en/articles/7842364-how-chatgpt-and-our -foundation-models-are-developed.
Pasquinelli, Matteo. 2019. »On the Origins of Marx's General Intellect.« Radical Philosophy 206:43-56.
Pasquinelli, Matteo. 2023. The Eye of the Master: A Social History of Artificial Intelligence. Verso Books.
Platon. 2009. »Fajdros.« V Platon: zbrana delan, prevedel Gorazd Kocijančič. KUD Logos.
Rauch, Alan. 2001. Useful Knowledge: The Victorians, Morality, and the March of Intellect. Duke University Press.
Schaffer, Simon. 1994. »Babbage's Intelligence: Calculating Engines and the Factory System.« Critical Inquiry 21 (1): 203-227.
Sohn-Rethel, Alfred. 2021. Intellectual and Manual Labour: A Critique ofEpi-stemology. Historical Materialism Book Series 224. Brill.
Varoufakis, Yanis. 2023. Techno Feudalism: What Killed Capitalism. Bodley Head.
Vercellone, Carlo. 2007. »From Formal Subsumption to General Intellect: Elements for a Marxist Reading of the Thesis of Cognitive Capitalism.« Historical Materialism 15 (1): 13-36.
Virno, Paolo. 1996. »The Ambivalence of Disenchantment.« V Radical Thought in Italy, uredila Paolo Virno in Michael Hardt. University of Minnesota Press.
Virno, Paolo. 2003. Slovnica mnoštva: k analizi oblik sodobnega življenja. Prevedel Igor Pribac. Krtina.
Virno, Paolo. B.l. »General Intellect.« Generation Online. https://www .generation-online.org/p/fpvirno10.htm.
Wark, McKenzie. 2019. Capital is Dead: Is This Something Worse? Verso.
Wolfram, Stephen. 2023. »What Is chatGPT Doing and Why Does It Work?« Stephen Wolfram Writings, 14. februar. https://writings.stephenwolfram .com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/.
Zuboff, Shoshana. 2019. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Profile.
232