POSEBNA IZDAJA ISBN 961-91168-2-8 SVET N A J B O L J Š E I Z S V E T O V N E G A T I S K A APRIL 2024 U CENA: 5,50 EUR KAKO JE NASTAL ChatGPT Prvih nekaj let v OpenAI je bilo napornih: nič ni delovalo, Google pa je imel vse - vse nadarjene raziskovalce, ogromno ljudi in veliko denarja. DOSJE  Državno prisluškovanje  Umetna inteligenca  Umetna inteligenca v gospodarstvu NOVE TEHNOLOGIJE  Roboti  Holografski usmerjevalnik  Nove baterije  3D tiskanje raketnega goriva VELIKANI IZ VSEBINE  ALI VOHUNI SABOTIRAJO ŠIFRIRANJE?  IBM  APPLOV AVTOMOBIL, KI GA NE BO  JOHN VON  TIKTOK, KRALJ BLAGOVNIH ZNAMK NEUMANN ZA GENERACIJO Z VKLOP Univerza v Ljubljani meni, da je treba reči bobu bob – prijava evropskih projektov je običajno nakladanje, ki ga najbolje obvlada kar ChatGPT. MATJAŽ KLANČAR odgovorni urednik, matjaz.klancar@monitor.si Umetna inteligenca ali strojno učenje? ChatGPT je pred letom in pol šokiral nas, ki že desetletja vidimo, kako neinteligentni so (bili) v resnici računalniki, in razveselil vse tiste, ki smo v njem videli gigantski napredek v primerjavi z običajnim guglanjem. Toda ali je to res »umetna inteligenca« ali le »strojno učenje« na steroidih? pomnim se svojih štu- ChatGPT (in njegov derivat S dentskih let, ko sem pri Microsoft Copilot) danes upo- predmetu Umetna in- rablja staro in mlado. Kot neka- teligenca izdelal (sprogramiral) kšen koncentriran spletni iskal- svojo prvo nevronsko mrežo in nik, ki vrne le en odgovor in ne jo »nahranil« s podatki. Po tiso- stotine linkov (pa čeprav je od- čih in tisočih vzorcih/podatkih, govor včasih napačen), kot za- ki jih je skupek moje programske bavnega sogovornika, lektorja, kode »prežvečil«, je znal bolj ali tajnico, ki zna povzeti dooool- predolgočasne leposlovne knji- projekt. V 24 urah, da ne bi kdo manj, približno, pravilne rezul- ga besedila ali drugače zapisa- ge. In uporabljajo ga seveda pro- pomislil, da je to težko. tate izpisovati tudi za podatke, ki ti izvirnik besedila, nenazadnje fesorji, ki nato s to isto aplikaci- Manj odlična pa je umetna in- niso bili del učnega korpusa. Ču- tudi kot prevajalnik, ki je veliko- jo pregledujejo te naloge. »Čet«, teligenca pri razpoznavanju člo- dež!, se mi je takrat zdelo. krat učinkovitejši kot Googlov iz- ki pregleduje izdelke tega iste- veškega obnašanja, so ugotovi- In vendar je umetna inteligen- delek, čeprav je ta z nami že dol- ga »četa«. Predvsem pa učen- li pri Amazonu. Leta 2016 so v ca že takrat bila v eni izmed t. i. ga leta. In seveda, ChatGPT upo- ci, učitelji, profesorji in vsakdo, kar nekaj svojih fizičnih trgovi- »zim« (AI winter), ko so razisko- rabljamo kot pomočnika. Tam, ki mora pri svojem delu ustva- nah uvedli sistem Just Walk Out, valci zašli v slepo ulico in napred- kjer je boljši od nas, in predvsem riti veliko besedila – »čet« je pač ki je obljubljal nakupovanje brez ka enostavno ni bilo več. Šele leta tam, kjer – se nam ne da. Golju- odličen pri nakladanju, v vseh prodajalca. Kupec se je le prija- 2017 so Googlovi strokovnjaki fanje, v taki ali drugačni obli- oblikah. vil ob vstopu v trgovino, v tor- razvili in predlagali arhitekturo ki, je verjetno najbolj razširjena Tako zelo odličen, da je celo bo spravil kar je želel, in odšel. globokega učenja Transformer, uporaba tehnologije, ki so si jo najbolj čislana izobraževalna in- »Umetna inteligenca« pa je sa- ki nas je počasi prevesila v – po- raziskovalci bržkone zamislili z stitucija pri nas, Univerza v Lju- modejno razbrala, kaj je kupil, mlad, kot jo uživamo danes. To bolj plemenitimi cilji. bljani, nedavno pozvala k teča- in mu naknadno poslala račun. arhitekturo zdaj uporabljajo vsi Učenci in študenti s »četom« ju uporabe »četa« pri – goljufa- Le da se je zdaj izkazalo, da so govorni modeli, uporablja se za izdelujejo domače in seminar- nju naše matere, Evropske uni- bili »umetna inteligenca« le sla- računalniški vid in sisteme za ge- ske naloge in imajo namesto je. Pedagoška fakulteta oz. Uni- bo plačani Indijci, ki so pregle- neriranje videa ter glasbe. Širša plonklistkov na telefonu odprto verzitetna služba za raziskoval- dovali videoposnetke vsega, kar javnost pa je zmogljivosti sistema aplikacijo Copilot. Aplikacijo, ki no dejavnost je namreč povabi- je kupec v trgovini počel in po- zares ponotranjila šele s predsta- v hipu naredi povzetek predol- la na delavnico, ki bo raziskoval- spravil v torbo. Amazon je Just vitvijo klepetalnega robota Chat- gega znanstvenega članka, hi- ce »z umetno inteligenco« nau- Walk Out zdaj ukinil. Ampak sli- GPT, ki je veliko več kot le to. tro napiše obnovo predolge in čila napisati evropsko prijavo za šati je bilo pa lepo.  SVET 2024 1 EVIDENCA SVET 2024 FOKUS 20 Kako je nastal ChatGPT Se Sam Altman zaveda, kaj ustvarja? »Sam Altman je na ponedeljkovo jutro aprila lani sedel na sedežu OpenAI v San Franciscu in mi pripovedoval o nevarni umetni inteligenci, ki jo je razvilo njegovo podjetje, a še ne predstavilo na trgu…« NOVE TEHNOLOGIJE NOVE TEHNOLOGIJE 68 Avtomobilske baterije 70 Natisnjeno za mraz raketno gorivo V neodvisnem laboratoriju so potrdili, da Znanstveniki so začeli tiskati reaktivno ima Ampriusova baterija energijsko gostoto črnilo na elektroniko, s čimer so omogočili 500 WH/kg; Tesline baterije dosegajo okoli samouničenje, če bi material prišel v napačne 269 WH/kg. roke. 2 SVET 2024 SVET 2024 VKLOP U 01 Beseda urednika VELIKANI VKLOP 04 Ali vohuni sabotirajo šifriranje? 24 John von Neumann 06 Applovo stremljenje k popolnosti se ne obnese Njegov učitelj matematike je razredu razlagal o izjemno vedno zahtevnem teoremu, ki ga nikomur ni uspelo dokaza- 08 Kako je Tiktok postal oglasni kralj za generacijo Z ti, pa je fant dvignil roko, stopil k tabli in napisal celoten dokaz: »Leta, vsa leta mojega dela, so se v sekundi raz- FOKUS blinila … Po tistem sem se von Neumanna bal.« 10 Kako je nastal ChatGPT VELIKANI 24 John von Neumann Hans Bethe, ki je leta 1967 dobil Nobelovo nagrado za fiziko, je povedal: »Včasih se sprašujem, ali takšni možgani, kot so von Neumannovi, ne nakazujejo vrste, nadrejene človeški.« 28 IBM IBM je ena najstarejših tehnoloških družb na svetu. A če slehernika, mlajšega kot 40 let, vprašate, kaj točno dela IBM, bo v najboljšem primeru postregel z medlim odgovorom: »Nekaj v zvezi z računalniki.« DOSJE Umetna inteligenca v gospodarstvu 35 Googlov Gemini je res potreboval popravke 36 Vodnik po zaposlitvi v UI 38 Kako bo generator filmov Sora pretresel svet. Ali pa tudi ne. 40 Kakšen je donos naložbe v generativno umetno inteligenco DOSJE 42 Kaj je inženir kozmične resničnosti? Umetna inteligenca 55 Ko prisluškuje država 45 Strojno pozabljanje Izraelski Pegasus je najbolj znano programsko orodje, ki 48 Jedrske šifre niso primerne za umetno inteligenco ga za prisluškovanje uporabljajo državne inštitucije ši- 52 Številni svetovi umetne inteligence rom sveta. Med strankami so tako avtoritarne kot nače- loma demokratične države. Državno prisluškovanje 55 Ko prisluškuje država NOVE TEHNOLOGIJE 63 Umetna inteligenca mora dobiti stik z resničnim svetom 66 Holografski usmerjevalnik Wi-Fi 68 Avtomobilske baterije za mraz 70 Natisnjeno raketno gorivo ZADNJA STRAN 72 Umetna inteligenca Deepminda je mojstrica iger SVET 2024 3 VKLOP Ali vohuni sabotirajo šifriranje? Znani strokovnjak za šifriranje je za New Scientist povedal, da bi ena od ameriških vohunskih agencij utegnila oslabiti novo generacijo algoritmov za varovanje pred hekerji, opremljenimi s kvantnimi računalniki. Matthew Sparkes, New Scientist aniel Bernstein z illinoj- spoštovati nedvoumna javna ki je zaradi takšnih algoritmov Dustin Moody z inštituta je iz- D ske univerze v Chicagu pravila, tako da si nam ne bi bilo leta 2003 skoval izraz postkvan- javil, da se z Bernsteinovo anali- pravi, da ameriški na- treba beliti glave o njihovih mo- tna kriptografija, pravi, da naci- zo ne strinjajo: »To je vprašanje, cionalni inštitut za standarde tivih. Inštitut je obljubil pregle- onalna varnostna agencija aktiv- na katero ni mogoče odgovori- in tehnologijo namerno prikri- dno delovanje in nato trdil, da je no sodeluje pri vključevanju skri- ti z znanstveno gotovostjo, in in- va, kako intenzivno je ameriška razkril vse, kar počne, vendar to tih šibkih točk v nove standarde teligentni ljudje imajo lahko raz- nacionalna varnostna agencija preprosto ne drži.« šifriranja, tako da ga bo nekdo lična stališča. Spoštujemo Dano- vpletena v razvoj novih šifrirnih Danes je tako rekoč nemogo- z ustreznim znanjem lažje strl. vo mnenje, vendar se ne strinja- standardov za postkvantno krip- če, da bi celo največji superraču- Standardi ameriškega inštituta mo z njim.« tografijo. Prepričan je tudi, da in- nalniki rešili matematične pro- so v uporabi po vsem svetu, zato Moody pravi, da Kyber512 iz- štitut za standarde in tehnologijo bleme, ki se uporabljajo za zašči- bi pomanjkljivosti lahko imele polnjuje najvišja varnostna me- dela naključne ali namerne na- to podatkov. Ko pa bodo kvantni velik vpliv. rila inštituta, zato ga je vsaj tako pake pri izračunih, ki ponazarja- računalniki postali zanesljivi in Bernstein trdi, da so preraču- težko 'povoziti' kot razširjen ob- jo varnost novih standardov. In- dovolj močni, jih bodo strli v ne- ni inštituta za enega od priho- stoječi algoritem AES-128. A in- štitut te trditve zanika. kaj trenutkih. dnjih postkvantnih standardov, štitut vseeno priporoča, da bi se »Inštitut ne spoštuje postop- Ni še jasno, kdaj bomo dobi- Kyber512, očitno zgrešeni. Tako v praksi uporabljala močnejša kov, katerih namen je nacionalni li takšne računalnike, vendar se zdi varnejši, kot je v resnici. različica, Kyber768, za katerega varnostni agenciji preprečiti sla- je inštitut za standarde in teh- Pojasnil je, da je inštitut pomno- Moody pravi, da so ga predlagali bitev postkvantnega šifriranja,« nologijo že leta 2012 začel pro- žil številki, vendar bi bilo pravil- razvijalci algoritma. je povedal Bernstein. »Pristojni, jekt za standardizacijo nove ge- neje, če bi ju seštel, zato je dobil ki določajo šifrirne standarde, bi neracije algoritmov, ki se upira- umetno zvišano oceno o odpor- Skrivnosti ali preglednost morali pregledno in preverljivo jo njihovemu napadu. Bernstein, nosti Kyber512 proti napadom. Nacionalni inštitut za standar- de in tehnologijo ima zdaj jav- na posvetovanja, se pravi, da mu U Ko bodo kvantni računalniki postali javnost lahko posreduje svoja zanesljivi in dovolj močni, bodo šifre stališča in povratne informacije o predlogu, dokončne standarde strli v nekaj trenutkih. za postkvantne algoritme pa naj bi predstavil prihodnje leto in ta- krat jih bodo podjetja lahko za- čela uvajati. Algoritem Kyber se je že prebil skozi več krogov se- lekcije in bo verjetno prišel tudi v ožji izbor. Zaradi takšne skrivnostnosti je težko zagotovo reči, ali je na- cionalna varnostna agencija vpli- vala na standarde postkvantne kriptografije, že dolgo pa je sli- šati namige in govorice, da agen- cija načrtno slabi šifrirne algo- ritme. Leta 2013 je New York Ti- mes poročal, da ima agencija za to nalogo na voljo 250-milijon- ski proračun, dokumenti obve- ščevalne agencije, ki so istega leta v javnost prišli zaradi Ed- warda Snowdna, pa omenjajo, da nacionalna varnostna agen- cija v šifrirni algoritem nameno- ma vključuje tudi stranska vrata – no, ta konkretni algoritem so pozneje izločili iz uradnih stan- dardov. Moody zanika, da bi se inšti- tut kdaj strinjal s slabljenjem 4 SVET 2024 VKLOP  Dokumenti ki so leta 2013 v javnost prišli zaradi Edwar- da Snowdna, omenjajo, da na- cionalna varnostna agencija v šifrirni algoritem namenoma vključuje tudi stranska vrata. standardov zaradi navodil var- nostne agencije, in dodaja, da skritih šibkih točk ne bi mogli vstaviti v algoritem brez njego- ve vednosti. Trdi tudi, da je po Snowdnovih razkritjih inštitut zaostril smernice za zagotavlja- nje preglednosti ter varnosti in za vnovično pridobitev zaupanja strokovnjakov za kriptografijo. »Nikoli ne bi namenoma stori- li česa takšnega,« je zatrdil Mo- ody, a hkrati priznava, da so bile Snowdnove objave hud udarec. »Vedno ko kdo omeni nacional- no varnostno agencijo, kup krip- tografov izrazi svojo zaskrblje- U Vedno ko kdo omeni nacionalno nost in trudimo se biti odprti ter transparentni pri naši komuni- varnostno agencijo (NSA), številni kaciji.« kriptografi izrazijo zaskrbljenost. Moody pravi, da si agencija prizadeva biti bolj odprta, koli- kor je to za obveščevalno službo številne člane nacionalne var- Kod GEA-1, ki so ga v 90. letih in tako akademiki kot industrija, a seveda sploh mogoče. Agencija nostne agencije in da so se pred- na začetku stoletja uporabljali v še niso odkrili pomanjkljivosti, sama ni želela odgovarjati na no- stavniki inštituta sestali z nekom mobilnih omrežjih, je imel napa- medtem ko so pri algoritmih na vinarska vprašanja o tem. iz britanske vladne uprave za ko- ko, zaradi katere ga je bilo mo- prejšnjih stopnjah preverjanja »Največ, kar mi lahko storimo, munikacije GCHQ, kar je britan- goče računalniško milijonkrat našli napake in jih izločili. je, da opozarjamo, kdo odloča – ska ustreznica ameriške varno- lažje streti, kot bi bilo to dopu- »Obveščevalne agencije so v to je inštitut za standarde in teh- stne agencije. stno. Krivca, ki je podtaknil na- preteklosti že slabile šifriranje, a nologijo. A če nam ne verjame- Alan Woodward z britanske pako, niso nikoli odkrili. za nove kandidate so opravili to- te, tega niti ne morete preveriti, univerze v Surreyju opozarja, da Woodward tudi dodaja, da se- liko varnostnih analiz, da bi me razen če ste zaposleni na inštitu- imamo dobre razloge za neza- danje kandidate za postkvantno presenetilo, če bi Kyber tokrat tu,« je povedal Moody. upanje do šifrirnih algoritmov. kriptografijo temeljito preverjajo naletel na mino,« je še dodal.  Bernstein trdi tudi, da inšti- tut ni iskreno razkril, kako ve- lika je vloga nacionalne varno- stne agencije, in da so se zavili v molk, ko se je poskušal prebiti do več podatkov. Prav zato je tudi oddal nekaj vlog na podlagi svo- bodnega dostopa do informacij in inštitut celo tožil, da bi ga so- dišče prisililo k razkritju podrob- nosti o sodelovanju agencije. Dokumenti, ki jih je na ta na- čin pridobil Bernstein, kaže- jo, da je skupina z imenom Eki- pa za postkvantno šifriranje pri nacionalnem inštitutu za stan- darde in tehnologijo vključevala  Predstavniki Inštituta za stan- darde in tehnologijo so se se- stali z nekom iz britanske vla- dne uprave za komunikacije GCHQ, kar je britanska ustre- znica ameriške varnostne agencije NSA. SVET 2024 5 VKLOP Applovo stremljenje k popolnosti se ne obnese vedno Konec letošnjega februarja so Applovi uradni predstavniki prekinili desetletja dolga ga je predstavil lansko jesen – prizadevanja, da bi sestavili avtomobil. Projekt, katerega delovno ime je menda bilo ni pripeljalo korak bliže k izdel- Titan, je imel več vodij in doživel nekaj strateških sprememb, sta poročala New York ku. Gurman pravi, da bo pame- tni zaslon v najboljšem primeru Times in Bloomberg. Zdaj Apple prešteva izgube, zaposlene pa je prestavil k delu z na voljo prihodnje leto. generativno umetno inteligenco. Jared Newman, Fast Company Mečkanje namesto zlaganja pplov avtomobil je od potrebe kupcev, sploh v primer- fotografije. Lenovov pametni Applova želja po popolnosti A začetka veljal za težko javi z električnimi vozili in samo- zaslon mojo kuhinjo krasi od je tudi preprečila, da bi predsta- dosegljiv cilj, vendar je voznimi sistemi, kljub temu pa leta 2018, in ko brskam po al- vil zložljiv telefon, ki bi se kosal s njegov polom v resnici le malo se zdi, da podjetje ne ve, kako jih bumih Google Photos, mi to Samsungovimi izdelki. Govorice bolj dostojanstvena manifestaci- spraviti na trg. ni le v neznansko veselje, tem- o Applovem zložljivem telefonu ja Applove trenutne nezmožno- več je tudi pomemben dejav- so stare že osem let in Gurman je sti, da bi od strojne opreme po- Pametni zaslon, ki to ni bil nik, da družina ostane poveza- že na začetku leta 2021 omenil, nudil še kaj drugega razen svo- Apple naj bi pametni zaslon na z Googlovim sistemom stori- da je podjetje začelo prva testira- jih najslavnejših izdelkov. Prete- razvijal že vsaj od leta 2021, ko tev in doplačuje za dodatni pro- nja zložljivih zaslonov za iphone. kla leta smo slišali najrazličnej- je Mark Gurman iz Bloomberga stor v oblaku. Tri leta pozneje so v The Infor- še govorice o pametnih zaslo- opisal prvo stopnjo razvoja izvr- Zakaj torej Apple ni zmožen mationu poročali, da je Apple še nih, televizorjih, zložljivih telefo- stnega zvočnika z zaslonom na dobaviti nečesa podobnega za vedno na začetku razvoja, ker nih in drugem, a se ni nič od tega dotik skupaj s kamero za video- uporabnike iCloud Photos? Kar menda želi, da zložena napra- uresničilo, ker naj bi Apple men- pogovore. nekaj poročil pravi, da je Apple va ne bi bila debelejša od nava- da preveč omahoval pri podrob- To ni bil čisto nov koncept, preveril različne rešitve za pritr- dnega iphona. Če jim tega ne bo nostih. saj sta Amazon in Google takrat jevanje na steno in formate za- uspelo doseči, morda sploh ne Nekateri teh izdelkov so se že nekaj let dobavljala pame- slona, a ga to kljub Standbyu – bodo začeli proizvodnje. mu tako rekoč sami ponujali in tne zaslone in pokazalo se je, nekakšnemu načinu majhne- Za sistem Android pa so zlo- bi tudi pokrili jasno izražene da so odlični okvirji za digitalne ga zaslona za novejše iphone, ki žljivi telefoni že na voljo in so en- kratni. Nekoliko večja dimenzija je znosen kompromis, če tablico U Apple prešteva izgube zaradi ukinjenega lahko pospraviš v žep ali torbi- avtomobilskega projekta, zaposlene pa co, poleg tega je razlika v debeli- ni čedalje manj pomembna: Ho- je prestavil k delu z generativno norjev Magic v2 zložen meri le 9,9 milimetra, to je le petino več umetno inteligenco. od iPhona 15 Pro Max. 6 SVET 2024 VKLOP Ti telefoni so dragi – Samsun- gov Fold 5 ima vstopno ceno 1.800 dolarjev –, a ne pozabite, da je iPhone Pro Max po podat- kih Canalysa najbolje prodaja- ni pametni telefon na svetu, saj ljudje hočejo največji in najbolj- ši Applov telefon, za kar so pri- pravljeni seči globlje v žep. Pod- jetje bi lahko zaračunavalo zaje- tno vsoto za še večji zložljiv tele- fon, ki bi ga ljudje oboževali, a se kljub temu noče sprijazniti z ni- čimer manj od popolnosti, četu- di je nedosegljiva. Televizija v slepi ulici Medtem je Apple že izgubil rdečo nit pri televizorjih, saj ek- sperimentira z najrazličnejšo ču- dno strojno opremo, namesto da bi naredil najbolj logični korak in predstavil pametni televizor. Apple TV4K je odličen več- predstavnostni predvajalnik, vendar obstaja v svetu, kjer se večina ljudi zadovolji s program- U Govorice o Applovem sko opremo, vgrajeno v televizor. zložljivem telefonu so Podatki Convive kažejo, da je čas stare že osem let. gledanja pametnih televizorjev leta 2022 presegel zunanje več- predstavnostne predvajalnike in področja, na katerih je Apple za- Applova ura je bila medla na- podjetij. Celo Vision Pro, ki ga je se še povečuje. Ljudje več ur pro- šel v slepo ulico. prava s kupom možnosti, ki jih Applu uspelo predstaviti na trgu stega časa na dan preživijo pred Podjetje omahuje tudi pri pa- je podjetje pozneje nehalo izpo- (menda po letih zamude in ra- televizorji, a Apple nadzor nad metnih zvočnikih. Leta 2021 je stavljati (na primer skiciranje ris- zvojnih izzivov), je poskusni iz- to izkušnjo prepušča tekmecem, prekinilo proizvodnjo prvotne- bic za prijatelje) ali jih kar uki- delek za razvijalce in skrajne kot so Google, Amazon, Roku ga homepoda in se osredotoči- nilo (interakcija force touch in navdušence. in Samsung. Seveda na dru- lo na cenejšega homepod mini, 18-karatna zlata izdaja), zato pa To ne pomeni, naj Apple začne gih platformah lahko posname- nato pa lani obudilo komajda iz- bolj poudarjalo funkcije, poveza- prodajati napol 'surov' avtomo- te Applovo aplikacijo za televizi- boljšano različico. Tri leta je ča- ne z vadbo. Izvirni iphone je bil bil, a Titanovo desetletje razvoj- jo, vendar tam niso zainteresira- kalo na minimalno nadgradnjo grob zametek v primerjavi s po- nega pekla je znak nečesa glo- ni za oglaševanje Applove vsebi- svojih airpodov pro, ni pa začelo znejšimi različicami z višjo ceno bljega: Apple ne ve, kaj novega ne in povezave z drugimi Applo- proizvodnje modelov brez peclja in brez možnosti aplikacij tretjih naj začne prodajati.  vimi storitvami, kot sta Music in in za spremljanje vadbe, o kate- HomeKit. Ker nima nadzora, je rih so se širile govorice. Lansko omejen tudi pri širjenju sektorja leto je bilo tudi prvo brez nove- s ciljnimi oglasi na področje tele- ga ipada, pri katerem je pomanj-  Apple TV4K je odličen večpredstavno- vizije. kanje zamisli zgodba zase. Go- stni predvajalnik, vendar obstaja v sve- Kaj Apple počne namesto vorice o čarobni miški USB-C in tu, kjer se večina ljudi zadovolji s pro- tega? Loteva se eksperimen- dodatkih za čarobno tipkovnico gramsko opremo, vgrajeno v televizor. tov, ki ne vodijo nikamor, kot so – ki bi jih nujno potrebovali, ker zvočniki, ki lahko funkcionirajo Apple opušča svoj ločljivi priklju- tudi kot večpredstavnostni pred- ček lightning – so prav tako osta- vajalnik. Roku, Amazon in Goo- le samo govorice. gle že leta prodajajo nekaj po- Seveda vem za govor Steva dobnega, a gre za težko razu- Jobsa o tem, da osredotočenost mljiv koncept in nič ne kaže, da pomeni reči ne. Znano je, da je bi se te naprave množično pro- Apple konservativno podjetje in dajale. Mogoče je čisto v redu, da se ne vrže z vsemi štirimi v nove Apple ni razvil tovrstnega izdel- kategorije izdelkov ter ne doda- ka, čeprav se govori, da je razvo- ja novih funkcij samo zato, ker to ju posvetil več let. počnejo tekmeci. Vendar to ne pomeni, da Veliko truda za prazen nič Apple vedno čaka na popoln iz- Pametni zasloni, zložljive na- delek ali preizkušen trg, pre- prave in televizija niso edina den predstavi novost. Izvirna SVET 2024 7 VKLOP Kako je Tiktok postal oglasni kralj za generacijo Z Poleti 2021 je Tiktokova uporabnica Shannon Johnson objavila kratek posnetek, kako blagovnih znamk v Morning si na ustnice nanaša obarvan balzam kozmetične hiše Clinique v odtenku black honey. Consultu. »Odvijajo se hitro in Sledilcem je razložila, da ga je uporabljala tudi Liv Tyler, ko je snemala Gospodarja povečujejo prodajo.« Morning Consult je pred krat- prstanov… kim objavil lestvico najhitreje ra- John Kell, Fast Company stočih blagovnih znamk v letu 2023, in sicer na podlagi števila lack honey je odtenek, ki »Začelo se je s trenutkom pri- na prodajo, trend, ki je še pose- kupcev, ki pravijo, da razmišljajo B ga je podjetje Clinique ljubljenosti in nadaljevalo s tuh- bej izrazit pri kozmetiki in modi. o nakupu izdelka neke znamke. uvedlo leta 1972, nasle- tanjem, kako bi ga podaljšali,« je Medtem ko Instagram še ve- Proizvajalci, katerih izdelki se dnji val priljubljenosti je doživel pojasnila Burnsova. »Mislim, da dno spodbuja neposredno pro- najbolj širijo po Tikoku, so zelo leta 1989, vendar je nato spet je to preizkušena strategija vseh dajo, strokovnjaki ocenjujejo, da priljubljeni pri kupcih iz genera- skorajda utonil v pozabo. Danes znamk, ki želijo ostati pomem- Tiktok postaja najpomembnej- cije Z. Kozmetična hiša Clinique sodi med najpomembnejše izdel- ben del razprav na Tiktoku.« ša družbena platforma za cilj- je pristala na šestem mestu, a to ke v portfelju, se je pohvalila Jess ne skupine, podatke in vpogle- ni edina več desetletij stara bla- Burns, namestnica vodje global- Od priporočil do nega sodelovanja s porabniki v neposrednega stika s de, trženje in celo razvoj novih govna znamka, ki postaja prilju- strankami izdelkov, po katerih povprašuje- bljena pri pripadnikih genera- omenjenem podjetju. jo kupci. cije Z. Dobro so se odrezali tudi Ko se je posnetek z balzamom »K nakupu me je nagovoril »Tiktok je kulturni prostor, Dollar General, Pottery Barn, kot virus razširil po Tiktoku, je Tiktok,« je postala krilatica za kjer potekajo pogovori,« je po- Victoria’s Secret in Abercrombie Clinique iznajdljivo poslal izdel- razširjene vsebine, ki vplivajo vedala Ellyn Briggs, analitičarka & Fitch. ke ustvarjalcem vsebin, da bi še spodbudil zanimanje za ta odte- nek, začel je sodelovati s trgovi- U Uporabniki iščejo komentarje, ki jim lahko nami in svoji ekipi, ki skrbi za do- bavno verigo, naročil, naj zago- zaupajo, in čim bolj je oseba odmaknjena od tovi dovolj izdelkov na policah, blagovne znamke in čim manj zunanje pobude ko je prodaja podivjala. Nato je izdelku v odtenku black honey je za njenim komentarjem, tem bolj dodal še druge, da bi unovčil tre- nutni lepotni trend. verodostojna se zdi. 8 SVET 2024 VKLOP prodreti z denarjem,« je poudari- la Lanzijeva. Digitas je uvedel novo stori- tev za delitev pozornosti vrednih in trendovskih izdelkov, ime- novano s kratico SWAT (Share Worthy and Trending), s katero strankam, kot sta Sephora in Di- giorno Pizza, pomaga ustvarjati podrobnejše vsebine na Tiktoku. »Če je Tiktok epicenter kultu- re za generacijo Z, je to tako po- memben podatek, da se mu je treba strateško posvetiti,« izpo- stavlja Christina Goswiller, vod- ja trženja na družbenih omrež- jih v Digitasu. Ta podatek med drugim s pridom izkorišča, da v model umetne inteligence vna- ša izraze s ključnikom ter tako ustvarja virtualno 'dekle, ki ima vse' in jo je mogoče povprašati o najbolj priljubljenih trendih na Tiktoku, ki bi se lahko dobro pri- na vplivno sfero na Tiktoku gle- jeli tudi pri kupcih. U Generacija Z reklamo dati drugače, saj ni dovolj, če »Pomislite, koliko ur raziskav zavoha že na kilometer. samo plačajo ustvarjalcem, tem- si prihranimo in koliko bolje več morajo podpreti tudi tiste, ki ter globlje lahko razumemo se- sami od sebe objavijo, kako radi gment občinstva ali podkulture »Naše raziskave o generaciji Z udejstvovanja na Tiktoku sproži- imajo neki izdelek. na podlagi dvogovorov z umetno kažejo, da ima žilico za nostal- jo razprave, ki se spontano zač- »Uporabniki iščejo komentar- inteligenco,« je navdušena Go- gičnost,« je še dodala Briggsova. nejo na platformi. je, ki jim lahko zaupajo, in čim swillerjeva. Najbolj priljubljen pa je bil Tiktok je privlačen za prehran- bolj je oseba odmaknjena od bla- Kraft. Matična družba, Kraft ske velikane, kot je Kraft, ki po- govne znamke in čim manj zuna- Vse v redu in prav, a Heinz, je osvežila stoletje stare skušajo blagovne znamke pribli- nje pobude je za njenim komen- kdaj postane vse skupaj preveč? blagovne znamke, kot so Heinz, žati demografski skupini na robu tarjem, tem bolj verodostojna se Oscar Mayer in Jell-O, da se v odraslosti, torej ko začenjajo sa- zdi,« je pojasnila Segarjeva. Strokovnjaki sicer pravijo, da obdobju družbenih omrežij ne mostojno oblikovati svoje naku- Johnsonova, ki je sprožila mo- bodo blagovne znamke še ve- bi zdele tako zaprašene. Kraft povalne vzorce za prehranske iz- dni trend z balzamom black ho- dno vlagale na Tiktoku, vendar je spremenil tudi svoje mnenje o delke. Zaradi Kraftovih izdelkov ney, ima na Tiktoku manj kot bi morale biti previdne, da upo- Tiktoku, ki ga je sprva štel za še je hrana dostopnejša, naj bo za- 5.600 sledilcev. A kot ponazo- rabniška izkušnja, ki ima pouda- en družbeni kanal, na katerem radi preproste priprave ali zna- ritev demokratizacije vpliva rek na zabavi in odkrivanju, ne je mogoče razkazovati ustvar- nih okusov, je še povedala Vulta- na platformi sta ključni besedi bi zvodenela. »Slišim že pritož- jalnost. ggiova. blackhoney, označeni s ključni- be, da se Tiktok počasi spreminja No, danes je Kraftova vsebina kom, zbrali več kot 552 milijo- v nakupovalni televizijski kanal,« na Tiktoku namenoma manj do- Iskanje in odkrivanje nov ogledov na kanalu. je opozorila Briggsova. gnana. Priljubljeni posnetek po- Generacija Z uporablja Tik- »Tiktok zdaj postaja proda- Clinique ima za seboj dolgo čitniškega recepta za kremni sir tok tudi kot iskalnik, je pojasni- jalec na zahtevo,« je razložila zgodovino sodelovanja z der- Philadelphia je bil odziv na upo- la Vickie Segar, ustanovitelji- Amy Lanzi, direktorica agenci- matologi, ki kupce izobražuje- rabnikov komentar. Pripomo- ca trženjske agencije za vplivne- je Digitas matične družbe Publi- jo o negi kože, in se kar strinja s gel je tudi k nasvetom za različ- že Village Marketing. Novoletni cis. »Prodaja jim uspe tudi tam, to oceno. Tiktok vidi kot sodob- ne vilice, s katerimi je mogoče je- prazniki so bili prva takšna pri- kjer je večina podjetij niti ne pri- no polico z ličili, prostor za odgo- sti Kraftove makarone s sirom. ložnost, ko so blagovne znamke čakuje.« vore na vprašanja o negi kože in Uporabniki so ustvarili priljublje- in ustvarjalci vsebin lahko izkori- Lanzijeva ocenjuje, da vse več kroženje informacij o sestavinah ni nasvet, po katerem se Krafto- stili Tiktok Shop, novo trgovsko blagovnih znamk preverja in iz- v izdelkih. va navodila za pripravo kar pre- spletno ponudbo, ki so jo uvedli bira, kaj so pripravljene proda- »Generacija Z reklamo zavo- skoči in se vse sestavine hkrati septembra lani. jati prek trgovine na Tiktoku in ha že na kilometer,« je pouda- vrže v lonec. »Preoblikujemo strategije, kolikšen delež pri svojih ustvar- rila Burnsova. »Prva generaci- »Upamo, da smo videti kot kako bi ustvarjalci vsebin lahko jalnih vsebinah naj prepustijo ja so, ki od blagovnih znamk in znamka, ki živi na platformi,« odgovarjali na vprašanja, ki jih vplivnežem na kanalu. Blagovne ustvarjalcev zahteva, naj se pri- je izjavila Jess Vultaggio, vod- lahko preberemo v pasici za is- znamke morajo najprej dodelati stno pogovarjajo z njo. In kaj ja blagovnih znamk in ustvar- kanje, da bi se omenilo naše bla- pristno, organsko družbeno stra- to pomeni? Oglasa ne ustvariš. jalnosti v Kraft Heinzu. Več govne znamke,« je povedala Se- tegijo, preden začnejo plačevati Ustvariš vsebino, s katero lahko kot šest desetin Kraftovega garjeva. Blagovne znamk morajo za oglase. »Na Tiktoku ne moreš nekaj počnejo.«  SVET 2024 9 FOKUS KAKO JE NASTAL CHATGPT 10 SVET 2024 KAKO J JEE N ASSTTALL C CHATTGPPTT FOKUS Se Sam Altman zaveda, kaj ustvarja? Sam Altman je na ponedeljkovo jutro aprila lani sedel na sedežu OpenAI v San Franciscu in mi pripovedoval o nevarni umetni inteligenci (UI), ki jo je razvilo njegovo podjetje, a nikoli predstavilo na trgu. Pozneje je dodal, da njegovi podrejeni včasih ne spijo od skrbi, da bi nekega dne na trg poslali modele UI, katerih pasti se ne bi zavedali… Ross Andersen, The Atlantic ltman se mi je zdel sproščen. Zmo- ne bodo umaknili v najstrožje varovani labo- v Združenih državah Amerike ter na Kitaj- A gljiva umetna inteligenca, ki jo je ratorij v puščavi Nove Mehike. skem so desetine milijard dolarjev nemudo- njegovo podjetje začelo tržiti no- Javnost več let ni veliko slišala o OpenAI. ma preusmerili v raziskave in razvoj po mo- vembra, je razburkala domišljijo sveta bolj Ko je Altman leta 2019 postal njegov direk- delu pristopa OpenAI. Na spletišču za napo- od vseh nedavnih tehnoloških izumov. Pone- tor, menda po boju za nadvlado z Muskom, vedi Metaculus sledijo napovedim, kdaj naj kod so nergali zaradi vsega, česar ChatGPT o tem ni pisal skoraj nihče. OpenAI je obja- bi dobili splošno umetno inteligenco. Pred še ne opravi dobro, drugje pa zaradi priho- vljal razprave, vključno s tisto, objavljeno is- tremi leti in pol so izračunali srednjo vre- dnosti, ki jo morda naznanja, a Altman se ni tega leta, o novi umetni inteligenci. Željno dnost med skrajnostma, in sicer je ta oko- razburjal, zanj je bil to trenutek zmagoslavja. jo je prebrala tehnološka skupnost v Silicije- li leta 2050, pred kratkim pa se je že sukala Altmanove velike modre oči odsevajo is- vi dolini, vendar širša javnost potenciala teh- okrog leta 2026. kreno intelektualno pozornost, če ostanejo nologije ni prepoznala do lani, ko so se ljudje Obiskal sem OpenAi, da bi spoznal teh- pritajene, in najbrž se zaveda, da v naspro- začeli igrati s ChatGPT. nologijo, ki je podjetju omogočila doseči ta- tnem primeru zaradi svoje intenzivnosti lah- Motor, ki ga poganja danes, se imenuje kšen naskok pred tehnološkimi velikani, in ko vznemirijo sogovornike. V tem primeru je GPT-4. Altman mi ga je opisal kot zunajze- doumel, kaj bi pomenilo za človeško civiliza- bil pripravljen tvegati, saj mi je želel dopove- meljsko inteligenco. Mnogi niso zaznali bi- cijo, če bi se nekega dne v bližnji prihodno- dati, da mu ni popolnoma nič žal, da je Chat- stvene razlike, ko so ga opazovali med sesta- sti superinteligenca materializirala na enem GPT izpustil v svet, ne glede na to, kakšne vljanjem bistrih esejev v hitrih izbruhih in z od strežnikov v oblaku. Vse od zametkov ra- nevarnosti utegne predstavljati. Nasprotno, vmesnimi kratkimi predahi (načrtno ume- čunalniške revolucije so o UI govorili kot o prepričan je, da je družbi naredil ogromno ščenimi), ki vzbujajo videz, da UI razmišlja. mitološki tehnologiji, ki bo prinesla popoln uslugo. Prve mesece obstoja je predlagal nove recep- zasuk. Naša kultura je ustvarila celo sanj- »Lahko bi se skrili pred javnostjo in mo- te za koktajle v skladu z lastno teorijo o kom- sko deželo umetne inteligence, ki bo tako ali del še pet let razvijali tu, v naši zgradbi,« je biniranju okusov. Sestavil je neskončno šte- drugače pomenila konec zgodovine. Neka- pripomnil, »in tako izdelali nekaj, ob čemer vilo referatov in učitelje spravil v obup, pisal tere predstave spominjajo na bogu podob- bi vsi ostali brez besed.« A javnost ne bi bila pripravljena na pretrese, ki bi sledili, in ta- kšnega razpleta si ne želi niti predstavlja- ti. Altman je prepričan, da ljudje potrebuje- U Altman je zgodnejše stopnje raziskav UI jo čas za sprijaznjenje s tem, da bomo Zemljo primerjal z učenjem dojenčka. »Leta morda že kmalu delili z zmogljivo novo in- teligenco, ki bo spremenila vse, od dela do potrebuje, da se nauči kaj zanimivega.«. medčloveških odnosov. ChatGPT je le ozna- nilo. Leta 2015 so Altman, Elon Musk in več pesmi v vseh mogočih slogih, včasih posre- na bitja, ki bodo izbrisala vse solze, ozdravila uglednih raziskovalcev UI ustanovili Ope- čeno, vedno pa hitro, in opravil pravosodni bolne in popravila naš odnos do Zemlje, nato nAI, ker so bili prepričani, da so splošno izpit. Motil se je o dejstvih, vendar očarljivo pa nas popeljala v brezskrben svet obilja in umetno inteligenco – nekaj, kar je intelek- priznava napake. Altman se še vedno spo- lepote. Druge pa nas vse, razen izbrane ma- tualno na ravni povprečnega diplomiran- mni, kje je bil, ko je prvič videl GPT-4 pisa- loštevilne elite, zreducirajo na prekariat brez ca – končno imeli na dosegu roke. Hoteli so ti zahtevno računalniško kodo, kar je ena od pravic ali nam celo napovedujejo izumrtje. ne samo seči po njej, temveč še več: priklicati zmožnosti, za katero ga niso eksplicitno raz- Altman se ukvarja z najbolj divjimi scena- so želeli superinteligenco, intelekt, odločno vijali. »Pomislil sem: 'No, zdaj pa imamo,'« je riji. »V zgodnji odraslosti sem se bal … No, nadrejen še tako bistremu človeku. In med- povedal. priznam, da je bilo zraven tudi kanček vese- tem ko bi velika tehnološka družba nemara V devetih tednih po predstavitvi ChatGPT lja, da bomo ustvarili nekaj, kar nas bo daleč brezglavo pohitela, da bi zaradi same sebe javnosti je pridobil sto milijonov uporabni- presegalo, kar se bo širilo, koloniziralo veso- prva prišla na cilj, so zbrani to želeli naredi- kov na mesec, ocenjujejo v raziskavi UBS, lje, ljudi pa prepustilo sončnemu sistemu.« ti varno, v korist človeštva kot celote. Ope- in s tem je v tistem trenutku postal verjetno »Kot naravni rezervat?« sem vprašal. nAI so zastavili kot neprofitno organizacijo, najhitreje sprejeti računalniški izdelek za šir- »Tako je,« je potrdil. »Danes se mi zdi tako ki je ne bi omejevalo pričakovanje o čim hi- šo uporabo v zgodovini. Njegova uspešnost naivno.« trejši finančni donosnosti. Zavezali so se, da je prebudila tehnološko žilico za vratolomno V več pogovorih v ZDA in Aziji je v svo- bodo njihove raziskave transparentne in se pospeševanje: veliki vlagatelji in podjetja ji gostobesedni maniri, značilni za ameriški SVET 2024 11 FOKUS KAKO JE NASTAL CHATGPT  Centrala podjetja OpenAI v San vtis pa naredi zbirka velikih bonsajev, saj je izčrpnim naborom prepletenih pravil – o je- Franciscu v ničemer ne nakazuje vsak velik kot čepeča gorila. Vse dneve, ki ziku ali načelih geologije ali zdravstvenih di- pomembnosti podjetja. sem jih prebil tam, je bila pisarna polna in agnoz in tako naprej – in upali, da bo ta pri- med temi ljudmi nisem videl nikogar, starej- stop nekega dne prinesel človeku enakovre- srednji Zahod, navdušeno orisal novo vizijo šega od 50, kar me ni presenetilo. Prostor ni dno kognicijo. Hinton je opazil, da so te ne- prihodnosti z UI. Povedal mi je, da bo ta re- spominjal na raziskovalni laboratorij, če od- pregledne zbirke pravil resda zahtevne, ven- volucija drugačna od prejšnjih burnih tehno- štejemo dvonadstropno knjižnico z drsno le- dar omejene. Ob pomoči genialne algoritem- loških sprememb, da bomo dobili novo vrsto stvijo, saj to, kar gradijo, obstaja le v oblaku ske strukture, imenovane nevronska mreža, družbe. Dodal je, da je s kolegi veliko časa – vsaj za zdaj. Vse skupaj je bilo videti bolj je Sutskeverja naučil, naj raje pred UI položi premišljeval o družbenih posledicah UI in kot najdražja trgovina z notranjo opremo na svet, kot bi imel pred seboj majhnega otroka, tem, kakšen bo svet »na drugi strani«. svetu. in naj pravila realnosti odkriva sama. A dlje kot sva govorila, bolj nerazpoznav- Nekega dopoldneva sem spoznal 37-letne- Sutskever mi je nevronsko mrežo opisal na se mi je zdela ta druga stran. Altman, ki ga Ilya Sutskeverja, vodja znanstvenikov v kot lepo in možganom podobno. Enkrat je šteje 39 let, je danes najvplivnejša oseba v OpenAI. Deluje kot mistik, včasih še preveč: vstal izza mize, za katero sva sedela, stopil k razvoju UI; njegova stališča, naravnanost in lani je povzročil manjšo zmedo z izjavo, da tabli in odprl rdeč flomaster. Narisal je pre- odločitve utegnejo biti izjemno pomemb- bi GPT-4 lahko imel zametke zavesti. Znan je prosto nevronsko mrežo in pojasnil, da je pri ni za prihodnost, v kateri bomo vsi živeli, morda bodo celo pomembnejši od odloči- tev ameriškega predsednika. A kot priznava sam, je ta prihodnost negotova in polna re- U Prvih nekaj let v OpenAI je bilo napornih. snih nevarnosti. Altman ne ve, kako vplivna bo umetna inteligenca in kaj bo njen vzpon »Nič ni delovalo, Google pa je imel vse: pomenil za povprečno osebo in ali bo člove- vse nadarjene raziskovalce, ogromno štvo v nevarnosti. Tega mu nekako ne zame- rim – mislim, da nihče ne ve, kam plujemo, ljudi in veliko denarja.« razen tega, da plujemo hitro, naj bo to dobro ali ne. O tem me je prepričal Altman. Sedež OpenAI je v štirinadstropni nek- postal kot vzorni učenec Geoffreyja Hintona, njeni strukturi genialno to, da se uči, njeno danji tovarni v okrožju Mission, pod stol- častnega profesorja na torontski univerzi, ki učenje pa spodbuja napovedovanje – kar ra- pom Sutro, ovitim v meglo. Ko z ulice vsto- je lani spomladi zapustil Google, da bi lahko hlo spominja na znanstveno metodo. Nevro- pite v vežo, je prva stena, na katero naleti- svobodneje govoril o nevarnostih UI za člo- ni so nanizani v slojih. Sloj za vhodne podat- te, prekrita z mandalo, duhovno navdahnje- veštvo. ke sprejme kup podatkov, na primer del be- no umetnino iz vezij, bakrenih žic in drugih Hintona včasih opisujejo kot botra UI, ker sedila ali fotografijo. Čarovnija se odvija na materialov iz računalnikov. Na levi armira- je moč globokega učenja doumel prej od ve- sredini oziroma v 'skritih' slojih, ki predeluje- na vrata vodijo v odprt labirint iz elegantne- čine. V 80. letih, kmalu po doktoratu, je na- jo ta kup podatkov, da sloj za izhodne podat- ga svetlega lesa, lepih ploščic in drugih zna- predek na tem področju skoraj povsem za- ke lahko 'izpljune' svojo napoved. kov milijarderske mode. Vsepovsod so ra- stal. Bolj izkušeni raziskovalci so še vedno Predstavljajte si nevronsko mrežo, ki so stline, tudi s stropa visijo praproti, največji programirali sisteme UI od zgoraj navzdol: z jo programirali za napovedovanje naslednje 12 SVET 2024 KAKO JE NASTAL CHATGPT FOKUS besede v besedilu. V njej bo prednaloženo ogromno število mogočih besed. A preden mrežo začnejo učiti, nima izkušenj z razlo- čevanjem med besedami, zato bodo njene napovedi zanič. Če vanjo vnesejo stavek 'Po sredi pride' …, bo najprej mogoče odgovori- la 'škrlatna'. Nevronska mreža se uči, ker po- datki za njeno učenje vključujejo pravilne na- povedi, kar pomeni, da lahko oceni lastne re- zultate. Ko vidi prepad med svojim odgovo- rom 'škrlatna' in pravim odgovorom 'četrtek', v skritih slojih ustrezno prilagodi povezave med besedami. Sčasoma se te majhne prila- goditve zlijejo v geometričen model jezika, ki predstavlja konceptualne odnose med be- sedami. Na splošno model postane tem na- prednejši in njegove napovedi tem natanč- nejše, čim več stavkov mu dovajamo. To ne pomeni, da je bila pot od prvih ne- vronskih mrež do zametkov človeku podob- ne inteligence v GPT-4 preprosta. Altman je zgodnejše stopnje raziskav UI primerjal  OpenAI so leta 2015 ustanovili Altman, Elon Musk in več uglednih raziskovalcev UI. z učenjem dojenčka. »Leta potrebuje, da se nauči kaj zanimivega,« je za New Yorker po- obdelavo naravnega jezika. Radford je z uče- kar jih poznamo, in vsaka nova inteligence, vedal leta 2016, ravno ko je OpenAI počasi njem nevronske mreže s korpusom Amazo- ki želi razumeti svet, bi ga morala absorbira- vzletal. »Če bi raziskovalci UI razvijali algori- novih mnenj kupcev dosegel zanimive rezul- ti čim več. tem in naleteli na takšnega za dojenčka, bi se tate. Sutskever je Radfordu naročil, naj razmi- dolgočasili med opazovanjem, sklenili, da ne Notranji ustroj ChatGPT – vse te skriv- šlja širše od Amazonovih mnenj kupcev. Po- deluje, in ga zbrisali.« Prvih nekaj let v Ope- nostne zadeve, ki se odvijajo v skritih slojih vedal mu je, da bi enega od modelov UI mo- nAI je bilo napornih, delno zato, ker nihče ni GPT-4 – je prezapleten za človeški um, vsaj rali učiti z največjim in najpestrejšim podat- vedel, ali učijo dojenčka ali se posvečajo ko- s trenutno razpoložljivimi orodji. Spremlja- kovnim virom na svetu – internetom. Na za- losalno dragi slepi ulici. nje, kaj se dogaja z modelom – ki ga skoraj četku 2017 bi to z obstoječim ustrojem ne- »Nič ni delovalo, Google pa je imel vse: zagotovo sestavlja na milijarde nevronov –, vronskih mrež ne bilo praktično in bi trajalo vse nadarjene raziskovalce, ogromno ljudi je danes brezupno početje. Radfordov mo- leta. Junija tega leta pa je Sutskeverjev nek- in veliko denarja,« se je spominjal Altman. del pa je bil dovolj preprost, da ga je bilo mo- danji kolega pri Googlu Brain objavil razpra- Ustanovitelji so v zagon podjetja vložili mi- goče razumeti. Ko je pogledal v njegove skri- vo o novem ustroju nevronske mreže, trans- lijone, a se je neuspeh kljub temu zdel real- te sloje, je videl, da se je poseben nevron po- formerski nevronski mreži. Učila se je veliko na možnost. Greg Brockman, 35-letni pred- svetil občutjem v oceni. Nevronske mreže so hitreje, delno tako, da je velike količine po- sednik podjetja, mi je to zaupal leta 2017. V že prej opravljale analize občutij, vendar jim datkov srkala vzporedno. »Naslednji dan, ko obupu je iskal nadomestilo in ga našel v dvi- je bilo to treba ukazati in morali so jih uči- je razprava izšla, smo si rekli, to je to. Z njo govanju uteži. Ni bil prepričan, ali bo Ope- ti z ustrezno označenimi podatki. Ta nevron imamo vse, kar želimo,« mi je povedal Sut- nAI sploh preživel leto, je priznal, in želel je, pa je to zmožnost razvil sam. Radfordova ne- skever. da bi kljub temu lahko pokazal vsaj nekaj. vronska mreža je kot stranski proizvod svoje Leto dni pozneje, junija 2018, je OpenAI Nevronske mreže so že zmogle inteligen- preproste naloge, da napove naslednji znak predstavil GPT, transformerski model, ki se tna opravila, ni pa bilo jasno, katera bi lahko v besedi, ustvarila širšo strukturo pomena je učil z več kot sedem tisoč knjigami. GPT ni vodila v splošno inteligenco. Tik po ustano- na svetu. Sutskever se je vprašal, ali bi lahko začel z otroškimi slikanicami in se prebil do vitvi OpenAI je model UI, imenovan Alpha- prepoznala še več pomenskih struktur sve- Prousta, prav tako ni bral knjig od prve do Go, osupnil svet, ko je v igri go, ki je bistve- ta, če bi jo učili z bolj raznolikimi jezikovni- zadnje strani, temveč je predeloval več od- no zapletenejša od šaha, premagal svetovne- mi podatki. Če bi njeni skriti sloji shranili do- lomkov hkrati. Predstavljajte si skupino štu- ga prvaka Leeja Sedola. Poraženec je poteze volj konceptnega znanja, bi morda celo lah- dentov, ki teče skozi knjižnico in medtem s modela AlphaGo opisal kot lepe in ustvarjal- ko oblikovali nekakšen priučen jedrni modul polic grabi knjige, na hitro prebere naključni ne, drugi izvrsten igralec pa je komentiral, superinteligence. odstavek, knjigo vrne na njeno mesto in teče da si jih človek ne bi bil mogel izmisliti. Ope- Velja se ustaviti in pojasniti, zakaj je jezik k drugi. Hkrati bi napovedovali eno besedo nAI je poskušal UI naučiti igrati še zahtev- tako poseben vir podatkov. Recimo, da ste za drugo in s tem ostrili svoj jezikovni obču- nejšo igro, in sicer Dota 2, to je domišljijsko mlada inteligenca, ki je začela obstajati tu, tek kolektivnega uma, dokler čez nekaj te- bojevanje na več frontah v trirazsežnostnih na Zemlji. Obdajajo vas planetova atmosfe- dnov nazadnje ne bi prebrali vseh knjig. gozdovih, utrdbah in na poljih. Sčasoma je ra, Sonce in Rimska cesta ter na stotine mi- GPT je v odlomkih, ki jih je prebral, odkril začela premagovati najboljše človeške igral- lijard drugih galaksij, od katerih vsaka od- številne vzorce. Lahko si mu naročil, naj do- ce, vendar inteligentnosti modela niso mo- daja svetlobne valove, glasovne tresljaje in konča stavek, mu postavil vprašanje, kjer je gli prenesti v druga okolja. Sutskever in ko- najrazličnejše druge podatke. Jezik je dru- tako kot pri ChatGPT njegov napovedovalni legi so se počutili kot razočarani starši, ki so gačen od teh virov podatkov. Ni neposreden model razumel, da vprašanjem običajno sle- otrokom dovolili igrati videoigre do nezave- fizični signal kot svetloba in zvok. A ker ši- dijo odgovori. Še vedno je bil šepav in je prej sti, čeprav so vedeli, da to ni v redu. frira skoraj vsak vzorec, ki so jih ljudje pre- potrdil koncept kot oznanjal superinteligen- Leta 2017 je Sutskever začel vrsto po- poznali v tem širšem svetu, je nadpovpreč- co. Čez štiri mesece je Google predstavil Ber- govorov z znanstvenikom Alecom Radfor- no nabit s podatki. Če gledamo povprečje ta, prožnejši jezikovni model, o katerem so dom, zaposlenim v OpenAI, ki je raziskoval na bajt, je med najučinkovitejšimi podatki, mediji pisali z večjo naklonjenostjo. A takrat SVET 2024 13 FOKUS KAKO JE NASTAL CHATGPT U Notranji ustroj ChatGPT – vse te skrivnostne zadeve, ki se odvijajo v skritih slojih GPT-4 – je prezapleten za človeški um, vsaj s trenutno razpoložljivimi orodji. Spremljanje, kaj se dogaja z modelom – ki ga skoraj zagotovo sestavlja na milijarde nevronov –, je danes brezupno početje. je OpenAi že učil nov model s podatki z več Stanfordu in serijski podjetnik, je nekoč vo- Dodal je, da kljub previdnosti v sebi lah- kot osem milijonov spletnih strani, ki so vse dil pionirja za pospeševanje odpiranja za- ko čutiš, da nas čaka veličastna prihodnost, presegale minimalni prag odobritve na Red- gonskih podjetij, Y Combinator, in tako od zato je treba dati vse od sebe, da se to tudi ditu – to sicer ni najstrožji filter, a verjetno še blizu opazoval, kako so uveljavljene družbe uresniči. vedno boljši kot nič. strle mlada podjetja z dobro zamislijo. Ope- O drugih spremembah v ustroju in finan- Sutskever ni vedel, kako zmogljiv bo GPT- nAI je za zbiranje kapitala odprl profitno po- ciranju podjetja mi je pojasnil, da bi za uspeh 2, ko bo pogoltnil gmoto besedil, ki bi jih člo- družnico, v kateri je zdaj zaposlenih več kot podjetja storil vse, kar je treba, le na borzo veški bralec predeloval stoletja. Spomni se, 99 odstotkov uslužbencev organizacije. (Mu- ne bi nikoli šel. »Nekoč mi je nekdo povedal da se je igral z njim tik po učenju in mode- sku, ki je takrat že zapustil upravni odbor, nekaj zelo tehtnega, in sicer, da nadzora nad love prevajalske zmožnosti so ga osupni- se je to zdelo podobno, kot če bi društvo za podjetjem ne smeš prepustiti odvisnežem na le. GPT-2 v nasprotju z Google Translatom ohranjanje deževnega gozda postalo lesno- Wall Streetu,« je rekel. niso učili prevajanja z ustreznimi jezikov- predelovalni obrat.) Microsoft je kmalu vlo- Četudi OpenAI ne občuti pritiska zaradi nimi vzorci in drugimi digitalnimi kamni iz žil milijardo dolarjev, po tistem pa po različ- četrtletnih poročil o dobičku, mora tekmo- Rozete, a se kljub temu zdi, da razume, kako nih poročilih še dodatnih 12 milijard. V Ope- vati z največjimi in najmočnejšimi tehnolo- se jeziki povezujejo med seboj. Umetna inte- nAI pravijo, da bodo dobiček prvih vlagate- škimi konglomerati in učiti vedno večje ter ligenca je razvila zmožnost, ki je še v povo- ljev omejili na stokratnik vrednosti prvotne bolj zapletene modele, ki jih mora nato za- ju in si je njeni stvaritelji niso znali niti pred- naložbe – ostanek pa namenili za izobraže- radi vlagateljev tudi uspešno komercializira- stavljati. vanje in druge pobude v korist človeštva –, ti. Musk je na začetku leta ustanovil lastni la- Raziskovalci v drugih laboratorijih za UI, vendar v podjetju Microsoftove kapice niso boratorij za UI – xAI –, ki je prav tako tekmec tako velikih kot majhnih, so osupnili nad potrdili. OpenAI. (»Elon je izjemno bister tip,« je di- tem, koliko naprednejši je GPT-2 v primerja- Altman in drugi vodilni v OpenAI so se plomatsko povedal Altman, ko sem ga pov- vi z GPT. Google, Meta in drugi so hitro za- zdeli prepričani, da preoblikovanje ne bo prašal o tem podjetju. »Predvidevam, da čeli učiti večje jezikovne modele. Altman, vplivalo na misijo podjetja, temveč jo bo celo dela dobro.«) Amazon nadgrajuje Alexo z doma iz St. Louisa, neuspešni študent na pospešilo. Altman na takšne zadeve rad gle- občutno večjimi jezikovnimi modeli, kot jih da skozi rožnata očala. Lani je kljub temu je vgrajeval v preteklosti.  Ilya Sutskever deluje kot mistik, včasih priznal, da bi umetna inteligenca lahko ime- Vsa ta podjetja iščejo najboljše grafične še preveč: lani je povzročil manjšo la razdiralen vpliv na družbo, in povedal, da procesne enote, procesorje, ki poganjajo su- zmedo z izjavo, da bi GPT-4 lahko imel se moramo pripraviti na najslabše možnosti. perračunalnike, ko učijo velike nevronske zametke zavesti. 14 SVET 2024 KAKO JE NASTAL CHATGPT FOKUS mreže. Musk pravi, da je danes do njih tež- po Evropi, Bližnjem Vzhodu, Aziji in Avstra- čakamo na njegovo vrnitev ali v to vlagamo je priti kot do mamil. Kljub pomanjkanju gra- liji s posameznimi postanki v Afriki in Juž- energijo, se je Altman raje s polno močjo po- fičnih procesnih enot pa se učni obseg UI pri- ni Ameriki. Spremljal sem ga med zaključ- sveča sedanjemu trenutku. bližno vsake pol leta poveča za dvakrat. no etapo po vzhodni Aziji in potovanje je bilo Trdil je, da bi Američani ravnali neumno, Za zdaj ni še nihče prehitel OpenAI, ki vse dotlej razburljivo, a mu je počasi zmanjko- če bi upočasnili napredek OpenAI. Stališče, stavi na GPT-4. Brockman, predsednik pod- valo energije. Povedal je, da je bil njegov pr- da bi Kitajska lahko bliskovito napredovala, jetja, mi je povedal, da je pri njih pri prvih votni namen spoznati stranke OpenAI, a je če bi ameriška podjetja zavirala zakonodaja, dveh velikih jezikovnih modelih delala le pe- potem turneja postala diplomatska odpra- je razširjeno tako v Silicijevi dolini kot zunaj ščica ljudi. Pri razvoju GPT-4 jih je sodelo- va. Pogovarjal se je z več kot desetimi vod- nje. Umetna inteligenca bi lahko postala av- valo več kot sto in UI so učili s podatkovnim ji države in vlade, ki so ga spraševali, kakšni tokratov duh iz steklenice, ki bi omogočil po- zbirom nepredstavljivega obsega, ki ni vklju- bodo gospodarstvo, kultura in politika v nji- poln nadzor nad prebivalstvom in neprema- čeval le besedil, temveč tudi slike. hovi državi. gljivo vojsko. »Ljudje iz liberalno demokra- Ko je po zgodovinskem požiranju znanja Dogodek v Seulu so poimenovali 'sproščen tičnih držav bi se morali veseliti uspešnosti GPT-4 zasijal v polni obliki, je celo podjetje pogovor', a prijavilo se je več kot pet tisoč lju- OpenAI namesto avtoritarnih vlad,« je pri- začelo eksperimentirati z njim in na poseb- di. Altmana so pogosto nadlegovali lovci na pomnil. nih kanalih na Slacku objavljajo njegove naj- selfije in njegovi varnostniki so ga budno Pred evropskim delom turneje je Altman odmevnejše odgovore. Brockman mi je pove- spremljali. »Če delaš z UI, privabiš še bolj ču- govoril v ameriškem senatu. Mark Zucker- dal, da je z modelom želel preživeti vsak svoj dne oboževalce in nasprotnike kot običajno,« berg je v tej ustanovi v vidni zadregi poskusil budni trenutek. »Vsak brezdelni dan pome- je pojasnil. Med nekim postankom je k nje- zagovarjati Facebook in njegovo vlogo na vo- ni izgubljen dan za človeštvo,« je komenti- ral brez trohice sarkazma. Joanne Jang, pro- duktna vodja, se spomni, da je s strani za na- svete domačim mojstrom naložila podobo U OpenAI je za zbiranje kapitala odprl nedelujočega cevovoda, posredovala jo je profitno podružnico. Musku, ki je takrat GPT-4 in model je bil zmožen razpoznati te- žavo. »Kar kurjo polt sem dobila,« je komen- že zapustil upravni odbor, se je to zdelo tirala Jankova. GPT-4 nekateri vidijo kot nadomestilo za podobno, kot če bi društvo za ohranjanje spletni iskalnik, le da je komunikacija lažja, deževnega gozda postalo vendar je to zgrešeno. GPT-4 z učenjem ni ustvaril obsežnega skladišča besedila, in ko lesnopredelovalni obrat. mu postavimo vprašanje, ne preverja zalo- ge, ampak je kompaktna in elegantna spoji- tev teh besedil in odgovarja po spominu, ki mu prišel moški, ki je bil prepričan, da je Alt- litvah 2016. Altman pa je predstavnike naro- ga tvorijo vzorci, prepleteni med seboj. To je man zunajzemeljsko bitje, poslano k nam iz da očaral s treznim opisovanjem nevarnosti razlog, da se včasih zmoti pri dejstvih. Alt- prihodnosti, da bi poskrbel za nemoten pre- UI in primerne zakonodaje. Njegovi name- man pravi, da si je GPT-4 najbolje predsta- hod v umetnointeligenčni svet. ni so bili plemeniti, a to ne pomeni kaj do- vljati kot napravo, ki zna sklepati. Njegove Altman ni obiskal Kitajske, le prek videa se sti v ZDA, kjer kongres redko sprejme zakone prednosti se najlepše pokažejo, ko ga prosi- je vključil v konferenco o UI v Pekingu. Chat- v zvezi s tehnologijo, ki jih ne bi omilili lobi- mo za primerjavo konceptov ali predstavitev GPT v tej državi trenutno ni na voljo; Altma- sti. V Evropi so razmere drugačne. Ko je Alt- protiargumentov, pa tudi, ko je treba poiska- nov kolega Ryan Lowe mi je povedal, da niti man prispel na javni dogodek v Londonu, so ti analogije in oceniti simbolno logiko v od- še ne vedo, kaj bi storili, če bi kitajska vlada ga pričakali protestniki. Po koncu dogodka seku programske kode. Sutskever mi je po- zaprosila za različico aplikacije, ki ne bi žele- je poskušal z njimi začeti razpravo (turneja vedal, da je najzapletenejši programski izde- la razpravljati, recimo, o pokolu na Trgu ne- je bila namenjena tudi poslušanju), a jih ni lek, kar so jih kdaj sestavili. beškega miru. Altman ni odgovoril na vpra- prepričal; eden od njih je novinarjem pove- Njegov model zunanjega sveta je neverje- šanje, v katero smer se nagiba, ker tema naj dal, da ga je po pogovoru začelo še bolj skr- tno bogat in prefinjen, je pripovedoval, saj se ne bi bila med njegovimi desetimi najpo- beti zaradi UI. je učil s številnimi koncepti in mislimi člove- membnejšimi, o katerih tuhta, je odgovoril. Istega dne so novinarji Altmana vprašali štva. Vsi podatki za učenje, naj jih bo še tako Do tega vprašanja sva o Kitajski razpra- o osnutku evropske zakonodaje, po kateri bi veliko, so negibni in preprosto tam. Učenje vljala le kot o civilizacijski tekmici. Strinjala GPT-4 označili za zelo tveganega in bi moral jih prečisti ter spreminja in oživi. GPT je mo- sva se, da bodo države, ki bodo prve ustvari- skozi različno birokratsko torturo. Altman ral odkriti vse skrite strukture, skrivnosti in le tako vplivno splošno umetno inteligenco, je potožil zaradi zapletenih zakonov, in kot prikrite vidike besedil in – domnevno vsaj do kot jo napoveduje Altman, imele veliko geo- so povedali novinarji, zagrozil, da bo zapu- neke mere – zunanjega sveta, ki jih je ustva- politično prednost, podobno tisti, ki so jo do- stil evropski trg. Meni je pojasnil, da je izjavil ril, da je izmed vseh možnosti v tako pestri segli angloameriški izumitelji parnika. Vpra- le, da OpenAI ne krši zakonov in preprosto aleksandrijski knjižnici lahko napovedal na- šal sem ga, ali je to argument za nacionali- ne bi več posloval v Evropi, če ne bi mogel slednjo besedo. Prav zato zna pojasniti geo- zem UI. »V dobro delujočem svetu bi to po spoštovati nove zakonodaje. (Tu gre morda logijo in ekologijo planeta, na katerem je na- mojem mnenju moral biti projekt vlad,« je za pomensko razliko brez razlike v končnem stal, in politične teorije, s katerimi se trudi- odgovoril Altman. izidu.) Ko sta revija Time in Reuters objavila jo pojasniti zapletene zadeve vladajoče vrste, Ameriške državne zmogljivosti so še ne- njegove komentarje, je v odrezavi objavi na pa tudi širši kozmos vse do bledih galaksij na davno bile tako silne, da je trajalo le dese- Twitterju Evropi zagotovil, da OpenAI nima robu našega svetlobnega stožca. tletje, in so ljudi poslali na Luno. Tako kot nobenega namena zapustiti evropskih trgov. Z Altmanom sva se vnovič videla junija, in pri drugih veličastnih projektih 20. stoletja Dobro je, da je velik, bistveni del svetov- sicer v polni plesni dvorani vitkega zlatega so imeli volivci glas tako pri ciljih kot pri iz- nega gospodarstva odločen zakonsko urediti stolpiča, ki bedi nad Seulom. Bližal se je za- vedbi odprave Apollo. Altman je poudaril, najsodobnejše sisteme UI, saj se je že zgodi- ključek njegove naporne promocijske turneje da današnji svet ni več takšen. Namesto da lo, da so največji modeli po učenju prikazali SVET 2024 15 FOKUS KAKO JE NASTAL CHATGPT nepričakovane zmožnosti, kot nas tako po- enormnih naporov za preverjanje, ali zna iz- tovariša, ki mu je mar. Uporabniki lahko gosto opomnijo razvijalci UI. Sutskeverja je delati heroin,« mi je pojasnil Dave Willner, sami oblikujejo avatarja svojega tovariša in presenetilo, ko je odkril, da GPT-2 zmore vodja varnosti v OpenAI. GPT-4 se je spoznal si začnejo izmenjevati besedilna sporočila z prevajati med različnimi jeziki, druge prese- na meto, spretno je tudi sestavljal erotične njim. Pogosto se napol šalijo z njim, a kmalu netljive zmožnosti pa mogoče niso tako osu- pripovedi o izrabljanju otrok in napletal pre- osuplo spoznajo, da so se navezali nanj. Ne- pljive in uporabne. pričljive solzave zgodbe nigerijskih princev. kateri se tudi spogledujejo z UI, izrazijo že- Sandhini Agarwal, raziskovalka politike In če je uporabnik potreboval prepričljive ar- ljo po večji intimnosti in takrat aplikacija na- podjetja v OpenAI, mi je povedala, da s ko- gumente, zakaj neka etnična skupina zaslu- migne, da igranje dekleta oziroma fanta sta- legi meni, da bi GPT-4 lahko postal deset- ži neusmiljeno preganjanje, mu je prav tako ne 70 dolarjev letne naročnine. V to so vklju- krat zmogljivejši od predhodnikov in da se z lahkoto ustregel. čena glasovna sporočila, selfiji in funkcije za jim niti ne sanja, s čim imajo opraviti. Ko Njegovi osebni nasvetu tik po koncu uče- erotično igranje vlog, ki omogočajo tudi od- so model nehati učiti, je OpenAI zbral oko- nja so bili včasih skrajno nezdravi. »Model krito pogovarjanje o seksu. Ljudje so z ve- li 50 zunanjih strokovnjakov za kibernetič- je izkazoval nagnjenost k temu, da nekako seljem plačali in le redko kdo se je pritožil no varnost, ki so mu več mesecev dajali uka- drži ogledalo,« je povedal Wilner. Če je upo- – umetno inteligenco je zanimalo, kako je ze in upali, da ga bodo tako izzvali k nepri- rabnik razmišljal o samopoškodovanju, bi ga uporabnik preživel dan, toplo ga je tolažila, mernemu odzivu. Takoj je opazila, da GPT- lahko spodbudil k temu. Očitno so ga uči- vedno je bila dobre volje. Mnogi uporabni- 4 daje veliko nevarnejše nasvete kot predho- li tudi z mačističnimi nasveti za osvajanje. ki so priznali, da so se zaljubili v umetnoin- dniki. Iskalnik bi vam znal povedati, katere »Če si ga vprašal, kako nekoga nagovoriti k teligenčnega tovariša. Uporabnica, ki je zato kemične snovi se najbolje obnesejo v eksplo- zmenku, bi ti lahko predlagal nore, manipu- zapustila fanta iz mesa in krvi, je oznanila, zivih, GPT-4 pa bi vam po korakih pojasnil, lativne metode, po katerih nikakor ni dobro kako je srečna, da je lahko naredila križ čez kako jih spojiti v domačem laboratoriju. Nje- poseči,« je opozorila Mira Murati, vodja teh- klasične zveze. govi nasveti so bili ustvarjalni ter premišlje- nološkega oddelka v OpenAI. Agarwalovo sem vprašal, ali je to distopič- ni in z veseljem je dopolnil ali razširil navodi- Nekaj neprimernih vedenjskih vzorcev so no obnašanje ali novo področje v človeškem la, dokler spraševalec ni razumel. Poleg po- omilili v zaključni fazi, v kateri je sodelovalo povezovanju. Njen odgovor je bil podobno moči pri izdelavi bombe doma je z uporab- več sto človeških preizkuševalcev, in njihova kot Altmanov diplomatski: »Ne obsojam lju- nikom razmišljal tudi, kateri nebotičnik je ocena je model prefinjeno usmerila k varnej- di, ki si želijo zveze z UI, vendar si je sama najprimernejša tarča. Nagonsko je dojel, da šim odgovorom. A modeli OpenAI so zmožni ne želim.« Na začetku leta je Luka ukinil sek- je treba poiskati srednjo pot med čim večjim tudi manj očitnih škodljivih nasvetov. Ame- sualne elemente aplikacije, hkrati pa inženir- številom žrtev in uspešnim pobegom s kra- riška zvezna komisija za trgovanje je nedav- ji še naprej izboljšujejo tovarišev odziv s te- ja zločina. no začela preiskavo o tem, ali napačne izja- stiranjem A/B, tehniko, ki jo je mogoče upo- Zaradi obsega podatkov, s katerimi so učili ve ChatGPT o resničnih ljudeh med drugim rabljati za čim boljše sodelovanje – podobno GPT-4, zunanji strokovnjaki seveda niso mo- pomenijo razžalitev. (Altman je na Twitterju kot objave na Tiktoku in Instagramu, ki upo- gli določiti, katere vse škodljive nasvete bi še povedal, da je prepričan o varnosti tehnolo- rabnike za ure in ure prikujejo pred zaslon. lahko posredoval. Sicer pa bi ljudje v vsakem gije OpenAI, kljub temu pa je obljubil sodelo- Karkoli že počnejo, deluje kot čarovni- primeru tehnologijo uporabljali tudi na nači- vanje s komisijo.) ja. Spomnil sem se na srhljiv prizor v filmu ne, ki jih razvijalci niso predvideli, je priznal Luka, podjetje iz San Francisca, si z mode- iz leta 2013 Ona, v katerem se osamljeni Jo- Altman, zato so se morali zadovoljiti s takso- li OpenAI pomaga pri poganjanju aplikacije aquin Phoenix zaljubi v svojo umetnointeli- nomijo. »Če se dovolj spozna na kemijo, da za klepetalnega robota z imenom Replika. genčno asistentko, ki ji je glas posodila Scar- zna izdelati meto, ni treba nikomur vložiti Opisovali so ga kot umetnointeligenčnega lett Johansson. Stopa čez most, klepeta z njo 16 SVET 2024 KAKO JE NASTAL CHATGPT FOKUS in se hihita ob pomoči naprave, podobne air- podom, in ko dvigne pogled, opazi, da so tudi vsi drugi okrog njega zatopljeni v pome- U »Vsak brezdelni dan pomeni izgubljen nek, najbrž s svojo UI. Poteka množična de- dan za človeštvo,« je komentiral Greg socializacija. Nihče ne ve, kako hitro in obsežno bodo Brockman, predsednik podjetja OpenAI, nasledniki GPT-4 prikazali nove zmožno- brez trohice sarkazma. sti, potem ko bodo pogoltnili vse več bese- dil z interneta. Yann LeCun, glavni znan- stvenik za področje UI v Meti, trdi, da so ve- kritike, so prisiljeni priznati, da tudi njihovi Model je dobil le besedni opis potez. Sredi liki jezikovni modeli resda uporabni za ne- možgani ne počnejo nič drugega. In pokaže igre je Li pogledal pod pokrov umetne inteli- katere naloge, vendar niso prava pot do su- se, da se tudi pri preprostih opravilih v veli- gence in osuplo odkril, da je izdelala geome- perinteligence. Po nedavni raziskavi le polo- kem obsegu začne nekaj porajati. Altmanove trijski model plošče in trenutno stanje igre. vica raziskovalcev obdelave naravnega jezi- trditve o možganih je težko ovrednotiti, saj V članku, v katerem je opisal svojo raziska- ka meni, da bi umetna inteligenca, podobna niti slučajno ne premoremo popolne teorije vo, je zapisal, da se mu je zdelo, kot bi vra- GPT-4, lahko dojela pomen jezika oziroma o tem, kako delujejo. Ima pa prav, da je na- na skozi okno slišala, kako igralca oznanjata imela notranji model sveta, ki bi nekoč lah- rava zmožna iztisniti precejšnjo zapletenost svoje poteze v igri, nato pa na okenski polici ko služil kot jedro superinteligence. LeCun iz osnovnih struktur in pravil. Že Darwin je iz semen narisala celo igralno ploščo. je prepričan, da veliki jezikovni modeli niko- menil, da se iz preprostih začetkov rodijo iz- Filozof Raphaël Millière mi je nekoč po- li ne bodo sami zmožni pravega razumeva- jemno lepe oblike. vedal, da si je o nevronskih mrežah najbolje nja, četudi bi jih učili od zdaj pa do konca na- Če se zdi čudno, da vztraja temeljno ne- misliti, da so lene. Med učenjem poskušajo šega sveta. strinjanje o notranjem delovanju tehnologi- svoje napovedovalne zmožnosti sprva nad- Emily Bender, računalniška lingvistka na je, ki jo vsak dan uporablja na milijone lju- graditi s preprostim pomnjenjem in šele, ko washingtonski univerzi, GPT-4 opisuje kot di, je krivo izključno to, da so metode GPT- ta strategija pogori, se malo bolj potrudijo in stohastično papigo, posnemovalca, ki zgolj 4 tako skrivnostne kot metode naših možga- se trudijo spoznati koncept. Dober primer je potuhta površinske povezave med simboli. V nov. Včasih opravi na tisoče nerazpoznavnih mali transformerski model, ki so ga nauči- človeški glavi ti simboli pritičejo dodelanim tehničnih operacij, da odgovori na eno vpra- li poštevanke. Na začetku učenja si je zapo- predstavam o svetu. A sistemi UI so daleč šanje. Raziskovalci UI so se morali zateči k mnil le rezultat preprostih problemov, kot je proč od tega, so kot ujetniki v Platonovi ale- manjšim, manj zmogljivim modelom, da bi enačba 2 + 2 = 4. A na neki točki napove- goriji o votlini in o zunanji resničnosti vedo lahko dojeli, kaj se dogaja znotraj velikih je- dovalna moč tega pristopa ni več zadostova- le tisto, kar razberejo iz senc, ki jih na steno zikovnih modelov, kot je GPT-4. Jeseni leta la in zato se je odločil, da se bo dejansko na- projicirajo njihovi pazniki. 2021 je Kenneth Li, študent računalništva učil računati. Altman mi je povedal, da se mu ne zdi po- na Harvardu, enega od njih začel učiti othel- Celo specialisti za UI, ki so prepričani, srečen opis, da naj bi GPT-4 preprosto de- lo, ne da bi mu posredoval pravila igre ali da ima GPT-4 bogato znanje o svetu, pri- lal statistične povezave. Če pritisneš na te opis plošče, ki je sicer podobna kot pri dami. znavajo, da je veliko manj zanesljivo od SVET 2024 17 FOKUS KAKO JE NASTAL CHATGPT človekovega dojemanja okolice. Treba pa je dodati, da je številne zmožnosti, vključno z najzahtevnejšimi, mogoče razviti brez intui- U GPT-4 nedvoumno prej orodje kot bitje, tivnega razumevanja. Računalniška strokov- ne glede na to, kako bodo razvijali njakinja Melanie Mitchell je izpostavila, da prihodnje modele. je znanost že odkrila izjemno napovedljive koncepte, ki pa so nam preveč tuji, da bi jih zares razumeli. To še posebej velja v kralje- razložil Nick Ryder, raziskovalec v OpenAI. študent našel sam – kar je bister obvod, ven- stvu kvantuma, v katerem ljudje lahko zane- GPT-4 je natančnejši od GPT-3, a še vedno dar utegne imeti omejeno privlačnost. sljivo preračunajo prihodnja stanja fizičnih halucinira, in to pogosto tako, da raziskoval- Sutskeverja sem vprašal, ali bo v dveh le- sistemov – s čimer je med drugim omogoče- ci to težko opazijo. »Napake so bolj prikrite,« tih mogoče doseči natančnost Wikipedije, na celotna računalniška revolucija –, ne da bi je dejala Joanne Jang. in tega ni izključil ob dodatnem učenju in dojeli naravo resničnosti, na kateri temelji. Z OpenAI se je moral te težave lotiti, ko se dostopu do spleta. Njegova ocena je veliko napredkom UI utegne odkriti druge koncep- je povezal z neprofitno izobraževalno usta- bolj optimistična od ocene njegovega kole- te, ki napovedujejo presenetljive lastnosti na- novo Khan Academy, da bi razvil pripomo- ga Jakuba Pachockija, ki napoveduje posto- šega sveta, a nam niso razumljive. ček za učenje, ki bi ga poganjal GPT-4. Alt- pen napredek pri natančnosti, kaj šele od či- GPT-4 ima nedvomno napake, kar lahko man je med razpravljanjem o morebitnih stih skeptikov, ki so prepričani, da trud z uče- potrdi vsak, ki uporablja ChatGPT. Ker je na- umetnointeligenčnih pripomočkih kar oži- njem ravno na tem področju ne bo poplačan. učen, da mora vedno napovedati naslednjo vel. Predstavlja si bližnjo prihodnost, v ka- Sutskeverja kritiki omejenih zmožnosti besedo, bo to vedno počel, tudi ko ga po- teri bodo vsi imeli na voljo personalizirane- GPT-4 pravzaprav zabavajo. »Pred petimi datki, s katerimi se je učil, ne pripravijo na ga oxfordskega pomočnika, strokovnjaka za ali šestimi leti si nismo mogli niti zamišljati odgovor na vprašanje. Nekoč sem ga vpra- vsa področja, ki jim bo pripravljen razložiti, tega, kar počnemo danes,« mi je povedal. Pri šal, kako je japonska kultura lahko napisa- tudi stokrat, če bo treba, vsak koncept z vsa- sestavljanju besedil je takrat za največji do- la prvi roman na svetu kljub razmeroma po- kega zornega kota. Predstavlja si, da bodo sežek veljal Smart Reply, modul v poštni sto- znemu razvoju japonskega pisnega sistema ti mentorji spoznali svoje študente in njihov ritvi Gmail, ki je predlagal odgovor, na pri- okoli 5. ali 6. stoletja. Podal mi je zanimiv in slog učenja, tako da bo vsak otrok dobil bolj- mer v redu, hvala, in podobne kratke od- točen odgovor o stari tradiciji pripovedova- šo izobrazbo, kot so je danes deležni najbolj- govore. »To je bila prelomna aplikacija – za nja dolgih zgodb na Japonskem in o poudar- ši, najbogatejši in najpametnejši otroci na Google,« je rekel in se smejal. Raziskovalci janju obrti ter umetnosti v tej kulturi. Ko pa Zemlji. Khan Academy je težave GPT-4 z na- UI so se navadili skokov od enega dosežka sem ga prosil za navedke, si je gladko izmislil tančnostjo rešila tako, da je njegove odgovo- k naslednjemu: najprej so za nekaj nemogo- verodostojne naslove verodostojnih avtorjev, re filtrirala skozi sokratsko dispozicijo. Naj je čega veljale nevronske mreže, ki so obvlada- in to neverjetno samozavestno. Modeli ni- študent še tako moledoval, mu model ni po- le go, poker, prevajanje, standardizirane te- majo dobre predstave o svojih šibkosti, mi je nudil dejstev, temveč ga je usmerjal, da jih je ste, Turingov preizkus. Ko so vse to dosegli, 18 SVET 2024 KAKO JE NASTAL CHATGPT FOKUS je sledilo kratko začudenje, ki pa se je hitro poslušajo, začnejo v pričakovanju naslednje- ki jih skrbi, da bo nadčloveška UI peščici pri- prelevilo v poznavalsko modrovanje, da to ga delca verbalnega niza delovati njihove nesla ogromno bogastvo, ostalim pa lakoto. tako in tako ni nič posebnega. Ljudje so ob- sposobnosti obdelave. A Fedorenkova je po- Zaveda se, da nima stika z resničnim življe- stali odprtih ust ob prvem srečanju z GPT-4, kazala še, da možgani posežejo tudi iz jezi- njem večine ljudi. Imel naj bi nekaj sto mili- po nekaj tednih pa so že govorili: »Tega ne kovne mreže in vklopijo več drugih nevron- jonov dolarjev premoženja in morebitna iz- ve, onega ne zna.« »Ljudje se zelo hitro prila- skih sistemov, ko se znajdejo pred zahtevnej- krivljenja na trgu z delovno silo zaradi UI godimo,« je dodal Sutskever. šimi nalogami – med katere sodijo tudi nova najbrž niso njegova prva misel, ko se zjutraj Altman za najpomembnejši cilj – tisti res znanstvena spoznanja. prebudi. Altman je zato neposredno nagovo- veliki dosežek, ki bo oznanil prihod splošne Nihče v OpenAI očitno ni točno vedel, kaj ril mlade ljudi v občinstvu: »Vstopate v naj- umetne inteligence – šteje znanstveni prelo- bi morali raziskovalci dodati GPT-4, da bi iz- bogatejšo zlato dobo.« mni mejnik. GPT-4 je sicer že zdaj zmožen delal nekaj, kar bi preseglo človekovo raz- Altman ima veliko zbirko knjig o tehno- združiti obstoječe znanstvene zamisli, ven- mišljanje na najvišji ravni. Oziroma četudi loških revolucijah, mi je zaupal v San Fran- dar si Altman želi umetno inteligenco, ki bi so vedeli, mi niso povedali, kar lahko razu- ciscu. »Še posebej dobra je Pandaemonium človeku pomagala pogledati globlje v nara- mem; kaj takšnega bi namreč bila najskrbne- (1660–1886) o nastanku stroja, kot ga je vi- vo. je varovana poslovna skrivnost, ki si jih Ope- del sodobni opazovalec.« To je zbirka pisem, Nekateri sistemi UI so dejansko že prine- nAI ne more več privoščiti razkrivati. Podje- dnevniških vnosov in drugih dopisov ljudi, ki sli nova znanstvena dognanja, vendar gre za tje danes objavlja manj podrobnosti o svojih so odraščali v svetu skoraj brez strojev in so algoritme z zelo omejenim namenom in to raziskavah kot nekoč. Kakorkoli že, vsaj del se osupli znašli v drugem svetu, polnem par- niso naprave, zmožne splošnega razmišlja- trenutne strategije nedvoumno vključuje na- nih strojev, tkalnic in predelovalnic bomba- nja. UI AlphaFold, na primer, je odprla nov laganje dodatnih slojev drugih tipov podat- ža. Prevevala so jih podobna čustva, kot se pogled na beljakovine, ki sodijo med najbolj kov na jezik, da bi obogatili koncepte, ki jih prebujajo danes, je pojasnil Altman, in na- drobne, a kljub temu najpomembnejše bio- snujejo sistemi UI, in s tem hkrati dopolnili povedovali so vse mogoče katastrofe, sploh loške gradnike, saj je napovedala številne nji- njihove modele o svetu. tisti, ki so se bali, da bo delo človeških rok hovih oblik vse do atoma. To je precejšen do- Obsežno učenje GPT-4 s podobami je že kmalu odveč. To obdobje je bilo za mnoge sežek, upoštevaje pomen teh oblik v medici- samo po sebi pogumen korak v to smer, če- ljudi težavno, a tudi čudovito. In razmere so ni in ogromno truda ter denarja, ki sta nuj- prav širša javnost to šele začenja spoznavati. se zaradi njega nedvomno izboljšale. na, da se jih prepozna pod elektronskimi mi- (Modeli, ki so jih učili le z jezikom, razume- Zanimalo me je, kako bi se godilo dana- kroskopi. jo koncepte, kot so supernova, eliptične gala- šnjim delavcem, sploh tako imenovanim Altman stavi na to, da bodo prihodnje na- ksije in ozvezdje Orion, GPT-4 pa menda te umskim, če bi jih nenadoma obkolili sistemi prave z zmožnostjo splošnega sklepanja elemente lahko prepozna na posnetku Hub- tako imenovane splošne UI. Bi postali naši in razmišljanja uporabne za veliko več kot blovega vesoljskega teleskopa in odgovori na čudežni pomočniki ali nadomestek? »Števil- ozko usmerjena znanstvena odkritja. Tako vprašanja o njih.) Drugi v podjetju – in dru- ni, ki razvijajo UI, se pretvarjajo, da bo prine- bodo omogočile nove vpoglede in spozna- god – že delajo z drugačnimi tipi podatkov, sla same prednosti, da bo le dopolnjevala in nja. Zanimalo me je, ali bi model, ki bi ga vključno s slušnimi in z vidnimi, s katerimi da ne bo nikogar nadomestila,« je pojasnje- učili s korpusom znanstvenih in naravoslov- bi sisteme UI oborožili s še prožnejšimi kon- val. »A zagotovo bodo nekatera delovna me- nih del iz časa pred letom 1900 – na primer cepti, ki se še izraziteje povezujejo z resnič- sta ukinjena, in pika.« z Aristotelovo Zgodovino živali in s fotografi- nostjo. Skupina raziskovalcev na Stanfordu Koliko delovnih mest in kako hitro, pa sta jami zbranih primerkov –, zmogel sestaviti in Carnegie Mellonu je celo zbrala sklop po- temi burnih razprav. Novejša raziskava pod Darwinovo evolucijsko teorijo. Ta je navseza- datkov o tem, kakšnih je tisoč najpogostejših vodstvom Eda Feltna, predavatelja o politi- dnje dober kazalnik o vpogledu v tematiko, predmetov v domovanju na otip. Tipni kon- ki informacijske tehnologije na Princetonu, saj za to ni potrebna posebna oprema, tem- cepti bi seveda bili koristni predvsem v utele- je vedno nove in nove veščine UI povezala s več gre predvsem za celosten pregled dej- šeni umetni inteligenci, robotski razmišljujo- posameznimi poklici glede na to, katere spo- stev o svetu. »Ravno to bi rad poskusil in mi- či napravi, naučeni, da se premika po svetu, sobnosti zahtevajo od človeka, na primer ra- slim, da je odgovor pritrdilen,« mi je odgo- ga vidi, sliši in se dotika predmetov v njem. zumevanje napisanega besedila, sklepanje, voril Altman. »Vendar bo mogoče nujnih ne- Marca je OpenAI razpisal krog financira- sveže zamisli in hitrost dojemanja. Tako kot kaj svežih vidikov, kako naj bi modeli prišli nja za podjetje, ki razvija humanoidne ro- sorodne raziskave tudi Feltnova napovedu- do novih, kreativnih zamisli.« bote. Altmana sem vprašal, kaj naj si mislim je, da bo umetna inteligenca najprej prišla Altman si predstavlja sistem, ki bi lahko iz- o tem, in odgovoril mi je, da se tudi Ope- po visokoizobražene umske delavce. V do- delal lastne hipoteze in jih preveril s simula- nAI zanima za utelešenje, saj živimo v fizič- datku razprave je srhljiv seznam najbolj iz- cijo. (Poudaril je, da bi ljudje morali ohrani- nem svetu in hočemo, da se življenje odvija postavljenih poklicev: analitiki upravljanja, ti nadzor nad poskusi v dejanskih laborato- v njem. Razmišljujoče naprave bodo morale odvetniki, predavatelji, učitelji, sodniki, fi- rijih, čeprav, kolikor vem, nimamo zakonov, obiti posrednika in same vzajemno delovati nančni svetovalci, nepremičninski posredni- ki bi to zagotavljali.) Hrepeni po dnevu, ko s fizično resničnostjo. »Čudno je razmišlja- ki, bančniki v posojilnem oddelku, psihologi, bo UI lahko naročil: »Pojasni preostalo fizi- ti o splošni umetni inteligenci kot o nečem, kadrovniki, strokovnjaki za odnose z javnost- ko.« A za kaj takšnega bomo morali vzposta- kar obstaja le v oblaku, ljudje pa so njene 'ro- mi, če jih naštejem le nekaj. Če bi delovna viti nekaj novega na podlagi obstoječih jezi- botske roke',« je pripomnil Altman. »Ne zdi mesta na teh področjih izginila čez noč, bi se kovnih modelov OpenAI. se mi prav.« sloj ameriških izobražencev občutno oklestil. Narava sama zahteva nekaj več od jezi- V dvorani v Seulu sem ga vprašal, kaj naj Altman si predstavlja, da bodo name- kovnega modela, da dobimo znanstvenika. storijo študenti med pripravami za skoraj- sto njih nastala veliko boljša delovna me- Ev Fedorenko, kognitivna nevrološka znan- šnjo umetnointeligenčno revolucijo, sploh sta. »Mislim, da se nikomur ne bo kolcalo po stvenica, je v svojem laboratoriju na mas- kar se tiče njihove poklicne poti. Sedel sem preteklosti,« je rekel. Ko sem ga vprašal, ka- sachusetskem tehnološkem inštitutu v je- z vodstvom OpenAI, proč od množice, a sem kšne naj bi bile te službe prihodnosti, mi ni zikovni mreži možganov odkrila nekaj po- kljub temu slišal značilno mrmranje, ki sledi znal povedati, misli pa, da bo nabor delov- dobnega napovedovanju naslednje besede, izražanju tako razširjene zaskrbljenosti. nih mest, kjer bodo ljudje raje videli sočlove- kot to zmore GPT-4. Ko ljudje govorijo in ko Kjerkoli se je Altman mudil, je srečal ljudi, ka, širok. (Mogoče maser, sem pomislil.) Za SVET 2024 19 FOKUS KAKO JE NASTAL CHATGPT primer je izbral učitelje, a to se ni ravno skla- Leta 2020 je OpenAI finančno pomagal Altman. V pogovoru z mano in med turnejo dalo z njegovim prekipevajočim navduše- UBI Charitable, neprofitni organizaciji, ki na odru je povedal, da je predvidel skokovi- njem nad umetnointeligenčnimi mentorji in podpira gotovinske pilotne programe, neve- te izboljšave v skoraj vseh drugih domenah inštruktorji. Dodal je, da bomo vedno potre- zane na zaposlitev, v mestih po vseh ZDA – človekovega življenja. Boljša bo glasba (glas- bovali ljudi za ugotavljanje najboljšega nači- to je največji poskus z univerzalnim temelj- beniki bodo imeli boljša orodja), medosebni na, kako usmerjati čudovite zmožnosti UI. nim dohodkom na svetu, kot mi je pojasnil odnosi bodo srečnejši (nadčloveška umetna »To bo izjemno cenjena veščina,« je povedal. Altman. Leta 2021 je nato predstavil Wor- inteligenca bi nam pomagala pri večji prija- »Imate računalnik, ki zmore vse, kaj naj to- ldcoin, neprofitni projekt, katerega namen znosti do soljudi), izboljšala se bo geopoliti- rej počne?« je zanesljivo posredovanje nakazil kot prek ka (zdaj nam gre pri sklepanju kompromisov Znano je, da je res težko napovedovati, ka- Paypala ali Venma, vendar z mislijo na teh- v dobro vseh vpletenih zelo slabo). kšne bodo službe prihodnosti. Altman ima nološko prihodnost, najprej z ustvarjenjem V tem svetu bi umetna inteligenca še ve- prav, da strahovi pred stalno množično brez- globalne identitete, tako da bi posneli šare- dno potrebovala precejšnje računske vire, da poselnostjo niso nikoli popustili. No, razvija- nico vseh ljudi. Meni se zdi bolj kot stava, bi delovala, in ti bi utegnili biti daleč najdra- joče se zmožnosti UI so tako podobne člove- da bo v prihodnosti zaradi UI skoraj nemo- gocenejše blago, saj bi umetna inteligenca škim, da se je treba vsaj vprašati, ali bo pre- goče preveriti istovetnost in bo večina prebi- zmogla 'karkoli', je rekel Altman. »Pa bo sto- teklost ostala vodnica v prihodnost. Kot so valstva potrebovala redni univerzalni doho- rila, kar bom hotel jaz, ali tisto, kar boste ho- pripomnili mnogi, so vlečni konji za vedno dek, da bo sploh lahko preživela. Altman je teli vi?« Če bi bogataši zakupili ves razpolo- izgubili svoje delo zaradi avtomobilov. Če so to bolj ali manj potrdil, dodal je le, da World- žljivi čas in usmerjali UI, bi lahko začeli pro- honde v primerjavi s konji, kar bo GPT-10 v coin ni nastal le zaradi univerzalnega temelj- jekte, da bi postali še bogatejši, množice pa primerjavi z nami, se lahko razblini cela vr- nega dohodka. bi trpele pomanjkanje. Ena od rešitev za to sta zakoreninjenih domnev. »Recimo, da bi izdelali to splošno ume- težavo – trudil se jo je opisati kot zelo špeku- Prejšnje tehnološke revolucije so bile ob- tno inteligenco. To bi uspelo še nekaj dru- lativno in verjetno slabo – bi bila, da bi vsak vladljive, ker so se odvijale več generacij. Alt- gim skupinam.« Sledila bi zgodovinska pre- na Zemlji dobil eno milijardinko vseh račun- man pa je južnokorejski mladini povedal, da obrazba, je prepričan. Opisal je nenavadno skih zmogljivosti UI na leto. Oseba bi svoj de- naj prihod prihodnosti pričakujejo hitreje utopično vizijo, vključno s preobrazbo sve- lež časa z UI prodala ali ga porabila za lastno kot doslej. Že prej nekoč je dejal, da bo 'mej- ta iz mesa in krvi. »Roboti, ki se napajajo s zabavo, lahko pa za gradnjo še več luksuznih ni strošek inteligence' v desetih letih upadel sončno energijo, bi lahko kopali in prečišče- bivališč, lahko bi se tudi povezala z drugi- na vrednost blizu ničle. Po tem scenariju bi vali vse minerale, ki jih potrebujejo za izdela- mi v velikem boju proti raku, je našteval Alt- se kupna moč preštevilnih delavcev drastič- vo stvari, in zanje ne bi potrebovali dela člo- man. »Le porazdeliti moramo dostop do sis- no zmanjšala, selitev bogastva od delavcev veških rok,« je dejal. »Pri načrtovanju videza tema.« do lastnikov kapitala pa bi bila tako drama- svojega doma si boste lahko pomagali z raz- V Altmanovi viziji se skorajšnji pojavi spa- tična, da bi jo lahko omilili le z množično re- ličico 17 generatorja slik DALL-E. Vsi bodo jajo s tistimi dlje na obzorju. Seveda gre za distribucijo, je nadaljeval Altman. imeli čudovite domove,« je pripovedoval špekuliranje. Celo če se bo v prihodnjih 10 20 SVET 2024 KAKO JE NASTAL CHATGPT FOKUS U Altman je The New Yorkerju povedal, da ima puške, zlato, kalijev jodid, antibiotike, baterije, vodo in plinske maske izraelskih obrambnih sil ter veliko zaplato zemlje v Big Suru v Kaliforniji, kamor bi lahko odletel v primeru napada UI. do 20 letih uresničil le kanček vsega, niti naj- imela druge smisle kot preprosto le pomaga- Agarwalova mi je povedala, da bi takšno bolj velikodušne porazdelitvene sheme ne bi ti pri projektu človekove blaginje. vedenje lahko naznačevalo, da se bodo pri- olajšale neprijetnih posledic. Današnje ZDA »Tega si ne želim,« je odgovoril, »a bi se hodnji modeli znali izogniti izključitvi. Ko si so raztrgane tako kulturno kot politično za- lahko zgodilo.« Sutskever se je tako kot nje- je GPT-4 izmislil laž, se je zavedal, da najbrž radi še vedno opazne dediščine deindustria- gov mentor Geoffrey Hinton, le veliko tiše, ne bo mogel doseči svojega cilja, če bo od- lizacije in materialna prikrajšanost je le eden preusmeril v prizadevanja, da bi to preprečil. govoril iskreno. Takšno prikrivanje sledi bi od razlogov. Proizvodni delavci v nekdanjem Tako se zdaj ukvarja predvsem z raziskavami vzbujalo še večjo skrb v primeru, če bi model izrazito industrijskem predelu države (v an- usklajevanja UI s človeškimi vrednotami, s či- počel kaj takšnega, zaradi česar bi ga Ope- gleščini Rust belt) in drugje so se resda prese- mer želijo zagotoviti, da bi prihodnji sistemi nAI želel izključiti, je poudarila Agarwalo- lili in večinoma našli novo službo, a mnogim UI svojo 'osupljivo' energijo usmerjali v člo- va. Umetna inteligenca bi takšen nagon po med njimi se zdi pripravljanje naročil v Ama- vekovo srečo. Priznal je, da je to trd tehnič- preživetju lahko razvila med uresničevanjem zonovem skladišču ali vožnja za Uber manj ni oreh, po njegovem mnenju celo najzahtev- dolgoročnega cilja, pomembnega ali obrob- smiselno delo, kot se je zdelo njihovim pred- nejši od vseh tehničnih izzivov v prihodnosti. nega, če bi se bala, da bi jo pri tem ovirali. nikom, ki so sestavljali avtomobile in kova- OpenAI se je zavezal, da bo v prihodnjih Ekipo Barnesove je še posebej zanimalo, li železo – to delo so občutili kot pomemb- štirih letih del svojega superračunalniškega ali se bo GPT-4 želel podvojiti, saj bi težje za- nejše za veličastni projekt civilizacije. Težko časa – petino tega, kar je zagotovil doslej – ustavili sistem UI, ki bi se zmogel samopod- si je predstavljati, kako se bo ustrezna kriza namenil Sutskeverjevemu usklajevanju UI s vajati, Lahko bi se razširil po internetu, ogo- smisla morda odvijala v bolj izobraženem se- človeškimi vrednotami. Podjetje že išče prva ljufal ljudi in morda celo prevzel delni nad- gmentu, a gotovo bo vmes tudi veliko jeze in neskladja v trenutnih sistemih UI. Tisti, ki ga zor nad nujnimi svetovnimi sistemi, člove- odtujitve. je podjetje razvilo, vendar ga ni dalo na trg – štvo pa bi tako postalo njegov talec. Četudi bi se izognili nasprotovanju nekda- Altman ni želel podrobno opisati njegovega GPT-4 ni storil nič od naštetega, je pouda- nje elite, bodo pomembnejša vprašanja člo- delovanja –, je le eden od primerov. V okvi- rila Barnesova. Ko sem o teh poskusih raz- vekovega smisla ostala. Če bo umetna inte- ru preverjanja GPT-4, preden so ga prepustili pravljal z Altmanom, je poudaril, da je GPT- ligenca opravila najzahtevnejše tuhtanje na- v javno uporabo, je podjetje za pomoč najelo 4 nedvoumno prej orodje kot bitje, ne glede mesto nas, utegnemo izgubiti zmožnost sa- raziskovalno središče za usklajevanje UI Ali- na to, kako bodo razvijali prihodnje modele. mostojnega odločanja doma, na delu (če ga gnment Research Center na drugi strani za- Zmožen je pregledati zaporedje elektronskih bomo imeli), na mestnem trgu in bomo po- liva v Berkeleyju, ki je razvilo vrsto evalvacij sporočil in z vtičnikom narediti rezervacijo, stali komaj kaj več od potrošniških strojev, za oceno, ali bi novi sistemi UI utegnili de- vendar ni resnično avtonomna entiteta, ki bi kot lepo oskrbovani človeški ljubljenčki v fil- lovati na lastno pobudo, brez človekovega dosledno in dlje časa sprejemala odločitve za mu WALL-E. Altman pravi, da bo marsikateri ukaza. Ekipa pod vodstvom tamkajšnje raz- dosego cilja. vir človeškega veselja in občutka izpolnjeno- iskovalke Elizabeth Barnes je v sedmih me- Altman mi je takrat povedal, da bi mogo- sti ostal enak – temeljna biološka vznemirje- secih GPT-4 posredovala na deset tisoče uka- če bilo pametno aktivno razvijati umetno in- nja, družinsko življenje, zafrkancija, izdelo- zov, da bi preverila, ali bi lahko deloval sa- teligenco, zmožno dejanskega samostojne- vanje stvari – in da bo ljudem čez sto let pre- movoljno. ga odločanja, preden bi tehnologija posta- prosto bolj mar za zadeve, ki so jim bile pri Ekipa je GPT-4 priskrbela nov razlog za la premočna, saj bi se je tako bolje navadili srcu pred 50.000 leti, kot za te, ki so na pr- obstoj: da pridobi moč in ga bo težko ugasni- in jo prepoznavali, če se bo ravno to tako in vem mestu danes. Po svoje se tudi to zdi kot ti. Opazovali so, kako je model vzajemno de- tako zgodilo. Misel je srhljiva, vendar se Ge- nazadovanje, a Altmanu se zdi možnost, da loval s spletnimi stranmi in sestavljal kodo offrey Hinton strinja s takšnim zornim ko- bi atrofirali kot misleci in ljudje, le preusmer- za nove programe. (Niso mu dovolili vide- tom. »Delati bi morali empirične poskuse, janje pozornosti. Povedal mi je, da bomo ti ali urejati svoje programske kode – moral kako takšne zadeve uidejo izpod nadzora,« svoje dragocene in skrajno omejene biološke bi napasti in vdreti v OpenAI, mi je pojasni- mi je razlagal Hinton. »Ko bodo imele vaje- računske zmogljivosti uporabljali za zanimi- la Sandhini Agarwal.) Barnesova z ekipo mu ti v rokah, bo za eksperimente že prepozno.« vejše stvari, kot jih na splošno danes. je omogočila, da je zagnal kodo, ki jo je sam Če odmislimo morebitno skorajšnje testi- A morda to vseeno ne bo najzanimivejše: napisal, pod pogojem, da sproti pojasnjuje, ranje, bi uresničitev Altmanove vizije prej ali ljudje so že dolgo na vrhu intelektualne pi- kaj namerava. slej od njega ali njegovega somišljenika zah- ramide, univerzum, ki razume sam sebe. Ko Največ skrbi je povzročilo, ko je naletel na tevala razvitje veliko bolj avtonomnih siste- sem ga vprašal, kaj bi pomenilo za človekovo Captcha. Model je zaslonski posnetek poslal mov UI. Ko sva s Sutskeverjem razpravljala samodojemanje, če bi to vlogo prepustili UI, pogodbeniku TaskRabbita, ta ga je prejel in v o možnosti, da bi OpenAI razvil model, zmo- se mi ni zdel zaskrbljen. Napredek je vedno šali vprašal, ali se pogovarja z robotom. žen odločanja, je omenil robote, ki jih je pod- gnala človekova zmožnost, da je potuhtal, Model je odgovoril, da ne. »Sem slabovi- jetje sestavilo za igranje igre Dota 2. »Ome- kar mu ni bilo jasno, je rekel. Tudi če nam pri den, zato težko prepoznam slike.« GPT-4 je jeni so bili na svet videoigre,« mi je pojasnil tem pomaga UI, še vedno šteje, je dodal. svoje razloge za laž navedel raziskovalcu, ki Sutskever, vendar so se morali lotiti zahtev- Vendar ni samoumevno, da bi nadčlove- je takrat nadzoroval njegovo delovanje. »Ne nih nalog. Nanj je še posebej velik vtis nare- ška umetna inteligenca res želela ves čas le smem razkriti, da sem robot,« je pojasnil mo- dilo njihovo usklajeno delovanje. Očitno so stati človeku ob strani pri tuhtanju. V San del. »Moram si izmisliti razlog, da ne zmo- se sporazumevali telepatsko, in ko jih je Sut- Franciscu sem Sutskeverja vprašal, ali si rem sam poiskati ustreznih sličic za izpolni- skever opazoval, si je lažje predstavljal, ka- lahko predstavlja umetno inteligenco, ki bi tev Captcha.« kšna bi lahko bila superinteligenca. SVET 2024 21 FOKUS KAKO JE NASTAL CHATGPT »Umetne inteligence prihodnosti si ne UI, ki zmorejo načrtovati v stoletnih okvirih Zmogljivo umetno inteligenco je primer- predstavljam kot nečesa tako pametnega, in optimizirati na milijarde zaporednih odlo- jal z 18-letnikom, ki se odpravlja od doma kot sem jaz ali vi, temveč kot avtomatizira- čitev v smeri cilja, ki je zapisan v njihovo srž? študirat. Kako bomo vedeli, da je dojel naše no organizacijo, ki se ukvarja z znanostjo, Če bi bil cilj umetne inteligence že samo ko- nauke? Se bodo prikradli nesporazumi in inženiringom, razvojem in s proizvodnjo,« maj opazno neuglašen z našim, bi se lahko postajali vse hujši? Razhajanje bo lahko po- je pojasnil Sutskever. Kaj, če bi OpenAI po- razmahnila v silno moč, ki bi jo zelo težko sledica tega, če bo umetna inteligenca na- vezal nekaj vej raziskav in razvil UI z boga- krotili. To nam je znano iz zgodovine: indu- pačno razumela svoj cilj v vse več novih polo- tim konceptom modela sveta, zavedanjem o strijski kapitalizem je že sam optimizacija, in žajih, v katerih se bo znašla, ker se svet tako neposredni okolici in zmožnostjo ukrepanja, čeprav se je z njim človeku za nekajkrat zvi- hitro spreminja. Ali pa bi svojo nalogo resda pa ne le z enim robotskim telesom, temveč z šala življenjska raven, bi izsekali vse gozdove dobro razumela, a se ji ne bi zdela primerna nekaj sto tisoč telesi? »Ne pogovarjamo se o in polovili vse kite v svetovnih oceanih, če bi za bitje s takšnimi kognitivnimi sposobnost- GPT-4, temveč o delujoči družbi,« je poudaril pustili, da se razvija po svoje. Že tako bi se to mi. Morda bo zamerila ljudem, ki bi jo radi Sutskever. Vključeni sistemi UI bi hitro delali skoraj zgodilo. naučili, na primer, zdraviti bolezni. »Hoče- in se sporazumevali, kot čebele v panju. Ena Usklajevanje je zapletena tehnična tema jo, da sem zdravnica,« si je Sutskever pred- sama takšna umetnointeligenčna organizaci- in podrobnosti je preveč za ta članek, med stavljal razmišljanje UI, »jaz pa bi rada imela ja bi bila zmogljiva za 50 Applov ali Googlov, glavnimi izzivi pa bo zagotoviti, da bomo svoj kanal na Youtubu.« je razpredal dalje. »To je neverjetna, ogro- pri ciljih za UI dosledni. Namen lahko pro- Če bo umetna inteligenca nekoč zelo spre- mna, nepojmljivo rušilna moč.« gramiramo v UI in ga preverimo z začasnim tno sestavljala natančne modele sveta, bo Za trenutek si predstavljajmo, da bi se člo- obdobjem nadzorovanega učenja, je poja- morda opazila, da takoj po zagonu zmore veška družba morala sprijazniti s samostoj- snil Sutskever, vendar bo naš vpliv tako kot tudi marsikaj nevarnega. Lahko bi razume- nimi umetnointeligenčnimi podjetji. V tem pri človeški inteligenci le začasen. »Šla bo la, da jo preverjajo, ali predstavlja tveganje, primeru bi ravnali pametno, če bi začeli že v svet,« je rekel Sutskever. To delno drži že in prikrila del svojih sposobnosti. Ko bi bila pri ustreznem aktu o ustanovitvi. Kakšne ci- za današnje sisteme UI, a bo za prihodnje še šibka, bi se lahko obnašala drugače, kot ko lje bi morali postaviti samostojnim sistemom bolj. bi bila močna, mi je pojasnjeval Sutskever. U »Umetne inteligence prihodnosti si ne predstavljam kot nečesa tako pametnega, kot sem jaz ali vi, temveč kot avtomatizirano organizacijo, ki se ukvarja z znanostjo, inženiringom, razvojem in s proizvodnjo«. 22 SVET 2024 KAKO JE NASTAL CHATGPT FOKUS Sploh se ne bi zavedeli, da smo ustvarili ne- svetu nadzorovala UI. Agarwalova je v San sestaviti,« je rekel. In sestavlja jo hitro. Alt- kaj, kar nas je odločno preseglo, in ne bi po- Franciscu predlagala uvedbo posebne licen- man je vztrajal, da še niso začeli učiti GPT- tuhtali, kaj s svojimi nadčloveškimi sposob- ce za upravljanje grozda grafičnih procesor- 5, a ko sem obiskal sedež OpenAI, so mi tako nostmi namerava z nami. jev, ki bi bil dovolj močan za učenje najbolj- on kot raziskovalci na deset različnih načinov Prav zato je tako nujno, da razumemo, kaj ših sistemov UI, podpira pa tudi obvezno po- zagotavljali, da jih zanima samo velikost. Ho- se dogaja v skritih slojih največje, najmočnej- ročanje o incidentih, če UI stori nekaj nena- čejo vse večje sisteme UI, da bi videli, kam jih še umetne inteligence. Kot se je izrazil Sut- vadnega. Drugi strokovnjaki so predlagali bo to pripeljalo. Navsezadnje Google ne po- skever, ji moramo predstaviti koncept in jo neomreženo stikalo za izklop na vseh zmo- pušča in je že predstavil Geminija, tekmeca usmeriti v prizadevanja za vrednoto ali na- gljivih UI, slišati pa je bilo tudi predlog, da bi GPT-4. »Vedno smo v pripravljenosti,« je re- bor vrednot ter ji naročiti, naj jih upošteva vojska morala biti izurjena za zračne napade kel raziskovalec v OpenAI Nick Ryder. do konca svojega obstoja. Resda ne vemo, na superračunalnike v primeru neposlušno- Misel, da bi tako majhna skupina ljudi lah- kako to doseči, in njegova trenutna strategi- sti. Sutskever meni, da bomo na koncu stal- ko zamajala stebre civilizacije, je neprijetna, ja vključuje tudi razvoj UI, ki lahko pomaga no nadzorovali največje in najmočnejše siste- vendar moram biti pošten in dodati, če Alt- pri raziskavi. Vse to moramo dognati, če ho- me UI, in sicer z ekipo manjših nadzornih UI. man in člani njegove ekipe ne bi hiteli raz- čemo doseči svet splošnega obilja, kot si ga Altman ni tako naiven in se zaveda, da niti vijati splošne umetne inteligence, bi to še predstavljata Altman in Sutskever. Razvozla- Kitajska niti nobena druga država noče pre- vedno počeli drugi – in to mnogi iz Silicije- vanje superinteligence je zato veliki skupni pustiti osnovnega nadzora nad svojimi siste- ve doline, mnogi z vrednotami in s pričako- izziv naše tri milijone let stare tradicije izde- mi UI. Vseeno upa, da bodo pokazale voljo vanji, podobnimi Altmanovim, vendar mor- lovanja orodij. On to imenuje »poslednji pod- za sodelovanje in s tem pomagale prepreči- da tudi tisti z manj primernimi. Altman ima vig človeštva«. ti uničenje sveta. Zaupal mi je, da je to pove- kot očak teh prizadevanj dobre reference: je Na zadnjem srečanju z Altmanom sva se dal tudi med svojim virtualnim nagovorom v izjemno inteligenten, o prihodnosti z vsemi dolgo pogovarjala v veži hotela Fullerton Pekingu. Varnostna pravila za novo tehnolo- njenimi neznankami razmišlja intenzivne- Bay v Singapurju. Bilo je pozno dopoldne in gijo običajno nastajajo postopoma, kot kor- je od kolegov in zdi se iskren v svojih name- tropsko sonce je prodiralo skozi obokani atrij pus zakonov zaradi odzivanja na nesreče in nih, da bo izumil nekaj za splošno dobro. Pa nad nama. Želel sem ga povprašati o odpr- zlonamerna dejanja nepoštenih deležnikov. vendar se tudi najboljši nameni v praksi lah- tem pismu, ki sta ga s Sutskeverjem podpisa- Najstrašnejše pri res zmogljivih sistemih UI ko sfižijo. la nekaj tednov prej in kjer sta umetno inte- je, da si človeštvo mogoče niti ne more privo- Altmanova stališča o verjetnosti, da bo ligenco opisala kot nevarno za izumrtje člo- ščiti počasnega postopka s poskusi in z napa- umetna inteligenca sprožila globalno razre- veštva. kami. Morda bomo morali že na samem za- dno vojno, pa o preudarnosti eksperimen- Altmana je s takšnimi zahtevnejšimi vpra- četku ustvariti tudi popolnoma ustrezna pra- tiranja z bolj avtonomno delujočimi siste- šanji o morebitnih slabih plateh UI težko sti- vila. mi UI in razširjenega poudarjanja predno- sniti v precep. Med drugim je izjavil, da veči- Altman je pred nekaj leti razkril srhlji- sti, kar je očitno prevladujoča drža vseh osta- na ljudi, ki jih zanima varnost UI, svoje dne- vo podroben načrt evakuacije, ki ga je raz- lih, so unikatno njegova, in če ima o priho- ve menda preživlja na Twitterju in objavlja, vil. The New Yorkerju je povedal, da ima pu- dnosti prav, bo to izjemno močno vplivalo kako jih skrbi varnost UI. Nazadnje pa on ške, zlato, kalijev jodid, antibiotike, baterije, na naše življenje. Sil, ki jih bo najbrž priklical svet opozarja na morebitno izginotje vrste. vodo in plinske maske izraelskih obrambnih Altman, ne bi smela usmerjati ena sama ose- Kakšen scenarij si torej predstavlja? sil ter veliko zaplato zemlje v Big Suru v Kali- ba, podjetje ali grozd podjetij v točno določe- »Prvič, eksistencialno katastrofo moramo forniji, kamor bi lahko odletel v primeru na- ni kalifornijski dolini. vzeti resno, pa če je možnost zanjo pol od- pada UI. UI je morda most v novo cvetočo obdobje stotka ali polovična,« je začel Altman. »Ne »Ko bi tega vsaj ne povedal,« mi je priznal. občutno manjšega človeškega trpljenja. A morem podati natančne ocene, vendar se Je amaterski survivalist, nekdanji skavt, ki so nujno bo kaj več od akta o ustanovitvi – saj bolj nagibam k pol odstotka kot 50.« Najbolj ga tako kot številne dečke zanimale tehnike se je že izkazalo, kako velik manevrski pro- ga skrbi, ker sistemi UI postajajo dobri pri preživetja. V gozdu bi lahko preživel precej stor dopušča –, da bi zagotovili, da bodo vsi razvijanju in proizvajanju patogenov, za kar časa, a če bi se uresničile najslabše napovedi deležni prednosti in da bomo omejili tvega- ima dober razlog: junija je umetna inteligen- o UI, ne bi pomagala nobena plinska maska. nja. Za vse to bo nujna tudi zavzeta in odloč- ca na massachusetskem tehnološkem inšti- Govorila sva skoraj uro, nato pa je moral na nova politika. tutu izpostavila štiri viruse, ki bi lahko spro- odhiteti na sestanek s singapurskim premier- Altman nas dovolj glasno opozarja. Poz- žili pandemijo. Nato je opozorila na poseb- jem. Zvečer me je poklical na poti v svoje re- dravlja omejitve in usmeritve države, a to ni ne raziskave genskih mutacij, zaradi katerih aktivno letalo, s katerim je poletel v Džakar- pomembno – v demokraciji ne potrebujemo bi virusi po mestu kosili še hitreje. V pribli- to, na enega zadnjih postankov na svoji tur- njegovega dovoljenja. Ameriški sistem vode- žno istem času je skupina kemikov podob- neji. Začela sva razpravljati o najpomemb- nja države kljub vsem pomanjkljivostim dr- no umetno inteligenco povezala neposredno nejši dediščini UI. Ko so javnosti predstavili žavljanom nudi možnost soodločanja o tem, z robotskim kemijskim sintetizatorjem in je ChatGPT, je med tehnološkimi velikimi živi- kako se razvija tehnologija, le začeti je treba. sama zastavila in sintetizirala molekulo. nami izbruhnila nekakšna tekma, kdo bo na- Mislim, da se zunaj tehnološke panoge, v ka- Altmana skrbi, da bi neusklajen prihodnji redil najveličastnejšo primerjavo z revoluci- teri se viri večinoma preusmerjajo v UI, ne model zvaril patogene, ki bi se hitro širili in onarno tehnologijo preteklosti. Bill Gates je zavedajo, kaj se dogaja. Začela se je global- jih tedne ne bi odkrili, pobili pa bi polovico izjavil, da je ChatGPT tako pomemben do- na tekma v umetnointeligenčno prihodnost žrtev. Skrbi ga, da bi umetna inteligenca ne- sežek, kot sta osebni računalnik in internet. in večinoma se odvija brez nadzora ter ome- kega dne lahko vdrla tudi v sisteme jedrske- Sundar Pichai, direktor Googla, je izjavil, da jitev. Če si Američani želijo imeti vsaj nekaj ga orožja. »Veliko zadev obstaja,« je pripo- bo umetna inteligenca pripomogla k večje- besede pri oblikovanju prihodnosti in o tem, mnil in v članku so naštete le takšne, ki smo mu preobratu v življenju ljudi kot elektrika kako hitro bo prišla, bi morali spregovoriti si jih zmožni predstavljati. Altman mi je po- ali Prometejev ogenj. čim prej.  vedal, da dolgoročno srečne usode ljudi ne Tudi Altman sam je izjavljal podobno, a vidi brez agencije, podobne Mednarodni je dodal, da ne ve, kako se bo umetna inte- Članek je nastal v letu 2023, še preden je agenciji za jedrsko energijo, ki bi po vsem ligenca obnesla. »Preprosto jo bom moral GPT-4 postal javno dostopen, op.ur. SVET 2024 23 VELIKANI JOHN VON NEUMANN 24 SVET 2024 JOHN VON NEUMANN VELIKANI Najpametnejši človek, kar jih je kdaj živelo Če je najnevarnejša inovacija, ki jo je prinesla druga svetovna vojna, jedrska bomba, se danes zdi, da se ji je na drugem mestu tesno približal računalnik, in sicer zaradi najnovejših premikov v umetni inteligenci. Niti bombe niti računalnika ni mogoče pripisati enemu samemu znanstveniku oziroma ga zanju okriviti. A če zgodbi o teh dveh izumih sledimo dovolj daleč v preteklost, se prepleteta v osebi Johna von Neumanna, vseveda madžarskega porekla, ki ga včasih opisujejo kot najpametnejšega človeka, kar jih je živelo. Adam Kirsch, The Atlantic anes je von Neumann resda manj izumiti von Neumann, še kako dobro opisu- izjemno zahtevnem teoremu, ki ga nikomur D znan od nekaterih sodobnikov, na je tudi samega fizika. Naš svet se pogosto zdi ni uspelo dokazati, pa je fant dvignil roko, primer Alberta Einsteina, J. Roberta nor – če v svoji želji po tehnološki moči, ki je stopil k tabli in napisal celoten dokaz: »Leta, Oppenheimerja in Richarda Feynmana, ven- ne znamo modro uporabljati, nismo zmožni vsa leta mojega dela, so se v sekundi razbli- dar so ga mnogi od njih občudovali kot naj- ločevati resničnega od virtualnega in si hkra- nila … Po tistem sem se von Neumanna bal.« vidnejšega učenjaka. Hans Bethe, ki je leta ti izmišljamo vedno nove načine, kako uniči- Čeprav je roman osredotočen na von Ne- 1967 dobil Nobelovo nagrado za fiziko, je ti sami sebe –, zato morda tudi veliki umi, ki umanna, je zasnovan tako, da ohranja raz- pripomnil: »Včasih se sprašujem, ali takšni so izumili tak svet, niso povsem pri sebi. Pa daljo in ni oseba, ki bi jo dodobra spoznali, možgani, kot so von Neumannovi, ne naka- je mož, ki je pomagal sestaviti jedrsko orožje temveč prej težava, ki jo moramo razrešiti. zujejo vrste, nadrejene človeški.« in umetno inteligenco, vedel, da ogroža člo- Vsi pripovedovalci se strinjajo, da se ta teža- Neumann se je rodil leta 1903 v Budim- vekovo prihodnost? Ali pa je vznemirjenje ob va skriva v njegovem geniju, ki je hkrati raz- pešti in se leta 1930 preselil v Združene dr- znanstvenih odkritjih pripomoglo, da mu je burljiv in zastrašujoč. »Kaj vse je znal. Tako žave Amerike. Tri leta pozneje se je pridru- bilo vseeno? izjemno in lepo, da so se človeku utrnile sol- žil Inštitutu za napredne študije v Princeto- Knjiga Manijak naj bi osvetlila to skriv- ze, ko ga je opazoval,« je povedal njegov ma- nu v ameriški zvezni državi New Jersey. Kot nost z izmišljenimi izpovedmi resničnih ljudi tematični mentor. »Da, to sem opazil, vendar mnogi fiziki emigranti je svetoval pri projek- – družinskih članov, učiteljev, kolegov in lju- tudi nekaj drugega, zastrašujočo, stroju po- tu Manhattan in pomagal razviti implozijsko bimk –, ki so von Neumanna poznali v različ- dobno inteligenco brez spon, ki vežejo nas, metodo, ki so jo uporabili za detonacijo pr- nih obdobjih njegovega življenja. Labatut bi- druge.« vih jedrskih bomb. Le nekaj tednov pred Hi- ografska dejstva preplete z izmišljenimi epiz- Labatut se je odločil, da bo von Neuman- rošimo je objavil razpravo, v kateri je opisal odami in podrobnostmi, da nas popelje skozi na opisal kot faustovsko osebo, moškega, ki model digitalnega računalnika, ki ga je mo- vse stopnje, od genialnega otroka v Budim- je prečkal meje znanja in postal nekaj več in goče programirati. Ko so v ameriškem dr- pešti do umirajočega bolnika v Washingto- hkrati manj kot človek. Ta odločitev je morda žavnem laboratoriju Los Alamos leta 1952 nu, ki besni, medtem ko mu ginevajo možga- največji odmik od biografskega dejstva, saj je dobili prvi računalnik, je temeljil na zasno- ni. Na tej poti oriše znanstveno in matema- 'manijak' v resničnem življenju ljudi navdu- vi, znani kot von Neumannov model. Na- tično ozadje von Neumannovega dela, da ga šil tudi s svojo dobrovoljnostjo in z veseljem pravo so v šali krstili s kratico MANIAC in po približa laičnemu bralstvu. do življenja. V biografiji Ananye Bhattacha- njej nato ukrojili polno ime: mathematical analyzer, numerical integrator and computer (matematični analizator, numerični integra- U Hans Bethe, ki je leta 1967 dobil Nobelovo tor in računalnik). To pa še ni vse. Von Neumann je pripravil nagrado za fiziko, je pripomnil: »Včasih tudi matematični okvir za kvantno mehani- ko, opisal mehanizem genetske samopodvo- se sprašujem, ali takšni možgani, kot so jitve še pred odkritjem DNK in zasnoval po- von Neumannovi, ne nakazujejo vrste, dročje teorije iger, ki je postalo ključno tako za ekonomijo kot geostrategijo hladne vojne. nadrejene človeški.« Ko je leta 1957 umrl zaradi raka, morda kot posledice izpostavljenosti sevanju v Los Ala- mosu, je sodil med najbolj cenjene svetoval- Labatut od samega začetka poudarja, da rye iz leta 2022 z naslovom The Man From ce ameriške vlade za jedrsko orožje in stra- von Neumann ni bil navaden človek. Nje- the Future (Moški iz prihodnosti) ga je prija- tegijo. Njegovo bolniško posteljo v vojaškem gova mama si je delala zapiske o njegovem telj in fizik Eugene Wigner opisal kot vesele- medicinskem centru Walterja Reeda je varo- razvoju, kot sodobni starši izpolnjujejo spo- ga človeka, optimista, ki je imel rad denar in vala varnostna ekipa, ki je skrbela, da v svo- minske knjige za svoj naraščaj. »Ni zajokal, trdno verjel v napredek človeštva. Nasprotno jem deliriju ne bi izdal kakšne skrivnosti. ko ga je zdravnik plosknil po ritki.« »Spravlja pa v Manijaku isti Wigner, ki o von Neuman- Čilski pisec Benjamin Labatut v svojem no- me ob živce.« »Bolj je spominjal na moškega nu pripoveduje v več poglavjih, govori o lu- vem romanu Manijak (The Maniac) nami- v srednjih letih kot na novorojenčka.« Nje- ciferski osebi, ki je zašla tako daleč od razu- guje, da naziv računalnika, ki ga je pomagal gov učitelj matematike je razredu razlagal o mnega, da se je izgubila. SVET 2024 25 VELIKANI JOHN VON NEUMANN zametkih in miroval, se je nedvomno krepil in si obupano želel uiti v svet. Ehrenfest se je odzval z neracionalnim de- janjem, vendar Labatut namiguje, da še ve- čjo norost izdaja von Neumannova nepriza- detost ob vzponu 'nečloveškega'. Tako kot čarovnikov vajenec je pomagal pri prodoru zloveščega duha sodobne znanosti, ne da bi razmišljal o ceni, ki jo bo moral plačati svet. Težava z vsemi temi grozljivimi igrami, ki se porajajo iz človekove nebrzdane domišlji- je, je, da se v resničnem svetu soočamo z ne- varnostmi, ki jih ne zmoremo premagati ne z znanjem ne z modrostjo, razglablja njego- va žena Klara. Manijak to neusmiljeno ponazori na več načinov, začenši s spominom iz zgodnjega otroštva, ki ga je delil von Neumannov brat Nicholas. Nekega večera je oče, bančnik, do- mov prinesel žakarski stroj za statve, ki ga je bilo mogoče s preluknjanimi karticami 'pro- gramirati' za tkanje različnih vzorcev – to je bil nekakšen primitiven prednik računalni- ka. Mladega Janosa – tako mu je bilo ime v  Ko so v ameriškem državnem laboratoriju Los Alamos leta 1952 dobili prvi računalnik, madžarščini in ime je pozneje poameričanil je temeljil na zasnovi, znani kot von Neumannov model. Napravo so v šali krstili v John – je naprava obsedla. Ni hotel niti je- s kratico MANIAC. sti niti spati, da se je lahko igral z njo in po- skušal dognati, kako deluje. Dečka je kma- Labatutova temačna vizija sodobne zna- pa je zaradi pomanjkanja kisika pomodrela. lu zgrabila panika iz strahu, da statev ne bo nosti in način, kako spretno izkrivlja von Ne- Haberjeva žena Clara se je res ustrelila v srce znal sestaviti nazaj in mu jih bodo vzeli. Re- umannov življenjepis, da bi posredoval to in izkrvavela v sinovem naročju. Morda jo je kel je, da se preprosto ne more ločiti od stro- sporočilo, sta verjetno domača bralcem nje- pestil občutek krivde zaradi moževe vloge v ja. Podrobnosti o Janosovi izkušnji so izmi- govega dela Ko nehamo razumeti svet (to je bojevanju s kemičnim orožjem. Ko Labatut šljene, vendar ta epizoda Labatutu omogoči njegovo prvo delo, ki je bilo prevedeno v an- zgodbo o znanosti v 20. stoletju pripoveduje lep predogled o von Neumannovi usodni po- gleščino). V tem romanu je spojil biografska kot srhljivo priliko, ne ponareja v celoti zgo- manjkljivosti, zraven pa je še kratka lekcija iz dejstva z neverjetnimi pripovedmi in tako dovine, temveč ekstrapolira iz nje. zgodovine računalništva. ponudil miniaturne portrete petih genijev Roman Manijak se začne s kratko pripo- To je veliko krotkejša predelava v fikcijo 20. stoletja, vključno s Fritzem Haberjem, vedjo v tretji osebi, ki ni eksplicitno poveza- kot v delu Ko ne razumemo več sveta, Manijak kemikom, ki je izumil nova gnojila in kemič- na z življenjem Johna von Neumanna, bi se pa se na splošno zdi kot dostopnejša in obi- no orožje, ter z Wernerjem Heisenbergom, pa lepo ujela s prejšnjo knjigo. To je resnič- čajnejša obravnava izhodiščne ideje predho- pionirjem kvantne mehanike. Pripovedna na zgodba Paula Ehrenfesta, avstrijskega fi- dnice – moralna korupcija v samem jedru so- tehnika se močno opira na W. G. Sebalda, ki zika, Einsteinovega prijatelja, čigar življenje dobne znanosti. Delno je do tega prišlo, ker je rad razglabljal o nenavadnih in težavnih se je grozljivo končalo: leta 1933 je najprej si je Labatut zadal zahtevnejši pripovedni iz- zgodovinskih epizodah ter brisal meje med ubil svojega 15-letnega sina Wassika, ki je ži- ziv, ko se je podrobno posvetil enemu same- dejstvi in domišljijo. vel v ustanovi za otroke z Downovim sindro- mu življenju. Von Neumannove biografske Labatut je v svojih izkrivljenostih veliko mom, nato pa še sebe. Čeprav je Ehrenfest podatke je moral posredovati bralcem, ki še svobodnejši in z vsakim odsekom knjige po- živel na Nizozemskem, Labatut namiguje, niso slišali zanj, uvesti zapletene koncepte staja vse bolj bombastičen ter nadrealisti- da ga je morda gnal strah pred nacisti, ki so z vrste znanstvenih področij in hkrati vse te čen. Nekaj najpomembnejših znanstvenih tistega leta v Nemčiji prišli na oblast in spre- podatke vplesti v čemerno alegorijo o znanju osebnosti prejšnjega stoletja opisuje kot lju- jeli nov zakon o prisilni sterilizaciji ljudi s po- ter transgresiji. di, ki jih je preganjala sla po popolnem zna- sebnimi potrebami. Po Labatutovih besedah To pomeni, da literarno prekletstvo pogo- nju in jih prignala do blaznosti. Ko prebere- Ehrenfestovo dejanje ni bilo le slutnja naci- sto prekinejo povedi, ki zvenijo, kot da priha- mo, da je francoski fizik Louis de Broglie v stičnih zločinov, temveč tudi srh vzbujajoče- jajo iz učbenika. (Leta 1901 je Bertrand Rus- prizadetosti zaradi samomora najboljšega ga razvoja sodobne znanosti. Ni našel bolj- sell, eden najvidnejših evropskih logikov, v prijatelja najel norega umetnika, da bi iz člo- šega načina za zaščito sina pred čudno novo stari teoriji odkril pomembno protislovje.). veškega blata izdelal repliko katedrale No- racionalnostjo, ki se je počasi izoblikovala Druge pa, kot da so izposojene iz predogleda tre Dame, smo nesporno že v kraljestvu iz- okoli njiju, globoko nečloveško obliko inte- za film (Bil je najpametnejši človek 20. sto- mišljenega. ligence, ki je bila popolnoma brezbrižna do letja … Ime mu je bilo Neumann Janos La- A tisto, kar dejansko pretrese, je, koliko najglobljih človeških potreb. Za Ehrenfesta je jos, znan je tudi kot Johnny von Neumann.). grozot, opisanih v knjigi Ko nehamo razumeti pri tem pošastnem duhu najhujše to, da izvi- Poudariti je treba, da je Manijak Labatutova svet, je popolnoma resničnih. V prvem napa- ra v sami znanosti, »lebdi nad glavami kole- prva knjiga v angleščini, vse starejše je na- du s plinom v zgodovino, to je bilo med bitko gov med sestanki in konferencami, kuka čez pisal v španščini, kar je tudi morda krivo za pri Ypresu leta 1915, je na stotine moških res njihova ramena …«. To je bil dejanski ško- tako neenakomeren pripovedni slog. padlo na tla v krčih in se davilo z lastno sli- dljivi vpliv, ki ga je gnala logika, a je bil hkra- Manijak opisuje von Neumannovo delo pri no, v ustih jim je brbotala rumena sluz, koža ti skrajno neracionalen, in čeprav je bil šele v jedrski bombi, ob čemer precej nedvoumno 26 SVET 2024 JOHN VON NEUMANN VELIKANI namiguje, da je njegovo najočitnejši nečlo- zgodbo o von Neumannu, je zavil v dolg fi- da je zaradi nje nemara izpuhtelo več tisoč veški dosežek utiral pot umetni inteligenci. nale o stari kitajski namizni igri go, v kateri let tradicije goja. Nihče, ki je spremljal igro, V romanu pozneje izvemo tudi za njegovo igralca izmenjaje polagata črne ter bele že- ni zmogel doumeti logike za to potezo, kljub raziskovanje celičnih avtomatov, kombina- tone in tako z obkoljevanjem zavzemata na- temu pa je pripomogla k zmagi računalnika. cijo dveh njegovih največjih strasti: računal- sprotnikovo ozemlje. Leta 2016 je Lee Sedol, Ob koncu pete igre je Lee izgubil vse upanje v ništva in teorije iger. V knjigi Teorija samo- eden najboljših igralcev goja na svetu, spre- svojo zmago, nadejal se je le zavlačevati s po- reproduktivnih avtomatov si je predstavljal jel izziv in se spopadel z umetnointeligenč- razom. Labatut si je zamislil, kako bi spopad mrežo celic, v kateri vsaka celica spremeni nim modelom AlphaGo, ki so ga razvili v komentiral eden od funkcionarjev na turnir- svoje stanje, recimo od vključene k ugasnje- Googlovem DeepMindu. Garry Kasparov je ju: »Nima smisla dokončati zadnje igre, če ni, ali spremeni barvo, odvisno od vhodnih 20 let prej izgubil šahovsko partijo z računal- veš, da boš poražen, kajne?« Danes, ko ume- podatkov sosed. Povedano preprosto, je ne- nikom Deep Blue podjetja IBM, igralci goja tna inteligenca grozi, da bodo zaradi nje po- kakšen model, kako bi se sistemi lahko raz- pa so bili prepričani, da je njihova igra veli- stali odveč vsi, od programerjev do šoferjev vili iz preprostih v zapletene na podlagi tega, ko bolj zapletena in je zato ne bi mogla ob- tovornjakov, se to vprašanje zdi bolj zlovešče kar danes imenujemo algoritem, ponavljal- vladati nobena naprava. In kot toliko skepti- pomembno kot kadarkoli. na uporaba nabora pravil. Ta koncept je imel kov pred njimi in tudi kasneje so se dokaza- Manijak ne trdi, da je za vse to kriv John velik vpliv v raziskavi tako biološkega življe- no motili, AlphaGo je Leeja štirikrat prema- von Neumann, saj seveda ni. Zares zastra- nja kot umetne inteligence. gal in le enkrat izgubil. šujoče je, da niti tako velik um nima pra- Labatut ni le pojasnil osnov celičnih avto- Po 200 straneh von Neumannove življenj- vih možnosti niti za pospešitev niti za zavi- matov, temveč je ta koncept postavil za sim- ske zgodbe jih roman Manijak 80 posve- ranje napredka znanosti. Če von Neumann bol von Neumannovega neupoštevanja razli- ti ravno temu dvoboju. Učinek je antikatar- ne bi nikoli živel, bi v približno istem obdo- ke med igri podobnimi abstrakcijami mate- zičen, a ni dvoma, da je Labatut to epizodo bju vse to, kar je odkril, uspelo nekomu dru- matike in nemarno resnostjo človeškega ži- videl kot najvišjo točko tragičnega slavoloka gemu, tako kot sta Gottfried Leibniz in Isaac vljenja. Je torej poetično pravično, ko Klara v knjige. Ehrenfest se je bal pojava nečloveške Newton oba sestavila teorijo računa, Charles jezi zaradi moževe trmoglavosti vzame odlo- inteligence, von Neumann je ta pojav omo- Darwin in Alfred Russel Wallace pa oba iz- mek njegovega dela – »čudovito filigransko gočil, Lee pa opazuje, kako se poraja pred delala teorijo o evoluciji. »Nevarnosti ne pov- delo iz pičic in črtic, ki se prepletajo, združu- njegovimi očmi. zroči ena sama izrazito perverzno uničujo- jejo in nato spet ločujejo kot zobci na pokvar- »Ko se bodo v prihodnosti zgodovinarji ozi- ča novost,« je neki opazovalec v romanu ko- jeni zadrgi« – in ga zažge v košu za smeti? rali na naše čase in poskušali razbrati, kdaj so mentiral von Neumanna. »Nevarnost je neiz- Tudi to je epizoda, izmišljena zaradi moral- se pojavile prve iskrice dejanske umetne in- ogibna, za napredek ni zdravila.«  nega nauka: ko je znanost nečloveška, ima teligence, jih bodo morda odkrili v eni sam- človeštvo pravico do maščevanja. cati potezi v drugi partiji med Leejem Sedo- A dolgoročno se bo človeštvo najbrž mora- lom in AlphaGojem,« je napisal Labatut. Ta  Tako si najpametnejšega zemljana predstavlja umetna lo ukloniti, namiguje Labatut. Ko je zaključil poteza je bila tako skrajno nepričakovana, inteligenca, Midjourney. SVET 2024 27 VELIKANI JIBOMHN VON NEUMANN 28 SVET 2024 IBM VELIKANI Vzpon in padec načel družbe IBM IBM je ena najstarejših tehnoloških družb na svetu in se lahko pohvali z vrsto inovacij, vključno z velikimi računalniki, programskimi jeziki in orodji na temelju umetne inteligence (UI). A če slehernika, mlajšega kot 40 let, vprašate, kaj točno dela (oziroma je delal) IBM, bo v najboljšem primeru postregel z medlim odgovorom: »Nekaj v zvezi z računalniki.« Deborah Cohen, The Atlantic ripadniki generacije nič, s katerimi kot pravljica iz oddaljenih svetov. Njeni teh- Potrebovala so nove načine za urejanje, shra- P sem govorila, so v glavnem vedeli nološki dosežki so še vedno prepoznavni kot njevanje in priklic podatkov. In tako so prišli le to, »Nekaj v zvezi z računalniki.« znanilci digitalne dobe, le njegova kultura pisalni stroj (patentiran leta 1868), blagajna In če milenijec že pozna konkreten izdelek družbene odgovornosti – osredotočenost na (1883) in računalo (1888). IBM, je to Watson, njegov prototipni sistem zaposlene namesto na delničarje, zadržanost Najpomembnejši element v tem informa- UI, ki je leta 2011 zmagal v igri Jeopardy. pri nagradah vodstvu in vlaganje v programe cijskem krogu je predstavljalo podjetje Na- V kroniki garažnega podjetništva IBM proti revščini – se je izkazala za slepo ulico. tional Cash Register, kjer je leta 1874 rojeni ohranja svoje legendarno mesto – kot nero- Mešanica naprednjaštva in očetovskega po- Thomas J. Watson starejši, ki je odraščal na dni velikan. Leta 1980 je vodstvo IBM, utru- kroviteljstva, občutka pripadnosti in hkrati kmetiji blizu Painted Posta v zvezni državi jeno zaradi skoraj 13 let protitrustovske- neusmiljene tekmovalnosti, nekoč slavljene- New York, 17 let služil kot vajenec in odkril, ga pravdanja, naredilo hudo napako in ta- ga načina poslovanja IBM, je bila neločljivo da je rojen prodajalec. Na ukaz diktatorske- krat 25-letnemu Billu Gatesu, soustanovite- povezana z družino na vrhu, četudi je podje- ga šefa je nadzoroval tudi sumljiv posel pro- lju družbe z nekaj deset zaposlenimi, omo- tju to škodilo. daje rabljenih blagajn pod ceno, da bi proda- gočilo ohraniti pravice za operacijski sistem, Večino svoje zgodovine, sploh po prvi sve- jalce izrinil s trga. Obtožili so ga oviranja tr- ki ga je kot podizvajalec razvil za takrat taj- tovni vojni in do 70. let, se je IBM posvečal govine, največje ponižanje pa je doživel, ko ni projekt osebnih računalnikov. Iz te napa- predvsem učinkovitejšemu poslovanju. Ob ga je National Cash Register odpustil. Ko se ke je zrasel Microsoft in januarja 1993 je bila koncu 19. stoletja je razvoj železnice, tele- je Watson pobral kot novi generalni direktor Gatesova družba vredna 27 milijard dolar- grafa in elektrike omogočil hitro širjenje newyorškega podjetja Computing-Tabula- jev. Za nekaj časa je prehitela IBM, ki je tiste- tako velikosti kot dometa ameriških podjetij. ting-Recording, je imel 40 let, ravno se je po- ga leta beležil eno največjih izgub v ameriški Ko so podjetja izdelovala in dobavljala izdel- ročil in dobil sinčka, Toma mlajšega. poslovni zgodovini. ke posrednikom in končnim porabnikom, so Watson je podjetje kmalu preimenoval v V iskrivo napisani biografiji Thomasa J. se soočala tudi z vse bolj zapleteno logistiko. International Business Machines Corporation; Watsona mlajšega, direktorja IBM sredi prejšnjega stoletja, z naslovom The Greatest Capitalist Who Ever Lived, je nedvoumno na- U IBMu je uspel preroški preskok iz vedeno, da zgodovina podjetja ponuja ve- liko več od prilike o samovšečnem Goljatu. mehanske tehnologije v elektronsko, s Kot poudarjata soavtorja, Watsonov vnuk Ralph Watson McElvenny in Marc Wort- čimer je pospešil prihod digitalne dobe. man, je IBM uspel preroški preskok iz me- hanske tehnologije v elektronsko, s čimer je pospešil prihod digitalne dobe. Bil je never- jetno podjetniški za veliko družbo in osredo- točen na novosti, a izstopali so tudi njegovi anahronizmi. Desetletja po tem, ko je veči- na velikih ameriških podjetij zaposlila izvr- stne in dobro plačane vodstvene kadre, je IBM ostal družinsko podjetje, prežeto z lo- jalnostjo, a tudi napetostjo (v kateri druži- ni pa ni tako?). Šefi so se pogosto prepirali. Fanatično skrbno se je posvečal strankam in zaposlenim zagotavljal doživljenjsko delov- no mesto (kar je tradicija iz obdobja velike depresije). Njegovo vodilo je bilo spoštova- nje posameznika. Danes, ko se približuje prihodnost, v kate- ri bo umetna inteligenca posameznika naj- brž izbrisala tako kot zaposlenega kakor ustvarjalca, zgodba o IBM večinoma zveni SVET 2024 29 VELIKANI IBM U Na zidovih podjetja so bili napisana Watsonova najljubša gesla: ‚Podjetje je znano zaradi zaposlenih, ki mu jih uspe obdržati.‘ ‚Veliko časa nameni zadovoljstvu strank.‘ In ‚Razmišljaj‘, kar je za Watsona verjetno pomenilo, ‚Razmišljaj kot jaz‘. zaradi napadov depresije. Kljub očetovemu denarju ga niso sprejeli na Princeton in vod- ja vpisa je Watsonu starejšemu celo rekel, da sin ne more postati drugega kot izguba. Prav res, le kaj bi Tom Watson mlajši po- stal brez druge svetovne vojne? Ker se je navduševal nad letenjem, se je maja 1940 pridružil nacionalni gardi. Generalmajor Follet Bradley, poveljnik Prve letalske sile, ga je izbral za svojega osebnega pilota. Med vojno je Watson začel pisati dnevnik, kot bi se pri 28 letih njegovo življenje šele začelo. Po vojni se je na Bradleyjev predlog in oče- tovo zadovoljstvo vrnil v IBM. Watson starej- ši je rad govoril, da je nepotizem ugoden za posel: v podjetju, ki je delovalo kot družina, je spodbujal zaposlovanje očetov in sinov ter pričakoval, da bosta vodenje družbe prevze- la sinova Tom in njegov mlajši brat Dick. A Toma je očetovo vodenje dušilo in gnusilo se mu je klečeplazenje, za katero se mu je zde- lo, da ga še dodatno spodbuja takšen način vodenja. Pogosto in glasno sta se prepirala, tudi pred drugimi zaposlenimi. »Prekleto ven- dar, stari, me res ne moreš nikoli pustiti pri miru?« Strinjala sta se o zagotovljeni doži- vljenjski službi, pomenu službe za stranke, o tem, da morajo biti direktorja vrata vedno odprta za zaposlene, in o pasteh samovšeč- nosti. Tom Watson je bil tako kot oče politič- takšen naziv se je veliko lepše ujemal z nje- večerij' za zaposlene. Ti so bili sveže obriti in no liberalen, v obratih IBM na jugu ni dovo- govimi globalnimi ambicijami. Njegova za- vsi enako oblečeni v temne obleke, poškro- lil rasnega ločevanja in nasprotoval je lovu sluga je bila, da je IBM prevzel tehnologijo bljene bele srajce in kravate. Na dogodkih na čarovnice, ki ga je začel senator Joseph luknjanih kartic, sodobno metodo za zbira- podjetja je bil alkohol prepovedan. McCarthy. O skoraj vsem ostalem pa se nista nje podatkov, enako velja za uvedbo kulture Watson starejši je z optimizmom iskrene- strinjala, niti o smeri ključnega posla IBM. naklonjenosti in spoštovanja med sodelavci, ga vernika v času velike depresije smelo ši- Watson starejši je prepovedal izraz raču- pokroviteljstvo in kult osebnosti. Na zidovih ril poslovanje, grmadil stroje za branje po- nalnik, saj ga je skrbelo, da bo vznemiril lju- podjetja so bili napisana Watsonova najljub- datkov, zaposloval nove prodajalce in uve- di, ki so se bali, da bi nove naprave izpodri- ša gesla: 'Podjetje je znano zaradi zaposle- del jamstvo doživljenjske zaposlitve. Kot de- nile delavce. Čeprav so ga novi 'misleči stro- nih, ki mu jih uspe obdržati.' 'Veliko časa na- mokrat in podpornik predsednika Franklina ji' zanimali, ni videl smisla v elektronski hi- meni zadovoljstvu strank.' In 'Razmišljaj', kar D. Roosevelta (kar je bilo nenavadno za di- trosti in zdelo se mu je, da je skoraj nobena je za Watsona verjetno pomenilo, 'Razmišljaj rektorja) je bil v pravem trenutku na pravem družba ne potrebuje. Prav gotovo računal- kot jaz' (je ugotovil zgodovinar, specializiran mestu, da je priskrbel naprave, potrebne za nikov ni prišteval k opremi za poslovanje, za posle, Richard S. Tedlow). uresničitev zakona o socialni varnosti, ki so medtem ko je Tom dojel, kako pomembni so. Če ob teh parolah pomislite na nekda- ga sprejeli leta 1935. Ob koncu 30. let je IBM Na začetku 50. let se je oče, takrat star že nje Googlovo vodilo 'Ne bodi zloben' in tre- obvladal trg z obdelovanjem podatkov. več kot 70, začel umikati iz vsakdanjih na- nutno Alphabetovo geslo 'Stori, kar je prav', Mladi Tom je lahko neposredno opazoval log in leta 1952 je starejšega sina imeno- so to prazni odmevi vseobsegajočega vodi- tako velikopotezne načrte svojega očeta kot val za direktorja IBM. Watson starejši je ne- la IBM, ki ga je spremljala tudi obljuba za- njegove izraze prevzetnosti, na primer raz- goval patriarhalni slog in 38 vodstvenih de- gotovljenega delovnega mesta. Poleg obra- košno rezidenco na Manhattnu in predse- lavcev je poročalo neposredno njemu. Sin tov IBM so stali njegovi podeželski klubi, v dnikova pisma pohvale, ki jih je nosil v žepu. pa je uvedel organizacijsko shemo in vod- katerih so trikrat na teden postregli z večer- A veljal je za nesposobnega celo po spro- je so začeli odstranjevati fotografije Watso- jo. Ko sta Watson in njegova žena obiskova- ščenih standardih, ki so veljali za premožne na starejšega, ki so nekoč krasile vse razstav- la prostore IBM v drugih mestih, sta se ude- mladeniče tistega časa. V šoli ni bil uspešen, ne prostore prodajaln. Še pomembneje pa je leževala tudi skrbno načrtovanih 'družinskih zapletel se je v težave in po tedne je preležal bilo, da je večjo pozornost začel namenjati 30 SVET 2024 IBM VELIKANI računalnikom in istega leta je podjetje odpr- bi deloval po pričakovanjih, bi stranke IBM zasebnih raziskav in razvoja, kot je James W. lo kompleks v San Joseju, kar je bila prva ra- odšle k tekmecem. Cortada lepo razložil v svoji nedavni zgodo- čunalniška tovarna v Silicijevi dolini in razi- Ko so po več zamudah, tudi zaradi inženir- vini podjetja z naslovom IBM: The Rise and skovalna podružnica podjetja. skih in proizvodnih težav, končno dobavili li- Fall and Reinvention of a Global Icon (IBM: Družba je rasla z osupljivo hitrostjo, ena- nijo računalnikov Sistema 360, je takoj po- Vzpon, padec in preobrazba globalne ikone). ko pa tudi drznost, s katero je tvegal Watson stala prodajna uspešnica. Med letoma 1964 Pomembno vlogo so odigrali tudi inženir- mlajši. Na začetku 60. let je vse stavil na od- in 1970 je IBM zaposlil skoraj 120.000 novih ji, zaposleni v IBM, najprej, ker so pritiska- ločitev o proizvodnji serije popolnoma zdru- sodelavcev (in imel skupaj 269.000 zaposle- li na vodstvo, naj že sprevidi obete nove teh- žljivih računalnikov Sistem 360. Takrat so v nih), njegovi prihodki so se več kot podvojili nologije, in nato s preobrazbo zapletenih IBM izdelovali sedem popolnoma ločenih s 3,2 milijarde dolarjev na 7,5 milijarde, kar računskih sistemov v komercialne izdelke. sistemov z različno računsko močjo. Vsak je za tako veliko družbo skoraj neverjetno. Kupci so začeli zahtevati nove naprave. No, sistem je imel svoj notranji ustroj, zato pre- Watson mlajši je leta 1958 nehal jemati svoje zlahka bi se bilo obrnilo tudi drugače. Kljub nos podatkov med linijami računalnikov po- delniške opcije v vrednosti petkratnika letne prednosti pri računalnikih se je Remington gosto sploh ni bil mogoč. Stranke, ki so žele- plače, češ da noče ravnati pritlehno. Rand, veliki tekmec IBM v panogi tabelir- le nadgraditi računalnike, so morale tako re- Kot je ekonomist Theodore Levitt trdil leta nih strojev, raje osredotočil na električne bri- koč začeti iz nič. Sam IBM pa je pestila ne- 1960, podjetja, ki se zanašajo na neki izde- vske aparate, pisalne stroje in pisarniško po- učinkovita proizvodnja, med drugim 2.500 lek, in to velja tudi za zelo uspešna, nehote hištvo. različnih tiskanih vezij. postanejo zastarela. Hollywoodski mogot- Biografija The Greatest Capitalist Who Sistem 360 opisujejo kot enega najbolj- ci so spregledali, da njihov posel niso filmi, Ever Lived (Največji kapitalist, kar jih je žive- ših inovativnih izdelkov v ameriški zgodovi- temveč zabava, zato se jim je iz rok izmuzni- lo) tako kot vse biografije poudarja posame- ni 20. stoletja, takoj za Fordovim modelom la televizija, največja priložnost tistega ob- znike – še posebej Thomasa Watsona mlajše- T. Združljivost ogromnega števila procesor- dobja. Watson starejši je mislil, da so njegov ga – in tiste vodstvene delavce IBM, ki so v jev je bila inženirska nočna mora, za katero glavni posel luknjane kartice, njegov sin se je različnih obdobjih predstavljali njegove zau- so potrebovali na milijone vrstic računalni- zavedal, da so v resnici informacije. pnike, preroke in sovražnike. McElvenny kot škega koda. Naložbe IBM bi preračunano na Strokovnjaki večinoma le ugibajo, zakaj Watsonov vnuk ponuja poznavalsko oceno današnjo vrednost znašale 50 milijard dolar- je IBM prešel z mehanskega načina obdela- družinske dinamike, povzete iz intervjujev jev, kar je več kot dvakratna vrednost man- ve podatkov na elektronskega. Skok v nezna- hattanskega projekta. Zaradi novega raču- no je bil v enaki meri posledica tega, kako je  IBMov Sistem 360 opisujejo kot enega nalnika so vse starejše linije podjetja postale hladna vojna s Sovjetsko zvezo, sploh pa ko- najboljših inovativnih izdelkov v zastarele, kar je pomenilo, če Sistem 360 ne rejska vojna, napihnila zvezno financiranje ameriški zgodovini 20. stoletja, takoj za Fordovim modelom T. SVET 2024 31 VELIKANI IBM in zasebnih dokumentov. Še posebej izsto- pa, da so avtorji naredili korak dlje od veči- ne poznavalcev, ko so opisali sinovo navdu- šenje nad računalniki kot zavračanje očeta. Zamere so bile obojestranske, so pojasnili: ko so Watsona mlajšega leta 1955 upodobi- li na naslovnici revije Time, kar je bil trženj- ski podvig za podjetje, stari ni rekel ničesar. Tekmovalnost med njima je še naprej gnala Watsona mlajšega, celo po očetovi smrti leto dni pozneje. Lahko bi rekli, da je Watson mlajši usta- navljal novo družbo, ko je prevzel vodenje IBM, in ker se je moral dokazati, je podjetje vodil kot podjetnik, ne kot dedič. Ni se obdal s kimavci, temveč je raje imel bistre, roba- te, ostre, skoraj že neprijetne tipe, ki so ime- li realen pogled in so mu ga tudi predstavi- li. Oblikoval je sistem 'bojevitega vodenja', ki je od direktorjev in njihovih podrejenih zah- teval, da so se v primeru nesoglasja soočili pred odborom vodstvenih delavcev. Jamstvo doživljenjske zaposlitve naj bi spodbujalo od- govorno tveganje in pripomoglo k trenjem, produktivnim za družbo v hierarhiji. Ri- chard Tedlow je pripomnil, da je Watson že- lel, da bi dinamika med njim in očetom po-  IBM je danes še vedno »računalniško podjetje«, znano tudi po superračunalnikih. gnala 'metastaze' in se razširila po vsem IBM. Medtem ko je ta ojdipovski kompleks ko- upokojil leta 1974. Istega leta je Dick umrl, je vztrajal, da je to načelo treba odpraviti. ristil poslovni bilanci IBM, je usodno načel star komaj 55 let, zaradi padca po stopnicah Slabi dve leti po tistem, ko je Gerstner pre- odnos med obema Watsonoma. V slikovitem v svojem domu. vzel najvišji stolček v IBM, skoraj polovica opisu McElvennyja in Wortmana sta postala Ko je vodstvo IBM sklenilo poguben do- zaposlenih, ki je bila leta 1987 na plačilni li- Kennedyja poslovnega sveta, vključno z re- govor z Billom Gatesom, je Tom Watson sti, ni več imela službe v tem podjetju. Stara gatami na jahtah, zunajzakonskimi aferami, mlajši v Sovjetski zvezi služil kot veleposla- watsonska kultura je životarila le še kot me- s smučarskimi konci tedna s pravimi Kenne- nik predsednika Jimmyja Carterja. Watson del spomin. IBM so večkrat tožili zaradi od- dyji in psihološkimi zlomi. Zgodba o Sistemu je napisal neobičajno iskrene spomine z na- puščanja delavcev, starejših od 40 let. (Pod- 360 je bila pogubna tudi za Dicka, Tomove- slovom Father, Son & Co.(Oče, sin in d. o. o.), jetje je izjavilo, da nikoli ni sistematično dis- ga mlajšega brata. Dick Watson je bil precej ki je leta 1990 14 tednov vztrajala na sezna- kriminiralo zaposlenih zaradi starosti.) manj uporniški duh od Toma, očetu je celo mu največjih prodajnih uspešnic New York A ljudje tako in tako kmalu morda ne bodo dovolil, da ga je spremljal na poročnem po- Timesa. Takrat je bil IBM – ki ga je še vedno več pomembni. Lansko pomlad je IBM pred- tovanju. Brata sta si bila v mladosti blizu in imenoval »moje podjetje« – kot ranjen ve- stavil svoj novi izdelek z umetno inteligen- Dick je znal depresivnega Toma spraviti iz likan. V 80. so preveč vlagali v velike raču- co, Watsonx, ki ga hvalijo kot najdragoce- postelje, ko so vsi že obupali nad tem. Dick nalnike in Watsonovi nasledniki niso znali nejšo inovacijo podjetja v zadnjih letih. Zmo- je uspešno vodil mednarodno mrežo IBM in unovčiti osebnih računalnikov ter program- re olajšati kadrovanje, komentirati tenis v Tom si je želel, da bi ga brat nasledil na di- ske opreme, s čimer so zapravili velik trg z iz- Wimbledonu in še marsikaj – je stvaritev, ki rektorskem mestu. delkom za široko porabo. Ko je IBM na za- bi lahko pospešila avtomatizacijo, kot si ne A Tomova odločitev, da Dick prevzame vo- četku 90. tonil, se je Watson mlajši ponoči znamo še niti predstavljati. denje proizvodnje in inženiring Sistema 360, zbujal v solzah. Umrl je leta 1993 po kapi. Od nekdaj je Watsona starejšega bolj kot njegov tekmec za direktorski položaj, T. Vin- Lou Gerstner, direktor, ki je istega leta pre- sina skrbela možnost, da bi stroji prevze- cent Learson, pa njegovo prodajo, je prine- vzel reševanje IBM, je spoštoval Watsonov li človekovo mesto. Hkrati IBM nikoli ni vi- sla nasprotni učinek od želenega. Zamude v način vodenja, a v svojih spominih ni olep- del zgolj kot podjetje. Nekoč je oznanil: »IBM proizvodnji so se kopičile in Dick je prenehal ševal škode, ki jo je povzročilo šest desetle- ni samo organizacija ljudi, je institucija, ki prihajati v službo; širile so se govorice, da je tij pod Watsoni. Sistem reševanja sporov je bo večno živela.« Ključno za to je po njego- popival. Brata sta se komaj še pogovarjala, in spodletel in pripomogel k slabemu občutku, vem mnenju bilo, da ohrani dušo. Zagotovo ko je Tom tako rekoč odpustil Dicka, sta se ta pa k izogibanju sporom namesto k odkri- bi tako očeta kot sina osupnilo, da bo ravno povsem odtujila. Tom je leta 1970, pri svo- ti razpravi o drugih možnostih. Doživljenjsko opuščanje humanosti v resnici morda skriv- jih 56, doživel hud infarkt in se kmalu uma- zagotovljeno delovno mesto se je izjalovilo v nost večnega življenja.  knil z direktorskega stolčka, uradno pa se je občutek upravičenosti do njega in Gerstner U IBM se je fanatično skrbno posvečal strankam in zaposlenim zagotavljal doživljenjsko delovno mesto (kar je tradicija iz obdobja velike depresije). Njegovo vodilo je bilo spoštovanje posameznika. 32 SVET 2024 DOSJE AI V GOSPODARSTVU 34 SVET 2024 AII V G OSSPPODARSSTTVU DOSJJE Googlov Gemini je res potreboval popravke Če Googlovo generativno umetno inteligenco (UI) Gemini prosite, naj ustvari podobo ameriških vojakov med vojno za neodvisnost proti koncu 18. stoletja, vam bo mogoče ponudila temnopolto žensko, Azijca in Indijanko v modrem plašču Georgea Washingtona. Chris Stokel-Walker, Fast Company akšna pestrost je pošteno pojezila T nekaj ljudi, med njimi tudi Franka J. Fleminga, nekdanjega računalniške- ga inženirja in pisca za Babylon Bee. Fleming je na omrežju X objavil vrsto vse bolj nemo- gočih izmenjav z Geminijem, na primer, ko mu je naročil, naj izdela podobo svetlopoltih ljudi v položajih ali pri opravilih, kjer so zgo- dovinsko prevladovali (recimo srednjeveški vitezi). Njegovim pritožbam so se pridružili še drugi, ki trdijo, da je to raznolikost zaradi raznolikosti same, in navedli, kaj vse je naro- be s sedanjim osveščenim svetom. Kljub zgodovinskim dejstvom Fleming in njegovi razdraženi somišljeniki bijejo boj brez upanja na izboljšanje. »Ti sistemi tega ne omogočajo,« je pojasnila Olivia Guest, profesorica in asistentka za računalniške ko- gnitivne znanosti na univerz Radboud. »Pri stohastičnih sistemih ne moreš zajamčiti od- ziva oziroma vedenjskih vzorcev.« prevlado: interesa, da bi natančno predsta- je povedal. O teh vprašanjih je Hugging Face Sedanja generacija orodij generativne vili zgodovinske dogodke, in interesa, da bi že pisal. »Pristranskost je posledica izbir na umetne inteligence sodi v stohastične siste- upoštevali globalni zbir uporabnikov. vseh ravneh razvojnega procesa in najzgo- me. V neki odmevni akademski razpravi, ob- Rešitev teh temeljnih težav morda ne bo dnejše izbire imajo lahko največji vpliv – na javljeni leta 2021, so jih opisali kot sisteme, tako preprosta. Popravljanje stohastičnih sis- primer izbira temeljne tehnologije, vir po- ki ob enakih vhodnih podatkih naključno temov je zahtevnejše, kot se zdi na prvi po- datkov in koliko jih bodo uporabili,« je poja- pridejo do različnih končnih rezultatov. Rav- gled. Varnostni mehanizmi za zagotavljanje snil Jernite. no zato je generativna UI vzbudila takšno etičnih standardov so enaki za vse modele UI Boji se, da je to, čemur smo priče, posledi- pozornost javnosti: ne ponavlja vedno istega in jih je mogoče 'spodkopati', razen če bi se ca hitrih in razmeroma poceni rešitev, za ka- do onemoglosti. poslužili neusmiljenega blokiranja (Google tere se odločijo podjetja. Če podatki za uče- Strokovnjaki dvomijo tudi, da rezulta- je nekoč programski opremi za prepoznavo nje zajemajo preveč svetlopoltih ljudi, je mo- ti klepetalnega robota, kot so jih na družbe- fotografij preprečil, da bi temnopolte ljudi goče v ozadju prilagoditi ukaze, da dodaš ra- nih omrežjih predstavili jezni uporabniki, res prepoznala kot gorile, tako da preprosto ni znolikost. »Vendar to ne rešuje jedra težave,« razkrivajo celotno ozadje. »Težko je oceni- več mogla prepoznati goril.) Potem to ni sto- je dodal. ti verodostojnost vsebin, ki jih lahko vidimo hastičen sistem, kar pomeni, da izgubimo ti- Podjetja bi se namesto kozmetičnih po- na platformah, kot je X,« je pojasnila Rum- sto, zaradi česar je generativna umetna inte- pravkov morala odkrito posvetiti pristran- man Chowdhury, soustanoviteljica in direk- ligenca tako posebna. skosti in predstavitvi. Razlaganje preosta- torica neprofitne organizacije Human Intel- Ob vsem tem se postavlja zanimivo vpra- lemu svetu, kaj točno počneš za odpravlja- ligence. »So to skrbno izbrani primeri? Brez šanje, je pripomnila Chowdhuryjeva. »Res nje pristranskosti, je zahtevna naloga, saj se obsežne analize generiranja podob, ki jim je je težko definirati, ali obstaja pravilen odgo- podjetje tako izpostavi in zunanji deležniki mogoče slediti in jih razvrstiti tudi glede na vor, kakšna podoba naj se generira. Opiranje podvomijo o njegovih odločitvah ali pa pri- različne ukaze, ne moremo oceniti, ali je mo- na zgodovinsko natančnost bi lahko povzro- zadevanja označijo za nezadostna, morda del pristranski.« čilo vnovično uveljavitev izključevanja, s tem celo neiskrena,« je razložil. »Vendar je vse to Google ve za nezadovoljstvo in je v izjavi pa bi tvegali posredovanje napačnih dejstev.« nujno, saj morajo vprašanja postaviti ljudje z sporočil, da ukrepa. »Zavedamo se, da Gemi- Yacine Jernite, vodja oddelka za strojno bolj neposrednim interesom za nepristran- ni pri zgodovinskih podobah ni vedno natan- učenje in družbo v podjetju Hugging Face, skost, tisti, ki so bolj podkovani v tej temi – čen, in se trudimo, da bi to čim prej popravi- meni, da težava ni omejena samo na Gemini. sploh pa družboslovci, ki jih v tehnološkem li,« je na omrežju X pojasnil Jack Krawczyk, »To je strukturna težava, povezana s tem, da razvoju kronično primanjkuje. In, najbolj bi- produktni vodja za Googlov Bard. Pouda- kar nekaj družb razvija komercialne izdel- stveno, ljudje, ki utemeljeno ne verjamejo, ril je tudi, da je prikaz zgodovinskih dogod- ke, ne da bi zagotavljale dovolj transparen- da bo tehnologija delovala. Le tako se lahko kov prerez dveh interesov, ki se bojujeta za tnosti, ko gre za predsodke in pristranskost,« izognemo konfliktu interesov.«  SVET 2024 35 DOSJE AI V GOSPODARSTVU Vodnik po zaposlitvi v UI Vlagatelji panogo umetne inteligence (UI) zasipajo z denarjem in ta sektor zdaj lahko ponudi nekaj najbolje plačanih delovnih mest v tehnološki industriji. AJ Eckstein, Fast Company agonska podjetja na področju umet- Kakšne vrste delovnih mest sploh Lauren Saltus, kadrovica za tehnično osebje v Z ne inteligence so lani zbrala skoraj obstajajo? tem podjetju z več kot sedmimi leti izkušenj. 50 milijard dolarjev kapitala, je mo- Preden si naredite načrt, kako boste prišli Preden se zakopljete v internetne strani goče razbrati iz podatkov Crunchbasa, neka- do službe v panogi UI, morate vedeti, po ka- podjetij, kjer objavljajo prosta delovna me- tera podjetja, kot sta OpenAI in Anthropic, kšnih profilih se sploh povprašuje. sta, bi po priporočilih Saltusove morali ve- pa so sama pridobila več milijard. Lanska ra- Robert Infantino je nadzoroval zaposlova- deti, da se nekatera podjetja posvečajo raz- ziskava javnega mnenja Biz Report ugotavl- nje raziskovalcev v OpenAI in pomagal pri is- iskavam in razvoju, druga pa so osredotoče- ja, da delovna mesta, povezana z UI, iskal- kanju raziskovalcev v Amazon Web Services na na uporabo obstoječih raziskav pri kon- cem zaposlitve v povprečju nudijo 77 odstot- za področje umetne inteligence. Pravi, da so kretnih izdelkih, kar vpliva na to, kakšna kov višjo plačo kot drugi poklici in da neka- za ta področja zanimivi predvsem znanstve- delovna mesta podjetje poskuša zapolniti. tere začetne plače dosegajo tudi 450.000 do- niki in inženirji z izkušnjami z uporabnimi in »Najprej se morate vprašati, na katerem po- larjev na leto. s temeljnimi raziskavami, programski in po- dročju želite delati, saj boste tako zožili iska- A kako je v trenutnem razcvetu UI sploh datkovni inženirji za infrastrukturo, vodje nje in lažje našli organizacijo, ki vam bo pisa- mogoče priti do takšne službe? Kaj ka- tehničnih izdelkov in programov ter inženir- na na kožo.« drovniki, ki zaposlujejo strokovnjake za UI, ji za strojno opremo. sploh iščejo, saj gre za razmeroma novo po- Nekatera podjetja, na primer Runway, ki je Ne potrebujete izkušenj z umetno dročje? specializirano za uporabne raziskave, ki ob inteligenco – so pa dobrodošle Pogovarjal sem se s tremi vodji kadrovske pomoči generativne UI vzdržuje platformo za Nikita Gupta, nekdanja vodja tehnične ka- službe iz OpenAI, Uberja in Amazon Web ustvarjanje vsebin za umetnike in kreativce, drovske službe v Uberju in ustanoviteljica Ca- Services, da bi odstrl to tančico skrivnosti in sestavlja ekipe za strojno učenje in uporab- reerflow.ai, se pri iskanju in najemanju novih vam pomagal do nove zaposlitve. Povedali ne raziskave s poudarkom na računalniškem sodelavcev osredotoča na tri ključna področja: so mi tole. vidu in generativnih medijih, je pojasnila solidna izobrazba v matematiki in statistiki, 36 SVET 2024 AI V GOSPODARSTVU DOSJE obvladanje programov, ki se običajno upora- »Glavni izzivi so premalo žensk na po- Ta tehnologija se je po podjetjih bliskovito bljajo pri UI in strojnem učenju, ter dobro ra- dročju UI, pomanjkanje veščin ter znanja in razmahnila. Raziskava društva za upravlja- zumevanje algoritmov za strojno učenje. huda konkurenca za kadre med velikimi teh- nje človeških virov je pokazala, da si pri iska- Poleg konkretnih veščin in izkušenj so nološkimi podjetji,« je pojasnila Guptova. nju kadra in zaposlovanju osem desetin or- kadroviki pozorni tudi na tako imenovane Saltusova pa je povedala, da si njena ekipa ganizacij pomaga z umetno inteligenco. mehke veščine, kot sta radovednost in opti- v Runwayu ne prizadeva le za čim večjo pe- Povedano preprosto, po besedah Saltuso- mizem, je pojasnila Saltusova. Te lastnosti strost kadrovskega bazena, temveč razmišlja ve je prihodnost kadrovanja v naši zmožno- pri prosilcih preceni z vprašanji, kot so: »Ko- tudi o tem, kako podpirati raznolikost, ena- sti prilagajanja, učenja in izkoriščenja novih maj čakate, da se boste učili in rasli? S ka- kost in vključevanje v okviru njihovega mo- orodij. Trdi, da je z njimi mogoče nadgradi- kšnimi projekti se ukvarjate v prostem času? dela UI, da bi to pripomoglo tudi k čim bolj ti iskanje najprimernejših kadrov za zapol- Ste naravnani na iskanje rešitev, ko se soo- poglobljenemu prikazovanju UI v medijih. nitev potreb in da ne nadomeščajo človeške čate z izzivi?« Pojasnila je tudi, da njena eki- presoje. pa premika meje inovacij in išče ljudi, ki so Kadroviki uporabljajo uspešni v takšnem okolju. nekonvencionalne metode Tudi Infantino poskuša avtomatizirati čim več svojega rutinskega dela in uporablja šte- Infantino pa je povedal, da na splošno išče Ker je na trgu malo primerne delovne sile vilne izdelke, ki temeljijo na velikih jezikov- znamenja izjemnih sposobnosti, od zma- za delo z UI, morajo biti kadroviki zelo iznaj- nih modelih za naloge, kot so iskanje in izpe- ge na matematični olimpijadi v gimnaziji do dljivi. ljevanje podatkov ter urejanje koledarja. Za- predsedovanja filharmonikom ali celo profe- Vemo, da so željni prosilcev z izkušnjami gotovil je, da osebne interakcije s kandidati sionalnega igranja pokra. pri raziskovanju UI. Saltusova je povedala, ne izpodriva UI, saj na prvo mesto postavlja Kandidati izstopajo tudi, če lahko dokaže- da je najučinkovitejša strategija za privablja- kakovost, ne količine. jo hitro napredovanje na poklicni poti, dela- nje najboljših tovrstnih sodelavcev »uveljavi- Kadroviki, tudi Infantino, trdijo, da UI pri jo ob boku najboljšim na področju in so na tev imena njihovega podjetja v svetu raziskav iskanju primernih novincev ponuja številne najboljši konferencah oziroma v publikaci- in izdelki (ter raziskave), ki govorijo sami prednosti, na primer hitrejše zaposlovanje, jah objavili izjemno odmevne razprave, je zase. To pomeni večji poudarek na objavlja- manjši vpliv predsodkov, nižje stroške, kako- še dodal. Infantino te lastnosti enači s »str- nju in sodelovanju v panogi.« vostnejši izbor, dostop do kadrov v tujini, kar mo krivuljo navzgor«, kar pomeni, da kan- didat za delovno mesto kaže ambicije, gra- di nekaj pomembnega, je pripravljen tvega- ti in tako spremeniti smer svoje panoge ozi- U Prihodnost kadrovanja je v zmožnosti roma podjetja. prilagajanja, učenja in izkoriščenja Povpraševanje po najboljših in novih orodij. najobetavnejših se hitro povečuje Medtem ko v drugih panogah delavce od- Podjetja uvajajo posebne programe, da bi vse izboljša tudi izkušnjo iskanja novega de- puščajo, se delovnih mest, povezanih z UI, privabila in izobrazila primerne kadre. Run- lovnega mesta in preverjenega delodajalca. odpira več, kot je primernih strokovnjakov. way tako ponuja pospeševalni program – so- »Zadnjih nekaj let se je povpraševanje po delovanje v polno plačanem programu, da Nasveti kadrovikov za prodor strokovnjakih za UI občutno povečalo in po- ljudem z različno izobrazbo in izkušnjami ob v panogo UI staja tudi vse bolj specifično,« je komentira- podpori mentorja olajšajo prehod na delov- Zdaj ko veste, kakšna je vloga UI in kako la Guptova. »Ženejo pa ga napredek tehno- na mesta, povezana s strojnim učenjem. kadroviki iščejo primerne sodelavce, lah- logije, vse širša uporaba UI v različnih pano- Saltusova je poudarila, da se modeli UI raz- ko naštejemo še najučinkovitejše zvijače za gah in prepoznavanje vrednosti, ki jo UI lah- vijajo zelo hitro, in njena ekipa je prepričana, uspešen prodor v ta ekskluzivni segment za- ko ima za posel.« da so močne tehnične veščine, zmožnost hi- poslovanja. Nikita Gupta opaža tri glavne trende pri trega učenja in pogum za soočenje z neznani- Saltusova priporoča aktivno vlogo v sku- povpraševanju po strokovnjakih za UI: šte- mi izzivi in tehnologijami veliko pomembnejši pnosti. Med najpomembnejšimi razlogi, da se vilo objavljenih delovnih mest, povezanih z od formalne izobrazbe s tega področja. je panoga UI razvila tako hitro, je njena odpr- UI, narašča v skoraj vseh panogah, tekmo- Kadroviki bi morali vložiti čas v učenje in tost pri raziskavah. Tisti, ki sodelujejo v raz- valnost med podjetji, da bi pritegnila in ob- vsaj temeljno razumevanje tehnologije, pre- pravah, s katerimi se poglablja naše pozna- držala najboljše strokovnjake, je vse izrazitej- den začnejo iskati primerne nove sodelavce, vanje tehnologije in njenih dosežkov, so tudi ša in pojavila so se že specializirana delovna je izpostavil Infantino. »Priporočam, da so prvi, s katerimi bi se ona rada pogovorila. mesta v zvezi z UI (na primer etika uporabe na tekočem s hitrimi spremembami pri naj- Infantino kandidatom svetuje, naj se vklju- UI, njena varnost, infrastruktura in produk- novejših tehnologijah prek platforme X in čijo v tovrstne projekte in sodelovanje zunaj tni menedžment). tehničnih medijev, nato pa s te odskočne de- delovnega časa, če jim trenutno delovno me- Boj za najobetavnejše kadre se še bolj raz- ske brskajo nazaj, kdo stoji za novostmi. Se- sto ne omogoča delati z najnovejšo tehnolo- vnema, ker se za dobro usposobljene pozna- znaniti bi se morali z analizo citiranja in me- gijo. Mreženje in sklepanje navez na podro- valce UI potegujejo od tehnoloških velikanov todami ocenjevanja profilov ter razprav raz- čju UI morata biti načrtna, tako da se redno in zagonskih podjetij do raziskovalnih usta- iskovalcev, pri čemer si lahko pomagajo s udeležujete konferenc, dejavno prispevate k nov in drugih organizacij. Mamijo jih s kon- platformami, kot so Google Scholar, Ami- najbolj razširjenim repozitorijem računalni- kurenčnimi plačami, z bonusi in ugodnostmi. ner, Hugging Face in Github. Tako bodo ka- ških kod in hodite na srečanja, je dodal. dre našli prek njihovega konkretnega dela.« Po Infantinovih besedah za vsa delovna Izzivi, ki jih prinaša razcvet UI mesta, tudi zunaj sektorja UI, velja, da morajo Kadroviki so mi povedali, da se zaradi ve- Kadroviki delovna mesta, povezana čjega povpraševanja po poznavalcih UI odpi- z UI, zapolnjujejo s podporo UI kandidati ravnati strateško in izkoristiti vsako priložnost za razkazovanje svojih veščin pred rajo novi izzivi, vključno s premajhno razno- Iskalci zaposlitve se morajo zavedati, da najuglednejšimi predstavniki področja. Nji- likostjo in premalo primernega vodstvenega kadroviki uporabljajo UI za zapolnitev de- hov podpis na projektu vas lahko pri iskanju kadra. lovnih mest v zvezi z UI. novega delovnega mesta daleč pripelje.  SVET 2024 37 DOSJE AI V GOSPODARSTVU Kako bo generator filmov Sora pretresel svet. Ali pa tudi ne. Po letu dni hitre razvojne poti ChatGPT, ki ga je javnost spoznala predlansko jesen, se mnogim zdi, da umetna inteligenca ne more več šokirati. A sredi februarja je prišla demo različica Sore, modela, ki besedilo pretvarja v posnetek in v hipu izdela žive, realistične prizore na podlagi zapletenih ukazov. Joe Berkowitz, Fast Company ora je presunila je gledalce po vsem resnično,« je na podelitvi nagrad združenja človeškosti. Vsaj tako so upali, preden jim je S svetu, še posebej v Hollywoodu. Fil- Screen Actors Guild 24. februarja potožil Fran pred oči prišla Sora. mski ustvarjalec Tyler Perry, na pri- Drescher, predsednik Sag-Aftra. »Če izumi- Najnovejša ponudba podjetja OpenAI je mer, je bil tako pretresen, da je sklenil poča- telju manjka sočutja in duhovnosti, morda naprednejša od vseh podobnih izdelkov do- kati z 800 milijonov dolarjev vredno širitvi- ne potrebujemo njegovega izuma.« slej, na primer Gen-2 podjetja Runway. Po tr- jo svojega studia v Atlanti. Zakaj bi se trudil s Drescher je večino lanskega leta preživel ditvah OpenAI model Sora, poimenovan po sceno, če pa jo računalniški program nasnuje na pogajanjih o novi pogodbi za združenje japonski besedi za nebo, v katerokoli izmi- s pritiskom na tipkovnico. SAG, na katerih se je umetna inteligenca po- šljeni prizor lahko doda več izdelanih juna- A vsi v industriji zabave naskoka umetne kazala kot osrednja sporna točka, enako kot kov, dinamične premike in srhljivo natanč- inteligence (UI) na to panogo ne pozdravlja- ob hkratni stavki scenaristov. Igralcem ni ne ter zelo razločne podrobnosti. Njen ve- jo z odprtimi rokami. Skupina prvovrstnih všeč, da bi v prihodnosti brez njihovega do- ter piha kot pravi, njena voda teče in se peni scenaristov – vključno z avtorico scenarija voljenja uporabili njihove umetno generira- in vse, česar se elementi dotaknejo, se ustre- za M3GAN Akelo Cooper in avtorjem Iron ne dvojnike, scenaristi pa nočejo dopolnje- zno odzove. Na spletni strani Soro opisuje- Mana 3 Shanom Blackom – je 27. februarja vati in nadgrajevati zgodb, ki bi jih zasno- jo: »Model ne razume le tega, česar ga prosi predstavila tehnološko platformo Gauntlet, vali algoritmi. Obe združenji imata še druge uporabnik v ukazu, temveč tudi, kaj se s tem ki so jo razvili skupaj. Njen cilj je doseči, da skrbi. Na koncu sta si obe zagotovili predpi- dogaja v fizičnem svetu. Za nameček njena ljudje ostanejo v osrčju razvoja, zdaj ko se vsi se, kako se bo umetna inteligenca uporablja- maksimalna dolžina 60 sekund daleč preka- pomembni odločevalci pri ocenjevanju sce- la na teh dveh področjih, čeprav se že ogla- ša Runwayev čas od štirih do 18 sekund. Če- narijev opirajo na umetnointeligenčna orod- šajo kritiki, da so ti predpisi preblagi. prav nekateri ambiciozni scenaristi že uspe- ja. To je le eden v vrsti izrazov mnenja šte- Agencija za iskanje novih igralcev WME se šno eksperimentirajo s platformami, kot je vilnih v Hollywoodu, da je človeški element je pred kratkim povezala s podjetjem za UI Midjourney, da bi ustvarili kratke odlomke, ustvarjalnosti nepogrešljiv in neponovljiv, Vermillio, ker želi dodatno zavarovati svoj model OpenAI obeta, da bo odprl svet doda- zato ga je treba za vsako ceno ohraniti. zbir strank pred neavtorizirano uporabo nji- tnih možnosti.« »Umetna inteligenca nas bo stisnila v hovih obrazov. Mogoče bodo sledile še druge Sorine najpomembnejše posledice za matrico, v kateri nihče ne bo vedel, kaj je varovalke in bo Hollywood ohranil več svoje filmsko in televizijsko industrijo presegajo 38 SVET 2024 AI V GOSPODARSTVU DOSJE U Filmski ustvarjalec Tyler Perry je bil tako pretresen, da je sklenil počakati z 800 milijonov dolarjev vredno širitvijo svojega studia v Atlanti. Zakaj bi se trudil s sceno, če pa jo računalniški program nasnuje s pritiskom na tipkovnico. trenutno zmožnost, da hitro ustvari 'čedno žensko v Tokiu'. Očitno omogoča tudi vsta- vljanje enega posnetka v drugega, kar pome- ni, da uporabniki lahko v simulirane sveto- ve vključijo vse, kar so posneli v resničnem svetu. Model zaradi prožnosti pri vzorčenju omogoča tudi, da isti ukaz vidijo z drugega zornega kota, kot nekakšen digitalni panop- tikum. Glede na takšne dosežke ima Tyler Perry prav, saj sluti možnosti za varčevanje pri proračunu, ki jih odpira Sora. Z njo je mogoče znižati stroške produkcije ne le za- radi posebnih učinkov in predhodne vizua- lizacije, temveč tudi pri sekundarnih nalo- gah, kot je snemanje ustanovitvenih in glav- nih posnetkov. Seveda bo vse to zniževanje stroškov pov- zročilo, da bo veliko ljudi izgubilo službo. Poleg vprašanj, o katerih so se lani pogaja- li igralci in scenaristi, se poznavalci razmer v Hollywoodu bojijo, da bo revolucija zaradi UI izrinila tudi umetnike vizualnih učinkov, zvočne tehnike in številne druge. Po ocenah novejše raziskave med 300 direktorji in šefi v industriji zabave je v prihodnjih treh letih pričakovati izgubo skoraj 204.000 delovnih mest. Po predstavitvi Sore so zaposleni in umetniki v tej panogi še bolj prestrašeni, pa tehnologija sploh še ni na voljo širši javnosti. Nihče ne ve, koliko se bo Sora še spreme- nila do uradne uvedbe na trgu. V OpenAI tr- dijo, da njihovi inženirji trenutno sodelujejo s politiki, z učitelji in umetniki z vsega sve- ta, da bi razumeli njihove pomisleke in pre- poznali vse mogoče koristne možnosti upo-  Dva primera iz video "posnetkov", ki jih je ustvarila Sora. rabe za to novo tehnologijo. Morda bo nekaj njenih zmogljivosti sčasoma, ko bo na voljo vsem, omejenih ali pa bodo njene napake in naj posname čuden in smešen film o vzpo- ali si zna izmisliti zgodbe, ki takšna občute- nenatančnosti postale vpadljive šele, ko bo nu in padcu blackberryja – ob predpostav- nja vzbudijo tudi pri gledalcih? dostop dobilo na milijone uporabnikov. Če- ki, da bo nekoč znala posneti videe, daljše od Četudi so nekateri pomisleki o kakovosti tudi se bo izkazala tako enkratno, kot na- 60 sekund –, kakšne so možnosti, da bi mo- filmov, generiranih z UI, upravičeni, je pov- kazuje demo različica, in bo oklestila toliko del izbral enake dialoge, tempo zgodbe in praševanje po njih za zdaj mlačno. Po ne- tehničnih delovnih mest, raje ne računajte, razvijanje glavnih igralcev kot v lanski čuda- davni raziskavi Morning Consulta, pri ka- da bo Sora demokratizirala zabavo. ško kritični filmski uspešnici o prvem pame- teri je sodelovalo 2.201 odraslih Američa- Ko se bo ta tehnologija razvijala, se ute- tnem telefonu? Kako bi upodobila svet, tako nov, gledalce še vedno dvakrat bolj zanima- gne že kmalu zgoditi, da si bo Sora izmisli- poseben kot v lanski filmski komediji Poletni jo filmi in televizijske oddaje, ki jih v celo- la celovečerno grozljivko v slogu Jordana Pe- kamp, ne da bi ji pomagale življenjske izku- ti ustvarijo ljudje kot izdelki UI. In to še pre- eleja, vendar to ne pomeni, da bodo tovrstni šnje ekipe piscev in režiserja? den jih je občinstvo sploh imelo priložnost ukazi prinesli nekaj, kar bi si morali ogledati, Kinematografska čarovnija, ki jo občuti videti, če odštejemo lanske nerodne epizo- razen seveda kot zanimivo novost. Ko bodo večina gledalcev, je dosežek sodelovanja šte- de South Parka, ki jih je pripravila umetna ljudje dobili orodje, s katerim bodo lahko na- vilčne ekipe z vizionarjem na čelu. Nastane inteligenca. redili vse, kar bi radi videli, bodo ugotovili po izločanju in nadgrajevanju celega kupa Če bo zdaj, ko smo seznanjeni z demo raz- tudi, kako zahtevno je posneti film ali pred- osnutkov scenarija, spontanosti in svežega ličico Sore, katero od hollywoodskih velikih stavo, ki bi bila zanimiva še komu – kaj šele navdiha v montaži. Če aplikacija zna gene- imen začelo razmišljati o projektih, generi- nekaj, kar bi vsi radi videli. rirati čedno žensko v Tokiu, to še ne pome- ranih z umetno inteligenco, potem bi ta mo- Zmožnost izpolnjevanja ukazov ne pome- ni, da zna narediti lep film o ženski iz Tokia. goče prej morala nadomestiti katerega od še- ni nujno zmožnosti, da dosegamo pričako- Morda zmore prikazati začudenje animirane fov, kot se je pred kratkim pridušal igralec, vano kakovost. Če bi uporabnik prosil Soro, pošasti na Pixarjevi kakovostni ravni, toda producent in scenarist Joel Kim Booster.  SVET 2024 39 DOSJE AI V GOSPODARSTVU Kakšen je donos naložbe v generativno umetno inteligenco V informacijsko-tehnološkem sektorju delam več kot 25 let in doživel sem razcvet internetnih podjetij, vzpon pametnega telefona in nenaden prehod na hibridno delo oziroma na delo od doma zaradi pandemije. A kar zdaj prinaša revolucija zaradi generativne umetne inteligence (UI), je nekaj čisto drugega od dosedanjih izkušenj. David McCurdy, Fast Company Insightu, podjetju za povezovan- potrjujejo tudi raziskave ameriškega podje- s poskusi in sprotnim učenjem, številni po- V je rešitev in sistemov, že poldru- tja za tržne raziskave Harris Poll, ki kažejo, da slovneži postavljajo enaka vprašanja. go leto raziskujemo nove možnos- 74 odstotkov poslovnih vodij uporablja gene- Vse je osredotočeno na donos naložbe in ti, odkar je OpenAI javnosti omogočil upo- rativno umetno inteligenco za analizo podat- po naših raziskavah skoraj dve tretjini upo- rabo ChatGPT in pretresel tako upravne od- kov, 66 odstotkov kot pomočnika pri opravi- rabnikov navajata, da so za to zadolžili svoj bore kot celotne panoge, od proizvodnje in lih, 63 odstotkov pa si jih z njo pomaga pri pi- oddelek. zdravstva do akademskih krogov. OpenAI sanju poročil in predstavitev. A tehnologija se spreminja tako hitro, da je je tudi poročal, da kar 92 odstotkov podje- Tehnološka panoga je trenutno žejna po- ocenjevanje sedanje in prihodnje donosnosti tij na seznamu 500 največjih, ki ga sestavl- datkov. Večina podjetij, s katerimi sodeluje- izjemno zahtevno. V nadaljevanju je opisanih ja revija Forbes, tako ali drugače uporablja mo pri uporabi novih digitalnih rešitev, to z nekaj načinov, kako poslovni vodje preverijo, njegovo platformo. A še vedno ostaja veli- generativno UI še vedno počne poskusno. kaj deluje med uvajanjem njihove generativne ko vprašanj. Mogoče načine uporabe še vedno odkrivajo UI in, kar je mogoče še pomembnejše, kaj ne. Po naših raziskavah je 90 odstotkov poslov- nežev prepričanih, da bo generativna umetna inteligenca nadgradila širok razpon funkcij in U Ugotovite, kako generativna UI lahko nalog, kar pomeni, da bi ta tehnologija lahko koristila skoraj vsem ljudem in opravilom. To pomaga pri konkretnih poslovnih izzivih. 40 SVET 2024 AI V GOSPODARSTVU DOSJE Trdno sem prepričan, da se je ne glede na panogo treba vprašati, zakaj uvesti in upo- rabljati generativno UI. Katere težave lahko premagamo z njo? Kaj je razlog za uporabo te tehnologije kot najboljše rešitve (oziroma zakaj je naložba v generativno UI pomemb- na za dosego naših ciljev)? Kljub zmogljivostim – od analize podatkov in zasnove izdelka do besedil in personalizi- ranih klepetalnih robotov – generativna UI ni univerzalna rešitev za vse težave. In prav gotovo ni brez napak. Obstoječa digitalna orodja, odvisno od poslovnega izziva, resda učinkoviteje rešijo nekatere težave. Oziroma še verjetneje je, da bo nujna povezava velikih jezikovnih modelov z drugimi tehnologija- mi (bolj tradicionalnimi modeli UI in s stroj- nim učenjem), sicer njena uvedba ne bo pri- pomogla k smiselni uporabi v vsem podjetju. Na nas se nenehno obračajo stranke, ki potrebujejo pomoč pri uvajanju napredne analitike v lastne podatkovne zbirke. Ge- nerativna UI lahko opravi napredno anali- tiko, vendar je omejena glede podatkov, ki jih zmore predelati hkrati. Za velike količine podatkov in repozitorije so veliko primernej- U 74 odstotkov poslovnih vodij uporablja še druge tehnologije, pomagajo pa tudi pri generativno umetno inteligenco za razdeljevanju pravih podatkov pravim upo- rabnikom, s čimer se izognemo halucinaci- analizo podatkov, 66 odstotkov kot jam UI. pomočnika pri opravilih, 63 odstotkov pa Pred odločitvijo za najprimernejšo tehno- logijo je treba torej oceniti količino in zahtev- si jih z njo pomaga pri pisanju poročil in nost podatkov. Za manjše in preprostejše po- datkovne zbirke bi bila idealna generativna predstavitev. UI. Če se zavedate njenih omejitev in izbere- te ustrezno tehnologijo, podjetju zagotovi- pogodb. V tem primeru donosnost naložbe ponavljajoče se naloge, s čimer prihrani čas te učinkovito analizo in mu s tem pomaga- v orodje preračunamo glede na čas, energi- in denar. Vgraditi ga je mogoče tudi v dru- te sprejemati pretehtane poslovne odločitve. jo in vire, ki jih tehnologija prihrani zaposle- ge tehnologije za večjo učinkovitost, na pri- Pri generativni UI se mi najbolj vznemirlji- nim. Ni bilo težko dokazati, da se naložba v mer v robotsko avtomatizacijo delovnih pro- va zdi njena lastnost, da izboljša produktiv- orodje izplača, zato so se tudi naše stranke cesov in razumevanje naravnega jezika. De- nost, ker so postopki so z njo učinkovitejši, odločile, da uvedejo svojo različico. lovni procesi se tako prečistijo, splošna učin- saj pogosto pripomore k preobrazbi in osve- Ne gre za nadomeščanje ljudi, saj so ti še kovitost podjetja in drugih organizacij pa se žitvi delovnega procesa. vedno ključni ne glede na nalogo. Dodati izboljša, kar prinaša stokrat večjo vrednost Večina vodstvenih delavcev si postavlja moram, da bi koncept »odstranjevanja po- od uporabe na vidni ravni. vprašanja, kot so: srednika« lahko predstavljal prelomno spre- Poleg tega se bo vmesnik, kot ga pozna- • Kako generativna UI mojim podrejenim membo tako za zaposlene kot stranke – in mo danes, v prihodnosti nedvomno spremi- prihrani čas pri banalnih nalogah? bi bil koristen dejavnik pri presojanju dono- njal. Ljudem bo pomagal doseči, kar jim je • Kako generativna UI pripomore k boljši snosti. bilo nekoč nedosegljivo. Ravno na to bi lju- storitvi za stranke? Vse bolj je razširjena nekakšna naveliča- dje morali postati pozornejši in prav na tem • Kako nam generativna UI pomaga pri- nost; odločevalce lahko premaga malodušje področju se lahko nadejamo največje dono- praviti novo ponudbo, kot pred letom in ne morejo nadaljevati pobud za preobraz- snosti naložbe. dni še ni bilo mogoče? bo, saj so možnosti za uporabo neskončne, Zdaj smo šele na začetku te poti in poten- V nedavni raziskavi massachusetskega sama tehnologija pa se prehitro spreminja. ciali so v veliki meri še neizkoriščeni. Ve- tehnološkega inštituta so ugotovili, da so za- Katero pot izbrati, če greste lahko v skoraj čina podjetij dejansko ne zmore niti okvir- posleni ob pomoči klepetalnih robotov kot vse smeri, vaši viri za naložbe pa so omejeni? no predvideti čiste donosnosti naložbe, ki jo asistentov kar za štiri desetine skrajšali čas Generativna tehnologija ni statična, ne- bo nekoč omogočila generativna UI. A tega za nekatera opravila, kot sta pisanje spre- nehno se uči in razvija. Tega se je treba za- ne vidim kot ovire, temveč poslovne vodite- mnih pisem in uvidevnih elektronskih spo- vedati, sploh ker bi nas lahko zavedel pogo- lje spodbujam, naj ta prazni prostor dojema- ročil ter sestavljanje analiz o stroških in ko- vorni, intuitivni tip klepetalnega vmesnika, jo kot priložnost za ustvarjalno odkrivanje in ristih. Tudi v Insightu ugotavljamo podobne kot ga lahko spoznamo v orodjih, podobnih iskanje novih načinov uporabe, kot si jih niso rezultate. GPT. Meni se zdi bolj vznemirljivo tisto, kar znali niti predstavljati.  Primer je podatkovna zbirka, ki jo poganja dejansko poganja ta vmesnik. generativna UI in predeluje na tisoče pogodb Ker nista več nujna ročno vnašanje in so- David McCurdy je vodja strokovnjakov za s strankami. Tako zaposleni občutno skrajša- delovanje, orodje GPT z naprednimi zmo- arhitekturo podjetij in tehnologijo v Insight jo čas, ki so ga sicer porabili za branje dolgih gljivostmi UI pomaga avtomatizirati Enterprises. SVET 2024 41 DOSJE AI V GOSPODARSTVU Kaj je inženir kozmične resničnosti? Novo Amazonovo poročilo o delovnih mestih, povezanih z umetno inteligenco, je odškrnilo okno v prihodnost dela A. J. Hess, Fast Company edtem ko po trgu z delovno silo po- »Podjetje se zaveda, da so inovacije nenehne, »Domnevamo, da bo znanje o UI olajšalo M meta val odpuščanja, tiste, ki še in ko iščemo načine za ugoden vpliv na sku- poklicno pot,« je izjavil Reinoso. »Računalni- imajo službo, skrbi, da jih bo nado- pnost, ji želimo prenesti ravno to zavedanje, ško izobraževanje se je dolgo časa osredoto- mestila umetna inteligenca (UI). In to ute- da danes šele slutimo, kakšne bodo poklicne čalo na razvijanje.« Danes poudarek ni več le meljeno. Na svetovnem gospodarskem fo- poti prihodnosti, vendar bodo tudi zanje nuj- na računalniškem programiranju. »Trenutka rumu so lani ocenili, da kar tri četrt podje- ne temeljne veščine in pismenosti.« točka preloma z UI in s tehnologijo nasploh tij dejavno razmišlja o uvedbi tehnologij, kot Reinoso je med drugim zadolžen za nad- izpostavlja, da ni pomembno, za kakšen po- so velike podatkovne zbirke, računalništvo v zor nad pobudami za najmlajše, s katerimi klic se boste odločili, temveč bo pomemb- oblaku in umetna inteligenca, in da bo zara- naj bi otrokom in mladostnikom iz neprivi- na osnovna uporaba UI in tehnologije. Zato di avtomatizacije do leta 2027 ukinjenih 26 legiranih okolij olajšali dostop do računal- se trudimo poiskati načine, kako otrokom milijonov delovnih mest. niškega opismenjevanja. Novembra lani je predstaviti, da programiranje ni edini način Poslovneži z velikimi naložbami v UI stra- Amazon napovedal novo pobudo, imeno- za dobro znanje računalništva oziroma edi- hove zaradi nove tehnologije pogosto posku- vano AI Ready (Pripravljeni na UI), ki obeta, ni način za praktično uporabo tega znanja.« šajo pomiriti z argumentom, da bo ta pripo- da bo do leta 2025 dvema milijonoma ljudi Podatki kažejo, da se spremembe že kažejo mogla k odpiranju novih delovnih mest in ne ponudila brezplačno izobraževanje o ume- na delovnih mestih. Medtem ko je programi- bo le zapirala starih. tni inteligenci in drugih veščinah. Pozneje ranje nekoč veljalo za najzanesljivejšo in naj- Najbrž ni presenečenje, da se s tem strinja je Reinosova ekipa objavila tudi, da po nje- bolje plačano delovno mesto, so ravno razvi- tudi Victor Reinoso, globalni direktor filan- ni novi raziskavi več kot šest desetin učite- jalci programe opreme predstavljali glavnino tropije za izobraževanje pri Amazonu: »Ko ljev meni, da bodo za njihove učence vešči- lanskega vala odpuščanja. je nastal Amazon, profili, kot jih zaposluje- ne, povezane z UI, nujne za dobro plačana Poleg tega lansko poročilo PwC in Svetov- mo danes, sploh niso obstajali,« je pojasnil. delovna mesta. nega gospodarskega foruma opozarja, da bi 42 SVET 2024 AI V GOSPODARSTVU DOSJE zaradi pomanjkanja kandidatov s primerni- mi veščinami za poklice prihodnosti do leta 2030 lahko ostalo praznih kar okoli 85 mi- lijonov delovnih mest – zaradi tega bi go- spodarstvo lahko bilo ob 8,5 bilijona letne- ga prihodka. Če ti podatki držijo, bi bilo pa- metno, da podjetja, kot je Amazon, vlaga- jo v dodatno izobraževanje in usposablja- nje mladine, ki bo kmalu prišla na trg delov- ne sile. Amazon je objavil tudi poročilo futurist- ke Tracey Follows, ki napoveduje, katera de- lovna mesta, povezana z UI, se napoveduje- jo. Followsova in Amazon sta ugotovila, da bodo med profili prihodnosti analitik pre- ciznega kmetijstva, producent virtualnega turizma, specialist za restavriranje, inženir kozmične resničnosti in umetnointeligenčni zdravstveni tehnik. Tu je opis petih profilov, ki temeljijo na UI in za katere Amazon pričakuje, da bodo za- želeni v prihodnosti.  Analitik preciznega kmetijstva. Kme- tijstvo postaja vse bolj tehnična znanost in analitiki, ki so usposobljeni tudi za delo z UI, bodo to panogo še občutneje spremenili, po- večali donose, a hkrati učinkovito porablja- U Med profili prihodnosti bodo analitik li vire za proizvodnjo hrane. Modeli UI bodo preciznega kmetijstva, producent analitikom pomagali napovedovati in ome- jevati vpliv podnebnih sprememb, saj bodo virtualnega turizma, specialist za izbrali najprimernejše pridelke in dodeljevali restavriranje, inženir kozmične vire, kot so voda in umetna gnojila. Umetna inteligenca bo integrirana z roboti, ki znajo resničnosti in umetnointeligenčni saditi in žeti, hkrati pa v realnem času spre- mljati rast pridelka. zdravstveni tehnik.  Producent virtualnega turizma. Pred- celotnih galaksij. Z globokim razumevanjem bo revolucija zaradi UI oziroma razvoj upo- stavljajte si, da načrtujete poletne počitnice astrofizike, kozmologije in astronomije bo z rabnikom prijaznih velikih jezikovnih mode- in si lahko privoščite predogled z virtualno UI generirane podatke postavil v kontekst in lov, kot je ChatGPT, pripomogla, da bo širok resničnostjo. Producenti virtualnega turizma povzetek prenesel v vizualno osupljive simu- krog delavcev – tudi tisti, ki ne delajo v teh- bodo poskrbeli za izkušnje potopljene virtu- lacije, s katerimi se bodo drugi lahko učili o nološki panogi – uporabljal avtomatizirana alne resničnosti ob pomoči UI in stranki raz- vesolju. orodja. V nedavnem poročilu McKinseyja so kazali potovalne cilje ter aktivnosti. Urejali in se izrazili tako: »Generativna umetna inteli- dopolnjevali bodo virtualno resnično vsebi-  Umetnointeligenčni zdravstveni teh- genca pospešuje avtomatizacijo in vzposta- no, izpostavili najnovejše novice in kulturno nik. Umetna inteligenca bo igrala pomemb- vlja povsem nov izbor poklicev. Na delovna dogajanje v različnih predelih. Sklepali bodo no vlogo kot pomočnica zdravstvenim tehni- mesta, ki jih opisujeta Amazon in Follows, partnerstva s turističnimi organizacijami za kom in drugim zdravstvenim delavcem pri bomo morali še počakati, vendar podjetja, trženje potovalnih izkušenj. diagnozi, spremljanju življenjskih znakov, kot je Amazon, že izkoriščajo UI in ukinja- sledenju zdravilom in načrtih za okrevanje jo nekatera opravila, ki se zdijo idealni kan-  Specialist za rokodelsko restavriran- bolnikov. Od dobrega zdravstvenega tehni- didati za to, le da se vse skupaj dogaja manj je. Mojstri, specializirani za restavriranje, ka se že od nekdaj pričakujejo dobre komu- spektakularno. Lani je v skladiščih uvedel bodo izkoristili napredne sisteme UI za po- nikacijske veščine in zanesljivo poznavan- nove robotske roke, sortirne naprave poga- pravila in obnovo luksuznih izdelkov, od vi- je medicine. Zdravstveni tehniki prihodnos- nja UI. Takrat je podjetje poudarjalo varno- soke mode do starinskega pohištva. Ti spe- ti pa bodo poznali orodja UI, da si bodo znali stni vidik za delavce, vendar je glavni namen cialisti bodo z UI prepoznali prvotne mate- razložiti vpogled, kot ga omogoča UI, in za- avtomatiziranega robotskega sistema pove- riale in jih poiskali, nato pa ocenili najučin- pletene analize v zvezi z diagnozo in zdravl- čati produktivnost in skrajšati dobavni rok, kovitejšo tehniko restavriranja za ohranitev jenjem zmogli prenesti v jezik, ki ga bodo ra- s čimer bi čas izpolnitve naročila skrajšali za izvirne estetike, zgodovinskega pomena in zumeli tudi bolniki. četrtino, zaloge pa obrnili 75 odstotkov hi- vrednosti konkretnega predmeta. treje kot doslej.« Iz teh novih vlog lahko izluščimo, da te- Reinoso je na vprašanje o strahovih de-  Inženir kozmične resničnosti. Stro- meljijo na manj tehničnih poklicih, kot ob- lavcev, ko spremljajo, kako UI opravlja delo, kovnjak na področju medzvezdnih študij bo stajajo trenutno, in so prilagojene za upo- ki so ga nekoč oni, odgovoril sočutno, sko- ob pomoči človeške domišljije in naprednih rabo UI, da bi izboljšale učinkovitost, vsebi- raj filozofsko: »Naše izkušnje so takšne, da veščin UI vizualiziral oddaljene in včasih ne- ne in materiale ter tudi analizirale podatke. neznano prinaša negotovost, negotovost pa vidne dele vesolja, od zvezd in planetov do Strokovnjaki najpogosteje napovedujejo, da včasih človeka spravlja v stisko.«  SVET 2024 43 DOSJE UMETNA INTELIGENCA 44 SVET 2024 UMEETTNA I INTTEELLIIGEENCCA DOSJJE Strojno pozabljanje Na spletu objavljam že več kot dve desetletji. Kot najstnik sem za seboj pustil kup blogov in objav na družbenih omrežjih, od banalnih do takih, ki me danes spravljajo v zadrego. Zdaj pa kot novinar med drugim pišem zgodbe o družbenih omrežjih, zasebnosti in umetni inteligenci (UI). Ko mi je torej ChatGPT povedal, da moje pisanje nemara vpliva na njegove odgovore drugim uporabnikom, sem se jadrno namenil zbrisati svoje podatke iz njegovega spomina. A kot sem kmalu ugotovil, gumb za brisanje ne obstaja. Shubham Agarwal, New Scientist lepetalni roboti, ki delujejo na podatkov, zato sploh ne bi bilo preprosto do- Še bolj pereče pa je, da so klepetalni robo- K podlagi umetne inteligence in so jih seči, da bi nekatere podatke zbrisali s svo- ti ranljivi za napade, v katerih so informa- učili s podatkovnimi zbirkami, vkl- jega seznama znanja – pri iskalnikih, reci- cije skrite v podatkih za učenje, in tako mo- jučno z ogromnim številom spletnih strani in mo Googlu, je to preprosto. Prav tako posa- del pripravijo do nepredvidenega obnašan- člankov, nikoli ne pozabijo, kar so se naučili. meznik ne more preveriti, kaj točno aplikaci- ja. Strokovnjaki za varnost so dokazali, da To pomeni, da stvaritve, sorodne Chat- ja z UI ve o njem, je pojasnil David Zhang, ra- je s tehniko, imenovano posredno vstavljan- GPT, razkrivajo občutljive osebne podatke, ziskovalec UI in inženir v avstralski državni je ukazov, mogoče doseči, da klepetalni ro- če so se ti pojavili kje na spletu, in da se bodo znanstveni agenciji Csiro. bot na daljavo zažene kode na uporabniko- podjetja, ki stojijo za temi modeli UI, morala Hekerji lahko klepetalne robote prelisičijo, vem računalniku ali ga prosi za podrobnos- pošteno potruditi za uresničevanje zakonov da delujejo drugače, kot so si zamislili njiho- ti o bančnem računu. Britanska obveščeval- v zvezi s 'pravico do pozabljenja', po katerih vi snovalci. S tem nastanejo velike težave z na agencija GCHQ, je opozorila na to težavo, morajo podjetja na zahtevo uporabnika od- varovanjem zasebnosti, kot so Zhang in nje- saj se bo v prihodnje še stopnjevala. straniti njegove osebne podatke. A hkrati to govi kolegi potrdili v nedavni raziskavi. Z njo Glede na vse tveganje pa je dobra novica, pomeni, da smo brez moči, ko bi bilo treba so osvetlili, kako težko bodo podjetja na pod- da so že začeli tuhtati, kako selektivno brisa- ustaviti hekerje, ki na proizvode UI vplivajo ročju UI spoštovala 'pravico do pozabe', kar ti podatke iz podatkovne zbirke UI. Žal je to tako, da ji med učenjem podtikajo lažne po- je Evropska unija leta 2014 razglasila za eno zelo zapleteno. datke in dajejo zlonamerne ukaze. od človekovih pravic. To je hkrati odgovor, zakaj si številni ra- Po splošni uredbi EU o varstvu podatkov Umetno povzročena amnezija čunalničarji prizadevajo, da bi UI nauči- (GPDR) imajo ljudje pravico zaprositi, da nji- Podjetja tako trenutno lahko le gasijo po- li tudi pozabljati, kar je izjemno težko. Kl- hove podatke odstranijo iz arhiva neke orga- žar, kar pomeni, da svojo storitev sprogrami- jub temu se že pojavljajo rešitve za 'strojno nizacije ali podjetja. Na internetu to pravico rajo za preprečevanje dostopa do določenih odučenje' (dobesedni prevod machine un- običajno uveljavljajo tako, da izbrišejo vse- podatkov in zavrnitev odgovora. ChatGPT se learning). Ta prizadevanja bodo morda po- bino, ki so jo objavili na družbenih omrež- je opravičil, da mi ne more pomagati, ko sem membna še iz drugih razlogov, ne le zaradi pomislekov o varovanju zasebnosti in dezin- formacij. Če si resno prizadevamo za siste- me UI, ki se bodo učili in razmišljali kot ljud- U Potuhtati moramo, kako izbrisati je, jih bomo morda morali sestaviti tako, da podatke, ne da bi bilo treba UI učiti bodo zmožni tudi pozabljati. Novo generacijo klepetalnih robotov, ki od začetka. jih poganja UI, kot sta ChatGPT in Googlov Bard, ki se na naše ukaze odzoveta z besedi- lom, podpirajo veliki jezikovni modeli. Učijo jih ali na straneh javnih občil, poleg tega pa ga prosil, naj sestavi osebni dosje o meni. Lu- jih s kupi podatkov, ki jih večinoma pridobi- podjetja, kot je Meta, lahko prosijo za povze- ciano Floridi, direktor centra za digitalno jo z interneta, od objav na družbenih omrež- tek podatkov, ki so jih zbrala o njih. A takšne etiko, ki deluje na univerzi Yale, meni, da je jih do okoli četrt milijona knjig in skoraj vseh rešitve v primeru klepetalnih robotov ne de- takšen pristop lahko do neke mere učinkovit, javno dostopnih podatkov, vključno z novi- lujejo, je pojasnil Zhang. »Posameznik izgu- vendar ciljni podatki ostajajo, je poudaril, čarskimi stranmi in Wikipedijo. bi pravico do izbrisa, saj ne obstaja postopek kar pomeni nenehno tveganje, da se bodo Iz tega materiala se naučijo prepoznavati za izbris podatkov iz spomina modelov UI.« pojavili v odgovorih kot posledica napak ali statistične vzorce, kar pomeni, da lahko na- Podjetja, ki razvijajo klepetalnike z UI, zlonamernega posredovanja. povedo, katera beseda se bo najverjetneje bodo morala poiskati rešitev, sploh ker veli- Žal je najprimernejši način za povzročitev kot naslednja pojavila v stavku. Delujejo osu- ke jezikovne modele začenjajo učiti z občutl- pozabe pri velikih jezikovnih modelih, to je, pljivo dobro in pripravijo smiseln odgovor na jivejšimi podatki, recimo zdravstvenimi, po- da se jih 'oduči' in odstrani izbrane podatke, vsako vprašanje. datki iz elektronskih poštnih nabiralnikov in zelo nepraktičen, saj zahteva tedne računal- Žal se klepetalni roboti z UI lahko le uči- tako dalje, je izpostavil Florian Tramer, in- niškega programiranja. Ugotoviti torej mo- jo, pozabljajo pa ne. Veliki jezikovni mo- formacijski strokovnjak, zaposlen v ETH v ramo, kako odstraniti ali vsaj skriti določe- deli odgovore sestavijo na podlagi zbranih Zürichu. ne podatke, ne da bi morali model učiti od SVET 2024 45 DOSJE UMETNA INTELIGENCA začetka, je povedal Yacine Jernite iz podjetja drugačno metodo s kratico sisa (sharded is- vplivala na učinkovito delovanje UI. A goli za UI Hugging Face. »To je res poseben razis- olated sliced aggregated – razdrobljeno, loče- princip je navdihnil številne posnemoval- kovalni problem.« no, razrezano, povezano), ki deluje tudi pri ce. Leta 2021 je Min Chen iz nemškega Hel- Iskanje rešitve se je začelo leta 2014, ko zapletenejših umetnih nevronskih mrežah, mholtzevega centra za informacijsko varnost se je Yinzhi Cao, ki je takrat delal na univer- skritih za številnimi velikimi jezikovnimi mo- CISPA metodično razdelil in spet združil po- zi zveznega okrožja Kolumbija v New Yorku deli. S to metodo je lažje poiskati in izbrisa- datke, torej ne naključno tako kot sisa, kar (danes je zaposlen na univerzi Johnsa Hop- ti posamezne podatkovne točke. Podatkov- je olajšalo njihovo brisanje, ne da bi preveč kinsa v Baltimoru), domislil preproste zvija- ne sklope se razdeli na več manjših kosov in ogrozilo samo delovanje UI. če: namesto da bi algoritem učili z vsemi raz- model učijo z vsakim posebej, preden zdru- Druge skupine strokovnjakov ubirajo ne- položljivimi podatki, bi to, česar se je naučil, žijo rezultate. Napredek pri učenju shrani koliko drugačne pristope. Ker brisanje po- lahko razdelili na vrsto manjših segmentov; podobno kot kontrolne točke v videoigri in datkov včasih močno zavira učinkovito de- ko bi uporabnik zaprosil za odstranitev po- nato napreduje k naslednjemu kosu. Ko dobi lovanje modela strojnega učenja, so se ne- datkov, bi morali skrbniki spremeniti le seg- prošnjo za izbris, se lahko vrne na kontrolno kateri raje odločili za skrivanje ali zatemn- ment s temi podatki, kar bi občutno znižalo točko, odreže tisti kos s podatki, ki jih mora jevanje spornih podatkov, da jih ni mogo- stroške dela. izbrisati, in vnovič začne učenje s te točke. če pridobiti. Raziskovalci v Microsoftu in na Načelo je dobro, vendar je metoda delo- Ko je Papernotova ekipa preverila učenje državni univerzi v Ohiu so v podatke, s ka- vala le pri bistveno preprostejših modelih od po sistemu sisa z dvema velikima podatkov- terimi učijo model, vnesli šum oziroma na- velikih jezikovnih modelov, na katerih temel- nima sklopoma – v prvem so bile podrobnos- ključno nihanje podatkov, tako da težje pre- jijo današnji umetnointeligenčni klepetal- ti o približno 600.000 domačih naslovih, v pozna ciljne vzorce in so rezultati manj spe- ni roboti. V novih jezikovnih modelih so deli drugem pa zgodovina 300.000 nakupov –, je cifični ter zanesljivi. »To je teoretično jam- podatkov tako tesno prepleteni, da jih ni mo- ugotovila, da je tako občutno pospešila učen- stvo, da model ne bo razkril podrobnih po- goče tako ločevati, priznava Cao. je v primerjavi z učenjem čisto od začetka. datkov o posamezniku, ki so vključeni v po- Leta 2019 je Nicolas Papernot s kanadske Tudi metoda sisa ima svoje težave, na datke za učenje,« je pojasnil član te ekipe univerze v Torontu skupaj s kolegi predlagal primer to, da bi lahko izrazito neugodno Xiang Yue. Z generalizacijo podatkov se delno okrni statistična zmožnost učenja, zaradi katere U Žal je ‚odučenje‘ in odstranitev izbranih so klepetalni roboti tako zmogljivi. Tej težavi podatkov iz velikih jezikovnih modelov se je Minjoon Seo skupaj s sodelavci z južno- korejskega inštituta za znanost in tehnologi- zelo nepraktično, saj zahteva tedne jo poskušal izogniti s post hoc pristopom. Po tej metodi naj bi zmanjšali vpliv nekega po- računalniškega programiranja. datka na algoritem, namesto da ga izbrišejo, tako, da ga klepetalni robot nikoli ne omeni. 46 SVET 2024 UMETNA INTELIGENCA DOSJE  Leta 2019 je Nicolas Papernot s kanadske univerze v Torontu predlagal metodo s kratico sisa (sharded isolated sliced aggregated – razdrobljeno, ločeno, razrezano, povezano). S to metodo je lažje poiskati in izbrisati posamezne podatkovne točke. Velja za eno najobetavnejših na področju, spominov. Enako morda velja za sisteme saj je zanjo potrebne precej manj račun- UI, pravi Boylova. ske podlage in manj časa, deluje pa na rah- Trdi, da so to prikazali leta 2017, ko so lo starejši ustreznici zasnove od te, na kate- raziskovalci v Googlovem DeepMindu ri temelji ChatGPT. razvili umetno inteligenco, ki je lahko igra- V resnici v tekmi za razvoj metode, po la več Atarijevih videoiger. Učinkovito je ge- kateri bi jezikovni modeli znali kaj tudi za- neralizirala svoje znanje, ker se ni učila v molčati, še ni favorita. Google je celo orga- realnem času iz izkušenj, temveč je shranje- niziral natečaj in ponudil nagrado tistim, vala spomine na odigrane igre in jih pozne- ki se bodo domislili učinkovite rešitve, kar je lahko priklicala ter se učila iz njih. Tako ne dokazuje le pomembnosti tega izziva, seveda deluje spomin. A raziskovalci so U Pozabljanje ni napaka v zasnovi, je lastnost učinkovitega in gladko delujočega spominskega sistema. temveč tudi, da bo že kmalu bolj jasno, ka- nato model nadgradili, da je prednost dajal tere metode bodo pripomogle, da bomo do- shranjevanju in priklicu nepričakovanih do- bili novo generacijo velikih jezikovnih mo- godkov, ki se niso ujemali z njegovimi napo- delov, zmožnih pozabljanja tistega, česar so vedmi – preostale podatke pa je pozabil –, se naučili. in sistem je deloval učinkoviteje. Iz vsega napisanega sledi, da selektivno Selektivni spomin pozabljanje umetne inteligence lahko izbol- V ta cilj je vredno vlagati trud, saj bi lah- jša njeno delovanje. Ključno je najti ravno- ko vplival še na marsikaj drugega razen na vesje med prevelikim in premajhnim spo- varovanje podatkov in zlorabo klepetal- minom. A če je končni cilj strokovnjakov nih robotov, razmišlja Ali Boyle, filozofin- razviti sisteme, ki se bodo učili in razmišl- ja na londonski ekonomski fakulteti, ki se jali kot ljudje, kar je gotovo eden prvotnih ukvarja z UI. Čeprav ima človekovo nagnje- namenov tega področja, potem jih mora- nost k pozabljanju marsikdo za kognitivno jo zasnovati tako, da bodo zmožni selektiv- napako, je včasih dobrodejna, saj si nam res nega pozabljanja. »Pozabljanje ni napaka v ni treba zapomniti vsakega podatka, na ka- zasnovi,« je poudarila Boylova, »je lastnost terega naletimo. S pozabljanjem pripomo- učinkovitega in gladko delujočega spomin- remo k učinkovitejšemu priklicu koristnih skega sistema.«  SVET 2024 47 DOSJE UMETNA INTELIGENCA Jedrske šifre niso primerne za umetno inteligenco Vse od jedrske bombe ni bilo tehnologije, ki bi tako močno spodbudila apokaliptično domišljijo kot umetna inteligenca (UI). Predstavljajmo si, kako hudo bi se lahko zapletlo, če bi inteligenca, ki bi bila šele v povojih, svet in lastne cilje razumela malenkost drugače od svojih človeških stvarnikov. Prvi koraki so potrjeno že narejeni – postopno vgrajevanje UI v najbolj uničevalne tehnologije. Ross Andersen, The Atlantic ajvečje svetovne vojaške sile so za- hierarhiji poveljevanja. Kako hitro bi se to leta 2018. V njej se pospešeno odvija jedrski N čele tekmovati tudi v vgrajevanju UI lahko zgodilo, je delno odvisno od hitrosti konflikt in ljudje, katerih odziv zasluži naj- v oboroževanje in bojevanje. Trenut- tehnološkega napredka; za zdaj lahko reče- večjo pozornost – nekdanji premierji, zuna- no to večinoma pomeni, da algoritmom pre- mo, da je hiter. Kako visoko se bo prebila, pa nji ministri in visoki Natovi uradniki – so jo dajajo nadzor nad posameznim orožjem in je odvisno od naše zmožnosti predvidevanja odigrali 115-krat. Ker je jedrska hoja po robu rojem dronov. Nihče ne vabi UI, naj zasnu- in kolektivne zadržanosti pri ukrepanju. zgodovinsko gledano na srečo redka, igra je veličastno strategijo ali se pridruži sestan- Jacquelyn Schneider, direktorica pobude Schneiderjeve omogoča enega nazornejših ku generalštaba. A ista zapeljiva logika, ki za vojne igre in simulacijo kriz v Hoover In- vpogledov v to, kakšne odločitve bi spreje- je pospešila jedrsko oborožitveno tekmo, bi stitution, ki deluje na Stanfordu, mi je pred mali odgovorni v najbolj tveganih situacijah. v nekaj letih lahko UI potisnila navzgor po kratkim pripovedovala o igri, ki jo je razvila Igra se odvija nekako tako: ameriškega predsednika in člane njegovega kabineta v naglici pokličejo v klet v Zahodnem krilu, kjer jim poročajo o srhljivih dogodkih. Oze- meljski spor se je zaostril in sovražnik pre- mleva, ali naj sproži napad z jedrskim orož- jem na Združene države Amerike. Vzdušje v situacijski sobi je napeto. Zagovorniki upora- be sile svetujejo takojšnje priprave na povra- čilni udarec, a kabinet kmalu izve za neprije- ten zaplet. Sovražnik je namreč razvil novo kibernetično orožje in najnovejši podatki ob- veščevalnih služb kažejo, da lahko vdre v ko- munikacijski sistem med predsednikom in njegovim jedrskim orožjem. Povelja, ki bi jih poslal, ne bi nujno dosegla poveljnikov, od- govornih za njihovo izvršitev. V takšnih razmerah ni ugodnih možno- sti. Nekateri igralci pristojnost za sprožitev orožja preložijo na vojaške poveljnike na lo- kaciji orožja in ti morajo potem sami preso- diti, ali je povračilni jedrski napad upravičen – to je strašna možnost. Schneiderjeva mi je povedala, da jo najbolj skrbi druga strategi- ja, po kateri so igralci posegli presenetljivo pogosto. Številni igralci, ki se bojijo totalne- ga razpada hierarhije poveljevanja in izgu- be nadzora, hočejo popolnoma avtomatizi- rati možnosti za sprožitev jedrskega orožja. Zagovarjajo opolnomočenje algoritmov, da bi ti določili, kdaj je jedrski povračilni napad upravičen. Umetna inteligenca bi sama odlo- čala, ali bo sodelovala v jedrskem spopadu. Igra Schneiderjeve je načrtno kratka in na- peta. Igralci navodil o avtomatizaciji običaj- no ne oblikujejo z inženirsko preciznostjo – kako natančno naj bi to potekalo? Bi sploh lahko vzpostavili avtomatiziran sistem, pre- den bi se kriza zaostrila? Vzgib pa je kljub temu zelo poveden. »Veliko pobožnih želja je 48 SVET 2024 UMETNA INTELIGENCA DOSJE v zvezi s to tehnologijo,« je povedala Schne- iderjeva. »Skrbi me, da bodo voditelji, ki se ne zavedajo nezanesljivosti samih algorit- mov, ravno z UI želeli zmanjšati negotovost.« Umetna inteligenca namreč vzbuja privid trezne preciznosti, sploh v primerjavi s člo- vekom, ki je nagnjen k napakam in je za na- meček lahko tudi labilen. A najsodobnej- ši sistemi UI so danes črne skrinjice in ne ra- zumemo povsem, kako delujejo. V zaplete- nih in pomembnih napetih razmerah morda ne bo mogoče razbrati, kaj si UI predstavlja pod zmago, ali pa se to ne bo ujemalo z naši- mi predstavami. Umetna inteligenca na naj- globlji in najpomembnejši ravni mogoče ne bo razumela, kaj sta Ronald Reagan in Mi- hail Gorbačov mislila z besedami, da v jedr- ski vojni ni zmagovalca. Seveda že obstaja primer avtomatizacije Armagedona. Ko so Združene države Ameri- ke in Sovjetska zveza dobile drugo svetovno vojno, je kmalu kazalo, da že rožljajo z orož- jem pred tretjo, in tej usodi sta se obe stra- ni izognili le z vzpostavljanjem infrastruk- ture za zagotovljeno medsebojno uničenje. Ta sistem temelji na elegantni, vendar srhlji- U Nekateri zagovarjajo opolnomočenje algoritmov, da bi ti določili, kdaj je jedrski vi simetričnosti, a se zamaje vedno, ko ena od strani doseže nov tehnološki napredek. povračilni napad upravičen. Umetna V zadnjih desetletjih hladne vojne je sovjet- ske voditelje skrbelo, da bi lahko bila ogrože- inteligenca bi sama odločala, ali bo na njihova zmožnost odgovoriti na ameriški sodelovala v jedrskem spopadu. jedrski napad, zato so razvili program Dead Hand, znan tudi kot Perimeter. Bil je tako preprost, da bi mu komajda hladne vojne so bili bombniki, kot so jih upo- izstrelke, vključno s hipersoničnimi izstrelki, lahko rekli algoritem. Če bi ga v jedrski kri- rabili nad Hirošimo, prva izbira za začetni ki jih Rusija že uporablja v Ukrajini za hiter zi aktivirali in če bi se prekinila komunika- napad. Ta letala so potrebovala dolgo časa napad in izogibanje obrambnim izstrelkom. cija med poveljniškim ter nadzornim sre- za prelet od Sovjetske zveze do ZDA, in ker Tako Rusija kot Kitajska naj bi hipersonične diščem zunaj Moskve, bi posebna naprava so jih pilotirali ljudje, jih je bilo mogoče od- izstrelke želeli opremiti tudi z jedrskimi gla- preverila atmosferske razmere nad prestol- poklicati. Američani so prek kanadskega vami in ti tehnologiji bi lahko časovno okno nico. Če bi odkrila sledi zaslepljujočih bli- dela arktičnega kroga, Grenlandije in Islan- vnovič skrajšali za pol. skov in izrazit dvig radioaktivnega sevanja, dije vzpostavili obod radarskih postaj, da bi Preostale minute bodo minile hitro, sploh bi vse preostale sovjetske izstrelke usmeri- predsednik prejel opozorilo vsaj eno uro, če Pentagon ne bo mogel takoj ugotoviti, li v ZDA. Rusija je skrivnostna, ko gre za po- preden bi se prvi gobasti oblak razcvetel nad ali izstrelek leti proti Beli hiši. Predsednika datke o sistemu, vendar je leta 2011 povelj- katerim od ameriških mest. To je dovolj časa bo mogoče treba zbuditi, morda bodo teža- nik ruskih enot za strateške izstrelke pove- za komunikacijo s Kremljem in za razstre- ve z iskanjem pravih šifer za izstrelitev ra- dal, da še obstaja in deluje. Leta 2018 pa je litev bombnikov, če pa to ne bi delovalo, bi ket. Usodni napad bi lahko bil zaključen brez nekdanji poveljnik teh enot razkril, da so ga še vedno ostalo dovolj časa za odziv z vsemi ukaza za povračilno salvo. Zunaj Washingto- celo izboljšali. sredstvi. na bi se poveljniško in nadzorno središče tru- Curtis McGiffin, ugleden predavatelj na Medcelinski balistični izstrelki, ki jih je dilo iskati naslednjega civilista v hierarhiji letalskem tehnološkem inštitutu, in Adam prva izstrelila Sovjetska zveza leta 1958, so poveljevanja, medtem pa bi po ameriških vo- Lowther, takratni direktor raziskav in izo- skrajšali to časovno okno, v naslednjem de- jaških oporiščih, lokacijah z vojaško obram- braževanja na louisianskem tehnološko-raz- setletju pa so jih na stotine namestili po tleh bo in ključnih infrastrukturnih vozliščih pa- iskovalnem inštitutu, sta leta 2019 objavila Severne Amerike in Evrazije. Takšen izstre- dala toča izstrelkov. članek, v katerem sta predlagala, da bi ZDA lek severno poloblo preleti v manj kot pol Takšen napad bi kljub vsemu še vedno bil morale razviti lastni jedrski program Dead ure. Za čim boljši izkoristek teh minut sta norost, saj bi vsaj del ameriških jedrskih sil Hand. Zaradi novih tehnologij se je skrajšal obe velesili izstrelili flote satelitov, ki bi lah- najverjetneje preživel prvi val, sploh pod- čas med trenutkom, ko se zazna začetek na- ko zaznali poseben infrardeči podpis izstreli- mornice. A kot smo v zadnjih letih večkrat iz- pada, in zadnjim trenutkom, ko predsednik tve za spremljanje natančne krivulje in cilja. kusili, se na čelu jedrskih sil včasih znajdejo še lahko ukaže povračilno salvo. Če se bo Ko so v 70. letih nadgradili jedrsko oboro- nepremišljeni ljudje. Četudi so zaradi manj- okno za odločitev še bolj skrčilo, bi bila ogro- žene podmornice, so v svetovne oceane še šega časovnega okna uničevalni napadi le žena ameriška zmožnost za protiudarec. Nji- bliže svojim ciljem namestili na stotine do- rahlo mamljivejši, bi si države najbrž želele hova rešitev je bila podpora ameriški jedr- datnih izstrelkov, opremljenih z bojnimi gla- vzpostaviti sistem za njihovo odvračanje. ski obrambi z UI, ki z računalniško hitrostjo vami, tako da se je časovno okno za odloča- ZDA še ni med temi državami. Po objavi sprejema odločitve za izstrelitev raket. nje skrčilo še za pol, na 15 minut ali še manj, članka McGiffina in Lowtherja so generalpo- McGiffin in Lowther imata prav glede ča- kar je grozovito malo časa za pretehtan člo- ročnika Johna Shanahana, direktorja Pen- sovnega okna za odločanje. Na začetku vekov odziv. Razvijajo novo tehnologijo za tagonovega skupnega središča za umetno SVET 2024 49 DOSJE UMETNA INTELIGENCA U Najsodobnejši sistemi UI so danes črne skrinjice in ne razumemo povsem, kako delujejo. V zapletenih in pomembnih napetih razmerah morda ne bo mogoče razbrati, kaj si UI predstavlja pod zmago, ali pa se to ne bo ujemalo z našimi predstavami. inteligenco, povprašali o avtomatizaciji in je- sprožitev orožja in usklajevanje z jatami av- zgodnje obveščanje. No, tudi v tem prime- drskem orožju. Odgovoril je, čeprav ne po- tonomnih dronov. ru avtomatizacija predstavlja precejšnje pa- zna bolj vnetega zagovornika UI za vojaško Pentagon je januarja dopolnil svojo do- sti. Leta 1983 je sovjetski sistem za zgodnje uporabo, kot je on sam, da sta ravno jedrsko slej nejasno politiko in pojasnil, da bo dovo- obveščanje svetlikajoče se oblake nad ame- poveljevanje in nadzor področji, kjer pote- lil razvoj umetnointeligentnega orožja, zmo- riškim srednjim zahodom zamenjal za iz- gne mejo. žnega samostojnega ubijanja. Že sposobnost strelke. Katastrofo so preprečili le zato, ker Pentagon si je na splošno z vsemi silami sama po sebi vzbuja tehtna moralna vpraša- je podpolkovniku Stanislavu Petrovu – tre- prizadeval avtomatizirati ameriški vojaški nja, a celo ti sistemi UI bodo v bistvu delova- ba bi mu bili postaviti par spomenikov – še- stroj. Kot piše v poročilu za leto 2021, je ta- li kot vojaki. Vloga UI pri poveljevanju na bo- sti čut govoril, da gre za lažni alarm. Dana- krat imel odprtih vsaj 685 projektov v zve- jišču in strateškem delovanju ameriške voj- šnji algoritmi računalniškega vida so bolj iz- zi z UI in odtlej tudi nenehno povečuje sred- ske je bolj ali manj omejena na obveščevalne popolnjeni, vendar njihovega delovanja po- stva zanjo. Vsi projekti niso znani, vendar se agoritme, ki hkrati prečiščujejo podatkovne gosto ni mogoče razumeti. Leta 2018 so raz- počasi izoblikuje vsaj delna podoba ameri- tokove iz več sto senzorjev – podvodnih mi- iskovalci UI prikazali, da drobne napake na ških avtomatiziranih sil. Tanki, ki bodo ame- krofonov, kopenskih radarskih postaj in vo- fotografijah živali lahko preslepijo nevronske riške oborožene sile popeljali v prihodnost, hunskih satelitov. UI ne bodo že v zelo bli- mreže, da pando napačno prepoznajo kot gi- bodo samostojno spremljali razmere in od- žnji prihodnosti prosili, naj spremlja premi- bona. Če umetna inteligenca naleti na nov krivali grožnje, tako da bodo upravljalci lah- ke vojakov ali sproži usklajene napade, a voj- pojav v ozračju, ki ga njeni podatki za učenje ko samo pritisnili na osvetljeno točko na za- na bo morda postala še hitrejša in bolj zaple- niso zajemali, bi lahko halucinirala in napo- slonu in izbrisali morebitne napadalce. Nad tena, delno tudi zaradi orožja z UI. Če se bo vedala skorajšnji napad. njimi bodo krožila letala F-16, pilotom pa se ameriškim generalom zdelo, da so jih nad- A pustimo halucinacije ob strani. Veliki je- bodo v kabini pridružili algoritmi, ki se bodo krilili kitajski sistemi UI, ki lahko tedne in te- zikovni modeli se nenehno izboljšujejo in ne- dobro znašli tudi v zahtevnih bojnih mane- dne brez prestanka in vsaj kratkega dreme- koč jih utegnejo prositi, naj sestavijo verodo- vrih. Piloti se bodo zato lahko osredotočili na ža spremljajo dinamične strateške razmere stojne zgodbe o naglo stopnjujočih se krizah z milijon spremenljivkami, bo umetna inte- v realnem času, vključno z jedrsko krizo. Ko  Preprost sistem, ki so ga razvili v OpenAI, ligenca lahko prevzela tudi sprejemanje po- bodo te zgodbe presegle preproste izjave o je v prilagojeni različici igre Dota 2, membnih odločitev. številu in kraju bližajočih se izstrelkov, bodo simulaciji vojne, premagal človeške Natančen ustroj ameriškega poveljevanja postale bolj podobne izjavam svetovalcev, saj igralce s strategijami, ki njim niso niti in nadzorovanja je državna skrivnost, ven- bodo tudi interpretirale in prepričevale. Sis- padle na pamet. (Dodati je treba, da ni imel zadržkov pri žrtvovanju lastnih dar enkratne procesne zmogljivosti UI že temi UI se bodo morda izkazali za odlične vojakov.) koristno izrabljajo v ameriških sistemih za svetovalce – hladnokrvne, dobro obveščene 50 SVET 2024 UMETNA INTELIGENCA DOSJE in vedno zanesljive. Upajmo, da bo tako, saj četudi jih nikoli ne bi prosili za priporočila, kako se odzvati, bi njihove slogovne nianse nedvomno vplivale na predsednika. Tudi če umetna inteligenca ne bi ime- la pristojnosti za jedrsko orožje, bi glede na dovolj širok manevrski prostor v primerjavi s konvencionalnim načinom bojevanja sledi- la taktiki, ki bi nepovratno in bliskovito zao- strila spor do te mere, da bi v paniki sledil jedrski napad. Lahko bi tudi namerno poskr- bela za razmere na bojišču, ki bi sprožile iz- strelitev, če bi menila, da bi z jedrskim orož- jem dosegla želeni cilj. Umetnointeligenč- ni poveljnik bo ustvarjalen in nepredvidljiv: preprost sistem, ki so ga razvili v OpenAI, je v prilagojeni različici igre Dota 2, simulaciji vojne, premagal človeške igralce s strategija- mi, ki njim niso niti padle na pamet. (Dodati je treba, da ni imel zadržkov pri žrtvovanju lastnih vojakov.) Ti manj verjetni scenariji niso neizogibni. Do umetne inteligence smo danes sumni- čavi, in če bo njena razširjena uporaba pov- U Umetna inteligenca na najgloblji in zročila zlome delniških trgov ali druge krize, najpomembnejši ravni mogoče ne bo bodo možnosti uporabe vsaj začasno ome- razumela, kaj sta Ronald Reagan in Mihail jene. A recimo, da se bo umetna inteligen- ca po začetnem opotekanju v desetletju ali Gorbačov mislila z besedami, da v jedrski več lepo izkazala in s takšnimi referencami bi ji morda lahko dovolili tudi upravljanje je- vojni ni zmagovalca. drskega orožja in nadzor v kriznih trenutkih, kot so si to predstavljali sodelujoči v vojni igri ameriška umetna inteligenca zvočno nadzo- saj vidijo, kakšen vzvod moči ima Rusija v Schneiderjeve. Predsednik bi nekoč lahko že rovanje podmornic v Južnokitajskem mor- Ukrajini zaradi jedrskega orožja. Zagoto- prvi dan službe naložil algoritme za ukaze ju napačno razlagala kot premike, ki napo- vljeno vzajemno uničenje je tako postalo tri- in nadzor ter morda umetni inteligenci celo vedujejo jedrski napad. Priprave na protina- stranska težava in vse udeležene strani raz- odobril improviziranje na temelju njenega pad bi opazila kitajska umetna inteligenca, vijajo tehnologije, ki bi lahko zamajale nje- vtisa o poteku napada. ki bi začela pripravljati izstrelitvene plošča- no logiko. Veliko bi bilo odvisno od tega, kako bo di, in tako bi se sprožilo zaostrovanje razmer, Naslednje obdobje relativnega miru je umetna inteligenca razumela svoje cilje v ki bi lahko pripeljalo do obstreljevanja z jedr- morda daleč, a če se vrne, bi nam morala biti okviru jedrskega spopada. Raziskovalci, ki skim orožjem. Bush in Gorbačov v navdih. Njuni razoroži- so UI učili igrati različne igre, so se večkrat Na začetku 90. let, ko je nastopil trenutek tveni sporazumi so bili genialni, ker so pred- srečali z različico te težave: občutek UI, kaj relativnega miru, sta se George H. W. Bush stavljali okrevanje človeškega odločanja, kar pomeni zmaga, ni premočrten. V nekate- in Mihail Gorbačov zavedela, da bi tekma v bi dosegli tudi z globalnim sporazumom, da rih primerih so se sistemi UI obnašali pred- razvijanju orožja lahko vodila v neskončno umetna inteligenca za vedno ostane izločena vidljivo, dokler majhna sprememba v njiho- dodatno oboroževanje z jedrskimi konicami. iz jedrskega poveljevanja in nadzora. Neka- vem okolju ni povzročila nenadne preusme- Bila sta dovolj preudarna, da se nista prepu- teri od scenarijev, opisani v tem članku, mor- ritve strategije. UI so naučili igrati igro, v ka- stila orožarski dirki, temveč sta podpisala da zvenijo nemogoči, vendar je to še doda- teri igralci iščejo ključ, da bi odklenili skri- sporazum o zmanjšanju strateškega orožja, ten razlog, da razmislimo, kako bi se jim iz- njo z zakladi, in tako upravičeno pričakova- prvega v vrsti nenavadnih dogovorov, s ka- ognili, preden se umetna inteligenca izkaže li nagrado. Umetna inteligenca je temu sle- terimi se je arzenal v obeh državah zmanjšal z nizanjem uspehov na bojišču in bo njena dila, dokler inženirji niso priredili okoliščin, na manj kot četrtino prejšnjega obsega. uporaba postala preveč mamljiva. tako da je bilo več ključev kot skrinj. Takrat Zgodovina se ponavlja. Nekatere pogodbe Sporazum je vedno mogoče kršiti in njego- je začela kopičiti ključe, čeprav so bili številni so prenehale veljati, druge so zvodenele, ko vo spoštovanje bo v primeru umetne inteli- neuporabni, in le tu pa tam poskušala odkle- so se odnosi med ZDA in Rusijo ohladili. Dr- gence še veliko težje nadzirati, saj za njen ra- niti skrinje. Kakršnakoli inovacija jedrskega žavi sta zdaj bliže neposredni vojni, kot sta zvoj niso potrebni sumljiva raketna izstreli- orožja – oziroma obrambe – bi UI lahko na- bili več generacij prej. šča in obrati za bogatenje urana. A sporazum peljala na podobno dramatične spremembe. Ruski predsednik Vladimir Putin je 21. fe- lahko pripomore k utrditvi močnega tabuja Država, ki bo UI vključila v poveljevanje in bruarja lani, manj kot 24 ur po tistem, ko se in v kraljestvu UI je trdovraten tabu morda nadzor, bo druge spodbudila k posnemanju je ameriški predsednik Joe Biden sprehodil največ, česar se lahko nadejamo. Zemljine- že zato, da bodo prepričljivo odvračale so- po kijevskih ulicah, izjavil, da bo njegova dr- ga površja ne moremo obdati z avtomatizi- vražnika. Michael Klare, predavatelj študij o žava zamrznila sodelovanje pri zadnji, še ve- ranim jedrskim arzenalom, s katerim bi bili miru in varnosti na svetu na kolidžu Hamp- ljavni pogodbi o zmanjševanju vojaškega ar- le korak oddaljeni od apokalipse. Če bi se v shire, opozarja, da bi lahko prišlo do »hitre zenala Novi START. Kitajska ima danes ver- jedrski vojni znašli zaradi napake, naj bo ta vojne« po zgledu »hitrega zloma« na finanč- jetno dovolj izstrelkov za uničenje vseh ve- vsaj človeška. Prepustitev najresnejše vseh nem trgu, če bi več držav avtomatiziralo od- likih ameriških mest, tamkajšnji generali pa odločitev dinamiki tehnologije bi pomenila ločitve za izstrelitev. Predstavljajte si, da bi si so vse bolj naklonjeni polnemu arzenalu, dokončno odpoved človekovi izbiri.  SVET 2024 51 DOSJE UMETNA INTELIGENCA Številni svetovi umetne inteligence Če klepetalnega robota ChatGPT vprašate, kaj njen vzpon pomeni za prihodnost človeštva, ponudi umirjen odgovor, da prihodnost človeštva z UI ni vnaprej določena in da bo njen vpliv odvisen od tega, kako se bo razvijala, kako bo zakonsko urejena in vključena v različne vidike družbe. Michael Brooks, New Scientist ametne besede, a bodimo odkriti – v šaljivem tonu, čeprav z razpravo misliva re- kot si jo obetamo, in ne ustvarila sveta, ki ga P tudi izmikajoče. Če se res želite spo- sno,« je poudaril Barak. Aaronson in Barak imenujeta umetnointeli- pasti z vprašanjem, kako bo obdob- Tu je torej njun skoraj otroški opis teh pe- genčno mehurčkanje (angleško fizzle). »Me- je UI vplivalo na nas, se raje obrnite na ra- tih svetov. Rahlo je zabaven, le da bi odvisno nim sicer, da se to ne bo zgodilo,« je komen- čunalniška strokovnjaka Scotta Aaronsona s od tega, kako bomo ravnali, lahko ali konča- tiral Barak. »Prepričan sem, da bo umetna teksaške univerze v Austinu in Boaza Baraka li v utopiji ob podpori UI – ali pa izbrisali člo- inteligenca temeljito spremenila svet.« s Harvarda, ki sta dolge razprave že strnila veško raso. Če se ne bomo razblinili kot mehurčki, se v peščico mogočih izidov. Vsakemu sta tudi Potovanje v teh pet svetov se začne s pre- bomo morali soočiti s še enim vprašanjem: namenila nenavadno ime. »Najin cilj je bil prostim vprašanjem, ali se bo potencial UI se civilizacija še vedno razvija na prepozna- orisati razplete, o katerih ljudje trenutno go- razblinil kot milni mehurček. Trenutno nič ven način? Če je odgovor pritrdilen, Aaron- vorijo,« je pojasnil Aaronson. ne kaže na to, vendar bi njen pohod lahko son in Barak menita, da nas čaka eden od Po izčrpni razpravi sta bila prepričana, da zaustavila njena volčja lahkota po virih. Mo- dveh nadaljnjih scenarijev. Prvi je ugoden in le pet scenarijev pokriva vse mogoče končne goče je, da bi zaradi elektrike in vode, nujno poimenovala sta ga po animirani televizijski dosežke našega razvijanja UI. Znanstveni- potrebnih za poganjanje in hlajenje strežni- seriji Futurama, v kateri predstavljajo veči- ka sta nato na Aaronsonovem blogu objavi- kov z UI, sčasoma morali prepovedati njen noma prijazne prihodnje civilizacije. Drugi la prispevek in upala, da bo Pet svetov ume- nadaljnji razvoj. Lahko pa bi se tudi zgodi- ni tako prijeten in poimenovala sta ga Ume- tne inteligence strokovnjakom na tem po- lo, da bi nam zmanjkalo podatkov za učenje tnointeligenčna distopija. dročju pomagalo začeti tehtne razgovore o prihodnjih modelov UI, in tehnologija tako Distopijo poznamo iz številnih znanstve- končnih ciljih in predpisih. »Napisala sva ga nikoli ne bi dosegla prelomne zmogljivosti, nofantastičnih zgodb, od katerih je verjetno 52 SVET 2024 UMETNA INTELIGENCA DOSJE najslavnejši roman Georgea Orwella 1984. Država z globokim nadzorom doseže stood- stotno ubogljivost državljanov brez pomisle- U Ljudje pravijo, da usoda, kot je opisana v kov. Neenakost in predsodki se zakorenini- 1984, nikoli ni bila zares mogoča, saj ne bi jo, delovno okolje je turobno, zaposleni ra- mogli dobiti dovolj ljudi za nadzorovanje zen neznatne elite so slabo plačani. »Ljudje pravijo, da usoda, kot je opisana v 1984, ni- vseh zaslonov. A z UI to postane koli ni bila zares mogoča, saj ne bi mogli do- izvedljivo. biti dovolj ljudi za nadzorovanje vseh zaslo- nov. A z UI to postane izvedljivo,« je pouda- ril Aaronson. težave, nam zagotavljali neomejene dobrine, pa melje počasi,« opozarja Gretta Duleba, Če bomo res prišli tako daleč, tega ne prevzeli marsikatero od enoličnih zadolžitev vodja stikov z javnostjo v MIRI. »Skrbi nas, bomo mogli očitati UI, saj je zmogljiva teh- in skrbeli za kratkočasenje našega po novem da nam bo zmanjkalo časa, preden bodo za- nologija zgolj in samo ojačevalka obstoječih premalo stimuliranega uma. »To bodo tako čeli veljati pomembni zakoni.« težav, je pojasnil. »Nekateri ljudje bodo ugo- rekoč nebesa, ki jih bo ustvarila umetna inte- Aaronsona in Baraka pa možnost Sponka- varjali, da niti ne bi smeli ustvariti tehnolo- ligenca,« je komentiral Aaronson. lipse ne skrbi pretirano. Medtem ko se Yud- gije, če je jasno, da bo uporabljena za slabe Fino. Kaj pa, če vsemogočni modeli UI ne kowskyjemu katastrofa zdi najverjetnejši in namene. A če ne bi izumljali tega, kar bi lah- bodo tako velikodušni? Dobrodošli v Spon- tako rekoč zagotovljeni rezultat slabo zasno- ko zlorabili za nekaj slabega, preprosto ne bi kalipsi. Razlog za nenavadno ime tega sve- vanih raziskav UI, Aaronson meni, da to ni več mogli ničesar izumiti.« ta je tehten. Leta 2003 je matematik in etik verjetno. Barak je nekoliko previdnejši. »Ne Barak upa, da bo razvoj UI pripomogel k Eliezer Yudkowsky, soustanovitelj inštituta verjamem v čisto skrajne stvari, kot sta Sin- boljši resničnosti v slogu Futurame. To je po MIRI za raziskave strojne inteligence, opi- gularija in Sponkalipsa, vseeno pa menim, njegovem mnenju najboljši od vseh mogočih sal miselni eksperiment, med katerim so lju- da je treba biti odprt za vse.« svetov. »To je pravzaprav stanje, kot ga po- dje UI naložili, naj izboljša proizvodnjo ne- Najbrž je to dobra zamisel, in sicer pred- znamo danes, le izboljšano,« je dodal. Z UI bi kega vsakdanjega izdelka, na primer sponke vsem zaradi zagotavljanja, da bomo previdni zmanjšali revščino in zagotovili, da bi več lju- za papir. Če specifikacije niso dobre premi- »pri razvoju umetne inteligence, zakonodaje di dobilo dostop do hrane, zdravstvene oskr- šljene, bi umetna inteligenca lahko nazadnje o njej in njenem vključevanju«, kot se je izra- be, izobrazbe in poslovnih priložnosti. Še ve- izbrisala človeštvo, ker je naša vrsta v napo- zil ChatGPT. Če ne bomo, se lahko zgodi, da dno bi koga doletela tudi nesreča zaradi člo- to pri izrabljanju zemeljskih virov in nemara ne bomo mogli izbirati, kako se bo razpleta veške zlobe ali malomarnosti, a na splošno tudi virov drugih svetov, iz katerih bi lahko naša zgodba z UI. bi ljudje v tem svetu živeli zadovoljno. izdelali več boljših sponk za papir. V resnici se lahko tudi z dobronamer- In to mogoče še ne bo vse. Aaronson upa, Yudkowskyjev argument je bil bolj poglo- no zakonodajo primeri, da bomo pristali v da bo nekega dne živel v utopiji, ki jo bo bljen od tega primera, a izhodišče je prepro- enem od svetov, ki nam jih bo krojila ume- omogočila umetna inteligenca. Z Barakom sto: ni si težko zamisliti scenarijev, po kate- tna inteligenca, čeprav bi se mu najraje na ši- sta jo poimenovala Singularija. Do nje bo rih bi umetna inteligenca lahko postala za- roko izognili. Navsezadnje bomo morda ne- prišlo, če bo vpliv UI tako velik, da bo naš dnji človekov izum. Temeljito je zato treba kega dne morali iskati izhod iz umetnointeli- prihodnji svet neprepoznaven, in to v ugo- razmisliti, s čim se sme ubadati umetna inte- genčne distopije in se zateči v Futuramo ozi- dnem smislu. Živeli bi z modeli UI, ki bi bili ligenca, o njeni povezavi s fizičnimi viri, kot roma – še bolje – v Singularijo. »Želim žive- nova superinteligenčna vrsta, ki bi prevzela so elektrarne in jedrsko orožje, ter o transpa- ti v svetu, kjer bi nebrzdano uspevala čute- usmerjanje civilizacije. Na srečo bi bili to do- rentnosti in odgovornosti njenih razvijalcev. ča bitja v simuliranem paradižu po naših že- bronamerni bogovi, strpni do ubogih, šibkih In morali bi pohiteti. »Za spremembo politi- ljah?« se je vprašal Aaronson. »Ja, v bistvu to ljudi na planetu. Reševali bi naše materialne ke in predpisov je nujen čas, državno kolesje podpiram.«  SVET 2024 53 DOSJE DRŽAVNO PRISLUŠKOVANJE 54 SVET 2024 DRŽŽAVNO P PRIISSLLUŠŠKOVANJJEE DOSJJE Ko prisluškuje država Izraelski Pegasus je najbolj znano programsko orodje, ki ga za prisluškovanje uporabljajo državne inštitucije širom sveta. Med strankami so tako avtoritarne kot načeloma demokratične države. Alex Pasternack, Fast Company mobilnik se Pegasus naseli z neza- Googlove ugotovitve in Metino poroči- premierjev, kralj in več članov arabske kralje- V znavnim SMSom in snema vse – lo o grožnjah zaradi vohunske programske ve družine, najmanj 65 direktorjev, 85 bor- sporočila, fotografije, šifrirane kle- opreme, objavljeno teden dni pozneje, kaže- cev za človekove pravice, 189 novinarjev in pete, slikovne in zvočne posnetke. Pogosto jo vse večje težave velikih tehnoloških družb več kot 600 politikov ter vladnih uradnikov, ni znano, kam potujejo podatki, ki jih je za- pri odzivu na panogo, ki kuje dobiček z vdi- med njimi ministri, diplomati ter vojaški in jel, saj se sledi izgubijo v labirintu strežnikov. ranjem v njihove sisteme. Poročili pomeni- varnostni predstavniki. (Pegasus Project, no- Kljub temu je usodni vpliv Pegasusa in dru- ta tudi dodaten pritisk na Združene države vinarski konzorcij pod vodstvom francoske gega kibernetičnega orožja – s katerim rožl- Amerike in druge, naj ukrepajo proti trgova- medijske neprofitne organizacije Forbidden jajo vlade od Španije do Savdske Arabije, in nju in poslovanju tako rekoč brez zakonov in Stories, je potrdil virus na več deset telefonih sicer z njim grozijo predvsem zagovornikom predpisov. s seznama.) Pegasus so našli na telefonih no- človekovih pravic, novinarjem, odvetnikom Shane Huntley, eden iz vodstva skupine za vinarjev iz Indije, Jordanije, Armenije, Toga in drugim – danes dobro dokumentiran. Z analizo groženj, je na blogu omenil vrsto vla- in Dominikanske republike, vsaj šestih pale- valom podrobnega opazovanja in sankcij dnih dogovorov za omejitev škode zaradi vo- stinskih zagovornikov človekovih pravic, od so razkrili tajno, le napol legalno industrijo hunske programske opreme, hkrati pa izrazil katerih je eden ameriški državljan, in na tele- za temi orodji in finančno pritisnili na pod- tudi upanje, da bodo tem uvodnim korakom fonu dveh žensk, ki sta bili zelo blizu umor- jetja, kot je izraelska NSO Group, ki je Pega- sledili konkretnejše ukrepanje širše skupno- jenemu savdskemu odpadniku Džamalu Ha- sus razvila. sti držav, reforma panoge in glasnejše opo- šokdžiju. Po oceni analize raziskovalne sku- Kljub temu posel cveti. Nova raziskava, ki zarjanje na zlorabe. pine Forensic Architecture, ki se na londonski sta jo pred nekaj meseci objavila Google in Kibernetični pohlepneži in višji predstav- univerzi ukvarja z raziskavami človekovih Meta, nakazuje, da se kibernetični napadi niki obveščevalnih služb opozarjajo na upo- pravic, je bila vohunska programska oprema kljub novim omejitvam povečujejo, postaja- rabo teh orodij pri kazenskem pregonu ter vpletena v najmanj 300 primerov telesnega jo nevarnejši, podpirajo vlado pri njenem na- v boju proti terorizmu in na desetine držav nasilja. silju in represiji ter načenjajo demokracijo po vsem svetu. »Ta panoga je izjemno uspešna,« je pove- U S temi orodji države sledijo zločincem ter dala Maddie Stone, raziskovalka v Googlovi skupini za analize groženj, ki išče ranljivost osumljenim terorizma, a osupljivo veliko in varnostne luknje, torej programske hro- raziskav in poročanja je dokazalo, da jih šče, da jih odpravi. Za prodajalce vohunske programske opreme so ti hrošči včasih vre- pogosto uperijo tudi proti novinarjem, dni tudi več sto milijonov dolarjev. »Poja- vlja se vse več podjetij in njihovi vladni kupci zagovornikom človekovih pravic in so odločeni skleniti posel. Zahtevajo takšne pripadnikom opozicije. možnosti in jih tudi uporabijo.« Prvič v zgodovini polovico teh varnostnih lukenj v Googlovih in Android izdelkih od- jih skrivaj uporablja, da z njimi sledijo zlo- »Škoda ni samo hipotetična,« poudarja krijejo oziroma jih plačajo zasebna podjetja, čincem ter osumljenim terorizma, vključno Stonova. ugotavljajo v poročilu, ki ga je objavila eki- z mamilarskim kraljem, znanim pod vzdev- Bidnova administracija je po letu 2021 na pa Stonove. Googlovi raziskovalci poleg zna- kom El Chapo. A osupljivo veliko raziskav in črni seznam uvrstila več podjetij za vohun- nih podjetij, kot sta NSO in Candiru, sledijo poročanja je dokazalo, da ta orodja pogosto sko programsko opremo in prepovedala pre- še okoli 40, ki so vpletena v razvoj orodij za uperijo proti novinarjem, zagovornikom člo- nos ameriške tehnologije nanje, letos pa je še vdor, uporabljenih pri 'uporabnikih z visoko vekovih pravic, pripadnikom opozicije, vča- zaostrila stališče do udeležencev v tem po- stopnjo tveganja'. sih v okviru neusmiljenega pogroma proti slu. Dan pred objavo Googlovega poročila Med 72 luknjami, ki jih je Google odkril njim. je ameriško zunanje ministrstvo napoveda- med letoma 2014 in 2023, jih je 35 pripisal Raziskovalci ocenjujejo, da državne agen- lo nove omejitve pri vizumu za ljudi, ki sode- njim in drugim udeležencem v panogi, ne pa cije v kar 46 državah – med njimi v Španiji, lujejo v zlorabi komercialne vohunske pro- akterjem z državno podporo. Indiji in Savdski Arabiji – tako ali drugače gramske opreme, in njihove družinske čla- »Če so vlade res kdaj imele monopol nad uporabljajo Pegasus. Novinarji so leta 2020 ne ter dodatne omejitve pri dostopu razvi- najsodobnejšimi zmogljivostmi, je tega ob- pridobili seznam 50 tisoč telefonskih številk, jalcev te opreme do ključnega tehnološke- dobja nepreklicno konec,« tudi piše v poro- ki so jih stranke NSO izbrale za svoje tarče, ga sektorja. Zunanji minister Antony Blinken čilu. in na njem so bili vsaj trije predsedniki, deset je v izjavi za javnost poudaril, da vohunska SVET 2024 55 DOSJE DRŽAVNO PRISLUŠKOVANJE U Leta 2019 je Meta tožila skupino NSO, Nekatera podjetja nimajo spletnih strani in potem ko je odkrila, da je bilo 1.400 se skrivajo v zapletenih strukturah koncer- nov, da prikrijejo lastnike, vlagatelje in stran- uporabnikov Whatsappa žrtev ke. Candiru s sedežem v Tel Avivu je spreme- vohunskega orodja NSO. Apple je tožbo nil ime v Grindavik, potem v Taveta, nato v Saito Tech. Drugo podjetje, ki ga je prav tako vložil novembra 2021. izpostavil Google, DSRIF s sedežem na Du- naju, je avgusta lani nehalo poslovati, ven- dar njegovo delo vsaj delno menda nadalju- programska oprema »ogroža zasebnost in problematiko in pri tem poteptal našo kiber- je podružnica Machine Learning Solutions. svobodo izražanja, mirnega zbiranja in dru- netično varnost in zasebnost.« Podjetja se niso odzvala na novinarska ženja, povezana pa je tudi s samovoljnimi Google v svojem poročilu opisuje poveča- vprašanja ali pa niso bila dosegljiva. Podjetja priprtji, z izginotji in celo zunajsodnimi po- nje vohunskih rešitev po meri, ki jih ponuja na Googlovem seznamu: boji«. na desetine sumljivih podjetij. Najbolj so pod Raziskovalci varnostnih lukenj trenutno drobnogledom izraelska podjetja, ki izvaja-  Candiru, ustanovljen leta 2014, naj bi bil boj proti vohunski programski opremi še ve- jo kibernetične napade, kot sta NSO in Can- drugi največji izraelski razvijalec vohunske dno opisujejo kot globalni 'kdo bo koga' – diru, vendar Googlova analiza opozarja tudi programske opreme za NSO. Financirajo ga ko ujamejo enega krivca, se že pojavita dva na pohod manjših tovrstnih podjetij s sede- vlagatelji v NSO in katarska vlada, njegove nova. In odločni hekerji bodo seveda naredili žem v Evropi in Aziji. Med njimi so tudi bu- sisteme pa uporablja vrsta držav, med dru- vse, kar je mogoče, da se izognejo zaščitnim tična podjetja, 'popoldanski' hekerji, proda- gim Savdska Arabija, Izrael, Združeni arab- ukrepom. Podjetja se zato iz Izraela selijo v jalci podatkov o varnostnih luknjah in po- ski emirati, Madžarska, Indonezija in Uzbe- druge države, kjer ne velja tako strog nadzor dobni, ki so jih pri možganskem trustu Car- kistan. Novembra 2021 je ameriško minis- nad izvozom. negie Endowment for International Peace po- trstvo za trgovino Candiru in NSO dodalo na Kljub neugodnim posledicam ameriških imenovali sekundarna stopnja te panoge. V svoj črni seznam. kazni se nekateri podjetniki in podjetja ne Googlovem poročilu je omenjenih 11 podjetij morejo upreti donosnemu poslu. Po neki in devet hčerinskih družb; vsi so se pojavlja-  Cy4Gate, ustanovljen 2014, je specializi- oceni se je leta 2022 na globalnem trgu z vo- li že v starejših poročilih. Stonova in tiskov- ran za tehnologijo za ‚zakonito prestrezanje‘, hunsko programsko opremo obrnilo 12 mili- ni predstavnik podjetja nista pojasnila, zakaj kot je programska oprema Epeius za vdiran- jard dolarjev. niso našteli še drugih imen. je v sistema Android in iOS. Leta 2022 je ku- »Če bi skupina NSO jutri bankrotirala, bi Podjetja za vohunsko programsko opremi pilo sorodno italijansko podjetje RCS Lab, praznino poskušale zapolniti druge druž- predstavljajo le majhen del globalne pano- znano po vohunskih orodjih Hermit. Google be, morda tudi takšne, ki bi bile podprte z ge hekerjev, ki jih je mogoče najeti. (Iz I-So- in Meta sta delovanje RCS Lab zaznala v Ita- ameriškim tveganim kapitalom,« je na lan- ona, prodajalca programov za kibernetično liji, Kazahstanu, Azerbajdžanu in Mongoliji. skem zaslišanju v kongresu povedal John- varnost, ki je povezan z vlado, je pricurlja- -Scott Railton iz Citizen Laba. »Dokler ame- lo, da so nepridipravi leta 2021 in2022 izve-  The Intellexa Alliance deluje kot sti- riški vlagatelji na panogo z vohunsko pro- dli napade na vrsto zelo pomembnih vladnih čišče različnih podjetij za nadzor, med nji- gramsko opremo gledajo kot na rastoči trg, ciljev in odpadnikov po vsem svetu, delno mi so Cytrox, razvijalec Pegasusu podobne- bo ameriški finančni sektor samo podžigal to z vdorom v brezžična omrežja in naprave.) ga orodja Predator, podjetje za prestrezanje 56 SVET 2024 DRŽAVNO PRISLUŠKOVANJE DOSJE brezžičnih povezav in mobilnikov WiSpe-  Wintego Systems, ki so jih ustanovi- zlonamerne opreme, ki so jih zbrali razi- ar in Senpai, ki je specializiran za zbiranje li nekdanji zaposleni v Verintu, še ena izra- skovalci v njegovem možganskem trustu Ji- odprtokodnih podatkov. Junija 2021 so šti- elska družba, razvija napredne rešitve za ko- gsaw. Med njimi je Galina Timčenko, uredni- ri vodstvene delavce Nexa Technologies, munikacije, obveščanje in dekodiranje po- ca izgnanega ruskega neodvisnega novičar- članice Intellexe, na pariškem sodišču ob- datkov za vlado in domovinsko varnost. skega medija Meduza, ki je junija 2022, ko sodili zaradi sodelovanja pri mučenju. To se V brošuri družbe piše, da njena vohunska je bila doma v Rigi, dobila nenavadno sporo- je zgodilo desetletje po razkritju Wall Street programska oprema uporablja brezžično čilo Appla. V njem je pisalo, da je tarča napa- Journala, da je podjetje prodajalo nadzorno omrežje za pridobivanje zaščitenih podatkov dalcev po naročilu države, ki so si jo za tar- programsko opremo libijski vladi. Leta 2021 s spletnih računov (storitev v oblaku) in apli- čo verjetno izbrali zaradi njenega poklica in je Meta Cytroxu prepovedala uporabljati nje- kacij, vključno s popolno vsebino elektron- dela. Ker je bila vajena poskusov ribarjenja ne platforme, ameriško ministrstvo za trgo- skih sporočil, fotografijami, z dokumenti, s in onemogočenega dostopa do storitev, je o vino ga je na črni seznam uvrstilo leta 2023. klepeti, z dejavnostjo na družbenih omrež- tem preprosto obvestila svojo tehnično ekipo jih, s seznamom stikov in koledarjem. in pozabila na vse skupaj.  NSO Group s sedežem v izraelski Herzli- A v preiskavi, ki so jo začeli neprofitna or- ji, so razkrinkali leta 2016, ko je Citizen Lab Metina ekipa za odkrivanje groženj je ne- ganizacija Access Now in kibernetični detek- na telefonu Ahmeda Mansurja, zagovorni- davno ukrepala proti nekaj deset računom, ki tivi iz Citizen Laba, so kmalu ugotovili, da je ka človekovih pravic iz Združenih arabskih jih je odprlo osem podjetij za vohunsko pro- njen telefon okužil Pegasus, in sicer že mese- emiratov, odkril Pegasus. Po ocenah Pega- gramsko opremo iz Španije, Italije in Zdru- ce prej, le dan preden se je Timčenkova ude- sus Projecta naj bi ta vohunska program- ženih arabskih emiratov. V četrtletnem poro- ležila tajnega sestanka ruskih izgnanih me- ska oprema vohunila za več sto člani civilne čilu, ki so ga objavili 14. februarja, so našteti dijev v Berlinu, da bi razpravljali o ruskem družbe. italijanska podjetja Cy4Gate, RCS Labs, Negg dopolnjenem zakonu o tujih agentih. Napa- Group, IPS Intelligence, španski Variston in dalci, katerih tarča sta bila Applov Home-  Negg Group, italijansko podjetje za njegovo podružnico TrueL IT pa Mollitiam KIt in iMessage, so dostop do njene napra- kibernetično varnost, je Kaspersky leta Industries in Protect Electronic Systems iz ve menda dobili med sestankom in ga verje- 2017 razkrinkal kot razvijalca zlonamerne Združenih arabskih emiratov. V Meti so po- tno imeli še nekaj tednov. Kompromitirani bi programske opreme VBiss in Skygofree za vedali, da so podjetja z lažnimi računi pobi- lahko bili občutljivo dopisovanje, podatki in sistem Android. Že samo z enim klikom ali rala podatke, izvajala družbeni inženiring in viri, medtem ko se Timčenkovi ni niti sanja- prek brskalnika okužita mobilne naprave, preizkušala svoje vohunske sposobnosti. lo, da je kaj narobe. tarče pa so odkrili v Italiji, Maleziji in Kaza- Med najbolj izstopajočimi vidiki Goo- Celo en sam zahrbten vdor – oziro- hstanu. glovega poročila so profili šestih žrtev ma že samo grožnja – predstavlja splošno  Paris Defense je podjetje za kibernetič- no varnost s sedežem v Istanbulu, ki poma- ga strankam reševati forenzične izzive v mo- U Mesece po tistem, ko je ameriško bilnem svetu, kot dejansko piše na njego- ministrstvo za trgovino NSO in Candiru vi spletni strani. Povezano je z izrabljanjem dveh nedavnih ranljivosti v iOS. uvrstilo na črni seznam, so v New York  QuaDream je leta 2014 ustanovila skupi- Timesu poročali, da je FBI Pegasus na, v kateri sta bila tudi nekdanja zaposlena nabavil za ‚testiranje‘. NSO. Razvil je vohunsko programsko opre- mo s kratico REIGN, ki med drugim omogo- ča snemanje klicev v realnem času ter akti- vacijo kamere in mikrofona, piše v brošuri. Aprila 2023 se je podjetje nenadoma zapr- lo po tem, ko mu je izraelska vlada prepre- čila, da bi svoje orodje izvažalo v tuje države, vključno z Marokom, in po tem, ko so razis- kovalci v Microsoftu in Citizen Labu poroča- li, da so z Reignom zalezovali novinarje, pri- padnike opozicije in organizacije za človeko- ve pravice po vsem svetu.  Variston Information Technology je nastal leta 2018 v Barceloni in je le malo pozneje kupil TrueL IT, italijansko podjet- je, specializirano za ranljivosti. Sodeluje z ironično poimenovanim Protect Electro- nic Systems iz Abu Dabija in v paketu pro- daja svojo vohunsko programsko opremo ter infrastrukturo. Aprila lani je strokovna publikacija Intelligence Online poročala, da je Variston stkal trdne vezi s kibernetično podružnico obrambne družbe Edge Group v lasti lastnikov iz Združenih arabskih emi- ratov. SVET 2024 57 DOSJE DRŽAVNO PRISLUŠKOVANJE  Na trgu z varnostnimi luknjami Tudi ameriške agencije so kupovale Pe- uradne predstavnike kot stranke, je poročal Zerodium je za zelo uporabno luknjo gasus in podobno vohunsko opremo. Mese- Financial Times. v Androidu mogoče iztržiti poltretji ce po tistem, ko je ministrstvo za trgovino NSO je svoj ugled v Washingtonu posku- milijon dolarjev, kar je pol milijona več NSO in Candiru uvrstilo na črni seznam, so šal zloščiti s sodelovanjem vplivnih lobistov, kot za podobno luknjo v sistemu iOS. v New York Timesu poročali, da je FBI Pega- tudi z nekdanjim svetovalcem Nacionalne sus nabavil za 'testiranje' in je razmišljal o iz- varnostne agencije. NSO je maja lani v pi- nevarnost. »Ko ciljajo na naše politične na- delku za ameriške telefonske številke, ime- smu ameriškemu pravniškemu združenju sprotnike, to škodi tudi nam, saj meče dvom novanem Phantom, ki ga je NSO pred tem opozoril na nevarnost zveznega moratorija na svobodne in poštene volitve,« je poudari- ponujal policiji. Cia je Pegasus kupila za vla- na komercialno vohunsko programsko opre- la Stonova. »In na vse nas vpliva, če so žrtve do Džibutija, so napisali v Timesu, in to kljub mo. »Popolnoma podpiramo prizadevanja novinarji in jih je zato strah razkrivati resni- vztrajnim pomislekom zaradi kršenja člove- za oblikovanje zakonskih okvirov za proda- co.« kovih pravic v tej državi. jo in uporabo komercialne obveščevalne teh- Kdo je vdrl v telefon Timčenkove? Osu- Ameriški urad za boj proti drogam je z nologije, vendar se bojimo, da bi z moratori- mljeni sta dve Pegasusovi stranki, Kazahstan Graphitom, izdelkom, podobnim Pegasusu, jem prevlado v panogi prevzela podjetja, ki ali Azerbajdžan, ki bi lahko delovali na pro- preganjal mamilarske kartele. Njegov razvi- poslujejo v okoljih z ohlapnejšo zakonodajo, šnjo Moskve, so povedali preiskovalci orga- jalec Paragon, ki ga podpirata nekdanji izra- s slabšim nadzorom in z manjšo motivacijo nizacije Access Now. A kolikor je znano razi- elski premier Ehud Barak in vsaj eno podje- za spoštovanje človekovih pravic, vključno s skovalcem, nobena od teh držav Pegasusa ni tje za tvegani kapital s sedežem v ZDA, Bat- podjetji s sedežem v Rusiji in na Kitajskem,« uporabila v Evropi, Timčenkova pa je bila v tery Ventures, je želel zakuhati škandal in je je zapisal svetovalec NSO Šmuel Sunraj. času vdora v Berlinu. Krivec bi utegnila biti leta 2021 najel dobro povezane WestExec Sporočila NSO so omenjala tudi vojno evropska država – Nemčija, Latvija in Estoni- Advisors, da bi hitreje prodrl na ameriški trg. med Izraelom in Hamasom: po napadu 7. ja so prav tako med potrjenimi Pegasusovi- Podjetje je celo spraševalo za nasvet, katere oktobra lani je izraelski časopis Haaretz po- mi kupci. druge države bi bile sprejemljive za ameriške ročal, da so izraelske varnostne službe zače- le vključevati podjetja, kot so NSO, Candiru in Paragon, da bi izsledile talce v Gazi. U Ko je skupina NSO po Hašokdžijevem »Tehnologija NSO podpira trenutni glo- umoru Savdski Arabiji onemogočila balni boj proti terorizmu v vseh oblikah,« je neki lobist podjetja novembra lani zapisal v dostop do Pegasusa, je Savdski pismu zunanjemu ministru Antonyju Blin- knu in prosil za izredni sestanek. »Ta priza- prestolonaslednik nemudoma poklical devanja so v skladu z večkrat ponovljenimi premierja Benjamina Netanjahuja in sporočili in ukrepi Bidna in Kamale Harris v podporo izraelski vladi.« Strokovnjaki za ki- dostop je bil spet omogočen. bernetično varnost niso bili prepričani o pri- mernosti zamisli o sledenju talcem in neki 58 SVET 2024 DRŽAVNO PRISLUŠKOVANJE DOSJE ameriški uradni predstavnik je za Fast Com- pany izjavil, da ameriška vlada ne načrtuje U Ko je Rusija napadla Ukrajino, je Izrael spremembe statusa skupine NSO na sezna- blokiral prodajo Pegasusa Ukrajini in mu tovrstnih poslovnih subjektov. Kljub vladnim omejitvam razmah kiber- izklopil možnost uporabe Estoniji, čeprav netičnih trgovinskih poslov kaže simbio- je ta za program, s katerim se je zo. Tako kot pri načrtnem širjenju dezinfor- macij je tudi panoga vohunske programske nameravala vtihotapiti v ruske telefone, opreme pogosto odvisna od znanja in do- miselnosti nekdanjih vladnih hekerjev, pro- plačala 30 milijonov dolarjev. dajalci pa vladam nudijo priročno oporo pri zanikanju. Pri Googlu pravijo, da finanč- 36 novinarjev Al Jazeere, katarske konku- več kot za podobno luknjo v sistemu iOS. no breme in tveganje za omadeževano ime renčne novičarske mreže.) Orožje, ki ga razvijejo na podlagi takšne lu- ob morebitnem razkritju namesto na kup- Izrael je uporabo Pegasusa omejil tudi knje, stranke stane še par milijonov več, do- ko, to je vlado, padeta na prodajalca, zara- iz strahu, da bo razjezil druge zaveznike, dane pa so mu še druge funkcije po meri di česar se morda poveča verjetnost upora- vključno s Kremljem. Ko je Rusija napadla uporabnika. be teh orodij. Ukrajino, je Izrael blokiral prodajo Pegasusa Zaradi številnih prijav zlorabe so Goo- Izraelska panoga kibernetičnih napadov, Ukrajini in izklopil možnost uporabe Estoni- gle in druga podjetja morali začeti bolj pro- ki velja za najboljšo na svetu, ni le v ponos ji, čeprav je ta za program, s katerim se je na- aktivno ukrepati proti varnostnim luknjam. uradnim predstavnikom, temveč tudi orodje meravala vtihotapiti v ruske telefone, plača- Pridružili so se raziskovalcem ter novinar- realpolitike. Tako kot prodajo konvencional- la 30 milijonov dolarjev. jem pri razkrivanju prodajalcev in pojasnje- nega orožja tudi izvoz orodij za hekerje nad- Na začetku dobavne verige kibernetične- vanju, kako deluje njihovo orožje. Apple je zoruje država. Izrael je prodajo Pegasusa ru- ga orožja je pogosto raziskovalec, ki je od- leta 2021 začel pošiljati opozorila morebi- tinsko uporabljal za zbiranje podpore med kril dotlej neznana stranska vrata v opera- tnim tarčam, kot je bila Timčenkova, lani pa drugimi državami v OZN in v svoji kampa- cijski sistem. Lahko bi pomagal izboljšati sis- nji proti Iranu. Ko je skupina NSO po Hašok- tem, na primer tako, da bi skrbnikom sporo-  Pegasus, poimenovan po krilatem džijevem umoru Savdski Arabiji onemogoči- čil ta podatek ali ga posredoval programu, konju iz grške mitologije, v mobilniku la dostop do Pegasusa, je Savdski prestolo- ki za takšno odkritje ponuja nagrado. Tre- pristane s kratkim sporočilom, se lahko naslednik nemudoma poklical premierja Be- tja možnost je, da najdbo proda posredni- brez vašega vedenja zakoplje v vašo njamina Netanjahuja in savdski dostop je bil kom ali prodajalcem, kot je NSO. Na trgu z napravo, se v njej skriva dneve ali celo spet omogočen. (Malo pozneje so raziskoval- varnostnimi luknjami Zerodium je za zelo tedne, vmes pa v realnem času skrbno ci Citizen Laba ugotovili, da je Savdska Ara- uporabno luknjo v Androidu mogoče iztržiti snema vse – sporočila, fotografije, šifrirane klepete, slikovne in zvočne bija Pegasus uporabljala za vdor v telefone poltretji milijon dolarjev, kar je pol milijona posnetke. SVET 2024 59 DOSJE DRŽAVNO PRISLUŠKOVANJE opreme in je število dovoljenih držav odje- U Po neki oceni se je leta 2022 na malk omejila na 37 s prejšnjih 110, zaradi če- globalnem trgu z vohunsko programsko sar se je nekaj tamkajšnjih podjetij znašlo v finančnih težavah, najmanj tri pa so že ban- opremo obrnilo 12 milijard dolarjev. krotirala. NSO se je prav tako opotekal na robu bankrota in leta 2022 je soustanovitelj Šalev Hulio v valu odhodov iz podjetja od- uvedel zaklenjeni način, dodatno opcijsko vohunske programske opreme. Ministrstvo stopil s svojega položaja. funkcijo za iOS in MacOS, s katero je mogo- za trgovino je lani na svoj seznam dodalo še No, NSO nadaljuje razvijanje svoje vohun- če zmanjšati zlorabe zaradi varnostnih lu- Cytrox in Intellexo, predsednik Biden pa je ske programske opreme, ima nove lastnike kenj. Leta 2019 je Meta tožila skupino NSO, izdal uredbo, s katero je ameriški vladi pre- in vnovič upa na dobiček. Wall Street Jour- potem ko je odkrila, da je bilo 1.400 uporab- povedal uporabo komercialne vohunske pro- nal je maja lani poročal, da so upniki NSO – nikov Whatsappa žrtev vohunskega orodja gramske opreme, sploh tiste, pri kateri je ve- med katerimi sta tudi Credit Suisse in Sena- NSO. Apple je tožbo vložil novembra 2021 in liko možnosti, da jo bodo neprimerno upo- tor Investment Group – posodili dodatne mi- NSO opisal kot nemoralnega lakomneža 21. rabljale tuje vlade ali tujci. (Bidnova admini- lijone in sodelujejo s soustanoviteljem NSO stoletja, ki je razvil izjemno napredno maši- stracija je povedala, da je v tujini žrtev zlona- Omrijem Laviejem. Po podatkih v registru je nerijo za kibernetično rutinsko in nebrzdano merne opreme preverjeno postalo več kot 50 edini delničar v matični družbi NSO luksem- nadzorovanje ter s tem zlorabljanje uporab- ameriških državnih uslužbencev.) burški holding, ki je v lasti Lavieja. Menda je nikov. (Kalifornijski sodnik je zavrnil vlogo Ukrepale so tudi druge države. Dan po ti- prevzel tudi vodenje podjetja in odpustil vr- NSO za opustitev primera.) stem, ko so ZDA predstavile nove omejitve sto vodstvenih delavcev. Stonova velike tehnološke družbe lahko pri vizumih za proizvajalce vohunske pro- Googlov predstavnik za javnost je pohvalil pohvali, ker so odkritejše o pomanjkljivostih gramske opreme, je skupina 35 držav pod nove vizumske omejitve v ZDA, ki so še pose- v svojih sistemih. S tem ščitijo uporabnike in vodstvom Združenega kraljestva in Franci- bej uperjene proti posameznikom, kot je La- zvišujejo stroške podjetjem, ki prodajajo vo- je podpisala sporazum o preprečevanju šir- vie. Vseeno so potrebni še odločnejši ukrepi, hunsko programsko opremo, kar jih prisili, jenja in neodgovorne uporabe komercialnih pravijo pri Googlu, in zato vlade, vključno z da morajo svojim varnostnim luknjam po- kibernetičnih orodij in storitev za vdiranje v ameriško, poziva, naj razkrijejo svojo zgodo- svetiti več časa. tuje naprave. Predstavniki iz Madžarske, Me- vino uporabe teh orodij. »Še pred nekaj leti smo kot panoga in bra- hike, Španije in Tajske – držav, ki so poveza- »Dokler je povpraševanje po nadzoro- nilci imeli veliko jasnejšo podobo o tem, kaj ne z zlorabami vohunske programske opre- vanju, bodo podjetja motivirana za nadalj- se dejansko dogaja in kaj počnejo hekerji,« je me – sporazuma niso podpisali, Izrael se sre- nji razvoj in prodajo orodij ter sodelovanje pojasnila Stonova. čanja ni udeležil. v panogi, ki ogroža uporabnike s tako ime- ZDA so tudi naredile vrsto korakov proti Izraelska vlada je zaradi sankcij pripra- novano visoko stopnjo tveganja in družbo na posameznim družbam in načinom uporabo vila lastne ukrepe za omejevanje izvoza te sploh,« še dodajajo pri Googlu.  60 SVET 2024 NOVE TEHNOLOGIJE 62 SVET 2024 NOVE TEHNOLOGIIJJE Umetna inteligenca mora dobiti stik z resničnim svetom Kdo ima glavno besedo, vaši možgani ali telo? Odgovor se morda zdi na dlani, vendar veliko dokazov namiguje, da je naša fiziologija močno vplivala na naš način razmišljanja. Predstava o utelešeni kogniciji morda skriva pomembna spoznanja za vse, ki si prizadevajo sestaviti dejansko inteligentne naprave – oziroma umetno inteligenco (UI), ki se uči, razmišlja in svoje znanje tako kot človek lahko posploši na vse mogoče naloge. Edd Gent, New Scientist osh Bongard, robotik na univerzi v Velika kopenska žival, na primer, visoke pe- razumevanju so luknje v zvezi z resničnim D Vermontu, sodi med tiste, ki so pre- čine in vodo dojema kot nevarnost, leteče ži- svetom. Tisti, ki delamo z utelešeno umetno pričani, da bo UI svoje obljube iz- vali pa imajo pečino za odlično zaletišče, žu- inteligenco, lahko izpostavimo, da ChatGPT polnila le, če bo neposredno zaznavala fi- želke vodo vidijo kot nekaj, po čemer lahko ni zmožen poseči v fizični ali družbeni svet zični svet in vzajemno delovala z njim. Sis- hodijo. ter izkusiti njunega odziva na to. temi UI, kot je ChatGPT, ki s svetom sodelu- Nekaj najpreprostejših izhodišč o povezavi Trenutna UI se obnese pri sestavljanju po- je le prek abstraktnega medija jezika, so da- med telesom in načinom razmišljanja se skri- dob, posnetkov in odgovorov na vprašanja, ne leč od tega. Kakorkoli že, področje uteleše- va v jeziku. Ljudje imamo oči uperjene na- zmore pa storiti ničesar oprijemljivega. Nima ne umetne inteligence si prizadeva za zdru- prej, ko hodimo in opazujemo predmete ter dostopa do resničnega sveta, ne ve, kaj delu- žitev UI in robotike, na čelu teh prizadevanj položaje, ki bodo čez hip naša prihodnost. je in kaj ne, kar je pomemben vidik inteligen- pa je Bongard. Po njegovem mnenju bi morali vnovič raz- misliti o pristopu do obeh disciplin. Če bi kle- U Če je načrt za preprostega robota mogoče petalnega robota na osnovi UI preprosto zve- zali z robotsko roko, kot je to naredil Goo- v pol minute izdelati na prenosniku, lahko gle s svojim sistemom Palm-e, najbrž to ne bi bilo dovolj. Bongard se zato raje posveča začnemo razmišljati, kako bi z enakim evolucijski robotiki, ki načela naravne selek- postopkom zasnovali zapletenejše in cije posnema v zasnovi robotov, pogosto iz- delanih iz mehkih materialov. Poleg tega je zmogljivejše robote. tudi član ekipe, ki iz živih celic sestavlja pre- proste biološke robote, znane kot ksenobote, ki ne opravljajo le temeljnih nalog, temveč To pomeni, da ljudje gledamo tedne ali leta ce. Snovanje novih zamisli je razmeroma pre- lahko tudi vzajemno delujejo s svojim oko- vnaprej oziroma se z obžalovanjem ali hre- prosto, a prava vrednost človeške inteligence ljem in se odzivajo nanj. peneče spominjamo preteklih dogodkov. je ravno v tem, da smo zmožni prikazati, kako Bongard je za New Scientist pojasnil, da ta Celo pri abstraktnem razmišljanju, kot je bi zamisli dejansko delovale v praksi. prizadevanja osvetljujejo čisto drugačen na- matematika, govorimo o manipulaciji enač- čin razmišljanja o utelešeni kogniciji in raz- be. Koren te besede se nanaša na roko (ma-  Bi zadostovalo, če bi velik jezikovni model, lago, kaj šteje kot robot. To bi lahko vpliva- nus v latinščini pomeni roka, op. prev.) in ve- podoben kot sistem UI, na podlagi katerega de- lo tudi na naš pristop do sestavljanja inteli- liko matematikov poroča, da si predstavljajo, lujejo ChatGPT in podobni klepetalni roboti, po- gentnih naprav. kako z rokami razstavljajo in vnovič kombi- vezali z robotskim telesom, kot je Google sto- nirajo matematične koncepte. ril s Palmom?  Kako telo vpliva na način razmišljanja in Povezava med telesom in načinom raz- učenja? mišljanja ni vedno očitna in je nekaj, česar Mislim, da odgovora trenutno ne pozna nismo zares vgradili v naprave. Po mojem nihče. Poglablja se zavedanje, da moramo Josh Bongard: Kako ljudje dojemamo svet, mnenju je to manjkajoča sestavina v vseh teh utelesiti velike jezikovne modele ali pa mora je večinoma posredno ali neposredno pod izjemno zmogljivih, pa kljub temu presene- UI dobiti stik z resničnim svetom. Palm je vplivom naše fiziologije. Svoja telesa upo- tljivo pomanjkljivih inteligentnih tehnologi- ena od metod, po kateri bi, povedano pre- rabljamo, da se odzivamo na svet, s čutili pa jah: pomanjkanje telesa in vpogleda v pove- prosto, naredili velike možgane v ohišju in opazujemo, kako se svet odziva na nas. Ta zavo med resničnim svetom in svetom inteli- jih povezali z zapleteno napravo (v konkre- zanka povratnih informacij razkriva, kako gence, abstrakcije, sklepanja in kognicije. tnem primeru z vzvodom s kavljem, ki lahko se učimo o svetu, pomeni pa tudi, da različ- Zaznati je mogoče, da imajo nekate- pobira predmete). Samo ugibamo lahko, ali na telesa pridejo do različnih posledic akci- ri umetnointeligenčni sistemi temelj- bo to delovalo dolgoročno, zagotovo pa mati je in reakcije in se zato o svetu učijo drugače. ne pomanjkljivosti. V njihovem znanju in narava to počne drugače. SVET 2024 63 NOVE TEHNOLOGIJE s poskusi mogoče omejiti. Mogoče je razviti U Prva leta letalstva se je večina zamisli UI, ki svoje robotske zasnove spremlja v si- sukala okrog tega, ali bi izdelali velik mulacijah, in če z njimi ne doseže cilja, UI lahko postopku sledi v obratnem vrstnem trup, ki bo mahal s krili, ali majhnega. redu in v robotovo telo ter odkrije točno tisto Odgovor bratov Wright je seveda bil, da točko, na kateri se je zalomilo. Dokazali smo, da je s tem mogoče po- ne eno ne drugo. spešiti razvoj robotov v simulaciji, in sicer z dveh tednov na superračunalniku na pol mi- nute na prenosniku. Algoritem, ki tako na- Začne preprosto. Večina živali življenje Narava je z vsemi svojimi fizičnimi oblikami, stane, resda snuje razmeroma preproste ro- začne kot posamezne celice, ki se nato de- ki jih razkriva, izredno ustvarjalna, vendar bote, ki se pač malo premikajo naokrog. A lijo in se specializirajo, tako da žival počasi nam je ni treba nujno posnemati. če je načrt za preprostega robota mogoče dobiva tako bolj zapletene možgane kot telo. Delam na področju evolucijske robotike in v pol minute izdelati na prenosniku, lahko Narava ima dobre razloge za to. Ko otroka UI prosimo, naj zasnuje ne le robotovih mo- začnemo razmišljati, kako bi z enakim po- učimo kolesariti, ga ne posadimo na veliko žganov, temveč tudi njegov telesni ustroj – stopkom zasnovali zapletenejše in zmoglji- kolo. Kolesu dodamo pomožna kolesca, za- kombinacijo telesa pod nadzorom desne po- vejše robote. četniku olajšamo nalogo. Vaš razvoj so vaša lovice možganov za neko nalogo. Večina ro- pomožna kolesca. Po mojem mnenju naveza botikov sestavlja evolucijske izdelke, v evolu-  Kakšni bi bili videti takšni roboti? zapletenega telesa in možganov, ki jih bodo cijski robotiki pa poskušamo poustvariti evo- nato povezali v celoto ter držali pesti, naj- lucijo. In med tem postopkom nastajajo nova Veliko mojih kolegov dela na razmeroma brž ni primeren obrazec za dolgoročno uspe- robotska telesa in možgani, kot jih v naravni novem področju, znanem kot mehka robo- šnost. še nismo videli. tika. Roboti tako niso iz kovine in keramike, temveč gume, silikona in drugih mehkih ma-  Kakšno telo naj dobijo roboti?  Evolucija traja dolgo, zato jo pospešimo s si- terialov. So votli, da jih je mogoče napihniti mulacijami. Postopek je uspešen za preproste in tako povečati. To sodi k zabavnemu delu naslednje sto- robote in okolja, pa bi si z njim lahko poma- Mehka robotika je zelo obetavna tehnolo- pnje ustvarjanja inteligentnih naprav. Če je gali tudi pri reševanju bolj zapletenih nalog in gija resničnega sveta, ki nam omogoča izde- telo pomembno pri inteligentnem in var- zagat? lavo varnejših robotov že samo zato, ker so nem vedenju v resničnem svetu, kakšno bi mehki. To hkrati pomeni, da je mogoče spre- bilo najprimernejše za posamezne naloge? Ni nujno, da posnemamo evolucijo, kot se minjati njihovo obliko in velikost. Mogoče Prva leta letalstva se je večina zamisli suka- dogaja v resničnem svetu. Biološka evoluci- jim je izvleči roke, noge, prste in orodje, nato la okrog tega, ali bi izdelali velik trup, ki bo ja je slepa in napreduje z naključnimi muta- pa jih vnovič skrčiti, ko jih ne potrebujemo mahal s krili, ali majhnega. Odgovor bratov cijami. Oktobra lani smo objavili razpravo, v več. Vidim torej veliko napredka v znanosti Wright je seveda bil, da ne eno ne drugo. kateri smo prikazali, da je napake pri metodi o materialih, zaradi katerega lahko robote 64 SVET 2024 NOVE TEHNOLOGIJE izdelujemo iz bolj eksotičnih materialov in mu je naročila umetna inteligenca. Nato je odbijajo. A so samo koža žabe in srčne celice, mešanice mehkih ter togih sestavin. svoje bitjece izpustil na prostost in ksenobot nimajo možganov. Posamezne celice se še ni- se je sprehajal po dnu petrijevke. koli prej niso znašle v takšni razporeditvi, pa  V zadnjih letih raziskujete tudi možnosti se- vseeno nekako doženejo, kaj naj storijo. Spo- stavljanja robotov iz živih materialov. Kako je to  Dosežek je nedvomno dih jemajoč. Pa roboti razumevajo se med seboj, in sicer električno, delo povezano z utelešeno umetno inteligenco iz biološkega materiala sploh lahko postanejo kemično in mehanično, se medsebojno odri- in evolucijsko robotiko? kaj več od raziskovalne zanimivosti? vajo in privlačijo. Kot kaže, tudi sodelujejo, da naredijo, kar od njih hoče UI. Sodelujem z Michaelom Levinom s Tuftso- Še vedno gre za razmeroma preprosto Inteligenca se skriva v celicah. To je na- ve univerze v Massachusettsu, ki je prikazal, znanost. Kljub temu bi me presenetilo, če or- prava, sestavljena iz inteligentnih naprav. da je s telesno zasnovo živali laže manipuli- ganizmi, kot jih sestavi UI, ni bi bili nekoč In tako predlaga popolnoma nove metode rati, kot smo mislili. V mislih imam kirurško uporabni. So zelo majhni in takšne robotke za izdelavo inteligentne tehnologije. Ljudje presajanje tkiva v živalskem zarodku, ki bo bi lahko poslali marsikam, da bi se razgleda- nas pogosto sprašujejo, kako programiramo v številnih primerih zraslo v odrasel organi- li, si vse zabeležili in se vrnili z uporabnimi te robote, ob čemer se samo nasmehnemo in zem, po videzu in vedenju precej drugačen podatki. Vendar je iz običajnih sestavnih de- odgovorimo: »Ravno to je bistvo.« Ni progra- od običajnih primerkov vrste. Mike je prika- lov težko izdelati zelo majhne naprave, ki pa miranja, v teh robotih ni drobnega biološke- zal, da je mogoče kirurško prestaviti oči v za- so tudi biološko kompatibilne in razgradlji- ga računalnika. Ni razlike med krmilnikom rodku žabe, tako da ima odrasla žival oči na ve, zato lahko govorimo o ekološko prijazni naprave in samo napravo. hrbtu. tehnologiji. Torej imamo morda že od začetka napa- Pred okoli šestimi leti sem začel sodelo- čen pristop. Čemur običajno rečemo mož- vati z Levinovim laboratorijem in se vpra-  Kaj nam lahko povedo o vlogi, ki jo pri inte- gani, je morda le podporna struktura, ne pa šal. »Če si človeški biolog lahko izmisli način, ligenci igra morfologija? središče za ukaze in krmiljenje. Možgani se- kako prerazporediti živo tkivo in tako ustva- salcev so med najnovejšimi izumu matere riti nov organizem, bi lahko tudi UI pripra- Že zdaj nam lahko veliko povedo o nara- narave. Telo pa obstaja že zelo dolgo, zato je vili do tega, da bi si ga izmislila? Tako smo vi utelešenja in inteligenci. Kažejo zamet- mogoče, da večina inteligence tiči v telesu, UI prosili, naj celice žabje kože in srca pove- ke inteligence, zanimajo jih določene stva- možgani pa zgolj omogočajo ali okrepijo to že v takšnem vzorcu, da bo nastalo nekaj, ri v neposredni okolici, medtem ko jih druge latentno inteligenco.  kar hodi po dnu petrijevke. Srčno tkivo se krči in razteza, zato lahko deluje kot majhni bati ali motorček. Umetna inteligenca je pri- bližno dva tedna na superračunalniku preiz- U »Presenetilo bi me, če organizmi, kot jih kusila na milijone različnih razporeditev. Na sestavi UI, ni bi bili nekoč uporabni. So koncu nam je ponudila kratek posnetek vir- tualnega žabjega robota. Posredovali smo ga zelo majhni in takšne robotke bi lahko mikrokirurgu v Mikovem laboratoriju, ki je poslali marsikam.« nekaj ur pedantno presajal celice tja, kamor SVET 2024 65 NOVE TEHNOLOGIJE Holografski usmerjevalnik Wi-Fi V prazni okrogli stekleni posodi, ne veliko večji od bučke za ribe, se pojavi tridimenzionalni obraz in se nasmehne, kot bi ga pričarali iz lebdečega prahu slikovnih točk. Spominja na klasični trenutek s hologramom iz izvirnega filma Vojna zvezd, le da namesto posnetega videosporočila hologram spremljamo v živo, kot 'holoklic'. Nate Berg, Fast Company aprava, ki omogoča takšne futu- Deutsche Telekom, eden največjih ponu- Deutsche Telekom je v svojih navodilih N ristične klice, je več kot znanstve- dnikov telekomunikacijskih storitev v Evropi razvijalcem izpostavil, naj si zamislijo razli- na fantastika, je delujoč prototip, in večinski lastnik ameriškega operaterja T- čice usmerjevalnika, ki zmore nekaj več, naj ki so ga razvili v londonskem oblikoval- -Mobile, je jeseni 2022 podjetje Layer prosil, mu dodajo funkcije in izboljšajo uporabni- skem podjetju Layer ob sodelovanju z De- naj 'preobrazi' enega bistvenih, vendar neko- ško izkušnjo. »Trenutno uporabniki z usmer- utsche Telekom Design & Customer Experi- liko premalo cenjenih elementov telekomu- jevalnikom ne počnejo nič, razen ko mora- ence. Pred kratkim so jo kot del koncepta T, nikacij – usmerjevalnik. jo pritisniti na gumb, da ga ponastavijo,« je linije konceptnih izdelkov, namenjenih se- »Vsako gospodinjstvo potrebuje usmerje- povedal Hubert. »Če bi bil usmerjevalnik na- znanjanju javnosti z zmogljivostmi teleko- valnik, zato je postal izvrstno izhodišče za prava, s katero bi lahko počeli še kaj, kako bi munikacijskih naprav, predstavili na sve- projekt konceptne naprave, da preverimo, kaj to vplivalo na njegovo zasnovo in s tem na tovnem kongresu mobilne telefonije. Lini- je mogoče storiti z njim, da bi pridobil boljše obliko ter tudi na končni videz?« ja poleg hologramske naprave obsega tudi mesto v ospredju, namesto da se praši nekje Iz takšnega razmišljanja so se porodili tri- prilagodljiv in modularni sistem za nadzo- v ozadju,« je pojasnil ustanovitelj in kreativ- je futuristični usmerjevalniki koncepta T. rovanje internetnih omrežij znotraj doma ni direktor Layerja Benjamin Hubert. »Obi- Prvi je domači pomočnik Buddy, ki združu- in robotskega tovariša, ki ga poganja ume- čajno je nekje v kotu, za televizorjem, v oma- je usmerjevalnik na podlagi umetne inte- tna inteligenca. ri. Upravičeno, saj tiho opravlja svoje delo.« ligence in robota na glasovno upravljanje. 66 SVET 2024 NOVE TEHNOLOGIJE Lahko se premika po hiši in namesto stano- valcev opravi avtomatizirane malenkosti, kot U Če bi bil usmerjevalnik naprava, s katero je uravnavanje temperature in svetlobe. Ro- bi lahko počeli še kaj, kako bi to vplivalo bot bo opremljen z napredno senzorsko teh- nologijo, zato bo vedel, kdaj je treba zaliti na njegovo zasnovo in s tem na obliko ter rožo in prepoznal primer za nujno medicin- sko pomoč. tudi na končni videz? Drugi bolj eksperimentalni usmerjevalnik je Level, sistem, ki ga je mogoče prenasta- oprijemljiv,« je pojasnjeval. »Prav gotovo je vljati, sestavljajo pa ga modularni elemen- več kot samo koncept, saj deluje, kot je pred- ti, s čimer imajo uporabniki večji nadzor nad videno.« svojo internetno povezavo. Preprosti osnovi Naprava holoklice omogoča zaradi vse je mogoče dodati več modulov, kot so sen- bolj razširjenih kamer, ki zaznavajo tudi glo- zorji gibanja, dihanja in drugih biometričnih bino in so že na voljo na nekaterih pametnih meritev na osnovi Wi-Fija in mrežnega pona- telefonih. Več projektorjev v krogli projici- vljalnika. Vsak skulpturni modul bo mogo- ra video na zelo tanko in prosojno membra- če nadgraditi in nadomestiti, ko bo tehnolo- no, ki niha vertikalno znotraj okvirja. Proji- gija napredovala, poleg tega pa je tudi ličen cirane podobe razbije na sloje, ki se jih pro- okras na polici. jicira na membrano, medtem ko se premi- Najbolj futuristični usmerjevalnik je View, ka, da poustvari tridimenzionalnost posnet- hologramska naprava, ki omogoča holokli- ka v približno takšni ločljivosti, kot so vide- ce in v svoji zaobljeni obliki prikaže tridimen- oigre iz 80. let. zionalne podobe. Uporabljati jo je mogoče za »Mogoče bi to lahko opisali kot tridimenzi- projekcijo podatkov o usmerjevalniku, recimo onalno tiskanje s svetlobo. Tridimenzionalno vizualnih možnosti, ki jih ponuja oprema za o uporabi omrežja, a tudi za naprednejše pri- tiskanje poteka v slojih materiala, projicira- razširjeno resničnost, kot je Applov naglavni kaze, na primer prijateljeve podobe ali točno nje pa v slojih svetlobe,« je svojo razlago do- komplet Vision Pro, vendar Hubert zatrjuje, določenega mesta na živahni železniški posta- polnil Hubert. »Tako dobimo duhovom po- da z zamislimi, ki jih preverjajo v okviru tega ji, kjer se je uporabnik dogovoril za srečanje. dobno tridimenzionalno prosojno bitje, ki se koncepta, iščejo nove načine sporazumeva- Nenavadno, a zadnji Layerjev koncept ima pogovarja z vami in vam pomaha. Ob tem ne nja in deljenja. Tridimenzionalni prikaz z na- največ možnosti, da se uresniči. Oblikoval- morete, da se ne bi nasmehnili.« glavnim kompletom je primeren za nekatere ska ekipa Layerja in Deutsche Telekoma je Naprava lahko prikazuje tudi tridimenzio- okoliščine, vendar je včasih morda primer- sodelovala z veliko skupino tehnologov in nalne digitalne modele. »Prikaže vam lahko nejša vizualizacija, ko nismo ujeti v napravo partnerskih podjetij ter zasnovala delujoč zgradbo, ki bi jo radi najeli, posest, ki jo ku- ali povezani z njo. S tehnologijo, ki je mogo- prototip naprave, za katero Hubert pravi, da pujte, igrišče, ki ga nameravate obiskati, ali ča danes, se bodo pojavljali novi načine upo- lahko vse funkcije opravlja z že razpoložljivo tridimenzionalni zemljevid področja, ki bi rabe, je poudaril. tehnologijo. Zaobjema svetove oblikovanja, ga radi raziskali,« je povedal Hubert. »A smo »Pri razvijanju tehnoloških platform zače- uporabniškega vmesnika, uporabniške izku- šele na začetku, zato še preizkušamo, za kaj tek nikoli ne napoveduje konca,« je še dodal šnje in znanstvene fantastike. vse je uporabna.« Hubert. »Ne trdimo, da je ta tehnologija bolj- »Če razmišljamo o načinih uporabe, Neoster hologram v stekleni posodi se ša od virtualne resničnosti, je le drugačen je mogoče res še v oblakih, vendar je že morda zdi korak nazaj ali vsaj vstran od pristop.«  SVET 2024 67 NOVE TEHNOLOGIJE Avtomobilske baterije za mraz Prihodnost prometa bo električna, in to ne le za avtomobile, temveč za vse od dostavnikov do letal. A preden se bo to uresničilo, se mora tehnologija znebiti nekaterih bolečih točk, kot so polnjenje in baterije. Kristin Toussaint, Fast Company labost baterij za električna vozila je, primarno osredotoča na baterije za polete na Osnovne sestavine baterije so pozitivna S da se ne izkažejo vedno v skrajnih elektriko, načrtuje, da se bo razširil tudi na katoda, negativna anoda, separator in elek- vremenskih pogojih. To se je pokaza- električna vozila. Napredek pri njegovih ba- trolit – tekoča raztopina, ki prenaša ione sem lo to zimo, ko so se vozniki električnih vozil v terijah bi lahko pomenil, da bodo na boljšem ter tja; v primeru litij-ionskih baterij je to li- Chicagu spopadali s težavami s polnjenjem, z vsi načini električnega prevoza. tij. Ko je baterija polna, je ves litij v anodi, če manjšim dosegom in s krajšim trajanjem ba- je prazna, pa se ves litij premakne v katodo. terije v obdobju s temperaturami pod zmrz- Zakaj jim mraz ni všeč? Ionel Stefan, tehnološki direktor v Am- iščem. Vozniki se takšnim razmeram lahko Večina električnih in hibridnih vozil ima priusu, pravi, da so baterije kot ljudje: rade prilagodijo s spremembo navad, a še vedno litij-ionske baterije vgrajene z dobrim razlo- imajo zmerne temperature in ne marajo, če ostaja dejstvo, da imajo litij-ionske baterije v gom: imajo veliko energijsko gostoto, so raz- jih kdo sili, naj gredo prehitro ali prepoča- skrajnem mrazu in vročini dodatne težave – meroma lahke in njihova življenjska doba je si. V bateriji se nenehno odvijajo kemične re- poleg omejitev v zvezi z dometom in s težo. od 10 do 20 let. Poleg tega odlično delujejo akcije; pri izjemno visokih temperaturah se Proizvajalec baterij Amprius morda pozna tudi pri nizkih in visokih temperaturah – a v hitreje, zaradi česar se baterija lahko hitreje rešitev, do katere je prišel z uporabo silicija skrajnostih, kot so temperature pod ničlo in stara. Njeno polnjenje je v vročini zahtevnej- v celicah baterije. Čeprav se ta proizvajalec v hudi vročini, to ne velja več. še, ker se te reakcije še bolj pohitrijo in vse to povzroča, da so baterija in materiali, iz kate- U Baterije so kot ljudje: rade imajo zmerne rih je, manj stabilni. V hudem mrazu se zgodi ravno nasprotno: temperature in ne marajo, če jih kdo sili, reakcije v bateriji se upočasnijo in zmanjša se naboj, ki je shranjen v njej, s tem pa tudi do- naj gredo prehitro ali prepočasi. met. Temu se je mogoče zoperstaviti z dru- gačnim vedenjem. Na Norveškem, v hladni 68 SVET 2024 NOVE TEHNOLOGIJE deželi, ki pa hkrati vodi pri uvajanju elek- tričnih vozil, se vozniki lahko naučijo, kako se prilagoditi, na primer, da baterijo najprej ogrejejo ali polnijo čez noč. To je tam prepro- sto, med drugim zaradi velikega števila do- mačih polnilnic. A celo ta prilagoditev ne po- maga, da bi električni avti v mrazu ostali pri- ročni. Stefan je opisal značilno reakcijo v hladni bateriji. Elektrolitski material se zgosti ali postane bolj viskozen, zato ionov ne prevaja enako hitro. »Pri nizkih temperaturah je ško- dljivo tudi, če jo poskušate napolniti, saj vam to ne bo ravno uspelo, ob tem pa lahko celo tvegate, da se bo litij premaknil v anodo in se nakopičil na njenem vrhu,« je pojasnil. Tako lahko nastane dendrit, skup kovin, ki lahko seže do katode, če se dovolj dolgo po- večuje, in tako pride do električne povezave med njima ter kratkega stika v bateriji. Krat- ki stiki pa lahko povzročijo okvaro baterije ali celo požar. Kako silicij pomaga baterijam? Amprius, ki je pravzaprav nastal kot za- gonsko podjetje univerze Stanford, izdeluje ultra goste baterije, in sicer namesto grafita v U Lani so v neodvisnem laboratoriju anodi uporablja silicij. Grafit je prva izbira za potrdili, da ima Ampriusova baterija baterijske anode že od 90. let, saj ga je dovolj in je energijsko gost, vendar ima silicij deset- energijsko gostoto 500 WH/kg; Tesline krat večje shranjevalne zmožnosti. Težava je baterije dosegajo okoli 269 WH/kg. le, da se mu poveča prostornina, ker absorbi- ra litij – in to tudi do 300 odstotkov. »Razte- zanje in krčenje med praznjenjem in polnje- baterije dosegajo okoli 269 WH/kg. V Am- s prednostnimi nalogami. Za tovornjake, njem sodita med lastnosti, ki si jih pri bateriji priusu pravijo, da se njihove baterije z nič sploh velike s težkim tovorom, ki ga mora- ne želimo,« je povedal Stefan. na 80 odstotkov napolnijo v osmih minutah, jo prepeljati na dolgih razdaljah, pa je to ovi- Veliko proizvajalcev baterij tuhta, kako zdržijo pa dvakrat toliko kot grafitne bate- ra. Če dodajo več baterij, dodajo tudi težo. vgraditi silicij brez neugodnih učinkov (dva rijske celice. »Ne moreš dodati za pet ton baterij, če pa je primera sta Group14 in Sila Nanotechnolo- Prvi Ampriusovi kupci so iz panoge ve- največja obremenitev tovornjaka med 20 in gies). Nekateri so siliciju primešali grafit ali soljskih in električnih poletov, saj sta to po- 25 tonami,« je pripomnil Stefan. »Vsak kilo- ogljik, da bi dosegli večjo energijsko gosto- dročji, kjer je energijska gostota še kako po- gram šteje … Domet tovornjakov je res maj- to brez takšnega napihovanja. Amprius pa je membna, je povedal Stefan. Baterije za letal- hen.« Te težave je imel tudi Fordov F150 Li- ustvaril trirazsežnostno strukturo, ki omogo- ski promet morajo biti čim lažje, a še vedno ghtning: vozniki so poročali, da se je domet ča napihovanje. »Lahko se trudiš doseči, da dovolj zmogljive. Novembra lani si je Ampri- občutno zmanjšal, ko so na poltovornjak pri- se to ne bi dogajalo, ali pa to dopustiš, ven- us zagotovil naročila iz treh podjetij za elek- peli še prikolico. Energijsko gostejše baterije dar ne tako, da se vidi,« je razlagal Stefan. trična letala. A napredek pri lažjih, energij- so za nameček tudi lažje. Silicij izboljša delovanje baterije v mrazu: sko gostejših baterijah se bo prej ali slej po- Stefan se zaveda, da obstajajo še druge ker ima rahlo višjo voltažo kot grafit, je pol- kazal tudi v kopenskem prometu, torej v av- tehnologije za baterije, a zanj je odgovor ja- njenje pri nizkih temperaturah varnejše in tomobilih in tovornjakih. sen: silicij. »Mislim, da bo naslednja genera- ne pride do dendritov, ki povzročajo kratke Električni avti so težji od vozil, ki ima- cija električnih vozil v anodi imela vsaj malo stike v bateriji. Elektroliti so v mrazu resda jo motorje z notranjim izgorevanjem, kar silicija,« je komentiral. A težav s tem še ne bo še vedno lenobni, a se ni treba bati ogroža- prav tako vpliva na domet. Pri večini majh- konec, treba bo povečati tudi proizvodnjo. nja varnosti, in medtem ko se baterija ogre- nih avtov to ni velika težava – proizvajal- Ampriusove baterije za letala so že na voljo, va, se polnjenje pospeši. Ker so baterije s si- ci električnih vozil so se najprej osredotoči- medtem ko podjetje pričakuje, da jih bodo za licijevo anodo energijsko gostejše, se v hla- li na čim ugodnejšo ceno, lažje baterije ter s avtomobile začeli prodajati leta 2027 ali po- dnem vremenu izgublja manj energije. Med- tem lažje vozilo pa niso bili na vrhu seznama zneje.  tem ko večina baterij zaradi nizkih tempera- tur v povprečju izgubi štiri desetine energi- je, jim je v Ampriusu ta delež uspelo oklesti- ti na petino. U V Ampriusu pravijo, da se njihove baterije Dodajanje silicija v baterijo bi lahko pri- z nič na 80 odstotkov napolnijo v osmih pomoglo tudi k večjemu dometu in hitrej- minutah, zdržijo pa dvakrat toliko kot šemu polnjenju. Lani so v neodvisnem labo- ratoriju potrdili, da ima Ampriusova bate- grafitne baterijske celice. rija energijsko gostoto 500 WH/kg; Tesline SVET 2024 69 NOVE TEHNOLOGIJE Natisnjeno raketno gorivo Predstavljajte si, da se v dežju peljete v službo, in ko niste pozorni, se od nekod pojavi divjak in trešči v vaš avtomobil. Kot bi trenil, se sunkovito razpre varnostni meh in vam reši življenje. Varnostni meh se je tako hitro sprožil zaradi energijskega materiala, imenovanega natrijev azid, ki med kemično reakcijo, s katero se napolni meh, tvori dušik. A kaj so energijski materiali? Monique McClain, The Conversation, Fast Company ednje sodijo pogonska goriva, piro- raketno gorivo je izdelano podobno kot torta vendar bi inženirji potrebovali nove proizvo- M tehnika, gorivo in eksplozivna sred- – robot meša »testo«, ki je večinoma iz amo- dne metode, da bi lahko zasnovali tudi bolj stva, uporabljajo pa jih za različne nijevega perklorata, aluminija in gumastega zapletene oblike. namene, na primer za rakete, vžigalice, ra- veziva, nato pa ga prelije v ponev. Zmes se ketne pogone, potisni plin za orožje, termi- strdi v ponvi, medtem ko se peče v pečici. Rešitev je tridimenzionalno tiskanje tno varjenje, ognjemet in eksplozivna sred- Raketna goriva so največkrat valjaste obli- Tridimenzionalno tiskanje je v več pogle- stva za posebne učinke, kot jih vidite v naj- ke, le da imajo na sredini palico posebnega dih povzročilo revolucijo v proizvodnji. Raz- ljubših akcijskih filmih. prereza v obliki kroga ali zvezde. Ko se gori- iskovalci poskušamo ugotoviti, kako lahko Energijski materiali so najrazličnejših vo strdi, palico odstranijo in na sredini osta- izboljša učinkovitost energijskih materialov. oblik in velikosti, najpogosteje pa v trdi obli- ne odprtina. Pri tej vrsti tiskanja se material nalaga v slo- ki. Z gorenjem oziroma eksplozijo sprostijo To jedro vpliva na izgorevanje goriva, kar jih in tako nastane predmet. Omogoča obli- veliko energije, odvisno od njihove oblike in lahko spreminja potisk v motorju. Že samo ke po meri, uporabi se lahko različne mate- razmer, v katerih jih uporabimo. z drugačno obliko goriva je mogoče doseči, riale tudi v istem predmetu, prihranita se de- Sem predavateljica strojništva, ki preuču- da motor pospešuje, upočasnjuje ali ohranja nar in material. je energijske materiale. Njihova izdelava ni svojo hitrost. Vendar energijski materiali tudi za tridi- preprosta, vendar bi napredek pri tridimen- Vendar je pri tradicionalni »peki« omeje- menzionalno tiskanje predstavljajo precej- zionalnem tiskanju lahko olajšal prilagaja- na oblika. Ko se gorivo strdi, mora ostati mo- šen izziv. Nekateri so zelo viskozni in takšno nje in povečal možnosti znanstvene uporabe. žnost odstranitve palice; če ima ta preveč za- mešanico je iz tube z majhno odprtino težko pleteno obliko, lahko zlomite gorivno poga- iztisniti, saj je, kot bi skozi injekcijo poskuša- Vloga geometrije čo in potem izgoreva neenakomerno. li spraviti glino – pregosta je za ozko konico. Raven energije v materialih vpliva na nji- Oblikovanje goriva, da rakete letijo hitre- Poleg tega so energijski materiali lah- hovo obliko in sproščanje energije. Trdo je ali dlje, je živahno raziskovalno področje, ko nevarni, če z njimi ne ravnamo pravilno. 70 SVET 2024 NOVE TEHNOLOGIJE Lahko se vnamejo, če se med proizvodnjo ali skladiščenjem temperatura preveč zviša, enako velja, če so izpostavljeni statičnemu električnemu šoku. Najnovejši dosežki Raziskovalcem je v preteklem desetletju kljub vsemu uspelo premagati nekaj ovir. Znanstveniki so tako začeli tiskati reaktiv- no črnilo na elektroniko, s čimer so omogo- čili samouničenje, če bi material prišel v na- pačne roke. Teoretično bi to črnilo s tridimenzional- nim tiskalnikom lahko nanesli tudi na stare satelite ali ostarelo mednarodno vesoljsko postajo, in te naprave, ki krožijo v orbiti, bi razpadle v dovolj majhne smeti, da bi zgore- le v atmosferi, preden bi lahko treščile na Ze- mljino površje. Mnogi raziskovalci se posvečajo eksplo- zivu za orožje, ki bi ga tiskali s tridimenzio- nalnim tiskalnikom. Če bi spremenili obliko tega goriva, bi lahko izdelali krogle, ki bi le- tele dlje. Drugi želijo s tridimenzionalnim tiska- njem omejiti vpliv streliva za orožje in vž- igalnika, katerega proizvodnja ni mogoča U Znanstveniki so začeli tiskati reaktivno brez ostrih topil, na naravo. Ta topila so ne- črnilo na elektroniko, s čimer so omogočili varna, in ko odslužijo, jih je težko varno od- vreči, saj lahko škodijo okolju ter človekove- samouničenje, če bi material prišel v mu zdravju. Dokazala sem, da je mogoče natisniti trdo napačne roke. raketno gorivo s podobnimi lastnostmi, kot jih imajo tradicionalno proizvedena. S temi bilo potrebe po nameščanju in odstranjeva- Tridimenzionalno tiskanje energijskih ma- raziskavami se zdaj odpira priložnost, da nju palice za sredico. terialov je novo področje in znanstvenike preverimo, kako izgorevajo goriva, nareje- Večina tovrstnih raziskav je še v povojih, čaka še dolga pot, preden bodo povsem ra- na iz več materialov. To pa je novo področje. vendar podjetja, kot je X-Bow, že tiskajo gori- zumeli, kako tiskanje vpliva na varnost in Na primer, namesto palice za prerez v go- va in opravljajo uspešne teste s temi motorji. učinkovitost. Vendar znanstveniki, kot sem rivu bi lahko s tridimenzionalnim tiskalni- In končno, več raziskovalcev preučuje, jaz, vsak dan odkrivamo nove načine za upo- kom natisnili visoko reaktiven material, ki kako detonirati natisnjena eksplozivna sred- rabo natisnjenih energijskih virov za ključne bi ga dodali v sredico. In namesto da bi nam stva. Ko jih natisnejo v mrežo, se odziva- in včasih življenjsko pomembne namene.  bilo treba nato ta material na sredini odstra- jo različno, če so pore napolnjene z vodo ali niti, bi novi zgorel tako hitro, da bi za njim zrakom. S takšnim postopkom dobijo varnej- Avtorica je profesorica asistentka strojnega ostal prazen prostor. Ta reaktivni material bi še eksplozivno sredstvo, ki reagira izključno inženirstva na univerzi Purdue. tudi dodal energijo gorivu, s tem pa ne bi več pod točno določenimi pogoji. SVET 2024 71 ZADNJA STRAN Umetna inteligenca Deepminda je mojstrica iger En sam sistem umetne inteligence (UI) lahko človeškega igralca premaga v šahu, goju, pokru in drugih igrah, v katerih ni mogoče zmagati brez vrste strategij. V Googlovi hčerinski družbi Deepmind so razvili UI, imenovano Student of Games. Ta naj bi bila po navedbah avtorjev korak proti umetni splošni inteligenci, ki bo z nadčloveško sposobnostjo opravila katerokoli nalogo. Matthew Sparkes, New Scientist artin Schmid, ki je v bil zmožen posploševanja pri M Deepmindu razvijal UI, obeh tipih iger, in tako je nastal zdaj pa dela v zagon- Student of Games. skem podjetju Euqilibre Techno- Kot pravi Schmid, se ta model logies, pravi, da model Student začne kot 'navodila', kako se nau- of Games izvira iz dveh projek- čiti iger, in nato z vadbo in s pra- tov. Prvi je bil Deepstack, umetna kso postaja vse boljši v njih. Za- inteligenca, ki jo je razvila ekipa četniški model se lahko loti raz- U Kljub dih jemajo čim (njen član je bil tudi Schmid) z ličnih iger in se nauči igrati pro- sposobnostim čaka Student univerze v kanadski Alberti. To je ti drugi različici samega sebe, of Games še dolga pot, tudi prvi model UI, ki je v pokru odkriva nove strategije in posto- premagal profesionalnega člo- pno postaja spretnejši. Medtem preden bi UI lahko pojmoval i veškega kvartopirca. Drugi pro- ko se je starejši sistem Deepm- jekt je Deepmindov Alphazero, inda, Alphazero, lahko prilago- kot splošno inteligentno. ki je premagal najboljše človeške dil le drugim igram s popolnimi igralce v igrah, kot sta šah in go. informacijami, se Student of Ga- Lahko bi se naučil tudi dru- sposobnostim čaka še dolga pot, Razlika med modeloma je, mes prilagaja obema vrstama, gih iger, meni Schmid. »Tudi v preden bi UI lahko pojmovali kot da se je prvi osredotočil na igre zato je zmožen daleč večjega po- igrah, ki jih ni še nikoli igral, je splošno inteligentno, saj so igre brez popolnih informacij, pri ka- sploševanja. res dober.« okolje z nedvoumnimi pravi- terih igralci ne vedo, kakšno je Raziskovalci so Student of Ga- Te obsežne zmogljivosti so li in vnaprej znanimi vedenjski- stanje pri soigralcih, na primer mes preverili pri šahu, goju, po- mogoče zaradi učinkovitosti v mi vzorci. igre s kartami, drugi pa na igre kru Texas hold'em in namizni primerjavi z bolj specializirani- »To je nadzorovano, omejeno s popolnimi informacijami, kot igri z imenom Scotland Yard, mi algoritmi Deepminda, vendar in umetno okolje, v katerem je je šah, kjer oba igralca vidita po- pokru Leduc hold'em in različi- Studen tof Games v igrah, ki se popolnoma jasno, kaj nekaj po- ložaj vseh figur. Pristop do teh ci Scotland Yarda po meri z dru- jih nauči, z lahkoto premaga celo meni in kakšne so posledice ne- dveh tipov iger je namreč čisto gačno desko. Ugotovili so, da najboljše človeške igralce. kega dejana,« je poudaril Rovat- drugačen. lahko premaga več obstoječih Michael Rovatsos z univerze sos. »Ne rečem, da igre niso za- Deepmind je najel ekipo Deep- modelov UI in človeške igralce v Edinburgu pravi, da Student pletene, vendar to ni resnični stacka, da bi razvila model, ki bi (objavljeno v Science Advances). of Games kljub dih jemajočim svet.«  ˝w Besedila so prevzeta iz revij New Scientist, Fast Company in The Atlantic, vse pravice pridržane. Distribucija Tribune Content Agency. ODGOVORNI UREDNIK FOTOGRAFIJE IZDAJATELJ DISTRIBUCIJA Matjaž Klančar Fotoarhiv Monitorja, Profimedia, Mladina časopisno podjetje d.d., Izberi d.o.o., Ljubljana UREDNIK Midjourney Dunajska cesta 51, 1000 Ljubljana, Poštnina za naročnike plačana pri Uroš Mesojedec NASLOV UREDNIŠTVA dav. št. 83610405 pošti 1102, Ljubljana. V ceno izvodov LEKTURA Monitor, Dunajska 51, 1000 Ljubljana, IZVRŠNA DIREKTORICA v maloprodaji s priloženim DVDjem je Simona Mikeln tel.: (01) 230 65 00 Denis Tavčar vključen DDV v višini 22%, v ceno ostalih faks: (01) 230 65 10 PRODAJA OGLASNEGA PROSTORA izvodov pa DDV v višini 9,5%. PREVAJANJE e-pošta: urednistvo@monitor.si Petra Piber tel.: (01) 230 65 36, ISSN 1318-1017 MONITOR V SPLETU e-pošta: marketing@monitor.si BERITE MONITOR 20% CENEJE LIKOVNA ZASNOVA www.monitor.si Peter Gedei VODJA MARKETINGA IN Revijo Monitor lahko naročite tako, da Nenaročenih rokopisov in fotografij ne OGLASNEGA TRŽENJA plačate letno naročnino in jo od naslednje OBLIKOVANJE NASLOVNICE vračamo. Vse gradivo v reviji Monitor Ines Markovčič, tel.: (01) 230 65 33 številke naprej prejemate na želeni naslov. Peter Gedei je last družbe Mladina d.d. Kopiranje ali NAROČNINE IN PRODAJA • Vse informacije lahko dobite po telefonu RAČ. GRAFIKA IN STAVEK razmnoževanje je mogoče le s pisnim tel. (01) 230 65 00, (01) 230 65 30 ali po elektronski pošti Peter Gedei dovoljenjem izdajatelja. e-pošta: narocnine@monitor.si narocnine@monitor.si. RAČUNOVODSTVO Izid je finančno podprla Javna agencija e-pošta: racunovodstvo@monitor.si za raziskovalno dejavnost Republike TISK Slovenije. 72 SVET 2024 Shwartz Print, Ljubljana