URN_NBN_SI_DOC-RKSH48DC

Tveganja in možnosti kontrol pri rešitvah umetne inteligence 69 ali celo strateške napake, pa lahko vendarle tudi te pripeljejo do nedelujoče ali napačno delujoče rešitve. Izvedbenim tveganjem se morajo biti sposobni izogniti oz. jih ustrezno nasloviti predvsem razvijalci. Vsa navedena tveganja zlahka privedejo do informacijskih sistemov, ki ne delujejo pravilno oz. v skladu s pričakovanji. Ključna lastnost inteligentnih rešitev je v tem, da ne delujejo eksaktno po vnaprej sprogramiranih pravilih, ki jih implementira razvijalec, pač pa se s postopkom učenja dinamično prilagajajo odkritim vzorcem v podatkih, s katerimi jih med delovanjem napajamo. Informacijski sistemi (v nadaljevanju: IS) so vseprisotni v našem vsakdanjem življenju in so pomembno sredstvo poslovnih organizacij. S pojavom najnovejših tehnologij, kot so obsežni podatki (angl. Big Data), rešitve umetne inteligence in metode strojnega učenja, tako narašča kompleksnost IS-jev in se povečuje zaskrbljenost glede ohranjanja njihove celovitosti, zasebnosti podatkov, varnosti informacij in skladnosti s predpisi. Pri upravljanju organizacij je treba zagotoviti, da sistemi delujejo skladno s pričakovanji. Tako je pomembno, da se revizorji IS-jev, ki igrajo ključno vlogo pri reševanju teh vprašanj, zavedajo tveganj in možnosti kontrol pri rešitvah umetne inteligence. 2. UMETNA INTELIGENCA IN STROJNO UČENJE Preden se poglobimo v tematiko, je pomembno, da dobro razumemo, kaj sploh je umetna inteligenca. V vsakdanji praksi so namreč v uporabi različni izrazi, ki se pogosto uporabljajo kot sinonimi. Umetno inteligenco lahko opredelimo kot: "Umetna inteligenca je področje računalništva in informatike, namenjeno reševanju problemov, ki sicer zahtevajo človeško inteligenco – predvsem prepoznavanju vzorcev, učenju in posploševanju." Izraz je v zadnjih letih prepogosto uporabljen za označevanje umetne splošne inteligence ( artificial general intelligence – AGI), ki se nanaša na samo-zavedajoče se računalniške sisteme, ki so sposobni pravih kognitivnih funkcij. Kljub temu bo večina sistemov umetne inteligence v bližnji prihodnosti dejansko tisto, kar znanstveniki imenujejo kot ozko umetno inteligenco – kar pomeni, da bodo oblikovani tako, da bodo zelo dobro opravljali posamezno, precej ozko omejeno nalogo spoznavanja, namesto da bi resnično "razmišljali" sami. Za tovrstne namene pa se najpogosteje uporabljajo pristopi in tehnike strojnega učenja, ki ga lahko opredelimo kot: "Strojno učenje je podmnožica umetne inteligence, ki uporablja statistične in hevristične tehnike, da računalnikom omogoči, da se učijo iz podatkov, ne da bi bili za to izrecno programirani."