URN_NBN_SI_DOC-RKSH48DC

SIR * IUS, september 2020 66 Dr. Vili Podgorele c* Tveganja in možnosti kontrol pri rešitvah umetne inteligence The risks and control options in artificial intelligence solutions POVZETEK  Razvoj informacijskih tehnologij je pripeljal do obdobja, v katerem ljudje ustvarjamo, delimo in si izmenjujemo čedalje večje količine podatkov. Vpeljava metod umetne inteligence nam vse pogosteje pomaga te obsežne vire podatkov učinkovito obdelati ter nad njimi razviti inovativne informacijske rešitve in storitve, ki prinašajo uporabnikom vedno nove funkcionalnosti. Sočasno z razvojem tehnologij se spreminjajo tudi koncepti njihove uporabe, uporabniki so ozavestili inteligentno obnašanje naprav ter storitev, in to od ponudnikov v vedno večji meri tudi zahtevajo. Podjetja so tako primorana nadgrajevati ter razvijati produkte in rešitve s pomočjo umetne inteligence oziroma z uporabo metod in tehnologij strojnega učenja. Tovrsten razvoj predstavlja za razvijalce vse kompleksnejše zahteve in izzive, za revizorje pa nova in pogosto še neznana tveganja. Kljub velikanskemu napredku na področju strojnega učenja je to še vedno zahtevna naloga, ki zahteva obilico domenskega znanja. Izhajajoč iz dveh desetletij praktičnih izkušenj pri razvoju rešitev umetne inteligence, bomo predstavili pogoste pasti in tveganja, katerim so izpostavljeni premalo izkušeni razvijalci, ki pod vplivom pogosto prevelikih pričakovanj in nerealnih zahtev vodstva vidijo metode umetne inteligence kot novo "silver bullet" tehnologijo. Nakazali bomo tudi nekaj možnosti, s katerimi lahko revizorji tovrstne rešitve kontrolirajo, in na kaj morajo biti pri tem pozorni. Ključne besede  umetna inteligenca, strojno učenje, napovedni modeli SUMMARY  The development of information technology has brought us to a period of increasingly rapid creation, sharing and exchange of information. The introduction of artificial intelligence methods is increasingly helping us to process these extensive data sources efficiently and to develop innovative information solutions and services above them, which bring users new functionalities. Simultaneously With the development of technology, the concepts of their use are also changing. The users have realized the intelligent behaviour of devices and services, and they are increasingly demanding this * Vili Podgorelec, dr. znanosti, UM FERI, Koroška cesta 46, 2000 Maribor, vili.podgorelec@um.si. Raziskovalni program št. P2-0057 je sofinancirala Javna agencija za raziskovalno dejavnost Republike Slovenije iz državnega proračuna.