URN_NBN_SI_DOC-RKSH48DC

Tveganja in možnosti kontrol pri rešitvah umetne inteligence 67 from providers. Companies are thus compelled to upgrade and develop products and solutions towards integration with machine learning methods and artificial intelligence. Such development poses evermore complex requirements and challenges for developers, and new and often as yet unknown risks for auditors. Despite the enormous progress in machine learning, the latter is still a challenging task requiring an abundance of domain knowledge and experience. Drawing from two decades of practical experience in developing artificial intelligence solutions, we will present some common pitfalls and risks to which inexperienced developers are exposed. Under the influence of often excessive expectations and unrealistic requirements from the management, they see artificial intelligence methods as a new "silver bullet" technology. We will point out some of the options that auditors can use to control this type of solutions and what they need to look out for. Key words  artificial intelligence, machine learning, predictive models JEL: M 42 1. UVOD Razvoj informacijskih tehnologij je pripeljal do obdobja, v katerem ustvarjamo, delimo in izmenjujemo čedalje večje količine podatkov, tako v službenem kot zasebnem življenju. Napredek podatkovne analitike, inteligentne analize podatkov in vpeljave strojnega učenja v ta področja je ustvaril prepričljive ekonomske rezultate na različnih poslovnih področjih, kot so finance, trženje in logistika [1] . Medtem ko so vodilna podjetja že prejela znatne donose od naložb v informacijsko tehnologijo, pa se mnogi šele spoznavajo s prednostmi naprednih rešitev umetne inteligence in podatkovne znanosti v svojih podjetjih in domenah. Zavedajoč se pomena avtomatiziranih, naprednih rešitev, zasnovanih na odkrivanju vzorcev oz. znanja, skritega v obilici ustvarjenih podatkov, so se odločevalci znašli pred zahtevnim izzivom – kako zasnovati, razviti in vpeljati rešitve umetne inteligence in strojnega učenja za uspešno analizo množice prepletenih podatkov in iz nje izluščiti relevantne informacije za gradnjo napovednih modelov. Ker količina razpoložljivih podatkov presega zmožnosti računalniških sistemov za njihovo učinkovito analizo z uporabo običajnih pristopov in metod, je postalo področje napredne podatkovne analitike ključno za spopadanje s tem izzivom. V zadnjih letih smo tako priča razcvetu tehnologij, pristopov, metod in orodij na področju strojnega učenja oziroma umetne inteligence, ki igrajo ključno vlogo v širokem spektru aplikacij, kot so podatkovno rudarjenje, obdelava naravnega jezika, prepoznava slik in podobno. Tovrsten razvoj prinaša uporabnikom vedno nove funkcionalnosti, za informatike – snovalce in razvijalce novih sistemov in