URN_NBN_SI_DOC-RKSH48DC

SIR * IUS, september 2020 76 3.2. Taktične pasti strojnega učenja Kot taktične pasti razumemo predvsem morebitno neustrezno izbiro in odločitev pri načrtovanju izvedbe zastavljenega strateškega cilja razvoja in vpeljave rešitev umetne inteligence. Za prepoznavanje in izogibanje taktičnim pastem skrbi predvsem vodja razvoja, nanje pa morajo opozarjati tudi sami razvijalci. 3.2.1. I ZBIRA NAČINA RAZVOJA IN ORODIJ ZA RAZVOJ Včasih so algoritme in metode strojnega učenja večinoma uporabljali znanstveniki, tehnološki strokovnjaki ali domenski strokovnjaki. Danes je na voljo vse več storitev strojnega učenja MLaaS, ki so vse bolj dostopne širšemu spektru razvijalcev in raziskovalcev. Podobno kakor tradicionalne spletne storitve pomagajo razvijalcem ustvariti aplikacije, tako tudi MLaaS-i omogočajo enostavno uporabo strojnega učenja povprečnemu razvijalcu. Prikrijejo kompleksnost pri ustvarjanju in uporabi modelov strojnega učenja, tako da se lahko razvijalci osredotočijo na pripravo podatkov, uporabniško izkušnjo, oblikovanje, eksperimentiranje in uporabo znanja ter odkrivanje vzorcev v podatkih. Za zmanjšanje kompleksnosti platforme MLaaS zmanjšujejo stopnjo nadzora, ki jo ima razvijalec nad posameznimi koraki v procesu strojnega učenja, posamezne platforme pa se med seboj precej razlikujejo. Izbira, ali bomo za razvoj uporabili posamezno specializirano platformo (in katero) ali bomo raje razvijali rešitve zgolj z uporabo osnovnih knjižnic in ogrodij, ni enostavna, lahko pa odločujoče vpliva na uspešnost razvite rešitve. Pri tem je pomembno, da ne precenimo sposobnosti svojih razvijalcev. 3.2.2. D ELOVANJE ALGORITMOV PO NAČELU ČRNE ŠKATLE Nekateri algoritmi strojnega učenja zgradijo napovedne modele, ki so človeku povsem nerazumljivi, kar pomeni, da iz modelov ni razviden postopek odločanja. Ti algoritmi ali sistemi ne omogočajo vpogleda v notranje delovanje ali logiko za njimi. Tovrstne rešitve lahko hitro ustvarijo tehnične in kulturne težave. Če tak pristop ne doseže želenih rezultatov, ko se podatki precej spreminjajo, je lahko sam sistem zaradi nerazumevanja hitro ogrožen. Zelo težko je razložiti, zakaj model ni uspešen, kar lahko bistveno upočasni rast organizacije. V nekaterih panogah, kot so npr. medicina, bančništvo ali zavarovalništvo, morajo biti modeli znanja razložljivi. V nekaterih reguliranih panogah razlaga, dokumentiranje in utemeljevanje kompleksnih modelov strojnega učenja tako predstavljajo še dodatno breme.