LOGISTI ˇ CNAPORAZDELITEV MARKO RAZPET Pedagoˇ ska fakulteta Univerza v Ljubljani Math. Subj. Class. (2010): 11B68, 26A06, 60E10 V prispevku je predstavljena logistiˇ cna porazdelitev v povezavi z Bernoullijevimiˇ ste- vili in nekaterimi drugimi porazdelitvami. Podana je tudi izpeljava formule za entropijo logistiˇ cne porazdelitve. THE LOGISTIC DISTRIBUTION Inthiscontributionthelogisticdistributionin connectionwiththeBernoullinumbers andsomeotherdistributionsispresented. Thederivationofentropyformulaofthelogistic distribution is also given. Uvod Logistiˇ cna porazdelitev je zvezna verjetnostna porazdelitev, ki pa jo redko sreˇ camo v uˇ cbenikih, ˇ ceprav jo je poznal ˇ ze Pierre Fran¸ cois Verhulst (1804–1849) pri svojem modelu rasti populacij. V prispevku bomo obrav- navali logistiˇ cno porazdelitev, izraˇ cunali njeno karakteristiˇ cno funkcijo in njene momente, ki se izraˇ zajo z Bernoullijevimiˇ stevili. Pokazali bomo tudi, kako je povezana z Laplaceovo porazdelitvijo. Na koncu pa bomo poiskali ˇ se njeno diferencialno entropijo in navedli primere uporabe. Za skoraj vse pojme iz verjetnostnega raˇ cuna, ki se pojavljajo v tem prispevku, najdemo temeljita pojasnila v [5]. Eksponentno funkcijo z osnovoe bomo oznaˇ cevali z exp, njeno inverzno funkcijo, naravni logaritem, pa z log. Uporabljali bomo tudi hiperboliˇ cne funkcije ch, sh, th, ki so definirane z izrazi: chx = (expx + exp(−x))/2, shx = (expx−exp(−x))/2, thx = shx/chx. Vsepotrebnootehfunkcijah, realnih in kompleksnih, najdemo v [9]. Rast populacije pogosto opiˇ semo z diferencialno enaˇ cbo z zaˇ cetnim po- gojem. S funkcijo t 7→ y(t) povemo, da je v ˇ casu t velikost populacije enaka y(t). Kako hitro populacija raste v ˇ casu t, pa pove odvod y ′ (t). Pri najenostavnejˇ sem modelu rasti je hitrost rasti populacije v ˇ casu t premo sorazmerna z njeno velikostjo v tem ˇ casu, kar nam da linearno diferenci- alno enaˇ cbo y ′ = ky, kjer je k pozitivna konstanta. ˇ Ce imamo ˇ se zaˇ cetni pogoj y(0) = y 0 > 0, potem diferencialno enaˇ cbo hitro reˇ simo in dobimo: y(t) =y 0 exp(kt). Rast je eksponentna. Reˇ sitev dobro opisuje dejansko rast le za majhne t. Ker pa je lim t→∞ y(t) = ∞, bi taka populacija prej ali slej napolnila ˇ se tako velik prostor. Obzornik mat. fiz. 57 (2010) 3 81 Marko Razpet Zato je treba poiskati boljˇ si model, ki upoˇ steva omejen prostor za popu- lacijo, torej omejeno rast. To pomeni, da naj bo velikost populacije vedno manjˇ sa od pozitivnegaˇ stevilaa, na zaˇ cetku pa naj je boy(0) =y 0 ∈ (0,a). Verhulstov model rasti predpostavlja, da je hitrost rasti populacije v ˇ casut premo sorazmerna s produktom njene velikosti in razlike do zgornje meje. Model nam da nelinearno diferencialno enaˇ cbo y ′ = ky(a−y), recimo ji logistiˇ cna diferencialna enaˇ cba, z zaˇ cetnim pogojem y(0) = y 0 . Enaˇ cba ima loˇ cljivi spremenljivki, zato jo lahko reˇ simo s standardnim postopkom in dobimo njeno edino reˇ sitev, logistiˇ cno funkcijo: y(t) = ay 0 /(y 0 + (a− y 0 )exp(−kat)), t ∈ R. Reˇ sitev je zvezna in naraˇ sˇ cajoˇ ca funkcija na R in zanjo velja ˇ se lim t→−∞ y(t) = 0, lim t→+∞ y(x) = a. Graf reˇ sitve imenujemo logi- stiˇ cna krivulja (glej [7]). Na sliki 1 sta naˇ crtani logistiˇ cna (polna ˇ crta) in eksponentna krivulja (pikˇ casta ˇ crta) za isti k. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . t a ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... 0 y y 0 ......................................................... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Slika 1. Logistiˇ cna in eksponentna krivulja ˇ Ce izberemo a = 1, potem nas lastnosti logistiˇ cne funkcije in oblika njenegagrafanapeljejonamisel,dajelogistiˇ cnakrivuljagrafporazdelitvene funkcije neke sluˇ cajne spremenljivke. Taka sluˇ cajna spremenljivka obstaja, ni pa ena sama (primerjaj [5, izrek 16.6]). V nadaljevanju bomo videli, da do ene take sluˇ cajne spremenljivke, za katero bomo rekli, da je porazdeljena logistiˇ cno, pridemo razmeroma enostavno. 1. Enakomerna in logistiˇ cna porazdelitev Model, pri katerem nastopa logistiˇ cna porazdelitev, je preprost. Na daljiciAB dolˇ zine 1 sluˇ cajno izberemo toˇ ckoT in zV oznaˇ cimo razdaljo te toˇ ckedolevegakrajiˇ sˇ caA. PotemjeV sluˇ cajnaspremenljivkazvrednostmi na intervalu [0,1]. 82 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev A B T ........................................................................................................................................................................................................................................................................................................................................................................................................................................... V 1V    Slika 2. Sluˇ cajna razdelitev daljice Predpostavili bomo, da je sluˇ cajna spremenljivka V enakomerno pora- zdeljena na intervalu [0,1], tako da je njena gostota verjetnosti p V na R: p V (v) = 1 za 0≤ v ≤ 1 in p V (v) = 0 sicer. Naj P[E] oznaˇ cuje verjetnost kateregakoli dogodkaE. Porazdelitvena funkcijaF V sluˇ cajne spremenljivke V je dana z izrazom: F V (v) =P[V s2 > s3) V nadaljevanju bomo spoznali, da sta tako imenovana lokacijaμ in skala s v tesni zvezi z matematiˇ cnim upanjem E[Z] in disperzijo D[Z] sluˇ cajne spremenljivke Z. ˇ Ce je μ = 0 in s = 1, govorimo o standardizirani logistiˇ cni porazdelitvi, ki jo seveda oznaˇ cujemo z L(0,1). Sluˇ cajna spremenljivka X, ki smo jo vpeljali zgoraj, ima standardizirano porazdelitevL(0,1). Dokazali smo 84 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . z p Z (z) 0 s 1 s 2 s 3 ................................................................................................................................................................................................................................... ................................................. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ............................... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . μ    Slika 4. Gostota verjetnosti logistiˇ cne porazdelitveL(μ,s) (s1 > s2 > s3) Izrek 1. ˇ Ce je sluˇ cajna spremenljivkaV porazdeljena enakomerno na inter- valu [0,1], potem ima sluˇ cajna spremenljivka X = log(V/(1−V)) standar- dizirano logistiˇ cno porazdelitevL(0,1), sluˇ cajna spremenljivka Z =μ+sX, kjer sta μ in s realni ˇ stevili in s> 0, pa logistiˇ cno porazdelitev L(μ,s). 2. Karakteristiˇ cna funkcija Karakteristiˇ cno funkcijoϕ S neke sluˇ cajne spremenljivkeS v toˇ ckit∈R definiramo (glej na primer ustrezno poglavje v [5]) kot matematiˇ cno upanje sestavljenke exp(itS): ϕ S (t) =E[exp(itS)]. Karakteristiˇ cno funkcijo ϕ S zvezno porazdeljene sluˇ cajne spremenljivke S lahko izrazimo z njeno gostoto verjetnosti p S : ϕ S (t) = ∞ Z −∞ p S (x)exp(itx)dx. (6) Karakteristiˇ cnafunkcijasluˇ cajnespremenljivkeSjeoˇ citnoFourierovatrans- formiranka njene gostote ([10]), v verjetnostnem raˇ cunu pa je pomembno orodje za raˇ cunanje zaˇ cetnih momentov ν n , ki so definirani z izrazom ν n = E[S n ]. Pri tem je n = 0, 1, 2, 3, ... Pri zvezni porazdelitvi jih lahko 81–96 85 Marko Razpet izrazimo z gostoto: ν n =E[S n ] = ∞ Z −∞ x n p S (x)dx. Z n-kratnim odvajanjem karakteristiˇ cne funkcije (6) dobimo ϕ (n) S (t) =i n ∞ Z −∞ x n p S (x)exp(itx)dx, kar pomeni, da lahko zapiˇ semo zaˇ cetne momente kot: ν n =i −n ϕ (n) S (0) (n = 0,1,2,...). V posebnih primerih je ν 0 = 1 in ν 1 =E[S]. ˇ Ce je na voljo razvoj karakteristiˇ cne funkcije v potenˇ cno vrsto ekspo- nencialne oblike, to se pravi ϕ S (t) = ∞ P n=0 c n t n /n!, lahko zaˇ cetne momente izrazimo s koeficienti v razvoju: ν n =i −n c n (n = 0,1,2,...). (7) Izrek 2. Karakteristiˇ cna funkcija sluˇ cajne spremenljivke X, ki je porazde- ljena standardizirano logistiˇ cno, je ϕ X (t) = πt sh(πt) , (8) karakteristiˇ cna funkcija sluˇ cajne spremenljivke Z = μ+sX, ki je porazde- ljena logistiˇ cno po zakonu L(μ,s), pa ϕ Z (t) = exp(iμt) πst sh(πst) . (9) Dokaz. Najprej brez teˇ zav preverimo, da je (9) posledica (8): ϕ Z (t) = E[exp(itZ)] =E[exp(it(μ+sX))] =E[exp(iμt)exp(istX)] = = exp(iμt)E[exp(istX)] = exp(iμt)ψ X (st). Sedaj se posvetimo karakteristiˇ cni funkciji standardizirane logistiˇ cne poraz- delitve. Po definiciji (6) je za gostoto (3): ϕ X (t) = ∞ Z −∞ p X (x)exp(itx)dx = 1 4 ∞ Z −∞ exp(itx)dx ch 2 (x/2) . 86 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev Dobljeni integral bomo izraˇ cunali z integracijo kompleksne funkcije f, de- finirane z izrazom f(z) = exp(itz)/(4ch 2 (z/2)), po pozitivno orientiranem robu pravokotnikaz ogliˇ sˇ ci−R,R,R+2πi,−R+2πi v ravninikompleksnih ˇ stevil (glej [10]). Oznaˇ cimo ta rob s C R . Pri tem je R poljubno pozitivno ˇ stevilo. Funkcija ima v toˇ cki z = πi pol druge stopnje kot edino izolirano singularno toˇ cko znotraj tega pravokotnika. Po izreku o residuih (ostankih) velja: I C R f(z)dz = 2πiRes(f(z),πi). Residuum bomo naˇ sli v glavnem delu funkcije f glede na toˇ cko πi: f(z) = exp(itz) 4ch 2 (z/2) = exp(itz) 2(1+chz) . Vpeljemo w = z−πi, da pol z = πi funkcije f prenesemo v pol w = 0 funkcije g, ki je podana tako: g(w) =f(w+πi) = exp(it(w+πi)) 2(1+ch(w+πi)) = exp(−πt)exp(itw) 2(1−chw) . Z znanima razvojema v potenˇ cni vrsti dobimo: g(w) =− exp(−πt)(1+itw−t 2 w 2 /2−it 3 w 3 /6+···) w 2 (1+w 2 /12+w 4 /360+···) . Kvocient vrst lahko zapiˇ semo kot novo potenˇ cno vrsto: 1+itw−t 2 w 2 /2−it 3 w 3 /6+··· 1+w 2 /12+w 4 /360+··· =a+bw+cw 2 +··· Prva koeficienta sta a = 1 in b =it, kar zadoˇ sˇ ca za zapis zaˇ cetka razvoja g(w) =− exp(−πt) w 2 (1+itw+cw 2 +···), od koder preberemo Res(f(z),πi) = Res(g(w),0) =−itexp(−πt) kot koefi- cient pri potenci w −1 . Vsota integralov po vodoravnih stranicah pravokotnika je 1 4 R Z −R exp(itx)dx ch 2 (x/2) + 1 4 −R Z R exp(it(x+2πi))dx ch 2 ((x+2πi)/2) = = 1 4 R Z −R exp(itx)dx ch 2 (x/2) − exp(−2πt) 4 R Z −R exp(itx)dx ch 2 (x/2) 81–96 87 Marko Razpet in v limiti R → ∞ konvergira proti (1− exp(−2πt))ϕ X (t), integrala po navpiˇ cnih stranicah pravokotnika pa proti 0, o ˇ cemer nas prepriˇ ca krajˇ si raˇ cun. Tako smo naˇ sli lim R→∞ I C R f(z)dz = (1−exp(−2πt))ϕ X (t) = 2πiRes(f(z),πi) = 2πtexp(−πt). Velja torej enaˇ cba (1− exp(−2πt))ϕ X (t) = 2πtexp(−πt), iz katere sledi ϕ X (t) = πt/sh(πt). Dobljena funkcija ima v toˇ cki t = 0 limito 1, kar smo priˇ cakovali. Iz karakteristiˇ cne funkcije ϕ X , ki je soda, takoj razberemo, da so vsi zaˇ cetni momenti lihega reda enaki 0: ν 2n+1 = 0 za n = 0, 1, 2, ... Iz znanega neskonˇ cnega produkta (glej na primer [1, 6, 10]) sinz z = ∞ Y n=1  1− z 2 π 2 n 2  , ki konvergira za vsako kompleksnoˇ steviloz, dobimo z zamenjavoz7→iz ˇ se shz z = ∞ Y n=1  1+ z 2 π 2 n 2  . Zato lahko karakteristiˇ cno funkcijo napiˇ semo tudi kot ϕ X (t) = πt sh(πt) = ∞ Y n=1 1 1+(t/n) 2 . V tem produktu pa je vsak faktor zase tudi karakteristiˇ cna funkcija neke sluˇ cajne spremenljivke X n . Oznaˇ cimo ϕ Xn (t) = 1 1+(t/n) 2 = n 2 n 2 +t 2 (n = 1,2,3,...). (10) 3. Laplaceova porazdelitev Sluˇ cajna spremenljivka, katere verjetnostna gostota je p(x,μ,β) = 1 2β exp(−|x−μ|/β), β > 0, je porazdeljena po Laplaceovem zakonu s parametroma μ in β (glej na pri- mer [1]). Po Laplaceovem zakonu je porazdeljena razlika dveh neodvisnih 88 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev sluˇ cajnih spremenljivk, ki sta enako porazdeljeni, in sicer po eksponentnem zakonu s parametrom β > 0: q(x,β) =    1 β exp(−x/β) za x> 0, 0 za x≤ 0. Zato Laplaceovi porazdelitvi pravijo tudi dvojna eksponentna porazdelitev. ˇ Zivljenjsko dobo delcev pri radioaktivnem razpadu in ˇ zivljenjsko dobo ele- ktronskih komponent se na primer obravnava z eksponentno porazdelitvijo. Karakteristiˇ cna funkcija eksponentno porazdeljene sluˇ cajne spremen- ljivke je 1 β ∞ Z 0 exp(−x/β)exp(itx)dx = 1 1−iβt , karakteristiˇ cna funkcija nasprotno predznaˇ cene sluˇ cajne spremenljivke pa 1/(1+iβt). Zato ima razlika dveh neodvisnih sluˇ cajnih spremenljivk, ki sta porazdeljenipoeksponentnemzakonuzistimparametromβ,karakteristiˇ cno funkcijo 1/(1−iβt)·1/(1+iβt) = 1/(1+β 2 t 2 ) (glej [5, izrek 33.4]). ˇ Ce je μ = 0, dobimo karakteristiˇ cno funkcijo Laplaceove porazdelitve tudi neposredno: 1 2β ∞ Z −∞ exp(−|x|/β)exp(itx)dx = 1 β ∞ Z 0 exp(−x/β)cos(tx)dx = 1 1+β 2 t 2 . Izrek o edinosti pove (glej [5]), da je razlika dveh neodvisnih sluˇ cajnih spre- menljivk, ki sta porazdeljeni po eksponentnem zakonu s parametrom β, porazdeljena po Laplaceovem zakonu s parametroma μ = 0 in β. Torej je vsak faktor v (10) karakteristiˇ cna funkcija sluˇ cajne spremen- ljivke X n , ki je porazdeljena po Laplaceovem zakonu s parametroma μ = 0 in β = 1/n. Denimo, da so sluˇ cajne spremenljivke X k (k = 1, 2 , 3, ...) med seboj neodvisne in vse porazdeljenepo Laplaceovem zakonu s parametromaμ = 0 in β = 1. Kako je porazdeljena sluˇ cajna spremenljivka S n =X 1 + 1 2 X 2 +···+ 1 n X n ? Sumandi v tej vsoti imajo karakteristiˇ cno funkcijo oblike (10), torej je ka- rakteristiˇ cna funkcija sluˇ cajne spremenljivke S n : ϕ Sn (t) = n Y k=1 1 1+(t/k) 2 . 81–96 89 Marko Razpet Pri tem se sklicujemo na izrek, ki pravi, da je karakteristiˇ cna funkcija vsote konˇ cnega ˇ stevila med seboj neodvisnih sluˇ cajnih spremenljivk enaka pro- duktu karakteristiˇ cnih funkcij posameznih sluˇ cajnih spremenljivk (glej [5, izrek 33.4]). Za vsak t∈R pa je lim n→∞ ϕ Sn (t) = lim n→∞ n Y k=1 1 1+(t/k) 2 = ∞ Y k=1 1 1+(t/k) 2 = πt sh(πt) . To pa ima za posledico, da zaporedjeporazdelitvenihfunkcijF Sn konvergira po toˇ ckah proti porazdelitveni funkciji F S na vsej realni osi (primerjaj na primer [5, izrek 35.2]) in sluˇ cajna spremenljivka S je porazdeljena standar- dizirano logistiˇ cno. Verjetnost dogodka, da je sluˇ cajna spremenljivka S na danemintervalu, setorejpoljubnomalorazlikujeodverjetnostidogodka, da je sluˇ cajna spremenljivkaS n na tem intervalu, ˇ ce je len dovolj velik indeks. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x p(x,μ,β) 0 β 1 β 2 β 3 ................................................................................................ ... .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. .. ... ..................................................................... .................................................. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ................................ ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ....... ....... ....... ....... ....... ....... ........ ........ ........ ........ ... ...... . ....... . ...... ... .. ... ... .. .. .. ... ... . ... .. ... . .. .. .. .. .. . .. .. .. .. . .. . .. .. .. .. .. . . .. . .. . .. . . .. . .. .. . .. . . . .. . . .. . . .. . . . . .. . . .. . . .. . . . . . . .. . . . . . .. . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . .. . . . . . . . . .. . . . . . . . .. . . .. . . .. . . . . .. . . .. . . .. . . . .. . .. . .. . .. . . .. . .. . .. .. . . .. .. .. .. . .. .. .. .. .. . .. . .. .. .. .. . ... ... ... . .. ... ... . ... ... .. .. .... ..... ... ...... . ....... . ........ ........ ........ ........ ....... ....... ....... ....... ....... ....... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ...... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... ..... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . μ    Slika 5. Laplaceova porazdelitev s parametroma μ in β (β1 > β2 > β3) 90 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev 4. Bernoullijeva ˇ stevila Zaˇ cetne momente sodega reda sluˇ cajne spremenljivke X bomo izrazili z Bernoullijevimi ˇ stevili B n (veˇ c v [1, 6]), ki so definirana z rodovno funkcijo z expz−1 = ∞ X n=0 B n n! z n , |z|< 2π. ˇ Cerazvijemoexpz−1vpotenˇ cnovrstoinznjopomnoˇ zimoobestranizgor- njeenakostiternatoprimerjamokoeficientenaobehstraneh, hitronajdemo nekaj prvih Bernoullijevih ˇ stevil: B 0 = 1, B 1 = −1/2, B 2 = 1/6, B 3 = 0. Poleg tega pa najdemo tudi rekurzivno zvezo, ki jo zapiˇ semo simboliˇ cno: B n+1 = (1+B) n+1 , B k ≡B k . To pomeni, da formalni binom 1 +B potenciramo po binomski formuli, potem pa eksponente zamenjamo z indeksi, na primer: B 5 = (1+B) 5 = 1+5B 1 +10B 2 +10B 3 +5B 4 +B 5 , B 5 = 1+5B 1 +10B 2 +10B 3 +5B 4 +B 5 , 1+5B 1 +10B 2 +10B 3 +5B 4 = 0. Iz znanih B 1 , B 2 in B 3 izraˇ cunamo B 4 = −1/30. Tako korak za korakom izraˇ cunamo poljubno dolgo zaporedje Bernoullijevih ˇ stevil. Ker je funkcija z7→z/(expz−1)+z/2 soda, sledi iz razvoja z expz−1 −B 1 z = z expz−1 + z 2 = 1+ ∞ X n=2 B n n! z n , da so vsa Bernoullijeva ˇ stevila lihega indeksa od vkljuˇ cno tretjega naprej enaka 0: B 2n+1 = 0 za n = 1, 2, 3, ... z 7→ z/shz lahko razvijemo v potenˇ cno vrsto, katere koeficienti se iz- raˇ zajo z Bernoullijevimi ˇ stevili. Najprej preverimo, da velja elementarna enakost z shz = 2z expz−1 − 2z exp(2z)−1 . NatozrodovnofunkcijoBernoullijevihˇ stevilrazvijemoobaˇ clenavpotenˇ cni vrsti z shz = 2 ∞ X n=0 B n n! z n − ∞ X n=0 B n n! (2z) n . 81–96 91 Marko Razpet Prva vrsta konvergira pri pogoju |z| < 2π, druga pa pri pogoju |2z| < 2π. Potem ko pogledamo ˇ clene z najniˇ zjimi indeksi, lahko zapiˇ semo: z shz = ∞ X n=0 (2−2 2n )B 2n (2n)! z 2n , |z|<π. (11) Bernoullijeva ˇ stevila imajo v matematiki (v numeriˇ cni analizi in v teoriji ˇ stevil) kar precejˇ snjo vlogo. Obstaja veliko relacij med njimi in nekaterimi drugimi funkcijami ter z nekaterimi posebnimi ˇ stevili. 5. Momenti Sedaj pa lahko izrazimo vse zaˇ cetne momente sluˇ cajne spremenljivkeX z Bernoullijevimi ˇ stevili. Izrek 3. Sluˇ cajna spremenljivka X, ki je porazdeljena standardizirano logi- stiˇ cno, ima vse zaˇ cetne momente, ki se izraˇ zajo kot: ν 2n = (−1) n (2−2 2n )π 2n B 2n , ν 2n+1 = 0 (n = 0,1,2,...). Njeno matematiˇ cno upanje in disperzija sta E[X] = 0, D[X] =π 2 /3. Dokaz. Po formuli (11) je ϕ X (t) = πt sh(πt) = ∞ X n=0 (2−2 2n )π 2n B 2n (2n)! t 2n , |t|< 1. ˇ Ce uporabimo formulo (7), dobimo: ν 2n =i −2n (2−2 2n )π 2n B 2n = (−1) n (2−2 2n )π 2n B 2n (n = 0,1,2,...). Vsi zaˇ cetni momenti lihih redov pa so enaki 0: ν 2n+1 = 0 zan = 0, 1, 2, ... Tako hitro najdemo nekaj zaˇ cetnih momentov za sluˇ cajno spremen- ljivko X: ν 0 = 1, ν 1 = 0, ν 2 =π 2 /3, ν 3 = 0, ν 4 = 7π 4 /15. Torej velja E[X] =ν 1 = 0, D[X] =E  (X−E[X]) 2  =ν 2 = π 2 3 . Posvetimo se ˇ se malo sluˇ cajni spremenljivki Z = μ +sX. Kot vemo, so centralni momenti μ n katerekoli sluˇ cajne spremenljivke S definirani z izrazom: μ n =E[(S−E[S]) n ] (n = 0,1,2,...). 92 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev Izrek 4. Sluˇ cajna spremenljivka Z, ki je porazdeljena po zakonu L(μ,s), ima vse centralne momente: μ 2n = (−1) n s 2n (2−2 2n )π 2n B 2n , μ 2n+1 = 0 (n = 0,1,2,...). Njeno matematiˇ cno upanje in disperzija sta E[Z] =μ, D[Z] =s 2 π 2 /3. Dokaz. Zaradi linearnosti matematiˇ cnega upanja je E[Z] = E[μ +sX] = E[μ]+sE[X] =μ in zato μ n =E[(Z−E[Z]) n ]=E[(Z−μ) n ]=E[(sX) n ] =s n E[X n ] =s n ν n . Za nekaj indeksov dobimo: μ 0 = 1, μ 1 = 0, μ 2 = s 2 π 2 /3, μ 3 = 0, μ 4 = 7s 4 π 4 /15. Torej res velja: E[Z] =μ, D[Z] =μ 2 =s 2 π 2 /3. Lokacija μ je torej matematiˇ cno upanje sluˇ cajne spremenljivke Z, ki je porazdeljena logistiˇ cno po zakonuL(μ,s), skalo s pa lahko izrazimo kot s = √ 3 π σ[Z], (12) pri ˇ cemer je σ[Z] = p D[Z] standardna deviacija sluˇ cajne spremenljivke Z. Vsemu skupaj lahko dodamo ˇ se asimetrijo γ 1 = μ 3 /μ 3/2 2 in eksces γ 2 = μ 4 /μ 2 2 −3. Dobimo: γ 1 = 0, γ 2 = 6/5. Za sluˇ cajno spremenljivko Z, ki je porazdeljena logistiˇ cno po zakonu L(μ,s), lahko izraˇ cunamo katerikoli kvantil z p reda p (0 < p < 1) ali p- ti kvantil (veˇ c o kvantilih najdemo v [5, §29]). ˇ Stevilo z p zadoˇ sˇ ca enaˇ cbi F Z (z p ) = p. Reˇ siti moramo na z p pri danem p enaˇ cbo F Z (z p ) = p. Upo- rabimo funkcijo (4) in preprost raˇ cun pove: z p = μ+slog(p/(1−p)). Za p = 1/2 dobimo mediano: m =μ. Modus porazdelitve je prav tako μ, ker takrat gostota doseˇ ze svoj edini lokalni maksimum. 6. Entropija Izraz entropija v verjetnostnem raˇ cunu in v teoriji informacije (osnovni vir nam je lahko [4]) je izposojen iz fizike, kjer ga sreˇ camo v termodina- miki in statistiˇ cni mehaniki. Entropija je koliˇ cina, ki jo priredimo stanju sistema. Fizik Ludwig Boltzmann (1844–1906) je pokazal, da je entropija premo sorazmerna z logaritmom verjetnosti za to stanje. Entropija izraˇ za nedoloˇ cenost stanja sistema. Najveˇ c zaslug za vpeljavo pojma entropija v verjetnostni raˇ cun in teorijo informacije pa je imel Claude E. Shannon (1916–2001) v svojem temeljnem ˇ clanku [8]. V verjetnostnem raˇ cunu najprej priredimo entropijo diskretni sluˇ cajni spremenljivkiS,kimorezavzetikonˇ cnomnogovrednosti,denimos 1 ,s 2 ,..., 81–96 93 Marko Razpet s n z ustreznimi verjetnostmi p 1 , p 2 , ..., p n , pri ˇ cemer je seveda n P k=1 p k = 1. Entropija sluˇ cajne spremenljivke S je potem definirana z vsoto: H(S) =H(p 1 ,p 2 ,...,p n ) =− n X k=1 p k logp k . (13) Namesto naravnega logaritma lahko uporabljamo tudi logaritem z drugo osnovo, veˇ cjo kot 1. Pogosto uporabljamo osnovo 2. Dobljeni entropiji se med seboj razlikujeta le za konstanten faktor. Enota za entropijo je bit, ˇ ce uporabljamo v definicijientropijelogaritemz osnovo 2, in nat,ˇ ce uporablja- mo naravni logaritem. EntropijaH(S) izraˇ za nedoloˇ cenost diskretne sluˇ cajne spremenljivke S, je nenegativna, neodvisna od vrednosti, ki jih more zavzeti, in doseˇ ze naj- veˇ cjo vrednost logn, ˇ ce jep 1 =p 2 =... =p n = 1/n. Za produkt med seboj neodvisnih diskretnih sluˇ cajnih spremenljivk S in T velja preprosto pra- vilo: H(ST) =H(S)+H(T). ˇ Ce lahko sluˇ cajna spremenljivka S zavzame ˇ stevno neskonˇ cno mnogo vrednosti, nadomestimo vsoto v (13) z ustrezno neskonˇ cno vrsto, seveda ob predpostavki, da le-ta konvergira. Po analogiji s (13) definiramo entropijo tudi za zvezno porazdeljeno slu- ˇ cajno spremenljivko S. Denimo, da ima ta gostoto p S . Entropijo h(S) definiramo z izrazom h(S) =− ∞ Z −∞ p S (x)logp S (x)dx, (14) seveda ob predpostavki, da integral v (14) obstaja. ˇ Ce se zgodi, da je kje na integracijskem obmoˇ cju p S (x) = 0, vzamemo, kot da je 0log0 = 0, kar temelji na tem, da ima funkcija x 7→ xlogx desno limito enako 0 v toˇ cki x = 0. Toda entropija h(S) ni vselej pozitivna kot v diskretnem primeru. Zato ima tudi posebno ime: pravimo ji diferencialna entropija. Pogosto zapiˇ semo diferencialno entropijo kot h(p), kjer je p gostota porazdelitve. Brez teˇ zav lahko preverimo, da za transformaciji S 7→ S+c, kjer je c realna konstanta, in S7→aS, kjer je a od niˇ c razliˇ cna konstanta, veljata za vsakozveznoporazdeljenosluˇ cajnospremenljivkoSrelaciji: h(S+c) =h(S) (invariantnost glede na premik) in h(aS) =h(S)+log|a|. Primer. Izraˇ cunajmo diferencialno entropijo sluˇ cajne spremenljivke Z, ki je porazdeljena po zakonuL(μ,s), torej z gostoto (5): h(Z) = ∞ Z −∞ 1 4sch 2 z−μ 2s log  4sch 2 z−μ 2s  dz. 94 Obzornik mat. fiz. 57 (2010) 3 Logistiˇ cna porazdelitev Najprej uvedemo v zgornji integral novo integracijsko spremenljivko x z relacijo x = (z−μ)/s: h(Z) = ∞ Z −∞ 1 4ch 2 (x/2) log(4sch 2 (x/2))dx = = log(4s) ∞ Z −∞ 1 4ch 2 (x/2) dx+ ∞ Z 0 1 ch 2 (x/2) logch(x/2)dx. Prvi integral je enak 1, ker je pod integralskim znakom ravno gostota po- razdelitveL(0,1), drugi integral pa raˇ cunamo z metodo per partes: Z 1 ch 2 (x/2) logch(x/2)dx = 2th(x/2)logch(x/2)− Z th 2 (x/2)dx = = 2(th(x/2)logch(x/2)−x/2)+ Z 1 ch 2 (x/2) dx. Prvi ˇ clen je pri x = 0 enak 0, zato je h(Z) = log(4s)+2 lim x→∞ (th(x/2)logch(x/2)−x/2)+2. Limito hitro izraˇ cunamo tako, da predhodno preoblikujemo: th(x/2)logch(x/2)−x/2 = th(x/2)(log(1+exp(−x))−log2)− x expx+1 . Zgornji izraz oˇ citno gre proti−log2, ko x→∞. Nazadnje imamo izraz za entropijo: h(Z) = logs+2 = log(e 2 s). Vidimo, da je predznak diferencialne entropije logistiˇ cne porazdelitve L(μ,s) neodvisen od lokacijeμ, odvisen pa je od skales: zas> exp(−2) je h(Z)> 0, za s = exp(−2) je h(Z) = 0 in za 0