Centralna granična teorema

Konvergencija binomne raspodele (crveno) ka normalnoj raspodeli (zeleno)

Centralna granična teorema se odnosi na primenu slabog zakona velikih brojeva u teoriji verovatnoće. Teorema tvrdi da je (normirana i centrirana) suma velikog broja nezavisnih i identično raspoređenih slučajnih promenljivih teži normalnoj raspodeli verovatnoće. To objašnjava poseban značaj koji ima ovaj tip raspodele. Ova teorema je doživela mnoge promene tokom formalnog razvoja teorije verovatnoće. Prethodne verzije teoreme datiraju iz 1811. godine, ali u svom modernom opštem obliku, ovaj fundamentalni rezultat u teoriji verovatnoće je precizno izrečen još 1920. godine, čime je služio kao most između klasične i moderne teorije verovatnoće.

Ako su ${\textstyle X_{1},X_{2},\dots ,X_{n}}$ su ${\textstyle n}$ slučajnih uzoraka uzetih iz populacije sa ukupnom srednjom vrednošću ${\textstyle \mu }$ i konačnom varijansom ${\textstyle \sigma ^{2}}$, i ako je ${\textstyle {\bar {X}}_{n}}$ srednja vrednost uzorka, zatim granični oblik distribucije, ${\textstyle Z=\lim _{n\to \infty }{\sqrt {n}}{\left({\frac {{\bar {X}}_{n}-\mu }{\sigma }}\right)}}$, je standardna normalna distribucija.

Iskaz centralne granične teoreme se odnosi na niz nezavisnih, slučajnih promenljivih sa identičnom raspodelom verovatnoće, čiji su matematičko očekivanje i varijansa konačni. Postoje različite varijante ove teoreme, u kojima čak nije neophodno da promenljive imaju istu raspodelu verovatnoće. Uslov je samo da nijedna promenljiva nema dominantan uticaj na konačnu sumu. Primeri su Lindbergov uslov i Ljapunovljev uslov. U daljoj generalizaciji dozvoljavaju se i slabe međuzavisnosti između promenljivih.

Ime ovoj teoremi dao je Đerđ Poja u svom radu „O centralnoj graničnoj teoremi teorije verovatnoće i matematičkim momentima“ (nem. Über den zentralen Grenzwertsatz der Wahrscheinlichkeitsrechnung und das Momentenproblem) iz 1920.

Centralna granična teorema slučajnih promenljivih identične raspodele verovatnoće

(takođe poznata kao granična teorema Lindeberga/Levija)

Neka su $X_{1},X_{2},X_{3},\dots$ niz slučajnih promenljivih, koje pripadaju istom prostoru verovatnoće, sve imaju istu raspodelu verovatnoće $D$, i koje su nezavisne. Takođe, uzmimo da matematičko očekivanje $\mu$ i standardna devijacija $\sigma$ postoje i da su konačni.

Posmatrajmo $n$-tu parcijalnu sumu slučajnih promenljivih $S_{n}=X_{1}+X_{2}+\cdots +X_{n}$. Matematičko očekivanje $S_{n}$ je $n\mu$, dok je varijansa $n\sigma ^{2}$. Za standardizovanu slučajnu promenljivu

$Z_{n}={\frac {S_{n}-n\mu }{\sigma {\sqrt {n}}}},$

centralna granična teorema kaže da je raspodela verovatnoće $Z_{n}$, za $n$ →$\infty$, teži ka normalnoj raspodeli verovatnoće $N(0,1)$. Ako je $\Phi (z)$ kumulativna raspodela verovatnoće od $N(0,1)$, tada znači da za svako realno $z$ važi

$\lim _{n\to \infty }{\mbox{P}}(Z_{n}\leq z)=\Phi (z).$

Što se drugačije može zapisati kao

$\lim _{n\rightarrow \infty }{\mbox{P}}\left({\frac {{\overline {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}\leq z\right)=\Phi (z),$

gde je

${\overline {X}}_{n}={\frac {S_{n}}{n}}={\frac {X_{1}+\cdots +X_{n}}{n}}$

srednja vrednost prvih $n$ odbiraka slučajne varijable.

Ako postoji treći centrirani momenat $\operatorname {E} ((X_{1}-\mu )^{3})$, i ako je konačan, tada je konvergencija uniformna, i ima brzinu koja je najmanje reda ${\frac {1}{\sqrt {n}}}$ (Beri-Esenova teorema).

U slučaju da je raspodela verovatnoće $D$ binomna raspodela, dolazimo do specijalnog slučaja centralne granične teoreme pod imenom Moavr-Laplasova teorema.

Za slučajne promenljive čija je raspodela verovatnoće normalna, raspodela verovatnoće njihovog zbira je takođe normalna, odnosno $Z_{n}$ za svako $n$ ima raspodelu verovatnoće $N(0,1)$.

Regresija

Regresiona analiza, a posebno obični najmanji kvadrati, određuju da zavisna promenljiva zavisi prema nekoj funkciji od jedne ili više nezavisnih promenljivih, sa aditivnim terminom greške. Različiti tipovi statističkih zaključaka o regresiji pretpostavljaju da je termin greške normalno distribuiran. Ova pretpostavka se može opravdati pretpostavkom da je član greške zapravo zbir mnogih nezavisnih članova greške; čak i ako pojedinačni termini greške nisu normalno raspoređeni, pomoću centralne granične teoreme njihov zbir se može dobro aproksimirati normalnom raspodelom.

Ostale ilustracije

Glavni članak: Ilustracija centralne granične teoreme

S obzirom na njen značaj za statistiku, dostupni su brojni radovi i računarski paketi koji demonstriraju konvergenciju uključenu u centralnu graničnu teoremu.

Istorija

Holandski matematičar Henk Tijms je pisao:

Centralna granična teorema ima zanimljivu istoriju. Prvu verziju ove teoreme je postulirao matematičar francuskog porekla Abram de Moavr koji je, u izvanrednom članku objavljenom 1733. godine, koristio normalnu raspodelu da bi aproksimirao raspodelu broja glava koja je rezultat mnogih bacanja novčića. Ovo otkriće je bilo daleko ispred svog vremena, i uskoro je zaboravljeno sve dok ga poznati francuski matematičar Pjer Simon Laplas nije izbavio iz opskurnosti u svom monumentalnom delu Théorie analytique des probabilités, koje je objavljeno 1812. Laplas je proširio De Moavrov nalaz aproksimacijom binomne raspodela sa normalnom raspodelom. Ali, kao i kod De Moavra, Laplasov nalaz je pridobio malo pažnje u njegovo vreme. Tek kada je devetnaesti vek bio pri kraju, uočen je značaj centralne granične teoreme, kada ju je 1901. godine ruski matematičar Aleksandar Ljapunov definisao uopšteno i precizno dokazao kako ona matematički funkcioniše. Danas se centralna granična teorema smatra nezvaničnim suverenom teorije verovatnoće.

Ser Frensis Galton je opisao centralnu graničnu teoremu na ovaj način:

Jedva da znam za bilo šta drugo tako pogodno da impresionira maštu kao čudesna forma kosmičkog poretka izražena „Zakonom učestalosti greške”. Zakon bi bio personifikovan od strane Grka i obogotvoren, da su znali za njega. On vlada sa spokojstvom i potpunom samozatajnošću, usred najluđe konfuzije. Što je rulja veća i što je veća očigledna anarhija, to je njen uticaj savršeniji. To je vrhovni zakon neraznosti. Kad god se veliki uzorak haotičnih elemenata uzme u ruke i rasporedi po redosledu njihove veličine, pokaže se da je neslućeni i najlepši oblik pravilnosti sve vreme bio latentan.

Pravi termin „teorema centralne granice“ (na nemačkom: „zentraler Grenzwertsatz“) prvi je upotrebio Đerđ Poja 1920. godine u naslovu jedne publikacije. Poja je teoremu nazvao „centralnom“ zbog njenog značaja u teoriji verovatnoće. Prema Le Kamu, francuska škola verovatnoće tumači reč centralno u smislu da „ona opisuje ponašanje centra distribucije za razliku od njenih repova“. Apstrakt rada O centralnoj graničnoj teoremi kalkulusa verovatnoće i problemu momenata Poja 1920. prevodi se na sledeći način.

Pojava Gausove gustine verovatnoće1 = e^−x2 u ponovljenim eksperimentima, u greškama merenja, koje rezultiraju kombinacijom veoma mnogo i veoma malih elementarnih grešaka, u difuzionim procesima itd, može se objasniti, kao što je poznato, po istoj graničnoj teoremi, koja igra centralnu ulogu u proračunu verovatnoće. Za stvarnog otkrivača ove granične teoreme bi trebalo da bude imenovan Laplas; verovatno je da je njegov rigorozni dokaz prvi dao Čebišev i da se njegova najoštrija formulacija može naći, koliko mi je poznato, u članku Ljapunofa. ...

Detaljan prikaz istorije teoreme, sa detaljima o Laplasovom temeljnom radu, kao i Košijevim, Beselovim i Poasonovim doprinosima, dao je Hald. Dva istorijska izveštaja, jedan koji pokriva razvoj od Laplasa do Košija, a drugi doprinose fon Mizesa, Poja, Lindeberga, Levija i Kramera tokom 1920-ih, daje Hans Fišer. Le Kam opisuje period oko 1935. godine. Bernštajn predstavlja istorijsku diskusiju koja se fokusira na rad Pafnutija Čebiševa i njegovih učenika Andreja Markova i Aleksandra Ljapunova koji su doveli do prvih dokaza CLT u opštem okruženju.

Zanimljiva fusnota o istoriji centralne granične teoreme je da je dokaz rezultata sličnog Lindebergovoj CLT iz 1922. godine bio predmet stipendijske disertacije Alana Tjuring iz 1934. za Kraljevski koledž na Univerzitetu u Kembridžu. Tek nakon što je poslao rad, Tjuring je saznao da je to već dokazano. Shodno tome, Tjuringova disertacija nije objavljena.

Literatura

• Bárány, Imre; Vu, Van (2007). „Central limit theorems for Gaussian polytopes”. Annals of Probability. Institute of Mathematical Statistics. 35 (4): 1593—1621. S2CID 9128253. arXiv:math/0610192 . doi:10.1214/009117906000000791. 
• Bauer, Heinz (2001). Measure and Integration Theory. Berlin: de Gruyter. ISBN 3110167190. 
• Billingsley, Patrick (1995). Probability and Measure (3rd izd.). John Wiley & Sons. ISBN 0-471-00710-2. 
• Bradley, Richard (2007). Introduction to Strong Mixing Conditions (1st izd.). Heber City, UT: Kendrick Press. ISBN 978-0-9740427-9-4. 
• Bradley, Richard (2005). „Basic Properties of Strong Mixing Conditions. A Survey and Some Open Questions”. Probability Surveys. 2: 107—144. Bibcode:2005math.....11078B. S2CID 8395267. arXiv:math/0511078 . doi:10.1214/154957805100000104. 
• Dinov, Ivo; Christou, Nicolas; Sanchez, Juana (2008). „Central Limit Theorem: New SOCR Applet and Demonstration Activity”. Journal of Statistics Education. ASA. 16 (2): 1—15. PMC 3152447 . PMID 21833159. doi:10.1080/10691898.2008.11889560. Arhivirano iz originala 03. 03. 2016. g. Pristupljeno 18. 12. 2021. 
• Durrett, Richard (2004). Probability: theory and examples (3rd izd.). Cambridge University Press. ISBN 0521765390. 
• Gaposhkin, V. F. (1966). „Lacunary series and independent functions”. Russian Mathematical Surveys. 21 (6): 1—82. Bibcode:1966RuMaS..21....1G. doi:10.1070/RM1966v021n06ABEH001196. .
• Klartag, Bo'az (2007). „A central limit theorem for convex sets”. Inventiones Mathematicae. 168 (1): 91—131. Bibcode:2007InMat.168...91K. S2CID 119169773. arXiv:math/0605014 . doi:10.1007/s00222-006-0028-8. 
• Klartag, Bo'az (2008). „A Berry–Esseen type inequality for convex bodies with an unconditional basis”. Probability Theory and Related Fields. 145 (1–2): 1—33. S2CID 10163322. arXiv:0705.0832 . doi:10.1007/s00440-008-0158-6. 

Spoljašnje veze

• Animirana demonstracija centralne granične teoreme
• Jedan od dokaza Arhivirano na sajtu Wayback Machine (30. mart 2007)
• Interaktivni eksperiment posvećen centralnoj graničnoj teoremi
• Central Limit Theorem at Khan Academy
• Hazewinkel Michiel, ur. (2001). „Central limit theorem”. Encyclopaedia of Mathematics. Springer. ISBN 978-1556080104. 
• Weisstein, Eric W. „Central Limit Theorem”. MathWorld.