Нормална расподела

Густина вероватноће нормалне расподеле са различитим параметрима. Зеленом бојом је представљена нормална нормирана расподела.

Нормална расподела или Гаусова расподела, је важна фамилија непрекидних расподела вероватноће, са применама у многим пољима. Чланови фамилије нормалне расподеле су дефинисани преко два параметра, математичко очекивање, и варијанса (дисперзија) σ². Нормална нормирана расподела је нормална расподела са очекивањем једнаким нули, и варијансом једнаком један (зелена крива на слици десно). Карл Фридрих Гаус се доводи у везу са овим скупом расподела, јер је помоћу њих анализирао астрономске податке, и дефинисао једначину функције густине нормалне расподеле.

Важност нормалне расподеле као модела квантитативних феномена у природним и друштвеним наукама је последица централне граничне теореме. Многа психолошка мерења и физички феномени се могу добро апроксимирати нормалном расподелом. Иако су механизми који леже у основи ових феномена често непознати, употреба модела нормалне расподеле се теоретски оправдава претпоставком да много малих, независних утицаја адитивно доприносе свакој опсервацији.

Нормална расподела се јавља и у многим областима статистике. На пример, средња вредност узорка има приближно нормалну расподелу, чак и ако расподела вероватноће популације из које се узорак узима није нормална. Нормална расподела је најчешће коришћена фамилија расподела у статистици, и многи статистички тестови су базирани на претпоставци нормалности. У теорији вероватноће, нормалне респоделе се јављају као граничне расподеле више непрекидних и случајних фамилија расподела.

Дефиниција

Случајна променљива $X$ са расподелом вероватноће $f:\mathbb {R} \to \mathbb {R} _{>0},\ x\mapsto f(x)$

$f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\exp \left(-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}\right)$

има нормалну расподелу са параметрима $\mu$, $\sigma$, што се пише као $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$ или $(\mu ,\sigma ^{2})$, где је $\mu$ математичко очекивање и $\sigma$ стандардна девијација.

Функција расподеле вероватноће нормалне расподеле дата је изразом: $F(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{x}\exp \left(-{\frac {1}{2}}\left({\frac {t-\mu }{\sigma }}\right)^{2}\right)\mathrm {d} t.$

Функција расподеле вероватноће стандардне нормалне расподеле $\varphi _{0;1}(x)={\frac {1}{\sqrt {2\pi }}}\cdot e^{-{\frac {1}{2}}x^{2}}$

То је густина вероватноће за стандардну нормалну расподелу ($\mu =0,\ \sigma =1$). Интервали на растојању 1, 2 и 3 стандардне девијације од математичког очекивања 0 заузимају 68%, 95,5% и 99,7% површине испод звонасте криве. Исти проценти важе за сваку нормалну расподелу, без обзира на математичко очекивање и стандардну девијацију. Треба приметити да густина нормалне расподеле никада не достиже 0, дакле важи $f(x)>0$ за све реалне вредности $x$.

Нормална расподела је гранични случај централне граничне теореме који никада није савршен у пракси. Међутим, конвергенција збирне вредности случајних променљивих расте врло брзо са повећањем броја променљивих n. Збир 30 или 40 независних случајних променљивих, које припадају идентичном и произвољном типу расподеле вероватноће, већ је веома близак нормалној расподели.

Особине

Симетрија

Граф функције нормалне расподеле $f:\mathbb {R} \to \mathbb {R}$ је звонаста Гаусова крива, чија висина и ширина зависи од параметра $\sigma$. Крива је осно симетрична око осе $x=\mu$. Њена кумулативна функција $F$ има централну симетрију око тачке $P(\mu |0,5)$.

Максимум и превојне тачке функције расподеле вероватноће

Израчунавањем првог и другог извода можемо израчунати максимум и превојне тачке функције нормалне расподеле. Први извод функције расподеле вероватноће је

$f'(x)=-{\frac {x-\mu }{\sigma ^{2}}}f(x).$

Максимум се налази у тачки $x_{\mathrm {max} }=\mu$, где износи $f_{\mathrm {max} }={\frac {1}{\sigma {\sqrt {2\pi }}}}.$

Други извод гласи:

$f''(x)={\frac {1}{\sigma ^{2}}}\left({\frac {1}{\sigma ^{2}}}(x-\mu )^{2}-1\right)f(x).$

Отуда закључујемо да се превојне тачке налазе на координатама $x=\mu \pm \sigma$.

Нормирање

Укупна површина испод Гаусове звонасте криве је тачно 1, што је одраз чињенице да је вероватноћа сигурног догађаја 1. Одатле следи да од две Гаусове криве које имају исто $\mu$, али различиту вредност $\sigma$, она са већим $\sigma$ је шира и нижа него она друга. Две Гаусове криве са са једнаким $\sigma$ и различитим $\mu$ имају графике који изгледају истоветно, осим што су померени по $x$-оси за износ разлике две вредности $\mu$.

Нормирање Гаусове криве се изводи на следећи начин.

Дефинишимо

$A:=\lim _{x\to \infty }F(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{\infty }\exp \left(-{\frac {1}{2}}\left({\frac {t-\mu }{\sigma }}\right)^{2}\right)\mathrm {d} t.$

Да би расподела $F$ била нормирана, мора важити $A=1$.

Интеграл ћемо упростити коришћењем линеарне супституције $\tau ={\frac {t-\mu }{\sigma }}$, а онда важи $\tau '(t)={\frac {1}{\sigma }}$

${\begin{aligned}A&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{\infty }\exp \left(-{\frac {1}{2}}\tau (t)^{2}\right)\tau '(t)\mathrm {d} t\\&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{\infty }\exp \left(-{\frac {1}{2}}\tau ^{2}\right)\mathrm {d} \tau .\end{aligned}}$

Као што смо и очекивали, вредност $A$ је независна од параметара $\sigma$ и $\mu$.

• Види још: интеграл функције грешке.

Израчунавање

Директна примена интеграла за израчунавање површине испод Гаусове криве није могућа, јер се она не може свести на елементарне функције познатих интеграла. Раније су се за њено израчунавање користиле табеле. Данас је функција за израчунавање овог интеграла доступна на калкулаторима и рачунарима. Табеле овог интеграла се не дају за одабране вредност $\mu$- и $\sigma$, већ само за стандардну нормалну расподелу са параметрима $\mu =0$ и $\sigma =1$ (нормирана нормална расподела). За остале вредности ових параметара потребно је прерачунавање.

Табеле такође дају вредности кумулативне функције вероватноће $\Phi$, познате и као Гаусов интеграл грешке:

$\Phi (z)={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{z}\mathrm {e} ^{-{\frac {1}{2}}t^{2}}\mathrm {d} t$

По аналогији, одговарајућа нормирана функција густине вероватноће $f$ означава се са $\phi$.

Математичко очекивање

Нормална расподела има следеће математичко очекивање

$\operatorname {E} (X)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int \limits _{-\infty }^{+\infty }x\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)\operatorname {d} x=\mu$.

Варијанса и стандардна девијација

Вредност варијансе нормалне расподеле је

$\operatorname {Var} (X)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int \limits _{-\infty }^{+\infty }(x-\mu )^{2}\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)\operatorname {d} x=\sigma ^{2}$.

За вредност стандардне девијације добијамо

${\sqrt {\operatorname {Var} (X)}}=\sigma$.

Литература

• Aldrich, John; Miller, Jeff. „Earliest Uses of Symbols in Probability and Statistics”. 
• Aldrich, John; Miller, Jeff. „Earliest Known Uses of Some of the Words of Mathematics”.  In particular, the entries for "bell-shaped and bell curve", "normal (distribution)", "Gaussian", and "Error, law of error, theory of errors, etc.".
• Amari, Shun-ichi; Nagaoka, Hiroshi (2000). Methods of Information Geometry. Oxford University Press. ISBN 978-0-8218-0531-2. 
• Bernardo, José M.; Smith, Adrian F. M. (2000). Bayesian Theory. Wiley. ISBN 978-0-471-49464-5. 
• Bryc, Wlodzimierz (1995). The Normal Distribution: Characterizations with Applications. Springer-Verlag. ISBN 978-0-387-97990-8. 
• Casella, George; Berger, Roger L. (2001). Statistical Inference (2nd изд.). Duxbury. ISBN 978-0-534-24312-8. 
• Cody, William J. (1969). „Rational Chebyshev Approximations for the Error Function”. Mathematics of Computation. 23 (107): 631—638. doi:10.1090/S0025-5718-1969-0247736-4 . 
• Cover, Thomas M.; Thomas, Joy A. (2006). Elements of Information Theory. John Wiley and Sons. 
• de Moivre, Abraham (1738). The Doctrine of Chances. ISBN 978-0-8218-2103-9. 
• Fan, Jianqing (1991). „On the optimal rates of convergence for nonparametric deconvolution problems”. The Annals of Statistics. 19 (3): 1257—1272. JSTOR 2241949. doi:10.1214/aos/1176348248 . 
• Galton, Francis (1889). Natural Inheritance (PDF). London, UK: Richard Clay and Sons. 
• Galambos, Janos; Simonelli, Italo (2004). Products of Random Variables: Applications to Problems of Physics and to Arithmetical Functions. Marcel Dekker, Inc. ISBN 978-0-8247-5402-0. 
• Gauss, Carolo Friderico (1809). Theoria motvs corporvm coelestivm in sectionibvs conicis Solem ambientivm [Theory of the Motion of the Heavenly Bodies Moving about the Sun in Conic Sections] (на језику: латински). English translation. 
• Gould, Stephen Jay (1981). The Mismeasure of Man (first изд.). W. W. Norton. ISBN 978-0-393-01489-1. 
• Halperin, Max; Hartley, Herman O.; Hoel, Paul G. (1965). „Recommended Standards for Statistical Symbols and Notation. COPSS Committee on Symbols and Notation”. The American Statistician. 19 (3): 12—14. JSTOR 2681417. doi:10.2307/2681417. 
• Hart, John F.; et al. (1968). Computer Approximations. New York, NY: John Wiley & Sons, Inc. ISBN 978-0-88275-642-4. 
• Hazewinkel Michiel, ур. (2001). „Normal Distribution”. Encyclopaedia of Mathematics. Springer. ISBN 978-1556080104. 
• Herrnstein, Richard J.; Murray, Charles (1994). The Bell Curve: Intelligence and Class Structure in American Life. Free Press. ISBN 978-0-02-914673-6. 
• Huxley, Julian S. (1932). Problems of Relative Growth. London. ISBN 978-0-486-61114-3. OCLC 476909537. 
• Johnson, Norman L.; Kotz, Samuel; Balakrishnan, Narayanaswamy (1994). Continuous Univariate Distributions, Volume 1. Wiley. ISBN 978-0-471-58495-7. 
• Johnson, Norman L.; Kotz, Samuel; Balakrishnan, Narayanaswamy (1995). Continuous Univariate Distributions, Volume 2. Wiley. ISBN 978-0-471-58494-0. 
• Karney, C. F. F. (2016). „Sampling exactly from the normal distribution”. ACM Transactions on Mathematical Software. 42 (1): 3:1—14. S2CID 14252035. arXiv:1303.6257 . doi:10.1145/2710016. 
• Kinderman, Albert J.; Monahan, John F. (1977). „Computer Generation of Random Variables Using the Ratio of Uniform Deviates”. ACM Transactions on Mathematical Software. 3 (3): 257—260. S2CID 12884505. doi:10.1145/355744.355750. 
• Krishnamoorthy, Kalimuthu (2006). Handbook of Statistical Distributions with Applications. Chapman & Hall/CRC. ISBN 978-1-58488-635-8. 
• Kruskal, William H.; Stigler, Stephen M. (1997). Spencer, Bruce D., ур. Normative Terminology: 'Normal' in Statistics and Elsewhere. Statistics and Public Policy. Oxford University Press. ISBN 978-0-19-852341-3. 
• Laplace, Pierre-Simon de (1774). „Mémoire sur la probabilité des causes par les événements”. Mémoires de l'Académie Royale des Sciences de Paris (Savants étrangers), Tome 6: 621—656.  Translated by Stephen M. Stigler in Statistical Science 1 (3), 1986: JSTOR 2245476.
• Laplace, Pierre-Simon (1812). Théorie analytique des probabilités [Analytical theory of probabilities]. 
• Le Cam, Lucien; Lo Yang, Grace (2000). Asymptotics in Statistics: Some Basic Concepts (second изд.). Springer. ISBN 978-0-387-95036-5. 
• Leva, Joseph L. (1992). „A fast normal random number generator” (PDF). ACM Transactions on Mathematical Software. 18 (4): 449—453. CiteSeerX 10.1.1.544.5806 . S2CID 15802663. doi:10.1145/138351.138364. Архивирано из оригинала (PDF) 16. 7. 2010. г. CS1 одржавање: Формат датума (веза)
• Lexis, Wilhelm (1878). „Sur la durée normale de la vie humaine et sur la théorie de la stabilité des rapports statistiques”. Annales de Démographie Internationale. Paris. II: 447—462. 
• Lukacs, Eugene; King, Edgar P. (1954). „A Property of Normal Distribution”. The Annals of Mathematical Statistics. 25 (2): 389—394. JSTOR 2236741. doi:10.1214/aoms/1177728796 . 
• McPherson, Glen (1990). Statistics in Scientific Investigation: Its Basis, Application and Interpretation. Springer-Verlag. ISBN 978-0-387-97137-7. 
• Marsaglia, George; Tsang, Wai Wan (2000). „The Ziggurat Method for Generating Random Variables”. Journal of Statistical Software. 5 (8). doi:10.18637/jss.v005.i08 . 
• Marsaglia, George (2004). „Evaluating the Normal Distribution”. Journal of Statistical Software. 11 (4). doi:10.18637/jss.v011.i04 . 
• Maxwell, James Clerk (1860). „V. Illustrations of the dynamical theory of gases. — Part I: On the motions and collisions of perfectly elastic spheres”. Philosophical Magazine. Series 4. 19 (124): 19—32. doi:10.1080/14786446008642818. 
• Monahan, J. F. (1985). „Accuracy in random number generation”. Mathematics of Computation. 45 (172): 559—568. doi:10.1090/S0025-5718-1985-0804945-X . 
• Patel, Jagdish K.; Read, Campbell B. (1996). Handbook of the Normal Distribution (2nd изд.). CRC Press. ISBN 978-0-8247-9342-5. 
• Pearson, Karl (1901). „On Lines and Planes of Closest Fit to Systems of Points in Space” (PDF). Philosophical Magazine. 6. 2 (11): 559—572. doi:10.1080/14786440109462720. 
• Pearson, Karl (1905). „'Das Fehlergesetz und seine Verallgemeinerungen durch Fechner und Pearson'. A rejoinder”. Biometrika. 4 (1): 169—212. JSTOR 2331536. doi:10.2307/2331536. 
• Pearson, Karl (1920). „Notes on the History of Correlation”. Biometrika. 13 (1): 25—45. JSTOR 2331722. doi:10.1093/biomet/13.1.25. 
• Rohrbasser, Jean-Marc; Véron, Jacques (2003). „Wilhelm Lexis: The Normal Length of Life as an Expression of the "Nature of Things"”. Population. 58 (3): 303—322. doi:10.3917/pope.303.0303. 
• Shore, H (1982). „Simple Approximations for the Inverse Cumulative Function, the Density Function and the Loss Integral of the Normal Distribution”. Journal of the Royal Statistical Society. Series C (Applied Statistics). 31 (2): 108—114. JSTOR 2347972. doi:10.2307/2347972. 
• Shore, H (2005). „Accurate RMM-Based Approximations for the CDF of the Normal Distribution”. Communications in Statistics – Theory and Methods. 34 (3): 507—513. S2CID 122148043. doi:10.1081/sta-200052102. 
• Shore, H (2011). „Response Modeling Methodology”. WIREs Comput Stat. 3 (4): 357—372. doi:10.1002/wics.151. 
• Shore, H (2012). „Estimating Response Modeling Methodology Models”. WIREs Comput Stat. 4 (3): 323—333. doi:10.1002/wics.1199. 
• Stigler, Stephen M. (1978). „Mathematical Statistics in the Early States”. The Annals of Statistics. 6 (2): 239—265. JSTOR 2958876. doi:10.1214/aos/1176344123 . 
• Stigler, Stephen M. (1982). „A Modest Proposal: A New Standard for the Normal”. The American Statistician. 36 (2): 137—138. JSTOR 2684031. doi:10.2307/2684031. 
• Stigler, Stephen M. (1986). The History of Statistics: The Measurement of Uncertainty before 1900. Harvard University Press. ISBN 978-0-674-40340-6. 
• Stigler, Stephen M. (1999). Statistics on the Table. Harvard University Press. ISBN 978-0-674-83601-3. 
• Walker, Helen M. (1985). „De Moivre on the Law of Normal Probability” (PDF). Ур.: Smith, David Eugene. A Source Book in Mathematics. Dover. ISBN 978-0-486-64690-9. 
• Wallace, C. S. (1996). „Fast pseudo-random generators for normal and exponential variates”. ACM Transactions on Mathematical Software. 22 (1): 119—127. S2CID 18514848. doi:10.1145/225545.225554. 
• Weisstein, Eric W. „Normal Distribution”. MathWorld. 
• West, Graeme (2009). „Better Approximations to Cumulative Normal Functions” (PDF). Wilmott Magazine: 70—76. 
• Zelen, Marvin; Severo, Norman C. (1964). Probability Functions (chapter 26). Handbook of mathematical functions with formulas, graphs, and mathematical tables, by Abramowitz, M.; and Stegun, I. A.: National Bureau of Standards. New York, NY: Dover. ISBN 978-0-486-61272-0. 

Спољашње везе

• Hazewinkel Michiel, ур. (2001). „Normal distribution”. Encyclopaedia of Mathematics. Springer. ISBN 978-1556080104. 
• Normal distribution calculator, More powerful calculator