Korelacija

Nekoliko skupova (x, y) tačaka, sa Pirsonovim koeficijentom korelacije sa x i y za svaki skup. Korelacija odražava snagu i smer linearne veze (gornji red), ali ne i nagib te veze (sredina), niti mnoge aspekte nelinearnih odnosa (dno). Napomena: lik u centru ima nagib 0, ali u tom slučaju koeficijent korelacije nije definisan, jer varijansa Y iznosi nula.

Korelacija (lat. con = sa, relatio = odnos) je međuodnos ili međusobna povezanost između različitih pojava predstavljenih vrednostima dve varijable. Pri tome povezanost znači da je vrednost jedne varijable moguće s određenom verovatnoćom predvideti na osnovi saznanja o vrednosti druge. Korelacija predstavlja i obrazac variranja varijabli u zavisnosti od načina na koji su povezane, a koji je bitno drugačiji od njihovih izolovanih svojstava ili očekivanog načina reagovanja. U socijalnom radu se proučavaju korelacije ljudskih odnosa i preduzetih mera, usluga i rezultata. Visoke korelacije (izražene koeficijentom korelacije) dobar su pokazatelj uspeha neke aktivnosti. Školski primeri povezanosti su na primer saznanje o uticaju količine saliniteta na brojnost nekih vrsta riba ili školjki, ili o povezanosti slane hrane i visokog krvnog pritiska i sl.

U matematici, promenljiva je uslovan naslov za skup značenja. Takođe, promenljiva je broj predstavljen slovom koji se dobija kada se od prikazanog rezultata brojevnog izraza oduzme rezultat svih brojeva bez promenljive. Svaka promenljiva može postojati samo u kontekstu, jer svaka promenljiva je sama po sebi asocirana sa datim skupom značenja, izvan kojeg ona ništa ne znači. Promenljive su instrumenti logike koji čine osnovicu savremene matematike; one su tamo, možda, najvažniji pribor apstrakcije. Pojam promenljiva je postao deo matematičkog jezika tokom razvoja analitičke geometrije.

Promena vrednosti jedne varijable utiče na promene druge varijable. Varijabla koja svojom vrednošću utiče na drugu naziva se nezavisna varijabla. Varijabla na koju ona utiče naziva se zavisna varijabla. Naprimer, unošenje više soli u organizam utiče na porast krvnog pritiska, dok porast krvnog pritiska ne utiče na povećanje unošenja soli u organizam. U ovom primeru unos soli je nezavisna, a povećanje krvnog pritiska je zavisna varijabla. Mogući su slučajevi da dve varijable istovremeno utiču jedna na drugu, pa su u tom slučaju obe varijable istovremeno i zavisne i nezavisne.

Pirsonov koeficijent proizvod-momenata

Glavni članak: Pirsonov korelacioni koeficijent proizvod-momenata

Raspršeni dijagrami primera različitih skupova podataka sa različitim koeficijentima korelacije.

Definicija

Najpoznatija mera zavisnosti između dve veličine je Pirsonov koeficijent korelacije proizvoda i tačaka (PPMCC), ili Pirsonov koeficijent korelacije, koji se obično naziva jednostavno koeficijent korelacije. Matematički je definisan kao kvalitet najmanjih kvadrata koji odgovaraju izvornim podacima. Dobija se uzimajući odnos kovarijancije dve varijable o kojima je reč u datom numeričkom skupu podataka, normalizovan na kvadratni koren njihove varijanse. Matematički se jednostavno deli kovarijansa dve varijable sa umnoškom njihove standardne devijacije. Karl Pirson razvio je koeficijent iz slične, ali malo drugačije ideje Frensisa Galtona.

Pirsonov koeficijent korelacije proizvoda i trenutka pokušava da uspostavi liniju koja najbolje prolazi kroz skup podataka od dve varijable, u osnovi postavljajući očekivane vrednosti, a rezultirajući Pirsonov koeficijent korelacije pokazuje koliko je stvarni skup podataka udaljen od očekivanih vrednosti. Zavisno od predznaka datog Pirsonovog koeficijenta korelacije, može se naći negativna ili pozitivna korelacija, ako postoji bilo kakva veza između varijabli posmatranih skupova podataka.

Koeficijent korelacije populacije $\rho _{X,Y}$ između dve slučajne varijable $X$ i $Y$ sa očekivanom vrednostima $\ mu_{X}$ i $\ mu_{Y}$ i standardnom devijacijom $\sigma _{X}$ i $\sigma _{Y}$ definisana je kao:

$\rho _{X,Y}=\operatorname {corr} (X,Y)={\operatorname {cov} (X,Y) \over \sigma _{X}\sigma _{Y}}={\operatorname {E} [(X-\mu _{X})(Y-\mu _{Y})] \over \sigma _{X}\sigma _{Y}}$

gde je $\operatorname {E}$ očekivana vrednost operatora, $\operatorname {cov}$ srednje kovarijanse, a $\operatorname {corr}$ je široko korištena alternativna notacija koeficijenta korelacije. Pirsonova korelacija je definisana samo ako su obe standardne devijacije konačne i pozitivne. Alternativna formula čisto u smislu moment je:

$\rho _{X,Y}={\operatorname {E} (XY)-\operatorname {E} (X)\operatorname {E} (Y) \over {\sqrt {\operatorname {E} (X^{2})-\operatorname {E} (X)^{2}}}\cdot {\sqrt {\operatorname {E} (Y^{2})-\operatorname {E} (Y)^{2}}}}$

je široko korištena alternativna notacija koeficijenta korelacije. Pirsonova korelacija je definisana samo ako su obe standardne devijacije konačne i pozitivne. Alternativna formula čisto u smislu momenta je: $\operatorname {corr} (X,Y)=\operatorname {corr} (Y,X)$. To se potvrđuje komutativnim svojstvom množenja.

Korelacija i nezavisnost

Posledica je Koši-Švarcova nejednakost da apsolutna vrednost Pirsonovog koeficijenta korelacije nije veća od 1. Stoga se vrednost koeficijenta korelacije kreće između –1 i +1. Koeficijent korelacije je +1 u slučaju savršene direktne (rastuće) linearne veze (korelacije), –1 u slučaju savršene inverzne (opadajuće) linearne veze (antikorelacija), i neka vrednost u otvorenom intervalu$(-1,1)$ u svim ostalim slučajevima, ukazujući na stupanj linearne zavisnosti između varijabli. Kako se približava nuli, manje je odnosa (bliži nekoreliranim). Što je koeficijent bliži ili −1 ili +1, to je jača korelacija između varijabli.

Ako su varijable nezavisne, Pirsonov koeficijent korelacije je 0, ali obrnuto nije tačno, jer koeficijent korelacije otkriva samo linearne zavisnosti između dve varijable.

${\begin{aligned}X,Y{\text{ независно}}\quad &\Rightarrow \quad \rho _{X,Y}=0\quad (X,Y{\text{ некорелисано}})\\\rho _{X,Y}=0\quad (X,Y{\text{ некорелисано}})\quad &\nRightarrow \quad X,Y{\text{ независно}}\end{aligned}}$

Na primer, ako se pretpostavi da je slučajna varijabla $X$ simetrično raspoređena oko nule, a i $Y=X^{2}$. Tada je $Y$ u potpunosti određen $X$, tako da $X$ i $Y$ savršeno zavise, ali njihova korelacija je nula; oni su nepovezani. Međutim, u posebnom slučaju kada su $X$ i $Y$ zajednički normalna, neusklađenost je ekvivalentna nezavisnosti.

Iako nekorelisani podaci ne podrazumevaju nužno nezavisnost, može se proveriti da li su slučajne varijable nezavisne ako je njihova međusobna informacija 0.

Koeficijent korelacije uzorka

S obzirom na niz$n$ meri par $(X_{i},Y_{i})$ indeksiran sa $i=1,\ldots ,n$, koeficijent korelacije uzorka može se koristiti za procenu Pirsonove korelacije populacije $\rho _{X,Y}$ između $X$ i $Y$. Koeficijent korelacije uzorka definisan je kao:

$r_{xy}\quad {\overset {\underset {\mathrm {def} }{}}{=}}\quad {\frac {\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{(n-1)s_{x}s_{y}}}={\frac {\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sqrt {\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})^{2}\sum \limits _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}},$

gde su ${\overline {x}}$ i ${\overline {y}}$ proseci uzoraka $X$ i $Y$, a $s_{x}$ i $s_{y}$ su korigovane standardne devijacije $X$ i $Y$.

Ekvivalentni izrazi za $r_{xy}$ su

${\begin{aligned}r_{xy}&={\frac {\sum x_{i}y_{i}-n{\bar {x}}{\bar {y}}}{ns'_{x}s'_{y}}}\\[5pt]&={\frac {n\sum x_{i}y_{i}-\sum x_{i}\sum y_{i}}{{\sqrt {n\sum x_{i}^{2}-(\sum x_{i})^{2}}}~{\sqrt {n\sum y_{i}^{2}-(\sum y_{i})^{2}}}}}.\end{aligned}}$

gde su $s'_{x}$ i $s'_{y}$ nekorigovane standardne devijacije uzoraka $X$ i $Y$.

Ako su $x$ i $y$ rezultati merenja koji sadrže grešku merenja, realna ograničenja koeficijenta korelacije nisu od -1 do +1, ali su u manjem rasponu. Za slučaj linearnog modela s jednom nezavisnom varijablom, koeficijent determinacije (R kvadrat) je kvadrat $r_{xy}$, Pirsonovog koeficijenta proizvođmoment.

Primer

Razmotrimo zajedničku raspodelu verovatnoće $X$ i $Y$ date u donjoj tabeli. Razmotrimo zajedničku raspodelu verovatnoće $X$ i $Y$ datu u donjoj tabeli.

$\operatorname {P} (X=x,Y=y)$	$y=-1$	$y=0$	$y=1$
$x=0$	$0$	$1/3$	$0$
$x=1$	$1/3$	$0$	$1/3$

Za ovu zajedničku distribuciju, marginalne raspodele su:

$\operatorname {P} (X=x)={\begin{cases}1/3&\quad {\text{for }}x=0\\2/3&\quad {\text{for }}x=1\end{cases}}$

$\operatorname {P} (Y=y)={\begin{cases}1/3&\quad {\text{for }}y=-1\\1/3&\quad {\text{for }}y=0\\1/3&\quad {\text{for }}y=1\end{cases}}$

Ovo daje sledeća očekivanja i odstupanja:

$\mu _{X}=2/3$

$\mu _{Y}=0$

$\sigma _{X}^{2}=2/9$

$\sigma _{Y}^{2}=2/3$

Stoga:

${\begin{aligned}\rho _{X,Y}&={\frac {1}{\sigma _{X}\sigma _{Y}}}\operatorname {E} [(X-\mu _{X})(Y-\mu _{Y})]\\[5pt]&={\frac {1}{\sigma _{X}\sigma _{Y}}}\sum _{x,y}{(x-\mu _{X})(y-\mu _{Y})\operatorname {P} (X=x,Y=y)}\\[5pt]&=(1-2/3)(-1-0){\frac {1}{3}}+(0-2/3)(0-0){\frac {1}{3}}+(1-2/3)(1-0){\frac {1}{3}}=0.\end{aligned}}$

Odnos između varijabli

Međuodnos između dve varijable, može se grafički prikazati pomoću dvodimenzionog grafikona, tzv. dijagrama raspršenja. Vrednosti jedne varijable prikazane su na x osi, a druge na y osi dijagrama. Tačke preseka kreću se oko određenog pravca koji se naziva linija regresije. Što su tačke bliže pravcu, korelacija je veća, a što su raspršenije korelacija je manja. Osim u slučaju „savršene“ korelacije, u praksi je vizuelno vrlo teško odrediti stepen povezanosti između varijabli. Zavisno od međusobnom odnosu dve varijable među kojima postoji korelacija, ona može biti linearna ili nelinearna. Kod linearne korelacije, tačke su grupirane oko pravca. Kod nelinearne korelacije, one su grupirane oko neke druge krive.

Dve promatrane varijable s ciljem utvrđivanja njihove korelacijske povezanosti mogu imati četiri različite relacije:

1. Pozitivna korelacija je onda kada mala vrednost jedne varijable odgovara maloj vrednosti druge, kao i kada velika vrednost jedne varijable odgovara velikoj vrednosti druge.
2. Negativna korelacija javlja se kada mala vrednost jedne varijable odgovara velikoj vrednosti druge i obratno.
3. Nemonotonu korelaciju obeležava pojava da vrednost jedne varijable u nekim intervalima odgovara maloj vrednosti druge varijable, a u drugim intervalima velikoj vrednosti. Ako se korelacija više nego jednom menja od pozitivne prema negativnoj, takva korelacija naziva se ciklična korelacija.
4. Korelacija ne postoji u primerima kada se na osnovu vrednosti jedne varijable ne može ništa zaključiti niti pretpostaviti o vrednosti druge varijable, tada. U takvom grafikonu, tačke su raspršene.

Koeficijenti korelacije

Koeficijenti korelacije izražavaju meru povezanosti između dve varijable u jedinicama koje su nezavisne o konkretnim jedinicama mere u kojima su iskazane vrednosti varijabli. Postoji više koeficijenata korelacije koji se koriste u različitim slučajevima. Prilikom analize linearnih modela, u praksi se najčešće koristi Pirsonov koeficijent korelacije. U modelima koji nisu linearni, najčešće se koristi Spirmanov koeficijent korelacije.

Pirsonov koeficijent korelacije

Primer raspršenih dijagrama različitih skupova podataka s različitim koeficijentima korelacije

Pirsonov koeficijent korelacije koristi se u slučajevima kada između varijabli datog modela postoji linearna povezanost i neprekidna normalna distribucija. Vrednost Pirsonovog koeficijenta korelacije kreće se od +1 (savršena pozitivna korelacija) do –1 (savršena negativna korelacija). Predznak koeficijenta upućuje na smer korelacije: da li je pozitivna ili negativna, ali nas upućuje i na snagu korelacije. Pirsonov koeficijent korelacije bazira se na poređenju stvarnog međuuticaja promatranih varijabli, u odnosu na maksimalni mogući uticaj dve varijabli. Označava se malim slovom r. Za proračun koeficijenta korelacije potrebna su tri različite sume kvadrata (SS): suma kvadrata varijable X, suma kvadrata varijable Y i suma umnožaka varijabli X i Y.

Suma kvadrata varijable X jednaka je zbitru kvadrata odstupanja vrednosti varijable X od njezine prosečne vrednosti:

$SS_{XX}=\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$

Prosečna vrednost varijable X jednaka je:

${\overline {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}$

Zbir kvadrata varijable Y jednak je sumi kvadrata odstupanja vrednosti varijable Y od njene prosečne vrednosti:

$SS_{YY}=\sum _{i=1}^{n}(Y_{i}-{\overline {Y}})^{2}$

Prosečna vrednost varijable Y jednaka je:

${\overline {Y}}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}$

Zbir umnožaka varijabli X i Y jednaka je sumi umnožaka odstupanja vrednosti varijabli X i Y od njihovih proseka:

$SS_{XY}=\sum (X_{i}-{\overline {X}})(Y_{i}-{\overline {Y}})$

Koeficijent korelacije jednak je odnosu:

$r={\frac {SS_{XY}}{\sqrt {SS_{XX}\cdot SS_{YY}}}}$

U slučaju da među varijablama ne postoji linearna povezanost, može se izvesti odgovarajuća transformacija kojom se vrednosti varijabli modela svode na linearne.

Spirmanov koeficijent korelacije

Spirmanov koeficijent korelacije (korelacija rangova) koristi se za merenje povezanosti među varijablama u slučajevima kada nije moguće primeniti Pirsonov koeficijent korelacije. Temelji se na meri doslednosti povezanosti između poređenih varijabli, a oblik povezanosti (npr. linearni oblik koji je preduslov za korištenje Pirsonovog koeficijenta) nije bitan. Slučajevi u kojima se koristi Spirmanov koficijent su npr. kada među varijablama ne postoji linearna veza, a nije moguće primeniti odgovarajuću transformaciju kojom bi se povezanost prevela u linearnu (npr. veza između seizmičkog atributa i bušotinskog podataka u naftnoj geologiji).

Spirmanov koeficijent korelacije kao rezultat daje približnu vrednost koeficijenta korelacije koji se smatra njegovom dovoljno dobrom približnom vrednošću. Prilikom analize Spirmanovog koeficijenta, vrednosti varijabli potrebno je rangirati i na takav način svesti na zajedničku meru. Najjednostavniji način rangiranja je da se najmanjoj vrednosti svake varijable dodeli rang 1, sledećoj po veličini rang 2 i tako sve do poslednje, kojoj se pripisuje maksimalan rang. Izračunavanje koeficijenta radi se korištenjem vrednosti pripisanih rangova. Spirmanov koeficijent označavaju se kao $\rho$ ili $r$,

Formula za izračun Spiarmanovog koeficijenta korelacije je:

$r_{S}=1-6\sum _{i=1}^{n}{\frac {{d_{i}}^{2}}{n(n^{2}-1)}}$

gde je d razlika vrednosti rangova dve promatrane varijable, a n je broj različitih serija.

Vidi još

• Koeficijent korelacije

Literatura

• Ovaj članak ili njegov deo izvorno je preuzet iz Rečnika socijalnog rada Ivana Vidanovića uz odobrenje autora.
• Cohen, J.; Cohen P.; West, S.G. & Aiken, L.S. (2002). Applied multiple regression/correlation analysis for the behavioral sciences (3rd izd.). Psychology Press. ISBN 978-0-8058-2223-6. 
• Hazewinkel Michiel, ur. (2001). „Correlation (in statistics)”. Encyclopaedia of Mathematics. Springer. ISBN 978-1556080104. 
• Oestreicher, J. & D. R. (26. 2. 2015). Plague of Equals: A science thriller of international disease, politics and drug discovery. California: Omega Cat Press. str. 408. ISBN 978-0963175540. 
• J. Edwards (1892). Differential Calculus. London: MacMillan and Co. str. 1 ff. 
• Karl Menger, "On Variables in Mathematics and in Natural Science", The British Journal for the Philosophy of Science 5:18:134–142 (August 1954) . JSTOR 685170. 
• Jaroslav Peregrin, "Variables in Natural Language: Where do they come from?", in M. Boettner, W. Thümmel, eds., Variable-Free Semantics, 2000, pp. 46–65.
• W.V. Quine, "Variables Explained Away", Proceedings of the American Philosophical Society 104:343–347 (1960).

Spoljašnje veze

• MathWorld page on the (cross-)correlation coefficient/s of a sample
• Compute significance between two correlations, for the comparison of two correlation values.
• A MATLAB Toolbox for computing Weighted Correlation Coefficients Архивирано на сајту Wayback Machine (24. фебруар 2012)
• [1] Proof-that-the-Sample-Bivariate-Correlation-has-limits-plus-or-minus-1
• Interactive Flash simulation on the correlation of two normally distributed variables by Juha Puranen.
• Correlation analysis. Biomedical Statistics
• R-Psychologist Correlation visualization of correlation between two numeric variables