Поасонова регресија

У статистици, Поасонова регресија је генерализовани линеарни модел форме регресионе анализе који се користи за моделирање података о бројању и табела контингентности. Поасонова регресија претпоставља да одговор променљиве Y има Поасоновау расподелу и претпоставља да се логаритам њене очекиване вредности може моделовати линеарном комбинацијом непознатих параметара. Модел Поасонове регресије је понекад познат као лог-линеарни модел, посебно када се користи за моделирање табела непредвиђених околности.

Негативна биномна регресија је популарна генерализација Поасонове регресије јер олакшава веома рестриктивну претпоставку да је варијанса једнака средњој вредности коју даје Поасонов модел. Традиционални модел негативне биномне регресије, познатији као NB2, заснива се на Поасоно-гама расподели смеше. Овај модел је популаран јер моделира Поасонову хетерогеност са гама расподелом.

Модели Поасонове регресије су генерализовани линеарни модели са логаритмом као (канонском) функцијом везе и функцијом Поасонове расподеле као претпостављеном дистрибуцијом вероватноће одговора.

Регресиони модели

Ако је $\mathbf {x} \in \mathbb {R} ^{n}$ вектор независних променљивих, тада модел поприма облик:

$\log(\operatorname {E} (Y\mid \mathbf {x} ))=\alpha +\mathbf {\beta } '\mathbf {x} ,$

где је $\alpha \in \mathbb {R}$ и $\mathbf {\beta } \in \mathbb {R} ^{n}$. Понекад је ово написано компактније као:

$\log(\operatorname {E} (Y\mid \mathbf {x} ))={\boldsymbol {\theta }}'\mathbf {x} ,\,$

где је x сада ( n + 1)-димензионални вектор који се састоји од n независних променљивих повезаних са бројем један. Овде је θ једноставно α повезано са β.

Дакле, када је дат модел Поасонове регресије θ и улазни вектор x, предвиђена средина придружене Поасонове дистрибуције је дата са:

$\operatorname {E} (Y\mid \mathbf {x} )=e^{{\boldsymbol {\theta }}'\mathbf {x} }.\,$

Ако су Y_i независна посматрања са одговарајућим вредностима x_i променљивих предиктора, онда се θ може проценити максималном вероватноћом. Проценама максималне вероватноће недостаје израз затвореног облика и мора се пронаћи нумеричким методама. Површина вероватноће за Посонову регресију максималне вероватноће је увек конкавна, што чини Њутн-Рафсоновим или друге методе заснованим на градијенту одговарајућим техникама процене.

Процена параметара заснована на максималној вероватноћи

С обзиром на скуп параметара θ и улазни вектор x, средња вредност предвиђене Поасонове расподеле, као што је горе наведено, је дата са

$\lambda :=\operatorname {E} (Y\mid x)=e^{\theta 'x},\,$

и према томе, функција масе вероватноће Паосонове расподеле је дата са:

$p(y\mid x;\theta )={\frac {\lambda ^{y}}{y!}}e^{-\lambda }={\frac {e^{y\theta 'x}e^{-e^{\theta 'x}}}{y!}}$

Претпоставимо сада да нам је дат скуп података који се састоји од m вектора $x_{i}\in \mathbb {R} ^{n+1},\,i=1,\ldots ,m$, заједно са скупом од m вредности $y_{1},\ldots ,y_{m}\in \mathbb {N}$. Затим, за дати скуп параметара θ, вероватноћа постизања овог одређеног скупа података је дата са

$p(y_{1},\ldots ,y_{m}\mid x_{1},\ldots ,x_{m};\theta )=\prod _{i=1}^{m}{\frac {e^{y_{i}\theta 'x_{i}}e^{-e^{\theta 'x_{i}}}}{y_{i}!}}.$

Методом максималне вероватноће желимо да пронађемо скуп параметара θ који ову вероватноћу чини што већом. Да би се то урадило, једначина се прво преписује као функција вероватноће у терминима θ :

$L(\theta \mid X,Y)=\prod _{i=1}^{m}{\frac {e^{y_{i}\theta 'x_{i}}e^{-e^{\theta 'x_{i}}}}{y_{i}!}}.$

Имајте на уму да се израз на десној страни заправо није променио. Формулом у овом облику је обично тешко упростити; уместо тога, користи се лог-вероватноћа :

$\ell (\theta \mid X,Y)=\log L(\theta \mid X,Y)=\sum _{i=1}^{m}\left(y_{i}\theta 'x_{i}-e^{\theta 'x_{i}}-\log(y_{i}!)\right).$

Обратите пажњу да се параметри θ појављују само у прва два члана сваког члана у сумирању. Према томе, с обзиром да нас занима само проналажење најбоље вредности за θ, можемо одбацити yi! и једноставно писати

$\ell (\theta \mid X,Y)=\sum _{i=1}^{m}\left(y_{i}\theta 'x_{i}-e^{\theta 'x_{i}}\right).$

Да бисмо пронашли максимум, морамо да решимо једначину ${\frac {\partial \ell (\theta \mid X,Y)}{\partial \theta }}=0$ која нема решење затвореног облика. Међутим, негативна лог вероватноћа, $-\ell (\theta \mid X,Y)$, је конвексна функција, тако да се стандардне технике конвексне оптимизације, као што је градијентни спуст, могу применити да би се пронашла оптимална вредност θ.

Поасонова регресија у пракси

Поасонова регресија може бити прикладна када је зависна променљива број, на пример, догађаји као што је долазак телефонског позива у позивни центар. Догађаји морају бити независни у смислу да долазак једног позива неће учинити други мање или више вероватним, али се подразумева да је вероватноћа по јединици времена догађаја повезана са коваријантама као што је доба дана.

„Излагање” и померај

Посоноваа регресија такође може бити прикладна за податке о стопи, где је стопа број догађаја подељен неком мером изложености те јединице (одређена јединица посматрања). На пример, биолози могу да преброје број врста дрвећа у шуми: догађај би био посматрање дрвећа, изложеност би била јединица површине, а стопа би била број врста по јединици површине. Демографи могу моделирати стопе смртности у географским областима као број умрлих подељен са бројем особа-година. Уопштеније, стопе догађаја се могу израчунати као догађаји по јединици времена, што омогућава да се прозор посматрања разликује за сваку јединицу. У овим примерима, изложеност је јединица површине, особа-година и јединица времена. У Поасоновој регресији ово се обрађује као помак, где променљива изложености улази на десну страну једначине, али са проценом параметра (за log(експозицију)) ограниченом на 1.

$\log(\operatorname {E} (Y\mid x))=\log({\text{exposure}})+\theta 'x$

што имплицира:

$\log(\operatorname {E} (Y\mid x))-\log({\text{exposure}})=\log \left({\frac {\operatorname {E} (Y\mid x)}{\text{exposure}}}\right)=\theta 'x$

Помак у случају GLM-а у R може се постићи коришћењем функције offset() :

glm(y ~ offset(log(exposure)) + x, family=poisson(link=log) )glm(y ~ offset(log(exposure)) + x, family=poisson(link=log) )

Прекомерна дисперзија и нулта инфлација

Карактеристика Поасонове расподеле је да је њена средња вредност једнака њеној варијанси. У одређеним околностима ће се наћи да је посматрана варијанса већа од средње вредности; ово је познато као превелика дисперзија и указује да модел није одговарајући. Чест разлог је изостављање релевантних објашњавајућих променљивих или зависних запажања. Под неким околностима, проблем превелике дисперзије се може решити коришћењем процене квази вероватноће или негативне биномне расподеле.

Вер Хојф и Боувенг су описали разлику између квази-Поасонове (такође назване прекомерна дисперзија са квази-вероватноћом) и негативног бинома (еквивалентног гама-Поасону) на следећи начин: Ако је E(Y) = μ, квази-Поасонов модел претпоставља var(Y) = θμ док гама-Поасон претпоставља var(Y) = μ(1 + κμ), где је θ параметар квази-Поасонове прекомерне дисперзије, а κ параметар облика негативне биномне расподеле. За оба модела, параметри се процењују коришћењем итеративно пондерисаних најмањих квадрата. За квази-Поасонове тежине су μ / θ. За негативан бином, тежине су μ /(1 + κμ ). Са великим μ и значајном екстра-Поасоновом варијацијом, негативне биномне тежине су ограничене на 1/ κ. Вер Хојф и Боувенг су дискутовали о примеру где су бирали између њих двоје цртањем средњих квадрата резидуала у односу на средњу вредност.

Још један уобичајени проблем са Поасоновом регресијом је вишак нула: ако постоје два процеса на делу, један који одређује да ли постоје нула догађаја или било који догађај, а Поасонов процес који одређује колико догађаја има, биће више нула него што би Поасонова регресија предвидела. Пример би била дистрибуција цигарета попушених за сат времена од стране чланова групе у којој су неки појединци непушачи.

Други генерализовани линеарни модели као што је негативни биномни модел или модел са без надувавања могу боље функционисати у овим случајевима.

Употреба у анализи преживљавања

Поасонова регресија ствара моделе пропорционалних опасности, једну класу анализе преживљавања : погледајте моделе пропорционалних опасности за описе Коксових модела.

Екстензије

Регулисана Поасонова регресија

Када се процењују параметри за Поасонову регресију, обично се покушавају пронаћи вредности за θ које максимизиују вероватноћу израза облика

$\sum _{i=1}^{m}\log(p(y_{i};e^{\theta 'x_{i}})),$

где је m број примера у скупу података, и $p(y_{i};e^{\theta 'x_{i}})$ је функција масе вероватноће Поасонове расподеле са средњом вредности постављеном на $e^{\theta 'x_{i}}$. Регуларизација се може додати овом проблему оптимизације максимизовањем

$\sum _{i=1}^{m}\log(p(y_{i};e^{\theta 'x_{i}}))-\lambda \left\|\theta \right\|_{2}^{2},$

за неку позитивну константу $\lambda$. Ова техника, слична регресији гребена, може смањити прекомерно учење(оверфитовање).

Види још

• Модел без надувавања
• Поасонова расподела
• Поасонов модел са фиксним ефектом

Литература

• Cameron, A. C.; Trivedi, P. K. (1998). Regression analysis of count data. Cambridge University Press. ISBN 978-0-521-63201-0. 
• Christensen, Ronald (1997). Log-linear models and logistic regression. Springer Texts in Statistics (Second изд.). New York: Springer-Verlag. ISBN 978-0-387-98247-2. MR 1633357. 
• Gouriéroux, Christian (2000). „The Econometrics of Discrete Positive Variables: the Poisson Model”. Econometrics of Qualitative Dependent Variables. New York: Cambridge University Press. стр. 270—83. ISBN 978-0-521-58985-7. 
• Greene, William H. (2008). „Models for Event Counts and Duration”. Econometric Analysis (8th изд.). Upper Saddle River: Prentice Hall. стр. 906–944. ISBN 978-0-13-600383-0. 
• Hilbe, J. M. (2007). Negative Binomial Regression. Cambridge University Press. ISBN 978-0-521-85772-7. 
• Jones, Andrew M.; et al. (2013). „Models for count data”. Applied Health Economics. London: Routledge. стр. 295—341. ISBN 978-0-415-67682-3. 
• Myers, Raymond H.; et al. (2010). „Logistic and Poisson Regression Models”. Generalized Linear Models With Applications in Engineering and the Sciences (Second изд.). New Jersey: Wiley. стр. 176-183. ISBN 978-0-470-45463-3.