Deviansen (i forbindelse med lnL)

[GPO]

Deviansen er gitt ved
D=2(lnL(full)-lnL)

I handout 5 står det at lnL(full) er 0 (fordi sannsynlighen er lik 1),
mens i sammenheng med devians-omtalen i forbindelse med forelesningene
om logit og de andre generaliserte lineære modellene ble sagt at
lnL(full) alltid ville være større enn lnL fordi L øker når flere
variabler legges til…

Hvordan gir dette mening?
Er det slik at lnL for tilpasset modell alltid vil være negativ?

Gjelder alt dette kun for generaliserte lineære modeller med binomisk
fordelt responsvariabel (logit, probit, cloglog)?

Eller har jeg feiltolket noen notater her?

[Jarle Tufto]

On May 25, 9:12 pm, GPO <preus...@stud.ntnu.no> wrote:
> Deviansen er gitt ved
>    D=2(lnL(full)-lnL)
>
> I handout 5 står det at lnL(full) er 0 (fordi sannsynlighen er lik 1),

Ja, det er riktig i spesialtilfelle at responsen y kun tar verdiene 0
og 1.

> mens i sammenheng med devians-omtalen i forbindelse med forelesningene
> om logit og de andre generaliserte lineære modellene ble sagt at
> lnL(full) alltid ville være større enn lnL fordi L øker når flere
> variabler legges til…
>
> Hvordan gir dette mening?

0 er større enn -100.33 (maksimalt log likelihood under den tilpassede
modellen) så det er ikke noe som ikke stemmer her..

> Er det slik at lnL for tilpasset modell alltid vil være negativ?

For modeller med diskrete data er likelihoodfunksjonen alltid mindre
enn 1 siden likelihoodfunskjonen er sannsynligheten for de observerte
dataene. Og sannsynligheter er alltid mindre enn 1. Tar vi log får
dermed at log likelihoodet nødvendigvis er negativt.

For modeller med kontinuerlig fordelte uanhengige data er
likelihoodfunksjonen definert som

L(theta) = f(x_1,x_2,...x_n) = prod f(x_1) f(x_2) ... f(x_n)

d.v.s. produktet av sannsynlighetstetthetene i de observert x-
verdiene. Måler vi x'ene f.eks. i meter har sannsynlighetstetthetene
benevning meter^-1 og sannsynlighetstettheten (og dermed hele
likelihoodfunksjonen) kan ta en hvilken som helst ikke-negativ verdi.

> Gjelder alt dette kun for generaliserte lineære modeller med binomisk
> fordelt responsvariabel (logit, probit, cloglog)?

Dette gjelder også for poisson respons.