Statistikk/sannsynlighetsregning, chi-squared-greie

[FredrikM]

Apply the law of large numbers to show that ${\chi }_{\eta }^2/\eta$ approaches 1 as $\eta$ becomes large.

Her er altså $\eta$ degrees of freedom. Det jeg har problemer med å forstå, er hva det vil si at en tilfeldig variabel (random variable) går mot 1. Hva vil i så fall sannsynlighetsfordelingen til 1 være?

Om noen kunne forklare pittelitt, evt noen enkle linker, så ville jeg blitt glad.

[drgz]

jeg mener å huske at den fordelingen går mot en standard normalfordeling når antall frihetsgrader øker, så det kan vel kanskje være noe i det du kan benytte?

[FredrikM]

Men hva betyr det at en tilfeldig variabel går mot 1?

Det stemmer nok at den går mot en standard normalfordeling når frihetsgradene øker, pga central limit theorem, men vel.

[drgz]

Men hva betyr det at en tilfeldig variabel går mot 1?

Det stemmer nok at den går mot en standard normalfordeling når frihetsgradene øker, pga central limit theorem, men vel.

ettersom du skal vise at ${\chi }_{\eta }^2/\eta$ går mot en, så ville jeg tolke det som

${\displaystyle \underset{\eta \to \mathrm{\infty }}{lim}\frac{{\chi }_{\eta }^2}{\eta }=1}$, med andre ord vise at ${\chi }_{\eta }^2\to \eta$.

da tror jeg du kan benytte det faktum at forventningsverdien til en slik fordeling er lik antall frihetsgrader.

men det kan også tenkes at jeg er helt på bærtur, blitt noen år siden jeg hadde statistikk nå

[Markonan]

Jeg er enig jeg.

Den stokastiske variabelen er kjikvadratfordelt, og den deler du på skalaren eta. En stokastisk variabel delt på et tall gir en ny stokastisk variabel. Og denne stokastiske variabelen går mot én slik som forklart i posten over.

[FredrikM]

Jeg vet at (la Z være standard normalfordelt)

${\chi }_{\eta }^2=Z_1^2+...+Z_{\eta }^2$

Dette betyr at jeg skal vise at
$\underset{\eta \to \mathrm{\infty }}{lim}\frac{Z_1^2+...+Z_{\eta }^2}{\eta }gårmotén.$

Liten oppdatering på løsningsprosessen.

Ser at jeg gjorde noen feil i utledningene mine ovenfor. Fortsetter før feilen.

Altså skal jeg vise at

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{{\chi }_{\eta }^2}{\eta }=\underset{\eta \to \mathrm{\infty }}{lim}\frac{Z_1^2+...+Z_{\eta }^2}{\eta }$

Men den siste overgangen er bare lik "sample mean" $\stackrel{\text{-}}{Z}$. Problemet kommer igjen; nå skal jeg iflg oppgaveteksten bruke "law of large numbers" til å vise at $\underset{\eta \to \mathrm{\infty }}{lim}E[(\stackrel{\text{-}}{Z}-\mu {)}^2]=0$

Oj, oj. Revelation på gang! Nå ser jeg jo at $E[(\stackrel{\text{-}}{Z}-\mu {)}^2]=V(\stackrel{\text{-}}{Z})$

Og det er nettopp det law of large numbers snakker om. Eller, mer presist (og kanskje også irriterende, for jeg har skrevet for mye):

If $X_1,...,X_n$ is a random sample from a distribution with mean $\mu$ and variance ${\sigma }^2$, then $\stackrel{\text{-}}{X}$ converges to $\mu$
a) In mean square $E[(\stackrel{\text{-}}{X}-\mu {)}^2]\to 0$ as $n\to \mathrm{\infty }$.
b) In probability $P(|\stackrel{\text{-}}{X}-\mu |\ge ϵ)\to 0$ as $n\to \mathrm{\infty }$.

Så dermed følger resultatet fra law of large numbers (som btw er bevist vha Chebyshev), og I'm done.

*tegne firkant*

[drgz]

Men igjen; hva betyr det at en stokastisk variabel går mot én? Betyr det at forventningsverdien går mot én?

som nevnt, så tolker jeg problemet som at du skal vise at den stokatiske variabelen konvergerer mot forventningsverdien, og ikke mot 1.

men ser ut som at du er inne på noe, muligens dette også kan hjelpe litt?

http://en.wikipedia.org/wiki/Convergenc ... _variables

[drgz]

hadde dette vært lov(?) så kunne det vært en fin løsning, men tviler på at det stemmer :p

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{{\chi }_{\eta }^2}{\eta }=1|\mathbb{E}\{\cdot \}$

$\mathbb{E}\{\underset{\eta \to \mathrm{\infty }}{lim}\}=\underset{\eta \to \mathrm{\infty }}{lim}\mathbb{E}\{\cdot \}$

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{\mathbb{E}\{{\chi }_{\eta }^2\}}{\eta }=\mathbb{E}\{1\}=1$

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{\eta }{\eta }=1$

$\underset{\eta \to \mathrm{\infty }}{lim}1=1$

$1\equiv 1$

[FredrikM]

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{{\chi }_1^2+...+{\chi }_1^2}{\eta }$

Forsetter på min egen lille utledning:

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{{\chi }_1^2+...+{\chi }_1^2}{\eta }=\underset{\eta \to \mathrm{\infty }}{lim}\frac{\eta {\chi }_1^2}{\eta }={\chi }_1^2$

Men hva betyr dette?

[zeta]

Heisann, jeg kan jo prøve å komme med et lite svar, men jeg synes selv konvergens i sannsynlighetsregning er vanskelig å forstå, så jeg er åpen for enhver kritikk av mine argumenter.

Det viktigste først; vi har to typer konvergens i statistikken: konvergens i sannsynlighet og konvergens i fordeling. Dette tilfellet er konvergens i sannsynlighet. Vi sier at en følge tilfeldige variabler $X_1,X_2,\dots$ konvergerer i sannsynlighet mot en tilfeldig variabel $X$ (eller en konstant $\mu$) dersom for enhver $ϵ>0$

$\underset{n\to \mathrm{\infty }}{lim}P(|X_n-X|\ge ϵ)=0$

eventuelt

$\underset{n\to \mathrm{\infty }}{lim}P(|X_n-\mu |\ge ϵ)=0$.

Her vil jeg bruke det andre tilfellet. Jeg viser at en følge tilfeldige variabler $\frac{X_1}{1},\frac{X_2}{2},\dots$ slik at $X_i\sim {\chi }_i^2$ for $i=1,2,\dots$ konvergerer i sannsynlighet mot 1.

Må rege ut:

$P(|\frac{X_n}{n}-1|\ge ϵ)$

Du må vise at denne størrelsen går mot null. Kan komme tilbake til det, nå er jeg for trøtt . Kanskje vha Chebushev?

Vi har da vist at

$\frac{X_n}{n}\to 1$ når $n\to \mathrm{\infty }$ dersom $X_i\sim {\chi }_i^2$.

Håper det hjelper på forståelsen

[zeta]

Da kan jeg fullføre det jeg begynte på:

$P(|\frac{X_n}{n}-1|\ge ϵ)$

$=P((\frac{X_n}{n}-1{)}^2\ge {ϵ}^2)$

$\le \frac{E(\frac{X_n}{n}-1)}{{ϵ}^2}$

$=\frac{E(\frac{X_n}{n}-E(\frac{X_n}{n}))}{{ϵ}^2}$

$=\frac{Var(\frac{X_n}{n})}{{ϵ}^2}$

$=\frac{\frac{1}{n^2}\cdot 2n}{{ϵ}^2}$

$=\frac{2}{n{ϵ}^2}$

... som jo går mot 0 når $n\to \mathrm{\infty }$. Ulikheten kommer fra Chebychevs ulikhet.

Var det forståelig?

[FredrikM]

Takker for langt og omstendig svar.

Var det forståelig?

Svaret er "tja".

$P((\frac{X_n}{n}-1{)}^2\ge {ϵ}^2)\le \frac{E(\frac{X_n}{n}-1)}{{ϵ}^2}$
Denne overgangen henger jeg ikke med på.

$\frac{X_n}{n}\to 1$

Så at en tilfeldig variabel går mot én betyr at sannsynligheten for at X blir én er én? (eller formelt $P(|X-1|\ge \text{eps})=0$)?

Men tror jeg forstår en del mer nå. Får la det synke litt inn, og så lese innlegget nok en gang om en stund.

[zeta]

Hei igjen. Ulikheten kommer fra Chebychevs ulikhet, som er utrolig anvendelig i slike situasjoner. Den har mange varianter, alt etter hvor du befinner deg i matematikken og den versjonen jeg har benyttet her er formulert slik:

La $X$ være en tilfeldig variabel og la $g(x)$ være en ikke-negativ funksjon. Da har vi for enhver $ϵ>0$

$P(g(X)\ge ϵ)\le \frac{Eg(X)}{r}$

Beviset er kort og greit, sikkert bare å google hvis du er interessert.

Ja, du har riktig. $X_n$ konvergerer i sannsynlighet mot $X$ dersom sannsynligheten for at $X_n$ skal ligge utenfor et hvilket som helst intervall sentert om $X$ går mot null når n går mot uendelig. Dette er vanlig "epsilon-delta"-tankegang.

Zeta

[zeta]

$\le \frac{E(\frac{X_n}{n}-1)}{{ϵ}^2}$

$=\frac{E(\frac{X_n}{n}-E(\frac{X_n}{n}))}{{ϵ}^2}$

Her glemte jeg å opphøye i annen. Det skal selvsagt være

$\le \frac{E(\frac{X_n}{n}-1{)}^2}{{ϵ}^2}$

$=\frac{E(\frac{X_n}{n}-E(\frac{X_n}{n}){)}^2}{{ϵ}^2}$

[FredrikM]

Jeg vet at (la Z være standard normalfordelt)

${\chi }_{\eta }^2=Z_1^2+...+Z_{\eta }^2$

Dette betyr at jeg skal vise at
$\underset{\eta \to \mathrm{\infty }}{lim}\frac{Z_1^2+...+Z_{\eta }^2}{\eta }$ går mot én.

Liten oppdatering på løsningsprosessen.

Ser at jeg gjorde noen feil i utledningene mine ovenfor. Fortsetter før feilen.

Altså skal jeg vise at

$\underset{\eta \to \mathrm{\infty }}{lim}\frac{{\chi }_{\eta }^2}{\eta }=\underset{\eta \to \mathrm{\infty }}{lim}\frac{Z_1^2+...+Z_{\eta }^2}{\eta }$

Men den siste overgangen er bare lik "sample mean" $\stackrel{\text{-}}{Z}$. Problemet kommer igjen; nå skal jeg iflg oppgaveteksten bruke "law of large numbers" til å vise at $\underset{\eta \to \mathrm{\infty }}{lim}E[(\stackrel{\text{-}}{Z}-\mu {)}^2]=0$

Oj, oj. Revelation på gang! Nå ser jeg jo at $E[(\stackrel{\text{-}}{Z}-\mu {)}^2]=V(\stackrel{\text{-}}{Z})$

Og det er nettopp det law of large numbers snakker om. Eller, mer presist (og kanskje også irriterende, for jeg har skrevet for mye):

If $X_1,...,X_n$ is a random sample from a distribution with mean $\mu$ and variance ${\sigma }^2$, then $\stackrel{\text{-}}{X}$ converges to $\mu$
a) In mean square $E[(\stackrel{\text{-}}{X}-\mu {)}^2]\to 0$ as $n\to \mathrm{\infty }$.
b) In probability $P(|\stackrel{\text{-}}{X}-\mu |\ge ϵ)\to 0$ as $n\to \mathrm{\infty }$.

Så dermed følger resultatet fra law of large numbers (som btw er bevist vha Chebyshev), og I'm done.

*tegne firkant*

EDIT: La merke til at jeg har redigert en tidligere post av meg ved et uhell til å bli lik denne. Uffda.