Einführung in die Stochastik für Mathematiker - SS 03 Prof. Dr. M. Schaefer, RWTH Aachen Definitionen und Sätze

Erstellt von Lars Otten lars.otten@kullen.rwth-aachen.de

5. September 2003

Diese Aufzeichnungen stammen nicht vom Lehrstuhl und wurden auch nicht von diesem kontrolliert. Dementsprechend können noch Fehler enthalten sein, für die ich keine Verantwortung übernehme!

   Unter http://bart.kullen.rwth-aachen.de/∼lotten/stochastik/ ist immer die aktuellste

Version dieses Dokuments erhältlich (zumindest in der näheren Zukunft).

Erstellt mit L^{A}TEX.

§1 Diskrete Wahrscheinlichkeitsräume

Definition 1.1

Sei Ω ≠ ∅ abzählbar:

(a) Eine Abbildung p : Ω → ℝ heißt \underline{Zähldichte}, falls

(i) p(ω) ≥ 0 ∀ω ∈ Ω

(ii) ∑_{ω∈Ω} p(ω) = 1

(b) Ist p : Ω → ℝ eine Zähldichte, so heißt das Paar (Ω, p) ein \underline{diskreter Wahrscheinlichkeitsraum}.

(c) Ist (Ω, p) ein diskreter Wahrscheinlichkeitsraum, so heißt die Abbildung

P : \{ \begin{matrix}𝔓(Ω) → ℝ \\ A ↦ ∑_{ω∈A} p(ω) \end{matrix}

die \underline{zu p gehörige Wahrscheinlichkeitsverteilung}.

Satz 1.1

Sei (Ω, p) ein diskreter Wahrscheinlichkeitsraum und P die zu p gehörige Wahrscheinlichkeitsverteilung. Dann gilt:

(a) P (A) ≥ 0 ∀ A ∈ 𝔓(Ω) (”P ist nicht-negativ“)

(b) P (Ω) = 1 (”P ist normiert“)

(c) Sind A_{n}, n ∈ ℕ, paarweise disjunkt, so ist

P (∑_{n=1}^{∞} A_{n}) = ∑_{n=1}^{∞} P (A_{n}) (”P σ-additiv“)

Satz 1.2

Sei Ω ≠ ∅ abzählbar und P : 𝔓(Ω) → ℝ mit (a)–(c) aus Satz 1.1; ist dann

p : \{ \begin{matrix}Ω → ℝ \\ ω ↦ P (\{ω\}) \end{matrix} ,

so ist p Zähldichte und P die zu p gehörige Wahrscheinlichkeitsverteilung.

Bemerkung 1.1

(a) Ist P : 𝔓(Ω) → ℝ nicht-negativ, normiert und σ-additiv, so gilt:

(i) Ist I höchstens abzählbar unendlich und sind A_{i}, i ∈ I paarweise disjunkt, so ist P (∑_{i∈I} A_{i}) = ∑_{i∈I} (P (A_{i})).

(ii) Satz 1.1 und 1.2 zeigen, dass ein diskreter Wahrscheinlichkeitsraum auch als Paar (Ω, P) definiert werden kann, wobei P nicht-negativ, normiert und σ-additiv ist.

Satz 1.3

Sei (Ω, P) ein diskreter Wahrscheinlichkeitsraum, dann gilt:

(a) P (A^{C}) = 1 − P (A) ∀ A ∈ 𝔓(Ω)

(b) P (A) ≤ P (B) ∀ A, B ∈ 𝔓(Ω), A ⊂ B

(c) P (A) = P (AB) + P (AB^{C}) ∀ A, B ∈ 𝔓(Ω)

(d) P (A ∪ B) = P (A) + P (B) − P (AB) ∀A, B ∈ 𝔓(Ω)

(e) P ( ⋃_{n=1}^{∞} A_{n}) ≤ ∑_{n=1}^{∞} P (A_{n}) ∀ A_{n} ∈ 𝔓(Ω), n ∈ ℕ

(f) P ( ⋃_{n=1}^{∞} A_{n}) = lim_{n→∞} P (A_{n}) ∀A_{n} ∈ 𝔓(Ω), n ∈ ℕ, A_{n} ⊂ A_{n+1} ∀ n ∈ ℕ

(g) P ( ⋂_{n=1}^{∞} A_{n}) = lim_{n→∞} P (A_{n}) ∀A_{n} ∈ 𝔓(Ω), n ∈ ℕ, A_{n} ⊃ A_{n+1} ∀ n ∈ ℕ

§2 Grundbegriffe der Kombinatorik

Zwei wichtige Prinzipien der Kombinatorik

(1) M = ∑_{i=1}^{r} M_{i} ⇒ |M| = ∑_{i=1}^{r}|M_{i}|

(2) M_{1}, M_{2} : |M_{1}| = |M_{2}| ⇔ ∃ f : M_{1} → M_{2} bijektiv

Hilfsmittel

(1) \underline{Fakultätsfunktion} (erklärt für n ∈ ℕ ∪ \{0\} =: N_{0})

n! := \{ \begin{matrix}1 & , n = 0 \\ ∏_{j=1}^{n} j & , n ≥ 1 \end{matrix}

(2) \underline{Binomialkoeffizient} (erklärt für k ∈ ℤ und n ∈ ℕ)

\binom{n}{k} := \{ \begin{matrix}\frac{n!}{k!·(n−k)!} & , 0 ≤ k ≤ n \\ 0 & , sonst \end{matrix}

Abkürzungen

(1) M = {1, …, n}, n, r ∈ ℕ

(i) G_{r}(M) := {(x_{1}, …, x_{r}) | x_{i} ∈ M, 1 ≤ i ≤ r} (”Menge der geordneten r–Tupel mit Komponenten aus M mit Wiederholung“)

(ii) G_{r}^{o}(M) := {(x_{1}, …, x_{r}) | x_{1}, …, x_{r} paarw. verschieden}

(”Menge der geordneten r–Tupel mit Komponenten aus M ohne Wiederholung“) (iii) U_{r}(M) := {(x_{1}, …, x_{r}) ∈ G_{r}(M) | x_{1} ≤ x_{2} ≤ … ≤ x_{r}}

(”Menge der ungeordneten r–Tupel mit Komponenten aus M mit Wiederholung“) (iv) U_{r}^{o}(M) := {(x_{1}, …, x_{r}) ∈ G_{r}(M) | x_{1} < x_{2} < … < x_{r}}

(”Menge der ungeordneten r–Tupel mit Komponenten aus M ohne Wiederholung“)

(2) M_{1}, M_{2} ≠ ∅, F(M_{1}, M_{2}) := {f : M_{1} → M_{2} | f injektiv} (3) M ≠ ∅ beliebig, k ∈ ℤ

(i) P er(M) := F(M, M)

(ii) 𝔓_{k}(M) := {A ∈ 𝔓(M) | |A| = k}

Satz 2.1

(a) n ∈ ℕ, M_{1}, M_{2} beliebige Mengen: |M_{1}| = |M_{2}| = n ⇒ |F(M_{1}, M_{2})| = n!

(b) k ∈ ℤ, n ∈ ℕ, M beliebige Menge: |M| = n. Dann gilt: (i) |P er(M)| = n! (ii) |𝔓_{k}(M)| = \binom{n}{k} (iii) |𝔓(M)| = 2^{n}

Satz 2.2

(a) r ∈ ℕ, M_{1}, …, M_{r} ≠ ∅, |M_{i}| < ∞, 1 ≤ i ≤ r

⇒ |M_{1} × … × M_{r}| = ∏_{i=1}^{r}|M_{i}|

(b) r, n ∈ ℕ, M = {1, …, n} Dann gilt:

(i) |G_{r}(M)| = n^{r}
(ii) |G_{r}^{o}(M)| = r!\binom{n}{r}
(iii) |U_{r}(M)| = \binom{n+r−1}{r}
(iv) |U_{r}^{o}(M)| = \binom{n}{r}

Satz 2.3 (”Hypergeometrische Verteilung“)

Seien r, s ∈ ℕ_{0}, r + s > 0, N := r + s, n ∈ ℕ, M_{1} := {1, …, r}, M_{2} := {r + 1, …, N}, M = M_{1} + M_{2}, Ω = U_{n}^{o}(M) = 𝔓_{n}(M), P Laplace-Verteilung auf Ω, k ∈ {1, …, n}, A_{k} ˆ= interessantes Ereignis, A_{k} := {ω ∈ Ω | |ω ∩ M_{1}| = k} . Dann gilt:

P (A_{k}) = \frac{\binom{r}{k} · \binom{N−r}{n−k}}{\binom{N}{n}}

Beachte: P (A_{k}) = 0, falls k > r oder n − k > s = N − r.

Satz 2.4 (”Siebformel“)

Sei (Ω, P) ein diskreter Wahrscheinlichkeitsraum, n ∈ ℕ, A_{1}, …, A_{n} ⊂ Ω, M = {1, …, n}

⇒ P (⋃_{i=1}^{n} A_{i}) = ∑_{k=1}^{n}(−1)^{k−1} · ∑_{I∈𝔓_{k}(M)}P (⋂_{i∈I} A_{i})

§3 Bedingte Wahrscheinlichkeit, stochastische Unabhängigkeit

Definition 3.1

Sei (Ω, P) diskreter Wahrscheinlichkeitsraum, A, B ∈ 𝔓(Ω) mit P (B) > 0. Dann heißt

P (A|B) := \frac{P (AB)}{P (B)}

die \underline{bedingte Wahrscheinlichkeit von A unter B} (”unter der Bedingung B“).

Satz 3.1

Sei n ∈ ℕ, n ≥ 2, (Ω, P) diskreter Wahrscheinlichkeitsraum, A_{1}, …, A_{n} ∈ 𝔓(Ω), P ( ⋂_{i=1}^{n−1} A_{i}) > 0.

Dann gilt:

P (⋂_{i=1}^{n} A_{i}) = ∏_{i=1}^{n} P (A_{i}| ⋂_{ρ=1}^{i−1} A_{ρ})

Satz 3.2

Sei (Ω, P) diskreter Wahrscheinlichkeitsraum, dann gilt:

(a) Ist B ∈ 𝔓(Ω) mit P (B) > 0, so ist

P_{B} := \{ \begin{matrix}𝔓(Ω) → ℝ \\ A ↦ P (A|B) \end{matrix}

eine diskrete Wahrscheinlichkeitsverteilung.

(b) (”Satz von der totalen Wahrscheinlichkeit“)

Sind n ∈ ℕ, A, B_{1}, …, B_{n} ∈ 𝔓(Ω) mit P (B_{i}) > 0, 1 ≤ i ≤ n und Ω = ∑_{i=1}^{n} B_{i} (⇒ B_{i} ∩ B_{j} = ∅ ∀ i, j),

so folgt:

(i) P (A) = ∑_{i=1}^{n} P (B_{i}) · P (A|B_{i}) (”Satz von der totalen Zerlegung“)

(ii) (”Formel von Bayes“) Ist auch P (A) > 0, so gilt

P (B_{i}|A) = \frac{P (B_{i}) · P (A|B_{i})}{∑_{j=1}^{n} P (A|B_{j}) · P (B_{j})}

Definition 3.2

Sei (Ω, P) diskreter Wahrscheinlichkeitsraum, I ≠ ∅ (beliebige Index-Menge), A_{i} ∈ 𝔓(Ω), i ∈ I. Dann heißt \{A_{i} | i ∈ I\} \underline{stochastisch unabhängig} (bzgl. P), falls für jede endliche Teilmenge J ⊂ I gilt:

P (⋂_{j∈J} A_{j}) = ∏_{j∈J} P (A_{j})

Satz 3.3

Sei (Ω, P) diskreter Wahrscheinlichkeitsraum, I ≠ ∅, A_{i} ∈ 𝔓(Ω), i ∈ I, {A_{i} | i ∈ I} stochastisch unabhängig. Dann gilt:

(a) Ist A^{∗} ∈ 𝔓(Ω) mit P (A^{∗}) ∈ {0, 1}, so ist auch {A_{i} | i ∈ I} ∪ {A^{∗}} stochastisch unabhängig.

(b) Ist J ⊂ I, J ≠ ∅, so ist auch {A_{j} | j ∈ J} stochastisch unabhängig.

(c) Sind B_{i} ∈ 𝔓(Ω) mit B_{i} ∈ {A_{i}, A_{i}^{C}}, i ∈ I, so ist (auch) {B_{i} | i ∈ I} stochastisch unabhängig.

Satz 3.4 (”Modellierung von unabhängigen Zufalls-Experimenten“)

Sei n ∈ ℕ (O.B.d.A. sei n ≥ 2). Weiter seien (Ω_{i}, P_{i}) diskrete Wahrscheinlichkeitsräume mit zugehöriger Zähldichte p, 1 ≤ i ≤ n, Ω := Ω_{1} × … × Ω_{n}. Außerdem sei die Abb. π_{i} : Ω → Ω_{i} definiert durch (ω_{1}, …, ω_{n}) ↦ ω_{i} (”Projektion von Ω auf die i-te Komponente“). Dann sei

π_{i}^{−1} : \{ \begin{matrix}𝔓(Ω_{i}) → 𝔓(Ω) \\ B ↦ \{(ω_{1}, …, ω_{n}) ∈ Ω | π_{i}(ω_{1}, …, ω_{n}) ∈ B\} \end{matrix}

Dann gilt:

(a) p : Ω → ℝ, (ω_{1}, …, ω_{n}) ↦ ∏_{i=1}^{n} p_{i}(ω_{i}) ist Zähldichte auf Ω.

(b) p ↔ P, B_{i} ∈ 𝔓(Ω_{i}), 1 ≤ i ≤ n, A_{i} := π_{i}^{−1}(B_{i}), 1 ≤ i ≤ n.

(i) P (B_{1} × … × B_{n}) = ∏_{i=1}^{n} P_{i}(B_{i})

(ii) {A_{1}, …, A_{n}} stochastisch unabhängig bzgl. P mit P (A_{i}) = P_{i}(B_{i}).

(c) Ist Q diskrete Wahrscheinlichkeitsverteilung auf Ω, so dass π_{1}^{−1}(B_{1}), …, π_{n}^{−1}(B_{n}) bzgl. Q stochastisch unabhängig sind mit Q (π_{i}^{−1}(B_{i})) = P_{i}(B_{i}), 1 ≤ i ≤ n, so folgt Q = P (aus (a)). (”P ist eindeutig bestimmt“)

Beispiel 3.6(a) (Bernoulli-Experiment, Binomialveteilung)

Geg. Zufalls-Experiment mit 2 möglichen Ergebnissen: \underline{0 oder 1} 1 → ϑ ∈ [0, 1]

0 → 1 − ϑ

n ∈ ℕ (Experiment wird n-mal unabhängig durchgeführt) Ω_{i} = {0, 1}, p_{i}(1) = ϑ = 1−p_{i}(0), 1 ≤ i ≤ n, Ω = Ω_{1} ×…×Ω_{n} = {0, 1}^{n} (→ Produktraum)

p(ω) = p(ω_{1}, …, ω_{n}) = ∏_{i=1}^{n} p_{i}(ω_{i}) = ϑ^{t(ω)} · (1 − ϑ)^{n−t(ω)} mit t(ω) = ∑_{i=1}^{n} ω_{i}

”(Ω, P) Bernoulli-Experiment“

k ∈ {0, 1, …, n}, p ↔ P, A_{k} = {ω ∈ Ω | t(ω) = k} (bei diesen n Durchführungen tritt ”1“ genau

k-mal ein). P (A_{k}) = ∑_{ω∈A_{k}} p(ω) = \binom{n}{k}ϑ^{k}(1 − ϑ)^{n−k}

Sei nun Ω′ = \{0, 1, …, n\}, p′(k) := \binom{n}{k}ϑ^{k}(1 − ϑ)^{n−k}, k ∈ Ω′

⇒ p′(k) ≥ 0 \underline{und} ∑_{k∈Ω′} p′(k) = (ϑ + 1 − ϑ)^{n} = 1^{n} = 1

\underline{Also:} (Ω′, p′) diskreter Wahrscheinlichkeitsraum: p′ ↔ P′, P′ heißt \underline{Binomialverteilung} mit Parametern n und ϑ.

Beispiel 3.6(b) (Negative Binomialverteilung mit Parametern r ∈ ℕ, ϑ ∈ (0, 1] )

Seien r, n ∈ ℕ, n ≥ r, ϑ ∈ (0, 1]. Betrachte ”Bernoulli-Experiment“ mit n und ϑ. Ω = {0, 1}^{n},

p(ω_{1}, …, ω_{n}) = ϑ^{t(ω)}(1 − ϑ)^{n−t(ω)}, wobei t(ω) := t(ω_{1}, …, ω_{n}) = ∑_{i=1}^{n} ω_{i}.

A_{r}^{(n)} := {(ω_{1}, …, ω_{n}) ∈ Ω | t(ω) = r, ω_{n} = 1} p ↔ P: P (A_{r}^{(n)}) = \binom{n−1}{r−1}ϑ^{r}(1 − ϑ)^{n−r}

k := n − r, dann n → k + r P (A_{r}^{(k+r)}) = \binom{k+r−1}{r−1}ϑ^{r}(1 − ϑ)^{k} = \binom{k+r−1}{k}ϑ^{r}(1 − ϑ)^{k}

k ∈ ℕ_{0} =: Ω′, p′(k) := ϑ^{r}\binom{k+r−1}{k}(1 − ϑ)^{k}

Dann gilt: (1) p′(k) ≥ 0 ∀ k ∈ Ω′ und (2) ∑_{k=0}^{∞} p′(k) = 1

p′ ↔ P′: P′ heißt \underline{negative Binomialverteilung} mit Parametern r und ϑ.

\underline{Interpretation:} Ein 0-1-wertiges Experiment werde so lange unabhängig durchgeführt, bis genau r ”Einsen“ eintreten. Die Wahrscheinlichkeit von 1 sei ϑ. Dann ”ist“ die Wahrscheinlichkeit, dass genau k + r Ausführungen nötig sind, gleich ϑ^{r}\binom{k+r−1}{k}(1 − ϑ)^{k}.

\underline{Spezialfall:} Für r = 1 erhält man die \underline{geometrische Verteilung}.

Satz 3.5 (Poisson’scher Grenzwertsatz)

Sei λ > 0, ϑ_{n} := \frac{λ}{n}, n ∈ ℕ, dann gilt:

lim_{n→∞} \binom{n}{k}ϑ_{n}^{k}(1 − ϑ_{n})^{n−k} = e^{−λ} · \frac{λ^{k}}{k!} ∀ k ∈ ℕ_{0}

Bemerkung 3.2

Seien Ω := ℕ_{0}, p(ω) = e^{−λ} · \frac{λ^{ω}}{ω!} , ω ∈ Ω

Dann gilt: (1) p(ω) ≥ 0 ∀ ω ∈ Ω und (2) ∑_{k=0}^{∞} p(k) = 1 Also: p Zähldichte auf Ω, p ↔ P heißt \underline{Poissonverteilung} mit Parameter λ.

§4 Zufallsvariablen

Definition 4.1

Seien Ω, 𝔛 ≠ ∅, f : Ω → 𝔛, dann heißt

f^{−1} : 𝔓(𝔛) → 𝔓(Ω), B ↦ {ω ∈ Ω | f(ω) ∈ B} die ”\underline{Mengen-Inverse}“ von f. Andere Schreibweisen: ω ∈ Ω : {f(ω) ∈ B} = {f ∈ B} := f^{−1}(B)

x ∈ 𝔛 : {f = x} := f^{−1} ({x})

Lemma 4.1

Seien Ω, 𝔛 ≠ ∅, f: Ω → 𝔛, I ≠ ∅ (beliebige Index-Menge), B_{i} ∈ 𝔓(𝔛), i ∈ I, dann gilt:

(a) f^{−1}( ⋃_{i∈I} B_{i}) = ⋃_{i∈I} f^{−1}(B_{i})

(b) f^{−1}( ⋂_{i∈I} B_{i}) = ⋂_{i∈I} f^{−1}(B_{i}) (”f^{−1} ist \underline{operationstreu}“)

(c) f^{−1}(B^{c}) = (f^{−1}(B))^{c}, B ∈ 𝔓(𝔛)

Definition 4.2

Seien (Ω, P) diskreter Wahrscheinlichkeitsraum; 𝔛 ≠ ∅ und X : Ω → 𝔛

(a) X heißt \underline{Zufallsvariable auf (Ω, P) mit Werten in 𝔛}.

(b) P^{X}: 𝔓(𝔛) → ℝ, B ↦ P (X^{−1}(B)) heißt die \underline{Verteilung von X} (bzgl. P).

Lemma 4.2

Seien (Ω, P) diskreter Wahrscheinlichkeitsraum, 𝔛 ≠ ∅, X : Ω → 𝔛 Dann gilt:

(a) P^{X} ist nicht-negativ (d.h. P^{X}(B) ≥ 0 ∀ B)

(b) P^{X} ist normiert (d.h. P^{X}(𝔛) = 1)

(c) P^{X} ist σ-additiv (d.h. sind B_{n} ∈ 𝔓(𝔛), n ∈ ℕ, paarweise disjunkt, so ist P^{X}( ∑_{n=1}^{∞} B_{n}) =

∑_{n=1}^{∞} P^{X}(B_{n})

(d) Es gibt abzählbare, nicht-leere Teilmenge X_{0} ⊂ 𝔛 mit

(i) P^{X}(X_{0}) = 1 (ii) P^{X}(B) = ∑_{x∈X_{0}} q(x)𝟙_{B}(x) ∀ B ∈ 𝔓(𝔛),

dabei ist q(x) := P^{X}({x}) = P ({X = x}), x ∈ 𝔛

(Sprechweise: P^{X} ist eine \underline{quasi-diskrete} Wahrscheinlichkeitsverteilung auf 𝔛)

Bemerkung 4.1

Ist X eine Zufallsvariable aus (Ω, P) mit Werten in ℝ^{1} bzw. ℝ^{n}, so nennt man X auch eine \underline{reelle} bzw. n-dim. Zufallsvariable.

Lemma 4.3

Seien (Ω, P) diskreter Wahrscheinlichkeitsraum, 𝔛_{1}, 𝔛_{2} ≠ ∅ (beliebig), X_{1}, X_{2} Zufallsvariablen auf (Ω, P) mit Werten in 𝔛_{1}, 𝔛_{2}. X̃: Ω → 𝔛_{1} × 𝔛_{2}, ω ↦ (X_{1}(ω), X_{2}(ω)), 𝔛_{1}^{∗} := X_{1}(Ω), 𝔛_{2}^{∗} := X_{2}(Ω) (! 𝔛_{1}^{∗} und 𝔛_{2}^{∗} abzählbar !) Dann gilt:

(a) (i) P^{X_{1}}(B_{1}) = ∑_{x_{2}∈𝔛_{2}^{∗}} P X̃(B_{1} × {x_{2}}), B_{1} ∈ 𝔓(𝔛_{1})

(ii) P^{X_{2}}(B_{2}) = ∑_{x_{1}∈𝔛_{1}^{∗}} P X̃({x_{1}} × B_{2}), B_{2} ∈ 𝔓(𝔛_{2})

(b) 𝔛_{1} = 𝔛_{2} = ℝ, Z = X_{1} + X_{2} ⇒ P^{Z}({z}) = ∑_{x_{1}∈𝔛_{1}^{∗}} P X̃({x_{1}, z − x_{1}})

( = ∑_{x_{1}∈𝔛_{1}^{∗}} P ({X_{1} = x_{1}} ∩ {X_{2} = z − x_{1}})) = ∑_{x_{2}∈𝔛_{2}^{∗}} P ({X_{1} = z − x_{2}} ∩ {X_{2} = x_{2}})

Definition 4.3

Sei (Ω, P) diskreter Wahrscheinlichkeitsraum; I ≠ ∅ (beliebig), 𝔛_{i} ≠ ∅, X_{i} Zufallsvariable auf (Ω, P) mit Werten in 𝔛_{i}, i ∈ I. Dann heißt (X_{i})_{i∈I} \underline{stochastisch unabhängig}, wenn für jede Wahl von B_{i} ∈ 𝔓(𝔛_{i}), i ∈ I, die Ereignisse A_{i} := {X_{i} ∈ B_{i}}, i ∈ I, stochastisch unabhängig sind.

Bemerkung 4.2

(a) Unabhängigkeit von Ereignissen ist äquivalent mit der Unabhängigkeit jeder endlichen Auswahl der gegebenen Ereignisse. Daher ist die Unabhängigkeit von (X_{i})_{i∈I} äquivalent mit der Unabhängigkeit von (X_{j})_{j∈J} für jede endliche Menge J ⊂ I.

(b) Im folgenden betrachten wir daher zunächst den Fall I = {1, …, n}, n ∈ ℕ, n ≥ 2 .

Satz 4.1

(Ω, P) diskreter Wahrscheinlichkeitsraum; n ∈ ℕ, 𝔛_{1}, …, 𝔛_{n} ≠ ∅, X_{1}, …, X_{n} Zufallsvariablen auf (Ω, P) mit Werten in 𝔛_{1}, … bzw. 𝔛_{n}. Dann sind die folgenden Aussagen äquivalent:

(a) X_{1}, …, X_{n} sind stochastisch unabhängig.

(b) P ( ⋂_{i=1}^{n}{X_{i} = x_{i}}) = ∏_{i=1}^{n} P ({X_{i} = x_{i}}) ∀ x̃ = (x_{1}, …, x_{n}) ∈ 𝔛_{1} × … × 𝔛_{n}

(c) P ( ⋂_{i=1}^{n}{X_{i} ∈ B_{i}}) = ∏_{i=1}^{n} P ({X_{i} ∈ B_{i}}) ∀ B_{i} = (B_{1}, …, B_{n}) ∈ 𝔓(𝔛_{1}) × … × 𝔓(𝔛_{n})

Lemma 4.4

X_{1}, X_{2}, …, X_{n} seien stochastisch unabhängige Zufallsvariablen auf (Ω, P) mit Werten in 𝔛_{1}, 𝔛_{2}, … bzw. 𝔛_{n}. Ferner seien 𝔛_{i}^{∗} := X_{i}(Ω), 1 ≤ i ≤ n. Außerdem seien 𝔛^{∗} := 𝔛_{1}^{∗} × … × 𝔛_{n}^{∗} (abzählbar) und 𝔛 := 𝔛_{1} × … × 𝔛_{n}. Dann gilt:

(a) Ist B ∈ 𝔓(𝔛), B^{∗} ∈ B ∩ 𝔛^{∗}, so folgt:

P ( {(X_{1}, …, X_{n}) ∈ B} ) = P ( {(X_{1}, …, X_{n}) ∈ B^{∗}} ) = ∑_{(x_{1}^{∗},...,x_{n}^{∗})∈B^{∗}} ∏_{i=1}^{n} P ({X_{i} = x_{i}^{∗}})

(b) Ist J ⊂ {1, …, n}, J ≠ ∅, so sind auch (X_{j})_{j∈J} stochastisch unabhängig.

Satz 4.2

Mit den Bezeichnungen und Voraussetzungen aus Lemma 4.4 seien ferner k ∈ {1, …, n − 1}, 𝔍_{1} := 𝔛_{1} × … × 𝔛_{k}, 𝔍_{2} := 𝔛_{k+1} × … × 𝔛_{n}, ℨ_{1}, ℨ_{2} ≠ ∅ und g_{1} := 𝔍_{1} → ℨ_{1}, g_{2} := 𝔍_{2} → ℨ_{2}; definiert man dann Z_{1} : Ω → ℨ_{1}, ω ↦ g_{1}(X_{1}(ω), …, X_{k}(ω)) und Z_{2} : Ω → ℨ_{2}, ω ↦ g_{2}(X_{k+1}(ω), …, X_{n}(ω)), so sind Z_{1}, Z_{2} \underline{stochastisch unabhängig}.

§5 Erwartungswert, Varianz, Kovarianz, Korrelation

Definition 5.1

Ist X reelle Zufallsvariable auf (Ω, P) mit ∑_{ω∈Ω} |X(ω)| · P ({ω}) < ∞ (absolute Konvergenz)

so heißt

E(X) = EX := ∑_{ω∈Ω} X(ω) · P ({ω})

der \underline{Erwartungswert von X} (bzgl. P).

Bemerkung 5.1

Ist |Ω| < ∞, so ist die Bedingung ∑_{ω∈Ω} |X(ω)| · P ({ω}) < ∞ überflüssig. Ist dagegen |Ω| = ∞, so wird durch diese Bedingung sichergestellt, dass ∑_{ω∈Ω} X(ω) · P ({ω}) unabhängig von der Abzählung von Ω ist.

Satz 5.1 (”Transformationssatz“)

X Zufallsvariable auf (Ω, P) mit Werten in 𝔛 ≠ ∅. Weiter seien g: 𝔛 → ℝ; Y : Ω → ℝ, ω ↦ g (X(ω)) (also Y = g ∘ X). Ist dann 𝔛^{∗} abzählbar mit 𝔛^{∗} ⊃ X(Ω), so gilt:

(a) ∑_{ω∈Ω} |Y (ω)| · P ({ω}) < ∞ ⇔ ∑_{x∈𝔛^{∗}} |g(x)| · P ({X = x}) < ∞

(b) ∑_{ω∈Ω} |Y (ω)| · P ({ω}) < ∞ ⇒ EY = ∑_{x∈𝔛^{∗}} g(x) · P ({X = x})

Bemerkung 5.2

(a) Man beachte, dass X nicht notwendig reellwertig ist.

(b) Ist X reelle Zufallsvariable mit existierendem Erwartungswert, so folgt aus Satz 5.2(b):

EX = ∑_{x∈𝔛^{∗}} x · P ({X = x}) (Wähle 𝔛^{∗} := X(Ω), g: ℝ → ℝ, x ↦ x)

Das heißt der Erwartungswert von X hängt nur ab von der Verteilung von X.

Beispiel 5.2

(a) X sei b(n, ϑ)-verteilt (n ∈ ℕ, ϑ ∈ [0, 1])

⇒ EX = nϑ

(b) X sei hypergeometrisch verteilt mit Parametern r, s, n ∈ ℕ_{0}, n ≥ 1, r + s ≥ 1

⇒ EX = n \frac{r}{r + s}

(c) X sei negativ binomialverteilt mit Parameter r ∈ ℕ, ϑ ∈ (0, 1)

⇒ EX = r \frac{1 − ϑ}{ϑ}

(d) X sei Poisson-verteilt mit Parameter λ > 0 ⇒ EX = λ

Satz 5.2

X, Y seien reelle Zufallsvariablen auf (Ω, P) mit existierenden Erwartungswerten. Dann gilt:

(a) Ist α ∈ ℝ, so existiert der Erwartungswert von αX und es gilt E(αX) = αEX.

(b) Der Erwartungswert von X + Y exisitiert und es gilt E(X + Y) = EX + EY.

(c) Sind X, Y stochastisch unabhängig, so existiert der Erwartungswert von X · Y und es gilt E(X · Y) = EX · EY

Lemma 5.1

X, Y reelle Zufallsvariablen auf (Ω, P), so dass der Erwartungswert von X^{2} und Y^{2} existiert. Dann gilt:

(a) Es existieren Erwartungswerte von X und Y.

(b) Bezeichnet a bzw. b den Erwartungswert von X bzw. Y, so existieren Erwartungswerte von (X − a)^{2}, (Y − b)^{2} und (X − a)(Y − b).

(c) Es existiert der Erwartungswert von (X + Y)^{2}.

Definition 5.2

X, Y seien reelle Zufallsvariablen auf (Ω, P) mit EX^{2} < ∞, EY^{2} < ∞, ferner sei a := EX, b := EY (a) V arX := E(X − a)^{2} heißt die \underline{Varianz von X}

(b) Cov(X, Y) := E(X − a)(Y − b) heißt die \underline{Kovarianz von X und Y}

(c) Ist V arX > 0 und V arY > 0, so heißt

ρ(X, Y) := \frac{Cov(X, Y)}{\sqrt{V arX · V arY}}

die \underline{Korrelation zwischen X und Y}.
Gilt ρ(X, Y) = 0, also Cov(X, Y) = 0, so nennt man X und Y \underline{unkorreliert}.

Satz 5.3

X, Y reelle Zufallsvariablen auf (Ω, P) mit EX^{2} < ∞, EY^{2} < ∞; α, β, γ, δ ∈ ℝ. Dann gilt:

(a) V arX = EX^{2} − (EX)^{2}

(b) Cov(X, Y) = E(XY) − EX · EY

(c) V ar(αX + β) = α^{2}V arX

(d) Cov(αX + β, γY + δ) = αγ Cov(X, Y)

(e) V ar(X + Y) = V arX + V arY + 2 Cov(X, Y)

(f) X, Y stochastisch unabhängig ⇒ V ar(X + Y) = V arX + V arY

Satz 5.4

X, Y seien reelle Zufallsvariablen auf (Ω, P) mit EX^{2} < ∞ und EY^{2} < ∞, dann gilt:

(a) (”Cauchy-Schwarz-Ungleichung“)

(E(X · Y))^{2} ≤ EX^{2} · EY^{2}

(b) |Cov(X, Y)|^{2} ≤ V arX · V arY

(c) Ist die Korrelation zwischen X und Y erklärt, so ist |ρ(X, Y)| ≤ 1

Beispiel 5.4

(a) x_{1}, …, x_{n} ∈ ℝ, X Zufallsvariable mit P (X = x_{i}) = \frac{1}{n}. Dann ist EX = \frac{1}{n} ∑_{i=1}^{n} x_{i} =: x̄ und es

gilt:

V arX = \frac{1}{n} (∑_{i=1}^{n} x_{i}^{2} − nx̄^{2})

(b) n ∈ ℕ, ϑ ∈ [0, 1]; X sei b(n, ϑ)-verteilt. Dann ist EX = nϑ und es gilt:

V arX = nϑ(1 − ϑ)

(c) X sei hypergeometrisch verteilt mit r, s, n; N := r + s. Dann ist EX = n\frac{r}{N} und es gilt:

V arX = n \frac{r}{N} \frac{s}{N} (\frac{N − n}{N − 1})

(d) r ∈ ℕ, ϑ ∈ (0, 1); X sei negativ binomialverteilt mit r und ϑ. Dann ist EX = \frac{r(1−ϑ)}{ϑ} und es gilt:

V arX = \frac{r(1 − ϑ)}{ϑ^{2}}

(e) Sei λ > 0, X Poisson-verteilt mit Parameter λ. Dann ist EX = λ und es gilt:

V arX = λ

Satz 5.5 (”Tschebyscheff-Ungleichgung“)

Sei X reelle Zufallsvariable auf (Ω, P) mit EX^{2} < ∞

⇒ P ( \{|X − EX| ≥ ε\} ) ≤ \frac{V arX}{ε^{2}} ∀ ε > 0

Satz 5.6 (”Markow-Ungleichung“)

Sei Z reelle Zufallsvariable auf (Ω, P); g: [0, +∞) → [0, +∞) mit (1) g isoton (d.h. monoton wachsend)

(2) Eg(|Z|) < ∞

⇒ g(ε) · P ({|Z| ≥ ε}) ≤ Eg(|Z|)

Bemerkung 5.3

(a) Die Ungleichung in (5.5) ist relativ grob, aber von theoretischem Nutzen.

(b) Der Nutzen wird deutlich im nächsten Satz:

Satz 5.7 (”Schwaches Gesetz der großen Zahlen“)

Seien n ∈ ℕ, X_{1}, …, X_{n} reelle stochastisch unabhängige Zufallsvariablen auf (Ω, P). Alle X_{1}, …, X_{n} mögen dieselbe Verteilung besitzen (X_{1}, …, X_{n} seien stochastisch unabhängige ”identisch verteilte“ Zufallsvariablen). Ist dann EX^{2} < ∞, a := EX_{1}, σ^{2} := V arX_{1}, X̄_{(n)} := \frac{1}{n} ∑_{i=1}^{n} X_{i}, so gilt:

P (\{|X̄_{(n)} − a| ≥ ε\}) ≤ \frac{σ^{2}}{ε^{2}n} ∀ ε > 0

§6 Diskrete Zufallsvariablen auf allgemeinen Räumen

Definition 6.1

Seien Ω ≠ ∅, 𝔄 ⊂ 𝔓(Ω), dann heißt 𝔄 \underline{σ-Algebra in Ω} falls folgende Bedingungen erfüllt sind:

(1) Ω ∈ 𝔄

(2) Für alle A ∈ 𝔄 gilt auch A^{c} ∈ 𝔄

(3) Für jede Folge A_{n} ∈ 𝔄, n ∈ ℕ, gilt: ( ⋃_{i=1}^{∞} A_{n}) ∈ 𝔄

Satz 6.1

Ω ≠ ∅, 𝔄 σ-Algebra in Ω, dann gilt:

(a) ∅ ∈ 𝔄

(b) Ist I ≠ ∅ abzählbar und sind A_{i} ∈ 𝔄, i ∈ I, dann folgt:

(i) ⋃_{i∈I} A_{i} ∈ 𝔄
(ii) ⋂_{i∈I} A_{i} ∈ 𝔄

Satz 6.2

Ω ≠ ∅, 𝔄 σ-Algebra in Ω; A_{n} ∈ 𝔄, n ∈ ℕ

⇒ B := ⋃_{n=1}^{∞} ⋂_{m=n}^{∞} A_{m} ∈ 𝔄 (”lim inf A_{n}“)
C := ⋂_{n=1}^{∞} ⋃_{m=n}^{∞} A_{m} ∈ 𝔄 (”lim sup A_{n}“)

Definition 6.2

Ω ≠ ∅, 𝔄 ⊂ 𝔓(Ω), P: 𝔄 → ℝ

(a) (Ω, 𝔄) heißt \underline{Messraum}, falls 𝔄 σ-Algebra in Ω ist.

(b) Ist (Ω, 𝔄) ein Messraum, so heißt P ein \underline{Wahrscheinlichkeitsmaß auf (Ω, 𝔄)}, falls P nichtnegativ, normiert und σ-additiv ist.

(c) (Ω, 𝔄, P) heißt ein (allgemeiner) \underline{Wahrscheinlichkeitsraum}, falls (Ω, 𝔄) ein Messraum und P ein Wahrscheinlichkeitsmaß auf (Ω, 𝔄) ist.

Bemerkung 6.1

(a) Die Sätze 1.3 und 2.4 gelten auch, mit folgenden Modifikationen:

(i) Ersetze ”(Ω, P) diskreter Wahrscheinlichkeitsraum“ durch ”(Ω, 𝔄, P) Wahrscheinlichkeitsraum“.

(ii) Von allen auftretenden Teilmengen von Ω wird zusätzlich verlangt, dass sie Element von

𝔄 sind.

(b) Mit den selben Modifikationen werden die Definition 3.1 und 3.2 auf allgemeine Wahrscheinlichkeitsräume übertragen.

(c) Mit diesen Modifikationen bleiben die Sätze 3.1 und 3.3 gültig.

(d) Es gilt folgende Verallgemeinerung von Satz 3.4:

Satz 6.3 (”Produktmaßsatz“)

Seien (Ω_{1}, 𝔄_{1}, P_{1}), (Ω_{2}, 𝔄_{2}, P_{2}) Wahrscheinlichkeitsräume und Ω := Ω_{1} × Ω_{2}. Dann gilt:

(a) Es gibt σ-Algebra 𝔄 in Ω und ein Wahrscheinlichkeitsmaß P auf (Ω, 𝔄) mit (i) A_{1} × A_{2} ∈ 𝔄 ∀ A_{1} ∈ 𝔄_{1}, A_{2} ∈ 𝔄_{2} (ii) P (A_{1} × A_{2}) = P (A_{1}) · P (A_{2}) ∀ A_{1} ∈ 𝔄_{1}, A_{2} ∈ 𝔄_{2}

(b) Wählt man 𝔄 als kleinste σ-Algebra in Ω, die (a)(i) erfüllt, so ist P eindeutig bestimmt. \underline{Zu Zufallsvariablen:} (Ω, 𝔄, P), X: Ω → 𝔛. Ω ist im Allgemeinen nicht abzählbar und damit ist X(Ω) im Allgemeinen nicht abzählbar.

Definition 6.3 (vgl. Def. 4.2)

Seien (Ω, 𝔄, P) Wahrscheinlichkeitsraum, 𝔛 ≠ ∅ (beliebig), X: Ω → 𝔛

(a) X heißt \underline{diskrete Zufallsvariable auf (Ω, 𝔄, P) mit Werten in 𝔛}, falls gilt: (i) X(Ω) abzählbar (ii) X^{−1}(B) ∈ 𝔄 ∀ B ∈ 𝔓(𝔛)

(b) Ist X diskrete Zufallsvariable auf (Ω, 𝔄, P) mit Werten in 𝔛, so heißt

P^{X}: \{ \begin{matrix}𝔓(𝔛) → ℝ \\ B ↦ P (X^{−1}(B)) \end{matrix} die \underline{Verteilung von X}.

Satz 6.4

Sei (Ω, 𝔄) Messraum, 𝔛 ≠ ∅ beliebig, X: Ω → 𝔛 mit X(Ω) abzählbar. Dann sind folgende Aussagen äquivalent:

(a) X^{−1}(B) ∈ 𝔄 ∀ B ∈ 𝔓(𝔛)

(b) X^{−1} ({x}) ∈ 𝔄 ∀ x ∈ 𝔛

Satz 6.5

Seien (Ω, 𝔄, P) Wahrscheinlichkeitsraum, 𝔛, ℨ ≠ ∅, X: Ω → 𝔛, g: 𝔛 → ℨ, so dass X diskrete Zufallsvariable auf (Ω, 𝔄, P) ist. Dann ist

Y : \{ \begin{matrix}Ω → ℨ \\ ω ↦ g(X(ω)) \end{matrix} eine diskrete Zufallsvariable auf (Ω, 𝔄, P) mit Werten in ℨ.

Satz 6.6

Seien (Ω, 𝔄, P) Wahrscheinlichkeitsraum, 𝔛_{1}, 𝔛_{2} ≠ ∅, 𝔛 := 𝔛_{1} × 𝔛_{2}, X_{i}: Ω → 𝔛_{i}, i = 1, 2 und X̃: Ω → 𝔛, ω ↦ (X_{1}(ω), X_{2}(ω)). Dann gilt:

X̃ ist diskrete Zufallsvariable auf (Ω, 𝔄, P) mit Werten in 𝔛 genau dann, wenn X_{i} diskrete Zufallsvariable auf (Ω, 𝔄, P) mit Werten in 𝔛_{i} ist (i = 1, 2).

Bemerkung 6.2

(a) Lemma 4.3 bleibt gültig mit folgenden Modifikationen:

(i) Ersetze ”(Ω, P) diskreter Wahrscheinlichkeitsraum“ durch ”(Ω, 𝔄, P) allgemeiner Wahrscheinlichkeitsraum“.

(ii) Ersetze ”X_{1}, X_{2} Zufallsvariablen auf (Ω, P)“ durch ”X_{1}, X_{2} diskrete Zufallsvariablen auf (Ω, 𝔄, P)“.

(b) Mit den entsprechenden Modifikationen wird Definition 4.3 auf diskrete Zufallsvariablen auf (Ω, 𝔄, P) übertragen.

(c) Sätze 4.1 und 4.2 gelten mit den entsprechenden Modifikationen auch für diskrete Zufallsvariablen auf (Ω, 𝔄, P).

(d) (Ω, 𝔄, P) Wahrscheinlichkeitsraum, X diskrete Zufallsvariable auf (Ω, 𝔄, P) mit Werten in ℝ; 𝔛^{∗} := X(Ω) (! 𝔛^{∗} abzählbar !). Ist die Reihe ∑_{x∈𝔛^{∗}} |x| · P ({X = x}) < ∞, so heißt

EX := ∑_{x∈𝔛^{∗}} x · P (\{X = x\}) der \underline{Erwartungswert von X}.

(e) Die Begriffe ”Varianz“, ”Kovarianz“ und ”Korrelation“werden analog wie in §5 eingeführt.

(f) Alle Aussagen in §5 bleiben gültig.

(g) Alle Voraussetzungen der im folgenden Paragraphen angegebenen Sätze sind nicht leer. Insbesondere gilt der folgende Satz:

Satz 6.7

Für n ∈ ℕ sei (Ω_{n}, P_{n}) ein diskreter Wahrscheinlichkeitsraum, dann gibt es einen allgemeinen Wahrscheinlichkeitsraum (Ω, 𝔄, P) und darauf eine Folge von stochastisch unabhängigen Zufallsvariablen X_{n}, n ∈ ℕ, mit Werten in Ω_{n}, n ∈ ℕ, so dass P^{X_{n}} = P_{n} ∀n ∈ ℕ.

§7 Gesetze der großen Zahlen

Satz 7.1 (”Schwaches Gesetz der großen Zahlen“)

Seien X_{n}, n ∈ ℕ, diskrete stochastisch unabhängige Zufallsvariablen auf einem allgemeinen Wahrscheinlichkeitsraum (Ω, 𝔄, P) mit Werten in ℝ; alle X_{n} mögen dieselbe Verteilung besitzen; ist dann EX_{1}^{2} < ∞, a := EX_{1}, so gilt:

lim_{n→∞} P (\{|\frac{1}{n} ∑_{i=1}^{n} X_{i} − a| ≥ ε\}) = 0 ∀ ε > 0

Satz 7.2

Seien (Ω, 𝔄, P) ein Wahrscheinlichkeitsraum; Y, Y_{n}, n ∈ ℕ, diskrete Zufallsvariablen auf (Ω, 𝔄, P) mit Werten jeweils in ℝ; ist dann C_{0} := {ω ∈ Ω | lim_{n→∞} Y_{n}(ω) = Y (ω)}, so gilt C_{0} ∈ 𝔄.

Satz 7.3

(Ω, 𝔄, P) sei Wahrscheinlichkeitsraum, Y, Y_{n}, n ∈ ℕ, diskrete Zufallsvariablen auf (Ω, 𝔄, P) mit Werten jeweils in ℝ. Dann sind folgende Aussagen äquivalent:

(a) P ({ω ∈ Ω | lim_{n→∞} Y_{n}(ω) = Y (ω)}) = 1

(b) ∃ N ∈ 𝔄 mit P (N) = 0 und lim_{n→∞} Y_{n}(ω) = Y (ω) ∀ ω ∈ N^{c}

(c) P ( ⋃_{n=1}^{∞} ⋂_{m=n}^{∞} \{|Y_{m} − Y | < \frac{1}{k}\}) = 1 ∀ k ∈ ℕ

(d) P ( ⋂_{n=1}^{∞} ⋃_{m=n}^{∞} \{|Y_{m} − Y | ≥ \frac{1}{k}\}) = 0 ∀ k ∈ ℕ

(e) lim_{n→∞} P ( ⋃_{m=n}^{∞} \{|Y_{m} − Y | ≥ \frac{1}{k}\}) = 0 ∀ k ∈ ℕ

Satz 7.4 (”Kolmogoroff-Ungleichung“)

Seien (Ω, 𝔄, P) Wahrscheinlichkeitsraum, n ∈ ℕ, X_{1}, ⋯, X_{n} stochastisch unabhängige diskrete Zufallsvariablen auf (Ω, 𝔄, P) mit Werten jeweils in ℝ.

Ferner seien EX_{i}^{2} < ∞, a_{i} := EX_{i}, σ_{i}^{2} := V arX_{i}, 1 ≤ i ≤ n, τ^{2} := ∑_{i=1}^{n} σ_{i}^{2} = V ar( ∑_{i=1}^{n} X_{i}). Ist

dann τ^{2} > 0, so gilt

P (⋃_{j=1}^{n} \{|∑_{ρ=1}^{j}(X_{ρ} − a_{ρ})| ≥ k · τ\}) ≤ \frac{1}{k^{2}} ∀ k > 0

Definition 7.1

Seien Y, Y_{n}, n ∈ ℕ diskrete Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, 𝔄, P) mit Werten jeweils in ℝ.

(a) (Y_{n})_{n∈ℕ} heißt \underline{stochastisch konvergent gegen Y}, falls

lim_{n→∞} P ( {|Y_{n} − Y | ≥ ε} ) = 0 ∀ ε > 0

(b) (Y_{n})_{n∈ℕ} \underline{konvergiert (P -) fast sicher gegen Y}, falls

P ({ lim_{n→∞} Y_{n} = Y }) = 1

Satz 7.5 (”Starkes Gesetz der großen Zahlen“)

X_{n}, n ∈ ℕ, seien diskrete, stochastisch unabhängige Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, 𝔄, P) mit Werten jeweils in ℝ. Es gelte EX_{n}^{2} < ∞ ∀ n ∈ ℕ. Ist dann a_{n} := EX_{n},

σ_{n}^{2} := V arX_{n}, Y_{n} := \frac{1}{n} ∑_{i=1}^{n}(X_{i} − a_{i}), n ∈ ℕ, und gilt die ”Kolmogoroff-Bedingung“ ∑_{n=1}^{∞} \frac{σ_{n}^{2}}{n^{2}} < ∞, so

folgt:

(Y_{n})_{n∈ℕ} konvergiert fast sicher gegen 0

Satz 7.6

Mit den Bezeichnungen und Voraussetzungen aus Satz 7.5 gelte ferner:

Es gibt a ∈ ℝ mit lim_{n→∞} \frac{1}{n} ∑_{i=1}^{n} a_{i} = a. Dann folgt:

(\frac{1}{n} ∑_{i=1}^{n} X_{i})_{n∈ℕ} konvergiert fast sicher gegen a

Satz 7.7

Sei (X_{n})_{n∈ℕ} eine Folge von stochastisch unabhängigen diskreten Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, 𝔄, P) mit Werten jeweils in ℝ. Alle X_{n}, n ∈ ℕ, mögen dieselbe Verteilung besitzen (also P ({X_{n} = x}) = P ({X_{1} = x}) ∀ x ∈ ℝ ∀ n ∈ ℕ); gilt dann EX_{1}^{2} < ∞, so folgt:

(\frac{1}{n} ∑_{i=1}^{n} X_{i})_{n∈ℕ} konvergiert fast sicher gegen a_{1} := EX_{1}

Satz 7.8

Sei (X_{n})_{n∈ℕ} eine Folge von stochastisch unabhängigen diskreten Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, 𝔄, P) mit Werten jeweils in einer (beliebigen) Menge 𝔛 ≠ ∅. Alle X_{n}, n ∈ ℕ, mögen dieselbe Verteilung besitzen. Ist dann g: 𝔛 → ℝ, Y_{n} := g(X_{n}), n ∈ ℕ, und gilt EY_{1}^{2} < ∞, so folgt:

(\frac{1}{n} ∑_{i=1}^{n} Y_{i})_{n∈ℕ} konvergiert fast sicher gegen b_{1} := EY_{1}