Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

1

Gegeben sei ein Parallelrechner mit 5 Prozessoren und 3 verschiedene Jobs.

a) Wie viele Möglichkeiten gibt es die 3 Jobs auf die 5 Prozessoren zu verteilen, wenn jedem Prozessor höchstens ein Job zugeteilt werden darf? und

(i) die Jobs unterschieden werden

(ii) die Jobs nicht unterschieden werden

b) Wie viele Möglichkeiten gibt es bei (i) bzw. (ii) dafür, daß die ersten drei Prozessoren zwei Jobs und die restlichen beiden einen Jobs erhalten?

c) Bestimmen Sie unter (i) und (ii) die Wahrscheinlichkeit, daß das in b) beschriebene Ereignis bei einer zufälligen Verteilung der Jobs auftritt.

a) (i) \frac{5!}{2!} = 60

(ii) \binom{5}{3} = 10

b) (i) \frac{3!}{1!} \frac{2!}{1!} · 3 = 36

(ii) \binom{3}{2}\binom{2}{1} = 6

c) (i) \frac{36}{60} = 0, 6

(ii) \frac{6}{10} = 0, 6

2

Gegeben sind abzählbar viele Urnen U_{n}, n ≥ 1. Wie groß ist die Wahrscheinlichkeit, ∞ viele schwarze Kugeln zu ziehen, wenn aus jeder Urne eine Kugel gezogen wird und

a) in U_{n} 1 schwarze und n − 1 weiße Kugeln sind.

b) in U_{n} 1 schwarze und n^{2} − 1 weiße Kugeln sind.

Hinweis: Borell-Cantelli

2a) A_{k} = {schwarze Kugel aus Urne k} = {w ∈ Ω|w_{k} = 1} P (A_{k}) = \frac{|A_{k}|}{|Ω_{k}|} = \frac{1}{k}

∑_{k=1}^{∞} P (A_{k}) = ∑_{k=1}^{∞} \frac{1}{k} = ∞
⇒ P (lim sup A_{k}) = 1

2b) Ω := [figure: ∞; k=1] Ω_{k} mit Ω_{k} := {i : 1 ≤ i ≤ k} w_{i} = 1 schwarze, w_{i} ≠ 1 weiße A_{k} = {w ∈ Ω|w_{k} = 1} ∑_{k=1}^{∞} P (A_{k}) = ∑_{k=1}^{∞} \frac{|A_{k}|}{|Ω_{k}|} = ∑_{k=1}^{∞} \frac{1}{k^{2}} < ∞

⇒ P (lim sup_{k→∞} A_{k}) = 0

3

Gegeben Wahrscheinlichkeitsraum (Ω, 𝔄, P). Sei 𝔄̃ := {A ∈ 𝔄|P (A) = 0 ∨ P (A) = 1} E := {A ∈ 𝔄|P (A) = 0} Zeige 𝔄(E) = 𝔄̃ Lösung:

𝔄(E) = ⋂_{{𝔄⊇E \atop 𝔄 σ-Algebra}}  E ⊆ 𝔄(E)  𝔄(E) ist σ-Algebra kleinste σ-Algebra, die E enthält

Zeige 𝔄̃ ist σ-Algebra Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

i) Ω ∈ 𝔄̃, da P (Ω) = 1

ii) A ∈ 𝔄̃ ⇒ P (A) = 1 ∨ P (A) = 0 ⇒ P (A^{C}) = 0 ∨ P (A^{C}) = 1 ⇒ A^{C} ∈ 𝔄̃

iii) (A_{n}) ∈ 𝔄̃

P (⋃_{n=1}^{∞} A_{n}) = \{ \begin{matrix}1. Fall: P (A_{n}) = 0∀n ≥ 0, denn 0 ≤ P (⋃ A_{n}) ≤ ∑ P (A_{n}) = ∑ 0 = 0 \\ 2. Fall: ∃n_{0} mit P (A_{n}) = 1 … = 1, denn 1 ≥ P (⋃ A_{n}) ≥ P (A_{n_{0}}) = 1 \end{matrix}

Insgesamt: 𝔄̃ ist σ-Algebra mit E ⊆ 𝔄̃ ⇒ 𝔄(E) ⊆ 𝔄(𝔄̃) = 𝔄̃ Zeige: 𝔄̃ ⊆ 𝔄(E)

Sei A ∈ 𝔄̃ ⇒ \{ \begin{matrix}P (A) = 0 ⇒ A ∈ 𝔄(E) \\ P (A) = 1 ⇒ P (A^{C}) = 0 ⇒ A^{C} ∈ 𝔄(E) ⇒ A ∈ 𝔄(E) \end{matrix}

4

Sei Ω überabzählbar Zeige:

i) 𝔄 := {A ⊂ Ω|A abz. oder A^{C} abz.} ist σ-Algebra

ii) P : 𝔄 → [0, 1], A ↦ \{ \begin{matrix}1, A^{C} abz. \\ 0, A abz. \end{matrix} ist Wahrscheinlichkeitsmaß

Lösung:

a) (i) Ω ∈ 𝔄, da ∅ = A^{C} abz

(ii) A ∈ 𝔄 ⇒ \{ \begin{matrix}A abz ⇒ A^{C} überabz. ⇒ A^{C} ∈ 𝔄 \\ A^{C} abz ⇒ A überabz. ⇒ A ∈ 𝔄 \end{matrix}

(iii) (A_{k}) ⊂ 𝔄

1. Fall: A_{k} abz ∀k ⇒ ⋃_{k=1}^{∞} A_{k} abz., denn abzählbare Vereinigung von abz. Mengen ist wieder abzählbar ⇒ ⋃ A_{k} ∈ 𝔄

1. Fall: ∃_{0}^{k} mit A_{k_{0}} abz⇒ A_{k_{0}} überzabzählbar

(⋃_{k=1}^{∞} A_{k})^{C} = ⋂_{k=1}^{∞} A_{k}^{C} abz.⇒ (⋃_{k=1}^{∞} A_{k})^{C} ∈ 𝔄 \underrightarrow{id} ⋃ A_{k} ∈ 𝔄

b) (i) P (Ω) = 1, da Ω^{C} abz.

(ii) P (⋃_{k=1}^{∞} A_{k}) = P (∑_{k=1}^{∞} A_{k}) = ∑_{k=1}^{∞} P (A_{k})

5

In Deutschlan seien 8000 der 80 Mio. Einwohner an einem tötlichen Virus erkrankt. Es wurde ein Test für die Krankheit entwickelt, der jedoch in 1% der Fälle ein falsches Ergebnis liefert. Wie hoch ist die Wahrscheinlichkeit vom Virus befalen zu sein bei pos. Testergebnis?

Lösung:

Ω = {1, …, 80 · 10^{6}} A : Vom Virus befallen, A = {1, …, 8000} P (A) = \frac{1}{10000} B : positiver Test P (B|A) = \frac{99}{100}, P (B|A^{C}) = \frac{1}{100} P (B|A) = \frac{P (A∩B)}{P (A)} ⇔ P (B ∩ A) = \frac{99}{100000}

Gesucht: P (A|B) = \frac{P (A∩B)}{P (B)}

P (A|B) = \frac{P (B|A)P (A)}{P (B|A)P (A) + P (B|A^{C})P (A^{C})} = \frac{\frac{99}{100} \frac{1}{10000}}{\frac{99}{100} \frac{1}{10000} + \frac{9999}{10000} \frac{1}{100}} = \frac{99}{10098} = 0, 0098

Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

Andere Möglichkeit: P (B) = P (A)P (B|A) + P (A^{C})P (B|A^{C}) totale Wahrscheinlichkeit P (A|B) = \frac{P (A∩B}{P (B)}

6

Gegeben seien Zufallsvariablen X mit P^{X} = E_{2}, d.h. P (X = 2) = 1, Y ∼ Bin(1, \frac{1}{3}), Z ∼ R[−1, 1] stoch unabh. Bestimme:

i) |X|, |Y |, |Z|

ii) X + Y, X + Z, Y + Z

iii) X^{2}, Y^{2}, Z^{2}

iv) 2X, 2Y, 2Z

v) X · Y, X · Z, Y · Z

Lösung:

i) |X| = X, da X(w) = 2 = |2| = |X(w)| ∀n ∈ Ω |Y | = Y, da Y (w) ≥ 0 ∀n ∈ Ω |Z| = R[0, 1]

F_{|Z|}(x) = P (|Z| ≤ x) = P ((Z ≤ x) ∧ (Z ≥ −x))
= P ((Z ≤ x) ∨ (Z ≥ −x)) + P (Z ≤ x) + P (Z ≥ −x)
= \{ \begin{matrix}x ≤ 0 : −2 · \frac{1}{2}(1 − x) + \frac{1}{2}(1 − x) + \frac{1}{2}(1 − x) = 0 \\ x ≥ 0 : −1 + \frac{1}{2}(x + 1) + \frac{1}{2}(x + 1) = x \end{matrix}

F_{|Z|} = \{ \begin{matrix}0, x < 0 \\ x, 0 ≤ x ≤ 1 \\ 1, x ≥ 1 \end{matrix}

f_{|Z|} = F′_{|Z|} ⇒ f_{|Z|} = 11_{[0,1]} ⇒ |Z| ∼ R[0, 1]

ii) X + Y : P^{X+Y} (2) = \frac{2}{3}, P^{X+Y} (3) = \frac{1}{3} P (X + Y = 2) = P (X = 2, Y = 0) = P (X = 2)P (Y = 0) = 1 · \frac{2}{3} = \frac{2}{3} X + Y ∼ R[1, 3]

F_{X+Z}(x) = P (X + Z ≤ x) = P (2 + Z ≤ x)
= P (Z ≤ x − 2) = F_{Z}(x − 2)

Y + Z ∼ \frac{2}{3}R[−1, 1] + \frac{1}{3}R[0, 2]

f_{Y +Z}(x) = \{ \begin{matrix}\frac{2}{3} \frac{1}{2} = \frac{1}{3} : x ∈ [−1, 0) \\ \frac{2}{3} \frac{1}{2} + \frac{1}{3} \frac{1}{2} = \frac{1}{2} : x ∈ [0, 1) \\ \frac{1}{3} \frac{1}{2} = \frac{1}{6} : x ∈ [1, 2) \end{matrix}

iii) P^{X^{2}} = E_{4}, d.h. P (X^{2} = 4) = 1 Y^{2} = Y

Z^{2} : F_{Z^{2}}(x) = P (Z^{2} ≤ x) = P (|Z| ≤ \sqrt{x} = \{ \begin{matrix}x < o : 0 \\ 0 ≤ x ≤ 1 : \sqrt{x} \\ x ≥ 1 : 1 \end{matrix}

iv) P^{2X} = E_{4} P^{2Y} (0) = \frac{2}{3} P^{2Y} (2) = \frac{1}{3} Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

F_{ZZ}(x) = P (2Z ≤ x) = P (Z ≤ \frac{1}{2}x) = \{ \begin{matrix}0, & x ≤ −2 \\ \frac{1}{2} + \frac{1}{4}x, & −2 < x < 2 \\ 1, & x ≥ 2 \end{matrix}

F_{Y Z}(x) = P (Y Z ≤ x)

= \{ \begin{matrix}x ≤ −1 & : & 0 \\ −1 ≤ x < 0 & : & P (Y Z ≤ x) = P (Y = 1, Z ≤ x) = \frac{1}{3}(\frac{1}{2} + \frac{x}{2}) = \frac{1}{6} + \frac{1}{6}x \\ 0 ≤ x < 1 & : & P (Y Z ≤ x) = P (Y = 0) + P (Y = 1, Z ≤ x) = \frac{2}{3} + \frac{1}{3}(\frac{1}{2} + \frac{x}{2}) = \frac{5}{6} + \frac{1}{6}x \\ x ≥ 1 & : & 1 \end{matrix}

7

Seien (Ω, 𝔄, P) Wahrscheinlichkeitsraum, A, B st.-unabh. Zeige: P (A ∪ B) = P (A ∩ B) ⇔ P (A) = P (B) und P (A) ∈ {0, 1}

,,⇒“ P (A ∪ B) = −P (A ∩ B) + P (A) + P (B)

⇒ P (A) + P (B) = 2 · P (A ∩ B) = 2 · P (A) · P (B)

1. Fall: P (A) = 0 ⇒ P (B) = 0 = P (A)

2. Fall: P (A) = 1 ⇒ P (B) = 2 · P (B) − 1 ⇒ P (B) = 1

3. Fall: P (A) ∈ (0, 1) ⇒ 1 + \frac{P (B)}{P (A)} = 2 · P (B)

⇔ 1 = 2 · P (B) − \frac{P (B)}{P (A)}

1 = P (B)(2 − \frac{1}{P (A)}) < 1 Wid.

\begin{matrix},,⇐“ \\ 1. Fall: \end{matrix} P (A) = 0 = P (B) = P (A ∪ B) = P (A) + P (B) − P (A ∩ B) = 0 + 0 − 0 · 0 = P (A) · P (B)

= P (A ∩ B)

2. Fall: P (A) = 1 = P (B) = P (A ∪ B) = 1 + 1 − P (A ∩ B) = 2 − 1 · 1 = P (A) · P (B) = P (A ∩ B

q.e.d.

8

Seien X_{1}, X_{2} unabhängig und identisch verteilt. Zeige oder widerlege:

X_{1} · X_{2} = X_{1} · X_{1}

Dazu: X_{1} ∼ Bin(2, \frac{1}{2})

P (X_{1} · X_{2} = 2) = P (X_{1} = 1, X_{2} = 2) + P (X_{1} = 2, X_{2} = 1)
= \binom{1}{1}(\frac{1}{2})^{1}(\frac{1}{2})^{1} · 2\binom{2}{2}(\frac{1}{2})^{2}(\frac{1}{2})^{0} = 2 · \frac{1}{2} · \frac{1}{4}
P (X_{1} · X_{1} = 2) = 0

9

Seien m, n ∈ IN, p ∈ [0, 1], X ∼ Bin(n, p), Y ∼ Bin(m, p) unabh. Zeige: X + Y ∼ Bin(m + n, p)

P (X + Y = k) = ∑_{j=0}^{k} P (X = j, Y = k − j) = ∑_{j=0}^{k} P (X = j)P (Y = k − j)
= ∑_{j=0}^{k} \binom{n}{j}p^{j}(1 − p)^{n−j}\binom{m}{k−j}p^{k−j}(1 − p)^{m−(k−j)}
= p^{k}(1 − p)^{n+m−k} ∑_{j=0}^{k} \frac{n!·m!}{(n−j)!·j!(n−k+j)!(k+j)!}
=^{!} p^{k}(1 − p)^{n+m−k}\binom{n+m}{k}

Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

10

Gegeben Wahrscheinlichkeitsraum (IR^{1}, 𝔏^{1}, P) mit P (A) := ∫_{A} f(ξ)dξ, A ∈ 𝔏^{1}, wobei

f(x) := \{ \begin{matrix}0 & , & x < b \\ c(\frac{b}{x})^{2} & , & x ≥ b \end{matrix} , b > 0 beliebig

a) Bestimme die Konstante c

b) Bestimme die VF F (x)

c) Bestimme due Wahrscheinlichkeit der Mengen [−5, 2b], [4b, 5b][z, ∞) z ∈ IR

d) Bestimme P (A|b) für A = [2b, 3b], B = [2b, ∞)

a) 1 = ∫_{IR} f(ξ)dξ = ∫_{b}^{∞} c(\frac{b}{ξ}^{2}dξ = c · b^{2} ∫_{b}^{∞} \frac{1}{ξ}dξ = c · b^{2}(0 + \frac{1}{b}) = cb ⇔ c = \frac{1}{b}

b) F_{X}(x) = P ((−∞, x]) = \{ \begin{matrix}X < b & : & 0 \\ X ≥ b & : & ∫_{b}^{x} \frac{b}{ξ} dξ \end{matrix} = \{ \begin{matrix}0 & : & X < b \\ b[−\frac{1}{ξ}]_{b}^{x} = b(−\frac{1}{x} + \frac{1}{b}) & : & X ≥ b \end{matrix}

= \{ \begin{matrix}0 & : & X < b \\ 1 − \frac{b}{x} & : & X ≥ b \end{matrix}

c) P ([−5, 2b]) = F (2b) − F (−5) = 1 − \frac{b}{2b} − 0 = 1 − \frac{1}{2} = \frac{1}{2} P ([4b, 5b]) = 1 − \frac{b}{5b} − 1 + \frac{b}{4b} = \frac{1}{4} − \frac{1}{5} = \frac{5}{20} − \frac{4}{20} = \frac{1}{20} P ([z, ∞)) = 1 − P ((−∞, z)) = P ((−∞, z]) = 1 − F (z)

d) P (A|B) = \frac{P (A∩B)}{P (B)} = \frac{P ([2b,3b])}{P ([2b,∞))} = \frac{\frac{1}{2} − \frac{1}{3}}{1−1+ \frac{1}{2}} = \frac{\frac{1}{6}}{\frac{1}{2}} = \frac{1}{3}

11

Gegeben m diskrete Wahrscheinlichkeitsräume (Ω_{1}, P(Ω_{1}), P_{1}), …, (Ω_{m}, P(Ω_{m}), P_{m}) Zeige: Es ex. genau eine Wahrscheinlichkeitsverteilung über

(Ω, 𝔄) := ([figure: m; i=1] Ω_{i}, P([figure: m; i=1] Ω_{i})) mit P ([figure: m; i=1] E_{i}) = ∏_{i=1}^{m} P_{i}(E_{i}) ∀E_{i} ∈ P(Ω_{i}), 1 ≤ i ≤ m

Lösung:

Def. p : Ω → [0, 1], (w_{1}, …, w_{m}) ↦ ∏_{i=1}^{m}

P : P(Ω) → [0, 1], E ↦ ∑_{(w_{1},... ,w_{m})∈E} P ((w_{1}, …, w_{m}))

Zeige p ist zähldichte:

∑_{(w_{1},... ,w_{m})∈Ω} P ((w_{1}, …, w_{m})) = ∑_{(w_{1},... ,w_{m})∈E} ∏_{i=1}^{m} p_{i}(w_{i}) = ∑_{w_{1}∈Ω_{1}} ⋯ ∑_{w_{m}∈Ω_{m}} p_{1}(w_{1}) ⋯ p_{m}(w_{m})
= ∑_{w_{1}∈Ω_{1}} · ∑_{w_{2}∈Ω_{2}} \underbrace{⋯ \underbrace{∑_{w_{m}∈Ω_{m}}}_{1}}_{1} = 1

P ([figure: m; i=1] E_{i}) = ∑_{(w_{1},... ,w_{m})∈[figure: m; i=1]} p((w_{1}, …, w_{m})) = ∑_{w_{1}∈E_{1}} ⋯ ∑_{w_{m}∈E_{m}} ∏_{i=1}^{m} p_{i}(w_{i})

= ( ∑_{w_{1}∈E_{1}} p_{1}(w_{1})) ⋯ ( ∑_{w_{m}∈E_{m}} p_{m}(w_{m})) = ∏_{i=1}^{m} p_{i}(E_{i})

Eindeutigkeit: Seien P_{1}, P_{2} Wahrscheinlichkeitsverteilungen über (Ω, P(Ω)) mit obigen Bedingungen Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

⟹ ∃ Zähldichten p_{1}, p_{2} : Ω → [0, 1] mit P_{k}(A) = ∑_{w∈A} p_{k}(w) ∀A ∈ P(Ω), k = 1, 2 Sei (w_{1}, …, w_{m}) ∈ Ω beliebig, E_{i} := {w} 1 ≤ i ≤ m ⇒ p_{1}((w_{1}, …, w_{m})) = P′_{1}([figure: m; i=1] E_{i}) = ∏_{i=1}^{m} p_{i}(E_{i}) = P′_{2}([figure: m; i=1] E_{i}) = p_{2}((w_{1}, …, w_{m})) ⇒ P_{1} ≡ P_{2}

12

Auf einem Wahrscheinlichkeitsraum (Ω, 𝔄, P) sei eine diskrete 2-dim Zufallsvariable (X, Y) : (Ω, 𝔄) → (IN_{0}^{2}, P(IN_{0}^{2})) mit Zähldicht

p_{ij} = P_{(X,Y)}(\{(i, j)\}) = \{ \begin{matrix}c · 2^{−(j+1)} · (1 − p)^{i−j} & , & i ≥ j \\ 0 & , & i < j \end{matrix} , i, j ∈ IN

definiert. Dabei sei 0 < p < 1, c ∈ IR

a) Bestimme die Randdichten von P^{X}, P^{Y}

b) Berechne den Wert der Konstanten c

a)

f_{X}(x) = ∑_{Y ∈IN_{0}} f(x, y) = ∑_{y=x}^{∞} c · 2^{−(y+1)}(1 − p)^{x−y}

= \frac{c}{2}(1 − p)^{x} ∑_{y=0}^{∞} 2^{−y}(1 − p)^{−y}

= \frac{c}{2}(1 − p)^{x} · \frac{1 − (\frac{1}{2(1−p)})^{x+1}}{1 − \frac{1}{2(1−p)}}

= \frac{c}{2}(1 − p)^{x} \frac{[c(1 − P)]^{x+1} − 1}{[c(1 − P)]^{x+1}} · \frac{2(1 − p)}{2(1 − p) − 1}
= \frac{c}{2} \frac{[2^{x+1}(1 − p)^{x+1} − 1]}{2^{x}[1 − 2p]}
= \frac{c}{2} \frac{2(1 − p)^{x+1} − 2^{−x}}{1 − 2p}

f_{Y} (y) = ∑_{x∈IN_{0}} f(x, y) = ∑_{x=y}^{∞} c · 2^{−(y+1)}(1 − p)^{x−y}

= c · 2^{−(y+1)}(1 − p)^{−y} ∑_{x=y}^{∞}(1 − p)^{x}

= c · 2^{−(y+1)}(1 − p)^{−y} ∑_{x=0}^{∞}(1 − p)^{x+y}

= c · 2^{−(y+1)} ∑_{x=0}^{∞}(1 − p)^{x} = c · 2^{−(y+1)} \frac{1}{p}

b)

1 =^{!}  ∑_{y=0}^{∞} c · 2−(y + 1)\frac{1}{p} = \frac{c}{p · 2} ∑_{y=0}^{∞}(\frac{1}{2})^{y} = \frac{c}{p · 2} \frac{1}{\frac{1}{2}} = \frac{c}{p}
⇔ c = p

Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

13

X, Y seien stoch. unabh. Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, 𝔄, P), X ∼ Exp(λ), P (Y = −1) = P (Y = 1) = \frac{1}{2} Bestimme die Verteilungfunktion F (z) := P (X · Y ≤ z) der Zufallsvariable X · Y Dazu: Z(z) = P (X · Y ≤ z) = P (X · Y ≤ z, Y = −1) + P (X · Y ≤ z, Y = 1) = P (X · Y ≤ z|Y = −1)P (Y = −1) + P (X · Y ≤ z|Y = 1)P (Y = 1) \frac{1}{2}[P (X ≥ z) + P (X ≤ z)]

1. Fall: z < 0 ⇒ P (X ≤ z) = 0 F (z) = \frac{1}{2}P (X ≥ −z) = \frac{1}{2}(1 − (1 − e^{λz})) = \frac{1}{2}e^{λz}

2. Fall: x ≥ 0 : F (z) = \frac{1}{2}[\underbrace{P (X ≥ −z)}_{1} +P (X ≤ z)] = \frac{1}{2}(1 + 1 − e^{−λz)} = \frac{1}{2}(2 − e^{−λz})

14

Gegeben folgendes Spiel: Eine Münze wird so oft geworfen, bis das erste Mal ,,Kopf“ erscheint. Bis dahin erhält der Spieler vom Spielleiter für jede ,,Zahl“ im k-ten Wurf 2^{k} DM. Was ist der faire Einsatz für dieses Spiel? X ˆ= Auszahlung an den Spieler

EX = ∑_{k=1}^{∞}(2^{k} − 2)\frac{1}{2^{k}} = ∑_{k=1}^{∞}(1 − \frac{1}{2^{k−1}} = ∞

Y das gleiche, aber max. 10 Würfe

EY = ∑_{k=1}^{10}(2^{k} − 2)\frac{1}{2^{k}} + \frac{1}{2^{10}} (2^{k} − 2) = ∑_{k=1}^{10}(1 − \frac{1}{2^{k−1}} ) + 2 − \frac{1}{2^{9}}

= 10 − ∑_{k=0}^{9} \frac{1}{2^{k}} + 2 − \frac{1}{2^{9}} = 10 − \frac{1−( \frac{1}{2} )^{9}}{1− \frac{1}{2}} + 2 − \frac{1}{2^{9}} ≈ 10

15

(X, Y) sei eine Zufallsvektor mit λ^{2}-Dichte: d.h. f_{X,Y} (x, y) = c · (1 + xy(x^{2} − y^{2}))11_{[0,1]}(max(|x|, |y|))

1. Bestimme c

2. Ermittle die Randdichten f_{X}, f_{Y}

3. Sind X, Y st. unabh.

4. Bestimme f_{X} ∗ f_{Y}

5. EX, EY, E(X + Y)

1. 1 = ∫_{IR} ∫_{IR} f_{X,Y} (x, y)dx dy = ∫_{−1}^{1} ∫_{−1}^{1} c(1 + xy(x^{2} − y^{2}))dx dy = ∫_{−1}^{1} ∫_{−1}^{1}(c + cx^{3}y − cxy^{3})dx dy

= c ∫_{−1}^{1}[x + \frac{1}{4}x^{4}y − \frac{1}{2}x^{2}y^{3}]_{x=−1}^{1}dy = c ∫_{−1}^{1}(1 + \frac{1}{4}y − \frac{1}{2}y^{3} + 1 − \frac{1}{4}y + \frac{1}{2}y^{3})dy

= c ∫_{−1}^{1} 2dy = c ⋯ 4 ⇒ c = \frac{1}{4}

2. f_{X}(x) = ∫_{IR} f_{X,Y} (x, y)dy = ∫_{−1}^{1} \frac{1}{4}(1 + xy(x^{2} − y^{2})11_{[−1,1]}(x)dy = ⋯ = \frac{1}{2}11_{[−1,1]}(x)

f_{Y} (y) = ∫_{IR} f_{X,Y} (x, y)dx = ∫_{−1}^{1} \frac{1}{2}(1 + xy(x^{2} − y^{2}))11_{[−1,1]}(y)dx = \frac{1}{2}11_{[−1,1]}(y)

Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

3. f_{X}(x) ⋯ f_{Y} (y) = \frac{1}{4}11_{[−1,1]}(x)11_{[−1,1]}(y)

⇒ nicht st. unabh. f_{X,Y} (x, y)

4. (f_{X} ∗ f_{Y})(z) = ∫_{IR} f_{X,Y} (t, z − t)dt = ∫_{IR} \frac{1}{4}(1 + t(z − t)(t^{2} − (z − t)^{2}))11_{[0,1]} max(|t|, |z − t|)dt

1. Fall: −2 ≤ z ≤ 0

∫_{−1}^{z+1} \frac{1}{4}(1 + t(z − t)(t^{2} − z^{2} + 2zt − t^{2}))dt

= \frac{1}{4} ∫_{−1}^{z+1}1 + (zt − t^{2})(t^{2} − z^{2} + 2zt − t^{2})dt

= \frac{1}{4} ∫_{−1}^{z+1}1 − z^{3}t + 2z^{2}t^{2} + z^{2}t^{2} − 2zt^{3} dt

= \frac{1}{4} ∫_{−1}^{z+1}1 − z^{3}t + 3z^{2}t^{2} − 2zt^{3} dt

= \frac{1}{4}[t − \frac{z^{3}}{2} t^{2} + z^{2}t^{3} − \frac{1}{2}zt^{4}]_{t=−1}^{z+1}

= \frac{1}{4}[z + 1 − \frac{z^{3}}{2} (z + 1)^{2} + z^{2}(z + 1)^{3} − \frac{1}{2}z(z + 1)^{4} − ⋯ = ⋯ = \frac{1}{4}(2 + z)

2. Fall: 0 < z ≤ 2

∫_{z−1}^{1} … dt = … = \frac{1}{4}(2 − z)

(f_{X} ∗ f_{Y})(z) = \{ \begin{matrix}(2 + z)\frac{1}{4} & , & z ∈ [−2, 0] \\ (2 − z)\frac{1}{4} & , & z ∈ [0, 2] \end{matrix}

5. EX = ∫_{−1}^{1} x · \frac{1}{2}dx = \frac{1}{2} \frac{1}{2}x^{2}|_{−1}^{1} = \frac{1}{4}(1 − 1) = 0

EY = 0

E(X + Y) = EX + EY = 0 + 0 = 0

16

Seien n ∈ IN, Ω = {1, …, N}^{n}, 𝔄 = P(Ω)

P (w) = N^{−n} ∀w ∈ Ω, X(w) := min_{1≤i≤n}(w_{i})

a) Berechne P (X = k) für 1 ≤ k ≤ N

b) Zeige: E(X) = N^{−n} ∑_{k=1}^{N} k^{n}

a) P (X = k) = P (X^{−1}(k)) = (({k, …, N}^{n}−{k+1, …, N}^{n}))N−n = ((N −k+1)^{n}−(N −k)^{n})N^{−n}

b) E(X) = ∑_{k=0}^{N−1} k((N − k + 1)^{n} − (N − k)^{n})N^{−n} = N^{−n}( ∑_{k=1}^{N} k(N − k + 1)^{n} − ∑_{k=1}^{N} k(N − k)^{n})

= N^{−n}( ∑_{k=0}^{N−1}(k+1)(N−k)^{n}− ∑_{k=1}^{N} k(N−k)^{n}) = N^{−n}( ∑_{k=0}^{N−1} k(N−k+1)^{n}− ∑_{k=0}^{N−1}(N−k)^{n}− ∑_{k=0}^{N−1} k(N−k)^{n})

= N^{−n}( ∑_{k=0}^{N−1}(N − k)^{n}) = N^{−n} ∑_{k=1}^{N} k^{n}

17

Gegeben 2 Objekte mit (unbekannten) Gewichten a, b. Problem: Bestimme a und b mit Hilfe einer Balkenwaage. Seien X_{a}, X_{b}, X_{a+b}, X_{a−b} unabh. Zufallsvariablen die Ergebnisse der Wiegevorgänge a, b, a + b, a − b mit E(X_{a}) = a, E(X_{b}) = b, E(X_{a+b}) = a + b, E(X_{a−b}) = a − b, Var(X_{a}) =Var(X_{b}) =Var(X_{a+b}) =Var(X_{a−b}) = σ^{2} > 0 Welche der beideen Methoden zur Bestimmung von a, b liefert die geringere Standardabweichung:

Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

1. â := X_{a}, b̂:= X_{b})

2. â := \frac{1}{2}(X_{a+b} + X_{a−b}), b̂:= \frac{1}{2}(X_{a+b} − X_{a−b})

1. Var(â) =Varb̂ = σ^{2}

2. Var(â =Var(\frac{1}{2}(X_{a+b} + X_{a−b}))

= \frac{1}{4}Var(X_{a+b}) + \frac{1}{4}Var(X_{a−b} == \frac{σ^{2}}{2} Var(b̂) = …

18

Sei (X_{i})_{i∈IN} Eine Folge von Würfen 0 < ϵ < \frac{5}{2}, 0 < c < 1

a) Wie oft muss man würfeln, damit P (|\overline{X}_{n} − \frac{7}{2}| < ϵ) > c garantiert ist?

b) Berechne n für

i) ϵ = 0.5; c = 0.1 ii) ϵ = c = 0.01

VarX_{i} = \frac{35}{12}

a) Einsetzen in Tschebyscheff:

P (|\overline{X}_{n} − \frac{7}{2}| ≥ ϵ) ≤ \frac{Var(\overline{X}_{n})}{ϵ^{2}}
P (|\overline{X}_{n} − \frac{7}{2}| < ϵ) ≤ 1 − \frac{Var(\overline{X}_{n})}{ϵ^{2}}
= 1 − \frac{Var(\overline{X}_{n})}{nϵ^{2}} = 1 − \frac{35}{12nϵ^{2}} ≥^{!} c

⇔ … ⇔ n ≥ \frac{35}{(1 − c)12ϵ^{2}}

b) i) n ≥ 13 ii) n ≥ 29462

19

Sei Θ = IR Parameterraum für ϑ ∈ Θ sei f_{ϑ}(x) = \frac{1}{2} exp(−|x − ϑ|) eine Dichte. Bestimme einen ML-Schätzer für ϑ Dazu: Betrachte log-Likelyhood-Funktion

log L(ϑ, x_{1}, …, x_{n}) = log ∏_{i=1}^{n} f_{ϑ}(x_{i}) = ∑_{i=1}^{n} log(\frac{1}{2} exp(−|x − ϑ|)) = \underbrace{n log \frac{1}{2}}_{unabh. von ϑ} − \underbrace{∑_{i=1}^{n} |x_{i} − ϑ|}_{min}

Minimiere g(ϑ) := ∑_{i=1}^{n} |x_{i} − ϑ| = sum_{i=1}^{n}|x(i) − ϑ|, wobei x(1) ≤ … ≤ x(n) g stetig auf IR und differenzierbar auf IR\{x(i)|1 ≤ i ≤ n} mit g′(ϑ) = ∑_{i=1}^{n} −sgn(x(i) − ϑ) = ∑_{i=1}^{n} sgn(ϑ − x(i)) O.E. Ex. i_{0} = i_{0}(ϑ) mit 1 ≤ i_{0} ≤ n − 1, so daß x(i_{0}) < ϑ < x(i_{0} + 1), da g auf (−∞, x(1)) ∪ (x(n), ∞) kein Min hat

⇒ g′(ϑ) = ∑_{i=1}^{n} sgn(ϑ − x_{i})
= sgn(ϑ − x(1)) + … + sgn(ϑ − x(i_{0})) + sgn(ϑ − x(i_{0} + 1)) + … + sgn(ϑ − x(n))
= i_{0} − (n − i_{0}) = 2i_{0} − n

Einführung in die Stochastik für Informatiker SS 2000 Diskussionen bei

Jan Krohn

g′(ϑ) < 0, falls i_{0} < \frac{n}{2} ⇔ x(i_{0} < ϑ < x(i_{0})) für 1 ≤ i_{0} ≤ ⌊\frac{n−1}{2}⌋ ⇒ g ↘strg. auf [x(1), x(⌊\frac{n−1}{2} + 1⌋)) g′(ϑ) = 0, falls i_{0} = \frac{n}{2} ⇒ x(\frac{n}{2}) < ϑ < x(\frac{n}{2} + 1) tritt nur ein, wenn n gerade. ⇒ g′(ϑ) > 0, falls i_{0} > \frac{n}{2} ⇔ x(i_{0}) < ϑ < x(i_{0} + 1) für ⌊\frac{n−1}{2} + 1⌋ ≤ i_{0} ≤ n − 1 ⇒ g ↗strg. auf [x(⌊\frac{n−1}{2} + 1⌋), x(n)] ⟹ falls n gerade: ϑ ML-Schätzer ∀ϑ ∈ [x(\frac{n}{2}), x(\frac{n}{2} + 1)]] falls n ungerade: ϑ = (\frac{n+1}{2}) ist ML-Schätzer.