5 Niezależność zdarzeń

Wróćmy do przykładu polegającego na rzucie dwoma kośćmi. Wówczas przestrzenią wyników jest $\Omega = [6]^2$ z miarą jednostajną probabilistyczną $\mathbb{P}$ na $\Omega$. Rozważmy dwa zdarzenia \[ A = \{ \mbox{na pierwszej kości wypadła liczba podzielna przez $3$}\} \] oraz \[ B = \{ \mbox{na drugiej kości wypadła liczba mniejsza niż $6$}\}. \] Wtedy $\mathbb{P}[A]= 1/2$ oraz $\mathbb{P}[B]= 5/6$. Z kolei prawdopodobieństwo $A$ pod warunkiem $B$ wynosi \[ \mathbb{P}[A \: | \: B] = 1/2 = \mathbb{P}[A]. \] Innymi słowy zajście zdarzenia $B$ nie wpływa na prawdopodobieństwo zdarzenia $A$. Powyższa równość może być zapisana jako \[ \mathbb{P}[A \cap B] = \mathbb{P}[A] \mathbb{P}[B]. \] Zauważmy, że powyższa równość nie wymusza założenia $\mathbb{P}[B]>0$. Własność ta okazuje się być bardzo użyteczna i często spotykana.

5.1 Definicje i przykłady

Definicja 5.1 Niech $(\Omega, \mathbb{P})$ będzie przestrzenią probabilistyczną. Zdarzenia $A,B$ nazywamy niezależnymi, gdy \[ \mathbb{P}[A\cap B] = \mathbb{P}[A]\mathbb{P}[B]. \]

Zauważmy, że jeżeli $\mathbb{P}[A]=0$ lub $\mathbb{P}[A]=1$, to dla każdego zdarzenia $B$ zdarzenia $A$ i $B$ są niezależne.

Przykład 5.1 Rzucamy kostką sześcienną. Niech $A$ będzie zdarzeniem, że wypadnie liczba parzysta, a $B$ zdarzeniem, że wypadnie wypadnie liczba podzielna przez $3$. Wówczas oba zdarzenia są niezależne. Definiujemy przestrzeń probabilistyczną: $\Omega = [6] = \{ 1,2, \ldots 6\}$, a $p(k)=1/6$. Wówczas $A = \{2,4,6\}$, $B = \{3,6\}$, $A \cap B = \{6\}$. Mamy \[\begin{equation*} \mathbb{P}[A\cap B] = \frac 16 = \frac 12 \cdot \frac 13 = \mathbb{P}[A]\cdot \mathbb{P}[B]. \end{equation*}\]

Często z samego opisu zdarzeń nie wynika ich niezależność.

Przykład 5.2 Wybieramy losową rodzinę posiadającą $n$ dzieci. Niech $A$ będzie zdarzeniem, że w wybranej rodzinie jest co najwyżej jedna dziewczynka, a $B$ będzie zdarzeniem, że w wybranej rodzinie są dziewczynki i chłopcy. Czy zdarzenia $A$ i $B$ są niezależne? $\Omega$ jest to zbiór ciągów o długości $n$ i wyrazach $c$ i $d$ (płeć dzieci uporządkowanych wg wieku). Wtedy $|\Omega| = 2^n$. Przyjmujemy, że każdy ciąg jest jednakowo prawdopodobny. Mamy $|A| = n+1$, $|B| = 2^n-2$, $|A\cap B| = n$ (dokładnie jedna dziewczynka). Zauważmy, że \[ \mathbb{P}[A]\mathbb{P}[B] = \frac{n+1}{2^n} \cdot \frac{2^n-2}{2^n} \] oraz \[ \mathbb{P}[A\cap B] = \frac{n}{2^n}. \] Zdarzenia $A$ i $B$ będą niezależne wtedy i tylko wtedy, gdy \[ 1+n = 2^{n-1}. \] co ma miejsce jedynie dla $n=3$. W tym przypadku powody niezależności są czysto algebraiczne.

Definicja 5.2 Zdarzenia $A_1,\ldots,A_n$ nazywamy niezależnymi, gdy \[ \mathbb{P}[A_{i_1} \cap A_{i_2}\cap \ldots \cap A_{i_k}] = \mathbb{P}[A_{i_1}]\cdot \ldots \cdot \mathbb{P}[A_{i_k}] \] dla każdego ciągu $1\le i_1 < i_2 <\cdots < i_k \le n$, $k=2,3,\ldots, n$.

Definicja 5.3 Zdarzenia $A_1,\ldots,A_n$ nazywamy niezależnymi parami, gdy dla dowolnych $i\not=j$ zdarzenia $A_i$ i $A_j$ są niezależne

Jeżeli zdarzenia $A_1,\ldots, A_n$ są niezależne, to są niezależne parami. Odwrotna implikacja nie jest jednak prawdziwa.

Przykład 5.3 Rzucamy 2 razy kostką. Oznaczmy

$A$ - za pierwszym razem wypadła parzysta liczba oczek;
$B$ - za drugim razem wypadła parzysta liczba oczek;
$C$ - suma oczek jest parzysta;

Wówczas zdarzania $A,B,C$ są niezależne parami, ale nie są niezależne. Rzeczywiście, mamy $A\cap B = A\cap C = B \cap C$ i $A\cap B \cap C = A\cap B$. Stąd

$\mathbb{P}[A] = 1/2$
$\mathbb{P}[B] = 1/2$
$\mathbb{P}[C] = 1/2$
$\mathbb{P}[A\cap B] = \mathbb{P}[A\cap C]$ $= \mathbb{P}[C\cap B]$ $=\mathbb{P}[A\cap B\cap C]$ $=1/4$

Zbadanie niezależności $n$ zdarzeń wymaga sprawdzenia ${n\choose 2}+ {n\choose 3} +\ldots + {n\choose n} = 2^n-n-1$ równań. Chcemy badać ciągi niezależnych doświadczeń (może być ich nieskończenie wiele).

5.2 Konstrukcja niezależnych eksperymentów

Rozważmy dwa eksperymenty, które wykonujemy niezależnie od siebie. Przykładowo rzucamy dwukrotnie monetą, dwukrotnie kością lub kością i monetą. Jak skonstruować przestrzeń probabilistyczną $(\Omega, \mathbb{P})$, która opisuje niezależne wykonanie tych eksperymentów?

Powiedzmy, że $(\Omega_1, \mathbb{P}_1)$ i $(\Omega_2, \mathbb{P}_2)$ to przestrzenie które odpowiednio opisują pierwszy i drugi eksperyment. Niech $p_1$ i $p_2$ będą stowarzyszonymi funkcjami prawdopodobieństwa. Rozważmy przestrzeń \[\begin{equation*} \Omega = \Omega_1 \times \Omega_2. \end{equation*}\] Wówczas wynikiem łącznego eksperymentu jest para $\omega = (\omega_1, \omega_2)$, gdzie $\omega_1$ opisuje wynik pierwszego eksperymentu a $\omega_2$ wynik drugiego eksperymentu. Rozważmy funkcję $p \colon \Omega \to [0,1]$ zadaną przez \[\begin{equation*} p(\omega) = p(\omega_1, \omega_2) = p_1(\omega_1) p_2(\omega_2) \end{equation*}\] oraz $\mathbb{P} \colon 2^\Omega \to [0,1]$ dane przez \[\begin{equation*} \mathbb{P}[C] = \sum_{\omega \in C}p(\omega) \end{equation*}\] dla $C \subseteq \Omega$. Chcemy pokazać, że powyższe definiuje funkcję prawdopodobieństwa i miarę probabilistyczną na $\Omega$. Dla dowolnych $A_1 \subseteq \Omega_1$ oraz $B_2 \subseteq \Omega_2$ mamy $A_1 \times B_2 \subseteq \Omega$ jest zdarzeniem, że w pierwszym eksperymencie zaszło $A_1$ a w drugim zaszło $B_2$. Mamy \[\begin{align*} \mathbb{P}[A_1 \times B_2] & = \sum_{\omega\in A_1 \times B_2} p(\omega) \\ & = \sum_{\omega_1 \in A_1, \omega_2\in B_2} p(\omega_1, \omega_2)\\ & =\sum_{\omega_1 \in A_1} \sum_{\omega_2 \in B_2} p(\omega_1) p_2(\omega_2)\\ & = \mathbb{P}_1[A_1]\mathbb{P}_2[B_2]. \end{align*}\] Jeżeli $A_1 = \Omega_1$ oraz $B_2 = \Omega_2$, to \[\begin{equation*} \mathbb{P}[\Omega] = \mathbb{P}_1[\Omega_1] \mathbb{P}[\Omega_2] = 1. \end{equation*}\] Oznacza to, że $p$ jest funkcją prawdopodobieństwa na $\Omega$. Każde zdarzenie $A_1 \subseteq \Omega$ możemy utożsamić z $A = A_1 \times \Omega_2$. Zdarzenie $A$ w rozszerzonym eksperymencie mówi, że w pierwszym eksperymencie zaszło $A_1$. Wówczas \[\begin{equation*} \mathbb{P}[A] = \mathbb{P}_1[A_1]. \end{equation*}\] Podobnie dla $B_2 \subseteq \Omega_2$ mamy $B = \Omega_1 \times B_2$. Zdarzenie $B$ w rozszerzonym eksperymencie mówi, że w drugim eksperymencie zaszło $B_2$. Podobnie \[\begin{equation*} \mathbb{P}[B] = \mathbb{P}_2[A_2]. \end{equation*}\] Wreszcie \[\begin{equation*} A \cap B = A_1 \times B_2. \end{equation*}\] Oznacza to, że \[\begin{equation*} \mathbb{P}[A\cap B] = \mathbb{P}[A] \mathbb{P}[B], \end{equation*}\] gdzie $A$ jest dowolnym stwierdzeniem o pierwszym eksperymencie a $B$ jest dowolnym stwierdzeniem o drugim eskperymencie.

Przykład 5.4 Przypuśćmy, że rzucamy kostką a następnie wykonujemy niezależny rzut monetą. Wówczas \[\begin{equation*} \Omega = \{1,2, \ldots , 6 \} \times \{O, R\} \end{equation*}\] z funkcją prawdopodobieństwa \[\begin{equation*} p(k, m) = \frac{1}{12}. \end{equation*}\] Jeżeli rozważymy zdarzenie $A$, że na kości wypadła liczba parzysta a na monecie orzeł, to \[\begin{equation*} A = \{ (2,O), (4, O), (6, O) \} = \{2,4,6\} \times \{O\} \end{equation*}\] oraz \[\begin{equation*} \mathbb{P}[A] = 1/4. \end{equation*}\]

Zauważmy, że konstrukcja w ostatnim przykładzie jest naturalna, poniweaż zarówno kość jak i moneta są symetryczne, co prowadzi to jednakowo prawdopodobnch wyników. W przypadku niesymetrycznych wyników sytuacja na pierwszy rzut oka może nie być taka oczywista.

Przykład 5.5 Rozważmy dwie monety. Na pierwszej orzeł wypada z prawdopodobieństwem $2/3$. Na drugiej orzeł wypada z prawdopodobieństwem $1/4$. Wykonujemy po jednym rzucie każdą monetą. Wówczas przestrzenią wszystkich wyników jest $\Omega = \{O, R\}^2$. Mamy \[\begin{align*} p(O,O) & = 1/6\\ p(O,R) & = 1/2\\ p(R,O) & = 1/12\\ p(R,R) & = 1/4. \end{align*}\] Wobec czego prawdopodobieństwo, że wypadnie co najmniej jeden orzeł wynosi $3/4$.

Nasza konstrukcja uogólnia się do większej liczby zdarzeń.

Przykład 5.6 Powiedzmy, że rzucamy monetą na której orzeł wypada z prawdopodobieństwem $1/4$, symetryczną kostką i drugą, tym razem już symetryczną monetą. Przestrzenią zdarzeń jest \[\begin{equation*} \Omega = \{O, R\} \times \{1,2, \ldots, 6\} \times \{O, R\} \end{equation*}\] z funkcją prawdopodobieństwa \[\begin{equation*} p(O, k,m) = 1/48, \quad p(R, k,m) = 1/16. \end{equation*}\]

5.3 Schemat Bernoulliego

Wykonano $n$-krotnie to samo doświadczenie, w którym prawdopodobieństwo sukcesu wynosi $p$. Kolejne próby były niezależne. Wówczas prawdopodobieństwo sukcesu w dokładnie $k$ próbach wynosi ${n\choose k} p^k (1-p)^{n-k}$. Rzeczywiście, niech

$\Omega_i = \{0,1\}$ (1 odpowiada sukcesowi w $i$-tym doświadczeniu),
$p_i(1) = p$, równoważnie $p_i(\omega_i) = p^{\omega_i}(1-p)^{1-\omega_i}$.

Wówczas $(\Omega_i,\mathbb{P}_i)$ modeluje wynik doświadczenia w $i$-tym kroku. Definiując jak powyżej

$\Omega = \Omega_1 \times \ldots \times \Omega_n = \{0,1\}^n$,
$p(\omega_1, \ldots, \omega_n) = p_1(\omega_1) \cdots p_n(\omega_n)$.

Wtedy dla $\omega = (\omega_1,\ldots, \omega_n)\in \Omega$ mamy \[ p(\omega) = p^{\omega_1+\ldots+\omega_n}(1-p)^{n-(\omega_1+\ldots+\omega_n)}. \] Niech $A_k$ oznacza zdarzenie osiągnięcia dokładnie $k$ sukcesów, tj. \[ A_k = \{\omega\in \Omega:\; \omega_1+\ldots+\omega_n = k\}, \] innymi słowy $A_k$ zawiera $\omega$ zawierające dokładnie $k$ jedynek. Stąd $|A_k| = {n\choose k}$ oraz \[ \mathbb{P}[A_k] = \sum_{\omega \in A_k} p(\omega) = |A_k| p^k (1-p)^{n-k}= {n\choose k} p^k (1-p)^{n-k}. \]