Zanim przejdziemy do badania zjawisk losowych wprowadzimy podstawowy język teorii prawdopodobieństwa. Zaczniemy jednak od przykładu obrazującego potrzebę jego wprowadzenia.
2.1 Problem Monty’ego Halla
W latach sześćdziesiątych w stanach zjednoczonych zaczęto nadawać Let’s Make a Deal. W teleturnieju wybrani widzowie ze studia zawierają umowy z prowadzącym. Uczestnik otrzymuje nagrodę i decyduje, czy ją zatrzymać, czy wymienić na inną, której zawartość pozostaje ukryta do momentu podjęcia decyzji.
Dopiero po odsłonięciu nagrody okazuje się, czy wymiana była korzystna, czy też uczestnik trafił na bezwartościową, żartobliwą nagrodę zwaną „zonkiem”.
jedną z „zonkowych” nagród w wersji programu stacji CBS była żywa lama
Rozważmy następujący problem. To dla ciebie decydujący moment. Prowadzący teleturniej stawia cię przed trojgiem zamkniętych drzwi. Za jednymi z nich kryje się samochód twoich marzeń — nowy, lśniący. Za każdymi z pozostałych dwojga drzwi stoi natomiast sympatyczna, choć niezbyt lśniąca i nieco cuchnąca koza.
Masz wybrać drzwi i wygrać to, co się za nimi znajduje. Wskazujesz jedne z nich i ogłaszasz swój wybór. Wtedy prowadzący otwiera jedne z pozostałych dwojga drzwi i pokazuje kozę. Następnie pyta, czy chcesz zmienić wybór i wskazać nieotwarte drzwi, których początkowo nie wybrałeś.
Czy zmiana decyzji jest dla ciebie korzystna — zakładając oczywiście, że zależy ci na samochodzie, a nie na kozie?
Jakie jest dokładnie prawdopodobieństwo wygrania samochodu przy każdej z tych strategii? Ta popularna zagadka wywołała spore zamieszanie, gdy w 1991 roku ukazała się w prasie John (1991). Wielu czytelników, w tym także matematycy, podało błędną odpowiedź. Najczęściej twierdzono, że zmiana drzwi nie ma znaczenia, ponieważ samochód z jednakowym prawdopodobieństwem znajduje się za każdymi z dwojga nieotwartych drzwi.
Jednym ze sposobów zapoznania się z tym problemem jest wielokrotne powtórzenie eskperymantu. Sam Monty Hall przeprowadził eksperyment w swoim domu w Beverly Hills. W swojej jadalni ustawił na stole trzy miniaturowe kartonowe drzwi. Samochód zastąpił kluczykiem do stacyjki a Kozy symbolizowały paczka rodzynek i rolka cukierków. Po przeprowadzeniu trzydziestu prób odpowiedź była jasne. Możnmy wykonać podobny eksperymant wykorzystując symulację poniżej.
Dlaczego ten problem jest tak podchwytliwy i jak należy o nim myśleć? Posłuży nam on jako wprowadzenie do rachunku prawdopodobieństwa. Po przeczytaniu tego rozdziału łatwiej będzie poprawnie analizować zarówno problem samochodu i kóz, jak i wiele innych podobnych zagadnień. Zaczniemy od krótkiego omówienia teorii prawdopodobieństwa, jej znaczenia i historii.
2.2 Odrobina historii
Rachunek prawdopodobieństwa można określić jako matematyczną teorię niepewności. Jego intuicyjne podstawy są bardzo stare: już człowiek obserwujący niebo, by przewidzieć pogodę, posługiwał się prymitywnym rozumowaniem probabilistycznym. Na przykład widząc ciemne chmury, uznawał deszcz za bardziej prawdopodobny i zabierał parasol.
Takie intuicyjne szacowanie różni się jednak od formalnej teorii matematycznej. Za początek nowoczesnego rachunku prawdopodobieństwa często uznaje się XVII-wieczną korespondencję Blaise’a Pascala i Pierre’a de Fermata, dotyczącą problemów związanych z grami hazardowymi.
Blaise Pascal (19 czerwca 1623 – 19 sierpnia 1662) był francuskim matematykiem, fizykiem, wynalazcą, filozofem i pisarzem katolickim.
Pierre de Fermat (1601–1665) był francuskim prawnikiem, matematykiem amatorem i fizykiem matematycznym. Od 1631 roku pełnił funkcję radcy parlamentu, czyli ówczesnego sądu, w Tuluzie.
Kasyno jest naturalnym laboratorium prawdopodobieństwa: rozsądny gracz musi umieć oceniać ryzyko, a więc prędzej czy później sam staje się matematykiem albo korzysta z jego pomocy.
Z tych dość rozrywkowych początków wyrosła teoria stosowana dziś we wszystkich dziedzinach nauki i techniki, a także na rynkach finansowych. Szczególnego znaczenia nabrała ona w XX wieku wraz z rozwojem fizyki kwantowej.
2.3 Opis doświadczenia losowego
Za każdym razem kiedy rzucamy kością czy losujemy kartę z talii wykonujemy pewnien eksperyment losowy. W pierwszej części wykładu zajmiemy się badaniem tego typu eksperymantów. Zaczniemy od sposobu matematycznej reprezentacji wyniku naszego losowania. Każdy możliwy wynik eksperymentu nazywać będziemy zdarzeniem elementarnym. Przykładowo dla rzutu kością sześcienną zdarzeniem elementarnym będzie liczba wyrzuconych oczek, czyli dowolna z liczb 1,2, … 6. Zbiór wszystkich zdarzeń elementarnych oznaczać będziemy przez \(\Omega\) i będziemy nazywać przestrzenią zdarzeń elementarnych. Zakładać będziemy, że \(\Omega\) jest zbiorem co najwyżej przeliczalnym, czyli skończonym bądź nieskończonym o przeliczalnej liczbie elementów. Wówczas elementy \(\Omega\) można wpisać w następujący sposób \[\begin{equation*}
\Omega = \left\{ \omega_k \: :\: k \in \mathbb{N}\right\}, \qquad \mathbb{N} = \{1,2,3, \ldots \}
\end{equation*}\] jeżeli \(\Omega\) jest nieskończona oraz \[\begin{equation*}
\Omega = \left\{ \omega_k \: : \: k \leq N\right\}, \qquad N \in \mathbb{N}
\end{equation*}\] jeśli \(\Omega\) jest skończona. Wybór przestrzeni \(\Omega\) zależy zawsze od rodzaju eksperymentu losowego, który chcemy opisać. Na tym etapie przestrzeń zdarzeń elementarnych jest zbiorem wszystkich możliwych wyników naszego eksperymentu i nie mówi jeszcze nic o prawdopodobieństwach tych wyników.
Przykład 2.1 Powiedzmy, że nasz eksperyment losowy polega na rzucie parą kości sześciennych. Wynikiem naszego eksperymentu jest para elementów zbioru \(D = \{ 1, 2, \ldots , 6\}\). Istotne jest aby rozróżnić wyniki otrzymane na obu kościach, wszak kości nie muszą być symetryczne. Zbiorem zdarzeń elementarnych jest \[
\Omega = D^2= \{ (1,1), (1,2),(1,3), \ldots , (6,6) \}.
\] W tym przypadku przestrzeń zdarzeń elementarnych jest skończona i składa się z \(|\Omega| = 36\) elementów.
Przykład 2.2 Tym razem rzucamy monetą do momentu otrzymania orła. Przestrzeń zdarzeń elementarnych \(\Omega\) składa się ze skończonych ciągów \(\{O, R\}\) kończących się znakiem \(O\) i jednego nieskończonego ciągu \(R\). Dokładniej \[
\Omega = \{ RRRR \ldots\} \cup \{ O, RO, RRO, RRRO, \ldots \}.
\] Tutaj niekończony ciąg \(RRR\ldots\) opisuje scenariusz, w którym nigdy nie wyrzucimy orła.
W większości eksperymentów losowych nie interesują nas poszczególne jego wyniki, lecz pewien ich wspólny aspekt. Dla przykładu w rzucie kością sześcienną istotna dla nas może być tylko parzystość uzyskanego wyniku. Innymi słowy bardziej od poszczególnych zdarzeń elementarnych interesować nas będę ich zbiory.
Definicja 2.1 Niech \(\Omega\) będzie co najwyżej przeliczalną przestrzenią zdarzeń elementarnych. Zdarzeniem nazywać będziemy dowolny podzbiór \(A \subseteq \Omega\).
Duch wprowadzanego formalizmu wymaga od nas ścisłego definiowania zdarzeń. Należy pamiętać jednak, że formalizm nie jest celem samym w sobie. Często będziemy pozwalać sobie na definiowanie zdarzeń w sposób opisowy o ile nie będzie prowadziło to do nieścisłości.
Przykład 2.3 Wróćmy do rzutu parą kości, gdzie przestrzenią zdarzeń elementarnych jest \(\Omega = D^2\). Wówczas zdarzeniem jest \[\begin{align*}
A = & \{ \mbox{suma oczek na obu kościach jest równa 7} \} \\
= & \{ (1,6), (2,5), \ldots ,(6,1) \} \subseteq \Omega = D^2.
\end{align*}\] Natomiast zbiór \[
\{ (1,1), (2,2) , \ldots , (6,6)\}
\] jest zdarzeniem \(\{\mbox{wypadł dublet}\}\).
Wprowadzone przez nas Definicja 2.1 zdarzenia jest niezwykle pojemna. W skutek czego jeżeli \(A\) i \(B\) są zdarzeniami, to \(A\cup B\) oraz \(A \cap B\) też są zdarzeniami. Pierwsze polega na tym, że zachodzi \(A\) lub \(B\), natomiast drugie polega na tym, że jednocześnie zachodzą \(A\) i \(B\).
Przykład 2.4 Powiedzmy, że losujemy jedną liczbę ze zbioru \(\Omega = \{1, 2, \ldots, 10\}\). Niech \(A\) będzie zdarzeniem, że wylosowana liczba jest podzielna przez \(2\) a \(B\) zdarzeniem, że wylosowana liczba jest podzielna przez \(3\). Wówczas \[\begin{equation*}
A = \{ 2,4,6,8\}
\end{equation*}\] oraz \[\begin{equation*}
B = \{ 3,6,9\}.
\end{equation*}\] Wtedy \(A\cup B\) jest zdarzeniem, że wylosowana liczba jest podzielna przez \(2\) lub jest podzielna przez \(3\), czyli \[\begin{equation*}
A \cup B = \{ 2,3,4,6,8,9 \}.
\end{equation*}\] Natomiast \(A \cap B\) to zdarzenie, że wylosowana liczba jest podzielna przez \(6\), \[\begin{equation*}
A \cap B = \{6\}.
\end{equation*}\]
Przykład 2.5 Rzucamy trzykrotnie monetą. Wtedy \(\Omega = \{ OOO, OOR, ORO, \ldots \}\). Niech \(A\) będzie zdarzeniem, że w pierwszym rzucie wypadł orzeł. Mamy \[\begin{equation*}
A = \{ OOO, OOR, ORO, ORR\}.
\end{equation*}\] Niech \(B\) będzie zdarzeniem, że w trzech rzutach otrzymaliśmy parzystą liczbę orłów, \[\begin{equation*}
B = \{ RRR, OOR, ORO, ROO \}.
\end{equation*}\] Wtedy \(A\cap B\) jest zdarzeniem, że w pierwszym rzucie otrzymaliśmy orła i łączna liczba orłów jest parzysta, \[\begin{equation*}
A \cap B = \{ OOR, ORO\}.
\end{equation*}\]
Dodatkowo, jeżeli \(A\) jest zdarzeniem, to jest nie również zdarzenie przeciwne do zdarzenia \(A\), zadane wzorem \[
A' = \Omega \setminus A.
\] Zdarzenie \(A'\) polega na tym, że nie zachodzi zdarzenie \(A\). Jest jeszcze jedna relacja teoriomnogościowa, z której będziemy korzystać. Powiemy, że zdarzenie \(B\) pociąga zdarzenie \(A\), jeżeli \(B \subseteq A\).
Przykład 2.6 Powiedzmy, że rzucamy tylko jedną kością. Wówczas \(\Omega = D = \{ 1,2 \ldots , 6\}\). Niech \[
A = \{\mbox{wypadła liczba parzysta} \} = \{ 2,4,6\}.
\] Zdarzenie przeciwne do zdarzenia \(A\) to \[
A' = \{\mbox{wypadła liczba nieparzysta} \} = \{ 1,3,5\}.
\] Z kolei zdarzenie \[
B = \{\mbox{wypadła szóstka} \} = \{6\}
\] pociąga zdarzenie \(A\), czyli \(B \subseteq A\).
2.4 Miara probabilistyczna
Jesteśmy przyzwyczajeni do intuicyjnego mylenia o prawdopodobieństwie. Dla przykładu w eksperymencie polegającym na rzucie dwoma monetami od razu napiszemy, że \[\begin{equation*}
\mathbb{P}\left[ \mbox{pierwszej kości wypadnie $3$ a na drugiej $5$} \right] = \frac 16 \cdot \frac 16 = \frac 1{36}.
\end{equation*}\] W pewnym sensie o liczbie \(\mathbb{P}[A]\) myślimy jak o prawdopodobieństwie zdarzenia \(A\) opierając się na słownym opisie darzenia \(A\). Zauważmy, że \(\mathbb{P}\) staje się funkcją, która jako argumenty przyjmuje podzbiory \(\Omega\). Formalnie \[\begin{equation*}
\mathbb{P} \colon 2^\Omega \to [0,1],
\end{equation*}\] gdzie \(2^\Omega\) jest zbiorem potęgowym \(\Omega\), czyli zbiorem wszystkich podzbiorów \(\Omega\). Dokładniej \[\begin{equation*}
2^\Omega = \{ B \: : \: B \subseteq \Omega \}.
\end{equation*}\]
Przykład 2.7 Załóżmy, że rzucamy monetą. Wówczas \(\Omega = \{ O, R\}\) oraz \[\begin{equation*}
2^\Omega = \{ \emptyset, \{O\}, \{R \}, \{O, R\} \}.
\end{equation*}\]
Zauważmy, że jeżeli \(\Omega\) ma \(n\) elementów, to \(2^\Omega\) ma \(2^n\) elementów.
W wielu przypadkach wygodnie jest myśleć o zdarzeniu \(A\) jak o podzbiorze \(\Omega\) a o liczbie \(\mathbb{P}[A]\) jak o masie zbioru \(A\). Przyjęta przez nas definicja będzie odzwierciedlała ten sposób myślenia.
W tym momencie warto zwrócić uwagę na notację pojawiającą się w Równanie 2.1 . Jeżeli \(\Omega\) jest skończoną przestrzenią i \(\Omega = \{\omega_1, \omega_2, \ldots , \omega_N\}\) dla pewnego naturalnego \(N\), to \[\begin{equation*}
\sum_{\omega \in \Omega} p(\omega) = \sum_{k=1}^N p(\omega_k).
\end{equation*}\] Jeżeli natomiast \(\Omega\) jest nieskończona i \(\Omega = \{ \omega_k \: : \: k \in \mathbb{N}\}\), to \[\begin{equation*}
\sum_{\omega \in \Omega} p(\omega) = \sum_{k=1}^\infty p(\omega_k).
\end{equation*}\]
Przykład 2.8 Rzucamy jedną kostką. Wówczas \(\Omega = \{1, 2, \ldots, 6\}\). Jeżeli kostka jest dobrze wyważona to otrzymanie każdej liczby oczek jest jednakowo prawdopodobne. Dokładniej \[\begin{equation*}
p(1) = p(2) = \ldots = p(6) = 1/6
\end{equation*}\] jest odpowiadającą funkcją prawdopodobieństwa. Istotnie \[\begin{equation*}
\sum_{\omega \in \Omega} p(\omega) = p(1) + p(2) + \ldots + p(6)=1.
\end{equation*}\] Przykładowo \[\begin{equation*}
\mathbb{P}[ \mbox{ wypadła liczba parzysta }] = p(2) + p(4) + p(6)=1/2.
\end{equation*}\]
Przykład 2.9 Załóżmy teraz, że rzucamy kostką, na której ktoś domalował piątą kropkę na ścianie pokazującej \(4\). W dalszym ciągu możemy przyjąć \(\Omega = \{1, 2, \ldots, 6\}\). Tym razem jednak funkcja prawdopodobieństwa to \[\begin{equation*}
p(1)=p(2)=p(3)=p(6)=1/6
\end{equation*}\] oraz \[\begin{equation*}
p(4) =0, \quad p(5)=2/6.
\end{equation*}\] W tym wypadku \[\begin{equation*}
\mathbb{P}[ \mbox{ wypadła liczba parzysta }] = p(2) + p(4) + p(6)=1/3.
\end{equation*}\]
Przykład 2.10 Rzucamy parą kości sześciennych. Przyjmujemy \[\begin{equation*}
\Omega = \{ (1,1), (1,2) , \ldots, (6,5), (6,6)\}.
\end{equation*}\] oraz \[\begin{equation*}
p((1,1))= \ldots = p((6,6))=1/36.
\end{equation*}\] Innymi słowy każdy wynik jest jednakowo prawdopodobny. Rozważmy \[\begin{align*}
A & = \{ \mbox{ na pierwszej kości wypadła piątka}\} \\
& = \{ (5,1), (5,2), \ldots , (5,6) \}.
\end{align*}\] Wtedy \[\begin{equation*}
\mathbb{P}[A] = 1/6.
\end{equation*}\]
Przykład 2.11 Rzucamy kostką aż do momentu otrzymania pierwszego orła. Wówczas \(\Omega = \{R\}^{\mathbb{N}} \cup \bigcup_{k=0}^\infty\{R \}^k \times \{O\}\), jak w Przykład 2.2. Funkcją prawdopodobieństwa jest \(p(O)=\frac 12\), \(p(OR)=\frac 14\) oraz ogólnie \(p(\omega_k)=2^{-k}\), gdzie \(\omega_k\) składa się z \(k-1\) reszek i orła, oraz \(p(\omega_\infty)=0\), gdzie \(\omega_\infty\) składa się z samych reszek. Rzeczywiście, wystarczy sprawdzić \[\begin{equation*}
\sum_{\omega \in \Omega}p(\omega) = p(\omega_\infty) + \sum_{k=1}^\infty p(\omega_k) =0+1.
\end{equation*}\]
2.5 Problem Monty’ego Halla raz jeszcze
Stosując poznany przez nas formalizm chcemy rozstrzygnąć problem wylosowania samochodu. Zaczniemy od konstrukcji odpowiedniej przestrzeni probabilistycznej. Możemy przyjąć, że nagroda znajduje się za bramką z numerem \(1\). Natomiast bramki \(2\) oraz \(3\) zawierają zonka. Naszymi zdarzeniami elementarnymi będą pary liczb \((n,k)\), gdzie \(n\) to numer bramki wybranej przez uczestnika, a \(k\) to numer bramki, którą odsłania prowadzący. Zauważmy, że jeżeli początkowo wybierzemy bramkę za którą jest zonk, to prowadzący nie może odsłonić bramki z samochodem. Mamy zatem \[\begin{equation*}
\Omega =\{(1,2), (1,3), (2,3), (3,2) \}.
\end{equation*}\] Jakie prawdopodobieństwo należy przypisać każdemu możliwemu zdarzeniu? Uczestnik nie ma żadnych przesłanek w której bramce jest nagroda, więc każdą z nich wybierze z takim samym prawdopodobieństwem. Mamy \[\begin{align*}
\{ \mbox{Uczestnik wybrał bramkę $1$} \} & = \{ (1,2), (1,3)\} \\
\{ \mbox{Uczestnik wybrał bramkę $2$} \} & = \{ (2,3)\} \\
\{ \mbox{Uczestnik wybrał bramkę $3$} \} &= \{ (3,2)\}
\end{align*}\] Skoro wszystkie zdarzenia mają to samo prawdopodobieństwo, to \[\begin{equation*}
p((2,3)) = p(3,2) = p((1,2)) + p((1,3)) =1/3.
\end{equation*}\] W przypadku, gdy gracz wybiera bramkę \(1\), która kryje samochód, prowadzący musi wybrać jedną z bramek do odkrycia. Jak się zaraz okaże nie ma żadnego znaczenia w jaki sposób to robi. Możemy przyjąć \(p((1,2)) =a\) i \(p((1,3))=b\) dla dowolnej pary liczb \(a,b\) takich, że \(a+b=1/3\).
Zauważmy, że wybór konkretnej strategii nie wpływa na nasz opis tego zdarzenia losowego. Niech teraz \(A\) oznacza zdarzenie, że uczestnik, który zawsze zmienia bramkę wygra samochód. Mamy \[\begin{equation*}
A =\{(2,3), (3,2)\}.
\end{equation*}\] Wówczas \[\begin{equation*}
\mathbb{P}[A] = p((2,3)) + p((3,2)) =2/3..
\end{equation*}\] Niech teraz \(B\) oznacza zdarzenie, że uczestnik, który nigdy nie zmienia bramki wygra samochód. Wtedy \[\begin{equation*}
\mathbb{P}[B] =a+b=1/3.
\end{equation*}\]