Probability Topics

7 個概念

本章目錄

第一章問的是樣本能在多大程度上代替總體；這一章轉向另一個問題：在所有可能發生的情況之中，某一件事有多大可能發生。它建立的詞彙、把事件組合起來的運算（），以及事件與只是不能重疊的事件之間的分別。章末介紹兩種從真實數據讀出概率的方法：和。

樣本空間、結果與事件

定義

樣本空間（sample space）是一項試驗可能產生的每一個結果（outcome）的完整清單；事件（event）是該樣本空間的任何一個子集，可以是一個結果、幾個結果或一個也沒有；事件的概率（probability），寫作 $P(A)$ ，是一個由 0 至 1 的數，量度它有多大可能發生。

怎樣判斷

把每一個不同的結果列出來，那份清單就是樣本空間。事件就是當中你真正關心的那個子集。當各個結果等可能（equally likely）時， $P(A)$ 等於符合 $A$ 的結果數目除以樣本空間中結果的總數目。

例子

一個 8 格的轉盤，格子由 1 至 8 編號，每格等可能（假設的例子）。樣本空間是 $S = \{1, 2, \ldots, 8\}$ 。事件 $A$ 「落在奇數上」是 $\{1, 3, 5, 7\}$ ，所以 $P(A) = 4/8 = 0.5$ 。

陷阱

「事件就是單一個結果，例如落在 4。」 一個結果是單一個情況；一個事件可以同時包含好幾個，例如上面的 $A$ 。「擲兩顆骰子，每一個點數和都是等可能的，因為沒有什麼令某個總和特別一點。」 兩顆骰子的 36 個有序對是等可能的，但它們的點數和不是：和為 2 的只有一對，和為 7 的卻有六對不同的組合。

事件的組合：且、或與互補事件

定義

對於事件 $A$ 和 $B$ ： $A$ 且 $B$ （AND）是同時在兩者裡的結果； $A$ 或 $B$ （OR）是在其中一個或兩者裡的結果；互補事件（complement） $A'$ 是所有不在 $A$ 裡的結果。

怎樣判斷

「且」收窄到重疊的部分；「或」把任何一個事件觸及的結果全部收集起來，重疊的部分只算一次。因為每一個結果不是在 $A$ 裡就是在 $A'$ 裡，而且從不同時在兩者裡，所以 $P(A) + P(A') = 1$ 永遠成立。

例子

同一個轉盤： $A$ =「奇數」= $\{1,3,5,7\}$ ， $B$ =「大於 5」= $\{6,7,8\}$ 。 $A$ 且 $B$ = $\{7\}$ ； $A$ 或 $B$ = $\{1,3,5,6,7,8\}$ ； $A' = \{2,4,6,8\}$ ，所以 $P(A') = 4/8 = 0.5 = 1 - P(A)$ 。

同一批散落的結果和兩個事件 A、B，用三種方式加上陰影：A 且 B（左）、A 或 B（中），以及 A 的互補事件（右）。由 figures/fig-events-and-or-complement.py 繪製

陷阱

「『A 或 B』指的是其中一個，不是兩個都是。」 數學上的「或」永遠包括兩者都是，這跟點咖啡時說的「加奶或加糖」不同，後者通常排除了兩樣都加。「互補事件要重新點算一次，就像原來的事件那樣。」 $P(A')$ 幾乎從來不需要重新點算： $1 - P(A)$ 更快，而且準確。

條件概率：知道了一件事之後，什麼會改變

定義

條件概率（conditional probability） $P(A|B)$ 是 $A$ 在已知 $B$ 已經發生的條件下發生的概率： $P(A|B) = P(A \text{ AND } B) / P(B)$ 。

怎樣判斷

知道 $B$ 發生了，樣本空間就縮小到只剩 $B$ 的結果。問這些剩下的結果當中有多少個也在 $A$ 裡，以 $B$ 的總數為分母，而不是原來的總數。

例子

同一個轉盤： $A$ =「奇數」， $B$ =「大於 5」。 $P(A \text{ AND } B) = 1/8$ （只有 7）， $P(B) = 3/8$ ，所以 $P(A|B) = (1/8)/(3/8) = 1/3$ ，低於原本的 $P(A) = 4/8$ 。

陷阱

「已知 B 時 A 的概率和已知 A 時 B 的概率是同一個數，只是次序調換了。」 兩者縮小到的是不同的樣本空間：這裡 $P(B|A) = 1/4$ ，不是 $1/3$ 。「知道 B 發生了，不能改變 A 的概率。」 恰恰當 $B$ 排除了 $A$ 的某些有利結果時，它就會改變，這裡正是如此。

獨立事件不是互斥事件

定義

當知道其中一個事件發生了並不改變另一個的概率，兩個事件就是獨立（independent）的： $P(A|B) = P(A)$ 。當兩個事件沒有共同結果、永遠不能同時發生，它們就是互斥（mutually exclusive）的： $P(A \text{ AND } B) = 0$ 。

怎樣判斷

用 $P(A \text{ AND } B) = P(A)P(B)$ 檢查獨立性；用 $P(A \text{ AND } B) = 0$ 檢查互斥性。除非題目另有說明，否則先假設事件是相依（dependent）而且不互斥的，直至你能證明其中一項成立。

例子

擲一枚公平的硬幣兩次（假設的例子）：「第 1 次擲出正面」和「第 2 次擲出正面」是獨立的： $P(\text{H2}|\text{H1}) = 0.5 = P(\text{H2})$ ；而且不互斥，因為兩者可以同時發生。

陷阱

「獨立就是互斥的意思：兩個事件互不相干。」 對於各自都可能發生的事件來說，兩者是相反的：互斥事件是相依到極點的事件，因為一個排除另一個，是最強的相依關係。「連續五次正面之後，反面『該出』了。」 每一次擲都是獨立的：硬幣沒有記憶，所以無論之前如何，第 6 次仍然是 0.5。

概率乘法定律與加法定律

定義

概率乘法定律（multiplication rule）求 $P(A \text{ AND } B)$ ；概率加法定律（addition rule）求 $P(A \text{ OR } B)$ 。每條定律都有一個一般形式，以及一個較簡單的特例，而特例只有在真正檢查過獨立性或互斥性之後才適用。

怎樣判斷

乘法：一般形式 $\displaystyle P(A \text{ AND } B) = P(A) \cdot P(B|A)$ ；若獨立，則 $P(A) \cdot P(B)$ 。加法：一般形式 $\displaystyle P(A \text{ OR } B) = P(A) + P(B) - P(A \text{ AND } B)$ ；若互斥，則 $P(A) + P(B)$ 。

例子

一個假設的招聘流程：60% 的申請人通過數學篩選測試；50% 通過寫作篩選測試；通過數學測試的人當中，75% 也通過寫作測試。下面的例題詳解求兩項都通過的概率，以及至少通過一項的概率。

例題詳解

列出已知。 $P(M) = 0.6$ ， $P(W) = 0.5$ ， $P(W|M) = 0.75$ 。
先檢查獨立性。 $P(W|M) = 0.75 \ne P(W) = 0.5$ ，所以 $M$ 和 $W$ 相依：必須用一般形式的乘法定律，不能走捷徑。
套用乘法定律。 $P(M \text{ AND } W) = P(M) \cdot P(W|M) = 0.6 \times 0.75 = 0.45$ 。
套用加法定律。 $P(M \text{ OR } W) = P(M) + P(W) - P(M \text{ AND } W) = 0.6 + 0.5 - 0.45 = 0.65$ 。

常見失誤：沒有先檢查獨立性就把 $P(A)$ 乘以 $P(B)$ ；在加法定律裡忘記減去 $P(A \text{ AND } B)$ ，令兩項都通過的每一個人被重複計算。

案例

1654 年，賭徒德梅雷騎士（Chevalier de Méré）問道，為什麼他一直信得過的一注賭博老是輸：「擲一顆骰子 4 次，至少出現一次一點」這一注一直穩定地贏錢，於是他改為賭「擲兩顆骰子 24 次，至少出現一次雙一」，把投擲次數乘以六倍，以配合罕見程度也是六倍的雙一。這兩注並不成比例：第一注勝出的概率接近 0.518，第二注只有大約 0.491，因為重複投擲的概率是複合累積的，不是按直線比例放大。德梅雷的難題傳到帕斯卡（Blaise Pascal）那裡，他因此與費馬（Pierre de Fermat）通信，一般認為概率的數學理論正是由這些通信奠基的。

陷阱

「你永遠可以直接把 P(A) 乘以 P(B) 得到 P(A 且 B)。」 只有獨立時才可以，否則必須用 $P(A) \cdot P(B|A)$ ，就像上面那樣，那裡 $0.6 \times 0.5 = 0.3$ 會是錯的。「加法定律就是 P(A) + P(B)。」 除非事件互斥，否則那會把重疊部分多算一次；減去 $P(A \text{ AND } B)$ 正是修正的方法。

讀懂列聯表

定義

列聯表（contingency table）把兩個分類變量按行和列交叉列表，令行總計、列總計和格內的計數可以轉化為邊際概率（marginal probability）、聯合概率（joint probability）和條件概率。

怎樣判斷

邊際概率是把一個行總計或列總計除以全表的總計。聯合概率是把一格除以全表的總計。條件概率是把一格除以它自己所在的行總計或列總計：「已知」這個詞永遠會縮小分母。

例子

一家假設的健身室把 200 名會員按會籍類型（標準／高級，屬）與每星期一堂課的出席情況（是／否）交叉列表。下面的例題詳解直接從表中讀出三個概率。

例題詳解

讀表。 高級會員且有上課 = 30；高級會員總計 = 50；全表總計 = 200。
邊際概率。 $P(\text{Premium}) = 50/200 = 0.25$ 。
聯合概率。 $P(\text{Premium AND attends}) = 30/200 = 0.15$ 。
條件概率。 $P(\text{attends} \mid \text{Premium}) = 30/50 = 0.6$ ：除以高級會員那一行的總計，不是全表的總計。

常見失誤：求條件概率時除以全表的總計，而不是相關的行總計或列總計；把 $P(\text{attends}\mid\text{Premium})$ 和 $P(\text{Premium}\mid\text{attends})$ 調轉了，後者是把同一個 30 除以另一個總計。

200 名會員的健身室例子的馬賽克圖：直條的闊度顯示標準會員與高級會員各有多少人，每個直條內陰影的高度顯示該組有多大比例的人參加每星期一堂的課。由 figures/fig-contingency-mosaic.py 繪製

陷阱

「從表裡求任何概率都是除以全表的總計。」 只有邊際概率和聯合概率才是；條件概率改為除以它所在的行總計或列總計。「已知高級會員時有上課的概率，和已知有上課時是高級會員的概率，算出來一樣。」 兩者是把 30 除以不同的總計：一個是 50，另一個是「有上課」那一列的總計 70，兩者很少相等。

樹形圖與溫氏圖

定義

樹形圖（tree diagram）把一連串事件畫成標有概率的分支，沿每條路徑相乘；溫氏圖（Venn diagram）把事件畫成一個代表樣本空間的方框裡互相重疊的區域。

怎樣判斷

在樹形圖上，沿一條路徑把分支的概率相乘；後面的分支可以標上取決於前一條分支的條件概率。在溫氏圖上，重疊部分是「且」，合起來的面積是「或」，圓以外的部分是該事件的互補事件。

例子

一個袋裡有 5 顆紅色和 3 顆藍色的波子（假設的例子），不放回地抽出兩顆。第一對分支是 $5/8$ （紅色）和 $3/8$ （藍色）；已知第一次是紅色，第二對分支變成 $4/7$ 和 $3/7$ ，所以 $P(\text{red, red}) = 5/8 \times 4/7$ 。

從一袋 5 顆紅色和 3 顆藍色的波子中不放回地抽出兩顆的兩階段樹形圖：因為第一顆波子沒有放回，第二次抽出的分支概率有所改變。由 figures/fig-tree-diagram.py 繪製

陷阱

「沿一條路徑要把分支的概率相加，而不是相乘。」 相乘是逐條分支套用乘法定律；相加屬於合併不同的路徑，不是一條路徑本身的各個步驟。「溫氏圖裡圓的大小必須跟真實的概率相符。」 溫氏圖是示意圖：除非圖上明確說明，否則一個圓畫得多大，並不對它的實際概率作任何承諾。

從樣本空間到日常生活的機會綜合運用

最後一個假設的例子把整章串起來：一家小診所記錄 500 名病人的檢測結果（陽性或陰性，屬），以及他們是否真的患有某種罕見病，這正是一個呼之欲出的。診所的是全部 500 名病人；「檢測呈陽性」和「患有該病」各是一個，而問已知其中一個時另一個的概率，是，不是單純的邊際比率。這兩個事件不：真實檢測的結果取決於實際病況；它們也不互斥，因為兩者可以同時成立。求「檢測呈陽性且患有該病」用的是；求「檢測呈陽性或患有該病」用的是加法定律。可以把「先病況、後檢測」畫成兩層分支，沿每條路徑相乘；溫氏圖則可以把同一個關係畫成兩個重疊的圓。這七個概念沒有一個是可有可無的棚架：合起來，它們就是把陽性結果讀成患病的證明，與正確地把它讀成一項證據之間的分別，這項證據會推移概率，卻不會把它釘死在 0 或 1。

資料來源

1 OpenStax Introductory Statistics §3.1: Terminology — 來源
2 OpenStax Introductory Statistics §3.2: Independent and Mutually Exclusive Events — 來源
3 OpenStax Introductory Statistics §3.3: Two Basic Rules of Probability — 來源
4 OpenStax Introductory Statistics §3.4: Contingency Tables — 來源
5 OpenStax Introductory Statistics §3.5: Tree and Venn Diagrams — 來源
6 cut-the-knot.org: Chevalier de Méré's Problem — 來源
7 MacTutor History of Mathematics (Univ. of St Andrews): Pierre de Fermat — 來源