機率與統計第 3 章

Probability Topics

7 個概念

本章目錄

第一章問的是樣本能在多大程度上代替母體;這一章轉向另一個問題:在所有可能發生的情況之中,某一件事有多大可能發生。它建立的詞彙、把事件組合起來的運算(),以及事件與只是不能重疊的事件之間的區別。章末介紹兩種從真實資料讀出機率的方法:

樣本空間、結果與事件

定義

樣本空間(sample space)是一項試驗可能產生的每一個結果(outcome)的完整清單;事件(event)是該樣本空間的任何一個子集,可以是一個結果、幾個結果或一個也沒有;事件的機率(probability),寫作 P(A)P(A),是一個由 0 至 1 的數,衡量它有多大可能發生

怎樣判斷

把每一個不同的結果列出來,那份清單就是樣本空間。事件就是其中你真正在意的那個子集。當各個結果等可能(equally likely)時,P(A)P(A) 等於符合 AA 的結果數目除以樣本空間中結果的總數目

例子

一個 8 格的轉盤,格子由 1 至 8 編號,每格等可能(假設的例子)。樣本空間是 S={1,2,,8}S = \{1, 2, \ldots, 8\}。事件 AA「落在奇數上」是 {1,3,5,7}\{1, 3, 5, 7\},所以 P(A)=4/8=0.5P(A) = 4/8 = 0.5

陷阱

「事件就是單一個結果,例如落在 4。」 一個結果是單一個情況;一個事件可以同時包含好幾個,例如上面的 AA「擲兩顆骰子,每一個點數和都是等可能的,因為沒有什麼讓某個總和特別一點。」 兩顆骰子的 36 個有序對是等可能的,但它們的點數和不是:和為 2 的只有一對,和為 7 的卻有六對不同的組合

事件的組合:且、或與餘事件

定義

對於事件 AABBAABB(AND)是同時在兩者裡的結果;AABB(OR)是在其中一個或兩者裡的結果;餘事件(complement)AA' 是所有不在 AA 裡的結果

怎樣判斷

「且」縮小到重疊的部分;「或」把任何一個事件觸及的結果全部收集起來,重疊的部分只算一次。因為每一個結果不是在 AA 裡就是在 AA' 裡,而且從不同時在兩者裡,所以 P(A)+P(A)=1P(A) + P(A') = 1 永遠成立

例子

同一個轉盤:AA =「奇數」= {1,3,5,7}\{1,3,5,7\}BB =「大於 5」= {6,7,8}\{6,7,8\}AABB = {7}\{7\}AABB = {1,3,5,6,7,8}\{1,3,5,6,7,8\}A={2,4,6,8}A' = \{2,4,6,8\},所以 P(A)=4/8=0.5=1P(A)P(A') = 4/8 = 0.5 = 1 - P(A)

同一批散落的結果和兩個事件 A、B,用三種方式加上陰影:A 且 B(左)、A 或 B(中),以及 A 的餘事件(右)。
同一批散落的結果和兩個事件 A、B,用三種方式加上陰影:A 且 B(左)、A 或 B(中),以及 A 的餘事件(右)。由 figures/fig-events-and-or-complement.py 繪製
陷阱

「『A 或 B』指的是其中一個,不是兩個都是。」 數學上的「或」永遠包括兩者都是,這跟點咖啡時說的「加奶精或加糖」不同,後者通常排除了兩樣都加。「餘事件要重新計數一次,就像原來的事件那樣。」 P(A)P(A') 幾乎從來不需要重新計數:1P(A)1 - P(A) 更快,而且準確

條件機率:知道了一件事之後,什麼會改變

定義

條件機率(conditional probability)P(AB)P(A|B)AA 在已知 BB 已經發生的條件下發生的機率:P(AB)=P(A AND B)/P(B)P(A|B) = P(A \text{ AND } B) / P(B)

怎樣判斷

知道 BB 發生了,樣本空間就縮小到只剩 BB 的結果。問這些剩下的結果之中有多少個也在 AA 裡,以 BB 的總數為分母,而不是原來的總數

例子

同一個轉盤:AA =「奇數」,BB =「大於 5」。P(A AND B)=1/8P(A \text{ AND } B) = 1/8(只有 7),P(B)=3/8P(B) = 3/8,所以 P(AB)=(1/8)/(3/8)=1/3P(A|B) = (1/8)/(3/8) = 1/3,低於原本的 P(A)=4/8P(A) = 4/8

陷阱

「已知 B 時 A 的機率和已知 A 時 B 的機率是同一個數,只是順序對調了。」 兩者縮小到的是不同的樣本空間:這裡 P(BA)=1/4P(B|A) = 1/4,不是 1/31/3「知道 B 發生了,不能改變 A 的機率。」 恰恰當 BB 排除了 AA 的某些有利結果時,它就會改變,這裡正是如此

獨立事件不是互斥事件

定義

當知道其中一個事件發生了並不改變另一個的機率,兩個事件就是獨立(independent)的:P(AB)=P(A)P(A|B) = P(A)。當兩個事件沒有共同結果、永遠不能同時發生,它們就是互斥(mutually exclusive)的:P(A AND B)=0P(A \text{ AND } B) = 0

怎樣判斷

P(A AND B)=P(A)P(B)P(A \text{ AND } B) = P(A)P(B) 檢查獨立性;用 P(A AND B)=0P(A \text{ AND } B) = 0 檢查互斥性。除非題目另有說明,否則先假設事件是相依(dependent)而且不互斥的,直到你能證明其中一項成立

例子

擲一枚公正的硬幣兩次(假設的例子):「第 1 次擲出正面」和「第 2 次擲出正面」是獨立的:P(H2H1)=0.5=P(H2)P(\text{H2}|\text{H1}) = 0.5 = P(\text{H2});而且不互斥,因為兩者可以同時發生。

陷阱

「獨立就是互斥的意思:兩個事件互不相干。」 對於各自都可能發生的事件來說,兩者是相反的:互斥事件是相依到極點的事件,因為一個排除另一個,是最強的相依關係。「連續五次正面之後,反面『該出』了。」 每一次擲都是獨立的:硬幣沒有記憶,所以無論之前如何,第 6 次仍然是 0.5

乘法法則與加法法則

定義

乘法法則(multiplication rule)求 P(A AND B)P(A \text{ AND } B)加法法則(addition rule)求 P(A OR B)P(A \text{ OR } B)。每條法則都有一個一般形式,以及一個較簡單的特例,而特例只有在真正檢查過獨立性或互斥性之後才適用

怎樣判斷

乘法:一般形式 P(A AND B)=P(A)P(BA)\displaystyle P(A \text{ AND } B) = P(A) \cdot P(B|A);若獨立,則 P(A)P(B)P(A) \cdot P(B)。加法:一般形式 P(A OR B)=P(A)+P(B)P(A AND B)\displaystyle P(A \text{ OR } B) = P(A) + P(B) - P(A \text{ AND } B);若互斥,則 P(A)+P(B)P(A) + P(B)

例子

一個假設的徵才流程:60% 的應徵者通過數學篩選測驗;50% 通過寫作篩選測驗;通過數學測驗的人之中,75% 也通過寫作測驗。下面的例題詳解求兩項都通過的機率,以及至少通過一項的機率。

例題詳解
  1. 列出已知。 P(M)=0.6P(M) = 0.6P(W)=0.5P(W) = 0.5P(WM)=0.75P(W|M) = 0.75
  2. 先檢查獨立性。 P(WM)=0.75P(W)=0.5P(W|M) = 0.75 \ne P(W) = 0.5,所以 MMWW 相依:必須用一般形式的乘法法則,不能走捷徑。
  3. 套用乘法法則。 P(M AND W)=P(M)P(WM)=0.6×0.75=0.45P(M \text{ AND } W) = P(M) \cdot P(W|M) = 0.6 \times 0.75 = 0.45
  4. 套用加法法則。 P(M OR W)=P(M)+P(W)P(M AND W)=0.6+0.50.45=0.65P(M \text{ OR } W) = P(M) + P(W) - P(M \text{ AND } W) = 0.6 + 0.5 - 0.45 = 0.65

常見失誤:沒有先檢查獨立性就把 P(A)P(A) 乘以 P(B)P(B);在加法法則裡忘記減去 P(A AND B)P(A \text{ AND } B),讓兩項都通過的每一個人被重複計算。

案例

1654 年,賭徒德梅雷騎士(Chevalier de Méré)問道,為什麼他一直信得過的一個賭注老是輸:「擲一顆骰子 4 次,至少出現一次一點」這一注一直穩定地贏錢,於是他改為賭「擲兩顆骰子 24 次,至少出現一次雙一」,把投擲次數乘以六倍,以配合罕見程度也是六倍的雙一。這兩注並不成比例:第一注勝出的機率接近 0.518,第二注只有大約 0.491,因為重複投擲的機率是複合累積的,不是按直線比例放大。德梅雷的難題傳到巴斯卡(Blaise Pascal)那裡,他因此與費馬(Pierre de Fermat)通信,一般認為機率的數學理論正是由這些通信奠基的

陷阱

「你永遠可以直接把 P(A) 乘以 P(B) 得到 P(A 且 B)。」 只有獨立時才可以,否則必須用 P(A)P(BA)P(A) \cdot P(B|A),就像上面那樣,那裡 0.6×0.5=0.30.6 \times 0.5 = 0.3 會是錯的。「加法法則就是 P(A) + P(B)。」 除非事件互斥,否則那會把重疊部分多算一次;減去 P(A AND B)P(A \text{ AND } B) 正是修正的方法

讀懂列聯表

定義

列聯表(contingency table)把兩個類別變數按列和行做成交叉表,讓列總和、行總和和格內的計數可以轉化為邊際機率(marginal probability)、聯合機率(joint probability)和條件機率

怎樣判斷

邊際機率是把一個列總和或行總和除以全表的總計。聯合機率是把一格除以全表的總計。條件機率是把一格除以它自己所在的列總和或行總和:「已知」這個詞永遠會縮小分母

例子

一家假設的健身房把 200 名會員按會員資格類型(標準/高級,屬)與每週課程的出席情況(是/否)做成交叉表。下面的例題詳解直接從表中讀出三個機率。

例題詳解
  1. 讀表。 高級會員且有上課 = 30;高級會員總和 = 50;全表總計 = 200。
  2. 邊際機率。 P(Premium)=50/200=0.25P(\text{Premium}) = 50/200 = 0.25
  3. 聯合機率。 P(Premium AND attends)=30/200=0.15P(\text{Premium AND attends}) = 30/200 = 0.15
  4. 條件機率。 P(attendsPremium)=30/50=0.6P(\text{attends} \mid \text{Premium}) = 30/50 = 0.6:除以高級會員那一列的總和,不是全表的總計。

常見失誤:求條件機率時除以全表的總計,而不是相關的列總和或行總和;把 P(attendsPremium)P(\text{attends}\mid\text{Premium})P(Premiumattends)P(\text{Premium}\mid\text{attends}) 對調了,後者是把同一個 30 除以另一個總和。

200 名會員的健身房例子的馬賽克圖:長條的寬度顯示標準會員與高級會員各有多少人,每個長條內陰影的高度顯示該組有多大比例的人參加每週課程。
200 名會員的健身房例子的馬賽克圖:長條的寬度顯示標準會員與高級會員各有多少人,每個長條內陰影的高度顯示該組有多大比例的人參加每週課程。由 figures/fig-contingency-mosaic.py 繪製
陷阱

「從表裡求任何機率都是除以全表的總計。」 只有邊際機率和聯合機率才是;條件機率改為除以它所在的列總和或行總和。「已知高級會員時有上課的機率,和已知有上課時是高級會員的機率,算出來一樣。」 兩者是把 30 除以不同的總和:一個是 50,另一個是「有上課」那一行的總和 70,兩者很少相等

樹狀圖與文氏圖

定義

樹狀圖(tree diagram)把一連串事件畫成標有機率的分支,沿每條路徑相乘;文氏圖(Venn diagram)把事件畫成一個代表樣本空間的方框裡互相重疊的區域

怎樣判斷

在樹狀圖上,沿一條路徑把分支的機率相乘;後面的分支可以標上取決於前一條分支的條件機率。在文氏圖上,重疊部分是「且」,合起來的面積是「或」,圓以外的部分是該事件的餘事件

例子

一個袋子裡有 5 顆紅色和 3 顆藍色的彈珠(假設的例子),取後不放回地抽出兩顆。第一對分支是 5/85/8(紅色)和 3/83/8(藍色);已知第一次是紅色,第二對分支變成 4/74/73/73/7,所以 P(red, red)=5/8×4/7P(\text{red, red}) = 5/8 \times 4/7

從一袋 5 顆紅色和 3 顆藍色的彈珠中取後不放回地抽出兩顆的兩階段樹狀圖:因為第一顆彈珠沒有放回,第二次抽出的分支機率有所改變。
從一袋 5 顆紅色和 3 顆藍色的彈珠中取後不放回地抽出兩顆的兩階段樹狀圖:因為第一顆彈珠沒有放回,第二次抽出的分支機率有所改變。由 figures/fig-tree-diagram.py 繪製
陷阱

「沿一條路徑要把分支的機率相加,而不是相乘。」 相乘是逐條分支套用乘法法則;相加屬於合併不同的路徑,不是一條路徑本身的各個步驟。「文氏圖裡圓的大小必須跟真實的機率相符。」 文氏圖是示意圖:除非圖上明確說明,否則一個圓畫得多大,並不對它的實際機率作任何承諾

從樣本空間到日常生活的機會綜合運用

最後一個假設的例子把整章串起來:一家小診所記錄 500 名病人的檢驗結果(陽性或陰性,屬),以及他們是否真的患有某種罕見疾病,這正是一個呼之欲出的。診所的是全部 500 名病人;「檢驗呈陽性」和「患有該病」各是一個,而問已知其中一個時另一個的機率,是,不是單純的邊際比率。這兩個事件不:真實檢驗的結果取決於實際病況;它們也不互斥,因為兩者可以同時成立。求「檢驗呈陽性且患有該病」用的是;求「檢驗呈陽性或患有該病」用的是加法法則。可以把「先病況、後檢驗」畫成兩層分支,沿每條路徑相乘;文氏圖則可以把同一個關係畫成兩個重疊的圓。這七個概念沒有一個是可有可無的鷹架:合起來,它們就是把陽性結果讀成患病的證明,與正確地把它讀成一項證據之間的區別,這項證據會推移機率,卻不會把它釘死在 0 或 1。

資料來源

  1. 1 OpenStax Introductory Statistics §3.1: Terminology來源
  2. 2 OpenStax Introductory Statistics §3.2: Independent and Mutually Exclusive Events來源
  3. 3 OpenStax Introductory Statistics §3.3: Two Basic Rules of Probability來源
  4. 4 OpenStax Introductory Statistics §3.4: Contingency Tables來源
  5. 5 OpenStax Introductory Statistics §3.5: Tree and Venn Diagrams來源
  6. 6 cut-the-knot.org: Chevalier de Méré's Problem來源
  7. 7 MacTutor History of Mathematics (Univ. of St Andrews): Pierre de Fermat來源