Probability Topics

7 个概念

本章目录

第一章问的是样本能在多大程度上代替总体；这一章转向另一个问题：在所有可能发生的情况之中，某一件事发生的可能性有多大。它建立的词汇、把事件组合起来的运算（），以及事件与只是不能重叠的事件之间的区别。章末介绍两种从真实数据读出概率的方法：和。

样本空间、结果与事件

定义

样本空间（sample space）是一项试验可能产生的每一个结果（outcome）的完整清单；事件（event）是该样本空间的任何一个子集，可以是一个结果、几个结果或一个也没有；事件的概率（probability），记作 $P(A)$ ，是一个从 0 到 1 的数，度量它发生的可能性有多大。

怎么判断

把每一个不同的结果列出来，那份清单就是样本空间。事件就是其中你真正关心的那个子集。当各个结果等可能（equally likely）时， $P(A)$ 等于满足 $A$ 的结果个数除以样本空间中结果的总个数。

例子

一个 8 格的转盘，格子从 1 到 8 编号，每格等可能（假设的例子）。样本空间是 $S = \{1, 2, \ldots, 8\}$ 。事件 $A$ “落在奇数上”是 $\{1, 3, 5, 7\}$ ，所以 $P(A) = 4/8 = 0.5$ 。

误区

“事件就是单独一个结果，比如落在 4 上。” 一个结果是单独一种情况；一个事件可以同时包含好几个，比如上面的 $A$ 。“掷两枚骰子，每一个点数和都是等可能的，因为没有什么让某个总和比别的更特殊。” 两枚骰子的 36 个有序数对是等可能的，但它们的点数和不是：和为 2 的只有一对，和为 7 的却有六对不同的组合。

事件的组合：且、或与对立事件

定义

对于事件 $A$ 和 $B$ ： $A$ 且 $B$ （AND）是同时在两者里的结果； $A$ 或 $B$ （OR）是在其中一个或两者里的结果；对立事件（complement） $A'$ 是所有不在 $A$ 里的结果。

怎么判断

“且”缩小到重叠的部分；“或”把任何一个事件触及的结果全部收集起来，重叠的部分只算一次。因为每一个结果不是在 $A$ 里就是在 $A'$ 里，而且从不同时在两者里，所以 $P(A) + P(A') = 1$ 永远成立。

例子

同一个转盘： $A$ =“奇数”= $\{1,3,5,7\}$ ， $B$ =“大于 5”= $\{6,7,8\}$ 。 $A$ 且 $B$ = $\{7\}$ ； $A$ 或 $B$ = $\{1,3,5,6,7,8\}$ ； $A' = \{2,4,6,8\}$ ，所以 $P(A') = 4/8 = 0.5 = 1 - P(A)$ 。

同一批散落的结果和两个事件 A、B，用三种方式加上阴影：A 且 B（左）、A 或 B（中），以及 A 的对立事件（右）。由 figures/fig-events-and-or-complement.py 绘制

误区

“‘A 或 B’指的是其中一个，不是两个都是。” 数学上的“或”永远包括两者都是，这和点咖啡时说的“加奶或加糖”不同，后者通常排除了两样都加。“对立事件要重新数一遍，就像原来的事件那样。” $P(A')$ 几乎从来不需要重新计数： $1 - P(A)$ 更快，而且准确。

条件概率：知道了一件事之后，什么会改变

定义

条件概率（conditional probability） $P(A|B)$ 是 $A$ 在已知 $B$ 已经发生的条件下发生的概率： $P(A|B) = P(A \text{ AND } B) / P(B)$ 。

怎么判断

知道 $B$ 发生了，样本空间就缩小到只剩 $B$ 的结果。问这些剩下的结果当中有多少个也在 $A$ 里，以 $B$ 的总数为分母，而不是原来的总数。

例子

同一个转盘： $A$ =“奇数”， $B$ =“大于 5”。 $P(A \text{ AND } B) = 1/8$ （只有 7）， $P(B) = 3/8$ ，所以 $P(A|B) = (1/8)/(3/8) = 1/3$ ，低于原来的 $P(A) = 4/8$ 。

误区

“已知 B 时 A 的概率和已知 A 时 B 的概率是同一个数，只是顺序调换了。” 两者缩小到的是不同的样本空间：这里 $P(B|A) = 1/4$ ，不是 $1/3$ 。“知道 B 发生了，不能改变 A 的概率。” 恰恰当 $B$ 排除了 $A$ 的某些有利结果时，它就会改变，这里正是如此。

独立事件不是互斥事件

定义

当知道其中一个事件发生了并不改变另一个的概率，两个事件就是独立（independent）的： $P(A|B) = P(A)$ 。当两个事件没有共同结果、永远不能同时发生，它们就是互斥（mutually exclusive）的： $P(A \text{ AND } B) = 0$ 。

怎么判断

用 $P(A \text{ AND } B) = P(A)P(B)$ 检查独立性；用 $P(A \text{ AND } B) = 0$ 检查互斥性。除非题目另有说明，否则先假设事件是不独立（dependent）而且不互斥的，直到你能证明其中一项成立。

例子

抛一枚均匀的硬币两次（假设的例子）：“第 1 次抛出正面”和“第 2 次抛出正面”是独立的： $P(\text{H2}|\text{H1}) = 0.5 = P(\text{H2})$ ；而且不互斥，因为两者可以同时发生。

误区

“独立就是互斥的意思：两个事件互不相干。” 对于各自都可能发生的事件来说，两者是相反的：互斥事件恰恰是最不独立的事件，因为一个排除另一个，是最强的依赖关系。“连续五次正面之后，反面‘该出’了。” 每一次抛都是独立的：硬币没有记忆，所以无论之前如何，第 6 次仍然是 0.5。

乘法公式与加法公式

定义

乘法公式（multiplication rule）求 $P(A \text{ AND } B)$ ；加法公式（addition rule）求 $P(A \text{ OR } B)$ 。每个公式都有一个一般形式，以及一个更简单的特例，而特例只有在真正检查过独立性或互斥性之后才适用。

怎么判断

乘法：一般形式 $\displaystyle P(A \text{ AND } B) = P(A) \cdot P(B|A)$ ；若独立，则 $P(A) \cdot P(B)$ 。加法：一般形式 $\displaystyle P(A \text{ OR } B) = P(A) + P(B) - P(A \text{ AND } B)$ ；若互斥，则 $P(A) + P(B)$ 。

例子

一个假设的招聘流程：60% 的应聘者通过数学筛选测试；50% 通过写作筛选测试；通过数学测试的人当中，75% 也通过写作测试。下面的例题详解求两项都通过的概率，以及至少通过一项的概率。

例题详解

列出已知。 $P(M) = 0.6$ ， $P(W) = 0.5$ ， $P(W|M) = 0.75$ 。
先检查独立性。 $P(W|M) = 0.75 \ne P(W) = 0.5$ ，所以 $M$ 和 $W$ 不独立：必须用一般形式的乘法公式，不能走捷径。
套用乘法公式。 $P(M \text{ AND } W) = P(M) \cdot P(W|M) = 0.6 \times 0.75 = 0.45$ 。
套用加法公式。 $P(M \text{ OR } W) = P(M) + P(W) - P(M \text{ AND } W) = 0.6 + 0.5 - 0.45 = 0.65$ 。

常见错误：没有先检查独立性就用 $P(A)$ 乘以 $P(B)$ ；在加法公式里忘记减去 $P(A \text{ AND } B)$ ，让两项都通过的每一个人被重复计算。

案例

1654 年，赌徒德·梅雷骑士（Chevalier de Méré）问道，为什么他一直信得过的一个赌注老是输：“掷一枚骰子 4 次，至少出现一次一点”这一注一直稳定地赢钱，于是他改为赌“掷两枚骰子 24 次，至少出现一次双一”，把投掷次数乘以六倍，以配合罕见程度也是六倍的双一。这两注并不成比例：第一注获胜的概率接近 0.518，第二注只有大约 0.491，因为重复投掷的概率是复合累积的，不是按直线比例放大。德·梅雷的难题传到帕斯卡（Blaise Pascal）那里，他因此与费马（Pierre de Fermat）通信，一般认为概率的数学理论正是由这些通信奠基的。

误区

“你永远可以直接用 P(A) 乘以 P(B) 得到 P(A 且 B)。” 只有独立时才可以，否则必须用 $P(A) \cdot P(B|A)$ ，就像上面那样，那里 $0.6 \times 0.5 = 0.3$ 会是错的。“加法公式就是 P(A) + P(B)。” 除非事件互斥，否则那会把重叠部分多算一次；减去 $P(A \text{ AND } B)$ 正是修正的方法。

读懂列联表

定义

列联表（contingency table）把两个分类变量按行和列交叉列表，让行合计、列合计和单元格中的计数可以转化为边缘概率（marginal probability）、联合概率（joint probability）和条件概率。

怎么判断

边缘概率是用一个行合计或列合计除以全表的总计。联合概率是用一个单元格除以全表的总计。条件概率是用一个单元格除以它自己所在的行合计或列合计：“已知”这个词永远会缩小分母。

例子

一家假设的健身房把 200 名会员按会员资格类型（标准／高级，属）与每周课程的出席情况（是／否）交叉列表。下面的例题详解直接从表中读出三个概率。

例题详解

读表。 高级会员且上课 = 30；高级会员合计 = 50；全表总计 = 200。
边缘概率。 $P(\text{Premium}) = 50/200 = 0.25$ 。
联合概率。 $P(\text{Premium AND attends}) = 30/200 = 0.15$ 。
条件概率。 $P(\text{attends} \mid \text{Premium}) = 30/50 = 0.6$ ：除以高级会员那一行的合计，不是全表的总计。

常见错误：求条件概率时除以全表的总计，而不是相关的行合计或列合计；把 $P(\text{attends}\mid\text{Premium})$ 和 $P(\text{Premium}\mid\text{attends})$ 弄反了，后者是用同一个 30 除以另一个合计。

200 名会员的健身房例子的马赛克图：直条的宽度显示标准会员与高级会员各有多少人，每个直条内阴影的高度显示该组有多大比例的人参加每周课程。由 figures/fig-contingency-mosaic.py 绘制

误区

“从表里求任何概率都是除以全表的总计。” 只有边缘概率和联合概率才是；条件概率改为除以它所在的行合计或列合计。“已知高级会员时上课的概率，和已知上课时是高级会员的概率，算出来一样。” 两者是用 30 除以不同的合计：一个是 50，另一个是“上课”那一列的合计 70，两者很少相等。

树状图与韦恩图

定义

树状图（tree diagram）把一连串事件画成标有概率的分支，沿每条路径相乘；韦恩图（Venn diagram）把事件画成一个代表样本空间的方框里互相重叠的区域。

怎么判断

在树状图上，沿一条路径把分支的概率相乘；后面的分支可以标上取决于前一条分支的条件概率。在韦恩图上，重叠部分是“且”，合起来的面积是“或”，圆以外的部分是该事件的对立事件。

例子

一个袋子里有 5 颗红色和 3 颗蓝色的弹珠（假设的例子），不放回地抽取两颗。第一对分支是 $5/8$ （红色）和 $3/8$ （蓝色）；已知第一次是红色，第二对分支变成 $4/7$ 和 $3/7$ ，所以 $P(\text{red, red}) = 5/8 \times 4/7$ 。

从一袋 5 颗红色和 3 颗蓝色的弹珠中不放回地抽取两颗的两阶段树状图：因为第一颗弹珠没有放回，第二次抽取的分支概率有所改变。由 figures/fig-tree-diagram.py 绘制

误区

“沿一条路径要把分支的概率相加，而不是相乘。” 相乘是逐条分支套用乘法公式；相加属于合并不同的路径，不是一条路径本身的各个步骤。“韦恩图里圆的大小必须和真实的概率相符。” 韦恩图是示意图：除非图上明确说明，否则一个圆画得多大，并不对它的实际概率作任何承诺。

从样本空间到日常生活中的机会综合运用

最后一个假设的例子把整章串起来：一家小诊所记录 500 名患者的检测结果（阳性或阴性，属），以及他们是否真的患有某种罕见病，这正是一个呼之欲出的。诊所的是全部 500 名患者；“检测呈阳性”和“患有该病”各是一个，而问已知其中一个时另一个的概率，是，不是单纯的边缘比率。这两个事件不：真实检测的结果取决于实际病情；它们也不互斥，因为两者可以同时成立。求“检测呈阳性且患有该病”用的是；求“检测呈阳性或患有该病”用的是加法公式。可以把“先病情、后检测”画成两层分支，沿每条路径相乘；韦恩图则可以把同一个关系画成两个重叠的圆。这七个概念没有一个是可有可无的脚手架：合起来，它们就是把阳性结果读成患病的证明，与正确地把它读成一项证据之间的区别，这项证据会推移概率，却不会把它钉死在 0 或 1。

资料来源

1 OpenStax Introductory Statistics §3.1: Terminology — 来源
2 OpenStax Introductory Statistics §3.2: Independent and Mutually Exclusive Events — 来源
3 OpenStax Introductory Statistics §3.3: Two Basic Rules of Probability — 来源
4 OpenStax Introductory Statistics §3.4: Contingency Tables — 来源
5 OpenStax Introductory Statistics §3.5: Tree and Venn Diagrams — 来源
6 cut-the-knot.org: Chevalier de Méré's Problem — 来源
7 MacTutor History of Mathematics (Univ. of St Andrews): Pierre de Fermat — 来源