两点、二项与超几何分布

判断分布前先检查独立性、成功概率是否固定，以及是否有放回。

两点分布与二项分布

若随机变量 $I$ 只取 $0,1$ ，且

P(I=1)=p,\qquad P(I=0)=1-p,\qquad 0\le p\le1,

则称它服从参数为 $p$ 的两点分布（伯努利分布）。它可表示一次试验是否成功：成功取 $1$ ，失败取 $0$ 。直接由期望定义，

E(I)=p,\qquad E(I^2)=p,\qquad D(I)=p-p^2=p(1-p).

进行 $n\ge1$ 次相互独立、每次成功概率均为 $p$ 的试验，记成功总次数为 $X$ ，则称 $X$ 服从二项分布，记为 $X\sim B(n,p)$ 。当 $0<p<1$ 时，

P(X=k)=\binom nkp^k(1-p)^{n-k},\qquad k=0,1,\ldots,n.

成功位置的计数证明见下一知识块。所有概率非负，而且由二项式定理，其和为 $[p+(1-p)]^n=1$ ，所以这确实是一个分布列。

期望与方差的证明。 令 $I_j$ 表示第 $j$ 次是否成功，则 $X=\sum_{j=1}^n I_j$ ，每个 $I_j$ 都服从上述两点分布。期望具有可加性，而这些变量相互独立，方差也可相加，所以

E(X)=\sum_{j=1}^np=np,\qquad D(X)=\sum_{j=1}^np(1-p)=np(1-p).

$p=0$ 时恒有 $X=0$ ； $p=1$ 时恒有 $X=n$ 。两种情形均为方差为零的退化分布，直接按定义计算即可。若各次成功概率不同，或试验之间不独立，就不能仅凭“重复 $n$ 次”判定为二项分布。

二项分布公式中的组合数从何而来

在 $n$ 次相互独立且成功率都为 $p$ 的试验中，某一种指定的“ $k$ 次成功、 $n-k$ 次失败”的排列，其概率为 $p^k(1-p)^{n-k}$ 。成功位置可以从 $n$ 个位置中选 $k$ 个，共 $\binom nk$ 种；这些排列互斥，因此

P(X=k)=\binom nkp^k(1-p)^{n-k}.

例如独立回答 $5$ 道题，每道答对概率 $0.8$ ，恰答对 $4$ 题的概率是 $5\times0.8^4\times0.2=0.4096$ 。若不同题的答对概率不同，就不能直接使用同一个 $p$ 的二项分布。

二项分布的最可能取值

设 $X\sim B(n,p)$ ， $n\ge1$ 且 $0<p<1$ ，记 $P_k=P(X=k)$ 。相邻概率之比为

\frac{P_{k+1}}{P_k}=\frac{n-k}{k+1}\frac p{1-p},\qquad 0\le k<n.

该比值大于、等于、小于 $1$ ，分别等价于 $k+1$ 小于、等于、大于 $(n+1)p$ 。因此：若 $(n+1)p$ 不是整数，唯一最可能值为 $\lfloor(n+1)p\rfloor$ ；若 $(n+1)p=j$ 为整数，最可能值有两个，为 $j-1,j$ 。

例如 $B(9,0.3)$ 的最可能值是 $2,3$ ；均值 $2.7$ 不必是可取的整数，更不是“最可能值”的定义。端点 $p=0,1$ 分别只取 $0,n$ ，单独处理。

超几何分布：有限总体的不放回抽样

设 $N\ge1$ ， $0\le M\le N$ ， $0\le n\le N$ 均为整数。 $N$ 个不同对象中有 $M$ 个目标对象，从中等可能地选取一个 $n$ 元子集。记选中的目标个数为 $X$ ，则 $X$ 服从超几何分布，其分布列为

P(X=k)=\frac{\binom Mk\binom{N-M}{n-k}}{\binom Nn},

其中 $k$ 取整数，且

\max(0,n-N+M)\le k\le\min(n,M).

分布列的证明。 总共有 $\binom Nn$ 个等可能子集。恰有 $k$ 个目标时，先从 $M$ 个目标中选 $k$ 个，再从 $N-M$ 个非目标中选 $n-k$ 个，故分子为两个组合数的乘积。上下界同时表达两类对象都不能取成负数、也不能超过库存。

期望与方差的证明。 可把抽样过程写成依次均匀不放回取出 $n$ 个对象。令 $I_j$ 表示第 $j$ 个位置是否为目标，置 $p=M/N$ 。每个位置的边缘概率相同，故 $E(I_j)=p$ ，从而

E(X)=E\left(\sum_{j=1}^nI_j\right)=np=\frac{nM}{N}.

当 $N>1$ 且 $i\ne j$ 时，

E(I_iI_j)=P(I_i=I_j=1)=\frac{M(M-1)}{N(N-1)},

于是

\operatorname{Cov}(I_i,I_j)=\frac{M(M-1)}{N(N-1)}-\frac{M^2}{N^2} =-\frac{p(1-p)}{N-1}.

展开和的方差，得到

\begin{aligned} D(X)&=\sum_{j=1}^nD(I_j)+2\sum_{1\le i<j\le n}\operatorname{Cov}(I_i,I_j)\\ &=np(1-p)-n(n-1)\frac{p(1-p)}{N-1}\\ &=np(1-p)\frac{N-n}{N-1}. \end{aligned}

其中 $(N-n)/(N-1)$ 体现不放回抽样的相依性。当 $n=N$ 时，目标数恒为 $M$ ，方差为 $0$ 。当 $N=1$ 时只能抽 $0$ 个或 $1$ 个，目标数同样是确定值，方差为 $0$ ，不能代入含 $N-1$ 的分母。

例

$5$ 球中 $2$ 红，抽 $2$ 球且不放回，恰有一红概率为 $\binom21\binom31/\binom52=3/5$ 。若每次放回，则二项模型给出 $2(2/5)(3/5)=12/25$ ，两者不同。

例：放回与不放回的概率不同

取含有 $3$ 红球、 $2$ 蓝球的袋子。每次抽取后放回并充分混合，抽两次全红的概率为 $(3/5)^2=9/25$ 。

不放回抽两次时，第一球红的概率为 $3/5$ ，在已经取走一个红球后，第二球红的条件概率为 $2/4$ ，故全红概率为 $3/10$ 。计数法同样得到 $\binom32/\binom52=3/10$ 。

超几何分布的可取值还受两类数量约束：总体 $N$ 个、目标类 $M$ 个、抽取 $n$ 个时，

\max(0,n-(N-M))\le X\le\min(n,M).

例如只有 $2$ 个非目标对象却抽取 $4$ 个，至少抽到 $2$ 个目标对象，不能把 $0,1$ 当成可能取值。

什么时候可以考虑二项近似

超几何抽样存在相依性。当总体很大、抽样量占总体比例很小时，抽走少量对象对后续成功概率的影响较小，可以考虑用参数 $p=M/N$ 的二项分布近似，但近似精度仍取决于具体参数与所求事件。

仅有目标对象数 $M$ 很大并不足够。例如 $N=2M,n=N$ 时，超几何成功数恒为 $M$ 、方差为零，而二项模型方差为 $N/4$ ，明显失真。有限总体修正因子 $(N-n)/(N-1)$ 也直接显示这种差别。本版不把经验近似当作等式使用。

关联阅读

先修：条件概率、独立与贝叶斯公式 · 分布列、期望与方差 · 排列、组合与圆排列。

同主题：分布列、期望与方差 · 几何分布与等待状态。