二项随机变量 (Binomial Random Variable)
二项随机变量 是概率论 中最重要的离散随机变量之一，它刻画了 n n n 伯努利试验 中成功总次数的概率规律。若以瑞士数学家雅各布·伯努利 命名的伯努利分布是概率大厦的一块砖石，则二项分布便是由这些砖石砌成的一道承重墙：它将单次二元试验的不确定性系统地推广到重复试验的累积效应，从而构成了统计推断中比例估计、假设检验和抽样调查的理论根基。
若随机变量 X X X n n n p ∈ [ 0 , 1 ] p \in [0, 1] p ∈ [ 0 , 1 ] X X X n n n p p p
X ∼ B i n o m i a l ( n , p ) X \sim \mathrm{Binomial}(n, p) X ∼ Binomial ( n , p ) 当 n = 1 n = 1 n = 1 B e r n o u l l i ( p ) \mathrm{Bernoulli}(p) Bernoulli ( p ) n = 1 n=1 n = 1 n n n
概率质量函数
设 X ∼ B i n o m i a l ( n , p ) X \sim \mathrm{Binomial}(n, p) X ∼ Binomial ( n , p )
P ( X = k ) = ( n k ) p k ( 1 − p ) n − k , k = 0 , 1 , 2 , … , n P(X = k) = \binom{n}{k} p^k (1-p)^{n-k}, \quad k = 0, 1, 2, \ldots, n P ( X = k ) = ( k n ) p k ( 1 − p ) n − k , k = 0 , 1 , 2 , … , n 其中 ( n k ) = n ! k ! ( n − k ) ! \binom{n}{k} = \frac{n!}{k!(n-k)!} ( k n ) = k ! ( n − k )! n ! n n n k k k q = 1 − p q = 1-p q = 1 − p
( n k ) \binom{n}{k} ( k n ) n n n k k k p k p^k p k k k k q n − k q^{n-k} q n − k n − k n-k n − k 二项分布的名称来源于代数学中的二项式定理 ：
( p + q ) n = ∑ k = 0 n ( n k ) p k q n − k (p + q)^n = \sum_{k=0}^n \binom{n}{k} p^k q^{n-k} ( p + q ) n = k = 0 ∑ n ( k n ) p k q n − k 因此 PMF 各项之和为 ( p + q ) n = 1 (p+q)^n = 1 ( p + q ) n = 1
数字特征
由于二项随机变量可表示为独立伯努利变量之和 X = ∑ i = 1 n X i X = \sum_{i=1}^n X_i X = ∑ i = 1 n X i X i ∼ i i d B e r n o u l l i ( p ) X_i \overset{\mathrm{iid}}{\sim} \mathrm{Bernoulli}(p) X i ∼ iid Bernoulli ( p )
期望 ：
E [ X ] = E [ ∑ i = 1 n X i ] = ∑ i = 1 n E [ X i ] = ∑ i = 1 n p = n p \mathbb{E}[X] = \mathbb{E}\left[\sum_{i=1}^n X_i\right] = \sum_{i=1}^n \mathbb{E}[X_i] = \sum_{i=1}^n p = np E [ X ] = E [ i = 1 ∑ n X i ] = i = 1 ∑ n E [ X i ] = i = 1 ∑ n p = n p 期望值 n p np n p n n n p p p 100 × 0.5 = 50 100 \times 0.5 = 50 100 × 0.5 = 50
方差 ：
Var ( X ) = Var ( ∑ i = 1 n X i ) = ∑ i = 1 n Var ( X i ) = ∑ i = 1 n p ( 1 − p ) = n p q \operatorname{Var}(X) = \operatorname{Var}\left(\sum_{i=1}^n X_i\right) = \sum_{i=1}^n \operatorname{Var}(X_i) = \sum_{i=1}^n p(1-p) = npq Var ( X ) = Var ( i = 1 ∑ n X i ) = i = 1 ∑ n Var ( X i ) = i = 1 ∑ n p ( 1 − p ) = n pq 独立性使协方差项全为零，方差简化为各伯努利方差之和。标准差 n p q \sqrt{npq} n pq n p np n p n n n n \sqrt{n} n n p q n p ∝ 1 n \frac{\sqrt{npq}}{np} \propto \frac{1}{\sqrt{n}} n p n pq ∝ n 1
矩母函数 ：
M X ( t ) = E [ e t X ] = E [ exp ( t ∑ i = 1 n X i ) ] = ∏ i = 1 n E [ e t X i ] = ( q + p e t ) n M_X(t) = \mathbb{E}[e^{tX}] = \mathbb{E}\left[\exp\left(t\sum_{i=1}^n X_i\right)\right] = \prod_{i=1}^n \mathbb{E}[e^{tX_i}] = (q + pe^t)^n M X ( t ) = E [ e tX ] = E [ exp ( t i = 1 ∑ n X i ) ] = i = 1 ∏ n E [ e t X i ] = ( q + p e t ) n MGF 在 R \mathbb{R} R
特征函数 ：
φ X ( t ) = E [ e i t X ] = ( q + p e i t ) n \varphi_X(t) = \mathbb{E}[e^{itX}] = (q + pe^{it})^n φ X ( t ) = E [ e i tX ] = ( q + p e i t ) n 特征函数是推导中心极限定理（De Moivre--Laplace 定理）的核心工具，也是证明二项分布向泊松分布和正态分布收敛的出发点。
偏度与峰度 ：
S k e w ( X ) = q − p n p q = 1 − 2 p n p ( 1 − p ) , K u r t ( X ) = 3 + 1 − 6 p q n p q \mathrm{Skew}(X) = \frac{q - p}{\sqrt{npq}} = \frac{1 - 2p}{\sqrt{np(1-p)}}, \qquad
\mathrm{Kurt}(X) = 3 + \frac{1 - 6pq}{npq} Skew ( X ) = n pq q − p = n p ( 1 − p ) 1 − 2 p , Kurt ( X ) = 3 + n pq 1 − 6 pq 当 p = 0.5 p = 0.5 p = 0.5 p < 0.5 p < 0.5 p < 0.5 p > 0.5 p > 0.5 p > 0.5 n n n 1 / n 1/\sqrt{n} 1/ n n n n 1 − 6 p q n p q \frac{1-6pq}{npq} n pq 1 − 6 pq 1 / n 1/n 1/ n
累积分布函数与分位数
二项分布的累积分布函数无简单闭式解，但可借助不完全 Beta 函数表达：
F ( k ) = P ( X ≤ k ) = ∑ j = 0 k ( n j ) p j ( 1 − p ) n − j = I 1 − p ( n − k , k + 1 ) F(k) = P(X \le k) = \sum_{j=0}^k \binom{n}{j} p^j (1-p)^{n-j} = I_{1-p}(n-k, k+1) F ( k ) = P ( X ≤ k ) = j = 0 ∑ k ( j n ) p j ( 1 − p ) n − j = I 1 − p ( n − k , k + 1 ) 其中 I x ( a , b ) I_x(a, b) I x ( a , b ) 正则化不完全 Beta 函数 。这一恒等式在计算二项分布的精确置信区间（如 Clopper--Pearson 区间）时至关重要，因为它将离散求和的数值困难转化为连续 Beta 函数的求值问题。
二项分布的分位数通常无封闭形式，需通过数值方法（如 Newton--Raphson）或正态近似求解。在统计软件中，二项分位数的计算是假设检验（如二项检验）和置信区间构造的基础。
与其他分布的关系
二项分布是整个离散分布网络中的关键节点，与多种分布存在深刻的推导关系：
伯努利分布 ：B i n o m i a l ( 1 , p ) = B e r n o u l l i ( p ) \mathrm{Binomial}(1, p) = \mathrm{Bernoulli}(p) Binomial ( 1 , p ) = Bernoulli ( p ) n n n 泊松分布（稀有事件极限） ：当 n → ∞ n \to \infty n → ∞ p → 0 p \to 0 p → 0 n p → λ > 0 np \to \lambda > 0 n p → λ > 0 B i n o m i a l \mathrm{Binomial} Binomial P o i s s o n \mathrm{Poisson} Poisson λ \lambda λ 泊松极限定理 ，适用范围为 n n n p p p n ≥ 20 n \ge 20 n ≥ 20 p ≤ 0.05 p \le 0.05 p ≤ 0.05 n ≥ 100 n \ge 100 n ≥ 100 n p ≤ 10 np \le 10 n p ≤ 10 正态分布（De Moivre--Laplace 定理） ：当 n → ∞ n \to \infty n → ∞ p p p 中心极限定理 最早的实例（1733 年由棣莫弗 提出，1812 年由拉普拉斯 推广）。正态近似在实践中极为常用：一般要求 n p ≥ 5 np \ge 5 n p ≥ 5 n q ≥ 5 nq \ge 5 n q ≥ 5 n p q ≥ 10 npq \ge 10 n pq ≥ 10 P ( X ≤ k ) P(X \le k) P ( X ≤ k ) Φ ( k + 0.5 − n p n p q ) \Phi\left(\frac{k+0.5 - np}{\sqrt{npq}}\right) Φ ( n pq k + 0.5 − n p ) 负二项分布 ：二项分布关注固定试验次数下的成功次数，负二项分布 关注固定成功次数下所需的试验总次数。两者共享相同的 p p p n n n X X X r r r 超几何分布 ：当从有限总体中进行不放回抽样时，成功次数服从超几何分布 。当总体容量远大于样本量（N ≫ n N \gg n N ≫ n 多项分布 ：二项分布是多项分布 在类别数 K = 2 K = 2 K = 2 K K K Beta-Binomial 分布 ：当成功概率 p p p 可加性与卷积
二项分布具备优美的可加性：若 X ∼ B i n o m i a l ( n 1 , p ) X \sim \mathrm{Binomial}(n_1, p) X ∼ Binomial ( n 1 , p ) Y ∼ B i n o m i a l ( n 2 , p ) Y \sim \mathrm{Binomial}(n_2, p) Y ∼ Binomial ( n 2 , p ) p p p
X + Y ∼ B i n o m i a l ( n 1 + n 2 , p ) X + Y \sim \mathrm{Binomial}(n_1 + n_2, p) X + Y ∼ Binomial ( n 1 + n 2 , p ) 这一性质直接来自 MGF 的乘积形式或伯努利变量的直接求和：X X X n 1 n_1 n 1 Y Y Y n 2 n_2 n 2 n 1 + n 2 n_1 + n_2 n 1 + n 2
注意：若 p p p
极大似然估计
给定观测值 k k k n n n
L ( p ∣ k , n ) = ( n k ) p k ( 1 − p ) n − k ∝ p k ( 1 − p ) n − k L(p \mid k, n) = \binom{n}{k} p^k (1-p)^{n-k} \propto p^k (1-p)^{n-k} L ( p ∣ k , n ) = ( k n ) p k ( 1 − p ) n − k ∝ p k ( 1 − p ) n − k 对数似然：
ℓ ( p ) = k ln p + ( n − k ) ln ( 1 − p ) + 常数 \ell(p) = k \ln p + (n-k) \ln(1-p) + \text{常数} ℓ ( p ) = k ln p + ( n − k ) ln ( 1 − p ) + 常数 一阶条件：
d ℓ d p = k p − n − k 1 − p = 0 \frac{d\ell}{dp} = \frac{k}{p} - \frac{n-k}{1-p} = 0 d p d ℓ = p k − 1 − p n − k = 0 解得 MLE：
p ^ M L E = k n \hat{p}_{\mathrm{MLE}} = \frac{k}{n} p ^ MLE = n k 即样本成功比例。这是最自然不过的估计量：用实际观测频率去估计真实概率。其方差为：
Var ( p ^ ) = p ( 1 − p ) n \operatorname{Var}(\hat{p}) = \frac{p(1-p)}{n} Var ( p ^ ) = n p ( 1 − p ) 估计量的精度以 1 / n 1/\sqrt{n} 1/ n
Fisher 信息量为：
I ( p ) = − E [ d 2 ℓ d p 2 ] = n p ( 1 − p ) I(p) = -\mathbb{E}\left[\frac{d^2\ell}{dp^2}\right] = \frac{n}{p(1-p)} I ( p ) = − E [ d p 2 d 2 ℓ ] = p ( 1 − p ) n 由此可得 MLE 的渐近方差 Var ( p ^ ) ≈ 1 / I ( p ) = p ( 1 − p ) n \operatorname{Var}(\hat{p}) \approx 1/I(p) = \frac{p(1-p)}{n} Var ( p ^ ) ≈ 1/ I ( p ) = n p ( 1 − p )
假设检验与置信区间
二项分布是单样本比例检验和二样本比例比较的理论基础。
单样本比例检验 ：检验 H 0 : p = p 0 H_0: p = p_0 H 0 : p = p 0 p p p
z = p ^ − p 0 p 0 ( 1 − p 0 ) / n → d N ( 0 , 1 ) z = \frac{\hat{p} - p_0}{\sqrt{p_0(1-p_0)/n}} \xrightarrow{d} \mathcal{N}(0, 1) z = p 0 ( 1 − p 0 ) / n p ^ − p 0 d N ( 0 , 1 ) 得分检验 （Score test）以其优于 Wald 检验的小样本性质 —— 在样本量较小时仍能维持第一类错误率接近名义水平 —— 而受到推荐，其统计量为 p ^ − p 0 p 0 ( 1 − p 0 ) / n \frac{\hat{p} - p_0}{\sqrt{p_0(1-p_0)/n}} p 0 ( 1 − p 0 ) / n p ^ − p 0 p 0 p_0 p 0 p ^ \hat{p} p ^
置信区间 ：二项比例的置信区间构造是一个看似简单实则微妙的问题：
Wald 区间 ：p ^ ± z α / 2 p ^ ( 1 − p ^ ) / n \hat{p} \pm z_{\alpha/2} \sqrt{\hat{p}(1-\hat{p})/n} p ^ ± z α /2 p ^ ( 1 − p ^ ) / n p p p [ 0 , 1 ] [0, 1] [ 0 , 1 ] Wilson 得分区间 ：通过求解得分检验的反演获得，在绝大多数场景下覆盖概率优于 Wald 区间，且自动约束在 [ 0 , 1 ] [0,1] [ 0 , 1 ] Clopper--Pearson 精确区间 ：基于二项分布的精确分位数，保证覆盖概率至少为 1 − α 1-\alpha 1 − α Agresti--Coull 区间 ：在 Wald 区间的基础上添加两个伪观测（一个成功、一个失败），计算简单且小样本性能良好。贝叶斯推断与共轭先验
在贝叶斯统计 中，二项似然与 Beta 先验构成共轭对。取先验：
p ∼ B e t a ( α , β ) , π ( p ) ∝ p α − 1 ( 1 − p ) β − 1 p \sim \mathrm{Beta}(\alpha, \beta), \quad \pi(p) \propto p^{\alpha-1} (1-p)^{\beta-1} p ∼ Beta ( α , β ) , π ( p ) ∝ p α − 1 ( 1 − p ) β − 1 则在观测到 k k k n n n
p ∣ data ∼ B e t a ( α + k , β + n − k ) p \mid \text{data} \sim \mathrm{Beta}(\alpha + k, \ \beta + n - k) p ∣ data ∼ Beta ( α + k , β + n − k ) 后验均值：
E [ p ∣ data ] = α + k α + β + n \mathbb{E}[p \mid \text{data}] = \frac{\alpha + k}{\alpha + \beta + n} E [ p ∣ data ] = α + β + n α + k 这一公式优雅地揭示了贝叶斯推断的"折衷"本质：后验均值是先验均值 α α + β \frac{\alpha}{\alpha+\beta} α + β α k n \frac{k}{n} n k α + β \alpha+\beta α + β n n n n → ∞ n \to \infty n → ∞
无信息先验的常见选取包括：拉普拉斯 先验 B e t a ( 1 , 1 ) \mathrm{Beta}(1,1) Beta ( 1 , 1 ) Jeffreys 先验 B e t a ( 0.5 , 0.5 ) \mathrm{Beta}(0.5, 0.5) Beta ( 0.5 , 0.5 ) B e t a ( 0 , 0 ) \mathrm{Beta}(0, 0) Beta ( 0 , 0 ) k ≥ 1 k \ge 1 k ≥ 1 n − k ≥ 1 n-k \ge 1 n − k ≥ 1
条件分布与充分统计量
给定 n n n X = s X = s X = s X = X 1 + X 2 X = X_1 + X_2 X = X 1 + X 2 X 1 ∼ B i n o m i a l ( n 1 , p ) X_1 \sim \mathrm{Binomial}(n_1, p) X 1 ∼ Binomial ( n 1 , p ) X 2 ∼ B i n o m i a l ( n 2 , p ) X_2 \sim \mathrm{Binomial}(n_2, p) X 2 ∼ Binomial ( n 2 , p ) X 1 + X 2 = s X_1 + X_2 = s X 1 + X 2 = s
X 1 ∣ ( X 1 + X 2 = s ) ∼ H y p e r g e o m e t r i c ( N = n 1 + n 2 , K = s , n = n 1 ) X_1 \mid (X_1 + X_2 = s) \sim \mathrm{Hypergeometric}(N=n_1+n_2, K=s, n=n_1) X 1 ∣ ( X 1 + X 2 = s ) ∼ Hypergeometric ( N = n 1 + n 2 , K = s , n = n 1 ) 这一条件分布不依赖于 p p p X 1 + X 2 X_1 + X_2 X 1 + X 2 p p p 充分统计量 —— 它从样本中提取了关于 p p p Fisher精确检验 的理论基础：通过将两个二项样本的联合分布条件化于边缘和之上，可消去讨厌参数 p p p
应用场景
二项分布在统计学、自然科学和社会科学中无处不在：
A/B 测试与转化率优化 ：每个用户是否点击、注册或购买是一次伯努利试验，实验组与对照组的转化次数分别服从二项分布。双样本比例检验和样本量计算（功效分析）直接建立在二项模型之上。质量控制与抽样验收 ：从一批 N N N n n n N ≫ n N \gg n N ≫ n 统计过程控制 的核心任务。医学统计与临床试验 ：药物响应率、手术成功率、不良事件发生率均以二项模型估计。Simon 两阶段设计（用于 II 期临床试验）通过预设的二项分布拒绝边界，在控制功效的前提下最小化期望样本量。选举预测与民意调查 ：候选人支持率的估计、调查误差边际的计算（± 3 % \pm 3\% ± 3% 遗传学 ：孟德尔遗传定律中，杂交后代特定基因型的分离比（如 3:1 的显隐性比）可通过二项检验验证。Hardy--Weinberg 平衡的检验统计量也建立在多项/二项分布的基础上。机器学习 ：二元分类器的预测准确率评估（在固定测试集上，正确预测数服从二项分布），以及集成方法中的投票分类器 ——当各基分类器独立且准确率 p > 0.5 p > 0.5 p > 0.5 n n n 金融风险建模 ：信用风险 中的违约计数模型——假设 n n n 历史注记
二项分布的历史可追溯至 17 世纪末。雅各布·伯努利在其遗著《猜度术》（Ars Conjectandi ，1713 年出版）中不仅研究了单次伯努利试验的性质，更深刻洞察到独立重复试验的经验规律——即后世所称的伯努利大数定律 ：当试验次数趋于无穷时，成功频率依概率收敛于真实概率 p p p
1733 年，法国数学家棣莫弗 （Abraham de Moivre）在研究二项概率的近似计算时，发现了二项分布向正态曲线收敛的规律——这实际上是中心极限定理在数学史上最早的实例。棣莫弗在其 Approximatio ad Summam Terminorum Binomii 一文中，利用 Stirling 公式 对二项式系数 ( n k ) \binom{n}{k} ( k n ) 拉普拉斯 将这一结论严格化并推广为一般形式，从而奠定了正态近似在统计推断中的核心地位。
从伯努利的大数定律到棣莫弗的正态近似，再到皮尔逊的 χ 2 \chi^2 χ 2