KNOWECON WIKI

ARTICLE

顺序统计量

顺序统计量 顺序统计量 (Order Statistics) 是将随机样本按大小排序后得到的一组统计量。设 X_1, X_2, , X_n 为来自某个分布的独立同分布（i.i.d.）样本，将其按非降次序排列为： 则 X_(k) 称为第 k 个顺序统计量。其中 X_(1) 为样本最小值，X_(n) 为样本最大值，而当 n 为奇数时 X_( n+12) 为样本中

浏览 0 更新 2026-06-20

顺序统计量

顺序统计量 (Order Statistics) 是将随机样本按大小排序后得到的一组统计量。设 X1,X2,…,XnX_1, X_2, \ldots, X_n 为来自某个分布的独立同分布（i.i.d.）样本，将其按非降次序排列为：

X(1)≤X(2)≤⋯≤X(n)X_{(1)} \leq X_{(2)} \leq \cdots \leq X_{(n)}

则 X(k)X_{(k)} 称为第 kk 个顺序统计量。其中 X(1)X_{(1)} 为样本最小值，X(n)X_{(n)} 为样本最大值，而当 nn 为奇数时 X(n+12)X_{(\frac{n+1}{2})} 为样本中位数。与原始样本不同，顺序统计量不再是独立的——它们被大小关系严格约束——但这种"被排序"的性质恰恰使其成为描述数据位置、散布和形状的理想工具。顺序统计量在非参数统计、稳健统计和极值理论中起着基础性作用，是构造分位数、箱线图（box plot）和次序检验的核心要素。

单个顺序统计量的分布

设总体有概率密度函数 f(x)f(x) 和累积分布函数 F(x)F(x)。第 kk 个顺序统计量 X(k)X_{(k)} 的概率密度函数为：

fX(k)(x)=n!(k−1)!(n−k)! [F(x)]k−1 [1−F(x)]n−k f(x)f_{X_{(k)}}(x) = \frac{n!}{(k-1)! (n-k)!} \, [F(x)]^{k-1} \, [1-F(x)]^{n-k} \, f(x)

该公式的直观解释如下：要使 X(k)X_{(k)} 落在 xx 附近，必须有 k−1k-1 个观测值严格小于 xx（每个概率为 F(x)F(x)），n−kn-k 个观测值严格大于 xx（每个概率为 1−F(x)1-F(x)），且恰好有一个观测值落在 xx 的无穷小区间内（密度贡献为 f(x)f(x)）。三项因子的组合数由多项系数 n!(k−1)!1!(n−k)!\frac{n!}{(k-1)!1!(n-k)!} 给出。特别地：

  • 样本最小值 X(1)X_{(1)}：其密度函数简化为 fX(1)(x)=n[1−F(x)]n−1f(x)f_{X_{(1)}}(x) = n [1 - F(x)]^{n-1} f(x)，对应的累积分布为 FX(1)(x)=1−[1−F(x)]nF_{X_{(1)}}(x) = 1 - [1 - F(x)]^n，表明随着样本量 nn 增大，最小值的分布越来越集中于总体下界。
  • 样本最大值 X(n)X_{(n)}：密度为 fX(n)(x)=n[F(x)]n−1f(x)f_{X_{(n)}}(x) = n [F(x)]^{n-1} f(x)，累积分布为 FX(n)(x)=[F(x)]nF_{X_{(n)}}(x) = [F(x)]^n，对称地反映出最大值向总体上界收缩的趋势。
  • 样本中位数：当 n=2m+1n = 2m+1 时，X(m+1)X_{(m+1)} 的密度由一般公式在 k=m+1k=m+1 处给出，其方差在大样本下约为 14f(ξ)2n\frac{1}{4 f(\xi)^2 n}，其中 ξ\xi 为总体中位数。

均匀分布与 Beta 分布的联系

当总体分布为标准均匀分布 U(0,1)U(0,1) 时，顺序统计量具有特别简洁的形式：X(k)∼Beta(k,n−k+1)X_{(k)} \sim \text{Beta}(k, n-k+1)，其期望为 E[X(k)]=kn+1\mathbb{E}[X_{(k)}] = \frac{k}{n+1}。这一事实构成了许多非参数检验的基础——例如Kolmogorov-Smirnov 检验中的概率积分变换即依赖于均匀顺序统计量的性质。更一般地，通过概率积分变换 Y(k)=F(X(k))Y_{(k)} = F(X_{(k)})，任意连续分布的顺序统计量均可映射为标准均匀分布的顺序统计量，从而可以利用 Beta 分布进行精确的小样本推断，而无需依赖渐近近似。这一技巧在构造容忍区间和预测区间时尤其有用。

联合分布与样本极差

所有 nn 个顺序统计量 X(1),…,X(n)X_{(1)}, \ldots, X_{(n)} 的联合概率密度函数为：

fX(1),…,X(n)(x1,…,xn)=n!∏i=1nf(xi),x1≤x2≤⋯≤xnf_{X_{(1)},\ldots,X_{(n)}}(x_1, \ldots, x_n) = n! \prod_{i=1}^{n} f(x_i), \quad x_1 \leq x_2 \leq \cdots \leq x_n

该形式揭示了顺序统计量的交换性本质：原样本的 n!n! 种等可能排列中，恰好有一种对应给定的次序，因此联合密度为原始联合密度乘以排列数。任意两个顺序统计量 X(r)X_{(r)} 和 X(s)X_{(s)}（r<sr < s）的联合密度为：

fX(r),X(s)(x,y)=n!(r−1)!(s−r−1)!(n−s)![F(x)]r−1[F(y)−F(x)]s−r−1[1−F(y)]n−sf(x)f(y)f_{X_{(r)}, X_{(s)}}(x, y) = \frac{n!}{(r-1)!(s-r-1)!(n-s)!} [F(x)]^{r-1} [F(y)-F(x)]^{s-r-1} [1-F(y)]^{n-s} f(x)f(y)

其中 x<yx < y。这一结果是推导样本极差 R=X(n)−X(1)R = X_{(n)} - X_{(1)} 分布的基础。样本极差是最简单的离散度度量，在统计过程控制（SPC）中用于构造 Xˉ\bar{X}-RR 控制图，监控生产过程的稳定性。在金融计量学中，极差还被用于估计波动率——Parkinson 估计量利用日内最高价与最低价的对数差来推断资产收益率的方差，比仅使用收盘价的估计量更有效率。

样本分位数与渐近性质

顺序统计量最自然的应用是构造样本分位数。设 p∈(0,1)p \in (0, 1)，令 k=⌈np⌉k = \lceil np \rceil，则第 pp 样本分位数通常取为 X(k)X_{(k)} 或相邻顺序统计量的加权插值——Hyndman-Fan 分类系统列举了九种常见的样本分位数定义（即 R 语言中 \texttt{quantile} 函数的 \texttt{type} 参数 1 至 9），每种在有限样本下的偏差和效率各有优劣。

样本分位数最重要的理论性质是其渐近正态性。对任意分位数 pp，设总体分布具有密度 ff 且在第 pp 总体分位数 ξp\xi_p 处 f(ξp)>0f(\xi_p) > 0，则第 pp 样本分位数 ξ^p\hat{\xi}_p 满足：

n(ξ^p−ξp)⟶dN ⁣(0,p(1−p)f(ξp)2)\sqrt{n} (\hat{\xi}_p - \xi_p) \overset{d}{\longrightarrow} N\!\left(0, \frac{p(1-p)}{f(\xi_p)^2}\right)

特别地，样本中位数（p=0.5p=0.5）的渐近方差为 14f(ξ)2n\frac{1}{4 f(\xi)^2 n}。与样本均值的方差 σ2n\frac{\sigma^2}{n} 相比，中位数的相对效率取决于总体分布：对于正态分布，中位数的渐近相对效率约为 2/π≈0.6372/\pi \approx 0.637，即中位数比均值约低 36\% 的效率；但对于厚尾的Laplace 分布，中位数的效率反而高于均值。这一对比为在稳健统计中选择位置参数估计量提供了关键的理论依据。

L 估计量与截尾均值

一类广泛使用的顺序统计量泛函是 L 估计量（L-estimators），即顺序统计量的线性组合：

θ^L=∑i=1ncniX(i)\hat{\theta}_L = \sum_{i=1}^{n} c_{ni} X_{(i)}

其中 cnic_{ni} 为依赖于样本量的权重系数。最重要的 L 估计量包括：

  • 样本均值：取 cni=1nc_{ni} = \frac{1}{n} 全体等权重，是 L 估计量的退化情形。
  • 截尾均值（Trimmed Mean）：剔除两端 α\alpha 比例的极端值后取平均，即 cni=1n(1−2α)c_{ni} = \frac{1}{n(1-2\alpha)} 对中间 n(1−2α)n(1-2\alpha) 个顺序统计量赋等权，其余赋零权。奥运会跳水评分中"去掉一个最高分和一个最低分"即是 5\% 截尾均值的直观应用。
  • Winsorized 均值：将两端极端值替换为相邻顺序统计量的值后再取平均，在保持样本量的同时降低极端值的影响。
  • Gini 平均差：基于所有成对顺序统计量之差的绝对值构造的离散度度量，是基尼系数的数学基础。

在政策评估和劳动经济学中，截尾均值常被用于衡量工资水平或收入分布的中心趋势，因为它对数据录入错误和异常高/低收入记录的敏感度远低于普通均值。

极值理论与尾部风险

在极值理论（Extreme Value Theory, EVT）中，样本最大值 X(n)X_{(n)} 的极限行为由Fisher-Tippett-Gnedenko 定理刻画：若存在标准化常数 an>0a_n > 0 和 bnb_n 使得 X(n)−bnan\frac{X_{(n)} - b_n}{a_n} 依分布收敛于非退化分布，则该极限必属于广义极值分布（GEV）族，根据尾部形状参数 ξ\xi 的符号分为三种类型：

  • Gumbel 型（ξ=0\xi = 0）：薄尾分布，如正态分布、指数分布。
  • Fréchet 型（ξ>0\xi > 0）：厚尾分布，如Pareto 分布、Student-t 分布。
  • Weibull 型（ξ<0\xi < 0）：有界支撑，如均匀分布、Beta 分布。

这一理论在金融风险管理中至关重要：在险价值（VaR）本质上就是损益分布的下侧分位数——一个顺序统计量——而期望短缺（ES）则是超出 VaR 的尾部均值。EVT 提供的广义 Pareto 分布（GPD）允许分析者超越样本最大观测值进行外推，估计"千年一遇"的极端损失规模。在巴塞尔协议的资本充足率框架中，银行内部模型必须证明其对尾部风险的充分覆盖，EVT 方法是监管认可的定量工具之一。

秩检验与非参数推断

顺序统计量最深远的影响或许体现在非参数统计领域。一旦将原始数据替换为秩 Ri=#{j:Xj≤Xi}R_i = \#\{j : X_j \leq X_i\}（即观测值在所有样本中的顺序统计量次序），所有基于秩的统计量便自动获得了对单调变换不变的性质——不受数据尺度或异常值影响。经典的秩检验体系包括：

  • Wilcoxon 秩和检验（Mann-Whitney UU 检验）：基于两组样本的混合秩比较位置差异，在实验经济学和随机对照试验中广泛用于处理违背正态性假设的小样本数据。
  • Kruskal-Wallis 检验：单因素方差分析的秩推广，用于比较多个独立样本。
  • Spearman 秩相关系数：基于秩的相关系数，衡量变量间单调关联的方向和强度。

秩方法的根本优势在于其"分布自由"（distribution-free）性质：在原假设下，秩的任何特定排列出现的概率为 1n!\frac{1}{n!}，不依赖数据生成分布的具体形式。这一性质在计量经济学的随机化推断（randomization inference）框架中扮演着核心角色，使研究者能够在最小假设下进行严格小样本统计推断。