相互独立的统计量

相互独立的统计量 (Mutually Independent Statistics)

定义→两个统计量$T_1=T_1(X_1,\dots,X_n)$与$T_2=T_2(X_1,\dots,X_n)$称为相互独立→对任意Borel可测集$A,B\subseteq\mathbb{R}$满足$P(T_1\in A,T_2\in B)=P(T_1\in A)\cdot P(T_2\in B)$→联合分布函数等于边际分布函数之积。直说：知道$T_1$的取值不提供任何关于$T_2$的信息，反之亦然。此概念是数理统计推断理论的核心支柱→独立统计量允许分别处理均值推断与方差推断→构t检验、F检验、ANOVA等标准方法的逻辑基础。

核心定理

Fisher引理：正态样本均值与方差独立

若$X_1,\dots,X_n\stackrel{\text{i.i.d.}}{\sim}N(\mu,\sigma^2)$→则样本均值$\bar{X}=\frac{1}{n}\sum X_i$与样本方差$S^2=\frac{1}{n-1}\sum(X_i-\bar{X})^2$相互独立→且$\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}$。证：视$(X_1,\dots,X_n)$为$\mathbb{R}^n$随机向量→多元正态具有球对称性→$\bar{X}$位于常数向量$(1,1,\dots,1)$张成的一维子空间上的投影→$S^2$位于其$(n-1)$维正交补上的投影→球对称正态在正交子空间上的投影相互独立→证毕。此结论是正态分布独有的性质→对均匀分布或指数分布等非正态总体一般不成立。

Basu定理：完全充分统计量与辅助统计量独立

Basu定理→设$T$为关于参数$\theta$的完全充分统计量，$V$为辅助统计量（即$V$的分布不依赖于$\theta$）→则$T$与$V$相互独立。该定理将独立性从正态情形推广到任意指数族分布：若$T$完全充分，任何不依赖参数的统计量自动与$T$独立。应用：正态总体中$\bar{X}$是$\mu$的完全充分统计量→$S^2$的分布不依赖$\mu$→故$\bar{X}\perp\!\!\!\perp S^2$→Fisher引理是Basu定理的特例。同理：Gamma分布中充分统计量$\sum X_i$与形状辅助统计量$\prod X_i/\bar{X}^n$独立。

Cochran定理：正态二次型分解的独立性

令$X\sim N(0,\sigma^2 I_n)$→若二次型分解$X^TX=Q_1+Q_2+\cdots+Q_k$，各$Q_i$为非负定二次型且$\sum_{i=1}^k\text{rank}(Q_i)=n$→则$Q_1,\dots,Q_k$相互独立且$Q_i/\sigma^2\sim\chi^2(\text{rank}(Q_i))$。Cochran定理是方差分析平方和分解独立性的理论根基→总平方和SST=组间SSB+组内SSW→SSB与SSW独立且各服从适当自由度的卡方分布→构造F统计量$F=\frac{SSB/(k-1)}{SSW/(n-k)}$时分子分母独立→F分布推导合理。

统计推断中的应用

1. t检验：单样本t统计量$T=\frac{\bar{X}-\mu_0}{S/\sqrt{n}}$→分子$\frac{\bar{X}-\mu_0}{\sigma/\sqrt{n}}\sim N(0,1)$与分母涉及的$S^2$（经缩放后为$\chi^2$）独立→独立正态与独立卡方之比定义t分布→若$\bar{X}$与$S^2$不独立，t检验失去理论基础。
2. F检验与ANOVA：Cochran定理保证SSB与SSW独立→两独立卡方变量除以其自由度之比→F检验在回归分析中用于检验模型整体显著性、在ANOVA中用于比较多组均值。
3. 置信区间构建：均值与方差独立→可使用枢轴量法构建$\mu$的置信区间$\bar{X}\pm t_{\alpha/2,n-1}S/\sqrt{n}$→若两者不独立，枢轴量分布复杂化，区间估计失效。
4. 蒙特卡洛模拟：独立统计量可分别模拟→降维加速计算→例如Bootstrap方法中独立统计量的联合重抽样。
5. 多重比较：独立检验统计量可用于Bonferroni校正→独立性简化联合错误率的控制。

判别方法与反例

判别两个统计量是否独立：①验证联合分布是否可分解为边际分布之积；②利用Basu定理→若一方为完全充分统计量，另一方与参数无关→自动独立；③检验协方差是否为零→注意零协方差仅对联合正态等价于独立→一般情形协方差为零不保证独立。反例：$X\sim N(0,1)$→$T_1=X$与$T_2=X^2$→虽$\text{Cov}(T_1,T_2)=E[X^3]=0$但二者函数依赖→不独立→零协方差≠独立性。

总结：相互独立统计量是经典统计推断的基石→从Fisher引理到Basu定理再到Cochran定理，正态分布下的独立结构支撑了t检验、F检验和ANOVA等几乎所有标准推断工具。离开独立性假设，统计推断的方法论大厦将动摇。