方差分析 (ANOVA)
方差分析由罗纳德·费雪提出,核心为检验三组及以上均值是否存在显著差异。将总变异分解为组间和组内两部分:SST=SSB+SSW。
核心公式
SST=i∑j∑(yij−yˉ)2,SSB=∑ni(yˉi−yˉ)2,SSW=i∑j∑(yij−yˉi)2
组间均方 MSB=SSB/(k−1),组内均方 MSW=SSW/(N−k)。检验统计量 F=MSB/MSW(服从 F(k−1,N−k))。
H0:μ1=⋯=μk vs Ha:至少两个不等。若H0真则F≈1,若真则F>>1。决策:p值<α(0.05)或F>临界值则拒H0。
假设与事后检验
三假设:独立性(观测值相互独立)、正态性(残差正态分布,大样本下因中心极限定理稳健)、方差齐性(各组方差齐,Levene检验/Bartlett检验验证;不齐可进行变换或用Welch's ANOVA)。
ANOVA显著后需事后检验确定具体哪些组有差异:Tukey's HSD(等样本推荐)、Bonferroni校正(保守)、Scheffé's方法(灵活但保守)。避免直接多次t检验导致的多重比较/第一类错误膨胀问题。
扩展类型
双因素方差分析(同时分析两因子的主效应和交互效应)、重复测量方差分析(同对象多时间点测量)、多元方差分析(MANOVA)(多因变量时检验均值向量)。当k=2时ANOVA等价于独立样本t检验(F=t2,p值相同)。