估计量的无偏性检验与修正
无偏性是评价估计量最基本性质之一:若E(θ^)=θ→θ^是θ的无偏估计量。含义:反复从同总体抽无数同容量样本→所有估计值平均等于真值(非单个样本必等于总体参数,但长期无系统性偏)。偏误Bias(θ^)=E(θ^)−θ:>0正偏/向上(平均高估);<0负偏/向下(平均低估)。
检验实例
检验非实验假设检验→数学严格推导期望值。
案例一:样本均值 Xˉ=(1/n)∑Xi。E(Xˉ)=E((1/n)∑Xi)=(1/n)∑E(Xi)=(1/n)nμ=μ→Xˉ是μ无偏估计。
案例二:样本方差 Sn2=(1/n)∑(Xi−Xˉ)2。变换:∑(Xi−Xˉ)2=∑(Xi−μ)2−n(Xˉ−μ)2。求期望:E[∑(Xi−Xˉ)2]=nσ2−n(σ2/n)=(n−1)σ2。E(Sn2)=(1/n)(n−1)σ2=nn−1σ2=σ2→有偏(负偏→系统低估方差,偏误=−σ2/n)。但n→∞时偏误→0→渐近无偏。
贝塞尔校正
已知偏误形式→可修正:E(Sn2)=nn−1σ2→令S2=c⋅Sn2→E(S2)=c⋅nn−1σ2=σ2→c=n/(n−1)。得无偏样本方差S2=(1/(n−1))∑(Xi−Xˉ)2。分母n变n-1即贝塞尔校正→自由度n-1(n个离差中因和为0仅n-1个自由变化)。
无偏性不是唯一标准:MSE与权衡
均方误差MSE MSE(θ^)=E[(θ^−θ)2]=Var(θ^)+[Bias(θ^)]2(方差+偏误平方)。揭示:好估计量需偏误小且波动(方差)小。偏误-方差权衡:降低偏误→可能增方差(反之)→目标最小化MSE→非单纯零偏误。例:正态下Sn2方差<S2方差→牺牲小偏误换更小方差→可能更低MSE。最小MSE方差估计量=(1/(n+1))∑(Xi−Xˉ)2(有偏)。
其他重要性质:一致性(n→∞→收敛于真值);效率(所有无偏中方差最小者最有效);充分性(含样本全部参数信息)。