AIC

赤池信息量准则 (AIC)

AIC→1973赤池弘次→评统计模型质→模型选择最用工→衡拟合优度与复杂度→基信息论→奥卡姆剃刀（解力当→简优复）。AIC=$2k-2\ln(\hat{L})$→k=参数量→$\hat{L}$=最大似然函数值。奖-$2\ln(\hat{L})$→拟合越好→似然越大→此越负→降AIC。惩$2k$→参数增→升AIC。则：AIC最小者首选→即拟合与复最优平衡。

理论与修正

理基：AIC为Kullback-Leibler散度渐近无偏估→最小AIC=最小预期信息损失。欠拟合(过简k少)→$\hat{L}$低→$-2\ln\hat{L}$大→AIC高。过拟合(过复k多)→记噪声→$\hat{L}$极高→-项小→但$2k$大→AIC推高→AIC在两间寻最佳点。

AICc小样修正：当n/k<40→原AIC倾选过多参→修$AICc=AIC+2k(k+1)/(n-k-1)$→n→∞时→修项→0→AICc→AIC→建常优先用AICc。

vsBIC：BIC=$k\ln(n)-2\ln(\hat{L})$→惩$k\ln(n)$→n>$e^2$时→BIC惩严于AIC。AIC倾复(预任好→假真模无穷维)→BIC倾简(基于贝叶斯→含真模→n→∞概1选真→一致性)。

注与口诀

注：①相对→绝数无义→只较差(100 vs 120)。②同数→必基同组→删观/变因变→标度变→不直较。③不检拟度→选"最优"仅候不最差→若全差→仍选差→仍需残差分析等诊断。

口诀：拟要好(L大)、参要少(k小)→二者权衡→AIC最小最好。核→AIC=连极大似然与简性→供标准客观策→用于统模/ARMA定阶/机器学习特选。