AIC 与 BIC:模型比较准则
AIC(赤池)与 BIC(贝叶斯)信息准则用于衡量模型质量,并对复杂度施加惩罚以防过拟合。
- AIC/BIC 越小 → 模型越好
- AIC = n·ln(RSS/n) + 2k BIC = n·ln(RSS/n) + k·ln(n)
- BIC 对额外参数的惩罚比 AIC 更重
- BIC 倾向于选择更简单的模型
在应用中试试
试试看:增加一个 X 变量 → 重新运行回归 → 比较表格下方的新旧 AIC。数值下降说明该变量改善了模型。