AIC و BIC: معیارهای مقایسهٔ مدل

معیارهای اطلاع AIC (آکائیکه) و BIC (بیزی) کیفیت مدل را می‌سنجند و برای پیشگیری از بیش‌برازش، پیچیدگی را جریمه می‌کنند.

• AIC/BIC کمتر ← مدل بهتر
• AIC = n·ln(RSS/n) + 2k    BIC = n·ln(RSS/n) + k·ln(n)
• BIC پارامترهای اضافی را بیش از AIC جریمه می‌کند
• BIC به انتخاب مدل‌های ساده‌تر گرایش دارد

قاعده کلیدی: AIC/BIC تنها برای مقایسه مدل‌ها روی همان مجموعه داده معنا دارد.