Quali predittori tenere?

Best subsets prova ogni combinazione, stepwise aggiunge o rimuove una variabile per volta. Confronti R-quadro corretto: R-quadro grezzo non scende mai e non può dirle quando fermarsi.

Importante: la selezione automatica produce un'ipotesi, non una prova. Misurato: con dati puramente casuali e soglia del 5%, lo stepwise in avanti trovava almeno un predittore "significativo" nel 45% dei casi. Inoltre i p-value del modello fornito non sono più affidabili, perché gli stessi dati sono serviti a scegliere e a testare.