Modèles d'arbre — seuils et interactions
La régression répond à une seule question : de combien la réponse varie-t-elle par unité d'entrée ? Deux schémas très courants en atelier lui échappent — un effet qui ne démarre qu'au-dessus d'un seuil (sans souci jusqu'à 700 °C, désastreux au-delà) et un effet qui n'apparaît que lorsque deux entrées sont élevées ensemble.
Un arbre cherche des points de coupure et trouve donc les deux. Un arbre seul est lisible mais apprend ses données par cœur ; une forêt aléatoire moyenne des centaines d'arbres et généralise bien mieux, au prix de ne pas être traçable.
L'importance est mesurée ici par permutation sur des lignes jamais vues : on mélange une variable et on regarde de combien le score chute. Cela évite le biais de l'importance fondée sur l'impureté, qui flatte les colonnes à nombreuses valeurs distinctes. L'importance n'est pas pour autant de la causalité : deux copies d'une même mesure se partagent le mérite et peuvent toutes deux sembler négligeables.
Un arbre cherche des points de coupure et trouve donc les deux. Un arbre seul est lisible mais apprend ses données par cœur ; une forêt aléatoire moyenne des centaines d'arbres et généralise bien mieux, au prix de ne pas être traçable.
L'importance est mesurée ici par permutation sur des lignes jamais vues : on mélange une variable et on regarde de combien le score chute. Cela évite le biais de l'importance fondée sur l'impureté, qui flatte les colonnes à nombreuses valeurs distinctes. L'importance n'est pas pour autant de la causalité : deux copies d'une même mesure se partagent le mérite et peuvent toutes deux sembler négligeables.
Essayer dans l'application
Essayez : onglet Modèles d'arbre → Charger l'exemple → Ajuster le modèle. Comparez le score hors échantillon à celui d'apprentissage, puis passez en « arbre unique » pour lire les coupures.