Modelos de árvore — limiares e interações
A regressão responde a uma só pergunta: quanto a resposta se move por unidade de entrada. Dois padrões muito comuns no chão de fábrica escapam-lhe — um efeito que só começa acima de um limiar (tudo bem até 700 °C, ruinoso acima) e um efeito que só aparece quando duas entradas estão altas ao mesmo tempo.
Uma árvore procura pontos de corte, por isso encontra ambos. Uma única árvore é legível mas decora os seus dados; uma floresta aleatória faz a média de centenas de árvores e generaliza muito melhor, à custa de não ser desenhável.
Aqui a importância é medida por permutação em linhas que o modelo nunca viu: baralha-se uma variável e observa-se quanto a pontuação cai. Assim evita-se o viés da importância por impureza, que favorece colunas com muitos valores distintos. Ainda assim, importância não é causalidade: duas cópias da mesma medida dividem o mérito e podem ambas parecer irrelevantes.
Uma árvore procura pontos de corte, por isso encontra ambos. Uma única árvore é legível mas decora os seus dados; uma floresta aleatória faz a média de centenas de árvores e generaliza muito melhor, à custa de não ser desenhável.
Aqui a importância é medida por permutação em linhas que o modelo nunca viu: baralha-se uma variável e observa-se quanto a pontuação cai. Assim evita-se o viés da importância por impureza, que favorece colunas com muitos valores distintos. Ainda assim, importância não é causalidade: duas cópias da mesma medida dividem o mérito e podem ambas parecer irrelevantes.
Experimente na aplicação
Experimente: separador Modelos de árvore → Carregar exemplo → Ajustar modelo. Compare a pontuação fora da amostra com a de treino e depois mude para «árvore única» para ler os cortes.