Tema 5.1 - Árboles vs modelos lineales

Es importante realizar una comparación entre los árboles de decisión y los modelos lineales para ello deberemos seleccionar qué modelo es mejor. Depende de lo que se esté modelando. Si las relaciones entre las variables de entrada y la variable respuesta se pueden aproximar por un modelo lineal, una regresión lineal funciona bien y supera a un árbol de regresión. Esto se debe a que un árbol de regresión no es capaz de modelar esta estructura. Sin embargo, si la naturaleza del problema es no lineal y con relaciones complejas entre las variables, los árboles funcionan mejor. Esta situación se refleja en la siguiente figura:

En el ejemplo anterior, si los puntos se distribuyen como en la imagen superior una regresión lineal (imagen izquierda superior) proporciona el mejor ajuste, sin embargo, un modelo en árbol (imagen izquierda derecha) se comporta mal. En el caso de una separación no lineal está situación se invierte como se observa a continuación: