7- El Análisis de Varianza (ANAVA)

7.6- Regresión lineal simple en Excel

En La tabla inferior podemos observar la producción de arroz en toneladas por hectárea/año y el régimen de lluvias en la India referenciados en el paper de Sellam y Poovammal (2016). Como vimos en el gráfico presentado en la sección anterior, parece existir una relación lineal donde a mayor cantidad de lluvia, existe una disminución de la cosecha (relación inversa). Entonces, vamos a utilizar la herramienta Data Analysis de Excel para generar un modelo sencillo donde el predictor será el regimen de lluvias y la variable dependiente la producción de arroz.

Una vez que los datos están ubicados en una tabla simple como la que se muestra arriba, del menú datos, seleccionamos Data Analysis y la opción regresión y de ahí se desprende la siguiente hoja de diálogo:

El menú que se observa en el recuadro superior nos pide seleccionar el rango donde se encuentra la variable Y (dependiente), luego la variable X (predictiva), el nivel de Confianza (para este caso por defecto vamos a dejar el 95% o sea una significancia del 5%) y finalmente seleccionamos la ubicación para la generación del reporte. Hacemos click en OK para obtener un reporte con tres tablas como el que se observa a continuación:

La primera tabla del reporte de Excel (cuadro superior) nos muestra varios resultados. El valor que mas nos interesa aquí es el R². Como hemos visto anteriormente este valor mide hasta que nivel las variables utilizadas para predecir explican la variación en los resultados de la variable dependiente. En este caso el R² es de 0.61, entonces esto significa que el 61% de la variación se explica por el régimen de lluvias. Entre mas alto sea el valor de R² mejor será el ajuste del modelo. Una forma sencilla de comprobar un R² es que en el gráfico de dispersión los puntos están cercanos a la línea diagonal, o en otras palabras casi que los puntos arman la línea. Es lógico que la lluvia no explique toda la variabilidad en los resultados, sin embargo, como vemos lleva una parte alta en la responsabilidad. Parece que un exceso en el régimen de lluvias va a causar una disminución en la cosecha.
La segunda tabla corresponde al análisis de varianza. En esta parte es donde vamos a comprobar nuestra hipótesis nula (H₀), que para la regresión simple seria que la diagonal de la línea de mejor ajuste es igual a cero. Es decir, no hay ningún efecto de la variable independiente sobre la variable dependiente. De esta tabla debemos sobre todo fijarnos en el valor de F y su significancia. En este caso la significancia de F (0.0046) es inferior al nivel de significancia seleccionado (0.05) por tanto tenemos que rechazar la H₀ y aceptar la H₁, es decir el régimen de lluvias tiene una afectación sobre la producción anual de arroz/ha.
La tercera tabla del análisis de varianza nos presenta los coeficientes y errores estándar tanto del intercepto y del valor de X o sea la lluvia anual. Estos coeficientes son los que podremos utilizar para estimar los valores de Y reemplazandolos en la ecuación de la regresión simple. Es importante que cuando se haga predicción la realicemos dentro del rango de los valores de X hallados en los datos originales (interpolación). Predecir valores de Y fuera de este rango de valores observados (extrapolación) puede dar resultados inesperados pues no sabemos como se comportan los datos por fuera de del rango establecido ya que no necesariamente pueden seguir la tendencia lineal.

7.7- Regresión múltliple en Excel

Cuando estamos buscando medir el impacto de dos o mas variables independientes (X) sobre una variable dependiente (Y), una alternativa sería crear un modelo de regresión lineal simple para cada predictor, pero esto no sería acertado ya que no está claro como hacer una sola predicción para dos o mas variables y cada uno de los modelos simples estaría ignorando el efecto de las otras variables (Macdondald 2009). Como alternativa se utiliza un modelo similar al de la regresión lineal simple pero cada uno de los predictores tiene un coeficiente de inclinación diferente.
La regresión múltiple no es muy diferente de la regresión simple. Esta se utiliza cuando existe mas de un predictor o variable independiente (variable X). Generalmente este modelo es mucho mas común que la regresión simple. La diferencia está en que esta tiene mas elementos independientes (al menos dos) y a la vez es mas compleja de visualizar ya que no podríamos manejar el gráfico sobre un plano cartesiano sino al menos en un cubo tridimensional. Por tanto, visualizar el impacto de una variable sobre el resultado no es tan obvio ya que medimos el impacto de multiples variables independientes sobre una variable dependiente. Sin embargo, las herramientas de análisis nos permiten entender los resultados.

En la ecuación superior el valor de Y esta dado por 𝛃₀ que es el intercepto o el valor de Y cuando X vale 0 y los valores de 𝛃_n representan cada una de las constantes para las pendiente de los multiples valores de X_n cuando los demás predictores se mantienen fijos y 𝛆 es el error. Típicamente se asume que el error es independiente de X.

Entonces resumiendo el propósito de una regresión múltiple es encontrar una ecuación que prediga el valor mas ajustado de Y como una función lineal de múltiples variables X. La regresión múltiple puede ser utilizada bien para predicción o para entender las relaciones funcionales entre las variables dependientes e independientes, o sea para entender como se afecta la variable dependiente cuando se realizan cambios en los predictores. Como saber si el modelo tiene un buen ajuste de los datos? Por el R², el coeficiente de múltiple determinación.
Para ilustrar la regresión múltiple tomemos un ejemplo del curso de métodos estadísticos II de la Universidad de McGill (Cue, 2019). Para ello tenemos la información de un grupo de 50 vacas que fué alimentado con diferentes dietas utilizando diferentes niveles de alimentación (50 hasta 140 lb de henolaje) y con varias densidades de energía (0.8 hasta 1.6). El rendimiento de leche para la lactación medido en kgs se muestra en la siguiente tabla.

Una vez tenemos los datos en una tabla como se presenta en la parte superior, nos ubicamos en la herramienta Data Analysis de Excel y seleccionamos la opción regression o regresión y en la hoja de diálogo seguimos los mismos pasos que para la regresión simple, solo que para las variables independientes X, el rango no es de una sola columna sino dos o mas dependiendo del módelo, en este caso nuestras variables independientes son la cantidad de alimento y la densidad de la energía. Una vez que damos OK obtendremos el siguiente reporte:

El informe que presenta Excel esta dividido en tres tablas, En la primera nos presenta el valor de R² que para este caso es del 84%. También podemos conocer el valor del R Multiple este valor mide la cantidad de variación en la respuesta variable que puede ser explicada por las variables usadas para predecir el valor de Y. Cuando se incrementan las variables como resultado R ² siempre va a aumentar, teniendo presente que un predictor siempre va a explicar alguna proporción de la varianza. El R² ajustado se usa como un control contra el incremento de variables predictivas (independientes) y genera una penalidad para el numero de predictores en el modelo. Si existe mucha diferencia entre el R² ajustado y el R² significa que el modelo esta sobre ajustado (hay demasiadas variables).
La segunda tabla nos presenta el análisis de varianza como tal y como podemos ver en este caso la significancia de F es inferior a 0.0001 por tanto el modelo es estadisticamente significativo. Finalmente, la tercera tabla detalla los componentes del modelo. Los valores de P para ambos coponentes son inferiores a 0.0001 por lo tanto son estadisticamente significativos y podemos incluirlos en el modelo y recharzar la H₀ para ambas variables independientes, y aceptamos la H₁ pues con un 95% de confianza podemos decir que tanto la densidad de la energía como la ingesta de alimento tienen un efecto significativo sobre la producción de leche.

Regresión con multiples variables independientes

7.8- Regresión cuadrática en Excel

Típicamente la función que describe la regresión de X y Y es una regresión lineal, sin embargo, algunas veces el efecto no es lineal y es importante aplicar otros tipos de regresión. Una regresión común es la regresión cuadrática, esta se caracteriza porque la relación toma la forma de una curva semejante a una ∪ o ∩ (Howard).
En biología muchas relaciones no son completamente lineales y a menudo puede existir una relación curvilínea o cuadrática, con un intermedio que puede ser el óptimo dependiendo de si es un máximo o un mínimo lo que se desea. Por ejemplo ocurre en ganadería lechera ya que la mortalidad de los terneros y su relación con el peso al nacer tiene una relación curvilínea. Terneros con peso muy bajo tienen mayor riesgo de muerte mientras terneros con un peso promedio tienen baja probabilidad de muerte y terneros muy pesados de nuevo tienen mayor probabilidad de muerte. Entonces parece que existiría una relación cuadrática (Cue 2019).
La ecuación de la regresión con un elemento cuadrático se expresa asi:

Donde Y es la variable dependiente, µ es el intercepto, 𝛃₁ es el coeficiente de inclinación de la diagonal, X_i es la variable independiente, 𝛃₂ es el coeficiente de la variable X_i elevada al cuadrado, X² es el cuadrado de la variable independiente y 𝜀 representa el error.

Para este ejemplo vamos a seguir con los datos tomados de Cue (2019) donde un grupo de 50 vacas fue alimentado con dietas utilizando varios niveles de ingesta de alimento (50 hasta 140 lb de henolaje) con varias densidades de energía (0.8 hasta 1.6).
Cuando hacemos un gráfico de dispersión de los resultados de leche (Y) obtenidos por el valor cuadrático de la dieta podemos observar que a pesar de que hay una tendencia creciente en la producción, en cierto punto parece que hay una meseta y luego una cierta inflexión. Es por ello vamos a ensayar este valor cuadrático en el modelo incluyendo el efecto cuadrático de la ingesta de alimento.

Entonces para realizar la regresión en Excel, una vez que hemos incluido el elemento cuadrático, vamos a la sección datos y seleccionamos la herramienta , Data Analysis o Análisis de Datos,tal como lo hemos hecho anteriormente. Seleccionamos la opción Regresión y en la hoja de dialogo seleccionamos el Y (producción de leche), y las variables predictivas o X, este caso Densidad de Energia, Volumen de Dieta y el Factor Cuadrático. Ojo, siempre que incluyamos un valor cuadrático, es necesario incluir el valor original.

Damos OK y Excel nos genera el siguiente reporte:

La tabla superior nos presenta el R² del modelo es del 0.87 o en otras palabras las variables independientes determinan el valor de la variable independiente en un 87% lo cual es muy bueno y esto se confirma con el R² ajustado ya que estan muy cercanos el uno del otro. Vemos que este modelo ajusta mejor que el modelo de regresión múltiple sin el componente cuadrático ya que el valor R² para este modelo fuel del 84%. En la segunda tabla vemos que el modelo es significativo y en la tercera tabla cada uno de los elementos del modelo son tambien significativos incluido el efecto cuadrático de la dieta, por tanto, no podemos descartarlo del modelo. Cuando el valor cuadrático es significativo este es el que se considera significativo, sin embargo el valor simple no se debe eliminar del modelo, simplemente se asume como significativo el valor cuadrático. También en la tercera tabla podemos ver los coeficientes de variación para cada uno de los elementos del modelo con sus errores estándar.
En entonces para este modelo no podemos aceptar la H₀ y aceptamos la H₁ es decir, con un 95% de confianza podemos afirmar que existe un efecto cuadrático significativo de la ingesta de alimento sobre la producción de leche y existe un efecto significativo de la densidad de la energía en la dieta sobre la producción de leche.

7.9- Regresión con interacción de dos elementos independientes en Excel

Algunas veces la variable dependiente depende no solo de las variables independientes sino de la interacción entre las variables del modelo. Por ejemplo, si estamos evaluando la producción de leche y en nuestro modelo estamos incluyendo el efecto de la densidad de energia en la dieta y la ingesta del alimento (Cue, 2019), es posible que exista una interacción entre la densidad de la energía y la ingesta del alimento, por tanto debemos explorar incluir esta interacción en nuestro modelo. La ecuación entonces se representaría de la siguiente manera:

Donde Y es la variable dependiente, 𝝁 es el intercepto, 𝜷₁ es el coeficiente de inclinación de la variable independiente X₁, igual para β₂ X₂, 𝜷₃ es el coeficiente de la inclinación de la interacción entre X₁ y X₂ y 𝝐 representa el error.

Supongamos que queremos continuar con el ejemplo anterior y deseamos saber si existe interacción entre la cantidad de alimento ingerido y la densidad de la energía afectando la producción de leche. Entonces para capturar la interacción entre ingesta alimentaria y densidad de la energía, insertamos una variable independiente que llamaremos “interacción” como se observa en la tabla. La interacción simplemente es el producto de ingesta alimentaria y densidad de la energía para cada una de las observaciones. En la barra de operaciones se observa la fórmula de la multiplicación.

Una vez hemos hecho la interacción para cada observación, vamos a la herramienta “Data Analysis” de Excel y seleccionamos la opción Regresión tal como lo hemos visto anteriormente. Una vez que damos OK, podemos ver el reporte de Excel que se presenta a continuación:

Como vemos el reporte generado por Excel es similar al de todas las anteriores regresiones, por ello no vamos a entrar en detalle, solo vemos que el R²es inferior al modelo con el componente cuadrático visto en el módulo anterior , por tanto sabemos que este módelo seguramente no será el modelo a escoger. Al observar el análisis de varianza vemos que la interacción entre la Energía y la Dieta no son significativas (P-value = 0.43) por tanto debemos descartar la interacción, mientras que las demás variables si son significativas. En caso de que la interacción fuera significativa el efecto significativo a describir es la interacción y no los factores de esta así estos fueran significativos. Sin embargo las variables que constituyen la interacción deben mantenerse en el modelo.

7.10- Variables nominales y construcción de variables ficticias

Como hemos visto en los casos anteriores, en las regresiones lineales utilizamos variables continuas como variables independientes. De acuerdo con el efecto que tienen estos predictores pueden haber interacciones o efectos cuadraticos (tambien pueden haber efectos cúbicos pero no serán tratados aquí. Sin embargo, también es posible utilizar variables nominales en el análisis de regresión múltiple. Por ejemplo, variables nominales como el número de la lactancia en ganado vacuno o el número del partos en cerdas de cría. También dicótomas como el sexo en ganado de ceba que pueden jugar un importante papel en consumo de alimento o la ganancia de peso, por tanto no pueden ser excluidas. Estas variables siempre se deben tratar como como un código binario 0 y 1 y para ello se crean las variables ficticias (dummy variables).
Como el modelo solo acepta valores de 0 y 1, cuando tenemos variables con mas de una categoría debemos crear variables ficticas que representen las comparaciones entre los diferentes grupos (razas, región etc.). El grupo de variables ficticias son consideradas en el modelo de regresión simultáneamente como un conjunto de variables independientes. Suponga que queremos medir en una granja de cerdos los niveles en hormonas de la reproducción en las diferentes hembras que hay en la granja. Actualmente en la granja hay cerdas de las razas Pietrain, Landrace, Duroc y Poland-China. Esta variable tendría 4 categórias pero se construyen solo tres variables ficticias. Para considerar entonces raza como predictor en un modelo de regresión, se deben crear tres variables indicadoras (una menos que el total) para representar los cuatro diferentes grupos. Para crear el conjunto de variables, primero entonces hay que decidir un grupo referencia o categoría, es decir en este caso una raza que se comparara contra los otros grupos. Es por esto que se construye una una menos ya que si todas las demas variables independientes son 0, se entiende entonces que los individuos pertenecen a la categoria base. Las variables ficticias son creadas para los demás grupos y se codifica con 1 para los participantes que pertenecen a ese grupo y todos los demás son código 0. En el modelo de regresión múltiple, los coeficientes de regresión asociados con cada una de las variables “dummy” son interpretadas como la diferencia esperada entre la media esperada de ese grupo comparada con el grupo de referencia, cuando todos los otros predictores se mantienen constantes.
Para variables dicótomas como sexo bastaría crear una sola variable por ejemplo la variable “Hembra” entonces asignamos el valor 1 en caso de que sea hembra y 0 para macho. No es necesario crear la variable “Macho” pues ya sabemos que si es 0 en la variable “Hembra” es macho y entonces en el modelo estaríamos utilizando como grupo referencia la variable macho y comparando en cuanto difiere la hembra.
Ejemplo en Excel: Tenemos 1657 registros de vacas lecheras de un solo hato, y deseamos establecer cual es la diferencia entre lactancias de la 1ª a la 3ª, también tenemos el promedio logarítmico del recuento de células somáticas para cada lactación. Entonces queremos establecer un modelo donde se incluya la lactancia como variable ficticia donde el grupo base seria la 1ª lactación y crearíamos las variables dummy para la 2ª y 3ª lactancias. También incluiremos el efecto de las células somáticas para ver si tienen alguno valor predictivo sobre la producción de leche.