5 ANÁLISIS EXPLORATORIO DE DATOS 5 39 Relaciones entre variables. 5.1 Ejercicios. Ejercicio 5.1 En una muestra de 1500 individuos se recogen datos sobre dos medidas antropométricas X e Y . Los resultados que se obtienen son x = 14, y = 100, sx = 2, sy = 25, sxy = 45. Obtener el modelo de regresión lineal que mejor aproxima Y en función de X. Utilizando este modelo calcular de modo aproximado la cantidad Y esperada cuando X = 15. Respuesta: Buscamos la recta Ŷ = a + b X que mejor aproxima los valores de Y , según el criterio de los mı́nimos cuadrados, en la nube de puntos que resulta de representar en un plano (X, Y ) las 1500 observaciones. Los coeficientes de esta recta son: 45 sxy = 11.25, b= 2 = sx 4 a = y − b x = 100 − (11.25)(14) = −57.5. Ası́, el modelo lineal es: Ŷ = −57.5 + 11.25 X. Por tanto, si x = 15, el modelo lineal predice un valor de Y de ŷ = −57.5 + 11.25(15) = 111.25. En este punto hay que preguntarse cómo de fiable es esta predicción. Para dar una respuesta necesitamos estudiar las propiedades de la regresión lineal. Ejercicio 5.2 De una muestra de 8 observaciones conjuntas de valores de dos variables X e Y se obtiene la siguiente información: xi = 24, xi yi = 64, yi = 40, s2y = 12, s2x = 6. a) Obtener la recta de regresión de Y sobre X. Explicar el significado de los parámetros. b) Calcular el coeficiente de determinación. Comentar el resultado e indicar el porcentaje de variación de Y que no está explicado por el modelo de regresión lineal. c) Si el modelo es adecuado, ¿cuál es la predicción para un valor de x = 4? d) Obtener la recta de regresión de X sobre Y . Respuestas: a) Buscamos la recta Ŷ = a + b X: xy − x y 64/8 − (24/8)(40/8) sXY = −1.167, = b= 2 = sX s2X 6 24 4 − (−1.167) = 8.5. 8 8 el parámetro b es el pendiente de la recta de regresión y mide la variación de Y cuando X aumenta una unidad. Puesto que b < 0 esto significa que a medida que X aumenta la variable Y tiende a disminuir, es decir, existe una relación inversa entre X e Y . El parámetro a es el valor de la ordenada en el origen, es decir, el punto en que la recta cruza el eje vertical. La recta de regresión es a = y − bx = Ŷ = 8.5 − 1.167 X. 5 ANÁLISIS EXPLORATORIO DE DATOS 40 b) Puesto que se trata de un modelo lineal, el coeficiente de determinación coincide con el coeficiente de correlación lineal de Pearson al cuadrado: 2 2 sXY −7 2 = = = 0.68, R2 = rXY sX sY 6 · 12 esto significa que el modelo de regresión lineal explica el 68% de la variabilidad de Y en función de la de X. Por tanto, queda un 32% de variabilidad no explicada. c) La predicción que realiza este modelo es ŷ = 8.5 − 1.167(4) = 3.83, que hay que considerar con ciertas reservas, puesto que el modelo explica solamente un 68% de la variabilidad total. d) Buscamos la recta X̂ = ã + b̃ Y : b̃ = −7 sXY = −0.583, = s2Y 12 40 24 − (−0.583) = 5.915, 8 8 por tanto, el modelo es X̂ = 5.915 − 0.583 Y . Observemos que los valores que se obtienen para la pendiente de la recta y para el término independiente no coinciden en absoluto con los que se obtendrı́an despejando de la ecuación Ŷ = 8.5 − 1.167 X, que serı́an X = 7.284 − 0.857 Ŷ y resulta del todo incorrecto utilizar esta última ecuación para predecir X en función de Y . ã = x − b̃ y = Ejercicio 5.3 La tabla siguiente contiene la edad X y la máxima de la presión sanguı́nea Y de un grupo de 10 mujeres: Edad Presión 56 14.8 42 12.6 72 15.9 36 11.8 63 14.9 47 13.0 55 15.1 49 14.2 38 11.4 42 14.1 a) Calculad el coeficiente de correlación lineal entre las variables y decid qué indica. b) Determinad la recta de regresión de Y sobre X, justificando la adecuación de un modelo lineal. Interpretad los coeficientes. c) Valorad la bondad del modelo. d) Haced las predicciones siguientes, sólo cuando creáis que tengan sentido: d.1) Presión sanguı́nea de una mujer de 51 años. d.2) Presión sanguı́nea de una niña de 10 años. d.3) Presión sanguı́nea de una hombre de 54 años. Respuestas: Construimos la tabla auxiliar para realizar los cálculos de los apartados a) y b): xi 56 42 72 36 63 47 55 49 38 42 500 yi 14.8 12.6 15.9 11.8 14.9 13 15.1 14.2 11.4 14.1 137.8 x2i 3136 1764 5184 1296 3969 2209 3025 2401 1444 1764 26192 yi2 219.04 158.76 252.81 139.24 222.01 169 228.01 201.64 129.96 198.81 1919.28 xi yi 828.8 529.2 1144.8 424.8 938.7 611 830.5 695.8 433.2 592.2 7029 5 ANÁLISIS EXPLORATORIO DE DATOS Las medias son: 500 = 50, 10 las varianzas y covarianza son: x= s2X = x2 − x2 = y= 41 137.8 = 13.78, 10 26192 − 502 = 119.2, 10 1919.28 − 13.782 = 2.04, 10 7029 − 50 · 13.78 = 13.9 sXY = xy − x y = 10 y el coeficiente de correlación lineal es s2Y = y 2 − y 2 = rXY = 5 ANÁLISIS EXPLORATORIO DE DATOS Ejercicio 5.5 Dada la siguiente distribución bidimensional encontrar el modelo de regresión (lineal o parabólico) que mejor se ajuste a la nube de puntos. xi yi b= sXY 13.9 = 0.12, = s2X 119.2 1 13 1 15 2 18 3 19 4 21 5 16 5 20 6 14 Respuesta: Si realizamos un gráfico de dispersión, a primera vista puede apreciarse que el modelo lineal va a tener un peor ajuste que el modelo parabólico (véase la figura 1). Figure 1: Gráfico de dispersión con los datos del ejercicio 5.5 sXY 13.9 = 0.89, =√ sx sY 119.2 · 2.04 que indica una dependencia lineal moderada y directa entre X e Y . Cuanto mayor es X mayor tiende a ser Y . La recta de regresión de Y sobre X es Ŷ = a + b X, cuyos coeficientes son: 42 22 17.6 yi 13.2 8.8 a = y − b x = 137.78 − 0.12 · 50 = 7.95. 4.4 El coeficiente a es la intersección con el eje de ordenadas, mientras que b es la pendiente de la recta de regresión. c) El ajuste del modelo se mide mediante el coeficiente de determinación R2 , que en el 2 . Entonces, R2 = 0.892 = 0.79, que indica que caso del modelo lineal coincide con rXY un 79% de la variabilidad de Y viene explicada por el modelo de la recta de regresión, mientras que queda sin explicar un 21% de la variabilidad. d) Sólo tiene sentido realizar la predicción del apartado (d1). Para un valor de x = 51 el modelo predice un valor de y = 7.95 + 0.12 · 51 = 13.90. Ejercicio 5.4 Se ha llevado a cabo un ajuste lineal a una nube de puntos formada por observaciones de dos variables X e Y y se ha obtenido un coeficiente de determinación de 0.03. Discutid si las siguientes afirmaciones son ciertas y por qué: a) b) c) d) e) f) El coeficiente de correlación lineal entre X e Y valdrá 0.173. La covarianza entre X e Y puede ser negativa. Las variables X e Y son casi independientes. El coeficiente de determinación entre −X e Y valdrá -0.03. El coeficiente de determinación entre −X y −Y valdrá 0.03. Sólo el 3% de la variabilidad total de Y queda sin explicar en el modelo. Respuestas: a) b) c) d) e) f) √ √ Falso, rXY = ± R2 = ± 0.03 = ±0.173. Cierto. Falso, pues la relación entre X e Y puede ser no lineal. Falso, R2 nunca puede ser negativo. En este caso R2 = 0.03. Cierto. Falso, el modelo sólo explica un 3% de la variablidad de Y , por tanto, queda por explicar un 97%. 0 1 2 3 4 5 6 7 xi Empezamos ajustando el modelo más sencillo, que es el lineal. Es decir, proponemos el modelo Ŷ = a+b X, para cuyo cálculo utilizaremos las 5 primeras columnas de la siguiente tabla: xi 1 1 2 3 4 5 5 6 27 yi 13 15 18 19 21 16 20 14 136 xi yi 13 15 36 57 84 80 100 84 469 x2i 1 1 4 9 16 25 25 36 117 yi2 169 225 324 361 441 256 400 196 2372 ŷi 16.0821 16.0821 16.4686 16.8551 17.2415 17.6280 17.6280 18.0145 136 ei -3.0821 -1.0821 1.5314 2.1449 3.7585 -1.6280 2.3720 -4.0145 0 e2i 9.499 1.171 2.345 4.601 14.126 2.650 5.626 16.116 56.135 Para el cálculo de a y b necesitamos las medias y covarianza de X e Y y la varianza de X: 27 136 = 3.375, y = = 17, x= 8 8 469 − (3.375)(17) = 1.25, sXY = x y − x y = 8 117 2 2 2 − 3.3752 = 3.234, sX = x − x = 8 por tanto, sXY 1.25 b= 2 = = 0.386, sX 3.234 5 ANÁLISIS EXPLORATORIO DE DATOS 43 5 ANÁLISIS EXPLORATORIO DE DATOS a = y − b x = 17 − (0.386)(3.375) = 15.696, donde s2e es la varianza de los residuos y s2Y es la varianza de Y , que se obtienen utilizando las columnas 8 y 5 de la tabla anterior, respectivamente: sXY 1.25 = 0.2538, = sX sY (3.234)(7.5) 2 rXY = 0.06441. Puesto que el modelo lineal tiene muy mal ajuste, proponemos el modelo de regresión parabólico Ŷ = a + b X + c X 2 , para cuyo cálculo utilizaremos las 8 primeras columnas de la siguiente tabla: yi 13 15 18 19 21 16 20 14 136 xi yi 13 15 36 57 84 80 100 84 469 x2i yi 13 15 72 171 336 400 500 504 2011 x2i 1 1 4 9 16 25 25 36 117 yi2 169 225 324 361 441 256 400 196 2372 x3i 1 1 8 27 64 125 125 216 567 x4i 1 1 16 81 256 625 625 1296 2901 ŷi 13.925 13.925 17.935 19.961 20.003 18.059 18.059 14.132 136 ei -0.925 1.075 0.065 -0.961 0.997 -2.059 1.941 -0.132 0 Las fórmulas que nos permiten obtener los parámetros a, b y c son: b = c = sXY s2X 2 − sX 2 Y sXX 2 , s2X s2X 2 − s2XX 2 s2X sX 2 Y − sXX 2 sXY , s2X s2X 2 − s2XX 2 a = y − b x − c x2 . Vamos a calcular las medias, covarianzas y varianzas que nos faltan: x2 = sXX 2 = x x2 − x x2 = 117 = 14.625, 8 567 − 3.375 · 14.625 = 21.5156, 8 e2i 0.856 1.155 0.004 0.924 0.995 4.241 3.766 0.017 11.959 2 y substituyendo, obtenemos: b = 6.987, c = −0.992, a = 7.930. Por tanto, el modelo propuesto es Y = 7.930 + 6.987 X − 0.992 X 2 . La columna 9 de la tabla anterior contiene los valores ajustados según este modelo, ŷi , y la columna 10 contiene los residuos ei = yi − ŷi . Para estudiar la bondad de ajuste calculamos el coeficiente de determinación: R2 = 1 − 2372 − 172 = 7.5, 8 de manera que R2 = 1 − 7.017/7.5 = 0.06441. Es decir que solamente el 6% de la variabilidad de los datos queda explicada por el modelo. Puesto que se trata de un modelo lineal, el valor de R2 coincide con el cuadrado del 2 . Por tanto, en este caso, coeficiente de correlación lineal de Pearson, es decir, rXY podrı́amos habernos ahorrado el cálculo de R2 . xi 1 1 2 3 4 5 5 6 27 s2X 2 = x4 − x2 56.135 − 0 = 7.017, 8 s2Y = y 2 − y 2 = rXY = 2011 − 14.625 · 17 = 2.75, 8 2901 − 14.6252 = 148.734, = 8 sX 2 Y = x2 y − x2 y = de manera que el modelo propuesto es Y = 15.696 + 0.386 X. La columna 6 de la tabla anterior contiene los valores ajustados según este modelo, ŷi , y la columna 7 contiene los residuos ei = yi − ŷi (observad que tienen media cero). La forma general de estudiar la bondad de ajuste de un modelo es mediante el coeficiente de determinación R2 : s2 R2 = 1 − 2e , sY s2e = e2 − e2 = 44 s2e 11.959/8 = 0.8007. =1− s2Y 7.5 Este resultado nos dice que el 80% de la variabilidad de los datos está explicada por el modelo de regresión parabólica. Observad que en este caso es del todo incorrecto utilizar 2 como medida de bondad de ajuste del modelo. rXY Ejercicio 5.6 Los datos siguientes forman parte de un anuncio publicado por un joyero de Singapur en el periódico Straits Times el 29 de febrero de 1992. Estos datos hacen referencia al precio (en dólares de Singapur) de anillos que llevan un diamante. El tamaño de un diamante, que se indica en quilates (1 quilate=200 mg). tamaño precio tamaño precio 0.17 355 0.16 345 0.16 328 0.17 352 0.17 350 0.16 332 0.25 675 0.17 353 0.16 342 0.18 438 0.15 322 0.23 595 0.21 483 0.23 553 0.15 323 0.12 223 Ajustad un modelo lineal a estos datos y decidid si el ajuste obtenido es bueno. Comprobad si se cumplen para los residuos las suposiciones de independencia y de varianza constante. Respuesta: Entre las dos variables, “tamaño” y “precio”, es el tamaño de un diamante el que determina el precio del anillo. Por tanto, escogemos X =“tamaño” como variable independiente y Y =“precio” como variable dependiente. Realizamos un diagrama de dispersión para ver si puede utilizarse la regresión lineal. El gráfico obtenido (véase la figura 2) indica que el modelo lineal es adecuado para representar la relación entre X e Y . Construimos la tabla auxiliar para realizar los cálculos: xi 0.17 0.16 0.17 0.25 0.16 0.15 0.21 0.15 0.16 0.17 0.16 0.17 0.18 0.23 0.23 0.12 2.84 yi 355 328 350 675 342 322 483 323 345 352 332 353 438 595 553 223 6369 x2i 0.0289 0.0256 0.0289 0.0625 0.0256 0.0225 0.0441 0.0225 0.0256 0.0289 0.0256 0.0289 0.0324 0.0529 0.0529 0.0144 0.5222 yi2 126025 107584 122500 455625 116964 103684 233289 104329 119025 123904 110224 124609 191844 354025 305809 49729 2749169 xi yi 60.35 52.48 59.50 168.75 54.72 48.30 101.43 48.45 55.20 59.84 53.12 60.01 78.84 136.85 127.19 26.76 1191.79 5 ANÁLISIS EXPLORATORIO DE DATOS 45 5 ANÁLISIS EXPLORATORIO DE DATOS xi 0.17 0.16 0.17 0.25 0.16 0.15 0.21 0.15 0.16 0.17 0.16 0.17 0.18 0.23 0.23 0.12 Figure 2: Gráfico de dispersión con los datos del ejercicio 5.6 473 439 yi 405 372 338 0 0.17 0.22 0.27 0.32 0.37 2.84 = 0.1775, 16 las varianzas y covarianza son: x= s2X = x2 − x2 = y= 6369 = 398.0625, 16 ei -16.9435 -9.1180 -21.9435 24.4525 4.8820 19.7075 -28.2455 20.7075 7.8820 -19.9435 -5.1180 -18.9435 31.2310 14.1035 -27.8965 25.1840 Figure 3: Gráfico de residuos de los datos del ejercicio 5.6 0.5222 − 0.17752 = 0.0011, 16 2749169 − 398.06252 = 13369.3086, 16 1191.79 − 0.1775 · 398.0625 = 3.8308. = xy − x y = 16 s2Y = y 2 − y 2 = sXY ŷi 371.9435 337.1180 371.9435 650.5475 337.1180 302.2925 511.2455 302.2925 337.1180 371.9435 337.1180 371.9435 406.7690 580.8965 580.8965 197.8160 Posteriormente se construye un diagrama de dispersión de los pares (xi , ei ), i = 1, . . . , 16. Este diagrama ( véase la figura 3) permite concluir que los residuos no presentan ninguna regularidad evidente y que la amplitud de la dispersión de los residuos es más o menos constante a lo largo del eje X. Por tanto, se puede considerar que los residuos en el modelo lineal son independientes y de varianza constante. xi Las medias son: yi 355 328 350 675 342 322 483 323 345 352 332 353 438 595 553 223 46 31.23 19.34 La recta de regresión de Y sobre X es Ŷ = a + b X, cuyos coeficientes son: ei 7.44 sXY 3.8308 = 3482.55, b= 2 = sX 0.0011 -4.45 a = y − b x = 398.0625 − 3482.55 · 0.1775 = −220.09, por tanto, el modelo ajustado es Y = −220.09 + 3482.55 X. El coeficiente de correlación lineal es sXY 3.8308 = 0.9989, rXY = =√ sx sY 0.0011 · 13369.3086 -16.35 0 0.17 0.22 que indica una dependencia lineal muy fuerte y directa entre X e Y . El valor de R = 2 = 0.9978 indica que el ajuste es muy bueno, puesto que el modelo lineal explica el rXY 99.78% de la variabilidad de Y . Para comprobar las suposiciones de independecia de los residuos y de varianza constante, hay que calcular para cada valor xi de la variable X la predicción ŷi = a + b xi y el correspondiente residuo ei = yi − ŷi . 0.27 0.32 0.37 xi 2 Ejercicio 5.7 Las ecuaciones siguientes 5 4 Ŷ = − X − , 3 3 1 1 X̂ = − Y − , 2 2 representan las rectas de regresión lineal de una distribución estadı́stica bivariante. Hallad los coeficientes de determinación y de correlación entre las variables X e Y . Respuesta: Si llamamos b a la pendiente de la recta de regresión de Y sobre X y b̃ a la 5 ANÁLISIS EXPLORATORIO DE DATOS 47 pendiente de la recta de regresión de X sobre Y , entonces: b=− sXY 5 = 2 , 3 sX b̃ = − 5 ANÁLISIS EXPLORATORIO DE DATOS Por tanto, si la dependencia entre X e Y es directa: sXY 1 = 2 . 2 sY b= 24 , 5 a = y − bx = 8 − 24 5 Por otro lado, puesto que se trata de un modelo lineal, sabemos que existe la siguiente relación entre el coeficiente de determinación y el coeficiente de correlación lineal: 2 sXY 5 1 5 2 = = b b̃ = − R2 = rXY − = = 0.83. sX sY 3 2 6 de manera que el modelo es Ŷ = −16 + la dependencia entre X e Y es inversa: Para calcular el coeficiente de correlación lineal hay que tener en cuenta que la pendiente de la recta de regresión es negativa, √ √ rXY = − R2 = − 0.83 = −0.91. de manera que el modelo ahora es Ŷ = 32 − Ejercicio 5.8 Dos distribuciones estadı́sticas tienen como rectas de regresión de Y sobre X, respectivamente, 3 5 1 Ŷ = + X, Ŷ = 2 + X, 3 4 5 ¿Puede asegurarse que la segunda distribución tiene un coeficiente de determinación mayor que la primera? Respuesta: No. El hecho que la pendiente de la segunda recta sea mayor que la de la primera no permite asegurar que R2 vaya también a ser mayor, puesto que R2 depende del grado de acercamiento de la recta a la nube de puntos. Ejercicio 5.9 De una distribución estadı́stica bivariante se conocen x = 5, y = 8, CVY = 3 CVX . Mediante la recta de regresión de Y sobre X, ¿cuál es la predicción del modelo para un valor de x = 6, a) en el caso que R2 = 0? b) en el caso que R2 = 1? Respuesta: a) Consideremos el modelo lineal Y = a + b X. En este caso se tiene que 2 , y por tanto, R2 = rXY R2 = 0 =⇒ sXY = 0 =⇒ b = 0. De manera que el modelo queda: Ŷ = a, y teniendo en cuenta que a = y − b x = 8, se tiene que Ŷ = 8, que no depende del valor de la variable X. Ası́, la predicción de este modelo para x = 6 es y = 8. b) Debemos determinar los coeficentes a y b del modelo lineal. Empezamos buscando 2 b = ssXY 2 . Puesto que R = 1, tenemos que: X R2 = 1 =⇒ s2XY = 1; s2X s2Y sXY = ±sX sY . A partir de la relación CVY = 3 CVX podemos deducir que: CVY = 3 CVX =⇒ sX sY =3 ; y x sY = 3 sX 48 24 y = sX . x 8 Substituyendo esta expresión de sY en la expresión anteriormente encontrada para sXY tenemos que: sXY 24 24 = b. sXY = ± s2X ; =± 8 s2X 5 b=− 24 , 5 24 · 5 = −16, 5 X, y la predicción para x = 6 es ŷ = 12.8. Si a = y − bx = 8 + 24 5 24 · 5 = 32, 5 X, y la predicción para x = 6 es ŷ = 3.2.