El problema de mı́nimos cuadrados. Problema 1 Sea A ∈ Rm×n uma matriz de rango completo n ≤ m. r (a) Demuestra que si es solución del sistema x Im AT A 0 r b = x 0 (1) entonces x es solución del problema de mı́nimos cuadrados mı́n kAx − bk2 . (b) ¿Cuál es el número de condición de la matriz del sistema (1) en términos de los valores singulares de A? (Indicación: Usa la descomposición SVD de A). (c) Da una expresión explı́cita de la inversa de la matriz de los coeficientes del sistema (1) como una matriz de bloques. (Indicación: Consulta los problemas del Tema 1). Una vez hecho, calcula la solución del sistema (1) e identifica los vectores r y x de la solución en términos de la solución del problema de mı́nimos cuadrados mı́n kAx − bk2 . Problema 2 .- Consideremos el espacio L2 [1, 2] de funciones de cuadrado integrable en el intervalo [1, 2] con valores reales o complejos. Este es un espacio vectorial de dimensión infinita del que la única propiedad que nos interesa es que en él se puede definir una norma de la siguiente manera: Z 2 kf k2 = f (x)f (x) dx. 1 Se quiere aproximar la función f (x) = x−1 en el intervalo [1, 2] por una combinación lineal de las funciones ex , sen x y Γ(x) (Γ(x) es la función gamma, implementanda en MATLAB por el comando gamma). Se pide escribir un programa de MATLAB que haga lo siguiente: 1. Utilizar una discretización del intervalo [1, 2] para obtener la mejor aproximación posible de f (x) por la combinación lineal c1 Γ(x) + c2 sen(x) + c3 ex , en el sentido de los mı́nimos cuadrados, en dicho intervalo. 2. Usar varias discretizaciones de [1, 2] y en cada una de ellas hallar el error que se comete, medido en L2 . Establecer, de esta forma, una cota para el error cometido, medido en L2 , al aproximar 1/x por c1 Γ(x) + c2 sen(x) + c3 ex con, al menos, dos dı́gitos de exactitud relativa; y los valores de los coeficientes de la combinación que te permite establecer tal cota. Finalmente, el programa debe producir dos dibujos: uno con la gráfica de 1/x y otro con la gráfica de la aproximación óptima conseguida. (consulta el comando subplot de MATLAB). 3. (opcional) Repite todo lo anterior pero con el intervalo [0, 1]. Puede serte útil saber que si g(x) = 1/Γ(x) entonces g 0 (0) = 1; i.e., en las proximidades de x = 0, 1/Γ(x) se puede identificar con x. Indicación: Para calcular la integral definida, consulta el comando quad de MATLAB. Problema 3 Considera el siguiente ejemplo: 1 1 A = 1 1,0001 , 1 1,0001 2 b = 0,0001 4,0001 (a) Demuestra que si A ∈ Fm×n tiene rango completo n entonces A† = (A∗ A)−1 A∗ . Usa el Problema 1 de la Lección 6 para concluir que la proyección ortogonal sobre Im A es AA† . (b) ¿Cuáles son las matrices A† y AA† para este ejemplo?. Da respuestas exactas. (c) Encuentra la solución exacta x para el problema de mı́nimos cuadrados mı́n kAx − bk2 y x∈R2 calcula y = Ax, también exactamente. (d) ¿ Cuáles son los valores de κ(A), θ y η que aparecen en el Teorema que da los números de condición del problema de mı́nimos cuadrados?. De aquı́ en adelante, respuestas numéricas son aceptables. (e) ¿Cuáles son los cinco números de condición que aperecen en el Teorema mencionado más arriba?. (f) Da ejemplos concretos de perturbaciones δb y δA para las que se alcanzan los cuatro primeros números de condición del Teorema. Problema 4 Explica por qué el número de condición de y respecto de A es cero cuando m = n = rang A. Problema 5 .- Si algunas componentes de Ax − b son más importantes que otras, se pueden asignar pesos, di , a cada una de ellas y resolver entonces el problema de mı́nimos cuadrados compensado: mı́n kD(Ax − b)k2 , donde d = Diag(d1 , . . . , dm ). Más general, si S es una matriz simétrica definida positiva entonces kxkS = (xT Sx)1/2 es una norma y podemos considerar el problema de minimizar kAx − bkS . ¿Cuáles son las ecuaciones normales para este problema? Problemas para trabajar en grupo • Problema 6 .- Sea A ∈ Rn×n una matriz simétrica y b ∈ Rn . Sea x ∈ Rn la solución del problema de mı́nimos cuadrados mı́nn kAx − bk2 . Sea r = Ax − b el vector residual. Muestra x∈R cómo calcular una matriz simétrica de mı́nima norma de E ∈ Rn×n tal que Frobenius (A + E)x = b. (Indicación: Usa la factorización QR de x r y observa que Ex = r ⇔ (QT EQ)(QT x) = QT r). • Problema 7 .- Consideremos el problema de mı́nimos cuadrados mı́nn kAx−bk2 y supongamos x∈F que A ∈ Fm×n es fija y de rango completo n. Para cada b ∈ Fm×1 la solución del problema es κ2 (A) única. Demuestra que el número de condición de x respecto de b, en la norma eucı́dea, es η cos θ tal y como se afirma en el Teorema sobre el condicionamiento del problema de mı́nimos cuadrados (Lección 8).