Ejercicios - Optimización No Lineal FaMAF - 2015 Rn → R y x ∈ Rn, f 0(x) es el vector columna con coordenadas ∂x∂f (x) y f 00(x) f es la matriz con coordenadas ∂x∂ ∂x (x). Dada F : Rn → Rm , F 0 (x) es la matriz m × n 1. Dada f : i 2 i con coordenadas ∂Fi ∂xj (x). j Demuestre que (a) si f (x) = 21 hAx, xi − hb, xi + c con A ∈ Rn×n, b ∈ Rn, c ∈ R, entonces 1 1 f 0 (x) = (A + AT )x − b y f 00 (x) = (A + AT ). 2 2 (b) Si f (x) = 12 kAx − bk2 con A ∈ Rm×n, b ∈ Rm, entonces f 0 (x) = AT (Ax − b) (c) Si f (x) = 12 kF (x)k2 con F : 0 0 T y f 00 (x) = AT A. Rn → Rm diferenciable, entonces f (x) = F (x) F (x) 00 0 T 0 y f (x) = F (x) F (x) + m X Fj (x)Fj00 (x). j=1 (d) Si f (x) = g(F (x)) con g : Rm → R y F : Rn → Rm diferenciables, entonces f 0 (x) = F 0 (x)T g 0 (F (x)) y f 00 (x) = F 0 (x)T g 00 (F (x))F 0 (x) + m X ∂g ∂yj j=1 (F (x))Fj00 (x). 2. Para cada valor del escalar β, hallar todos los puntos estacionarios del problema de minimizar f (x) donde R2 x∈ f (x) = x21 + x22 + βx1 x2 + x1 + 2x2 . Determinar en cada caso si tal punto es un minimizador (local o global), un maximizador o un punto de ensilladura. R R 3. Considere f : 2 → tal que f (x) = (x2 − px21 )(x2 − qx21 ) con 0 < p < q y sea x̄ = (0, 0). Demuestre que para cualquier dirección d ∈ 2 la función ϕ : → t.q. ϕ(α) = f (x̄+αd) tiene un minimizador local en α = 0. Más aún, muestre que dada una cantidad finita de direcciones d1 , . . . , dr existe ε > 0 tal que f (x̄) < f (x̄ + αdi ) para todo i = 1, . . . , r y para todo α ∈ (0, ε). No obstante, verifique que x̄ no es minimizador local de f en 2 (use la curva x(t) = (t, mt2 ) con p < m < q). R R R R 4. Sean n ≥ 2 y f : Rn → R definida por f (x) = (1 − xn )3 n−1 X x2i + x2n . i=1 Probar que x̄ = 0 es el único punto estacionario de f en estricto de f y que no es un minimizador global de f en 1 Rn, que es un minimizador local Rn . R R 5. Determine si puede o no existir una función f : → diferenciable que tenga un único punto estacionario que sea minimizador local pero no minimizador global de f en . 6. Considere un método tipo gradiente que en vez de usar la derivada de f aproxima por una diferencia hacia adelante, o sea R : Rn → R, la f (x + hei ) − f (x) ∂f (x) ≈ , ∂xi h donde h ∈ (0, 1) y ei es el i-ésimo vector canónico. Aplicando este método para minimizar f (x) = max{|x1 |, |x2 |} en 2 , muestre que si para algún k, xk = (−100, −100) entonces el método retorna xk como aproximación de la solución x̄ = (0, 0). Note que, por más que no se usen derivadas, los métodos desarrollados para funciones diferenciables no deben usarse con funciones no diferenciables. R 7. Sea F : Rn → Rn continuamente diferenciable. Muestre que F (x̄) = 0 si y solo si x̄ es 1 un punto estacionario del problema de minimizar kF (x)k2 y existe una solución d del x∈Rn 2 sistema lineal 0 = F (x̄) + F 0 (x̄)d. 8. Un minimizador local irrestricto x̄ de una función f se dice localmente estable si existe δ > 0 tal que para toda sucesión {xk } con f (xk ) → f (x̄) y xk ∈ B(x̄, δ), vale que xk → x̄. Suponga que f es continua y x̄ es un minimizador local irrestricto de f . (a) Muestre que x̄ es localmente estable si y solo si x̄ es un minimizador local estricto. (b) Sea g una función continua. Muestre que si x̄ es localmente estable, entonces existe δ > 0 tal que para todo ε > 0 suficientemente pequeño, la función fε t.q. fε (x) = f (x) + εg(x) tiene un minimizador local irrestricto xε ∈ B(x̄, δ) (i.e., la solución del problema perturbado no se aleja demasiado). Más aún, xε → x̄ cuando ε → 0+ . Rn → R y γ > 0. Demuestre que las siguientes son equivalentes: (a) f fuertemente convexa en Rn con módulo γ. (b) f (x) − γkxk2 es convexa en Rn . Si f es diferenciable en Rn , también son equivalentes a: (c) f (y) ≥ f (x) + hf 0 (x), y − xi + γky − xk2 , ∀x, y ∈ Rn . (d) hf 0 (y) − f 0 (x), y − xi ≥ 2γky − xk2 , ∀x, y ∈ Rn . Si f es dos veces diferenciable en Rn , también son equivalentes a: (e) hf 00 (x)d, di ≥ 2γkdk2 , ∀x ∈ Rn , ∀d ∈ Rn . 10. Sea f : Rn → R fuertemente convexa en Rn con módulo γ. Demuestre que existe x̄ tal 9. Sea f : que f 0 (x̄) = 0 y existe c > 0 tal que kx − x̄k ≤ ckf 0 (x)k para todo x ∈ Rn. Sea f (x) = 21 hAx, xi − hb, xi con A simétrica definida positiva. Exprese γ y c en términos de A y muestre que si Ax̄ = b entonces kx − x̄k ≤ ckAx − bk. 11. Sea W ∈ Rn×n simétrica definida positiva, ξ ∈ [0, 1] y para p, q ∈ Rn defina W+ = W + ppT W qq T W − + ξτ vv T hp, qi τ donde v = p Wq − , τ = hW q, qi. hp, qi τ (a) Demuestre que W+ es simétrica y que W+ es definida positiva si y solo si hp, qi > 0. 2 (b) La corrección de Powell consiste en definir W+ cambiando p por p̃ = θp + (1 − θ)W q donde para κ ∈ (0, 1), ( θ= 1 q,qi (1 − κ) hW hW q,qi−hp,qi si hp, qi ≥ κhW q, qi, caso contrario. Demuestre que con esta corrección W+ es definida positiva. 12. Considere el problema maximizar xa11 xa22 . . . xann sujeto a Pn i=1 xi = 1, xi ≥ 0 i = 1, . . . , n, donde ai > 0 para todo i. Encuentre el maximizador global y muestre que es único. 13. Demuestre que (a) si ker(A) = {x ∈ entonces Rn | Ax = 0} y las filas de A son linealmente independientes, Pker(A) (x) = [I − AT (AAT )−1 A]x. (b) Si [a, b] = {x ∈ Rn | ai ≤ xi ≤ bi, i = 1, . . . , n} con a, b ∈ Rn, entonces P[a,b] (x) = max{a, min{x, b}}. (c) Si B(x̄, r) = {x ∈ Rn | kx − x̄k ≤ r} con r > 0, entonces PB(x̄,r) (x) = x̄ + min 1, r (x − x̄), kx − x̄k x 6= x̄. 14. Considere el problema minimizar f (x) g(x) (?) sujeto a x ∈ X, R R R R donde f : n → y g : q : → tal que Rn → R son funciones tal que g(x) > 0 para todo x ∈ X. Defina q(λ) = min{f (x) − λg(x)}, x∈X y suponga que λ̄ y x̄ satisfacen q(λ̄) = 0 y x̄ = argmin{f (x) − λ̄g(x)}. Demuestre que x̄ x∈X es solución del problema (?). 3