CLASE 21

Optimizacin no lineal sin

restricciones
Prof. Carlos Bohle Zrecht
(carlos.bohle@gmail.com)
Introduccin
Vuelta a la primera parte del curso:
Nociones de Convexidad
Condiciones suficientes y condiciones necesarias de
optimalidad.
Curvatura. Curvatura.
Resumen
Clase 4: Puntos extremos y existencia
Definicin de punto extremo: el que es mayor/menor que una vecindad
de f(x).
Mximo global, mximo local, mximo estricto, mnimo global, mnimo local,
mnimo estricto.
Existencia de solucin ptima: dominio no vaco, cerrado, f(x) continua, Existencia de solucin ptima: dominio no vaco, cerrado, f(x) continua,
acotado, etc.
Bolzano-Weirstrass: funcin continua sobre el dominio, dominio no vaco,
cerrado y acotado, implican existencia de sol ptima.
Resumen
Clase 5 y 6: convexidad:
Nocin de conjunto convexo.
Funciones convexas, cuasi-convexas, estrictamente convexas.
Problema convexo si encontramos un mnimo local, ser tambin
mnimo global. mnimo global.
Clase 7: Condiciones necesarias y suficientes de segundo orden.
Primera derivada
Segunda derivada.
Caso multidimensional.
Definiciones de Convexidad.
Convexidad
Si f(x) es continua y dos veces diferenciable, su matriz Hessiana(H) y la
ser:

2 2
1
2
2 1
2
2
1
2
...
n
f f
x x
f
x x
f
x
f
La matriz H es simtrica

=
2
2
1
2
2
2 1 2
n n
x
f
x x
f
x
f
x x
f
H
O M
Convexidad
Caracterizacin de la matriz Hessiana
1. Si todos los determinantes de las matrices menores son
estrictamente positivos, entonces H se dir definida positiva, es
decir, para cualquier vector d perteneciente a R
n
,
2. Si todos los determinantes de las matrices menores son no
0 > Hd d
T
2. Si todos los determinantes de las matrices menores son no
negativos, entonces H ser semidefinida positiva, es decir, para
cualquier vector d perteneciente a R
n
,
3. Si los determinantes de las matrices menores impares son
estrictamente negativos y los de las matrices pares son
estrictamente positivos, entonces H es definida negativa. Esto
quiere decir que para cualquier vector d perteneciente a R
n
0 Hd d
T
0 < Hd d
T
Convexidad
4. Si los determinantes de las matrices menores impares son no
positivos y los de las matrices pares son no negativos, entonces H
es semidefinida negativa. Esto quiere decir que para cualquier
vector d perteneciente a R
n
0 Hd d
T
Si f() es dos veces diferenciable sobre D, con D convexo, entonces f es
convexa ssi D
2
f(x)=H es semidefinida positiva para todos los elementos de
D, es decir:
Si la matriz Hessiana es estrictamente positiva, entonces f(x) es
estrictamente convexa.
D x d d x f D d
n T
, R , 0 ) (
2
Condiciones necesarias y suficientes
Condiciones necesarias y suficientes para ser ptimo (ojo, no son lo mismo).
Teorema 1 (condicin necesaria de primer orden).
Si es un punto mnimo local de f(x), entonces debe cumplirse que
es decir:
n
R x 0 ) (
r
= x f
Basta con esta condicin? Cmo se relacionan con ella los puntos mximos?
No basta con esta condicin necesaria, se necesita otra.
n i
x
x x x f
i
n
,..., 1 , 0
) ,..., , (
2 1
= =

Condiciones necesarias y suficientes

Teorema 2 (condicin necesaria de segundo orden).
Si es un punto mnimo local de f(x), y f(x) es 2 veces diferenciable,
entonces debe cumplirse que (1 orden) y que la matriz Hessiana
es semidefinida positiva.
n
R x
0 ) (
r
= x f
) (
2
x f D
Teorema 3 (condicin suficiente de segundo orden).
Si se cumple que y es definida positiva, entonces
es mnimo global estricto de f().
0 ) (
r
= x f ) (
2
x f D
x
Ejemplos
Considere el problema
2
2 1
1 2 1
2
2
2
1
R
5 4

+
) ,x (x s.a.
x x x x P) Min x
Verifique el cumplimiento de las condiciones de primer y segundo orden para un
punto cualquiera:
Condicin de primer orden:

=
=

)
`

=
=
=
3 / 1
3 / 8
0 8
0 5 2
0 ) (
2
1
1 2
2 1
x
x
x x
x x
x f
r
Ejemplos
Es decir, el punto (x
1,
x
2
)=(8/3;1/3) cumple con las condiciones necesarias del
teorema 1 para ser mnimo local, vale decir, las condiciones de primer orden. Sin
embargo, este punto podra ser un mximo
Es necesario revisar la matriz Hessiana:
(
1 2
La matriz es definida positiva, por lo que podemos considerar el punto (x
1,
x
2
)=(8/3;1/3) como mnimo local. Como adems la matriz es independiente del
punto x que tenemos y el Hessiano es definido positivo en todo el dominio,
entonces f(x) es estrictamente convexa y es mnimo global nico de P).
(

=
2 1
1 2
H
Ejemplos
Realice el mismo anlisis para el problema:
R
2 4
2
2 1
2
3
1

) ,x x s.a. (
x x P) Min
El problema no cumple con la condicin necesaria de primer orden en ningn,
por lo que no presenta mnimos locales.
0 ) (
0 2
0 12
0 ) (
2
1

=
=
= x f
x
x f
r
Cierre del tema
Diferenciar entre condiciones suficientes y necesarias.
Condiciones para encontrar mnimos:
Punto estacionario: primera derivada o gradiente = 0.
Corroborar que es mnimo: signo de la segunda derivada o del Hessiano. Corroborar que es mnimo: signo de la segunda derivada o del Hessiano.
Cmo resolver problemas?
1 Encontrar puntos estacionarios.
2 Testear la segunda derivada (o hessiano) en ellos.
No olvidar: criterios de primera y segunda derivada aplican a soluciones
de curvatura, no de borde.
Ejemplo
A veces ms de un punto cumplir las condiciones de primer orden:
Buscamos el gradiente:
2 2
2
2 3 5 4
. . ( , )
Min x xy x
s a x y R
+

Buscamos el gradiente:
Tenemos dos opciones x=0, y=0
2
( ) 4 3 5; 6 0 f x x y xy ( = + =

5
0
3
5
0
4
x y
y x
= =
= =
Ejemplo
Resolviendo el gradiente llegamos a 3 putos estacionarios que cumplen con
la condicin de primer orden:
( )
5
, ; 0
4
x y
| |
=
|
\
( )
( )
5
, 0;
3
5
, 0;
3
x y
x y
| |
=
|
|
\
| |
=
|
|
\
Ejemplo
Adicionalmente el Hessiano es de la forma:
Por lo tanto, los hessianos de los puntos encontrados sern:
4 6
6 6
y
H
y x
| |
=
|
\
Por lo tanto, los hessianos de los puntos encontrados sern:
Slo el primero cumple la condicin de segundo orden, Qu pasa con el
resto?
1 2 2
5 5
4 6 4 6
4 0
3 3
; ;
30
0
5 5
4 6 0 6 0
3 3
H H H
| | | |

| | | |
|
| |
= = =
|
| |
\ | |
\ \