Sei sulla pagina 1di 36

Informacin y Repaso de conceptos bsicos

Mtodos de Optimizacin
Clase 0

Prof. Jaime Carrasco


Otoo 2015

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Clase 1

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Informacin y Repaso de conceptos bsicos


2 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Contenidos

Programa
1

Programacin no lineal sin y con restricciones

Mtodos Numricos para problemas de Optimizacin no lineales

Mtodos de punto interior para problemas de programacin lineal.

Convexidad, Mtodo Simplex y Optimizacin en Redes

Mtodos de Descomposicin para problemas de programacin lineal de gran


escala.

Modelacin y Optimizacin a travs de Heursticas.

Informacin y Repaso de conceptos bsicos


3 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Modo de Calificacin

Pruebas
1era Prueba
Ponderacin 35 %

2era Prueba
Ponderacin 35 %

Tareas Tericas y Computacionales, y/o Trabajos


Ponderacin 30 %

Examen
Ponderacin 30 %

Informacin y Repaso de conceptos bsicos


4 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Vectores y Matrices
En nuestro curso trabajaremos con matrices, donde designaremos por aij R
el elemento o componente de la matriz que se ubica en la fila i y en la columna
j. Por ejemplo, una matriz A sera:

a11 a12 a1n


a21 a22 a2n

A= .
..
.. .
..
.

.
am1

am2

amn

La jsima columna de A la denotaremos A j y constituye un vector columna


de m componentes:

a1j
a2j

A j = . .
..
amj

Informacin y Repaso de conceptos bsicos


5 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Operaciones con vectores y matrices. Producto matricial


El conjunto de todas las matrices de m n componentes es un espacio vectorial
que denotamos Rmn
Las operaciones lineales estn definidas por las correspondientes operaciones
en R, componente a componente.
El espacio vectorial de los vectores (columna) de n componentes se denota Rn y
se identifica con el de las matrices Rn1 .
Habitualmente, cuando nos refiramos a un vector fila usaremos la notacin
y (Rn )T ' R1n la cual se usa tambin para denotar la trasposicin de
vectores y/o matrices:

v=

v1
v2
..
.

= vT = (v1 , v2 , ..., vn ) = (vT )T = v,

vn

Informacin y Repaso de conceptos bsicos


6 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Operaciones con vectores y matrices. Producto matricial


El conjunto de todas las matrices de m n componentes es un espacio vectorial
que denotamos Rmn
Las operaciones lineales estn definidas por las correspondientes operaciones
en R, componente a componente.
El espacio vectorial de los vectores (columna) de n componentes se denota Rn y
se identifica con el de las matrices Rn1 .
Habitualmente, cuando nos refiramos a un vector fila usaremos la notacin
y (Rn )T ' R1n la cual se usa tambin para denotar la trasposicin de
vectores y/o matrices:

v=

v1
v2
..
.

= vT = (v1 , v2 , ..., vn ) = (vT )T = v,

vn

Informacin y Repaso de conceptos bsicos


6 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Operaciones con vectores y matrices. Producto matricial


El conjunto de todas las matrices de m n componentes es un espacio vectorial
que denotamos Rmn
Las operaciones lineales estn definidas por las correspondientes operaciones
en R, componente a componente.
El espacio vectorial de los vectores (columna) de n componentes se denota Rn y
se identifica con el de las matrices Rn1 .
Habitualmente, cuando nos refiramos a un vector fila usaremos la notacin
y (Rn )T ' R1n la cual se usa tambin para denotar la trasposicin de
vectores y/o matrices:

v=

v1
v2
..
.

= vT = (v1 , v2 , ..., vn ) = (vT )T = v,

vn

Informacin y Repaso de conceptos bsicos


6 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Operaciones con vectores y matrices. Producto matricial


El conjunto de todas las matrices de m n componentes es un espacio vectorial
que denotamos Rmn
Las operaciones lineales estn definidas por las correspondientes operaciones
en R, componente a componente.
El espacio vectorial de los vectores (columna) de n componentes se denota Rn y
se identifica con el de las matrices Rn1 .
Habitualmente, cuando nos refiramos a un vector fila usaremos la notacin
y (Rn )T ' R1n la cual se usa tambin para denotar la trasposicin de
vectores y/o matrices:

v=

v1
v2
..
.

= vT = (v1 , v2 , ..., vn ) = (vT )T = v,

vn

Informacin y Repaso de conceptos bsicos


6 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Operaciones con vectores y matrices. Producto matricial


El conjunto de todas las matrices de m n componentes es un espacio vectorial
que denotamos Rmn
Las operaciones lineales estn definidas por las correspondientes operaciones
en R, componente a componente.
El espacio vectorial de los vectores (columna) de n componentes se denota Rn y
se identifica con el de las matrices Rn1 .
Habitualmente, cuando nos refiramos a un vector fila usaremos la notacin
y (Rn )T ' R1n la cual se usa tambin para denotar la trasposicin de
vectores y/o matrices:

v=

v1
v2
..
.

= vT = (v1 , v2 , ..., vn ) = (vT )T = v,

vn

Informacin y Repaso de conceptos bsicos


6 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Una m nmatriz A se interpreta como un operador lineal entre los espacios


Rn y Rm , a travs del producto matriz vector, definido por:
j=1,...,n

A = (aij )i=1,...,m , v = (v1 , ..., vn )T


n

X
a
v
1j j

j=1

a2j vj

Rm ,
Av =
j=1

.
..

amj vj
j=1

con lo cual, todo vector de Rn se transforma en un vector de Rm por este


producto definido con la matriz A.

Informacin y Repaso de conceptos bsicos


7 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Decimos que este operador es lineal porque conserva las


operaciones lineales, i.e.
A(x + y)

Ax + Ay, x, y Rn ,

A(x)

Ax, x Rn , R

Ntese que si A = aT = (a1 , ..., an ) es un vector fila, el producto matriz


vector se convierte en un producto vector vector, que llamamos "producto
escalar"de dos vectores:
Av = aT v =

n
X

aj vj R,

j=1

que es tambin un operador lineal con imagen en R, al que habitualmente


llamamos "forma lineal".

Informacin y Repaso de conceptos bsicos


8 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Finalmente, podemos ahora definir un producto matriz matriz, en la forma


siguiente:
j=1,...,n

A = (aij )i=1,...,m ,

k=1,...,p

B = (bjk )j=1,...,n ,

k=1,...,p
n
X
k=1,...,p
= (Ai . B. k )i=1,..,m
AB =
aij bjk
j=1

i=1,...,m

es decir, una m nmatriz A se puede multiplicar por una n pmatriz B


se obtiene una m pmatriz C, cuyo elemento Cik es el producto escalar de la
fila isima de A por la columna ksima de B.
Este producto matricial se interpreta como la composicin de los operadores
lineales A y B, en ese orden.

Informacin y Repaso de conceptos bsicos


9 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Finalmente, podemos ahora definir un producto matriz matriz, en la forma


siguiente:
j=1,...,n

A = (aij )i=1,...,m ,

k=1,...,p

B = (bjk )j=1,...,n ,

k=1,...,p
n
X
k=1,...,p
= (Ai . B. k )i=1,..,m
AB =
aij bjk
j=1

i=1,...,m

es decir, una m nmatriz A se puede multiplicar por una n pmatriz B


se obtiene una m pmatriz C, cuyo elemento Cik es el producto escalar de la
fila isima de A por la columna ksima de B.
Este producto matricial se interpreta como la composicin de los operadores
lineales A y B, en ese orden.

Informacin y Repaso de conceptos bsicos


9 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Finalmente, podemos ahora definir un producto matriz matriz, en la forma


siguiente:
j=1,...,n

A = (aij )i=1,...,m ,

k=1,...,p

B = (bjk )j=1,...,n ,

k=1,...,p
n
X
k=1,...,p
= (Ai . B. k )i=1,..,m
AB =
aij bjk
j=1

i=1,...,m

es decir, una m nmatriz A se puede multiplicar por una n pmatriz B


se obtiene una m pmatriz C, cuyo elemento Cik es el producto escalar de la
fila isima de A por la columna ksima de B.
Este producto matricial se interpreta como la composicin de los operadores
lineales A y B, en ese orden.

Informacin y Repaso de conceptos bsicos


9 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Matrices no singulares. Clculo de determinantes


Una matriz se dice cuadrada si tiene el mismo nmero n de filas que de
j=1,...,n
columnas A = (aij )i=1,...,n .
A las matrices cuadradas se le asocia un nmero que llamamos el determinante de la matriz.
Este nmero (determinante de la matriz) puede calcularse a travs de los
menores y cofactores de la matriz que definiremos a continuacin por
recurrencia:
- Para una matriz cuadrada de orden n = 1, A = (a11 ), su menor es
igual a su cofactor e igual a 1 y su determinante es a11 .
j=1,...,n

- Para una matriz A = (aij )i=1,...,n de orden n, el menor Mij del elemento
aij es el valor del determinante de orden (n 1) que se obtiene eliminando de
la matriz A la fila i y la columna j,

Informacin y Repaso de conceptos bsicos


10 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

- Para una matriz de orden n, el cofactor Aij del elemento aij se define
como Aij = (1)i+j Mij ,
El determinante de una matriz de orden n se calcula sumando el producto de
los elementos aij de cualquier fila o columna por sus cofactores:

det(A)

m
X
i=1

det(A)

n
X
j=1

air Air =

m
X
(1)i+r air Mir , r = 1, 2, ..., n,
i=1

n
X
arj Arj =
(1)r+j arj Mrj , r = 1, 2, ..., m.
j=1

Informacin y Repaso de conceptos bsicos


11 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Matriz inversa. Mtodos para calcular la inversa


La matriz identidad I de orden n es la matriz que satisface la relacin:
AI = IA = A,
para cualquier matriz A de orden n. La matriz identidad es precisamente la
que tiene unos en la diagonal principal y ceros en los dems elementos.
Una matriz cuadrada A se dice inversible si existe una matriz B tal que:
AB = BA = I.
A esta matriz B se le llama la matriz inversa de A y se denota A1 . Una
condicin necesaria y suficiente para que una matriz A sea inversible es que
det(A) 6= 0.

Informacin y Repaso de conceptos bsicos


12 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Hay dos mtodos para calcular la inversa de una matriz


- Denotemos por cof (A) la matriz de los cofactores de la matriz A defij=1,...,n
nida por cof (A) = (Aij )i=1,...,n
, es decir, el elemento (i, j) de cof (A) es el
cofactor del elemento aij de A.
El primer mtodo para calcular la inversa de A es entonces:
A1 =

cof (A)T
.
det(A)

- El segundo mtodo para calcular la inversa consiste en adjuntar a la


matriz A la matriz identidad I del mismo orden:
A [A I]
y efectuando transformaciones elementales, transformar la matriz A en la
identidad.

Informacin y Repaso de conceptos bsicos


13 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Si se realizan las mismas transformaciones a I se obtendr finalmente A1 a


la derecha de I :
[A I] transf. elem. [I A1 ].
Las transformaciones elementales (de filas) son tres:
T1) Multiplicar una fila de A por un nmero diferente de cero,
T2) Multiplicar una fila de A por un nmero diferente de cero y
sumrsela a otra fila,
T3) Intercambiar la posicin de dos filas de A.
Hay tres transformaciones elementales anlogas para las columnas de A. Sin
embargo para la ejecucin correcta del mtodo no deben mezclarse.

Informacin y Repaso de conceptos bsicos


14 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Independencia lineal de vectores. Rango de una matriz


Un conjunto A1 , .., Ap de vectores de Rm se dice linealmente dependiente
(`.d.) si y slo si existen escalares i R, no todos nulos, tales que la combinacin lineal asociada produce el vector nulo, i.e.
p
X

i Ai = 0n .

i=1

Ntese que esto quiere decir que el vector x = (1 , ..., p )T es una solucin
no nula del sistema lineal homogneo:
p
X

Ai xi = 0n .

i=1

Si la nica solucin del sistema homogneo anterior es el vector nulo (i =


0, i) entonces decimos que los vectores A1 , ..., Ap son linealmente independientes (`.i.).

Informacin y Repaso de conceptos bsicos


15 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Rango de una Matriz


Una matriz A m n est compuesta de n vectores columna A j , j = 1, .., n
y de m vectores filas Ai , i = 1, ..., m
El rango de una matriz es el nmero mximo de vectores `.i. que contiene.
Este rango puede calcularse lo mismo por los vectores fila que por los vectores columna porque coincide en ambos casos. Generalmente trabajaremos
con matrices m n de rango m.
Para calcular el rango de una matriz A m n basta hallar una sub-matriz
cuadrada B p p de A, de orden p maximal, cuyo determinante sea
diferente de cero (det(B) 6= 0).
El orden p de B es el rango de A. Esto significa que cualquier sub-matriz
cuadrada R q q de A que tenga orden q > p tiene determinante igual a
cero (det(R) = 0).

Informacin y Repaso de conceptos bsicos


16 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Sistemas generadores. Bases de Rn


Un sistema de vectores A1 , ..., Ap Rn es un sistema generador del espacio
vectorial Rn si y slo si todo vector X Rn se puede expresar como combinacin lineal de los vectores A1 , ..., Ap , i.e. para todo X Rn , existen escalares
1 , ..., p R tales que:
X=

p
X

i Ai .

i=1

Un sistema generador de Rn compuesto de vectores `.i. se le llama una base


de Rn . Las bases de Rn deben contener exactamente n vectores, es decir, su
nmero es exactamente la dimensin del espacio vectorial.

Informacin y Repaso de conceptos bsicos


17 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Subespacios. No cleo e Imagen de un operador lineal


Un subconjunto S Rn es un subespacio si S es cerrado para la suma y el
producto por un escalar. Esto quiere decir:
x, y
x

S = x + y S,
S, R = x S.

Ya hemos visto ms arriba que una matriz A m n se puede interpretar


como un operador lineal de Rn en Rm . Los dos subespacios ms importantes
asociados con el operador lineal (matriz) A son el kernell o ncleo de A, que
denotamos ker(A) y la imagen de A, que denotamos Im(A):
ker(A) = {x Rn : Ax = 0m } = A1 ({0m }) ,
Im(A) = {y Rm : x Rn : y = Ax} = A (Rn ) .

Informacin y Repaso de conceptos bsicos


18 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Sistema de ecuaciones lineales


Un sistema de ecuaciones lineales est definido por una matriz A =
j=1,...,n
(aij )i=1,...,m , un vector de incgnitas o variables x = (x1 , ..., xn )T y un vector
de trminos independientes b = (b1 , ..., bm )T , que deben satisfacer la relacin
Ax = b,
la cual diremos que est escrita en forma "matricial".
El sistema de ecuaciones puede tambin escribirse en forma escalar o por
componentes:
n
X
aij xj = bi , i = 1, ..., m
j=1

o en forma vectorial (por filas de A):


Ai x = bi , i = 1, ..., m

Informacin y Repaso de conceptos bsicos


19 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Si existe al menos una solucin x del sistema de ecuaciones lineales Ax = b,


entonces las siguientes afirmaciones son ciertas:
(P1) b Im(A),
(P2) rank ([A b]) = rank(A),
(P3) Los vectores A 1 , A 2 , ..., A n y b son `.d.,
(P4) b es una combinacin lineal de A 1 , A 2 , ..., A n ,
(P5) Si b = 0m = x ker(A),
Un recproco tambin es cierto. El sistema Ax = b tiene solucin si y slo si
se cumple una cualquiera (y todas) las afirmaciones (P1)-(P4).

Informacin y Repaso de conceptos bsicos


20 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Valores y vectores propios de una matriz


C se le llama valor propio de la matriz cuadrada
Un nmero complejo
= 0, donde:
A n n si es una raz del polinomio caracterstico, i.e. P()
P() = det(A I).
n

Un vector x R , no nulo, es un vector propio asociado al valor propio de


la matriz A si satisface la igualdad:
Ax = x,
o en forma equivalente, si es una solucin no trivial del sistema homogneo:
(A I)x = 0n .

Informacin y Repaso de conceptos bsicos


21 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Matrices simtricas, semi-definidas y definida positivas


j=1,...,n

Una matriz cuadrada A = (aij )i=1,...,n es simtrica si sus componentes simtricas con respecto a la diagonal principal son iguales, i.e. aij = aji , i 6= j.
Toda matriz simtrica define una forma cuadrtica q(x) sobre Rn en la forma
siguiente:
q(x) = xT Ax, x Rn .
La matriz A se dice definida positiva si la forma cuadrtica asociada q(x) es
estrictamente positiva sobre todo vector no nulo.
La matriz A se dice semi-definida positiva si la forma cuadrtica asociada
q(x) es no negativa sobre todo Rn :

Informacin y Repaso de conceptos bsicos


22 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Matrices simtricas, semi-definidas y definida positivas


Def. Positiva

xT Ax > 0, x Rn , x 6= 0n ,

Semi-Def. Positiva

xT Ax 0, x Rn .

Las definiciones son anlogas para matrices definida negativas y semidefinida negativas, simplemente cambiando los signos:

Def. Negativa

xT Ax < 0, x Rn , x 6= 0n ,

Semi-Def. Negativa

xT Ax 0, x Rn .

La matriz A puede no ser signo definida y entonces se dice que A es indefinida.

Informacin y Repaso de conceptos bsicos


23 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Norma de vectores en Rn
En el espacio vectorial Rn se pueden definir varias normas para un vector
x = (x1 , x2 , ..., xn )t , las que a su vez inducen respectivas distancias. Las ms
comunes son:
1 La norma euclideana (que es la que ms se usa):
v
uX
u n 2
kxk = t
xj ,
j=1

2 La norma infinita:
kxk = max |xj | ,
1jn

Informacin y Repaso de conceptos bsicos


24 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Norma de vectores en Rn
En el espacio vectorial Rn se pueden definir varias normas para un vector
x = (x1 , x2 , ..., xn )t , las que a su vez inducen respectivas distancias. Las ms
comunes son:
1 La norma euclideana (que es la que ms se usa):
v
uX
u n 2
kxk = t
xj ,
j=1

2 La norma infinita:
kxk = max |xj | ,
1jn

Informacin y Repaso de conceptos bsicos


24 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Funciones. Lmites y continuidad


Una funcin f : Rn Rm tiene lmite ` Rm en el punto x0 Rn si y slo
si para todo nmero > 0, existe un > 0 tal que para todo x B(x0 , ) se
cumple que f (x) B(`, ). De forma equivalente:
> 0, > 0 : kx x0 k < kf (x) `k < .
Una sucesin {xn } Rn tiene lmite ` cuando n tiende a + si y slo si para
todo nmero > 0, existe un N N tal que, para todo n N se cumple que
xn B(`, ). De forma equivalente:
> 0, N N : n N kxn `k < .

Informacin y Repaso de conceptos bsicos


25 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Funciones. Lmites y continuidad


Una funcin f se dice continua en x0 si est definida en x0 , tiene lmite en x0
y ese lmite es igual a su imagen f (x0 ).
Una funcin f es continua en S si es continua en todos los puntos de S.

Informacin y Repaso de conceptos bsicos


26 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Derivadas parciales. Gradiente. Jacobiano. Hessiano.


Para la funcin f : Rn R, la derivada parcial de f con respecto a la variable
xj en el punto x0 se define por:
f (x0 + tej ) f (x0 )
f (x0 )
= lmt0
,
xj
t
donde ej = (0, 0, ..., 1j , 0, ..., 0)T es el jsimo vector unitario.
El vector gradiente en x0 es el vector (fila) de las derivadas parciales de f con
respecto a todas las variables:


f (x0 ) f (x0 )
f (x0 )
,
, ...,
.
f (x0 ) =
x1
x2
xn

Informacin y Repaso de conceptos bsicos


27 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Derivadas parciales. Gradiente. Jacobiano. Hessiano.


Una funcin F : Rn Rm , puede identificarse como el vector formado por
m funciones fi : Rn R, i = 1, ..., m:

f1 (x)
f2 (x)

F(x) = . .
..
fm (x)
La matriz Jacobiana o el Jacobiano de F en x0 es la matriz m n cuyas filas
son los vectores gradiente de cada fi :

f1 (x0 )
f2 (x0 )

F(x0 ) =
.
..

.
fm (x0 )

Informacin y Repaso de conceptos bsicos


28 / 29

Informaciones generales sobre el curso.

Repaso Conceptos bsicos

Derivadas parciales. Gradiente. Jacobiano. Hessiano.


La matriz Hessiana o el Hessiano de f : Rn R en x0 es la matriz de las
segundas derivadas parciales de f en x0 :
2

f (x0 ) =

2 f (x0 )
xi xj

j=1,...,n
i=1,...,n

Casi siempre, en los casos prcticos, las segundas derivadas cruzadas son
iguales:
2 f (x0 )
2 f (x0 )
=
,
xi xj
xj xi
y por eso la matriz Hessiana es (casi) siempre simtrica.
El hecho de que la matriz Hessiana sea signo-definida (positiva o negativa)
ser una propiedad muy importante en los problemas de optimizacin no lineal.

Informacin y Repaso de conceptos bsicos


29 / 29

Potrebbero piacerti anche