TCNICAS DE OPTIMIZACIN

Maestra en Ingeniera
Optimizacin
En el anlisis y diseo ptimo
de sistemas complejos en
ingeniera las tareas de
optimizacin juegan un rol
esencial
La mayora de los problemas
en el mundo real tienen varias
soluciones y algunos tienen
infinitas soluciones
El propsito de la optimizacin
es encontrar o identificar la
mejor solucin posible, entre
todas las soluciones
potenciales para un problema
dado

Optimizacin
Casi siempre el inters en la
optimizacin se centra en la
solucin de problemas reales,
los cules deben ser
representados
matemticamente

Formulacin del Modelo
Matemtico
Aplicacin de Tcnicas de
Solucin
Interpretacin de Resultados
Optimizacin
Los procesos y sistemas
en ingeniera son
generalmente
complicados y deben ser
simplificados mediante
idealizaciones y
aproximaciones para
poder resolver el
problema planteado
Modelado: Proceso de
simplificacin del
problema, para que pueda
ser representado en
trminos de un sistema de
ecuaciones o a travs de
un arreglo fsico
Optimizacin
Modelo: Arreglo fsico o
conjunto de ecuaciones que
sirven para representar algn
sistema o proceso
Optimizacin
Modelo Descriptivo: Se usan
para explicar los mecanismos y
principios que interactan en
un sistema.
Modelo Predictivo: Son los que
se emplean en el diseo y
optimizacin de sistemas en
ingeniera.

Modelos anlogos
Modelos Matemtico
Modelos fsico
Modelos numricos

Optimizacin
Un modelo matemtico
representa el desempeo y
comportamiento de un sistema
dado en trminos de
ecuaciones matemticas,
ofreciendo resultados
cuantitativos.
Pueden estar basados en el
entendimiento fsico de un
sistema por construccin de
modelos a partir de datos.
Las ecuaciones que gobiernan
el sistema pueden ser
algebraicas, ecuaciones
diferenciales ordinarias y/o
parciales, ecuaciones
integrales combinacin de
varias de ellas

Optimizacin
Problema Matemtico de
Optimizacin

Consisten en la maximizacin o
minimizacin de funciones
algebraicas de una o ms
variables
La seleccin de las variables
pueden estar restringidas por
ecuaciones o inecuaciones
algebraicas llamadas
restricciones, de forma tal que
el objetivo no es encontrar el
mejor valor posible sino el
mejor valor permitido por las
restricciones
Optimizacin
Tipos de Problema Matemtico
de Optimizacin
Optimizacin
Tipos de Problema Matemtico
de Optimizacin
Optimizacin
Tipos de Problema Matemtico
de Optimizacin
TCNICAS DE OPTIMIZACIN
Generalidades de Algebra Lineal
Sistemas de Ecuaciones Lineales
Sistema de m ecuaciones con n incognitas

a
11
x
1
+a
12
x
2
+ + a
1n
x
n
= b
1
a
21
x
1
+a
22
x
2
+ +a
2n
x
n
= b
2
a
m1
x
1
+a
m2
x
2
+ +a
mn
x
n
= b
m
Sistemas de Ecuaciones Lineales
Comentarios

Si un sistema tiene una solucin, se denomina consistente
Si un sistema no tiene una solucin, se denomina
inconsistente
Si en el sistema se denomina
homogneo. Un sistema homogneo tiene siempre la solucin
trivial:

Si dos sistemas tienen la misma solucin, se les denomina
equivalentes.
La estrategia de solucin para sistemas lineales es
transformar el sistema a travs de una serie de sistemas
equivalentes hasta que la solucin sea evidente

b
1
=b
2
= =b
m
=0

x
1
= x
2
= = x
n
=0
Vectores
Un vector en el plano es un arreglo de tamao2 x 1,
el cual es representado como:


donde x y y son nmeros reales
Los nmeros x y y en la definicin de un vector
son llamados los componentes del vector v.

Dos vectores y son iguales si
x
1
=x
2
y y
1
= y
2

x
y
(
(

= v
1
1
x
y
(
(
(

= v
2
2
x
y
(
(
(

= u
Vectores
Un vector bidimencional tiene varias
interpretaciones geomtricas
1) Un punto ( x,y ) en el plano
2) Un segmento lineal dirigido desde el origen a el punto (
x,y )
3) Un segmento lineal dirigido desde el punto ( x
1
,y
1
) a el
punto ( x
2
,y
2
). Entonces x = x
2
x
1
, y = y
2
y
1

Para aplicaciones en geometra y fsica, algunas
de las operaciones ms importantes son:
1) Suma de Vectores
2) Multiplicacin Escalar
3) Resta de Vectores
x
y
(
(

= v
Vectores
Suma de Vectores

Sea y . Se define:
1
2
u
u
(
(
(

= u
1
2
v
v
(
(
(

= v
1 1
2 2
u v
u v
(
(
(

+
+ =
+
u v
Vectores
Suma de Vectores
u + v puede ser determinado geometricamente
por adicin de un vector de la Cola a la Cabeza

x

y

u

v

u+v

v
Vectores
Multiplicacin Escalar
Sea c un escalar(e.g. un nmero real) y
un

vector. La Multiplicacin Escalar c u of u por c
est definida como el vector defined as the vector
1
2
u
u
(
(
(

= u
1
2
cu
cu
(
(
(

Vectores
Resta de Vectores
Se define u v como u + (1) v
La relacin geometrica entre u,v, u + v y u v
Vectores
Descripcin Parametrica de una Linea
Sea P
1
y P
2
puntos. La linea que pasa atravs
de ellos puede ser descrita como:
( ) ( )
1 2 1 1 2
1 t t t t = + = + < < P P P P P P

P
1

P
2

P
2
P
1

t = 0

t =1

t >1

t < 0

0 < t <1
Vectores
Vectores en Tres Dimensiones
Un vector en tres dimensiones es una matriz de
tamao 3 x 1,




donde x, y y z son numeros reales
La Suma, Multiplicacin Escalar y Resta de
Vectores, son definidas analogamente a vectores
en dos dimensiones
x
y
z
(
(
(
(

Vectores
Propiedades Bsicas de Vectores en R
2
R
3

Teorema - Si u, v y w son vectores en R
2
R
3
y c
y d son escalares reales, entonces:
a) u + v = v + u
b) u + (v + w) = (u + v) + w
c) u + 0 = 0 + u = u
d) u + (u) = 0
e) c (u + v) = c u + c v
f) (c + d) u = c u + d u
g) c (d u) = (c d ) u
h) 1 u = u
Vectores
Vectores en n Dimensiones
Un vector en n dimensiones es una matriz de
tamao n x 1,




donde x1, x2 xn son numeros reales
La Suma, Multiplicacin Escalar y Resta de
Vectores, son definidas analogamente a vectores
en dos dimensiones
1
2
n
x
x
x
(
(
(
(
(
(

Vectores
Sea v
1
y v
2
vectores en un espacio vectorial V. El
conjunto de todos los vectores de la forma a
1
v
1
+ a
2

v
2
, para a
1
and a
2
nmeros reales, forman un
subespacio de V

Sea A una matriz de tamao m x n y considere el
sistema homogneo Ax = 0 donde x R
n
.

Si se
define W = {x R
n
| Ax = 0 }., W es un subespacio
de R
n
llamado el Espacio Nulo de A.

Sea x y y soluciones del sistema homogneo, i.e. Ax
= 0 y Ay = 0, entonces A( x + y ) = Ax + Ay = 0 + 0 =
0.

Sea c un escalar, entonces A( c x ) = c( Ax ) = c 0 = 0
(c x W y W es un subespacio de R
n
)

Vectores
Sea S = { v
1
, v
2
, , v
k
} un conjunto de vectores
en un espacio vectorial V. Un vector v V es
llamado Combinacin Lineal de vectores en S si:
v = a
1
v
1
+ a
2
v
2
+ + a
k

v
k
para cualquier nmero reales a
1
, a
2
,
, a
k


Vectores
Sea S = { v
1
, v
2
, , v
k
} un conjunto de vectores
en un espacio vectorial V. Entonces S es visto
como linealemente dependiente si existen
constantes, a
1
, a
2
, , a
k
, no todos ceros, tal
que:
a
1
v
1
+ a
2
v
2
+ + a
k
v
k
= 0
Sea S = { v
1
, v
2
, , v
k
} un conjunto de vectores
distintos en un espacio vectorial V. Si S no es
linealmente dependiente entonces S es visto
como linealmente independiente. Que es:
a
1
v
1
+ a
2
v
2
+ + a
k
v
k
= 0
para a
1
= a
2
= = a
k
= 0
Matrices
Sistema de m ecuaciones con n incognitas





Si se define la matriz A de tamao m x n , como:
11 12 1
21 22 2
1 2
n
n
mn
m m
a a a
a a a
a a a
(
(
(
(
(
(

= A

a
11
x
1
+a
12
x
2
+ + a
1n
x
n
= b
1
a
21
x
1
+a
22
x
2
+ +a
2n
x
n
= b
2
a
m1
x
1
+a
m2
x
2
+ +a
mn
x
n
= b
m
Matrices
El sistema m x n puede ser escrito como





AX = B

Si los valores de b
1
= b
2
= = b
m
= 0, el sistema
es denominado homogeneo y puede ser escrito
como AX = 0
11 12 1
1
1
21 22 2
2
2
1 2
n
n
mn
n
m m m
a a a
x
b
a a a
x
b
a a a
x
b
( (
(
( (
(
( (
(
( (
(
( (
(
( ( (


=
Matrices
i - esima fila de A


j - esima columna de A




Lo que se puede escribir como: A = [ a
ij
]
( A )
ij
for a
ij

a
i1
a
i2
a
in
| |
1si s m
1
2
1
j
j
mj
a
a
j n
a
(
(
(
(
(
(
(

s s
Matrices
Comentarios:

a) Si m = n entonces A es denominado una Matriz
Cuadrada

b) Para una Matriz Cuadrada, los elementos a
11
, a
22
,
, a
nn
constituyen la Diagonal Principal de A

c) Dos matrices, A = [ a
ij
] y B = [ b
ij
], son iguales
si a
ij
= b
ij
para 1 i m, 1 j n
Matrices
Suma de Matrices

Sea A = [ a
ij
] y B = [ b
ij
] dos matrices de
tamao m x n, entonces C = A + B es una matriz
C = [ c
ij
] tal que c
ij
= a
ij
+ b
ij
i, j

Multiplicacin de una Matriz por un Escalar

Sea A = [ a
ij
] y r e R. Entonces C = r A, donde
C = [ c
ij
] es definida como c
ij
= r a
ij
i, j
Matrices
Multiplicacin de una Matriz por un Vector

Si A es una matriz de tamao m x n y X es un
vector de tamao n x1, entonces:
1
1
2
1
1
n
k k
k
n
k k
k
n
mk k
k
a x
a x
a x
=
=
=
(
(
(
(
(
(
(
(
(
(
(

=

AX
11 12 1
21 22 2
1 2
n
n
mn
m m
a a a
a a a
a a a
(
(
(
(
(
(

= A
Matrices
Multiplicacin de una Matriz por un Vector

Si A es una matriz de tamao m x n y X es un
vector de tamao n x1, AX puede tambin ser
expresado como:

Lo cual se denomina como una combinacin lineal
de las columnas de A. los coeficientes son los
elementos de X
11 12
1
21 22
2
1 2
1 2
n
n
n
mn
m m
a a
a
a a
a
x x x
a a
a
( (
(
( (
(
( (
(
( (
(
( (
(
( ( (


= + + + AX
Matrices
Multiplicacin de Matrices

Sea A = [ a
ij
] una matriz de tamao m x n y sea
B = [ b
ij
] una matriz de tamao n x p. El producto
de A por B es igual a una matriz C de tamao
m x p (AB = C = [ c
ij
]), definida por:

c
ij
= a
ik
b
kj
k=1
n

= a
i1
b
1j
+a
i2
b
2 j
+ +a
in
b
nj
for i =1,2, ,m j =1, 2, , p
Matrices
Multiplicacin de Matrices

Comentarios

BA es definida si slo si p = m
Si p = m tal que BA es definida, entonces BA es una
matriz de tamao n x n y AB es una matriz de tamao
m x m, i.e. diferentes tamaos
Si AB y BA son del mismo tamao, estas pueden no
ser iguales, i.e. lo que muestra que no es comutativa
Matrices
Sistemas de Ecuaciones

Considere



Defina



Exprese el sistema como AX = B

a
11
x
1
+a
12
x
2
+ + a
1n
x
n
= b
1
a
21
x
1
+a
22
x
2
+ +a
2n
x
n
= b
2
a
m1
x
1
+a
m2
x
2
+ +a
mn
x
n
= b
m
11 12 1
1 1
21 22 2
2 2
1 2
n
n
mn
n m m m
a a a
x b
a a a
x b
a a a
x b
( ( (
( ( (
( ( (
( ( (
( ( (
( ( (

= = = A X B
Matrices
Sistema de Ecuaciones

Donde la solucin del sistema involucra los
valores de a y b unicamente, por lo cual se
podra trabajar con la matriz aumentada
11 12 1 1
21 22 2 2
1 2
n
n
mn m
m m
a a a b
a a a b
a a a b
(
(
(
(
(
(

Matrices
Matriz Transpuesta

Sea A = [ a
ij
] una matriz de tamao m x n. La
Matriz Transpuesta de A, denotada por A
T
, es A
T

= [ a
ij
T
] una matriz de tamao n x m definida por
a
ij
T
= a
ji
Matrices
Teorema (Suma de Matrices) Sea A, B y C
matrices de tamao m x n

1) A + B es una matriz de tamao m x n

2) A + (B + C) = (A + B) + C

3) Sea
m
0
n
una matriz nula de tamao m x n tal que
A +
m
0
n
=
m
0
n
+ A = A para cualquier
matriz A

4) Para cualquier matriz A de tamao m x n, D es
una matriz unica de tamao m x n tal que A + D =
D + A =
m
0
n


5) A + B = B + A
Matrices
Teorema (Multiplicacin de Matrices)

a) Si A, B y C son matrices de tamaos
apropiados, entonces A ( BC ) = ( AB ) C

b) Si A, B y C son matrices de tamao
apropiados, entonces ( A + B ) C = AC + BC

c) Si A, B y C son matrices de tamao apropiado,
entonces C ( A + B ) = CA + CB
Matrices
Propiedades de Multiplicacin de una Matriz por un
Escalar

Si r y s son nmeros reales y A y B son matrices,
Entonces:

r ( sA ) = ( rs ) A
( r + s ) A = rA + sA
r ( A + B ) = rA + rB
A ( rB ) = r ( AB ) = ( rA ) B
Matrices
Propiedades de la Matriz Transpuesta

Si r es un escalar y A y B son matrices, entonces:

( A
T
)
T
= A

( A + B )
T
= A
T
+ B
T


( AB )
T
= B
T
A
T

( rA )
T
= rA
T

Matrices
Matrices Especiales

Una matriz A = [ a
ij
] de tamao n x n es llamada
una Matriz Diagonal si a
ij
= 0 para i j, i.e. los
trminos de la diagonal principal son todos cero
Una Matriz Escalar es una Matriz Diagonal
cuando los elementos de la diagonal son todos
iguales
La matriz Escalar I
n
= [ a
ij
], donde a
ii
= 1 y a
ij
= 0
para i j es llamada Matriz Identidad de tamao
n x n. Sea A una matriz cualquiera de tamao m x
n, entonces:
A I
n
= A y I
m
A = A
Matrices
Matrices Especiales

Matriz Potencia: Si A es una matriz de tamao n x
n y p es un entero positivo, puede definirse:



Si A es una matriz de tamao n x n y p=0, adopte
la conversin:
factors
p
p
= A AA A

A
0
= I
n
Matrices
Matrices Especiales

Las siguientes son leyes de exponentes para
valores de p y q no negativos y una matriz A de
tamao n x n
1 ) A
p
A
q
= A
p + q

2 ) ( A
p

)
q
= A
pq

Precausin.

1 ) Esta definida A
p
para enteros negativos
de p?
2 ) Se puede afirmar que ( AB

)
p
= A
p
B
p
?
Matrices
Matrices Especiales

Matriz Triangular Superior: Una matriz A = [ a
ij
] de
tamao n x n es llamada Matriz Triangular Superor si
a
ij
= 0 para i > j
Matriz triangular Inferior: Una matriz A = [ a
ij
] de
tamao n x n es llamada Matriz Triangular Inferior si
a
ij
= 0 para i < j

Nota:
Una matriz diagonal es triangular superior e inferior
La matriz nula de tamao n x n es triangular superior e
inferior
Matrices
Matrices Especiales

Matriz Simetrica: Una matriz A es llamada
simetrica si A
T
= A
Matriz Simetrica : Una matriz A es llamada skew-
simetrica si A
T
= A
Comentario - si A es skew-simetrica, entonces
los elementos de la diagonal de A son cero
Comentario - hay matrices cuadradas A puede
escribirse como la suma de una matriz simetrica
y una matriz skew-simetrica
( ) ( )
T T
symmetric skew-symmetric
1 1
2 2
= + + A A A A A
Matrices
Matrices Especiales

Matriz No Singular: Una matriz A de tamao n x n
es llamada no singular invertible si existe una
matriz B de tamao n x n tal que AB = BA = I
n


Comentarios

Si B existe, entonces B es llamada la inversa de A
Si B no existe, entonces A es llamada singular no
invertible
Matrices
Matrices Especiales

Teorema Si la inversa de una matriz existe,
entonces la inversa es nica

Notacin - Si A es una matriz no singular. La
inversa de A es denotada por A
1


Comentario Para matrices no singulares, A,
puede definirse A elevada a una potencia negativa,
como A
k
= ( A
1
)
k
para k > 0?
Matrices
Matrices Especiales

Teorema - Si A y B son ambas matrices singulares,
entonces el producto AB es no singular y
( AB )
1
= B
1
A
1

Teorema - Si A
1
, A
2
, , A
r
son matrices no
singulares, entonces A
1
A
2
A
r
es no singular y

A
1
A
2
A
r
( )
1
=A
r
1
A
r1
1
A
2
1
A
1
1
Matrices
Matrices Especiales

Teorema - Si A es una matriz no singular,
entonces A
1
es no singular y ( A
1
)
1
= A

Teorema - Si A es una matriz no singular,
entonces A
T
es no singular y ( A
T
)
1
= ( A
1
)
T


Matrices
Sistemas Lineales y Matriz inversa

Un sistema de n ecuaciones lineales con n
incgnitas puede ser escrito como AX = B, donde A
es una matriz de tamao n x n. Si A es no singular,
entonces A
1
existe y el sistema puede ser resuelto
al multiplicar ambos lados por A
1


A
1
( AX ) = A
1
B ( A
1
A )X = A
1
B X = A
1
B


Determinante
Mtodo de Expansin

Sea A = [ a
ij
] una matriz de tamao n x n. El
Determinante de A es definido como


donde la sumatoria son todas las permutaciones
j
1
j
2
j
n
de S = { 1, 2, , n }. El signo es + si j
1
j
2

j
n
es una permutacin par y es si j
1
j
2
j
n
es
una permutacin impar
( ) ( )
1 2
1 2
det
n
nj
j j
a a a =

A
Determinante
Comentarios

det( A ) es una funcin desde el conjunto de
matrices de tamao n x n en los nmeros reales
Cada trmino de det( A )
subndices de filas en el orden de los Naturales y
subndices de columna en el orden de j
1
j
2
j
n
.
As cada trmino es un producto de n elementos
de A, con exactamente una entrada de cada fila
de A y exactamente una entrada de cada
columna de A.
det( A ) en tambin escrito como
( )
1 2
1 2
n
nj
j j
a a a
A
Determinante
Ejemplo

Sea A = [ a
11
] una matriz de tamao 1x1,
entonces el det( A ) = a
11


Sea una matriz de tamao 2x2,

entonces el det( A ) = a
11
a
22
- a
12
a
21
11 12
21 22
a a
a a
(
(
(

= A
Determinante
Ejemplo

Sea una matriz de tamao
3x3,


entonces el det( A ) = a
11
a
22
a
33
+ a
12
a
23
a
31
+ a
13
a
21
a
32

- a
11
a
23
a
32
- a
12
a
21
a
33
+ a
13
a
22
a
31

11 12 13
21 22 23
31 32 33
a a a
a a a
a a a
(
(
(
(

= A
Determinante
Mtodo de Cofactor

Sea A = [ a
ij
] una matriz de tamao n x n. Sea
M
pq
una submatriz de A de tamao ( n 1 ) x ( n
1 ) obtenida al borrar la p-esima y la q-esima
columna de A. El determinante det( M
pq
) es
llamado determinante menor de a
pq


Sea A = [ a
ij
] una matriz de tamao n x n. El
cofactor A
pq
de a
pq
es definido como A
pq
= (1)
p+q

det( M
pq
)
Determinante
Mtodo de Cofactor

Teorema Sea A = [ a
ij
] una matriz de tamao n
x n. Entonces:

det( A ) = a
i1
A
i1
+ a
i2
A
i2
+ + a
in
A
in
(expansin
del det( A ) con respecto a la fila i )

det( A ) = a
1j
A
1j
+ a
2j
A

2j
+ + a
nj
A

nj
(expansin
del det( A ) con respecto a la columna j )
Determinante
Comentario

Examine patron de los signos del trmino ( 1 )
p+q






Cuando usamos cofactores, no tenemos que evaluar
evaluate ( 1 )
p+q
, slo recordar el patron
(
(
(
(

+ +
+
+ +
(
(
(
(
(

+ +
+ +
+ +
+ +
n = 3 n = 4
Determinante
Teorema Sea una matriz cuadrada A. Entonces el
det( A ) = det( A
T
)

Teorema Si la matriz B es obtenida desde la
matriz A por intercambio de dos filas (columnas) de
A, entonces det( B ) = - det( A )

Teorema Si dos filas (columnas) de A son iguales,
entonces det( A ) = 0

Teorema Si una fila (columna) de A consiste
completamente de ceros, entonces det( A ) = 0
Determinante
Teorema Si B es obtenida desde A por
multiplicacin de una fila (columna) de A por un
nmero c, entonces det( B ) = c det( A )

Teorema Si B = [ b
ij
] es obtenida desde A = [ a
ij
]
por adicionar a cada elemento de la r-esima fila
(columna) de A, c veces el elemento
correspondiente de la s-esima fila (columna), con r
s, de A, entonces det( B ) = det( A )

Teorema - Sea A = [ a
ij
] una matriz triangular
superior (inferior), entonces det( A ) = a
11
a
22
a
nn
.
Que es, el producto de los elementos de la diagonal
principal
Determinante
Teorema Sea E una matriz elemental. Entonces
det(EA) = det( E )det( A ) y det( AE ) = det( A )det( E )

Teorema Sea A una matriz de tamao n x n.
Entonces A es no singular si y slo si det( A ) 0

Teorema Sea A una matriz de tamao n x n,
entonces Ax = 0 tiene una solucin no trivial si y
slo si det( A ) = 0

Teorema Si A y B son matrices de tamao n x n,
entonces det( AB ) = det( A )det( B )
Determinante
Teorema Si A es no singular, entonces
det(A
1
) = 1 /det( A )

Teorema Si A y B son matrices similares,
entonces det( A ) = det( B ). A y B son similares si
existe una matriz no singular P tal que B = P
1
A P