Hans C. Muller S.C.

Una Introduccion al Analisis Numerico

Hans C. Muller S.C.

Una Introduccion al Analisis Numerico

Con 55 guras

ii

Hans C. Muller Santa Cruz Departamento de Matematicas Facultad de Ciencias y Tecnolog a Universidad Mayor de San Simon Casilla 992, Cochabamba, Bolivia e-mail hans@mat.umss.bo

Prologo
La Facultad de Ciencias y Tecnolog a tiene 17 a~os de vida, per odo que n ha sido fruct fero en el ambito universitario, porque se han creado carreras tecnologicas, como cient cas, haciendo enfasis a una investigacion cient ca seria como un mecanismo de garantizar una excelencia academica. La Carrera de Matematicas, una de nuestras Carreras de reciente creacion, esta inscrita dentro este marco. Ahora bien, la Universidad Mayor de San Simon consciente de esta situacion, ha conseguido convenios de cooperacion internacional, como es el caso del Programa MEMI, Programa de Mejoramiento de la Ense~anza n de la Matematica y la Informatica. De los objetivos principales de este programa es fortalecer el area de las matematicas, incentivar la difusion de las diferentes ramas de las matematicas en el medio universitario y fuera de este. La Universidad y sus autoridades, dentro de sus pol ticas academicas y de investigacion, han tenido la vision de conseguir los servicios de los mejores profesionales en esta disciplina y Hans Muller es uno de ellos. El autor del libro, Hans Muller Santa Cruz, es un joven matematico boliviano que ha regresado a su pa s para compartir los conocimientos adquiridos en en la Universidad de Ginebra, Suiza. Actualmente es el Coordinador del Programa Magister en Matematicas, programa implementado de manera conjunta entre la Universidad Mayor de San Simon y la Universidad Catolica del Norte, Chile. Ha dictado un curso de Elementos Finitos, destinado a los docentes en nuestra superior Casa de Estudios; en La Paz, bajo invitacion ha impartido cursos tutoriales en la Academia de Ciencias en temas relacionados a las matematicas aplicadas. El y otros profesionales de su area, estan transformando la manera de hacer matematicas en la Facultad de Ciencias y Tecnolog a. Los topicos tratados en este libro estan muy relacionados con los cambios estructurales que ha ocasionado la introduccion masiva de sistemas informaticos. En efecto, la utilizacion masiva del computador ha permitido al Hombre efectuar calculos que en otra epoca hubiese sido impensable realizarlos. En la actualidad es muy corriente simular numericamente experiencias, que en laboratorio son muy complicadas, costosas o peligrosas, o simplemente imposible de experimentarlas. Los problemas de optimizacion son abordables gracias a la utilizacion del ordenador y no faltan situaciones en las cuales el uso de estos dispositivos de calculo, no solamente son de gran ayuda, sino indispensables. El Analisis Numerico es la rama de las Matematicas, cuyo campo de accion es el estudio y analisis de los diferentes algoritmos

iv

Prologo

y metodos numericos que se utilizan para resolver los problemas mediante computadoras. El libro \Una Intruduccion al Analisis Numerico" presenta los temas basicos del Analisis Numerico de una manera rigurosa, permitiendo que el lector pueda adquirir los conocimientos matematicos necesarios para profundizar en topicos mas especializados o simplemente pueda concebir e implementar metodos numericos de una manera correcta y optima. Finalmente, mi esperanza es que este libro sea el inicio de una larga serie de otras publicaciones de alto nivel que ofrezca el autor y su unidad academica. Cochabamba, septiembre de 1996

Ing. Alberto Rodr guez Mendez Rector de la Universidad Mayor de San Simon

Prefacio
Este libro nace ante el vacio existente de una bibliograf a en espa~ol que n trate los temas capitales del Analisis Numerico. El nombre que lleva, \Una Introduccion al Analisis Numerico", se debe esencialmente al caracter que deseo que tenga este libro. El Analisis Numerico es una disciplina de las Matematicas en gran crecimiento gracias a la utilizacion masiva de medios informaticos. D a que pasa es mas corriente el tratamiento numerico en las Ciencias, como en la Tecnolog a; el modelaje, la simulacion numerica son moneda corriente. Ahora bien, toda persona que pretenda tener como herramienta de trabajo, los metodos numericos, debe conocer los topicos introductorios del Analisis Numerico que son: Sistemas Lineales, Interpolacion, Resolucion de Ecuaciones no Lineales, Calculo de Valores Propios y Solucion Numerica de Ecuaciones Diferenciales, porque tarde o temprano se topara con alguno de estos temas. Siguiendo la l nea trazada por este libro, este contiene siete cap tulos: el primero de caracter introductorio, donde se da los conceptos basicos de error y estabilidad, seguido de un ejemplo mostrando que la aritmetica del punto otante no es un impedimento para efectuar calculos de precision arbitraria; el segundo cap tulo trata sobre los problemas lineales mas comunes y los metodos de solucion de estos; el tercer cap tulo aborda el tema de interpolacion numerica y extrapolacion, introduciendo el estudio de los splines cubicos; el cap tulo IV analiza los problemas no lineales y los metodos mas e cientes de resolucion de estos; en el cap tulo V se estudia el problema de valores propios y la implementacion de metodos numericos para el calculo de valores propios; el cap tulo sexto trata de la integracion numerica y la transformada rapida de Fourier y nalmente el cap tulo VII estudia los problemas diferenciales y los metodos numericos de resolucion mas usuales de estos problemas. Practicamente el contenido de este libro ven los estudiantes de segundo a~o de las Carreras de Matematicas e Informatica de la Universidad de n Ginebra, Suiza, Universidad en la cual he sido formado. El pre-requisito para un buen aprovechamiento de este libro es conocer bien los principios basicos del Analisis Real y Complejo, como tambien tener una buena base de Algebra Lineal. Por consiguiente, este libro esta destinado a estudiantes universitarios que siguen la asignatura de Analisis Numerico, como as mismo toda persona interesada en Analisis Numerico que tenga los pre-requisitos y que desea cimentar sus conocimientos en esta disciplina. Este libro puede

vi

Prefacio

ser utilizado como texto base o bien como complemento bibliogra co. Debo agredecer a mis profesores de la Universidad de Ginebra, E. Hairer y G. Wanner cuyos cursos han servido de base para la elaboracion de este libro. Por otro lado, sin el apoyo en material de trabajo del Programa MEMI, Programa de Mejoramiento de la Ense~anza de las Matematicas e n Informatica, de la Universidad Mayor de San Simon este libro no habr a existido. As mismo agradezco a mi familia, mis colegas y amigos que seguieron con inters la elaboracion de este libro. El libro ha sido transcrito en TEX y las gra cas realidas en las subrutinas gra cas FORTRAN que G. Wanner me las cedio muy gentilmente. La transcripcion, como la ejecucion de los programas en sido realizados sobre una WorkStation HP-9000. Posiblemente este libro contenga muchos errores, me gustar a que los hagan conocer, para que en una segunda edicion estos sean corregidos. Octubre, 1995 Hans C. Muller S.C.

Contenido
I. Preliminares
I.1 Algoritmos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 2 I.2 Estabilidad : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8
Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 14 I.3 Un ejemplo: Calculo de PI : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15 Normas de Vectores y Matrices : : : : : : : : : : : : : : : : : : : : : : : : : : : : La Condicion de una Matriz : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos Directos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : El Algoritmo de Gauss : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : El Algoritmo de Cholesky : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos Iterativos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos de Jacobi y Gauss-Seidel : : : : : : : : : : : : : : : : : : : : : : : : : El Teorema de Perron-Frobenius : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo de Sobrerelajacion SOR : : : : : : : : : : : : : : : : : : : : : : : : : : : Estudio de un Problema Modelo : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos Minimizantes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo del Gradiente : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo del Gradiente Conjugado : : : : : : : : : : : : : : : : : : : : : : : : : : Polinomios de Chebichef : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo del Gradiente Conjugado Precondicionado : : : : : : : : : Resultados Numericos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : M nimos Cuadrados : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : La descomposicion QR : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : La Pseudo-Inversa de una Matriz : : : : : : : : : : : : : : : : : : : : : : : : : : Error del Metodo de los M nimos Cuadrados : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 25 29 33 35 36 43 47 48 48 52 56 59 64 66 68 69 73 75 78 81 83 87 92 96 101 Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6

II. Sistemas Lineales

II.2 II.3

II.1 Condicion del Problema Lineal : : : : : : : : : : : : : : : : : : : : : : : : : : 25

II.4

II.5

viii

Contenido

III. Interpolacion

III.1 Interpolacion de Lagrange : : : : : : : : : : : : : : : : : : : : : : : : : : : : 104

Bases Teoricas : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Construccion del Polinomio de Interpolacion : : : : : : : : : : : : : : El Error de Interpolacion : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Polinomios de Chebichef : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Estudio de los Errores de Redondeo : : : : : : : : : : : : : : : : : : : : : : Convergencia de la Interpolacion : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : III.2 Splines Cubicos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Construccion del Spline Interpolante : : : : : : : : : : : : : : : : : : : : : : El Error de la Aproximacion Spline : : : : : : : : : : : : : : : : : : : : : : : Aplicacion de Spline : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : III.3 Extrapolacion : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ecuaciones Resolubles por Radicales : : : : : : : : : : : : : : : : : : : : : : Ecuaciones No Resolubles por Radicales : : : : : : : : : : : : : : : : : : Localizacion de Ceros : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo de Newton : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Sucesiones de Sturm : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : IV.2 Metodos Iterativos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Posicion del Problema : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo de la Falsa Posicion : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Sistema de Ecuaciones : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Un Metodo Iterativo Simple : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : IV.3 Metodo de Newton : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : El Teorema de Newton-Misovski : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo de Newton Simpli cado : : : : : : : : : : : : : : : : : : : : : : : : : : Metodo de Newton con Relajacion : : : : : : : : : : : : : : : : : : : : : : : : Aproximacion de Broyden : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : IV.4 Metodo de Gauss Newton : : : : : : : : : : : : : : : : : : : : : : : : : : : : Convergencia del Metodo de Gauss-Newton : : : : : : : : : : : : : : : Modi caciones del Metodo de Gauss-Newton : : : : : : : : : : : : : El Metodo de Levenber-Marquandt : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

104 106 111 113 115 119 129 131 133 136 142 143 145 150 152 155 155 157 159 161 163 163 165 168 169 173 174 179 184 193 197 199 203 204 207 210 211

IV. Ecuaciones No Lineales

IV.1 Ecuaciones Polinomiales : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 152

Contenido

ix 217 221 223 223 227 229 233 237 241 248 249 250 256 258 259 263 264 267 269 273 282 284 287 288 290 292 293 297 300 300 303 307 311

V. Calculo de Valores Propios

V.1 Teor a Clasica y Condicion del Problema : : : : : : : : : : 214

La Condicion del Problema a Valores Propios : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : V.2 Determinacion de Valores Propios : : : : : : : : : : : : : : : : : : : El Metodo de la Potencia : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Formas Tridiagonales y Formas de Hessenberg : : : : : : : : : : : : Teorema de Sturm y el Algoritmo de la Biseccion : : : : : : : : : Generalizacion del Metodo de la Potencia : : : : : : : : : : : : : : : : : El Metodo QR : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

VI. Integracion Numerica

Formulas de Cuadratura : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : El Orden de una Formula de Cuadratura : : : : : : : : : : : : : : : : : Estimacion del Error : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : VI.2 Cuadraturas de Orden Elevado : : : : : : : : : : : : : : : : : : : : : : Polinomios Ortogonales : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Los Polinomios de Legendre : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Las Formulas de Cuadratura de Gauss : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : VI.3 Implementacion Numerica : : : : : : : : : : : : : : : : : : : : : : : : : : : : Tratamiento de Singularidades : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : VI.4 Transformacion de Fourier : : : : : : : : : : : : : : : : : : : : : : : : : : : : Estudio del Error : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Interpolacion Trigonometrica : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Transformacion Rapida de Fourier FFT : : : : : : : : : : : : : : : : : : Aplicaciones de FFT : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

VI.1 Bases Teoricas : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 244

VII. Ecuaciones Diferenciales

VII.1 Generalidades : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 296

Teoremas de Existencia y Unicidad : : : : : : : : : : : : : : : : : : : : : : : Problemas con Valores en la Frontera : : : : : : : : : : : : : : : : : : : : : Diferenciabilidad respecto a los Valores Iniciales : : : : : : : : : : Simple Shooting : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Shooting Multiple : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

Contenido

VII.2 Metodo de Euler : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 313

Efectos de los Errores de Redondeo : : : : : : : : : : : : : : : : : : : : : : : Estabilidad del Metodo de Euler : : : : : : : : : : : : : : : : : : : : : : : : : Metodo de Euler Imp cito : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : VII.3 Metodos de Runge-Kutta : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Construccion de un Metodo de Orden 4 : : : : : : : : : : : : : : : : : : Metodos Encajonados : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Soluciones Continuas : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Convergencia de los Metodos de Runge-Kutta : : : : : : : : : : : : Experiencias Numericas : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : VII.3 Metodos Multipasos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos de Adams Expl citos : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos de Adams Impl citos : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos Predictor-Corrector : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Metodos BDF : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Estudio del Error Local : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Estabilidad : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Convergencia de los Metodos Multipaso : : : : : : : : : : : : : : : : : : Ejercicios : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 317 319 321 322 323 327 330 333 335 338 340 341 341 343 344 345 346 348 350 353

Bibliograf a : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 355 Indice de S mbolos : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 359 Indice Alfabetico : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 361

Cap tulo I Preliminares

Con la utilizacion masiva de sistemas informaticos en la resolucion de problemas a todo nivel, el Analisis Numerico ha tenido un gran desarrollo en las ultimas decadas, como una rama integrante de las Matematicas. En este primer cap tulo se expondra las nociones de base que sustentan el Analisis Numerico, para ser utilizadas en los cap tulos posteriores. La primera seccion estara dedicada a estudiar los algoritmos como una composicion de operaciones elementales, partiendo de un dispositivo ideal de calculo. Se analizara las nociones de e ciencia y error de un algoritmo. En la segunda seccion se analizara el problema algor tmico a partir de los dispositivos materiales con que se cuenta en la actualidad, es decir ordenadores o computadoras. En esta seccion se estudiara la representacion en punto otante de un numero real y su redondeo en la computadora. Se introducira la nocion de precision de una computadora y la relacion de esta con el concepto de estabilidad, en sus diferentes versiones, de un algoritmo. En la tercera y ultima seccion de este cap tulo, se vera que las limitaciones impuestas por la representacion en punto otante, no es una restriccion para calcular con la precision que se requiera. Prueba de esto, sera calculado, como un ejemplo ilustrativo, con 10000 decimales de precision.

I.1 Algoritmos
En esta seccion se supondra que se cuenta con un dispositivo ideal de calculo, es decir una computadora de precision exacta, situacion que no sucede en la realidad. El cuerpo de base sera R, a menos que se especi que lo contrario. Este dispositivo esta provisto de ciertas operaciones cuya accion se efectua en un tiempo nito, por ejemplo es capaz de realizar las 4 operaciones aritmeticas elementales, mas algunas como la radicacion, la exponenciacion y las otras funciones elementales que se estudian en un curso de Calculo I. Por consiguiente, se tiene la primera de nicion. De nicion I.1.1.- Una operacion elemental es una operacion matematica o funcion cuya accion se la efectua en un tiempo nito y que ademas el dispositivo ideal la puede realizar. Inicialmente se supondra que las cuatro operaciones aritmeticas como: la adicion, la multiplicacion, la sustraccion y la division son posibles en este dispositivo de calculo. De esta manera es posible evaluar toda funcion polinomial, toda funcion racional, en una cantidad nita de pasos o composicion de operaciones elementales. De nicion I.1.2.- Un algoritmo es una sucesion nita de operaciones elementales. Si se denota por fi una operacion elemental, un algoritmo es la composicion de n operaciones elementales, es decir

f = fn fn

f2 f1 :

(I:1:1)

Por otro lado, el dispositivo de calculo con el que se cuenta tiene la nalidad de evaluar la o las soluciones de un problema matematico, siempre que sea posible hacerlo. Ahora bien, lo que cuenta en este estudio es el resultado, de donde la: De nicion I.1.3.- Un problema es darse un dato x 2 Rn y obtener un resultado P (x) 2 R. En consecuencia, son problemas todas las funciones cuyo dominio es un espacio vectorial real de dimension nita, cuya imagen esta incluida en la recta real. Una funcion cuya imagen esta incluida en un espacio de dimension mas grande que 1, puede ser interpretada como un conjunto de problemas, donde cada problema es la funcion proyeccion correspondiente. Las ecuaciones pueden ser vistas como problemas, pero antes aclarando cual de las soluciones se esta tomando.

I.1 Algoritmos

Es necesario recalcar que problema y algoritmo son conceptos diferentes, aunque de alguna manera ligados. Considerese el problema siguiente,

P (x) = an xn + an 1 xn 1 +

+ a1 x + a0 :

(I:1:2)

P (x) puede ser obtenido de muchas maneras, en particular utilzando los 2

x1 = x; xn = x xn 1 ; para n 2:
(I:1:3)

siguientes algoritmos: El primero consiste en evaluar el polinomio (I.1.2) tal como esta de nido, con la convencion que:

La segunda manera de evaluar el polinomio consiste en utilizar el algoritmo de Horner, el cual esta dado por:

q0 (x) = an ; q1 (x) = q0 (x)x + an 1 ; q2 (x) = q1 (x)x + an 2 ; .. . qn (x) = qn 1 (x)x + a0 :

(I:1:4)

Como puede observarse ambos algoritmos evaluan el polinomio P (x), sin embargo en el primero se requiere: 1 + + n 1 multiplicaciones para evaluar las potencias, n multiplicaciones para evaluar los terminos de la forma ai xi y nalmente n adiciones, lo cual hace un total de

n(n + 3) operaciones elementales. (I:1:5) 2 El algoritmo de Horner requiere a cada paso de una multiplicacion y una adicion lo cual es igual a
2n operaciones elementales. (I:2:6) Por lo tanto, puede observarse claramente que el algoritmo de Horner es mas e ciente que el primero, pues la implementacion de este efectua menos operaciones elementales. El concepto de e ciencia de un algoritmo esta ligado por consiguiente al costo en operaciones elementales que se requiere para ejecutar un algoritmo. Ahora bien, en la realidad una computadora requiere menos tiempo para evaluar una adicion que para una multiplicacion. Cada operacion elemental toma cierto tiempo en efectuarse, que en general depende de la computadora y el lenguaje en el que esta escrito el programa. Es

I Preliminares

por eso, que es mas conveniente medir la e ciencia en terminos de tiempo ejecutado, en lugar del numero de operaciones elementales ejecutadas. Con lo argumentado se puede formular una primera de nicion de e ciencia. De nicion I.1.4.- El costo del algoritmo fn fn , esta dado por

C = m1 + m2 + : : : + mn ; (I:1:7) donde mi es el tiempo de ejecucion de fi . Si C1 y C2 son los costos en tiempo de dos algoritmos que resuelven el mismo problema, se dira que el primer algoritmo es mas e ciente que el segundo si C1 C2 . Tal como se dijo al inicio de esta seccion, el dispositivo ideal con el que se cuenta, puede efectuar una cantidad nita de operaciones elementales. Suponiendo nuevamente, que solamente se cuenta con las cuatro operaciones aritmeticas, las unicas funciones que pueden evaluarse utilizando un algoritmo son las funciones polinomiales y racionales. Ahora bien, existe una cantidad ilimitada de funciones y se puede mostrar que no existe ningun algoritmo que sea la composicion de adiciones, multiplicaciones, sustracciones o divisiones, que permita calcular una raiz cuadrada; evaluar funciones trigonometricas, exponenciales o logar tmicas. Sin embargo, existen procedimientos matematicos que permiten aproximar estas funciones de manera arbitraria. Los mas comunmente utilizados: son las series de Taylor, las fracciones continuas y algunos metodos iterativos. Todos estos metodos estan sustentados en las nociones de l mite, de continuidad, derivabilidad dados en los cursos de Calculo y Analisis. A continuacion se vera un ejemplo ilustrativo, donde se introducira la nocion del error de truncacion. Considerese la funcion exponencial, cuyo desarrollo en serie de Taylor esta dada por ex =
1 X xk
k=0 k !

(I:1:8)

Es evidente que ex no puede evaluarse en un numero nito de pasos, para un x dado, sin embargo en lugar de evaluar ex , uno se puede contentar evaluando una cantidad nita de terminos de la serie de Taylor, es decir

p(x) =

k=0 k !

n X xk

(I:1:9)

para un n jado de antemano. La diferencia entre ex y p(x) es el error de truncacion de ex respecto a p(x). Este error de truncacion es del orden O(xn+1 ) cuando x tiende a 0. El nombre de truncacion proviene del hecho que para evaluar ex se ha despreciado una parte de la serie. Por consiguiente, el error de truncacion puede de nirse como:

I.1 Algoritmos

De nicion I.1.5.- Sean P (x), P 0(x) dos problemas. El error de truncacion de P (x), respecto de P 0 (x) esta dado por P (x) P 0 (x): (I:1:10)
El nombre que tiene este error, como se dijo mas arriba, es debido a que la la serie de Taylor es truncada a un numero nito de terminos. No obstante, existe una gran diversidad de metodos que aproximan a la solucion del problema utilizando otro tipo de argumentos, en este caso es mas conveniente utilizar el nombre de error de aproximacion o error del metodo; de todas formas es cuestion de gusto. El concepto de e ciencia ha sido de nido para aquellos problemas donde se puede encontrar la solucion mediante un algoritmo. Para aquellos problemas, donde no es posible encontrar un algoritmo que de la solucion y suponiendo que es posible aproximar la solucion de manera arbitraria mediante un metodo algor tmico, la e ciencia esta ligada al costo en operaciones, como tambien al error del metodo. En esta situacion la e ciencia es un concepto mas subjetivo que depende de alguna manera del usuario, pues existen problemas donde el error de aproximacion debe ser lo mas peque~o n posible, y otros problemas donde la exactitud no es un requisito primordial.

Ejemplos

1.- Considerese el problema, determinar . Utilizando la identidad arctan 1 = 4 y que la serie de Taylor en el origen esta dada por 1 X ( 1)k 2k+1 arctan x = 2k + 1 x ; (I:1:11) k=0 se puede obtener un metodo que aproxime , pero el problema de este metodo es su convergencia demasiado lenta; es mas, para x = 1 la serie (I.1.11) no es absolutamente convergente. Otro metodo que permitir a aproximar , consiste en utilizar el hecho que arccos(1=2) = 3 y desarrollando arccos en serie de Taylor, se obtiene un metodo cuya convergencia es mucho mas rapida. p 2.- Considerese el problema, determinar 2. La primera manera de determip nar 2 es tomar un intervalo cuya extremidad inferior tenga un cuadrado inferior a 2 y la extremidad superior tenga un cuadrado mas grande a 2. Se subdivide el intervalo en dos subintervalos de igual longitud, se elige aquel cuyas extremidades al cuadrado contengan 2. En la tabla siguiente se da algunas de las iteraciones de este metodo.

6
Iteracion 0 1 2 3 4 5 16 17 18 19 20 Ext. Inferior 1.0 1.25 1.375 1.375 1.40625 1.40625 1.41420745849609 1.41421127319336 1.41421318054199 1.41421318054199 1.41421318054199 Ext. Superior 1.5 1.5 1.5 1.4375 1.4375 1.421875 1.41421508789063 1.41421508789063 1.41421508789063 1.41421413421631 1.41421365737915

I Preliminares

La segunda posibilidad es utilizar la sucesion de nida recursivamente por: a0 = 1; an+1 = 1 an + a1 : 2 n Esta sucesion es convergente p se deja al lector la demostracion para y que veri que que el l mite es 2. En la tabla siguiente se tiene los seis primeros terminos de la sucesion. Efectuando unas cuantas iteraciones se obtiene:
Iteracion 0 1 2 3 4 5 1.0 1.5 1.41666666666667 1.41421568627451 1.41421356237469 1.4142135623731

an

Puede observarse inmediatamente, que el segundo metodo para determinar p 2 es mas e ciente que el primer algoritmo.

Ejercicios
1.- Supongase que, el dispositivo de calculo, con el que se cuenta, puede efectuar la division con resto; es decir, para a; b enteros no negativos, con b 6= 0, el dispositivo calcula p; q satisfaciendo: a = pb + r y 0 r < b: a) Implementar un algoritmo que calcule el maximo comun divisor de a y b. b) Utilizando el inciso precedente, implementar otro algoritmo que permita calcular m; n 2 Z, tales que mcd(a; b) = ma + nb:

I.1 Algoritmos

c) Estudiar la situacion mas desfavorable, aquella donde el costo en operaciones es el mas alto. Deducir una estimacion de la e ciencia del algoritmo. 2.- Suponiendo que, el dispositivo de calculo puede efectuar la division con resto, con la particularidad siguiente:

a = pb + r

jbj < r jbj : 2 2

a) Mostrar que el algoritmo implementado en el ejercicio 1a), puede implementarse para esta nueva division con resto. b) Veri car que, el nuevo algoritmo es mas e ciente que aquel con division con resto normal. Encontrar una estimacion de costo del algoritmo. 3.- Para el polinomio p(x) = a0 + a1 x + + an xn , el algoritmo de Horner (I.1.9) esta de nido por:

bn = an ; bi = ai + x0 bi+1 ; i = n 1; : : : ; 1; 0:
Se plantea q(x) = b1 + xb2 + + xn 1 bn . a) Mostrar que p0 (x0 ) = q(x0 ). Veri car que p(x) = b0 + (x x0 )q(x). b) Generalizar el algoritmo de Horner, de tal forma que se pueda calcular p(x0 ) y p0 (x0 ) al mismo tiempo. 4.- Una regla y compas constituyen un dispositivo de calculo. Supongase que se conocen dos puntos O y P tales que OP sea de longitud 1. a) Mostrar que, ademas de las 4 operaciones aritmeticas elementales, la radicacion puede obtenerse a partir de un numero nito de manipulaciones de regla y compas. p p b) Construir 1 + p 10. c) Intentar construir 3 2. >Es posible?

I.2 Estabilidad
En esta seccion, a diferencia de la precedente, se analizara el problema de los algoritmos y metodos numericos desde el punto de vista de un dispositivo material real, mas conocido como computadora. Para comenzar existen esencialmente dos tipos de numeros en la aritmetica de un ordenador: el tipo entero cuya aritmetica es igual a la de los numeros enteros, con la diferencia que el tipo entero de un ordenador es un conjunto nito, motivo por el cual se tiene que tener cuidado con los over ows en las operaciones aritmeticas; el segundo tipo de numero es el real, en sus diferentes versiones, la idea de este tipo de numero es la representacion de un numero real en punto otante, es decir todo numero real no nulo x se puede escribir de manera unica como

x = a 10b ;

donde jaj < 1; b 2 Z;

(I:2:1)

a se llama mantisa y b el exponente. Los numeros reales solo tienen una representacion parcial en el tipo real de un ordenador por limitaciones f sicas del dispositivo, por consiguiente un numero real estara en una clase de equivalencia de tipo de numero real. Esta representacion de numero real esta dada por la precision de la computadora. Cuando se trabaja sobre un computador, se tiene a disposicion un numero nito de cifras, por ejemplo l, para la mantisa, Si a denota el redondeado de a, se trabaja en realidad con arr(x) = a 10b
en lugar de x. De esta manera, el numero 2 = 1:414213562 : : : esta representado por p arr( 2) = 0:141421356 101 ; si se calcula con l = 8 cifras en base 10. Como se dijo mas arriba, el redondeo esta determinado por la precision de la computadora. Esta precision esta dada por un numero dado por la: De nicion I.2.1.- Se denota por eps, el numero positivo mas peque~o tal n que arr(1 + eps) > 1: (I:2:3) Este numero eps llamado precision de la computadora esta dado por los siguientes hechos: si los calculos se hacen en base 10 y con l cifras en la

(I:2:2)

I.2 Estabilidad

mantisa, se tiene

arr(0: 10{z : 0 49 : : : 101) = 1; | :: } arr(0: 10{z : 0 50 : : : 101) = : 10{z : 1 101 > 1; | :: } | :: }

l l l

deduciendose, por consiguiente

eps = 5:10 l;

(I:2:4)

si se realiza el mismo calculo en base 2, como todas las computadoras lo hacen, se obtiene eps = 2 l : (I:2:5) Para el FORTRAN sobre una HP-9000, se tiene: 4; eps = 2 24 5:96 10 8; 8; eps = 2 55 1:39 10 17; 16; eps = 2 113 9:63 10 35: Ahora bien, un numero real y su representacion en punto otante en una computadora estan relacionados por el: Teorema I.2.2.- Para x 6= 0, se tiene jarr(x) xj eps: (I:2:6) jxj
REAL REAL REAL

Demostracion.- Sea x = a 10b y arr(x) = a 10b. Si se redondea a l cifras signi cativas se tiene ja aj 5 10 l 1;
jarr(x) xj = ja aj 10b jxj jaj 10b por que jaj 1=10:
de donde 5:10 l 1 = 5 10 l = eps 10 1

La estimacion dada por (I.2.6) puede ser escrita bajo la forma

arr(x) = x(1 + ); donde j j eps:

(I:2:7)

Como se vera mas adelante, la relacion (I.2.7) es la base fundamental para todo estudio de los errores de redondeo.

10

I Preliminares

Cuando se trabaja en un computador, se tiene que ser cuidadoso en la solucion de los problemas, pues ya no se resuelve con los datos exactos, si no con los datos redondeados. Considerese la ecuacion de segundo grado p x2 2 2x + 2 = 0; p cuya solucion x = 2 es un cero de multiplicidad 2. Resolviendo en simple precision, la computadora da un mensaje de error, debido a que p arr( 2) = 0:141421 10; p arr(arr( 2)2 2) = 0:119209 10 6 : Como puede observarse, la manipulacion de ciertos problemas utilizando la aritmetica del punto otante puede ocasionar grandes di cultades, como en el ejemplo anterior. Es por eso necesario introducir el concepto de condicion de un problema, el cual esta dado en la: De nicion I.2.3.- Sea P (x) un problema dado por P : Rn ! R. La condicion del problema P es el numero mas peque~o positivo , tal que n jxi xi j eps ) jP (x) P (x)j eps: (I:2:8) jxi j jP (x)j Se dice que el problema P es bien condicionado si no es demasiado grande, sino el problema es mal condicionado. En la de nicion, eps representa un numero peque~o. Si eps es la n precision de la computadora entonces xi puede ser interpretado como el redondeo de xi . Por otro lado, es necesario resaltar que depende solamente del problema, de x y no as del algoritmo con el que se calcula P (x). Para comprender mas sobre la condicion de un problema se analizara los siguientes dos ejemplos.

Ejemplos

1.- Multiplicacion de dos numeros reales. Sean x1 y x2 reales, considerese el problema calcular P (x1 ; x2 ) = x1 x2 . Para los dos valores perturbados x1 = x1 (1 + 1 ); x2 = x2 (1 + 2 ); j i j eps; (I:2:9) se obtiene x1 x2 x1 x2 = (1 + )(1 + ) 1 = + + 1 2 1 2 1 2: x1 x2 Puesto que eps es un numero peque~o, el producto 1 : 2 es despreciable n respecto a j 1 j + j 2 j, de donde x1 x2 x1 x2 2 eps: (I:2:10) x1 x2

I.2 Estabilidad

11

Por consiguiente, = 2. El problema es bien condicionado. 2.- Adicion de numeros reales. Para el problema P (x1 ; x2 ) = x1 + x2 , por analog a al ejemplo precedente, se obtiene (x1 + x2 ) (x1 + x2 ) = x1 1 x2 2 jx1 j + jx1 j eps: (I:2:11) x1 + x2 x1 + x2 jx1 + x2 j Si x1 y x2 son de signos iguales, se tiene = 1, de donde el problema es bien condicionado. +j Pero, si x1 x2 , la condicion = jjxx1 j + xx1jj se convierte en 1 2 una cantidad muy grande. Motivo por el cual el problema esta mal condicionado. Para mejor ilustrar el efecto de condicion muy grande, considerese el siguiente ejemplo numerico. 1 2=50 = 100: 1 x1 = 51 ; x2 = 52 ; para el cual (1=50)2 Realizando el calculo con 3 cifras signi cativas en base 10, se obtiene x1 = :196 10 1, x2 = :192 10 1 y x1 + x2 = :400 10 1. Como las dos primeras cifras son las mismas para x1 y x2 , la adicion las ha hecho desaparecer y no hay mas que una cifra que es signi cativa. El resultado exacto es 1=(51 52) = 0:377 10 3. Respecto a la de nicion de condicion, se debe observar dos situaciones. La primera, si uno de los xi = 0, entonces se tiene xi = 0; la segunda sucede cuando P (x) = 0, la condicion se la calcula pasando al l mite. Una vez de nida la condicion de un problema, el siguiente paso es ver la incidencia que tienen los errores de redondeo en la implementacion de un algoritmo para resolver un problema dado. Tal como se dijo en la seccion precedente, un algoritmo es una sucesion nita de operaciones elementales, es decir P (x) = fn(fn 1 (: : : f2 (f1 (x)) : : :)): (I:2:12) La ampli cacion del error, efectuando la operacion fi , esta dada por la condicion (fi ). Por consiguiente: Proposicion I.2.4.- El algoritmo que resuelve el problema dado por (I.2.12), tiene la estimacion siguiente (P ) (f1 ) (f2 ) (fn ): (I:2:13)

Demostracion.- Por induccion sobre n. Para n = 1, el resultado es trivial.

Supongase, que es cierto para n, por lo tanto, si el problema es de la forma P (x) = fn+1 (fn (fn 1 (: : : f2 (f1 (x)) : : :)));

12 puede escribirse como

I Preliminares

P (x) = fn+1 (P 0 (x));

utilizando la de nicion de condicion se tiene jP 0 (x) P 0 (x)j (P 0 )eps jP 0 (x)j 0 0 ) jfn+1 (Pjf(x)) (P 0f(n+1j(P (x))j x)) n+1

(fn+1 ) (P 0 )eps:

Finalmente utilizando la hipotesis de induccion, se tiene (I.2.13). De nicion I.2.5.- Un algoritmo es numericamente estable, en el sentido de forward analysis, si (f1 ) (f2 ) (fn ) Const (P ) (I:2:14) donde Const no es demasiado grande. La formula (I.2.14) expresa el hecho de que la in uencia de los errores de redondeo durante el calculo de P (x) no es mucho mas grande que la in uencia de los errores en los datos, lo que en realidad es inevitable.

Ejemplo

Sea x = 104 y considerese el problema de calcular 1=(x(1 + x)). Se examinara los dos algoritmos siguientes: El primero de nido por % x & x x(x + 1) ! x(x 1 1) : + & % x+1 Las operaciones efectuadas son muy bien condicionadas, por consiguiente, este algoritmo es numericamente estable. El segundo algoritmo de nido por

% &

1=x

& %

x + 1 ! 1=(x + 1)

1 x

1 1 x + 1 = x(x + 1) :

En este algoritmo, solamente las tres primeras operaciones son bien condicionadas. Sin embargo la ultima operacion, la sustraccion, es muy

I.2 Estabilidad

13

mal condicionada, porque 1=x 1=(x + 1). Entonces, este algoritmo es numericamente inestable. La veri cacion, si un algoritmo es estable en el sentido de forward analysis, sobre todo si el numero de operaciones es elevado, es a menudo muy compleja y di cil. Por esta razon, Wilkinson introdujo otra de nicion de la estabilidad de un algoritmo. De nicion I.2.6.- Un algoritmo para resolver el problema P (x) es numericamente estable en el sentido de backward analysis si el resultado numerico y puede ser interpretado como un resultado exacto para los datos perturbados x, es decir y = P (x), y si

jxi xi j Const eps; jxi j

(I:2:15)

donde Const no es demasiado grande y eps es la precision de la computadora. De la de nicion I.2.6 y (I.2.15) se deduce que, en el estudio de este tipo de estabilidad no se requiere conocer de antemano la condicion del problema.

Ejemplo

Considerese el problema de calcular el producto escalar x1 x2 + x3 x4 . Para calcular este, se utiliza el algoritmo x x % 1 2& (x1 ; x2 ; x3 ; x4 ) x1 x2 + x3 x4 : (I:2:16) & x1 x2 % El resultado numerico bajo la in uencia de los errores de redondeo es

x1 (1 + 1) x2 (1 + 2 )(1 + 1 ) + x3 (1 + 3 ) x4 (1 + 4 )(1 + 2 ) (1 + 3 );
donde j i j ; j j j plantea

eps. Este resultado es igual a x1 x2 + x3 x4 , si se x3 = x3 (1 + 3 )(1 + 2 ); x4 = x4 (1 + 4 )(1 + 3 ):

x1 = x1 (1 + 1 )(1 + 1 ); x2 = x2 (1 + 2 )(1 + 3 );

Despreciando los productos de la forma i j , la relacion (I.2.15) es satisfecha con Const = 2. Por lo tanto, el algoritmo (I.2.16) siempre es numericamente estable en el sentido de backward analysis. El ejemplo precedente muestra que un algoritmo puede ser estable, incluso si el problema esta mal condicionado. En consecuencia, es necesario bien distinguir las nociones de estabilidad y condicion.

14

I Preliminares

Ejercicios
1.- >Cual es la condicion de la sustraccion de dos numeros? 2.- Determinar la condicion del problema P (x1 ; x2 ) = x1 =x2 con x2 6= 0. 3.- Hallar la condicion del calculo del producto escalar

hx; yi =
4.- Mostrar que el sistema lineal

n X i=1

xi yi :

ax + by = 1 ; con ad 6= bc cx + dy = 0

es numericamente estable en el sentido de backward analysis. 5.- Las raices del polinomio x2 2px q = 0 son:
1

= p + p2 + q;

=p

p2

p + q:

Mostrar que para p > 0, grande, y q 0, muy peque~o, este algoritmo n es numericamente inestable. Utilizando la relacion 1 2 = q, encontrar un algoritmo que es numericamente estable en el sentido de backward analysis.

I.3 Un ejemplo: Calculo de Pi

En las seccion precedente se ha visto que el dispositivo material que efectua los calculos numericos tiene en general dos tipos de numeros: los enteros que se asemejan mucho a los enteros matematicos y el tipo real que es una representacion del numero real. Tal como se mostro, ambos tipos de numero presentan ciertas particularidades, por ejemplo son en cantidad nita, para el tipo real existe el redondeo de los numeros. Por consiguiente si se utiliza el tipo real para determinar , se tendra una precision de 8 decimales; para doble precision se obtendra 16 decimales de precision; para cuadruple precision, que algunos lenguajes de programacion cuentan, se obtendra 32 decimales de precision. Por lo tanto, la precision para obtener esta determinada por el lenguaje de programacion y en algunos casos por el tipo de computadora con que se cuenta. En esta seccion se pretende mostrar que estas limitaciones no constituyen necesariamente un impedimento para determinar un numero, en particular , con la precision que se desee. Una de las maneras mas usuales de determinar es utilizar el desarrollo en serie de Taylor en el origen de arctan x, el cual esta dado por arctan x =
1 X(

1)k x2k+1 : k=0 2k + 1

1 X(

(1:3:1)

De (I.3.1) se deduce, para x = 1, que =4 1)k : k=0 2k + 1 (I:3:2)

Como se recalco en la seccion I.2, utilizar la serie (I.3.2) no es conveniente, por que la convergencia de esta serie es muy lenta. Utilizando la relacion + tan( + ) = 1tantan tan ; tan una veri cacion inmediata conduce a 1 1 1 = 12 arctan 18 + 8 arctan 57 5 arctan 239 : 4 Remplazando (I.3.1) en (I.3.3), da como resultado (I:3:3)

16 = 48
1 X(

I Preliminares

1 1)k ( 1 )2k+1 20 X ( 1)k ( 1 )2k+1 : (I:3:4) k=0 2k + 1 57 k=0 2k + 1 239 {z } | {z } | B C Ahora bien, se desea obtener una representacion de en notacion decimal con N decimales de precision. Si cada serie del lado derecho de (I.3.4) es calculada con una precision de 10 (N +1) se tiene largamente la precision ^ ^ deseada. Denotando por A, el valor calculado de A; B , el valor calculado de ^ B y C , el valor calculado de C , se tiene:

1)k ( 1 )2k+1 k=0 2k + 1 18 + 32

{z A 1 X(

MA k ^ = 48 X ( 1) ( 1 )2k+1 ; A 2k + 1 18 MB X( k=0

^ B = 32

De donde: ^ A A = 48 ^ B B = 32 ^ C C = 20

MC X ( 1)k 1 ^ C = 20 2k + 1 ( 239 )2k+1 : k=0

1)k ( 1 )2k+1 ; k=0 2k + 1 57

( 1)k ( 1 )2k+1 k=MB +1 2k + 1 57

1 X

( 1)k ( 1 )2k+1 k=MA +1 2k + 1 18

1 X

1 X

48 (1=18) 2 ; 1 (1=18) 32 (1=57) 2 ; 1 (1=57) 20 (1=239) 2 : 1 (1=239)

2MC +3 2MB +3

2MA +3

( 1)k ( 1 )2k+1 k=MC +1 2k + 1 239

^ Por hipotesis, se tiene por ejemplo que A A 10 (N +1), por lo tanto para asegurar esta precision es su ciente que 2MA +3 48 (1=18) 2 10 (N +1); 1 (1=18) remplazando el signo por =, se tiene 2MA +3 48 (1=18) 2 = 10 (N +1); (I:3:5) 1 (1=18)

I.3 Un ejemplo: Calculo de Pi

17

obteniendo de esta manera log10 (48) (2MA + 3) log10 (18) log10 (1 (1=18)2) = (N + 1): Despejando MA, se obtiene log10 MA = N + 1 + log10 (48) 3(18) (18) + (1=18) : 2 log
2 10

(I:3:6)

Del mismo modo se llega a: log10 MB = N + 1 + log10 (32) 3(57) (57) + (1=57) ; (I:3:7) 2 log10 2 MC = N + 1 + log10 (20)log 3 log10 (239) + (1=239) : (I:3:8) 2 10 (239) Una vez determinada la cantidad de terminos en cada serie para calcular ^ ^ ^ A, B y C , es necesario de nir una representacion de los numeros reales y ^ ^ ^ su respectiva aritmetica que permita calcular A, B y C con la precision requerida. Sea b > 1, entonces todo numero positivo x se escribe de manera unica como 1 X (I:3:9) x = ak 1k ; k=0 b donde 0 ak < b para k 1. Suponiendo que b = 10m, para obtener una representacion de x con N decimales de precision, es su ciente conocer ak para 0 k N=m + 2. Se suma 2 a la cota anterior por seguridad. Por lo tanto, para todo numero positivo x,el redondeado x con N cifras decimales ^ de precision puede escribirse como
2

x= ^

N=m+2 X k=0

ak =10mk ;

(I:3:10)

con 0 ak < 10m para k 1. Comparando (I.3.9) con (I.3.10) se tiene que ak = ak para 0 k N=m + 1 y jak ak j 1 para k = N=m + 2, deduciendose de esta manera la: Proposicion I.3.1.- Sea x un numero no negativo y x su representacion dada por (I.3.10), entonces

jx xj 10 ^

(N +2m)

(I:3:11)

18

I Preliminares

x = N=m+2 b =10mk ; b X k (I:3:12) q k=0 donde los bk se los de ne de manera recursiva, utilizando la division euclidiana, as : a0 = b0 q + r0 ; a1 + r0 10m = b1 q + r1 ; (I:3:13) .. . aN=m+2 + rN=m+1 10m = bN=m+2 + rN=m+2 : El segundo paso sera de nir la adicion y la sustraccion para dos reales positivos x y y. Si se denota los redondeados por x y y, sus representaciones ^ ^ en punto jo estan dadas por: x= ^ ak =10mk ; y = ^ bk =10mk : k=0 k=0 La suma redondeada se escribe por lo tanto x y= ^ ^ ck =10mk ; (I:3:14) k=0 donde los ck estan de nidos recursivamente, utilizando la division euclidiana, por: cN=m+2 + dN=m+2 10m = aN=m+2 bN=m+2; cN=m+1 + dN=m+1 10m = aN=m+1 bN=m+1 + dN=m+2 ; (I:3:15) .. . c0 = a0 b0 + d1 : El tercer paso sera de nir la multiplicacion de un real positivo con un entero q. Sea el productovskip-3pt
N=m+2 X N=m+2 X N=m+2 X

Con los elementos presentados, se esta en la capacidad de formular un ^ ^ ^ algoritmo que permita calcular A, B , y C ; por razones obvias el algoritmo sera el mismo. Por consiguiente, es su ciente dar el metodo que permita ^ calcular A con la precision requerida. De la formula (I.3.4) se puede observar que las operaciones efectuadas son adiciones o sustracciones, divisiones por expresiones de la forma (2k +1) y divisiones por 18 o 182. La aritmetica sera consiguientemente de nida en tres pasos o etapas. El primer paso sera de nir la division por un entero p. Sea x un real positivo, su redondeo se escribe como en (I.3.10), por consiguiente x=q redondeado se escribe

c qx = ^

N=m+2 X k=0

bk =10mk ;

(I:3:16)

I.3 Un ejemplo: Calculo de Pi

19

donde x esta dado por (I.3.10), los coe cientes bk estan de nidos recursiva^ mente, utilizando la division euclidiana, de la manera siguiente: qaN=m+2 = bN=m+2 + dN=m+2 10m; qaN=m+1 + dN=m+2 = bN=m+1 + dN=m+1 10m; (I:3:17) .. . b0 = qa0 + d1 : Habiendo de nido las operaciones requeridas para calcular con la ^ precision requerida, se puede de nir el algoritmo que calculara A, y por consiguiente ^ . 1.- Se de ne x := 1=18, a = x, k = 0. 2.- Hacer para k = 1 hasta k = MA: x := x=182; y := x=(2k + 1); a; = a + ( 1)k y: 3.- a := 48 a. Finalmente, se debe hacer un analisis de la propagacion de errores de ^ redondeo, cometidos en el calculo de A, para asegurar que el resultado que de la computadora corresponde con lo esperado. Este estudio se lo efectuara en tres partes. Sea x2k+1 el resultado realizado por el algoritmo al calcular ^ x2k+1 para x = 1=18. Utilizando la proposicion I.3.1, se tiene, x = x + ; j j 10 N 2m : ^ (I:3:18) deduciendose inmediatamente: x3 = (x + )=182 + ; ^ x5 = x3 =182 + ; ^ ^ (I:3:19) .. . Utilizando desigualdades triangulares y considerando series geometricas, se obtiene 1 x2k+1 x2k+1 ^ 10 N 2m: (I:3:20) 1 (1=18)2 La segunda operacion, que aparece en el algoritmo, es la division por los enteros de la forma 2k + 1. Por el mismo procedimiento que antes, se llega a
\ x2k+1 =(2k + 1) x2k+1 =(2k + 1)

Algoritmo

2 10 N 2m:

(I:3:21)

20

I Preliminares

^ Por ultimo para obtener A, se tiene una suma de MA + 1 terminos y un producto por 48. En cada suma se comete un error menor a 2 10 N 2m, de donde se tiene como estimacion del error acumulado ^ A A 192(MA + 1)10 N 2m (I:3:22) Ahora bien, si 192(MA +1) es mas peque~o que 102m 1, entonces el objetivo n es satisfecho largamente. Como ilustracion de lo expuesto, se ha calculado con 10000 decimales de precision, utilizando una HP-9000.
3.1415926535 5820974944 8214808651 4811174502 4428810975 4564856692 7245870066 7892590360 3305727036 0744623799 9833673362 6094370277 0005681271 1468440901 4201995611 5187072113 5024459455 7101000313 5982534904 1857780532 3809525720 0353018529 5574857242 8175463746 8583616035 9448255379 9331367702 2533824300 6782354781 5570674983 3211653449 6369807426 8164706001 1613611573 4547762416 5688767179 8279679766 7392984896 0674427862 4677646575 9465764078 2671947826 4962524517 5709858387 6868386894 8459872736 4390451244 4169486855 0168427394 6456596116 1507606947 2287489405 9009714909 2265880485 8979323846 5923078164 3282306647 8410270193 6659334461 3460348610 0631558817 0113305305 5759591953 6274956735 4406566430 0539217176 4526356082 2249534301 2129021960 4999999837 3469083026 7838752886 2875546873 1712268066 1065485863 6899577362 4541506959 4939319255 6370766010 7747268471 8989152104 3558764024 6360093417 8505494588 8720275596 5425278625 6145249192 5255213347 8625189835 0494601653 8145410095 0841284886 2039194945 7396241389 9512694683 8482601476 4939965143 4105978859 2774155991 4469584865 1365497627 5848406353 5226746767 3548862305 9451096596 6010150330 6759852613 7564014270

con 10000 decimales

2643383279 0628620899 0938446095 8521105559 2847564823 4543266482 4881520920 4882046652 0921861173 1885752724 8602139494 2931767523 7785771342 4654958537 8640344181 2978049951 4252230825 5875332083 1159562863 1300192787 2788659361 2599413891 5082953311 0604009277 4710181942 0404753464 7521620569 7496473263 2164121992 5869269956 0236480665 5181841757 1732172147 5741849468 6948556209 4668049886 3883786360 2694560424 0471237137 0865832645 9835259570 9909026401 1429809190 5977297549 8559252459 3836736222 8079771569 4220722258 8895252138 7745649803 0940252288 8617928680 6554978189 4775551323

5028841971 8628034825 5058223172 6446229489 3786783165 1339360726 9628292540 1384146951 8193261179 8912279381 6395224737 8467481846 7577896091 1050792279 5981362977 0597317328 3344685035 8142061717 8823537875 6611195909 5338182796 2497217752 6861727855 0167113900 9555961989 6208046684 6602405803 9141992726 4586315030 9092721079 4991198818 4672890977 7235014144 4385233239 9219222184 2723279178 9506800642 1965285022 8696095636 9958133904 9825822620 3639443745 6592509372 8930161753 5395943104 6260991246 1435997700 2848864815 5225499546 5593634568 7971089314 9208747609 3129784821 7964145152

6939937510 3421170679 5359408128 5493038196 2712019091 0249141273 9171536436 9415116094 3105118548 8301194912 1907021798 7669405132 7363717872 6892589235 4771309960 1609631859 2619311881 7669147303 9375195778 2164201989 8230301952 8347913151 8890750983 9848824012 4676783744 2590694912 8150193511 0426992279 2861829745 7509302955 3479775356 7727938000 1973568548 0739414333 2725502542 6085784383 2512520511 2106611863 4371917287 7802759009 5224894077 5305068203 2169646151 9284681382 9972524680 0805124388 1296160894 8456028506 6672782398 1743241125 5669136867 1782493858 6829989487 3746234364

E-00050 E-00100 E-00150 E-00200 E-00250 E-00300 E-00350 E-00400 E-00450 E-00500 E-00550 E-00600 E-00650 E-00700 E-00750 E-00800 E-00850 E-00900 E-00950 E-01000 E-01050 E-01100 E-01150 E-01200 E-01250 E-01300 E-01350 E-01400 E-01450 E-01500 E-01550 E-01600 E-01650 E-01700 E-01750 E-01800 E-01850 E-01900 E-01950 E-02000 E-02050 E-02100 E-02150 E-02200 E-02250 E-02300 E-02350 E-02400 E-02450 E-02500 E-02550 E-02600 E-02650 E-02700

I.3 Un ejemplo: Calculo de Pi

5428584447 2135969536 0374200731 8687519435 8191197939 9839101591 5679452080 6638937787 0306803844 6660021324 1005508106 4011097120 2305587631 7321579198 7229109816 5725121083 6711136990 3515565088 8932261854 6549859461 2332609729 5836041428 1809377344 4492932151 2131449576 2807318915 6655730925 4769312570 3348850346 8455296541 7002378776 1127000407 6343285878 2021149557 0990796547 2996148903 9389713111 0480109412 8530614228 7716692547 9769265672 8888007869 6171196377 4252308177 6222247715 7805419341 5695162396 4786724229 4037014163 2168895738 5578297352 9906655418 3162499341 3220777092 3166636528 7723554710 9456127531 3114771199 0408591337 7152807317 8350493163 4781643788 9562586586 8584783163 4803048029 2742042083 2901618766 9914037340 2540790914 8798531887 2784768472 3503895170 1960121228 9526586782 2314429524 0578539062 0643021845 9520614196 9561814675 9514655022 0830390697 7734549202 3408819071 6587969981 6280439039 7635942187 4148488291 9091528017 5791513698 8658516398 4909989859 8963213293 6371802709 9712084433 1388303203 4030707469 6084244485 8572624334 4411010446 4711055785 5863566201 1136576867 2665408530 5913440171 8547332699 5698305235 6158140025 3761255176 0463994713 7904297828 1472213179 8137585043 4873898665 1463853067 2560290228 9213375751 0367515906 8915049530 4473774418 5864573021 2465436680 1496589794 3798623001 3344604281 7639792933 9131814809 1201905166 6193266863 5859548702 8134078330 2606381334 4641442822 6790770715 1284042512 5185290928 5570552690 0577775606 0058760758 2085661190 7952406163 4328752628 5135711136 7058429725 6860849003 2989392233 5993716231 1051141354 8493718711 1983874478 3191048481 6342875444 1426912397 5231603881 9207734672 6054146659 0486331734 6357473638 7595156771 3125147120 6447060957 3506712748 8209144421 3150197016 9823873455 3089857064 8199430992 5732654893 8249037589 2112019130 9637669838 4189303968 8232527162 3763466820 8558100729 5324944166 6143444318 2749470420 3908145466 8089330657 0126228594 5675135751 2962107340 5647503203 4764777262 0633217518 4949450114 3609657120 4721040317 1495950156 7350235072 9844489333 4263129860 6315981931 0980676928 0924323789 5937764716 5126272037 4419521541 2777710386 0962804909 3606273567 7908143562 3362542327 6776879695 7726346594 7213444730 1925651798 5452011658 4965209858 8887644624 2510474709 6254543372 4252257719 8896399587 9410911939 9167781314 3770242429 4517220138 3017114448 7357395231 0145765403 0847848968 0053706146 0643745123 4894090718 9301420937 2182562599 2520149744 6496514539 4052571459 5770042033 5329281918 5270695722 5832228718 0067510334 5151168517 2833163550 2046752590 4488957571 8239119325 8524374417 2033038019 9522868478 6426243410 0105265227 6531098965 3606598764 8039626579 5867697514 5622305389 4645880797 5740679545 1302164715 7829666454 4375189573 1986915140 2414254854 2979866223 6540628433 9180763832 2118608204 6049631862 8354056704 0963408780 8099888687 9516735381 2382806899 6907069779 5122893578 3431465319 3418994854 3877343177 2636019759 6303544776 4014517180 8394497538 9703098339 7047458784 6057007334 0694113528 3934196562 0338507224 8246857926 1643961362 1315359584 5429162991 9475729174 3251910760 9699009019 1651300500 1280696501 4640903890 1342716610 5902799344 3321445713 8067491927 7181921799 6494231961 6213785595 6615014215 2850732518 0579626856 1028970641 7869936007 2618612586 0917567116 3520935396 6711031412 1437657618 7647918535 7091548141 2828905923 9746366730 0291327656 7621101100 3123552658 7732269780 2111660396 2691862056 8611791045 7877185560 5661406800 9456131407 2708266830 7163775254 5097925923 7791745011 5961458901 2870808599 5403321571 7172159160 6639379003 7166416274 1900042296 9472654736 0386743513 7693259939 4132604721 2974167729 6400482435 4223625082 6015881617 7777416031 4473456738 2075456545 8828161332 2803504507 6246436267 2437205835 1307710987 7787201927 9243693113 0131470130 1349143415 2648293972 0395352773 6760449256 5068772460 9306455377 6426357455 2082520261 2116971737 5168323364 1784408745 6449544400 E-02750 E-02800 E-02850 E-02900 E-02950 E-03000 E-03050 E-03100 E-03150 E-03200 E-03250 E-03300 E-03350 E-03400 E-03450 E-03500 E-03550 E-03600 E-03650 E-03700 E-03750 E-03800 E-03850 E-03900 E-03950 E-04000 E-04050 E-04100 E-04150 E-04200 E-04250 E-04300 E-04350 E-04400 E-04450 E-04500 E-04550 E-04600 E-04650 E-04700 E-04750 E-04800 E-04850 E-04900 E-04950 E-05000 E-05050 E-05100 E-05150 E-05200 E-05250 E-05300 E-05350 E-05400 E-05450 E-05500 E-05550 E-05600 E-05650 E-05700 E-05750 E-05800 E-05850 E-05900 E-05950 E-06000 E-06050 E-06100 E-06150 E-06200 E-06250 E-06300 E-06350

21

22
6198690754 2283345085 8282949304 4611996653 2827892125 2183564622 3685406643 9567302292 1920419947 2711172364 8856986705 0516553790 8757141595 4460477464 1465741268 3634655379 9113679386 0126901475 1965362132 2772190055 3610642506 2276930624 0861533150 3776700961 5189757664 9164219399 3338945257 1266830240 8475651699 9104140792 7180653556 9598470356 8788202734 5771028402 6407655904 5178609040 7367812301 6161528813 7634757481 9203767192 4366199104 8244625759 1509682887 3408005355 5848358845 4043523117 9748442360 7267507981 3025494780 7429958180 2673430282 9289647669 2609275249 9588970695 4525564056 6909411303 9695946995 6922210327 9279068212 2248261177 0037279839 2543709069 2314593571 5510500801 2339086639 1596131854 7360411237 3084076118 7065874882 5020141020 2162484391 2645600162 4610126483 8516026327 0486082503 1377655279 8581538420 0771262946 0134967151 1939509790 1913933918 4553859381 3435439478 4315470696 6866273337 7811196358 9159950549 0492564879 4986419270 2708943879 4668476535 3926406160 6148425551 3904975008 7435363256 4452127473 2071512491 5216413767 4907236234 4239950829 2929525220 9811614101 8862150784 7252532567 2226293486 2092222453 7998066365 2909945681 7086671149 4587687126 8437909904 1935670911 2033229094 0337511173 1633303910 4782656995 9849175417 3142775687 6006651012 8007193045 2554709589 2490114195 7247162591 4418604142 7583183271 6035799646 3653494060 4482465151 1509526179 5657612186 4889218654 0738837781 1858963814 4004152970 7939612257 9849225284 9086996033 3833952942 3475464955 3599843452 3013052793 2569815793 6723585020 4035998953 3742880210 6999892256 5052983491 9302133219 3975175461 5685338621 3229563989 8819097303 1906996395 5680344903 0234395544 2218185286 5747458550 9958511562 3300594087 7374256269 8556145372 5638729317 9362016295 7616477379 1363581559 8792530343 6562710953 9160781547 9245449454 4043027253 9690314950 6468441173 6591228508 1187267675 0029960783 2451670908 5328612910 0034158722 3985626476 8254889264 5065265305 6558343434 6034891390 2317473363 0137751721 3346768514 5471918550 7225383742 9957449066 3818839994 9002909517 4120065975 7618932349 0455635792 2123828153 6685451333 6363954800 3142517029 9256504936 3402166544 8754711962 3780029741 5619673378 3648022967 4233562823 0918390367 0287830766 1429894671 7160504922 0276347870 5786905076 6978103829 2516105070 2054274628 6789766974 0724522563 5394590944 9276457931 9596881592 8740786680 7155184306 3953984683 8672523340 8989358211 8119800497 5245300545 9820595510 9597783779 2408514006 3323233421 5784322988 3068121602 0104903778 3478673303 4872332083 1541337142 4675200490 0742202020 5139844253 5919465897 8181152843 2368288606 8607648236 1910857598 9403265918 5558215725 6220415420 8690929160 7000699282 4248776182 9805349896 6914905562 8802545661 3718294127 7693385781 9562009939 9480457593 0080315590 2214477379 4644902636 1821408835 1758344137 4697486762 0283529716 5851276178 2292796501 1221033346 0911407907 1239480494 0448002670 6923488962 8183609003 3755890045 1844396582 2076651479 6236256125 8070576561 6089632080 3672220888 7094447456 5435784687 1242470141 8108175450 4310063835 3097164651 2705623526 6540360367 2205750596 2651341055 0704691209 0657922955 0560010165

I Preliminares
8818338510 3545500766 3936383047 2830871123 6745627010 3407239610 0580685501 0226353536 0237421617 6604433258 0730154594 2737231989 8764962867 1986835938 9046883834 7601123029 4892830722 7571555278 3187277605 2234157623 5141310348 6679570611 1340841486 3414334623 4423919862 4044378051 0310712570 5161841634 3028840026 1206604183 5829765157 5022629174 8425039127 0172967026 0336931378 7113864558 3610310291 1493140529 2485309066 3937517034 5512816228 0865739177 5223970968 6551658276 3445621296 5838292041 9875187212 6974992356 3860251522 7079119153 4962482017 7668440323 2380929345 6328822505 5337543885 3942590298 2163208628 5144632046 6822246801 3215137556 0134556417 8861444581 2147805734 1193071412 1983438934 4384070070 6012764848 4532865105 8344086973 9240190274 1409387001 2498872758 5256375678 E-06400 E-06450 E-06500 E-06550 E-06600 E-06650 E-06700 E-06750 E-06800 E-06850 E-06900 E-06950 E-07000 E-07050 E-07100 E-07150 E-07200 E-07250 E-07300 E-07350 E-07400 E-07450 E-07500 E-07550 E-07600 E-07650 E-07700 E-07750 E-07800 E-07850 E-07900 E-07950 E-08000 E-08050 E-08100 E-08150 E-08200 E-08250 E-08300 E-08350 E-08400 E-08450 E-08500 E-08550 E-08600 E-08650 E-08700 E-08750 E-08800 E-08850 E-08900 E-08950 E-09000 E-09050 E-09100 E-09150 E-09200 E-09250 E-09300 E-09350 E-09400 E-09450 E-09500 E-09550 E-09600 E-09650 E-09700 E-09750 E-09800 E-09850 E-09900 E-09950 E-10000

Cap tulo II Sistemas Lineales

Una gran cantidad de problemas implica la resolucion de sistemas lineales de la forma Ax = b;

0 b1 1 a1n 1 .. A ; b = @ ... A . an1 ann bn con coe cientes reales o complejos. Por esta necesidad es importante la construccion de algoritmos que permitan su resolucion en un tiempo razonable y con el menor error posible. Cada problema tiene su particularidad, motivo por el cual no existe un metodo general mediante el cual se pueda resolver e cazmente todos los problemas. Es verdad que existen metodos casi generales, que con peque~as modi caciones pueden servir para encontrar la solucion n de un problema particular. A lo largo de este cap tulo se expondran estos metodos, dando criterios de estabilidad y estimaciones de error. En la primera seccion se tratara la condicion del problema lineal, para este efecto sera necesario introducir elementos de la teor a de normas en las matrices, para luego introducir las nociones relativas a la condicion del problema lineal. En la segunda seccion se abordara los metodos de resolucion como son: el Algoritmo de Eliminacion de Gauss, la Descomposicion de Cholesky y algunas modi caciones de estos metodos. En esta seccion se estudiara la implementacion de tales metodos, como tambien la estabilidad de estos. La tercera seccion tratara, la teor a e implementacion de los metodos iterativos lineales como: Jacobi, Gauss-Seidel y SOR. As mismo se analizaran algunos problemas tipos y se haran comparaciones de tales metodos. En la cuarta seccion, se vera los metodos de tipo gradiente cuyo enfoque es diferente a los metodos de las dos secciones precedentes, en efecto, son metodos que encuentran la solucion a partir de problemas de minimizacion. Se resolveran ejemplos tipos y se comparara la e ciencia de estos con otros metodos.

donde

0 a11 A = @ ...

24

II Sistemas Lineales

La ultima seccion describira el Metodo de los M nimos Cuadrados, como una generalizacion de lo anteriormente expuesto, introduciendo como corolario la nocion de Pseudo-Inversa. As mismo se analizara la implementacion del metodo QR, incluyendo una estimacion del error de tal metodo.

II.1 Condicion del Problema lineal

Normas de Vectores y Matrices

La nocion de norma y espacio normado es un instrumento matematico muy util en el estudio de las magnitudes que se manipulan, como tambien un instrumento en el estudio de la convergencia y los l mites. Se empezara de niendo el concepto de norma en espacios Rn , para luego de nir en el algebra de las matrices a coe cientes reales. De nicion II.1.1.- Una norma sobre Rn es una aplicacion

k k : Rn ! R;
con las siguientes propiedades:

i) ii) iii)

kxk 0; kxk = 0 () x = 0; k xk = j j kxk ; donde 2 R; kx + yk = kxk + kyk :

La primera condicion implica que una norma siempre es positiva y es nula siempre y cuando el vector sea el vector nulo. La segunda propiedad es la homogeneidad de la norma y la tercera condicion es mas conocida como desigualdad del triangulo. Las normas mas usuales en Rn son las siguientes:

kxk1 = kxk2 = kxkp =

n X

i=1 n X

jxi j ; jxi j
2

! 12 ! p1

norma ciudad-bloque;

i=1 n X i=1

norma euclidiana;

jxi j2

; p > 1;
norma de la convergencia uniforme:

kxk1 = i=1;:::;n jxi j ; max

Estas normas, que son las usualmente utilizadas, tienen algunas propiedades en comun. La mas importante es que, si se aumenta en valor absoluto una de las componentes, la norma se incrementa. Es necesario formalizar este hecho, motivo por el cual, se tiene la:

26

II Sistemas Lineales

De nicion II.1.2.- Si x = (x1 ; : : : ; xn ) 2 Rn , se de ne el valor absoluto de x como jxj = (jx1 j ; : : : ; jxn j). Se dice que jxj jyj, si jxi j jyi j para todo i = 1; : : : ; n. Una norma k k sobre Rn se dice que es: (a) Monotona, si jxj jyj implica que kxk kyk para todo x; y 2 Rn . (b) Absoluta, si kxk = kjxjk para todo x 2 Rn . Proposicion II.1.3.- Una norma k k sobre Rn es monotona, si y solamente Demostracion.- Si la norma k k es monotona, sea x 2 Rn , llamenos y = jxj. Como jxj jyj, y jyj jxj se tiene inmediatamente, porque la norma es monotona, que kxk = kyk. Si la normak k es absoluta, sea x 2 Rn , considerese x = (x1 ; : : : ; xk 1 ; xk ; xk+1 ; : : : ; xn ), con 2 0; 1]. Utilizando el hecho
1 kxk = 2 (1 1 (1 2 = 1 (1 2 )(x1 ; : : : ; xk 1 ; xk ; xk+1 ; : : : ; xn ) + 1 (1 )x + x 2 ) k(x1 ; : : : ; xk 1 ; xk ; xk+1 ; : : : ; xn )k + 1 (1 ) kxk + x 2 1 (1 ) kxk + kxk = kxk : ) kxk + 2 si es absoluta.

que la norma sea absoluta, desigualdad del triangulo y efectuando calculos algebraicos se tiene:

Ahora bien, si x = (x1 ; : : : ; xk ; : : : ; xn ) y y = (x1 ; : : : ; xk1 ; yk ; xk+1 ; : : : ; xn ), con jyk j jxk j, utilizando la desigualdad anterior se tiene kxk kyk. Para demostrar que jxj jyj implica que kxk kyk, se repite el anterior paso n veces, es decir una vez por cada componente. Una matriz de orden m n puede ser vista como un vector que pertenece al espacio Rmn , de esta manera de nir la norma de una matriz como la de un vector, pero se perder a as muchas de las propiedades que tiene una aplicacion lineal. Es por eso la: De nicion II.1.4.- Sea A una matriz de m n, se de ne su norma como

Ax kAk = sup kkxkk = sup kAxk :

x6=0

kxk=1

(II:1:1)

La de nicion de la norma de una matriz depende evidentemente de las normas elegidas para kxk y kAxk. Sin embargo puede ser veri cado sin ningun problema, que la norma de una matriz, veri ca las condiciones de norma de un vector. La demostracion es una simple veri cacion de estas condiciones, utilizando la de nicion de supremo. Ademas si las norma de los espacios Rn y Rm son monotonas o absolutas, es facil veri car que la norma

II.1 Condicion del Problema lineal

27

de matriz inducida por estas, es todav a monotona; es su ciente utilizar la de nicion para probar esta a rmacion. Por otro lado kAk es el numero positivo mas peque~o que satisface kAxk n kxk, por lo tanto

kAxk kAkkxk ;

8x 2 Rn :

(II:1:2)

Una norma sobre el espacio de matrices veri ca las siguientes propiedades, dada por la: Proposicion II.1.5.- Cualquier norma sobre el espacio de las matrices Mm (R) satisface las propiedades adicionales siguientes:

kI k = 1; kAB k kAk kB k :

(II:1:3) (II:1:4)

Demostracion.- La relacion (II.1.3) de la proposicion es consecuencia

inmediata de la de nicion de la norma de una matriz. La relacion (II.1.4) es consecuencia de las observaciones hechas despues de la de nicion, en efecto

kABxk kAk kBxk kAk kB kkxk ; kABxk kAkkB k ; kxk kAB k kAk kB k :
Se ha dado las propiedades esenciales de la norma de matrices, pero es necesario conocer algunas de estas por su utilizacion frecuente. Utilizando la misma notacion que en las normas de los vectores de nidas al inicio de la seccion, se puede utilizar la misma notacion en los ndices de las normas de las matrices, con la convencion que las normas de los vectores tienen los mismos ndices. Teorema II.1.6.- Sea A una matriz de n m, entonces:

kAk1 = j=1;:::;m max

n X i=1

kAk2 = valor propio mas grande de At A; m X kAk1 = i=1;:::;n jaij j : max

j =1

jaij j ;

(II:1:5) (II:1:6) (II:1:7)

28

II Sistemas Lineales
n m XX n m XX i=1 j =1

Demostracion.- Se comenzara por kAk1 , se tiene:

kAxk1 =
i=1 j =1 m n X X j =1 i=1

aij xj

jaij j jxj j jaij j :

jaij j jxj j
n X

por lo tanto
n X i=1

kAk1
n X i=1

max j =1;:::;m

n X i=1

max ja j j =1;:::;m i=1 ij

kxk1 ;

Se mostrara, que la igualdad se cumple, en efecto, sea jo tal que:

jaijo j = j=1;:::;m max

jaij j ; y x tal que xjo = 1; xi = 0 si i 6= jo ;

de esta manera kAxk = Para la k k2 se tiene:

0a 1 B 1..jo C @ . A
amjo

=
1

n X i=1

jaijo j kxk1 :

ahora bien At A es una matriz simetrica de nida positiva, de donde los valores propios son reales no negativos, ademas es posible formar una base de vectores propios ortonormales. Sea fe1 ; : : : ; em g una base de vectores propios m m X X ortonormales, entonces x = i ei y Ax = i i ei , donde los i 0 son i=1 i=1 los valores propios de A. Por lo tanto, se tiene

kAxk2 = hAx; Axi = xt At Ax; 2

kAxk2 = 2

m X i=1

2 2

i i

max i=1;:::;m i

m X i=1

max i = i=1;:::;m i kxk2 :

2

Para obtener la igualdad, es su ciente tomar x = ejo , donde jo es el autovalor mas grande. Para la k k1 se tiene:

0m 1 X kAxk1 = i=1;:::;n aij xj i=1;:::;n @ jaij j jxj jA max max j =1 0m 1j=1 0 1 m X X A max @ jaij j j=1;:::;m jxj jA @i=1;:::;n jaij j kxk1 ; max max i=1:::;n
m X

as

kAk1

max ja j : j =1;:::;m j =1 ij

m X

j =1

j =1

II.1 Condicion del Problema lineal

29

Para obtener la igualdad es su ciente tomar x = 1, donde 1 = (1; : : : ; 1)t .

La Condicion de una Matriz

La resolucion de un sistema lineal de ecuaciones debe hacer meditar sobre muchos aspectos relacionados, como ser la existencia de la solucion, si el problema a resolver esta bien condicionado, conocer una estimacion del error cometido en la solucion numerica, etc. Se tiene inicialmente el sistema de ecuaciones Ax = b; donde A 2 Mn (R), y b 2 Rn ; (II:1:8) el problema es encontrar x 2 R que sea solucion del sistema (II.1.8), esta situacion puede escribirse formalmente como

P (A; b) = x:
De esta manera la condicion del problema esta dada por

P (A; b) P (A; b) jP (A; b)j

donde:

cond eps;

(II:1:9) (II:1:10) (II:1:100)

aij = aij (1 + ij ); j ij j eps; bi = bi (1 + i ); j i j eps:

Si se plantea P (A; b) = x, se tiene kxkxkxk cond eps. Por otro lado, considerando que solamente normas mononotas son utilizadas, se tiene: 0 a11 11 a1n n1 1 .. .. A eps kAk ; @ ... . . an1 n1 ann nn de esta manera

A A

eps kAk y

b b

eps kbk :

(II:1:11)

Suponiendo que la matriz sea inversible, se puede enunciar el siguiente teorema, pero antes una de nicion es necesaria. De nicion II.1.7.- La condicion de una matriz A inversible se de ne como cond(A) = kAk A
1

(II:1:12)

30

II Sistemas Lineales

1 Si ademas se tiene A cond(A) < 2 , entonces la condicion del problema resolver Ax = b es 2cond(A). Demostracion.- Se tiene Ax = b y Ax = b, de donde:

Teorema II.1.8.- Sea A una matriz con det A 6= 0, supongase que A A kAk A , b b kbk b . Si A cond(A) < 1, entonces kx xk cond(A) ( + ): (II:1:13) kxk 1 A cond(A) A b

Ax Ax = b b y Ax Ax + Ax Ax = b b; A(x x) = (A A)x + (b b); x x = A 1 (A A)x + A 1 (b b); introduciendo las desigualdades en las normas se obtiene: kx xk A 1 A A kxk + A 1 b b A 1 (kAk A (kxk + kx xk) + kbk b ) A 1 kAk ( A (kxk + kx xk) + kxk b ) ; de esta manera kxkxkxk 1 cond(A) A) ( A + b ): cond(
A

Como la condicion del problema lineal esta ntimamente ligada a la condicion de la matriz, es importante conocer algunas de sus propiedades, dadas por la: Proposicion II.1.9.- La condicion de una matriz satisface las siguientes propiedades: cond(A) 1; (II:1:14) cond(I ) = 1; (II:1:15) cond( A) = cond(A); 2 R: (II:1:16)

Demostracion.- Veri cacion inmediata. Ejemplos

1.- Q ortogonal, es decir Qt Q = I , la condicion respecto a la norma k k2 esta dada por cond2 (Q) = 1: (II:1:17) 2.- Sea la matriz A dada por 04 1 0 1 0 B1 4 1 0 C 1 B ... . . . . . . ... ... C ; B C A= hB C B .. C @. 1 4 1 A 1 4

II.1 Condicion del Problema lineal

6 4 entonces kAk1 = h , ademas A = h (I + N ) donde

31

00 B1 N =B4 B .. @.

Se deduce que

1 01 4 0 1 0 4 0C C .. C ; ... ... .A 1 0 0 4 0

kN k1 = 1 < 1: 2

entonces cond1 (A) 3, por lo tanto, la matriz es bien condicionada. 3.- El siguiente ejemplo muestra la existencia de una matriz mal condicionada. Sea H la matriz de n n, llamada matriz de Hilbert, de nida por 1 hij = i + j 1 ; i; j = 1; : : : ; n: H es una matriz simetrica de nida positiva, motivo por el cual la condicion respecto a la norma euclidiana esta dada por cond2 H = max ; min donde los son valores propios de H . Se puede mostrar que cond2 H cen : (II:1:18) Se puede observar claramente que las matrices de Hilbert son mal condicionadas, inclusive para n bastante peque~o. n 4.- Finalmente, este ejemplo muestra la existencia de otra matriz mal condicionada, como ser las matrices de Vandermonde. Sea V la matriz de n n de nida por 0 1 1 1 1 cn C B c1 c2 V = B .. .. .. C ; @ . . . A n 1 cn 1 n 1 c1 cn 2

A 1 = h (I + N ) 1 = h (I N + N 2 N 3 + ); 4 4 h (1 + kN k + N 2 + ) A 1 1 4 h 1 4 1 kN k h; 2

32

II Sistemas Lineales

donde los ci son diferentes. Se puede mostrar que la cond2 V donde b > 1.

bn ,

x x Ahora bien, la estimacion kkxkk 2cond(A)eps puede ser demasiada pesimista, para ver esto, considerese el siguiente ejemplo, 1 1 x 2 0 108 y = 1 : Si se llama A a la matriz del sistema, se tiene kAk2 = 108 y A 1 1. El sistema con los errores de redondeo incorporados, esta dado por: 1+ 1 1+ 2 x 0 108(1 + 3 ) = y = ( 2(1 + 4 ) 1 + 5 ) ; y = 108 1 + 5 ' 10 8(1 + 5 3); 1+ 3 jy yj 2eps: de donde jyj Calculando x; se tiene x = 2(1 + 41) + (1 + 2 )y

= x + 2 1 10 + ( 2 + 5 3 ) 1 1 ' x(1 + 4eps); jx xj 4eps: por lo tanto, jxj El problema es bien condicionado, aunque la matriz A tenga una gran condicion. Si se multiplica el sistema de ecuaciones por una matriz diagonal D se obtiene, el nuevo problema dado por DAx = Db; por el teorema II.1.8, se tiene kx xk 2cond(DA)eps; si cond(DA)eps < 1 : kxk 2 En el ejemplo anterior, se plantea D = 1 100 8 ; as DA = 1 1 ; 0 0 1
8

10 8 = 2 10 + 2 4 1 + ( 2 +
8 1

II.1 Condicion del Problema lineal

33

Corolario II.1.10.- Con las misma hipotesis del teorema II.1.8, y ademas 1 si cond(DA)eps < 2 , se tiene
La condicion del problema 2 D diagonal cond(DA): inf (II:1:19)

obteniendo el:

1.- a) Sea k k de nida en Rn . La bola unitaria cerrada se de ne como

Ejercicios

B = x 2 Rn kxk 1 ;
mostrar que la bola unitaria es un conjunto convexo. b) Sea D un conjunto convexo acotado, en cuyo interior esta 0. Si se supone que D es equilibrado, es decir si x 2 D implica que x 2 D. Mostrar que se puede de nir una norma cuya bola unitaria cerrada sea precisamente D. 2.- >Es la funcion f (x) = jx1 x2 j + jx2 j una norma sobre R2 ? Si lo es, >es monotona? Dibujar la bola unitaria. 3.- Dar las condiciones para que una norma sea monotona, observando su bola unitaria cerrada. 4.- Para una matriz A se de ne la norma de Frobenius como

vn n uX X u kAkF = t jaij j2 :
i=1 j =1

a) Mostrar que kAkF es una norma sobre Rn n . b) Veri car la desigualdad 5.- Veri car la desigualdad

kAk2 kAkF pn kAk2 :

max jaij j kAk2 n: max jaij j : i;j i;j 6.- Sea A una matriz con det A 6= 0. Mostrar que

= kmin kAxk : xk=1

34

II Sistemas Lineales

7.- Sea R una matriz triangular inversible. Mostrar que:

jrii j kRkp ; jrii j

Deducir que 8.- Sea

p;

para p = 1; 2; 1:

r condp (R) max jjr ii jj : i;k kk

0 2 h11 + h12 ... 0 0 .. . 2 hn1 2 + hn1

h2 ... ... 0 0 hn1 2 la matriz, que se encuentra en la interpolacion spline. Mostrar: a) cond1 (A) puede ser arbitrariamente grande. (Si max hi = min hi ! 1). b) Existe una matriz diagonal D tal que cond1 (DA) 3.

02 1 + 1 B h0 1 h1 B h 1 A=B B B @ 0

1 C C C C C A
1

II.2 Metodos Directos

En esta seccion se desarrollara los algoritmos de resolucion directa de sistemas lineales mas comunes en la actualidad. El problema a resolver es

Ax = b;

(II:2:1)

donde A 2 Mn (R), x; b 2 Rn . Por los resultados obtenidos en la teor a del Algebra Lineal, este sistema de ecuaciones lineales tiene una sola solucion, si y solamente si det A 6= 0. Para mostrar la importancia de contar con algoritmos cuyo costo en operaciones sea m nimo, vale la pena dar el siguiente ejemplo de resolucion de este sistema de ecuaciones lineales. El ejemplo consiste en la utilizacion de la regla de Cramer, que en si misma constituye uno de los resultados teoricos mas hermosos que se ha obtenido. Para ilustrar el metodo de Cramer, se debe hacer algunas convenciones sobre la notacion. Para comenzar una matriz A de n n se puede escribir como

A = (A1 ; : : : ; An )
donde Ai es la i-esima columna de la matriz A. Dada una matriz A y un vector b 2 Rn , se denota por

A(j) = (A1 ; : : : ; Aj 1 ; b; Aj+1 ; : : : ; An ;

la matriz obtenida remplazando la j-esima columna por el vector b. Ahora bien, la solucion del sistema (II.2.1) esta dada por

xi = det AA ; det
donde x = (x1 ; : : : ; xn ). Por lo tanto, la resolucion del sistema implica el calculo de n+1 determinantes. Si para encontrar el valor de los determinantes se utiliza la siguiente relacion

(i)

2Sn

signo( )

n Y

i=1

ai (i) ;

donde Sn es el grupo de permutaciones de n elementos, se debe efectuar n! sumas. Si se desea resolver un sistema de 69 ecuaciones con el mismo numero de incognitas, suponiendo que cada suma se efectua en 10 9 segundos, se tardar a aproximadamente 6:75 1049 a~os en llegar a la solucion del n

36

II Sistemas Lineales

problema. Como conclusion se puede decir que existen metodos cuyo valor teorico es importante, pero su ejecucion numerica es desastrosa, razon por la cual es imprescindible implementar algoritmos cuyo costo no sea muy elevado. Uno de los algoritmos mas utilizados, precisamente por su relativo bajo costo, es el Algoritmo de Eliminacion de Gauss. Considerese el sistema de ecuaciones dado por

El Algoritmo de Gauss

8 a11x1 >a x < 21 1 > ... :a x

n1

+ a12 x2 + + a22 x2 + + an2 x2 +

+a1nxn = b1 +a2nxn = b2 : .. . +annxn = bn

El Algoritmo de Gauss consiste en: ai1 Primer paso Si a11 6= 0, li1 = a11 , para i = 2; : : : ; n. Se calcula lineai li1 linea1 , para i = 2; : : : ; n. Si a11 = 0 se intercambia lineas. Obteniendose el sistema equivalente dado por

8 a11 x1 > < > :

+ a(1)x2 + 12 a22 x2 + .. . a(1) x2 + n2

(1)

+ a1n xn = b1 + a(1) xn = b(1) 2n 2 : .. . (1) + a(1) xn = bn nn

i2 Paso 2 Si a(1) 6= 0, li1 = a(1) , para i = 3; : : : ; n. 22 a22 Se calcula lineai li2 linea2 , para i = 3; : : : ; n. Si a22 = 0 se intercambia lineas. Se repite el procedimiento hasta obtener un sistema triangular de ecuaciones como el siguiente

8 r11x1 > < > :

r1;n 1 xn 1 + r1n xn .. . rn 1;n 1 xn 1 + rn 1;n xn rnn xn

= c1 .. . : = cn 1 = cn

II.2 Metodos Directos

37

De donde se tiene:

xn = rcn ; nn cn 1 rn 1;n xn ; xn 1 = rn1 ;n 1 (II:2:2) .. . r1n xn : x1 = c1 r12 x2 r 11 Si se utiliza la notacion matricial, se obtiene el siguiente esquema del algoritmo de Gauss, con las matrices aumentadas:

0 B B B B @

(A; b) .. .

1 0 C ! B0 C B C B C B A @0
0
1)

A(1) ; b(1)
.. .

1 0 C ! B0 C B0 C B. C B. A @.

A(2) ; b(2)
0 .. .

0 0

1 C C C C A

0 ! B0 B0 B. B. @.

A(n 1) ; b(n

0 .. . . . . . . . 0 0 0

1 C C: C C A

Teorema II.2.1.- Sea det A 6= 0. El algoritmo de Gauss da la descomposicion siguiente: donde:

PA = LR;

(II:2:3) 1 01 ... 1

0 r11 R=@

r1n 1 . . . ... A ; 0 rnn

01 B l21 L = B .. @
.

y P es una matriz de permutacion.

ln1 ln2

C; C A

(II:2:4)

Demostracion.- Supongase, que las permutaciones necesarias han sido efectuadas al principio, es decir se aplica el Algoritmo de Gauss a la matriz

38

II Sistemas Lineales

PA. Para no complicar la notacion se escribe A, en vez de PA. Utilizando el mismo esquema dado mas arriba, se obtiene:
donde:

0 1 0 B l21 1 B (1) A = B l.31 0 B . .. @ . . 0 1ln1 00 B0 1 B (2) A = B 0 l.32 B .. . @. .

0

A ! A(1) !

! A(n

1)

R = Ln 1 Ln 2 Lo unico que falta mostrar, es que L 1 = Ln 1 Ln y para eso, se tiene: 00 Li = I Vi ; donde

por lo tanto

0 0 1 0 ... ... 0 0 0 1 0 ... ln2 0

A 1 01 0C 0 C = L2A; C C A
1

01 0C 0 C = L1 A; C C

= R;

L2 L1A:
2

L2 L1 ;
01 ...

0 li+1;i 0 .. .. . . . . . lni 0 0 Se puede veri car facilmente que Vi Vj = 0 para i = 1; : : : ; n; de donde se obtiene nalemente: Li 1 = I + Vi ; L = I + V1 + V2 + + Vn 1 : Muchas veces, es necesario calcular sistemas de la forma:

B B B B Vi = B B B B B @

C C C C C: C C C C A

Ax1 = b1 ; Ax2 = b2 :

(II:2:5)

II.2 Metodos Directos

39

Se calcula una vez la descomposicion LR y se resuelve de la manera siguiente:

Ly = b; Rx = y:

(II:2:6)

Teorema II.2.2.- La descomposicion LR da el siguiente resultado,

det A = r11 r22

rnn ;

(II:2:7)

donde los rii son coe cientes de la diagonal de R. Demostracion.- Utilizando identidades en los determinantes se tiene det P det A = det L det R:

Para evaluar cuantas operaciones son necesarias para llegar a la descomposicion LR de una matriz A 2 Mn (R), se procede de la manera siguiente:

El costo de la descomposicion LR.

A ! A(1)

Calculo de los li1 : n 1 divisiones Para cada la i, es necesario efectuar n 1 multiplicaciones mas adiciones, lo que hace un total de (n 1)2 multiplicaciones y adiciones.

Por lo tanto, contando el numero de operaciones en cada etapa del algoritmo, se tiene # operaciones (n 1)2 + (n 2)2 + =
n 1 X i Z=1 n
0 3

+ 22 + 12

i2 x2 dx
(II:2:8)

=n : 3

2 La resolucion de LRx = b, implica aproximadamente n multiplicaciones 2 mas adiciones en la solucion de Ly = b. Igual numero de operaciones se tiene para la resolucion de Rx = y, lo que hace un total aproximado de n2 operaciones.

40

II Sistemas Lineales

De nicion II.2.3.- Sea A una matriz, se llama pivote de la matriz A al coe ciente a11 . Para ilustrar la necesidad en elegir un buen pivote, considerese el siguiente ejemplo. La precision de los calculos tienen tres cifras signi cativas en base 10. Sea el sistema de ecuaciones dado por 10 4x1 + x2 = 1 : (II:2:9) x1 + x2 = 2 La solucion exacta de este sistema de ecuaciones esta dada por: x1 = 1; 000100010001000 ; (II:2:10) x2 = 0; 999899989998999 :
Ahora bien, aplicando el algoritmo de Gauss con 10 4 como pivote, se tiene: l21 = a21 = 0; 100 105 ; a11 La segunda linea del sistema se convierte en 0; 100 105x2 = 0; 100 105; de donde x2 = 0; 100 101; resolviendo x1 se tiene 0; 100 10 3 x1 = 0; 100 101 0; 100 101; por lo tanto x1 = 0: (II:2:11) Ahora, apl quese el algoritmo de Gauss con 1 como pivote, es decir intercambiando la primera ecuacion con la segunda, se tiene: l21 = a21 = 0; 100 10 5 ; a11 La segunda linea del sistema se convierte en 0; 100 101x2 = 0; 100 101; de donde x2 = 0; 100 101; resolviendo x1 , se tiene 0; 100 101 x1 = 0; 200 101 0; 100 101; por lo tanto x1 = 0:100 101: (II:2:12)

La eleccion del pivote

II.2 Metodos Directos

41

La explicacion de este fenomeno consiste en que la sustraccion es una operacion mal condicionada, cuando las cantidades a restar son muy parecidas; en efecto, considerese el siguiente sistema a11 x1 + a12 x2 = b1 ; (II:2:13) a21 x1 + a22 x2 = b2 al aplicar el algoritmo de Gauss se obtiene:

l21 = a21 a
11

a(1) = a22 l21 a12 ; 22 b(1) = b2 l21 b1 ; 2 (1) a22 x2 = b(1) : 2

Si jl21 j

1 se tiene:

l21 a12 ; b(1) l21 b1 ; 2 b1 ; x2 a 12 1 (b a x ) 1 (b b ) : x1 = a 1 12 2 a 1 1 11 11 Para solucionar este problema, se realiza una busqueda de pivote parcial, que consiste en: Se escoge el pivote ai1 tal que jai1 j jaj1 j j = 1; : : : ; n: Se procede de la misma manera para cada paso del algoritmo de Gauss.
Sea A una matriz cuyo determinante es diferente de 0. Se desea saber cual es el error cometido por el algoritmo de Gauss para encontrar la descomposicion A = LR. No se considera las permutaciones, puesto que no se comete error de redondeo. ^ ^ Si se aplica el algoritmo de Gauss, se obtiene las matrices L y R, llamese ^ ^^ ^ A = LR; la descomposicion exacta de A: Para saber, si el algoritmo es numericamente estable, se utiliza la nocion de baackward analysis dada en cap tulo I. Es decir encontrar una constante que veri que: jaij aij j C eps: ^ (II:2:14)

a(1) 22

La Estabilidad del Algoritmo de Gauss

jaij j

42

II Sistemas Lineales

^ Por consiguiente, es necesario estimar la diferencia A A elemento por elemento. Se tiene el siguiente: ^ ^ Teorema II.2.4.- Wilkinson. Sea det A 6= 0; L, R el resultado numerico de la descomposicion LR con busqueda de pivote jlij j 1. Entonces

00 B1 B B1 ^ R 2a eps B 1 ^ A L B. B. @

0 1 2 2 . . .. 1 2

3 .. . 3

0 1 2 3

n 1

1 C C C; C C C A

(II:2:15)

donde a = max a(k) y i;j;k ij

A(0) ! A(1) !

! A(n 1) :

Como resultado de este teorema, el algoritmo de Gauss es numericamente estable, siempre y cuando n no sea demasiado grande. La experiencia numerica indica que es aconsejable utilizar la descomposicion de Gauss para sistemas no mayores a 1000 ecuaciones. Demostracion.- Al efectuar la descomposicion LR, considerando los errores de redondeo, se tiene el siguiente esquema: ^ ^ A(0) ! A(1) ! ^ ! A(n
1)

^ =R

Sin considerar los errores de redondeo se tiene L1 A = A(1) , de donde

0 1 l B ^21 B l ^ 1 = B ^31 L B . @ ..

1 0 1

^n1 0 l

.. .

1 C C; C C A

es la matriz L1 con los errores de redondeo.

Por otro lado, se tiene obteniendo

^ ^ ^ L = L1 1 L2 1

Ln 1 1;

^ ^ ^^ ^ ^ ^ ^ ^ ^ A LR =L1 1 L1 A A(1) + L1 1L2 1 L2 A(1) A(2) ^ ^ ^ ^ + L1 1 L2 1 Ln 1 1 Ln 1 A(n 2) A(n

1)

II.2 Metodos Directos

43

Ahora bien, los coe cientes de la matriz obtenida en el primer paso, estan dadas por a(1) = aij ^i1 a1j (1 + 1 ) (1 + 2 ); i 1; ^ij l que da como consecuencia ^ ^ L1 A A(1) =^i1 a1j aij l ^
ij

=^i1 a1j aij ^i1 a1j (1 + 1 ) (1 + 2 ) l l = aij 2 + ^i1 a1j 2 + ^i1 a1j 1 + ^i1 a1j 1 l l l (1) ^i1 a1j 1 + ^i1 a1j 1 2 ; = aij 2 + l ^ l 2a eps donde a = max a(k) ; i 2: i;j;k ij

obteniendo as : ^ ^ L1 A A(1)

Bajo forma matricial, el resultado anterior esta dado por 00 01 B1 1C ^ ^ L1 A A(1) 2a eps B .. .. C : @. .A 1 1 Continuando con el mismo procedimiento en la demostracion, se obtiene 00 0 01 B0 0 0C C B. . ^ 2 A(1) A(2) 2a eps B 0 1 ^ ^ 1C; L B. . .. C @. . .A 0 1 1 resultados similares tambien se obtienen para los demas pasos del algoritmo de Gauss con lo que se obtiene le resultado deseado. Un caso particular de sistema de ecuaciones lineales, es donde la matriz A es: De nicion II.2.5.- Una matriz A 2 Mn(R) es simetrica y de nida positiva, si cumple las siguientes dos condiciones: (II:2:16) At = A; (II:2:17) xt Ax > 0; 8x 2 Rn ; x 6= 0:

El Algoritmo de Cholesky

44

II Sistemas Lineales

Teorema II.2.6.- Sea A simetrica y de nida positiva, entonces:

a) El algoritmo de Gauss es posible sin busqueda de pivote. b) La descomposicion A = LR satisface

R = DLt ; con D = diag(r11 ; r22 ;

; rnn ):

(II:2:17)

Demostracion.- Sea A simetrica y de nida positiva, dada por

0 a11 A = @ ...

an1

a1n 1 .. A : . ann

El coe ciente a11 de la matriz A es diferente de 0, porque la matriz A es de nida positiva y a11 = et Ae1 donde et = (1; 0; ; 0). Despues del primer 1 1 paso del algoritmo de Gauss, se obtiene:

0 a11 a12 a1n 1 B0 C; C A(1) = B .. (1) @ . A C

0

a li1 = a i1 ;
11

de donde se tiene

1 c(1) = aij li1 a1j = aij aia a1j : ij 11

Por lo tanto es su ciente mostrar que C (1) es simetrica y de nida positiva. En efecto, expresando la matriz A como

a11 z t ; z C
se tiene Hay que mostrar que

C (1) = C a1 zz t: 11

yt C (1) y = yt Cy a11 yt z 2 > 0; 8y 6= 0: 1 Por hipotesis la matriz A es de nida positiva, de donde

t 11 ( x1 yt ) az z C

x1 = a x2 + x z t y + yt zx + yt Cy > 0; 11 1 1 1 y

II.2 Metodos Directos

45

para x1 2 R y y 2 Rn 1 los dos no nulos al mismo tiempo. tz Planteando x1 = y11 , se tiene a (yt z )2 a11 por consiguiente 2 (z ty)2 + yt Cy > 0; a11

yt Cy a1 yt z 2 > 0: 11 La descomposicion LR es unica, si esta existe, en efecto, si A = L1 R1 = L2 R2 ;

dos descomposiciones de A. Se tiene

L2 1 L1 = R2 R1 1 ;
las matrices del tipo L, como aquellas de tipo R forman subgrupos dentro el grupo de las matrices inversibles, deduciendose que

L2 1 L1 = I;
por lo tanto L1 = L2 y R1 = R2 . Para demostrar la parte b) del teorema, se de ne la matriz L1 , como Lt = D 1 R; 1 donde D = diag(r11 ; ; rnn ), hay veri car que L1 = L. Las siguientes identidades se cumplen:

A = LR = LDLt ; 1 At = L1DLt ; como A es simetrica y por la unicidad de la descomposicion LR, se deduce L = L1 . . De nicion II.2.7.- Sea D una matriz diagonal a coe cientes no negativos, entonces: p p 1 D 2 = diag d11 ; ; dnn : (II:2:18)
1 Si se de ne L = LD 2 , se tiene

A = LLt;
que es la descomposicion de Cholesky de la matriz A simetrica y de nida positiva. Para simpli car notacion, se escribe L, en lugar de L. Entonces los

46

II Sistemas Lineales

coe cientes de la matriz L de la descomposicion de Cholesky de A, estan dados por: para k = 1; : : : ; n:

2 2 lkk = akk lk1 lk2

(II:2:19) aik li1 lk1 li;k 1 lk;k 1 ; i = 1; : : : ; k 1: lik = lkk El costo en operaciones, despreciando el calculo de las raices cuadradas, para obtener la descomposicion de Cholesky, esta dado por
n X k=1

2 lk;k 1 ;

k(n k)

Zn
0

x(n x)dx = n : 6
3

(II:2:20)

La resolucion de la ecuacion Ax = b, donde A es una matriz simetrica y de nida positiva, se puede efectuar en dos pasos utilizando la descomposicion de Cholesky: Ly = b; Lt x = y; los cuales necesitan un total aproximado, lo mismo que en el algoritmo de Gauss, n2 operaciones. La estabilidad de la descomposicion de Cholesky esta dada por el siguiente: ^ Teorema II.2.8.- Sea A una matriz simetrica y de nida positiva. L el resultado numerico de la descomposicion de Cholesky, entonces ^^ A LLt donde a = max jaij j. ij

01 B1 B a eps B 1 B .. @.

1 2 2 .. . 1 2

1 2 3 .. . 3

11 2C C 3 C; C

(II:2:21)

Demostracion.- Se demuesta de la misma manera que el teorema II.2.4

referente a la estabilidad de la descomposicion LR.

II.2 Metodos Directos

47

Ejercicios
1.- Escribir una subrutina DEC(N,NDIM,A,B,IP,IER) que calcule la descomposicion LR, tomando en cuenta la busqueda parcial de pivote. Luego escribir una subrutina SOL(N,NDIM,A,B,IP) que permita resolver Ax = b utilizando la descomposicion obtenida por DEC. a) Resolver 05 2 1 3 1 0 9 1 B 1 20 3 4 C x = B 28 C : @ 0 1 1 30 A @ 32 A 2 8 25 4 11 b) Calcular la inversa de la matriz de Hilbert dada por 1 H = i+j i;j =1
n n

para n = 2; 3; 4; 5:

2.- a) Calcular la descomposicion de Cholesky LLt para la matriz de Hilbert 1 ; n = 15: H = i+j i;j =1 b) Comparar el resultado numerico con los valores exactos, (j 1)! ljk = 2k(j 1 k)!(j + k (j 1)! : (II:2:22) 1)! >Cuantas cifras son exactas? ^ c) Si L es el resultado numerico, calcular el residuo ^^ A LLt; calcular tambien el residuo A LLt para la matriz L dada por (II.2.22). 3.- Calcular cond1 (An ) para las matrices: a) de Hilbert i b) de Vandermonde (aij ) = cj 1 ; i; j = 1 n con ci = n , i 1 para n = 1; 2; 3; : : :; 15. Calcular tambien n log10 (cond1 (An )) y encontrar una formula que aproxime cond1 (An ). 4.- Sea A una matriz-banda, simetrica y de nida positiva, p el grosor de la banda. Mostrar que, L de la descomposicion de Cholesky es tambien una matriz-banda. Si n es el orden de la matriz, sabiendo que n p, >Cuantas multiplicaciones son necesarias para calcular L?

II.3 Metodos Iterativos

En la seccion II.2, se analizo dos metodos para resolver directamente sistemas de ecuaciones lineales. Un metodo directo de resolucion de un sistema de ecuaciones deber a dar el resultado numerico igual a la solucion exacta, si no se considerase los errores de redondeo, es decir, si se contase con un dispositivo de calculo con una precision in nita, desgraciadamente este no es el caso. Si bien, un metodo directo da una solucion que se aproxima a la exacta, la principal desventaja de utilizarlos, reside en el hecho en que cuando se debe resolver grandes sistemas lineales, la propagacion del error de redondeo es muy grande, desvirtuando su valor; ademas, en muchos casos no se toma en cuenta muchas de las particularidades que pudiese tener la matriz del sistema lineal, o nalmente no es necesario obtener una solucion exacta, si no una aproximacion de esta. Los metodos que seran estudiados en esta seccion, son iterativos en el sentido en que se utilizan las soluciones anteriores para obtener la siguiente. Entre los metodos que seran analizados se tiene: Jacobi, Gauss-Seidel, SOR. Estos metodos son utilizados para resolver el sistema de ecuaciones, dado por u = Au + b: (II:3:1) El metodo de Jacobi consiste en la utilizacion de la solucion anterior para calcular la nueva solucion, es decir

Metodos de Jacobi y Gauss-Seidel

u(k+1) = Au(k) + b:

(II:3:2)

Obviamente las soluciones obtenidas por el metodo de Jacobi no son exactas, pero son aproximaciones de estas. Para la formulacion del metodo de Gauss-Seidel, considerese la matriz A como A = L + U; (II:3:3) donde:

00 B a21 L = B .. @
.

an1

an;n

...
1

01 0C .. C ; .A 0

0 a11 a12 B 0 a22 U = B .. @

. 0

a1n 1 a2n C . . . ... C : A 0 ann