Documenti di Didattica
Documenti di Professioni
Documenti di Cultura
DEFINICION
Mnimos cuadrados es una tcnica de anlisis numrico enmarcada dentro de
la optimizacin matemtica, en la que, dados un conjunto de pares ordenados:
variable independiente, variable dependiente, y una familia de funciones, se
intenta encontrar la funcin continua, dentro de dicha familia, que mejor se
aproxime a los datos (un "mejor ajuste"), de acuerdo con el criterio de mnimo
error cuadrtico.
En su forma ms simple, intenta minimizar la suma de cuadrados de las
diferencias en las ordenadas (llamadas residuos) entre los puntos generados por
la funcin elegida y los correspondientes valores en los datos. Especficamente, se
llama mnimos cuadrados promedio (LMS) cuando el nmero de datos medidos es
1 y se usa el mtodo de descenso por gradiente para minimizar el residuo
cuadrado. Se puede demostrar que LMS minimiza el residuo cuadrado esperado,
con el mnimo de operaciones (por iteracin), pero requiere un gran nmero de
iteraciones para converger.
Desde un punto de vista estadstico, un requisito implcito para que funcione el
mtodo de mnimos cuadrados es que los errores de cada medida estn
distribuidos de forma aleatoria. El teorema de Gauss-Mrkov prueba que los
estimadores mnimos cuadrticos carecen de sesgo y que el muestreo de datos no
tiene que ajustarse, por ejemplo, a una distribucin normal. Tambin es importante
que los datos a procesar estn bien escogidos, para que permitan visibilidad en
las variables que han de ser resueltas.
La tcnica de mnimos cuadrados se usa comnmente en el ajuste de curvas.
Muchos otros problemas de optimizacin pueden expresarse tambin en forma de
mnimos cuadrados, minimizando la energa o maximizando la entropa.
HISTORIA
El da de Ao Nuevo de 1801, el astrnomo italiano Giuseppe Piazzi descubri el
planeta enano Ceres. Fue capaz de seguir su rbita durante 40 das. Durante el
curso de ese ao, muchos cientficos intentaron estimar su trayectoria con base en
las observaciones de Piazzi (resolver las ecuaciones no lineales de Kepler de
movimiento es muy difcil). La mayora de las evaluaciones fueron intiles; el nico
clculo suficientemente preciso para permitir aFranz Xaver von Zach, astrnomo
alemn, reencontrar a Ceres al final del ao fue el de Carl Friedrich Gauss, por
entonces un joven de 24 aos (los fundamentos de su enfoque ya los haba
planteado en 1795, cuando an tena 18 aos). Sin embargo, su mtodo de
mnimos cuadrados no se public sino hasta 1809, y apareci en el segundo
volumen de su trabajo sobre mecnica celeste, Theoria Motus Corporum
Coelestium in sectionibus conicis solem ambientium. El francs Adrien-Marie
Legendre desarroll el mismo mtodo de forma independiente en 1805.
En 1829, Gauss fue capaz de establecer la razn del xito maravilloso de este
procedimiento: simplemente, el mtodo de mnimos cuadrados es ptimo en
muchos aspectos. El argumento concreto se conoce como teorema de GaussMrkov.
PROBLEMA
Sea
un conjunto de n puntos en el plano real, y sea
una base de m funciones linealmente independiente en un espacio de funciones.
Queremos encontrar una funcin
, esto es:
aproximante
d la mejor aproximacin para los puntos dados
. El
criterio de "mejor aproximacin" puede variar, pero en general se basa en aqul
que minimice una "acumulacin" del error individual (en cada punto) sobre el
conjunto total. En primer lugar, el error (con signo positivo o negativo) de la
funcin
en un solo punto,
se intenta medir y minimizar
, se define como:
el error en todo
el
conjunto
pero
de la
aproximacin,
. En matemticas, existen diversas formas de definir
el error, sobre todo cuando ste se refiere a un conjunto de puntos (y no slo a
uno), a una funcin, etc. Dicho error (el error "total" sobre el conjunto de puntos
considerado) suele definirse con alguna de las siguientes frmulas:
Error Mximo:
Error Medio:
Error cuadrtico medio:
La aproximacin por mnimos cuadrados se basa en la minimizacin del error
cuadrtico medio o, equivalentemente, en la minimizacin del radicando de dicho
error, el llamado error cuadrtico, definido como:
Para alcanzar este objetivo, se utiliza el hecho que la funcin f debe poder
describirse como una combinacin lineal de una base de funciones. Los
coeficientes de la combinacin lineal sern los parmetros que queremos
determinar. Por ejemplo, supongamos que f es una funcin cuadrtica, lo que
quiere decir que es una combinacin lineal,
de las
funciones
,
y
(m=3 en este caso), y que se
pretende determinar los valores de los coeficientes:
, de modo que
minimicen la suma (S) de los cuadrados de los residuos:
LA APROXIMACIN
Sea
de
un
conjunto
pares
con
DISCRETA MNIMO
abscisas
distintas,
sea
un conjunto de m funciones linealmente independientes (en un
espacio vectorial de funciones), que se llamarn funciones base. Se desea
encontrar una funcin
funciones
base,
. En concreto, se
El
cuadrtico
error
medio
.
ser
para
tal
caso:
para
i=1,2,
.,m
para
i=1,2,
.,m
cual,
Siendo
y
para
en
forma
matricial,
se
expresa
como:
una
funcin
,
h(x)
vector
cualquiera
u,
como:
COROLARIO
Si se tratara de hallar el conjunto de coeficientes
exactamente por todos los pares
interpole a
tal que
pase
Esto es:
siendo
Si atendemos al sistema
, entonces se ve claramente que al multiplicar A y
c, lo que se realiza es una combinacin lineal de las columnas de A:
por
Referencias
Abdi, H (2003). [1] (2003). Least-squares.. M. Lewis-Beck, A. Bryman, T. Futing
(Eds): Encyclopedia for research methods for the social sciences. Thousand Oaks
(CA): Sage. pp. 792-795.
Ana Isabel Allueva Pinilla Matematica Aplicada Universidad de Zaragoza.