Apostila de Geodesia 2

IFG - INSTI TUTO FEDERAL DE EDUCAO, CINCIAS E TECNOLOGIA DE GOIS
AJ US TAMENTO DE OBS ERVA ES PROF . NI LTON RI CETTI XAVI ER DE NAZ AREN O

SUMRIO
1. Introduo 1
1.1. Definio 3
2. Conceito de Observao 4
2.1. Modelo Matemtico 5
2.2. Propriedade dos Erros de Observao 5
2.3. O conceito de preciso e exatido 8
3. Propagao das Covarincias 13
3.1. Varivel aleatria. 13
3.2. Matriz varincia-covarincia (M.V.C.) 13
3.3. Matriz de correlao 14
3.4. Lei de Propagao das Covarincias 16
4. Sistema de Equaes Lineares e o Mtodo dos Mnimos Quadrados 27
4.1. Resoluo de Sistema de Equaes Lineares 27
4.2. O Mtodo dos Mnimos Quadrados 28
4.3. Condicionamento de Sistemas 30
5. Ajustamento de Observaes 33
5.1. Ajustamento de observaes diretas 34
5.1.1. Estimativa pontual: mdia. 34
5.1.2. Estimativa da preciso: Desvio Padro. 34
5.1.3. Estimativa por intervalo 36
5.1.3.1. Intervalo de confiana para a mdia 37
5.1.3.2. Intervalo de confiana para a varincia 38
5.2. Ajustamento de observaes indiretas 47
5.2.1. Mtodo Paramtrico 49
5.2.1.1. Qualidade do ajustamento. 51
5.2.1.2. Sequncia prtica de clculo 53
5.3. Ajustamento de observaes diretas condicionadas 61
5.3.1. Mtodo dos Correlatos 61
5.4. Mtodo Combinado 67
Referncias Bibliobrficas 77


1
1. INTRODUO
Ao serem feitas medidas, pela prpria condio da imperfeio dos homens
e dos instrumentos, estas esto impregnadas dos erros de observao. Tanto assim,
que normalmente procedem a mais de uma medida para se ter garantias sobre o valor
encontrado. Se as medidas forem de uma nica grandeza como, por exemplo,
distncias ou ngulos, a mdia uma boa soluo. Contudo, quando esto envolvidas
ao mesmo tempo grandezas de naturezas diferentes e que se relacionam atravs de
uma funo matemtica, a soluo no to imediata. Outro fato importante reside na
premissa de que somente o valor da grandeza no suficiente, do ponto de vista
tcnico-cientfico. preciso saber qual o grau de confiana no valor obtido. Isto
proporcionado pela estimativa de preciso da medida que numericamente igual ao
desvio-padro.
Como exemplo, vamos imaginar que se pretenda determinar as
coordenadas de um ponto P a partir de uma estao E (com coordenadas conhecidas),
da distncia entre a estao e o ponto, e do azimute da direo estao-ponto. Este
um problema clssico da topografia cuja soluo a seguinte:
d
E-P
A
E-P
E
P
N

XB
P
B = XB
E
B + d B
E-P
B senAB
E-P
B
YB
P
B = YB
E
B + d B
E-P
B cosAB
E-P
onde : (XBPB,YBPB) - coordenadas do ponto (incgnitas);
(XBEB,YBEB) - coordenadas da Estao;
d BE-PB - distncia entre a Estao e o ponto;
ABE-PB - azimute da direo estao ponto.


2
Observa-se que para resolver o sistema so necessrias duas observaes, a
distncia e o Azimute. No caso a soluo nica.
Agora imaginemos o mesmo problema s que introduzindo mais uma
estao E2. Este tambm um problema clssico. A soluo dada por:
d
E1-P
A
E1-P
E 1
P
A
E2-P
d
E2-P
E 2
N N

XB
P
B = XB
E1
B + d B
E1-P
B senAB
E1- P
B
YB
P
B = YB
E1
B + d B
E1-P
B cosAB
E1- P
XB
P
B = XB
E2
B + d B
E2-P
B senAB
E2- P
B
YB
P
B = YB
E2
B + d B
E2-P
B cosAB
E2- P

onde : (XBPB,YBPB) - coordenadas do ponto (incgnitas);
(XBE1B,YBE1B) - coordenadas da estao 1;
d BE1-PB - distncia entre a estao 1 e o ponto;
ABE1- PB - azimute da direo estao 1 ponto.
(XBE2B,YBE2B) - coordenadas da estao 2;
d BE2-PB - distncia entre a estao 2 e o ponto;
ABE2- PB - azimute da direo estao 2 ponto.

Observa-se agora que existem duas maneiras de se obter as coordenadas
do ponto P. Uma atravs da estao 1 e outra da estao 2. Se as medidas fossem
isentas de erros, qualquer uma das solues levaria ao mesmo resultado, contudo isso
no ocorre e a soluo que parece obvia adotar a mdia como resposta ao problema.
Imaginemos ainda que de cada uma das estaes mediu-se com
equipamentos com precises diferentes e com operadores diferentes. Qual das


3
solues a mais correta? neste tipo de problema que as tcnicas de ajustamentos
so importantes porque permitem que se equacionem todas as nuances do problema.
1.1. Definio
O ajustamento o ramo da matemtica aplicada que tem por objetivo a soluo
nica para problemas onde o nmero de observaes (ou medidas)
redundante e o sistema de equaes inconsistente, bem como a preciso da
soluo adotada Camargo (2000).
A redundncia representada pelo nmero de medidas a mais do que as
necessrias para se obter a soluo e, a inconsistncia, pelas diferentes solues que se
obtm quando o nmero de observaes excede o de incgnitas.
A figura a seguir mostra um problema passvel de ajustamento. Trata-se de
uma rede de nivelamento onde Lb1, Lb2 ... Lb12 so os desnveis medidos nas linhas de
nivelamento independentes. Para se determinar o desnvel entre o ponto P e a RN
existem vrias possibilidades, como por exemplo:
RN
P
Lb1
Lb2
Lb6
Lb5
Lb7
Lb4
Lb11
Lb9
Lb10
Lb12
Lb3
Lb8

Ah = Lb1 + Lb8
Ah = Lb2 + Lb5 + Lb7 + Lb11
Ah = Lb3 + Lb10 +Lb12
Ah = Lb1 + Lb4 + Lb7 + Lb11
Ah = Lb3 + Lb6 + Lb5 + Lb7 + Lb11
Ah = Lb3 + Lb10 + Lb9 + Lb11
..

Estas so algumas das possibilidades de soluo. Todavia a probabilidade
de cada uma delas gerar uma resposta diferente muito grande.
O processo de ajustamento neste caso vai possibilitar que
independentemente da soluo adotada a resposta ser nica.


4
possvel ainda, com base nas tcnicas do ajustamento, detectar a
presena de erros grosseiros em um conjunto de observaes, efetuar o planejamento
da coleta de dados e saber, a priori, se atendero as prescries estabelecidas.
2. CONCEITO DE OBSERVAO
Segundo Camargo (2000) o termo observao ou medida frequentemente
usado na prtica para referir-se operao, bem como para o resultado da operao. O
valor numrico da observao de fundamental importncia para a cincia e
engenharia, pois submete o instrumento anlise e manipulao.
Ainda em Camargo (2000), so listadas as propriedades fundamentais da
medida:
Medir significa realizar uma operao fsica, e o processo de medida consiste de
vrias operaes elementares; tais como: preparao, calibrao, pontaria, leitura e
etc.;
O resultado do processo representa a medida;
A no ser na contagem de certos eventos, a medida sempre realizada com auxlio
de instrumentos;
As medidas esto referenciadas a um padro, os quais so estabelecidos por
conveno. Medir comparar uma grandeza a um padro, tendo dimenso e
unidade;
A medida um conceito terico, tal como uma abstrao geomtrica usada para
distncia e ngulo, os quais no tm equivalente direto na natureza fsica. No
entanto, tais conceitos permitem descrever certos elementos da natureza, como
localizao, rea e etc.
Para descrever certos elementos da natureza necessrio utilizar modelos,
como o caso da forma da Terra, onde se utiliza a esfera ou o elipside de revoluo.
No caso do ajustamento, o modelo que interessa o matemtico que relaciona as


5
medidas efetuadas com as grandezas procuradas. Este o caso das equaes que
unem a distncia e o azimute com as coordenadas do ponto.
2.1. Modelo Matemtico
Define-se modelo matemtico ao sistema terico ou abstrato que descreve
uma situao fsica ou uma srie de eventos. Tal descrio no necessita explicar
totalmente a situao fsica, mas relacionar somente os aspectos, ou propriedades de
interesse. Tendo em vista que o modelo tem o propsito de atender um interesse
particular, dependendo do propsito, ele pode assumir formas diferentes.
Costuma-se dividir o modelo matemtico em funcional e estocstico. O
modelo funcional constitui a parte determinstica da realidade fsica e o estocstico
descreve as propriedades estatsticas das observaes.
Um exemplo de modelo funcional, j explorado no incio desta apostila, o
da determinao das coordenadas de um ponto a partir da distncia e do azimute da
direo entre esse ponto e outro de coordenadas conhecidas. Esse modelo funcional
do tipo geomtrico, como a maioria dos modelos adotados na rea de geomtica.
O modelo estocstico aborda a variabilidade dos resultados oriundos de
influncias fsicas que no podem ser controladas, da falibilidade humana e das
imperfeies dos instrumentos de medida. De qualquer modo, ambos os modelos
devem ser tratados no ajustamento de forma conjunta.
2.2. Propriedade dos Erros de Observao
As observaes so representaes numricas de quantidades fsicas como
comprimento, ngulo, peso, entre outras. Estas observaes so obtidas atravs de
medidas e, portanto possuem o que classicamente se chamava de erros de observao.
Embora este conceito esteja sendo gradualmente substitudo por propriedades
estatsticas das observaes, ainda comum o uso convencional do conceito de erro.


6
Sabe-se que, mesmo se cercando de precaues e cuidados especiais no
momento da obteno de uma medida, estas esto acompanhadas dos inevitveis
erros de observao. Este fato esta relacionado falibilidade humana, imperfeio
dos equipamentos e as condies ambientais nas quais se processa a mensurao.
Estes erros so classificados em:
a) erros grosseiros quando o valor medido extrapola a 3 vezes o valor do
desvio padro da medida. Esse erro normalmente de fcil deteco e est
associado desateno do operador ou mesmo do anotador;
b) erros sistemticos quando o valor medido acrescido ou diminudo de uma
quantidade constante. Estes erros so de causas conhecidas e podem ser
evitados ou minimizados por tcnicas de observao ou por formulaes
matemticas. o caso do erro causado pela catenria de uma trena que pode
ser posteriormente eliminado;
c) erros aleatrio quando existe uma flutuao do valor medido ao redor de
um valor dito mdio. Este erro tambm conhecido como acidentais,
estocstico ou randmico no tem causa conhecido e est intimamente ligado
as propriedades estatsticas das observaes.
Para se proceder ao ajustamento necessrio que no existam os erros
grosseiros e os sistemticos nas observaes. No entanto, os aleatrios so modelados
pelo processo de ajustamento e distribudos pelo critrio desenvolvido separadamente
por Gauss em 1795 e Legendre em 1805, denominado mtodo dos mnimos quadrados
(M.M.Q.).
Segundo Gemael (1994), a experincia tem demonstrado que quando o
nmero de observaes cresce, os erros aleatrios tendem a ter um comportamento
regular, de modo que a distribuio de freqncia dos erros se aproxima muito da
distribuio normal (curva de Gauss). Este fato foi notado por Bradley no incio do
sculo XVII, quando visando obter a posio do ponto vernal atravs de 462
determinaes da asceno reta do Sol, verificou que ao retirar as influncias
sistemticas conhecidas na poca e calcular os desvios em relao mdia aritmtica
existia uma grande simetria e o predomnio de valores ao redor da mdia.


7
Tabela 1 -Experincia de Bradley
INTERVALOS
Freqncia
(fi)
fP
2
PBiB fBiBvBiB fBiBvP
2
PBiB Fi
0,9 1,0 3 9 2,85 2,7075 2,3
0,8 0,9 5 25 4,25 3,6125 4,1
0,7 0,8 7 49 5,25 3,9375 7,1
0,6 0,7 13 169 8,45 5,4925 11,4
0,5 0,6 18 324 9,9 5,4450 17,0
0,4 0,5 25 625 11,25 5,0625 24,9
0,3 0,4 29 841 10,15 3,5525 31,7
0,2 0,3 39 1521 9,75 2,4375 38,7
0,1 0,2 44 1936 6,60 0,9900 44,3
0,0 0,1 47 2209 2,35 0,1175 47,4
0,0 -0,1 47 2209 -2,35 0,1175 47,4
-0,1 -0,2 44 1936 -6,60 0,9900 44,3
-0,2 -0,3 39 1521 -9,75 2,4375 38,7
-0,3 -0,4 29 841 -10,15 3,5525 31,7
-0,4 -0,5 26 676 -11,70 5,2650 24,9
-0,5 -0,6 18 324 -9,90 5,4450 17,0
-0,6 -0,7 13 169 -8,45 5,4925 11,4
-0,7 -0,8 7 49 -5,25 3,9375 7,1
-0,8 -0,9 5 25 -4,25 3,6125 4,1
-0,9 -1,0 4 16 -3,80 3,6100 2,3
462 15474 -1,40 67,8150
Onde fi a frequncia real e Fi a terica.
Ao se observar a Tabela 1, que reproduz os dados de Bradley, nota-se a
partir da coluna das frequncias que existem 230 desvios positivos e 232 desvios
negativos. Esses desvios foram determinados pela diferena entre o valor medido e a
mdia aritmtica desses valores. A simetria e o predomnio de valores ao redor da
mdia dos desvios (zero) sugerem claramente a distribuio normal, visualizada no
histograma e no polgono de frequncia a seguir. Ao se comparar a frequncia real com
a terica (Fi) verifica-se uma impressionante concordncia de valores.


8

Existem outros exemplos prticos que demonstram esta tendncia. A partir
desta constatao pode-se afirmar que quando o nmero de observaes cresce:
Os resduos de mesmo mdulo e sinais opostos so equiprovveis;
Os resduos menores ocorrem com menor freqncia;
A mdia dos resduos praticamente nula.
O predomnio de resduos com um sinal deve servir de alerta para a
existncia de algum erro sistemtico.

2.3. O conceito de preciso e exatido
O termo acurcia utilizado na rea de geomtica para indicar a qualidade
de uma grandeza observada ou de um parmetro estimado. No entando, o termo
preciso tambm usado com o mesmo emprego. Isto demonstra haver uma confuso
quanto ao significado destes dois vocbulos. Inicialmente preciso esclarecer que
essas palavras tm origem na lngua inglesa, accuracy e precision, que foram traduzidas
respectivamente por acuracidade (exatido) e preciso. A relao desses dois conceitos
est intimamente ligada aos erros sistemticos e aos aleatrios. Em Monico (2009),


9
onde se discute essa temtica, citada a seguinte definio proposta por Mikhail e
Ackermann (1976, p. 64):
Acurcia o grau de proximidade de uma estimativa com seu parmetro (ou valor
verdadeiro), enquanto preciso expressa o grau de consistncia da grandeza medida
com sua mdia. A acurcia reflete a proximidade de uma grandeza estatstica ao
valor do parmetro para o qual ela foi estimada e que preciso est diretamente
ligada com a disperso da distribuio das observaes.
Analisando essa definio percebe-se que a preciso est ligada apenas aos
efeitos aleatrios da medida (erro aleatrio) enquanto que acurcia envolve erros
sistemticos (tendncia) associados aos erros aleatrios.
Os mesmos autores citados por Monico (2009) apresentam uma medida de
acurcia proposta por Gaus denominada Erro Quadrtico Mdio (EQM) ou em ingls
mean square error (MSE) dada por:
HSE = m
2
= E{(p E{(p )}
2
)} = o
p
2
+ (b)
2

e
2
n
n
=1

onde: E{(p )} Esperana matemtica ou valor esperado para a varivel p

1

p
2
representa a disperso das medidas (varincia ou incerteza)
b representa a tendncia ou vcio do estimador

I
2
quadrado dos erros verdadeiros
n nmero de elementos da amostra ou de observaes
Essa expresso, para amostras grandes, praticamente igual mdia
quadrtica dos erros verdadeiros (). Por definio o erro verdadeiro a diferena
entre um valor observado (ou medido) e o tomado como referncia (conhecido).

1
Esperana matemtica E{ } ou valor esperado a mdia ponderada dos valores que a varivel
aleatria ou funo assume, usando-se, como pesos para ponderao, as probabilidades
correspondentes a cada valor.


10
Para se entender a idia imagine dois atiradores a e b e um alvo onde os
dois atiraram. Observa-se que o atirador a tem os tiros mais concentrados enquanto o
atirador b tem os tiros mais dispersos. No entanto o centro da concentrao dos tiros
de b est mais prximo do centro do alvo do que a do atirador a. Pode-se ento
afirmar que:
a
b

o atirador a tem uma preciso maior que
o b.
existe um erro sistemtico maior
conduzindo os tiros mais precisos de a.
a acurcia ou exatido depender da
disperso (preciso) e do erro
sistemtico.

Mikhail e Ackermann (1976) apud Monico (2009) fazem a anlise do problema
atravs dos histogramas que representam trs conjuntos de medidas (p
1
, p
2
e p
3
) de
uma mesma grandeza.
Frequncia
f(p)
(1)
(2)
(3)
Grandeza
tendncia
b
E{(p )}
3
^
p = = E{( E{( p )} p )}
1 2
^ ^


11
Observando os histogramas pecebe-se que as esperanas E{(p
1
)} e E{(p
2
)}
coincidem com o valor de referncia p (correto). A diferena reside na disperso que
maior em p
2
. Assim pode-se afirmar que p
1
e p
2
, embora no apresentem erro
sistemtico (tendncia), no so igualmente acurados uma vez que possuem precises
distintas, ou seja, p
1
mais acurado que p
2
. Por outro lado, a esperana
E{(p
3
)} apresenta um erro sistemtico ou tendncia, representado pelo valor b, o
que implica em se afirmar que p
3
no possui acurcia.
Analisando s o aspecto da preciso, deixando de lado as questes de
tendncia, pode-se afirmar pela ordem que p
1
a mais precisa que p
3
que por sua vez
mais precisa que p
2.
Para a rea das mensuraes, como dito anteriormente, a acurcia
representa a qualidade da observao ou, a confiana que se tem no resultado obtido a
partir de um nmero de medidas. Se o valor de referncia da medida for conhecido,
possvel se estimar a tendncia e eliminar os possveis efeitos sistemticos nas
medidas. Porm, quando isso no acontece, utiliza-se a prpria preciso como um
indicador da acurcia. A adoo da preciso como acurcia no implica em dizer que a
tendncia no exista, mas que apenas no se conhece o seu valor. Esse o caso da
maioria dos processos de medida e assim, para evitar a presena dos erros
sistemticos, necessrio que se utilizem equipamentos aferidos e mtodos
consagrados de observao. Este procedimento no garante a total ausncia de
tendncia, mas, com certeza, um mtodo seguro de minimiz-la.
Finalmente pde-se extrair as seguintes afirmaes de Monico (2009):
Dois valores mdios iguais podem ter precises diferentes;
No faz sentido dizer que um valor acurado preciso ou no, pois a preciso faz
parte da prpria definio de acurcia;
Dada a preciso de uma grandeza, o valor de sua acurcia no mnimo igual a
ela;
Conhecido o valor da tendncia, a acurcia , no mnimo, igual a ela.


12
Exemplo 1 - Suponha que voc quer testar a capacidade profissional de trs topgrafos.
Para tanto voc mediu uma distncia com uma estao total que ser, para efeito de
clculo, considerada correta. Os trs topgrafos fizeram a mesma medida com trena.
Baseado nos valores obtidos por eles, qual o mais acurado?

Topgrafo Distncia Preciso
1 99,90 m 2 cm
2 100,01 m 3 cm
3 100,00 m 5 cm
Distncia com estao = 100 m => valor de referncia
Partindo-se da equao proposta por Gaus => EQM = m =
p
2
+(b)
2
e considerando que 100 m
o valor de referncia, podem-se obter os erros sistemticos para as trs medidas, ou seja:
b
1
= -0,10 m; b
2
= 0,01 m; b
3
= 0 m.
Aplicando a equao para o trs casos:
m
1
= (0,02 m) + (-0,10 m) = 0, 0104 m
m
2
= (0,03 m) + (0,01 m) = 0,0010 m
m
3
= (0,05 m) + ( 0,0 m) = 0,0025 m
Extraindo-se a raiz quadrada dos trs valores obtidos, tem-se a acurcia de cada topgrafo.
m
1
= 0,102 m;
m
2
= 0,032 m;
m
3
= 0,050 m;
Observa-se que se no fosse conhecido o valor de referncia, o topgrafo 1 seria o mais preciso,
pois o desvio padro de suas medidas o menor. No entanto, nota-se que o topgrafo 2 apresenta a
maior acurcia e, na sequncia, o topgrafo 3, que o de pior preciso. Como na maioria das vezes no
se tem conhecimento de valores de referncia, refora-se assim a afirmativa de que se devem utilizar
equipamentos aferidos e seguir as normas de levantamento indicadas.


13
3. PROPAGAO DAS COVARINCIAS
3.1. Varivel aleatria.
Varivel aleatria (v.a.) uma funo que associa a cada elemento de um
espao amostral um nmero real, ou aquela, cujo valor o resultado numrico de um
experimento aleatrio. Considerando que cada medida resulta em um nico valor, o
conjunto destas medidas constitui uma v.a.
Dependendo dos valores numricos, a varivel aleatria poder ser discreta
ou contnua. Ela dita:
discreta quando assume valores em pontos isolados ao longo de uma escala
(nmero finito ou infinito enumervel de valores). Exemplo: os valores possveis de
se obter quando se joga um dado ou uma moeda.

contnua quando assume qualquer valor ao longo de um intervalo (nmero infinito
no enumervel de valores). Exemplo: conjunto de medidas de um mesmo ngulo
dentro de uma srie.
Se o conjunto que constitui a v.a. de mesma natureza, diz-se que ele
uma varivel aleatria unidimensional. Entretanto, quando no conjunto tm-se
grandezas de natureza diversa, diz-se que uma v.a. multidimensional. Por exemplo, o
conjunto constitudo por uma srie de medidas angulares uma v.a. unidimensional, e
o conjunto constitudo por azimute e distncia, multidimensional.
3.2. Matriz varincia-covarincia (M.V.C.)
A estimativa de preciso de uma v.a. fornecida pelo desvio padro dessa
varivel (o B
i
B). Quando se tem uma v.a. multidimensional, a preciso representada
pela matriz varincia covarincia (E) que formada pelas varincias (
2
i
o ) dos i
indivduos ou elementos que compe a v.a., e pelas covaricias (o
ij
) desses mesmos
elementos. A raiz quadrada das varincias fornece a preciso e a covarincia indica o
grau de dependncia ou relao entre dois elementos dessa v.a.


14
Por exemplo, as varincias
2
i
o e covarincias o
ij
de um conjunto de n
observaes (Lb) podem ser dispostas de maneira a formar uma matriz quadrada (nxn),
representada por EB
Lb
B, ou seja:
(
(
(
(
(
=
2
2 1
2
2
2 21
1 12
2
1
n n n
n
n
Lb
o o o
o o o
o o o

A matriz EB
Lb
B, simtrica (o
ij
= o
ji
), recebe o nome de matriz varincia-
covarincia (M.V.C.), ou simplesmente matriz covarincia (M.C.). No caso das
observaes serem independentes entre si, as covarincia sero nulas e EB
Lb
B se
degenera numa matriz diagonal.
3.3. Matriz de correlao
Na matriz varincia-covarincia, como dito anteriormente, a varincia (
2
i
o )
fornece, atravs da extrao da raiz quadrada, a preciso de cada v.a. e a covarincia
(o
ij
) indica que existe dependncia entre elas.
A matriz dos coeficientes de correlao, derivada da matriz varincia-
covarincia, fornece o grau de dependncia entre as diversas v.a.
(
(
(
(
=
1
1
1
2 1
2 21
1 12
n n
n
n

onde :
j i
ij
ij
o o
o
=

coeficiente de correlao entre a
v.a. i e a j;

o BijB
covarincia entre a v.a. i e a j;

o BiB
, o BjB
desvio padro das v.a. i e j .
Os valores dessa matriz variam entre -1 e 1, sendo que se:
| BijB
| = 1 dependncia total
| BijB
| = 0 independncia total


15
Na diagonal principal o valor igual a 1, mostra que a correlao entre uma
varivel com ela mesma de 100%, o que uma constatao lgica.
Exemplo 2 Dada a matriz varincia-covarincia da v.a. A, calcule a matriz de
correlao associada.
A=_
36 18 12
18 9 0
12 0 16
_ m
Extraindo-se a raiz quadrada dos elementos da diagonal principal tm-se as precises dessas
variveis.
o
a1
= 6 m; o
a2
= 3 m; o
a3
= 16 m.
Aplicando-se a equao da correlao:
p
u1u2
=
o
u1u2
o
u1
o
u2
=
18
6 3
= 1 = 100%
pA= _
1 1 0,5
1 1 0
0,5 0 1
_ p
u1u3
=
o
u1u3
o
u1
o
u3
=
12
6 4
= 0,5 = 50%
p
u2u3
=
o
u2u3
o
u2
o
u3
=
0
3 16
= 0 = 0%
A matriz de correlao mostra que o grau de dependncia entre as v.a. a
1
e a
2
de 100%,
ou seja, existe 100% de probabilidade de que um erro cometido na medida ou clculo de a
1
interfira no
clculo de a
2
.
No caso de a
1
com

a
3
essa dependncia de 50% e entre a
2
e a
3
de 0% o que mostra a
total independncia entre essas duas ltimas variveis.


16
3.4. Lei de Propagao das Covarincias
Consideremos duas v.a. multidimensionais Y e X, ligadas por um modelo
funcional linear:
1 1 1
C X G Y
m n n m m
+ =

onde : G matriz dos coeficientes;
C matriz dos termos independentes.

A Lei de propagao das Covarincias nos diz que se conhecermos a matriz
varincia-covarincia da v.a. X (EB
X
B) e o modelo funcional que a liga com a v.a. Y, a
matriz varincia-covarincia dessa matriz (EB
Y
B) calculada por:
EY = G.EX.G
T
Ou seja, obtida pela simples multiplicao de matrizes.
Quando o modelo funcional no linear, a Lei de Propagao toma a
seguinte forma:
EY = D.E

X.D
T
onde D a derivada da funo em relao aos valores medidos.
Este conceito muito importante porque atravs dele possvel se
determinar qual a preciso das coordenadas de um ponto obtidas com um
equipamento com determinada preciso.


17
Exemplo 3 - Foram realizadas as medidas de 5 direes (d
1
, d
2
, d
3
, d
4
e d
5
) com um
equipamento cuja preciso angular de 5. Pretende-se calcular os ngulos a
1
, a
2
, a
3
e
a
4
entre essa direes conforme a figura a seguir. Ao se determinar o ngulo entre duas
direes, qual ser a preciso do resultado obtido?

A priori algum poderia imaginar que a preciso seria
os mesmos 5. Outro acharia que seria o dobro. A
propagao das covarincias resolve o problema.
O primeiro passo determinar o modelo funcional,
ou seja, aquele que mostra a relao entre as direes e os
ngulos:
a
1
= d
2
d
1

ou
a
1
= -1 d
1
+ 1 d
2
+ 0 d
3
+ 0 d
4
+ 0 d
5

a
2
= d
3
d
1
a
2
= -1 d
1
+ 0 d
2
+ 1 d
3
+ 0 d
4
+ 0 d
5

a
3
= d
4
d
3
a
3
= 0 d
1
+ 0 d
2
1 d
3
+ 1 d
4
+ 0 d
5

a
4
= d
5
d
4
a
4
= 0 d
1
+ 0 d
2
+ 0 d
3
1 d
4
+ 1 d
5

Este modelo pode ser escrito na forma matricial e assume o seguinte formato:
(
(
(
(
+
(
(
(
(
(
(
(
(
(
(
=
(
(
(
(
0
0
0
0
5
4
3
2
1

1 1 - 0 0 0
0 1 1 - 0 0
0 0 1 0 1
0 0 0 1 1
4
3
2
1
d
d
d
d
d
a
a
a
a
< = > A = G.D + C
O segundo passo reside em se determinar a matriz varinia-covarincia das direes (Ed).
Sabendo-se que a determinao das direes independente, pois o erro cometido em uma no afeta a
outra, conclui-se que a matriz em questo possui elementos apenas na diagonal principal e iguais a
varincia (
2 2
" 25 =
i
o ), ou seja :


18
( )
2
"
25 0 0 0 0
0 25 0 0 0
0 0 25 0 0
0 0 0 25 0
0 0 0 0 25
(
(
(
(
(
(
= d

Finalmente no terceiro passo procede-se multiplicao.
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
=
1 0 0 0
1 1 0 0
0 1 1 0
0 0 0 1
0 0 1 1
25 0 0 0 0
0 25 0 0 0
0 0 25 0 0
0 0 0 25 0
0 0 0 0 25
1 1 0 0 0
0 1 1 0 0
0 0 1 0 1
0 0 0 1 1
A

( )
2
"
50 25 0 0
25 50 25 0
0 25 50 25
0 0 25 50
(
(
(
(

= A

A partir desta matriz varincia-covarincia podem-se fazer algumas consideraes:
a preciso dos ngulos a1, a2, a3 e a4 so iguais a oBiB
= 7,07;
existe covarincia entre as variveis a1 com a2, a2 com a3 e a3 com a4;
no existe covarincia entre as variveis a1 com a3, a1 com a4 e a2 com a4;
o fator de correlao entre a1 com a2, a2 com a3 e a3 com a4, a menos do sinal,
numericamente igual ao valor determinado pela equao de correlao.

50% ou 5 , 0
07 . 7 07 , 7
25
2 1
=
=
a a

Este fator de correlao indica que o grau de dependncia da ordem de 50% ou seja, que existe
50% de probabilidade de que um erro cometido no clculo da varivel a
1
interfira no clculo da varivel
a
2
. No caso das correlaes entre a
2
com a
3
e a
3
com a
4
, o valor negativo, (
a2a3
= -50% e
a3a4
= -50%)
o que indica que existe 50% de chances de que um erro cometido no clculo da varivel a
2
ou a
3
interfira
no clculo da varivel a
3
ou a
4
respectivamente e, se isso ocorrer, afetar no sentido inverso.


19
Exemplo 4 - Um observador com uma estao total mediu o azimute da direo 01 e a
distncia entre as estaes 0 e 1 a partir do ponto 0 cujas coordenadas so (0, 0). Os
valores obtidos foram respectivamente, AB
01
B = 60 e dB
01
B = 2.000 m. Considere que ele
utilizou um equipamento cuja preciso angular de 5 e a linear de 5mm 5ppm.
Quais so as coordenadas do ponto 1 (xB
1
B,yB
1
B) e a respectiva preciso?
0
1
A
01
d
01

Da mesma forma que no exemplo anterior, o primeiro
passo estabelecer qual o modelo matemtico que faz a
ligao entre os valores medidos (AB
01B
e dB
01B
) com os valores
procurados (xB
1B
,yB
1B
).
A frmula bastante conhecida da topografia:
01 01 0 1
01 01 0 1
cosA d y y
senA d x x
+ =
+ =

Observa-se que esta frmula do tipo no linear e, portanto o modelo de propagao o seguinte:
T
D Ad D xy =

A matriz D obtida derivando-se as equaes de xB
1B
e yB
1B
em relao ao azimute AB
01B
e a distncia
dB
01B
, obtendo-se as seguintes expresses:
m 1.000 cos
01 01
= =
c
c
A d
A
x
0,866025
01
= =
c
c
senA
d
x

m 1.732,05 -
01 01
= =
c
c
senA d
A
y

0,500000 cos
01
= =
c
c
A
d
y

colocando-se estes valores na matriz D, vem :
(
=
500000 , 0 05 , 732 . 1
866025 , 0 00 , 000 . 1
m
m
D


20
Definida a matriz D, o passo seguinte montar a matriz varincia-covarincia das observaes.
(
=
2
2
d dA
Ad A
Ad
o o
o o

O valor da varincia do Azimute oriundo da preciso angular do equipamento.
2
A
o = (5)P
2
P
= 25P
2
P

Embora este valor esteja correto, necessrio pass-lo para radianos porque, ao se proceder a
multiplicao entre as matrizes, se estar misturando metro com segundo de arco.

Ento o valor de
2
2
180 3600
" 5
|
.
|
\
|
=
t
o
A
= 5,876107 x 10P
-10
P
radianos.

A varincia da distncia tambm originada da preciso do equipamento.

2
2
000 . 000 . 1
000 . 2 5
005 , 0 |
.
|
\
|
+ =
m
m
d
o = (0,015 m)P
2
P
= 0,000225 mP
2

As correlaes oB
AdB
= oB
dAB
= 0 porque no existe nenhuma dependncia entre o azimute e a
distncia, ou seja, um erro no azimute no afeta a distncia e vice-versa.
Finalmente a matriz varincia covarincia das coordenas obtida da seguinte multiplicao:

(
=

500000 , 0 866025 , 0
05 , 732 . 1 00 , 1000
000225 , 0 0
0 10 876107 , 5
500000 , 0 05 , 732 . 1
866025 , 0 00 , 000 . 1
2
10
m m
m m
m
xy


21

2
m
0.0018191 0.00092034 -
0.00092034 - 0.00075636
(
= xy

Da matriz varincia-covarincia obtm-se as precises das coordenadas xB
1 B
e yB
1B
. Ento :
xB
1B
= 0 + 2000sen(60) = 1.732,05 m e 0.00075636
1
=
x
o
yB
1B
= 0 + 2000cos(60) = 1.000,00 m e 0.0018191
1
=
y
o
ou seja,
xB
1B
= 1.732,05 m 0,0275 m
y
1
= 1.000,00 m 0,0426 m

O grau de dependncia entre as v.a. xB
1B
e yB
1B
calculada pelo coeficiente de correlao

78,5% ou 7846 , 0
0426 , 0 0275 , 0
0.00092034 -
2 1
=
=
y x

Este valor mostra que existe uma forte correlao entre as duas variveis e que um erro
em uma delas afeta a outra em 78,5%.
O exemplo proposto acima teve apenas o propsito de demonstrar como se propagam as
covarincias, e por esta razo, no enunciado, o observador mediu diretamente o azimute. Na prtica isso
no acontece, o que se faz determinar o ngulo azimutal atravs da tcnica das direes. Neste caso
necessrio se fazer a propagao dos azimutes. No prximo exemplo este processo ser abordado e
ficar mais claro.


22
Exemplo 5 - Executou-se uma poligonal eletrnica a partir de um vrtice e do azimute
de uma direo. Com os dados do levantamento calcule as coordenadas do ponto 3 e
verifique qual a preciso dessas coordenadas considerando um equipamento cuja
preciso angular de 2 e a linear de 3mm + 10 ppm.
0
1
A
0
L
b
1
2
3
Lb
2 L
b
3
a
1
a
2
a
3
N
A
1
A
3
A
2

Obs.: AB
0B
= 45
dados: o1 = 40 20 10 Lb
1
= 6.000 m
o2 = 209 47 59 Lb
2
= 3.000 m
o3 = 202 00 17 Lb
3
= 1.500 m
1 Passo Modelo funcional
23 12 01 0 3
23 12 01 0 3
y y y y y
x x x x x
A + A + A + =
A + A + A + =
(1)
onde:
i i i
i i i
A Lb y
senA Lb x
cos = A
= A
(2)
Na equao observa-se que apenas o valor observado LbB
iB
aparece. Isto ocorre porque na
prtica no se l o azimute diretamente, e sim a direo. Ento necessrio se estabelecer a equao
que envolve os ngulos medidos oB
iB
com os azimutes.


23
Da figura se extrai as seguintes equaes:
AB
1B
= AB
0B
+ oB
1 B

AB
2B
= AB
0B
+ oB
1B
+ oB
2B
180
AB
3B
= AB
0B
+ oB
1B
+ oB
2B
+ oB
3B
360
= 85 2010
= 115 08 09
= 137 08 26
(3)
que genericamente pode ser escrita como :
180 ) 1 (
1
0
+ =

=
n A A
n
i
i i
o

Escrevendo as equaes acima sob a forma matricial vem:
C
A
A
A
A
A
A
+ =
(
(
(
+
(
(
(
(
(
(
=
(
(
(
o
o
o
o
G A
360
180
1 1 1
0 1 1
0 0 1
0
0
0
3
2
1
3
2
1

analisando a equao, conclui-se que ela do tipo linear e a propagao utiliza a frmula
EA = GEoGP
T
Assim
2
2
2
2
"
12 8 4
8 8 4
4 4 4
1 0 0
1 1 0
1 1 1
" 4 0 0
0 " 4 0
0 0 " 4
1 1 1
0 1 1
0 0 1
(
(
(
=
(
(
(
(
(
(
(
(
(
= A

Os valores desta matriz esto em P
2
P
. Para no se ter problemas com unidades, estes devem ser
convertidos em radianos. Existe um modo prtico quando os valores esto em P
2
P
que multiplicar por
senP
2
P
( 1).
Ento:
radianos A
11
10
205 , 28 804 , 18 402 , 9
804 , 18 804 , 18 402 , 9
402 , 9 402 , 9 402 , 9
(
(
(
=


24
Calculada a propagao para o azimute passa-se propagao para as coordenadas.
Substituindo as equaes (2) em (1).
3 3 2 2 1 1 0 3
3 3 2 2 1 1 0 3
cos cos cos A Lb A Lb A Lb y y
senA Lb senA Lb senA Lb x x
+ + + =
+ + + =

Estas equaes, por causa das funes trigonomtricas so do tipo no linear e, portanto,
utilizam outra forma de propagao.
Exy = D E
ALb
DP
T
A matriz D obtida derivando-se as equaes de xB
3B
e yB
3B
em relao aos azimutes AB
i B
e as distancia
lB
iB
, obtendo-se as seguintes expresses:
1 1
1
cos A Lb
A
x
=
c
c

= 487,862 m
1
1
senA
Lb
x
=
c
c

= 0,99668883
2 2
2
cos A Lb
A
x
=
c
c

= -1.274,297 m
2
2
senA
Lb
x
=
c
c

= 0,90530332
3 3
3
cos A Lb
A
x
=
c
c

= -1.099,537 m
3
3
senA
Lb
x
=
c
c

= 0,68020218
1 1
1
senA Lb
A
y
=
c
c

= -5.980,133 m
1
1
cos A
Lb
y
=
c
c

= 0,08131035
2 2
2
senA Lb
A
y
=
c
c

= -2.715,910 m
2
2
cos A
Lb
y
=
c
c

= -0,42476569
3 3
3
senA Lb
A
y
=
c
c

= -1.020,303 m
3
3
cos A
Lb
y
=
c
c

= -0,73302455


25
Substituindo os valores na matriz D

3 2 1 3 2 1
3 2 1 3 2 1
(
(
(
(
c c c c c c
c c c c c c
=
Lb
y
Lb
y
Lb
y
A
y
A
y
A
y
Lb
x
Lb
x
Lb
x
A
x
A
x
A
x
D

73302455 , 0 42476569 , 0 08131035 , 0 303 , 020 . 1 910 , 715 . 2 133 , 980 . 5
68020218 , 0 90530332 , 0 99668883 , 0 537 , 099 . 1 297 , 274 . 1 862 , 487
(

=
m m m
m m m
D

Finalmente monta-se a matriz varincia-covarincia das observaes.
(
(
(
(
(
(
(
(
=
2
3 2 3 1 3 3 3 2 3 1 3
3 2
2
2 1 2 3 2 2 2 1 2
3 1 2 1
2
1 3 1 2 1 1 1
3 3 2 3 1 3
2
3 2 3 1 3
3 2 2 2 1 2 3 2
2
2 1 2
3 1 2 1 1 1 3 1 2 1
2
1
Lb Lb Lb Lb Lb A Lb A Lb A Lb
Lb Lb Lb Lb Lb A Lb A Lb A Lb
Lb Lb Lb Lb Lb A lLb A Lb A Lb
Lb A Lb A Lb A A A A A A
Al
o o o o o o
o o o o o o
o o o o o o
o o o o o o
o o o o o o
o o o o o o

Os valores da matriz varincia-covarincia dos azimutes j foram determinados na propagao
dos ngulos para os azimutes e basta substituir na matriz EAl. Contudo falta ainda calcular as varincia
das distncias. Como as distncias no so correlacionadas entre si e nem com os azimutes, as
covarincias que relacionam estas variveis so nulas. Ento:
2 2
3 3
2 2
2 2
2 2
1 1
000324 , 0 018 , 0
000 . 000 . 1
500 . 1 10
003 , 0
001089 , 0 033 , 0
000 . 000 . 1
000 . 3 10
003 , 0
003969 , 0 063 , 0
000 . 000 . 1
000 . 6 10
003 , 0
m m
m
m
m m
m
m
m m
m
m
Lb Lb
Lb Lb
Lb Lb
= =
+ =
= =
+ =
= =
+ =
o o
o o
o o

Substituindo-se pelos valores numricos:
(
(
(
(
(
(
(
(
=

000324 , 0 0 0 0 0 0
0 001089 , 0 0 0 0 0
0 0 003969 , 0 0 0 0
0 0 0 10 205 , 28 10 804 , 18 10 402 , 9
0 0 0 10 804 , 18 10 804 , 18 10 402 , 9
0 0 0 10 402 , 9 10 402 , 9
11
10 402 , 9
2
2
2
11 11 11
11 11 11
11 11
m
m
m
Al


26
Finalmente basta proceder multiplicao para obter a matriz varincia-covarincia das
coordenadas xB
3B
,yB
3.
2
3 3
0,010683 0,0024035
0,0024035 0,0059631
m y x
(
(
=

A partir da matriz varincia-covarincia extrai-se as precises das coordenadas do ponto 3.
xB
3B
= 9.716,346 m 0,0772 m
yB
3B
= -1.885,972 m 0,1034 m
O grau de dependncia entre as v.a. xB
3 B
e yB
3B
calculada pelo coeficiente de correlao
30,1% 3011 , 0
1034 , 0 0772 , 0
0,0024035
3 3
= =
=
y x

Este valor mostra que existe uma baixa correlao entre as duas variveis e que um erro em uma
delas tem 30,1% de probabilidade de afetar a outra.
Os exemplos 4 e 5 demonstram que a priori no se pode prever qual o grau de correlao
entre duas variveis antes de se efetuar a propagao. No exemplo anterior, o grau de correlao de
78,5% enquanto neste, atinge 30,1 %.
Neste exemplo calculou-se o valor da preciso do terceiro ponto diretamente. Para se
saber qual o valor do ponto 1 e 2 basta eliminar alguns elementos das matrizes D e EAl. Procedendo-se
desta forma encontram-se os seguintes valores.
xB
1B
= 5.980,133 m 0,0630 m
yB
1 B
= 487,862 m 0,0582 m
xB
1B
yB
1B
= 1,3 %

xB
2B
= 8.696,043 m 0,0710 m
yB
2B
= -786,435 m 0,0896 m
xB
2B
yB
2B
= 13,7 %


27
4. SISTEMA DE EQUAES LINEARES E O MTODO DOS MNIMOS QUADRADOS
4.1. Resoluo de Sistema de Equaes Lineares
Dada uma equao do tipo
ax = L
onde: x um valor incgnito, L um valor conhecido e a uma constante
qualquer. Ento a soluo :
a
L
x =

No entanto, quando se tem um conjunto de equaes formando um
sistema, a soluo no to direta.
Vamos imaginar um sistema de equaes
aB
1
B xB
1
B + aB
2
B xB
2
B + aB
3
B xB
3
B = L
1
B
aB
4
B xB
1
B + aB
5
B xB
2
B + aB
6
B xB
3
B = L
2
B
aB
7
B xB
1
B + aB
8
B xB
2
B + aB
9
B xB
3
B = L
3
B
Escrevendo este sistema na forma matricial
n
A
uu
X
1
=
n
L
1
onde : A - matriz formada pelos coeficiente aBiB
X - vetor formado pelos valores incgnitos xBiB
L - vetor formado pelos termos conhecidos LiB
n - nmero de linhas (3)
u - nmero de colunas (3)


28
No caso de matrizes a soluo dada por:
1
1
1
L A X
u u u n
=

onde: AP
-1
P a matriz inversa de A.
4.2. O Mtodo dos Mnimos Quadrados
Quando um sistema de equaes possui o nmero de equaes iguais ao de
incgnitas a soluo nica. No entanto, quando existem mais equaes que as
necessrias, deve-se agrupa-las de forma que se tenham vrios sistemas formados
pelas combinaes lineares destas equaes. Na teoria, independentemente do
conjunto que se escolha, tem-se sempre a mesma soluo.
Entretanto, quando se trabalha com dados reais, pela prpria caracterstica
estocstica das observaes, via de regra, se faz mais medidas que as necessrias. Cada
observao (Lb) resulta em uma equao e como, toda medida vem acompanhada de
erros aleatrios, o sistema de equaes resultante inconsistente. necessrio ento
se proceder a uma homogeneizao do sistema de modo que independente do
conjunto de equaes que se escolha tenha-se sempre a mesma soluo.
Esta homogeneizao alcanada adicionando uma correo, tambm
conhecida como resduo, a cada observao de modo a tornar o sistema consistente.
aB
1
B xB
1
B + aB
2
B xB
2
B = Lb
1
B + vB
1
B
aB
3
B xB
1
B + aB
4
B xB
2
B = Lb
2
B + vB
2
B
aB
5
B xB
1
B + aB
6
B xB
2
B = Lb
3
B + vB
3
B

ou no formato matricial
V Lb X A + =


29
Dependendo do critrio que se escolha para definir os valores desses
resduos, tm-se solues diferentes para a incgnita X
, que agora um valor

estimado. Entretanto, o critrio aceito o do Mtodo dos Mnimos Quadrados
(M.M.Q.), proposto por Gauss e Legendre que estudaram o problema de forma
independente e sem que um, conhecesse o estudo do outro.
O M.M.Q. diz que a soma do quadrado dos resduos tem que ser mnima, e
pode ser expresso matematicamente:
=
=
n
i
i
v
1
2
min

Na forma matricial:
VP
T
PV = min
Para o caso de observaes com graus diferentes de confiana introduz-se
o critrio de peso, e as equaes passam a ser escritas:
=
=
n
i
i i
v p
1
2
min ou VP
T
PPV = min
Isolando o vetor dos resduos na equao matricial, vem:
V = A
X
Lb
Substituindo no critrio de M.M.Q.
( ) ( ) min = = Lb X A L X A
T
b

|
< = >
( ) ( ) min = =
b
T
b
T T
L X A L A X

|

min = + =
b
T
b b
T T T
b
T T
L L L A X X A L X A A X

|


30
Para se determinar o mnimo da funo deriva-se esta em relao s
incgnitas e iguala a zero:
0 2 = =
c
c
Lb A Lb A X A A
X
T T T

|

0 2 2 = Lb A X A A
T T

Finalmente
( ) ( ) Lb A A A X
T T
1
=

Se derivarmos novamente
0 2
2
2
> =
c
c
A A
X
T
|

o resultado maior que zero indicando que a funo resultante da 1
derivada representa um ponto de mnimo.
Considerando observaes com graus diferentes de confiana a equao
assume o seguinte aspecto:
( ) ( ) PLb A PA A X
T T
1
=

Esta equao representa a soluo dos mnimos quadrados.

4.3. Condicionamento de Sistemas
Um sistema dito mal condicionado quando, pequena variao nos valores
dos coeficientes ou dos termos independentes significa uma grande variao na
soluo. Este fato ficar compreendido com o exemplo a seguir:


31
Dado o sistema de equaes
(
=
(
5
10
2 1
1 1
2
1
x
x

cuja soluo xB
1
B = 5 e xB
2
B = 5
Se introduzirmos uma pequena variao no termo independente, por exemplo,
(
=
(
5
01 , 10
2 1
1 1
2
1
x
x

o resultado passa a ser xB
1
B = 5,007 e xB
2
B = 5,003.
Observa-se que esta pequena variao introduziu uma pequena variao na
resposta do problema. Este o exemplo de um sistema bem condicionado.
Agora repetindo a experincia com outro sistema
(
=
(
005 , 10
10
1 001 , 1
1 1
2
1
x
x

cuja soluo xB
1
B = 5 e xB
2
B = 5
Efetuando uma pequena alterao no termo independente, vem
(
=
(
1 , 10
10
1 001 , 1
1 1
2
1
x
x

o resultado passa a ser xB
1
B = 100 e xB
2
B = -90.

Nota-se agora que uma variao no muito significativa resultou numa
soluo completamente diferente. Quando isso acontece, diz-se que o sistema mal
condicionado.


32
Este tipo de problema importante porque os sistemas de equaes
utilizados na rea da geomtica so formados por valores observados e sabe-se que os
erros de observao acompanham estes nmeros.
Embora no seja um critrio conclusivo, quando o determinante da matriz
dos coeficientes resulta em um nmero pequeno e em contra posio a matriz inversa
composta por elementos grandes, geralmente este um indicador de mal
condicionamento.
Nos exemplos acima se verifica que no primeiro caso o determinante
igual a 3 = A e sua inversa vale :

(
1 1
1 2
3
1
1
A

e no segundo caso

001 , 0 = A
e
(
1000 1000
1001 1000
1
A


33
5. AJUSTAMENTO DE OBSERVAES

As observaes so classificadas em diretas, indiretas e diretas
condicionadas.
As diretas so aquelas onde se utiliza um medidor de mesma natureza que
a grandeza procurada. Por exemplo, quando se emprega uma trena para medir uma
distncia ou um teodolito para um ngulo.
Ao contrrio, so classificadas como indiretas quando se mede uma
grandeza que se relaciona funcionalmente ou fisicamente com o valor procurado. o
caso de se determinar uma distncia por estadimetria, onde se l os fios, superior e
inferior, da estdia e se obtm a distncia entre o aparelho e ela.
Finalmente classificada como direta condicionada quando alm de ser
direta, existir uma condio funcional. o caso da medida dos ngulos de um tringulo.
Se forem medidos apenas dois, a medida direta, no entanto se o terceiro ngulo for
medido, passa a existir a condio de que o somatrio tem que ser 180.
Em qualquer das situaes, quando os valores no forem do mesmo grau
de confiana, emprega-se o critrio de pesos diferentes.
Cada um destes casos utiliza um processo de ajustamento especfico.


34
5.1. Ajustamento de observaes diretas
5.1.1. Estimativa pontual: mdia.
Quando se mede vrias vezes a mesma grandeza, o melhor estimador para
ela a mdia aritmtica ou a ponderada dependendo da amostra. Pode-se demonstrar
que este critrio atende o dos mnimos quadrados, no entanto isso no ser feito aqui.
A equao para a mdia a seguinte:

n
Lb
x
n
i
i
=
=
1
ou
=
=
=
n
i
i
n
i
i i
p
Lb p
x
1
1 ~

onde:
x

- mdia aritmtica

x
~

- mdia ponderada
LbBiB - valores observados
pi - pesos das observaes
n - nmero de elementos da amostra
A primeira equao a da mdia aritmtica e a segunda da ponderada.

5.1.2. Estimativa da preciso: Desvio Padro.
No tpico 2.3 foi demonstrada a diferena entre acurcia e preciso. L fica
claro que a preciso refere-se a disperso das medidas ao redor de um valor mdio e
est intimamente ligada aos erros aleatrios. Esta grandeza calculada atravs do
desvio-padro (o) que, no caso, deve considerar o duplo sinal ().


35
Gauss definiu que o desvio-padro a raiz quadrada da mdia do quadrado
dos erros verdadeiros (Gemael, 1994, p. 88), ou seja:
n
i
=
2
c
o

onde: o - desvio-padro

2
i
c

- quadrado dos erros verdadeiros
n - nmero de elementos da amostra ou de observaes
Entretanto, a no ser em alguns casos como os ngulos de um polgono
fechado, no se tm como determinar o erro verdadeiro. Neste caso, se utilizam os
erros aparentes que so calculados atravs dos resduos em relao mdia, ou seja:
( )
1 1
2
2
=

n
x lb
n
v
i i
o

Observa-se que esta equao calcula o desvio padro amostral.
Na rea de geomtica, os valores utilizados nos clculos, geralmente so
resultado de uma srie de observaes de onde se determina o valor mais provvel, ou
seja, a mdia. Neste caso, a estimativa de preciso que se necessita no diz respeito
amostra, mas sim mdia. Assim necessrio que se calcule o desvio padro dela.
( ) 1
=

n n
v
i
x
o

A demostrao de como se chega a esta equao pode ser encontrada em
Gemael, 1994, p. 89.


36
No caso de medidas de desigual confiana as equaes ficam assim
modificadas:

1
=

n
v p
i i
o
e
=
i
i i
x
p n
v p
) 1 (
~
2
~ o

5.1.3. Estimativa por intervalo
A estimativa por intervalo de confiana fornece dois valores entre os quais,
deve estar um parmetro populacional estimado, com certa probabilidade, ou nvel de
confiana. Escrevendo em linguagem matemtica:
P(a s c s b) = 1- o
onde: a e b - extremos do intervalo
c - valor estimado
o - nvel de significncia
1 o - grau de confiana

O valor do nvel de significncia normalmente prefixado. Supondo o valor
o = 5%, ento:
P(a s c s b) = 0,95
A expresso acima indica que h 95% de probabilidade que a varivel
estimada c esteja entre os valores a e b.


37
5.1.3.1. Intervalo de confiana para a mdia
O intervalo de confiana pode ser aplicado na mdia em funo da
varincia amostral. A expresso para o clculo a seguinte:
o
o
o
o o
=
|
|
.
|
\
|
+ s s

1
2
1
2
1
t
n
x t
n
x P

onde:
x

- mdia amostral
o

- desvio-padro amostral

2
1
o
t

- valor interpolado da tabela de distribuio de STUDENT
- mdia populacional

Esta expresso indica que existe (1-o)% de probabilidade de que a mdia
populacional esteja entre os valores extremos.
No caso de medidas com desigual confiana, a expresso acima assume a
seguinte forma:
o o o
o o
=
|
|
.
|
\
|
+ s s

1
~ ~
2
1
~
2
1
~ t x t x P
x x

onde: x

- mdia amostral ponderada

x
~ o

- desvio-padro amostral da mdia ponderada


38
5.1.3.2. Intervalo de confiana para a varincia
Da mesma forma que para a mdia, pode-se aplicar o intervalo de
confiana para a varincia. A expresso para este caso a seguinte:
( ) ( )
o
_
o
o
_
o
o o
=
(
(
(
(
s s
1
1 1
2
2
2
2
2
2
1
2
n n
P

onde:
2
o

- varincia amostral
n-1 - graus de liberdade

2
_

- valor interpolado da tabela de Qui-Quadrado

Na rea de geomtica substituem-se os valores medidos pelo valor mdio e
neste caso na frmula, se substitui a varincia amostral pela varincia da mdia.

( ) ( )
o
_
o
o
_
o
o o
=
(
(
(
(
s s
1
1 1
2
2
2
2
2
2
1
2
n
n
n
n
P

ou
( ) ( )
o
_
o
o
_
o
o o
=
(
(
(
(
s s
1
1 1
2
2
2
2
2
2
1
2
n n
P
x x


39
No caso de medidas com desigual confiana a expresso acima assume a
seguinte forma:
o
_
o
_
o o
=
(
(
(
s s
1
2
2
2
2
2
2
1
2
i
i i
i
i i
p
v p
p
v p
P

Para se obter o intervalo do desvio padro basta extrair a raiz quadrada dos
extremos calculados, ou seja:
( ) ( )
o
_
o
o
_
o
o o
=
(
(
(
s s
1
1 1
2
2
2
2
2
1
2
n n
P
x x

< = Para medidas de igual confiana
o
_
o
_
o o
=
(
(
(
s s
1
2
2
2
2
2
1
2
i
i i
i
i i
p
v p
p
v p
P

< = Para medidas de desigual confiana.

Exemplo 6 - Um ngulo foi medido dez vezes, com o resultado mostrado na tabela a
seguir. Calcule os estimadores pontuais e os por intervalo.
Medida Lbi Medida Lbi

1 120 31 40,1 6 42,4
2 41,2 7 43,0
3 40,8 8 40,7
4 42,1 9 41,9
5 42,9 10 41,5


40
Clculo dos estimadores pontuais:
Medida lbi
(lbi -
x
) (lbi -
x
)
2
1 120 31 40,1 -1,56 2,4336
2
2 41,2 -0,46 0,2116
2

3 40,8 -0,86 0,7396
2

4 42,1 0,44 0,1936
2

5 42,9 1,24 1,5376
2

6 42,4 0,74 0,5476
2

7 43,0 1,34 1,7956
2

8 40,7 -0,96 0,9216
2

9 41,9 0,24 0,0576
2

10 41,5 -0,16 0,0256
2

1200 310 416,6 8,4640
2

a) mdia aritmtica
n
lb
x
n
i
i
=
=
1

10
" 6 , 416 ' 310 1200
= x

41,66" 31' 120 = x
b) desvio-padro
( )
1 1
2
2
=

n
x lb
n
v
i i
o

0,9698
1 10
4640 , 8
=
= o

c ) desvio-padro da mdia
( ) 1
=

n n
v
i
x
o

0,3067
) 1 10 ( 10
4640 , 8
=
=
x
o


41
Clculo dos estimadores por intervalo de confiana:
Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia.
Ento supondo um nvel de significncia o = 5%.
a) Clculo do intervalo para a mdia:
o
o
o
o o
=
|
|
.
|
\
|
+ s s

1
2
1
2
1
t
n
x t
n
x P

Dos estimadores pontuais se obtm os valores
41,66" 31' 120 = x

; 0,3067" = =
x
n
o
o

O valor de
2
1
o
t obtido na tabela de distribuio de Student (pg. 42) com

GL = n - 1 graus de liberdade GL = 10 1 = 9
ento 26 , 2
9
975 , 0
=
= GL
t

P = 1 - o de probabilidade
P = 1 0,05 = 95%
1 - 0,05/2 = 0,975
assim,
( ) % 95 26 , 2 " 3067 , 0 " 66 , 41 ' 31 120 26 , 2 " 3067 , 0 " 66 , 41 ' 31 120 = + s s P

( ) % 95 6931 , 0 " 66 , 41 ' 31 120 6931 , 0 " 66 , 41 ' 31 120 = + s s P

( ) % 95 " 35 , 42 ' 31 120 " 97 , 40 ' 31 120 = s s P

Esta expresso nos diz que a mdia populacional tem probabilidade de 95% de estar entre
os valores 1203140,97 e 1203142,35.
Se diminuirmos o nvel de significncia e consequentemente aumentarmos o nvel de
confiana este intervalo ampliado.


42
1- o
1- o
t |( )
t
t

Percentis da distribuio de Student (t1-o
)
P 0,550 0,600 0,650 0,700 0,750 0,800 0,850 0,900 0,950 0,975 0,990 0,995
GL
1 0,158 0,325 0,510 0,727 1,000 1,376 1,963 3,078 6,314 12,71 31,82 63,65
2 0,142 0,289 0,445 0,617 0,817 1,061 1,386 1,886 2,920 4,30 6,96 9,43
3 0,137 0,277 0,424 0,584 0,765 0,979 1,250 1,638 2,353 3,18 4,54 5,84
4 0,134 0,271 0,414 0,569 0,741 0,941 1,190 1,533 2,132 2,78 3,75 4,60
5 0,132 0,267 0,408 0,559 0,727 0,920 1,156 1,476 2,015 2,57 3,36 4,03

6 0,131 0,265 0,404 0,553 0,718 0,906 1,134 1,440 1,943 2,45 3,14 3,71
7 0,130 0,263 0,402 0,549 0,711 0,896 1,119 1,415 1,895 2,36 3,00 3,50
8 0,130 0,262 0,400 0,546 0,706 0,889 1,108 1,397 1,860 2,31 2,90 3,36
9 0,129 0,261 0,398 0,544 0,703 0,883 1,100 1,383 1,833 2,26 2,82 3,25
10 0,129 0,260 0,397 0,542 0,700 0,879 1,093 1,372 1,813 2,23 2,76 3,17

11 0,129 0,260 0,396 0,540 0,697 0,876 1,088 1,363 1,796 2,20 2,72 3,11
12 0,128 0,259 0,395 0,539 0,696 0,873 1,083 1,356 1,782 2,18 2,68 3,05
13 0,128 0,259 0,394 0,538 0,694 0,870 1,080 1,350 1,771 2,16 2,65 3,01
14 0,128 0,258 0,393 0,557 0,692 0,868 1,076 1,345 1,761 2,14 2,62 2,98
15 0,128 0,258 0,393 0,536 0,691 0,866 1,074 1,341 1,753 2,13 2,60 2,95

16 0,128 0,258 0,392 0,535 0,690 0,865 1,071 1,337 1,746 2,12 2,58 2,92
17 0,125 0,257 0,392 0,534 0,689 0,863 1,069 1,333 1,740 2,11 2,57 2,90
18 0,127 0,257 0,392 0,534 0,688 0,862 1,067 1,330 1,734 2,10 2,55 2,88
19 0,127 0,257 0,391 0,533 0,688 0,861 1,066 1,328 1,729 2,09 2,54 2,86
29 0,127 0,257 0,391 0,533 0,687 0,860 1,064 1,325 1,725 2,09 2,53 2,85

21 0,128 0,257 0,391 0,533 0,686 0,859 1,063 1,323 1,721 2,08 2,52 2,83
22 0,125 0,256 0,390 0,532 0,686 0,858 1,062 1,321 1,717 2,07 2,51 2,82
23 0,127 0,256 0,390 0,532 0,685 0,858 1,060 1,320 1,714 2,07 2,50 2,81
24 0,127 0,256 0,390 0,531 0,685 0,857 1,059 1,318 1,711 2,06 2,49 2,80
25 0,127 0,256 0,390 0,531 0,684 0,856 1,058 1,316 1,708 2,06 2,49 2,79

26 0,128 0,256 0,390 0,531 0,684 0,856 1,058 1,315 1,706 2,06 2,48 2,78
27 0,125 0,256 0,389 0,531 0,684 0,855 1,057 1,314 1,703 2,05 2,47 2,77
28 0,127 0,256 0,389 0,530 0,683 0,855 1,056 1,313 1,701 2,05 2,47 2,76
29 0,127 0,256 0,389 0,530 0,683 0,854 1,055 1,311 1,699 2,05 2,46 2,76
30 0,127 0,256 0,389 0,530 0,683 0,854 1,055 1,310 1,697 2,04 2,46 2,75

40 0,127 0,255 0,388 0,529 0,681 0,851 1,050 1,303 1,684 2,02 2,42 2,70
50 0,126 0,255 0,388 0,528 0,679 0,849 1,047 1,299 1,676 2,01 2,40 2,68
60 0,126 0,255 0,387 0,527 0,679 0,848 1,046 1,296 1,671 2,00 2,39 2,66
70 0,126 0,254 0,387 0,527 0,678 0,847 1,044 1,294 1,667 1,99 2,38 2,65
80 0,126 0,254 0,387 0,527 0,678 0,846 1,043 1,292 1,664 1,99 2,37 2,64

90 0,126 0,254 0,387 0,526 0,677 0,846 1,042 1,291 1,662 1,99 2,37 2,63
100 0,126 0,254 0,386 0,526 0,677 0,845 1,042 1,290 1,660 1,98 2,36 2,63
200 0,126 0,254 0,386 0,525 0,676 0,843 1,039 1,285 1,652 1,97 2,34 2,60
300 0,126 0,253 0,386 0,525 0,675 0,843 1,038 1,284 1,649 1,97 2,34 2,59
400 0,126 0,253 0,386 0,525 0,675 0,842 1,037 1,283 1,648 1,96 2,33 2,58

500 0,126 0,253 0,385 0,525 0,675 0,842 1,037 1,283 1,647 1,96 2,33 2,58
600 0,126 0,253 0,385 0,525 0,675 0,842 1,037 1,283 1,647 1,96 2,33 2,58
700 0,126 0,253 0,385 0,525 0,675 0,842 1,037 1,282 1,646 1,96 2,33 2,58
800 0,126 0,253 0,385 0,524 0,675 0,842 1,037 1,282 1,646 1,96 2,33 2,58
900 0,126 0,253 0,385 0,524 0,675 0,842 1,037 1,282 1,646 1,96 2,33 2,58

0,126 0,253 0,385 0,524 0,675 0,842 1,037 1,282 1,645 1,96 2,33 2,58


43
b) Clculo do intervalo para a varincia da mdia:
( ) ( )
o
_
o
o
_
o
o o
=
(
(
(
(
s s
1
1 1
2
2
2
2
2
2
1
2
n n
P
x x

Adotando o mesmo procedimento do clculo anterior vem:
2 2 2
" 09406489 , 0 ) " 3067 , 0 ( = =
x
o

o valor da varivel _
2
obtida de uma tabela (pg. 43) com
GL = 9

02 , 19
9 G
975 , 0
=
= L
_

70 , 2
9
025 , 0
=
= GL
_

P
1
=1- o/2 = 0,975
P
2
= o/2 = 0,025.
substituindo os valores na frmula vem:
% 95
70 , 2
) 1 10 ( 09406489 , 0
02 , 19
) 1 10 ( 09406489 , 0
2
= |
.
|
\
|
s s

o P

( ) % 95 " 3135 , 0 " 0445 , 0
2 2 2
= s s o P

Extraindo-se a raiz quadrada da expresso acima se obtm o intervalo para o desvio padro.
( ) % 95 " 560 , 0 " 211 , 0 = s so P

Se o nvel de significncia for diminudo e, consequentemente o nvel de confiana aumentado, o
intervalo tende a aumentar.


44
_
2
1- o
1- o
_
2
_
2
|( )

Distribuio de Qui-Quadrado (_
2
)
P 0,005 0,010 0,025 0,050 0,100 0,250 0,750 0,900 0,950 0,975 0,990 0,995
GL
1 0,00 0,00 0,00 0,00 0,02 0,10 1,32 2071 3,84 5,02 6,64 7,88
2 0,01 0,02 0,05 0,10 0,21 0,58 2,77 4,61 5,99 7,38 9,21 10,60
3 0,07 0,12 0,22 0,35 0,58 1,21 4,11 6,25 7,82 9,35 11,35 12,84
4 0,21 0,30 0,49 0,71 1,06 1,92 5,39 7,78 9,49 11,14 13,28 14,86
5 0,41 0,55 0,83 1,15 1,61 2,68 6,63 9,24 11,07 12,83 15,09 16,75

6 0,68 0,87 1,24 1,64 2,20 3,46 7,82 10,65 12,59 14,45 16,81 18,55
7 0,99 1,24 1,69 2,17 2,83 4,26 9,04 12,02 14,07 16,01 18,48 20,28
8 1,34 1,65 2,18 2,73 3,49 5,07 10,22 13,36 15,51 17,54 20,09 21,96
9 1,74 2,09 2,70 3,33 4,17 5,90 11,39 14,68 16,92 19,02 21,67 23,59
10 2,16 2,56 3,25 3,94 4,87 6,74 12,55 15,99 18,31 20,48 23,21 25,19

11 2,60 3,05 3,82 4,58 5,58 7,58 13,70 17,28 19,68 21,92 24,73 26,76
12 3,07 3,57 4,40 5,23 6,30 8,44 14,85 18,55 21,03 23,34 26,22 28,30
13 3,57 4,11 5,01 5,89 7,04 9,30 15,98 19,81 22,36 24,74 27,69 29,82
14 4,08 4,66 5,63 6,57 7,79 10,17 17,12 21,06 23,69 26,12 29,14 31,32
15 4,60 5,23 6,26 7,26 8,55 11,04 18,25 22,31 25,00 27,49 30,58 32,80

16 5,14 5,81 6,91 7,96 9,31 11,91 19,37 23,54 26,30 28,85 32,00 34,27
17 5,70 6,41 7,56 8,67 10,09 12,79 20,49 24,77 27,59 30,19 33,41 35,72
18 6,27 7,02 8,23 9,39 10,67 13,68 21,61 25,99 28,87 31,53 34,81 37,16
19 6,84 7,63 8,91 10,12 11,65 14,56 22,72 27,20 30,14 32,85 36,19 38,58
29 7,43 8,26 9,59 10,85 12,44 15,45 23,83 28,41 31,41 34,17 37,57 40,00

21 8,03 8,90 10,28 11,59 13,24 16,34 24,94 29,62 32,67 35,48 38,93 41,40
22 8,64 9,54 10,98 12,34 14,04 17,24 26,04 30,81 33,92 36,78 40,29 42,80
23 9,26 10,20 11,69 13,09 14,85 18,14 27,14 32,01 35,17 38,08 41,64 44,18
24 9,89 10,86 12,40 13,85 15,66 19,04 28,24 33,20 36,42 39,36 42,98 45,56
25 10,52 11,52 13,12 14,61 16,47 19,94 29,34 34,38 37,65 40,65 44,31 46,93

26 11,16 12,20 13,84 15,38 17,29 20,84 30,42 35,56 38,89 41,92 45,64 48,29
27 11,81 12,88 14,57 16,15 18,11 21,75 31,53 36,74 40,11 43,19 46,96 48,29
28 12,46 13,57 15,31 16,93 18,94 22,66 32,62 37,92 41,34 44,46 48,28 50,99
29 13,12 14,26 16,05 17,71 19,77 23,57 33,71 39,09 42,56 45,72 49,59 52,37
30 13,79 14,95 16,79 18,49 20,60 24,48 34,80 40,26 43,77 46,98 50,89 53,67

35 17,19 18,51 20,57 22,47 24,80 29,05 40,22 46,06 49,80 53,20 57,34 60,28
40 20,71 22,16 24,43 26,51 29,05 33,66 45,62 51,81 55,76 59,34 63,69 66,77
45 24,31 25,90 28,37 30,61 33,35 38,29 50,99 57,51 61,66 65,41 69,96 73,17
50 27,99 29,71 32,36 34,76 37,69 42,94 56,33 63,17 67,51 71,42 76,15 79,49
55 31,74 33,57 36,40 38,96 42,06 47,61 61,67 68,80 73,31 77,58 82,29 85,75

60 35,53 37,49 40,58 43,19 46,46 52,29 66,98 74,40 79,08 83,30 88,40 91,95
65 39,38 41,44 44,60 47,45 50,88 56,99 72,29 79,97 84,82 89,18 94,42 98,11
70 43,28 45,44 48,76 51,74 55,33 61,70 77,58 87,53 90,53 95,02 100,4 104,2
75 47,21 49,48 52,94 56,05 59,80 66,42 82,86 91,06 96,22 100,8 106,4 110,3
80 51,17 53,54 57,15 60,39 64,28 71,15 88,13 96,58 101,9 106,6 112,3 116,3

85 55,17 57,63 61,39 64,75 68,78 75,88 93,39 102,1 107,5 112,4 118,2 122,3
90 59,20 61,75 65,65 69,13 73,29 80,63 98,65 107,6 113,1 118,1 124,1 128,3
95 63,25 65,90 69,93 73,52 77,82 85,38 103,9 113,0 118,8 123,9 130,0 134,2
100 67,33 70,07 74,22 77,93 82,36 90,13 109,1 118,5 124,3 129,6 135,8 140,2
110 75,55 78,46 82,87 86,79 91,47 99,67 119,6 129,4 135,5 140,9 147,4 151,9

120 83,85 86,92 91,57 95,71 100,6 109.2 130.1 140.2 146.6 152.2 159.0 163.6
130 92,22 95,45 100,3 104,7 109,8 118.8 140.5 151.0 157.6 163.5 170.4 175.3
140 100,7 104,0 109,1 113,7 119,0 128.4 150.9 161.8 168.6 174.6 181.8 186.8
150 109,1 112,7 118,0 122,7 128,3 138.0 161.3 172.6 179.6 185.8 193.2 198.4
200 152,2 156,4 162,7 168,3 174,8 186.2 213.1 226.0 234.0 241.1 249.4 255.3

250 196,2 200,9 208,1 214,4 221,8 234.6 264.7 279.1 287.9 295.7 304.9 311.3
300 240,7 246,0 253,9 260,9 269,1 283.1 316.1 331.8 341.4 350.0 359.9 366.8
400 330,9 337,2 346,5 354,6 364,2 380.6 418.7 436.6 447.6 457.3 468.7 476.6
500 422,3 429,4 439,9 449,1 459,9 478.3 521.0 540.9 553.1 553.1 576.5 585.2
600 514,5 522,4 534,0 544,2 556,1 576.3 523.0 644.8 658.1 658.1 683.5 893.0

700 607,4 615,9 628,6 639,6 652,5 674.4 724.9 748.4 762.7 762.7 790.0 800.1
800 700,7 709,9 723,5 735,4 749,2 772.7 826.6 851.7 866.9 866.9 896.0 907.0
900 794,5 804,3 818,8 831,4 846,1 871.0 928.2 954.8 970.9 970.9 1002.0 1013.0
1000 888,6 898,9 914,3 927,6 943,1 969.5 1030.0 1058.0 1075.0 1090 1107.0 1119.0


45
Exemplo 7 - Um ngulo foi medido em quatro etapas, conforme a tabela abaixo.
Adotando pesos proporcionais ao nmero de observaes calcule os estimadores
pontuais e por intervalo de confiana.
ngulo ( lbi )
n de
obs
pi p
i
lb
i

(lb
i
-
x
) p
i
(lb
i
-
x
)
2

80 50 12 6 2 160 100 24 -1,75 6,1250
2
14 3 1 80 50 14 0,25 0,0625
2

12 9 3 240 150 36 -1,75 9,1875
2

18 6 2 160 100 36 4,25 36,125
2

E 24 8 640 400 110 51,500
2

Estimadores pontuais:
a) Mdia ponderada
=
=
=
n
i
i
n
i
i i
p
l p
x
1
1

" 75 , 13 ' 50 80
8
" 110 ' 400 640
= = x

b) Desvio padro de uma observao isolada
1
=
n
v p
i i
o

" 14 , 4
1 4
500 , 51
=
= o

c) Desvio padro da mdia ponderada
i
i i
x
p n
v p

=
) 1 (
2
~ o

" 46 , 1
8 ) 1 4 (
500 , 51
~ =

=
x
o


46
Clculo dos estimadores por intervalo de confiana:
Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia.
Ento supondo um nvel de significncia o = 5%.
a) Clculo do intervalo para a mdia:
o o o
o o
=
|
|
.
|
\
|
+ s s

1
~ ~
2
1
~
2
1
~ t x t x P
x x

da tabela de Student 18 , 3
3
975 , 0
=
= GL
t ento :
( ) % 95 18 , 3 " 46 , 1 " 75 , 13 ' 50 80 18 , 3 " 46 , 1 " 75 , 13 ' 50 80 = + s s P

( ) % 95 " 41 , 18 ' 50 80 " 09 , 09 ' 50 80 = s s P
b) Clculo do intervalo para a varincia da mdia
o
_
o
_
o o
=
(
(
(
(
s s
1
2
2
2
2
2
2
1
2
i
i i
i
i i
p
v p
p
v p
P

da tabela de qui-quadrado
22 , 0
3
025 , 0
2
=
= GL
_

e
35 , 9
3
975 , 0
2
=
= GL
_

ento:

% 95
22 , 0 8
500 , 51
35 , 9 8
500 , 51
2
= |
.
|
\
|
s s
o P

( ) % 95 " 83 , 29 " 69 , 0
2 2 2
= s s o P

Extraindo-se a raiz tem-se o intervalo de confiana para o desvio padro
( ) % 95 " 46 , 5 " 83 , 0 = s s o P


47
5.2. Ajustamento de observaes indiretas
As observaes so classificadas como indiretas quando se mede uma
grandeza de natureza diferente da procurada. Por exemplo, um ngulo para se
determinar uma distncia.
A soluo deste problema reside em se determinar qual o modelo
matemtico que expressa a relao entre o valor medido e o procurado. Dependendo
do tipo de equao encontrada se pode ter trs solues: a soluo pelo mtodo
paramtrico, pelo correlato ou pelo combinado.
Vamos supor que existam trs incgnitas (x, y e z) que se ligam aos valores
medidos (lb
i
) pelas equaes abaixo:
a
i
x + b
i
y +c
i
z + lb
i
= 0
onde: i = 1,n (n 3)
Se n = 3 a soluo nica, porm como lbi so observaes, e seus valores
esto contaminados com os erros de observao, so feitas mais medidas que as
necessrias. Para resolver o problema da inconsistncia do sistema formado (cada
conjunto de 3 equaes fornece uma soluo diferente) aplica-se o principio dos
mnimos quadrados.
V
T
PV = min
O sistema de equaes pode ser matricialmente representado como:
AX + Lb =0
onde: A - a matriz formada pelos coeficientes do sistema (a
i
; i=1,n);

X - so os valores incgnitos (x,y e z)

b - so os valores medidos (Lbi).


48
Aps aplicarmos o M.M.Q. os valores observados no sero mais os
originais e sim ajustados (La), assim como, os parmetros calculados sero
denominados de ajustados (Xa).
Se ao montarmos o sistema de equaes for possvel isolar pela igualdade
os valores incgnitos (parmetros) dos valores observados, resolve-se pelo mtodo
paramtrico.

F(X
a
) = L
a

Se ao montarmos o sistema de equaes s aparecerem valores medidos e
nenhum parmetro, a soluo dada pelo mtodo correlato.

F(L
a
) = 0

Finalmente, se no sistema de equaes no for possvel isolar os
parmetros dos valores observados, a soluo dada pelo mtodo combinado.

F(X
a
, L
a
) = 0


49
5.2.1. Mtodo Paramtrico
As equaes que relacionam os valores medidos com os incgnitos,
tambm denominados parmetros, so conhecidas como equaes de observao. A
caracterstica delas que se pode separar observao de incgnita.
F(X
a
) = L
a

fazendo X
a
= X
0
+ X
L
a
= L
b
+ V

onde : Xa - parmetros incgnitos ajustados
Xo - parmetros aproximados
X - correes aos parmetros aproximados
La - valores observados ajustados
Lb - valores observados
V - correes aos valores observados (resduos)

Ento F(X
0
+ X) = L
b
+ V

O primeiro termo da igualdade normalmente uma funo do tipo no
linear, portanto a sua linearizao feita por Taylor:
V L X
X
F
X F
b
x xa
a
+ =
c
c
+
= 0
0
) (


50
fazendo L
0
= F(X
0
) e
0 x xa
a
X
F
A
=
c
c
= vem:
L
0
+ AX = L
b
+ V AX + L
0
L
b
= V
fazendo L = L
0
- L
b
Finalmente AX + L = V
Aplicando o mtodo dos mnimos quadrados
| = V
T
PV = ( AX + L )
T
P(AX + L ) = min
Derivando essa equao e igualando a zero encontra-se um ponto de
mnimo. Esse procedimento j foi realizado no item sobre o M.M.Q. Assim:
X = - (A
T
PA)
-1
(A
T
PL)
Fazendo N = (A
T
PA) e U = (A
T
PL)
X = - N
-1
U < = > X
a
= X
o
+ X
Que a soluo de M.M.Q. para o mtodo paramtrico.
Neste mtodo a matriz varincia-covarincia dos parmetros obtida
diretamente da matriz normal invertida (N
-1
) mais um fator de varincia da unidade de
peso a priori. (
2
0
o )

=
1 2
0
N X
a
o

A matriz varincia-covarincia dos valores ajustados obtida pela seguinte
equao:
T
a
A N A L =
1 2
0
o


51
e a matriz varincia-covarincia dos resduos por:
) (
1 1 2
0

=
P A N A V
T
o

O valor do
2
0
o (sigma a priori) normalmente igual a 1.
Aps o ajustamento calcula-se um fator de varincia a posteriori
2
0
o que
ao ser comparado com o a priori informa a qualidade do ajustamento.
Este valor calculado pela seguinte equao
u n
PV V
T
=
2
0
o

onde : V - vetor dos resduos
P - matriz dos pesos
n - nmero de equaes superabundantes
u - nmero de parmetros incgnitos
A diferena entre n u denominado de graus de liberdade (GL ).
A matriz peso normalmente definida como sendo a inversa da matriz
varincia-covarincia das observaes vezes o fator sigma a priori.
1 2
0

=
Lb
P o

5.2.1.1. Qualidade do ajustamento.
Aps o ajustamento preciso verificar a sua qualidade. No mtodo dos
mnimos quadrados aplica-se um teste de hiptese para verificar se estatisticamente o
sigma a priori (
2
0
o
), valor terico, em contraposio ao sigma a posteriori (
2
0
o
), valor
calculado.


52
Para essa comparao utiliza-se um teste de hiptese que pode ser
bicaudal ou unicaudal. No teste bicaudal, a hiptese bsica (Ho) define que
estatisticamente sigma a priori igual ao sigma a posteriori, contra a hiptese
alternativa (H1) que sigma a priori diferente do sigma a posteriori.
No caso do teste unicaudal, a hiptese bsica (Ho) define que
estatisticamente sigma a priori igual ao sigma a posteriori, contra a hiptese
alternativa (H1) que sigma a priori maior que o sigma a posteriori.
Para fazer essas comparaes utiliza-se a distribuio de qui-quadrado (
2
_ )
onde se define valores tericos, formando um intervalo onde Ho vlida, no caso da
bicaudal, ou apenas, um nico valor terico, no caso da unicaudal (figura 1).
Esses valores tericos so definidos a partir do nvel de significncia (o)
e do grau de liberdade (GL = n u).

Figura 1 Teste de hiptese com a distribuio _
2
. Caso bicaudal e unicaldal.

A partir do estabelecimento dos limites calcula-se um qui-quadrado
amostral pela seguinte expresso:
2
0
2
o
_
PV V
T
=


53
Para a hiptese Ho ser considerada vlida esse valor calculado deve estar
na rea de aceitao, como mostra a figura 1, ou seja:
o _ _ _
o o
= s s
=
=
1 ) (
u - n Gl 2
2 / 1
2 u - n Gl 2
2 /
P

=> caso bicaudal
o _ _
o
= s
=
1 ) (
u - n Gl 2
1
2
P

=> caso unicaudal

Se a hiptese Ho for considerada vlida o ajustamento no apresenta
problemas e a qualidade dele est atestada.
No caso da hiptese alternativa H1 ser vlida, o ajustamento apresenta
problemas que podem ter como causa:
a) modelo matemtico inadequado;
b) modelo estocstico inadequado ao se superestimar as observaes e gerando uma
matriz dos pesos com valores muito grandes;
c) presena de erros grosseiros na amostra, o que afeta os valores dos resduos;

5.2.1.2. Sequncia prtica de clculo
Quando se pretende ajustar pelo mtodo paramtrico existe uma
sequncia de procedimentos que facilitam o clculo.
1 Passo Define-se o modelo matemtico que liga parmetros com observaes;
2 Passo A partir da matriz varincia-covarincia das observaes, se estabelece
a matriz dos pesos;
3 Passo atribuem-se valores aproximados aos parmetros incgnitos gerando o
vetor X0;
4 Passo Calcula-se o vetor L = L0 - Lb. O vetor L0 obtido substituindo-se nas
equaes de observao os parmetros por seus valores aproximados e o vetor Lb
montado com as observaes.


54
5 Passo Gera-se a matriz dos coeficientes (A). Se o modelo no linear
necessrio derivar as equaes de observao em relao aos parmetros e
substituir nestas derivadas, os parmetros por valores aproximados;
6 Passo Calculam-se as matrizes N = A
T
PA (matriz normal) e a matriz U = A
T
PL;
7 Passo Inverte-se a matriz normal (N-1);
8 Passo Calcula-se o vetor de correo aos parmetros aproximados X= - N
-1
U;
9 Passo Calcula-se os parmetros ajustados (Xa) e retorna-se ao quarto passo no
caso de modelo no linear. Procede-se desta forma at que o vetor das correes
(X) tenda a um valor que ns consideremos igual a zero.
10 Passo Encerrado o processo de iterao, calcula-se o valor das observaes
ajustadas substituindo-se os parmetros ajustados nas equaes de observao.
La = F (Xa)
11 Passo Calcula-se o vetor dos resduos fazendo a diferena entre os valores
observados ajustados e os observados. V = La Lb;
12 Passo Calcula-se o valor de sigma a posteriori
u n
PV V
T
=
2
0
o

13 Passo Aplica-se o teste de hiptese. Se o teste for bem sucedido calculam-se
as matrizes varincia-covarincia dos parmetros, dos valores observados e dos
resduos.
14 Passo Clculo das matrizes varincia-covarincia dos parmetros, das
observaes e dos resduos.
Esta sequncia de clculo no precisa ser seguida exatamente nesta ordem,
mas, ela privilegia uma lgica no clculo.


55
Exemplo 8 - A partir de quatro marcos com coordenadas conhecidas foi medida a
distncia a um ponto central. Calcule as coordenadas desse ponto, ajuste as distncias
observadas e determine a preciso dos valores ajustados.
M1
M2
M3
M4
P
l1
l2
l3
l4

Marco X (m) Y (m)
M1 842,281 925,523
M2 1337,554 996,249
M3 1831,727 723,962
M4 840,408 658,345
Caderneta de Campo
lbi Distncia (m) m (m)
1 244,512 0,012
2 321,570 0,016
3 773,154 0,038
4 279,992 0,014
1 Passo Modelo matemtico
Inicialmente devemos levar em conta que os parmetros procurados so as coordenadas do
ponto central P, que foram observadas distncias e finalmente, que se conhece as coordenadas dos
marcos. Ento a equao que envolve todos esses valores a equao da reta, ou seja:
( )
i P
m
i P
m
i
Lb y y x x = +
2
2
) (
i = 1, 4
onde : m
i
m
i
y x ,

- so as coordenadas dos quatro marcos

x
p
, y
p

- so os parmetros incgnitos

Lb
i

- so as distncias observadas
Observa-se que neste modelo os parmetros esto de um lado da igualdade e as observaes do
outro.


56
2 Passo Matriz dos Pesos
A matriz dos pesos e formada pela matriz inversa da varincia-covarincia das
observaes. As observaes no so correlacionadas. Ento:
( )
( )
( )
( )
2
2
2
2
2
014 , 0 0 0 0
0 038 , 0 0 0
0 0 016 , 0 0
0 0 0 012 , 0
m L
b
(
(
(
(
(
=

( )
( )
( )
( )
2
2
2
2
2
1
014 , 0
1
0 0 0
0
038 , 0
1
0 0
0 0
016 , 0
1
0
0 0 0
012 , 0
1
m
P
(
(
(
(
(
(
(
(
(
=

3 Passo Atribuio de valores aproximados aos parmetros.
Podem-se utilizar vrios critrios para se estabelecer um valor inicial, como por exemplo,
obter o valor mdio entre os quatros marcos, ou ainda, escolher arbitrariamente um valor.
Independentemente do valor escolhido, aps algumas iteraes, os parmetros convergem para uma
nica resposta. Adotaremos, para efeito de exemplo, os valores da penltima iterao como valores
iniciais aproximados.
X
0
= [ 1065,2 m 825,2 m ]
T

4 Passo Clculo do valor L
L = L
0
- L
b
e L
0 =
F(X
0
)
( ) ( )
( ) ( )
( ) ( )
( ) ( )
(
(
(
(
=
(
(
(
(
(
+
+
+
+
=
m
m
m
m
L
95006 , 279
18353 , 773
60382 , 321
45365 , 244
2 , 825 345 , 658 2 , 1065 408 , 840
2 , 825 962 , 723 2 , 1065 727 , 1831
2 , 825 249 , 996 2 , 1065 544 , 1337
2 , 825 523 , 925 2 , 1065 281 , 842
2 2
2 2
2 2
2 2
0

(
(
(
(
=
(
(
(
(
(
(
(
(
=
m
m
m
m
L
04194 , 0
02953 , 0
03382 , 0
05835 , 0
992 , 279
154 , 773
570 , 321
512 , 244
95006 , 279
18353 , 773
60382 , 321
45365 , 244


57
5 Passo Matriz dos coeficientes (A)
O modelo matemtico do tipo no linear. Deste modo necessrio se determinar as
equaes derivadas da funo em relao a x
p
e y
p
e substituir nelas os parmetros aproximados.
( )
i P
m
i P
m
i
lb y y x x = +
2
2
) (
0,911907 =
) (
1
1 1
a
a
a
lb
x x
x
lb F
=
c
c

410397 , 0
) (
1
1 1
=
=
c
c
a
a
a
lb
y y
y
lb F

-0,846831
) (
2
2 2
=
=
c
c
a
a
a
lb
x x
x
lb F

531862 , 0
) (
2
2 2
=
=
c
c
a
a
a
lb
y y
y
lb F

991391 , 0
) (
3
3 3
=
=
c
c
a
a
a
lb
x x
x
lb F

130937 , 0
) (
3
3 3
=
=
c
c
a
a
a
lb
y y
y
lb F

802972 , 0
) (
4
4 4
=
=
c
c
a
a
a
lb
x x
x
lb F

596017 , 0
) (
4
4 4
=
=
c
c
a
a
a
lb
y y
y
lb F

Colocando estes resultados na matriz dos coeficientes:
(
(
(
(

=
596017 , 0 802972 , 0
130937 , 0 991391 , 0
531862 , 0 846831 , 0
410397 , 0 911907 , 0
A

6 Passo Clculo da matriz N (normal) e da matriz U
N = A
T
PA e U = A
T
PL
(
(
(
(
(
(
(
(

=
596017 , 0 802972 , 0
130937 , 0 991391 , 0
531862 , 0 846831 , 0
410397 , 0 911907 , 0
04 , 102 . 5 0 0 0
0 52 , 692 0 0
0 0 25 , 906 . 3 0
0 0 0 44 , 944 . 6
596017 , 0 130937 , 0 531862 , 0 410397 , 0
802972 , 0 991391 , 0 846831 , 0 911907 , 0
N

(
=
4.098,9158 1.512,3141
1.512,3141 3 12.546,340
N


58
(
(
(
(
(
(
(
(

=
04194 , 0
02953 , 0
03382 , 0
05835 , 0
04 , 102 . 5 0 0 0
0 52 , 692 0 0
0 0 25 , 906 . 3 0
0 0 0 44 , 944 . 6
596017 , 0 130937 , 0 531862 , 0 410397 , 0
802972 , 0 991391 , 0 846831 , 0 911907 , 0
U

(
=
28,8255 -
673,5104 -
U

7 Passo Clculo da matriz inversa de N
3 1
10
0,25532 0.03078 -
0.03078 - 0,083414

= N

8 Passo Vetor de correo aos parmetros.
X = - N
-1
U X = [0,055294 -0,013371]
T

9 Passo Parmetros ajustados.
(
=
(
+
(
=
825,1866m
m 1.065,2553
013371 , 0
055294 , 0
2 , 825
2 , 065 . 1
m
m
m
m
X
a

Voltando com esses valores no 4 Passo fazendo Xo = Xa, obtem-se
X = [0,000000 -0,000002]
T

Este vetor de correo pode ser considerado como igual a zero e, portanto chegou-se ao
valor ajustado para as coordenadas do ponto P.
(
=
m 825,1866
m 1.065,2553
a
X

10 Passo Clculo dos valores observados ajustados
( ) ( )
( ) ( )
( ) ( )
( ) ( )
(
(
(
(
=
(
(
(
(
(
+
+
+
+
=
279,98649m
773,12696m
321,56411m
244,50956m
825,1866 345 , 658 1.065,2553 408 , 840
825,1866 962 , 723 1.065,2553 727 , 1831
825,1866 249 , 996 1.065,2553 544 , 1337
825,1866 523 , 925 1.065,2553 281 , 842
2 2
2 2
2 2
2 2
a
L


59
11 Passo Clculo dos resduos
V = L
a
- L
b
(
(
(
(
=
(
(
(
(
(
(
(
(
=
0,0055m -
0,0270m -
0,0059m -
0,0024m -
992 , 279
154 , 773
570 , 321
512 , 244
98649 , 279
12696 , 773
56411 , 321
50956 , 244
m
m
m
m
m
m
m
m
V

12 Passo Clculo do sigma a posteriori.
V
T
PV = 0,8383
0,4191
2 4
8383 , 0
2
0
=
= o

13 Passo Teste de Hiptese
Embora exista o teste bicaudal, alguns autores entendem que o unicaudal mais representativo e
por essa razo ele ser empregado nesse exerccio.
Hiptese bsica Ho
2
0
o
=
2
0
o

Hiptese alternativa H1
2
0
o
>
2
0
o

qui-quadrado amostral
2
0
2
o
_
PV V
T
=

1 Com
2
0
= o 8383 , 0
2
= _
Determinao do _
2
terico.
Considerando o = 5% de nvel de significncia 1 o = 95%
GL = n u = 4 2 = 2 (graus de liberdade)
Da tabela de _
2
obtm-se : 99 , 5
2
2 ; 95 , 0
=
= GL
_
( ) % 95 99 , 5 8383 , 0 = < P

Como o qui-quadrado amostral menor que o terico, ento a hiptese H
0
considerada vlida,
e neste caso considera-se que o ajustamento no apresenta problemas.


60
14 Passo Clculo das matrizes varincia-covarincia

=
1 2
0
N X
a
o
2

0,00010703 0,00001290 -
0,00001290 - 0,00003496
m X
a (
=

T
a
A N A L =
1 2
0
o

2 6
10
203 , 48 218 , 13 680 , 45 328 , 3
218 , 13 546 , 39 520 , 16 147 , 44
680 , 45 520 , 16 732 , 43 856 , 1
328 , 3 147 , 44 856 , 1 753 , 56
m L
a

(
(
(
(

=

A partir destes resultados se pode montar uma tabela:
lbi Distncia medidas (m) o (m) Distncia ajustadas (m) o (m)
1 244,512 0,012 244,50955 0,008
2 321,570 0,016 321,56411 0,007
3 773,154 0,038 773,12697 0,006
4 279,992 0,014 279,98649 0,007

Coordenadas (m) o (m)
x
p
1.065,2551 0,006
y
p
825,1866 0,010
xB
pB
yB
pB
= -21,09 %

A partir desse exemplo, observa-se que a grande diferena entre um processo de
compensao, comum em topografia, com o de mnimos quadrados que no segundo, alm de se ter a
coordenadas ajustadas, tem-se tambm a estimativa de suas precises.


61
5.3. Ajustamento de observaes diretas condicionadas
As observaes diretas condicionadas so aquelas onde as observaes so
obtidas diretamente com um mensurador de mesma natureza que a grandeza
procurada e se relacionam atravs de uma equao ou funo de condio. Neste caso
a soluo de mnimos quadrados dada pelo mtodo conhecido como Correlatos.
5.3.1. Mtodo dos Correlatos
O modelo matemtico do mtodo dos correlatos ou das equaes de
condio envolve apenas os valores observados e dado por :
F(L
a
) = 0 e L
a
= L
b
+ V
onde : La - valores observados ajustados
Lb - valores observados
V - correes aos valores observados (resduos)
Aplicando a equao no modelo, vem
F(L
b
+ V) = 0
Fazendo-se uma linearizao por Taylor, obtm-se
( ) 0 ) ( ) ( ) ( =
c
c
+ ~ + =
b a
Lb
a
b b a
L L
L
F
L F V L F L F

chamando por W = F(L
b
) e
Lb
a
L
F
B
c
c
=
onde : W - que corresponde a um vetor erro de fechamento;
B - a matriz das derivadas derivadas parciais das equaes de
condio em relao as observaes.


62

BV + W = 0
Equao correspondente ao modelo dos correlatos ou das equaes de condio
linearizado.

Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:

min ) ( 2 = + = W BV K PV V
T T
|

onde : V - correes aos valores observados (resduos)
K - vetor dos multiplicadores de Lagrange ou dos
correlatos
B - matriz das derivadas parciais
W - vetor erro de fechamento

Derivando a equao acima parcialmente em relao aos resduos e aos
multiplicadores de Lagrange e igualando a zero as duas equaes resultantes, tem-se :
(1) 0 0 2 2 K PV - B K B PV
V
T T
= = =
c
c|

(2) 0 0 ) ( 2 W BV W BV
K
= + = + =
c
c|

isolando V na equao (1)

V =P
-1
B
T
K

e substituindo na (2), vem:

K = -(BP
-1
B
T
)
-1
W ou K = -M
-1
W


63
Reescrevendo as equaes numa sequncia lgica.
W = F(Lb)
Lb
a
L
F
B
c
c
=
M = BP
-1
B
T
K = -M
-1
W
V =P
-1
B
T
K
L
a
= L
b
+ V
Essa sequncia a soluo de M.M.Q para o mtodo dos correlatos.
Neste mtodo a matriz varincia-covarincia dos valores ajustados obtida
pela seguinte equao:
( )
1 1 1 2
0

=
BP M B I P L
T
a
o

e a matriz varincia-covarincia dos resduos pela equao:
( )
1 1 1 2
0

= BP M B P V
T
o

o valor de sigma a posteriori pode ser calculado como no mtodo paramtrico ou pela
seguinte frmula:
r
W K
T
=
2
0
o

onde : r nmero de equaes de condio ou graus de liberdade
do problema

A qualidade do ajustamento tambm, neste caso feita com a aplicao do
mesmo teste de hiptese utilizado no mtodo paramtrico.


64
Exemplo 9 - Ajustar a rede de nivelamento geomtrico dado, pelo mtodo das
equaes de condio (correlato). A preciso da observao dada por :
K mm 20 = o , sendo K em quilmetros.
Linha Ah (m) Dist. (km)

1 6,16 4,5
2 12,57 2,0
3 6,41 1,8
4 1,09 4,0
5 11,58 2,2
6 5,07 4,5

1 - Modelo Matemtico
Observando o esquema se extrai trs circuitos diferentes que corresponde a trs equaes de
condio. Considerando que todas as vezes que o sentido de caminhamento for contrrio a seta
(elevao do terreno) adota-se o sinal negativo na equao, vem:
Lb
1
- Lb
2
+ Lb
3
= 0
Lb
2
- Lb
4
- Lb
5
= 0 que so as equaes de condio
Lb
3
- Lb
5
+ Lb
6
= 0
2 - Vetor das observaes (LB) e dos erros de fechamento (W)
(
(
(
(
(
(
(
(
=
07 , 5
58 , 11
09 , 1
41 , 6
57 , 12
16 , 6
Lb

(
(
(
=
(
(
(
+

+
= =
10 , 0
10 , 0
00 , 0
07 , 5 58 , 11 41 , 6
58 , 11 09 , 1 57 , 12
41 , 6 57 , 12 16 , 6
) (Lb F W

Obs.: as setas indicam o sentido em que
o terreno se eleva.
3
5 4
6
B
C
A
1
RNA
2


65
3 - Matriz das derivadas parciais (B) e dos Pesos (P)
(
(
(
=
c
c
=
1 1 0 1 0 0
0 1 1 0 1 0
0 0 0 1 1 1
) (
Lb
La
La F
B

Como as observaes so no correlacionadas, a matriz dos pesos s ter valores na diagonal
principal. Estes valores sero calculados multiplicando-se a raiz das distncias em quilmetros por 0,004
m e quadrando-se em seguida o resultado. No mtodo correlato necessita-se do peso invertido. Neste
caso ser gerada a matriz inversa diretamente. No caso de matrizes diagonais, basta inverter os valores
da diagonal. Ento a matriz invertida de P recebe os seguintes valores:
(
(
(
(
(
(
(
(
00180 , 0 0 0 0 0 0
0 00088 , 0 0 0 0 0
0 0 00160 , 0 0 0 0
0 0 0 00072 , 0 0 0
0 0 0 0 00080 , 0 0
0 0 0 0 0 00180 , 0
1
P

4 - Clculo da Matriz M e dos vetores dos coeficientes de Lagrange (K), dos resduos (V) e dos valores
observados (La)
(
(
(

= =

0034 , 0 00088 , 0 00072 , 0
00088 , 0 00328 , 0 0008 , 0
00072 , 0 0008 , 0 00332 , 0
1 T
B BP M

(
(
(
6976 , 346 3080 , 118 6954 , 103

3080 , 118 2868 , 364 4371 , 113
6954 , 103 4371 , 113 0272 , 351
1
M

(
(
(
= =

8390 , 22
5979 , 24
9742 , 0
1
W M K

(
(
(
(
(
(
(
(
= =

0411 , 0
0417 , 0
0394 , 0
0171 , 0
0189 , 0
0018 , 0
1
K B P V
T

(
(
(
(
(
(
(
(
= + =
111 , 5
538 , 11
051 , 1
427 , 6
589 , 12
162 , 6
V Lb La


66
5 - Clculo de sigma a posteriori (
2
0
o
) e da Matriz varincia-covarincia dos valores observados

ajustados (La)
581 , 1
3
743 , 4
2
0
= =
=
r
W K
T
o

(
(
(
(
(
(
(
(
= =

70 , 10 72 , 5 39 , 5 98 , 4 33 , 0 31 , 5
72 , 5 11 , 8 48 , 5 39 , 2 63 , 2 24 , 0
39 , 5 48 , 5 55 , 10 09 , 0 08 , 5 17 , 5
98 , 4 39 , 2 09 , 0 37 , 7 30 , 2 07 , 5
33 , 0 63 , 2 08 , 5 30 , 2 71 , 7 41 , 5
31 , 5 24 , 0 17 , 5 07 , 5 41 , 5 48 , 10
10000
1
) (
1 1 1 2
0
P M B I P La
T
o

A partir desta matriz obtm-se as precises dos valores observados ajustados
Linha Ah
obs
(m) Dist. (km) Ah
ajust
(m) o
Ah
(m)
1 6,16 4,5 6,162 0,032
2 12,57 2,0 12,589 0,028
3 6,41 1,8 6,427 0,027
4 1,09 4,0 1,051 0,032
5 11,58 2,2 11,538 0,028
6 5,07 4,5 5,111 0,033
Calculando o qui-quadrado amostral para o problema 7437 , 4
2
= _
Considerando o = 5% de nvel de significncia 1 o = 95%
GL = n u = 6 3 = 3 (graus de liberdade)
Da tabela de _
2
obtm-se : 82 , 7
2
3 ; 95 , 0
=
= GL
_
( ) % 95 82 , 7 7437 , 4 = < P
Como o qui-quadrado amostral menor que o terico, ento a hiptese H
0
considerada vlida,
e neste caso considera-se que o ajustamento no apresenta problemas.


67
5.4. Mtodo Combinado
Quando no for possvel explicitar as observaes em funo dos
parmetros a soluo por M.M.Q. dada pelo mtodo Combinado, cuja equao de
definio a seguinte:
F(La
,
Xa) = 0
onde : La = Lb + V - valores observados ajustados
Xa = Xo + X - parmetros ajustados
Aplicando a equao no modelo, vem
F(L
b
+ V, Xo + X) = 0
Fazendo-se uma linearizao por Taylor, obtm-se
( ) ( ) 0 ) , ( ) , ( ) (
0 0 0
=
c
c
+
c
c
+ ~ + + =
b a
Lb
a
a
Xo
a
b b a
L L
L
F
X X
X
F
X L F X X V L F L F

chamando por W = F(L
b
; X
a
) ;
0 X
a
X
F
A
c
c
= e
Lb
a
L
F
B
c
c
=
onde : W - que corresponde a um vetor erro de fechamento;
A - a matriz das derivadas derivadas parciais das equaes de
observao em relao aos parmetros.
B - a matriz das derivadas derivadas parciais das equaes de
observao em relao s observaes.
AX + BV + W = 0
Equao correspondente ao modelo Linearizado do mtodo combinado.


68
Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:

min ) ( 2 = + + = W BV AX K PV V
T T
|

onde : V - correes aos valores observados (resduos)
K - vetor dos multiplicadores de Lagrange ou dos
correlatos
A - Matriz das derivadas parciais (parmetros)
B - matriz das derivadas parciais (observaes)
W - vetor erro de fechamento

Derivando a equao acima parcialmente em relao aos resduos (V), aos
multiplicadores de Lagrange (K) e as correes (X) e igualando a zero as trs equaes
resultantes, tem-se :

(1) 0 0 2 2 K PV - B K B PV
V
T T
= = =
c
c|

(2) 0 0 ) ( 2 W BV AX W BV AX
K
= + + = + + =
c
c|

(3) 0 0 2 K A K A
X
T T
= = =
c
c|

isolando V na equao (1)

V =P
-1
B
T
K


69
e substituindo na equao (2), vem:

AX + BP
-1
B
T
K + W = 0

Fazendo M = BP
-1
B
T

AX + MK + W = 0

Isolando K
K = -M
-1
(AX +W )
Substituindo em (3)

-A
T
M
-1
(AX +W ) = 0 < = > X = -(A
T
M
-1
A)
-1
A
T
M
-1
W

Reescrevendo numa sequncia lgica

W = F(Lb;Xo)
0 X
a
X
F
A
c
c
=
Lb
a
L
F
B
c
c
=
M = BP
-1
B
T
X = -(A
T
M
-1
A)
-1
A
T
M
-1
W

K = -M
-1
(AX +W )
V =P
-1
B
T
K
L
a
= L
b
+ V
Xa = Xo + X


70

O conjunto destas equaes a soluo de M.M.Q para o mtodo combinado.
Neste mtodo a matriz varincia-covarincia dos parmetros obtida pela
seguinte equao
( )
=
1
1 2
0
A M A X
T
a
o
A matriz varincia-covarincia dos valores observados ajustados obtida
pela seguinte equao:
( )
1 1 1 2
0

=
BP M B I P L
T
a
o

Exemplo 10 Um agrimensor precisa medir a rea coberta por um piv central e s
dispe, no momento, de um GPS de Navegao. Uma soluo possvel seria a de se
obter as coordenadas do centro e de um ponto na periferia do piv e calcular o seu
raio. Ocorre que a definio do centro no lhe pareceu algo simples e ele optou por
determinar as coordenadas de 4 pontos no alinhados pertencentes ao contorno da
rea do piv. Tendo as coordenadas e sabendo que a acurcia de um GPS de
Navegao gira ao redor de 10 m, calcule a rea do piv central e estime a preciso
dessa determinao.
Ponto E (m) N (m)
1 654.216 8.250.517
2 654.445 8.250.498
3 654.422 8.250.299
4 654.221 8.250.302
1 - Modelo Matemtico
Para determinar a rea do piv necessrio se calcular o raio desse piv. Ento, indispensvel
que se gere um modelo onde seja possvel o clculo dessa grandeza. Assim, pdemos usar a equao da
circunferncia que envolve as coordenadas medidas, as coordenadas do centro e o raio da
circunferncia.


71
Fazendo a coordenada E = x e N = y, vem:
(x
1
x
c
) + (y
1
Y
c
) - R = 0 onde: x
i
,y
i
coordenadas medidas (LB)
(x
2
x
c
) + (y
2
Y
c
) - R = 0 x
c
,y
c
coordenadas do centro (parmetro)
(x
3
x
c
) + (y
3
Y
c
) - R = 0 R raio do piv (parmetro)
(x
4
x
c
) + (y
4
Y
c
) - R = 0
Neste modelo se tem trs incgnitas e quatro equaes, o que nos d 1 grau de liberdade, o que
permite proceder ao ajustamento. Observa-se ainda, que incgnitas e observaes, no podem ser
separadas pelo sinal de igualdade. Assim, o ajustamento feito pelo mtodo combinado.
F(x
a
,L
a
) = 0
2 - Parmetro aproximados
Existem vrias formas de se escolher o parmetro inicial. Vamos adotar a mdia das coordenadas
observadas para determinar as coordenadas do ponto central e a distncia do ponto 1 at esse, como
raio inicial.
Procedendo-se aos clculos chega-se a: xo = [654.326 8.250.404 157,7]
T

3 - Clculo do vetor W
w =
(654.216 654.326)
2
+ (8.250.517 8.250.404)
2
157,7
2
(654.445 654.326)
2
+ (8.250.498 8.250.404)
2
157,7
2
(654.422 654.326)
2
+ (8.250.299 8.250.404)
2
157,7
2
(654.221 654.326)
2
+ (8.250.302 8.250.404)
2
157,7
2
= _
2.358,24
2.480,13
2.344,88
2.484,22
_

4 - Clculo das Matrizes A e B
0 X
a
X
F
A
c
c
=

Lb
a
L
F
B
c
c
=


72
Derivando as equaes do modelo em relao aos parmetros x
c
,y
c
e R vem:
213,6242 = ) ( 2
1
1 c
c
x x
x
F
=
c
c

210,7342 - = ) ( 2
1
1 c
c
y y
y
F
=
c
c

315,40 - = 2
1
R
R
F
=
c
c

244,3758 - = ) ( 2
2
2 c
c
x x
x
F
=
c
c

172,7342 - = ) ( 2
2
2 c
c
y y
y
F
=
c
c

315,40 - = 2
2
R
R
F
=
c
c

198,3758 - = ) ( 2
3
2 c
c
x x
x
F
=
c
c

225,2658 = ) ( 2
3
3 c
c
y y
y
F
=
c
c

315,40 - = 2
3
R
R
F
=
c
c

203,6242 = ) ( 2
4
4 c
c
x x
x
F
=
c
c

219,2658 = ) ( 2
4
4 c
c
y y
y
F
=
c
c

315,40 - = 2
2
R
R
F
=
c
c

e derivando em relao as observaes x
1
, y
1
, x
2
, y
2
, x
3
, y
3
, x
4
, y
4
, tem-se:
213,6242 - = ) ( 2
1
1
1
c
x x
x
F
=
c
c
210,7342 = ) ( 2
1
1
1
c
y y
y
F
=
c
c
0
1
2
=
c
c
x
F

0
1
2
=
c
c
y
F

0
1
3
=
c
c
x
F
0
1
3
=
c
c
y
F

0
1
4
=
c
c
x
F
0
1
4
=
c
c
y
F

244,3758 = ) ( 2
2
2
2
c
x x
x
F
=
c
c

172,7342 = ) ( 2
2
2
2
c
y y
y
F
=
c
c

0
2
1
=
c
c
x
F

0
2
1
=
c
c
y
F

0
2
3
=
c
c
x
F

0
2
3
=
c
c
y
F

0
2
4
=
c
c
x
F

0
2
4
=
c
c
y
F

198,3758 = ) ( 2
3
3
3
c
x x
x
F
=
c
c

225,2658 - = ) ( 2
3
3
3
c
y y
y
F
=
c
c

0
3
1
=
c
c
x
F

0
3
1
=
c
c
y
F

0
3
2
=
c
c
x
F

0
3
2
=
c
c
y
F

0
3
4
=
c
c
x
F

0
3
4
=
c
c
y
F

203,6242 - = ) ( 2
4
4
4
c
x x
x
F
=
c
c

219,2658 - = ) ( 2
4
4
4
c
y y
y
F
=
c
c

0
4
1
=
c
c
x
F

0
4
1
=
c
c
y
F

0
4
2
=
c
c
x
F

0
4
2
=
c
c
y
F

0
4
3
=
c
c
y
F

0
4
3
=
c
c
x
F

Arranjando esses valores nas respectivas matrizes, vem
A = _
213,6242 210,7342 315,40
244,3758 172,7342 315,40
198,3758 225,2658 315,40
203,6242 219,2658 315,40
_

B= _
-213,6242 210,7342 0 0 0 0 0 0
0 0 244,3758 172,7342 0 0 0 0
0 0 0 0 198,3758 -225,2658 0 0
0 0 0 0 0 0 -203,6242 -219,2658
_


73
5 - Clculo da Matriz dos Pesos.
A matriz dos pesos calculada multiplicando-se a matriz varincia covarincia das observaes
invertida pelo sigma a priori. Considerando que a acurcia de um GPS de navegao de 10m e que
no se tem como saber da existncia de tendncia na presente situao, vamos assumir que este valor
tambm o da preciso. Decompondo esse valor nas componentes X e Y, assumidas como iguais:
o
x
= o
=
10
2
= 7,07 m
Elevando-se esse valor ao quadrado tm-se as varincias das coordenadas x e y de todos os pontos
o
x
2
= o
2
= 50 m
Montando-se a matriz dos pesos e no esquecendo que sigma a priori igual a 1:
2
1
50
1
0 0 0 0 0 0 0
0
50
1
0 0 0 0 0 0
0 0
50
1
0 0 0 0 0
0 0 0
50
1
0 0 0 0
0 0 0 0
50
1
0 0 0
0 0 0 0 0
50
1
0 0
0 0 0 0 0 0
50
1
0
0 0 0 0 0 0 0
50
1
m
P
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
(
=

2 1
50 0 0 0 0 0 0 0
0 50 0 0 0 0 0 0
0 0 50 0 0 0 0 0
0 0 0 50 0 0 0 0
0 0 0 0 50 0 0 0
0 0 0 0 0 50 0 0
0 0 0 0 0 0 50 0
0 0 0 0 0 0 0 50
m P
(
(
(
(
(
(
(
(
(
(
(

6 - Clculo das Matrizes M, X, K e V.

H = B. P
-1
. B
1
= _
4.973.800 0 0 0
0 4.599.400 0 0
0 0 4.048.200 0
0 0 0 4.285.800
_

X = (A
1
. H
-1
. A)
-1
. A
1
. H
-1
. w = _
3,1675
7,6113
7,8804
_


74
K = H
-1
. (A. X +w) = _
0,0000133
0,0000143
0,0000163
0,0000152
_

I = P
-1
. B
1
. K =
0,0029
0,0030
0,0034
0,0027
0,0031
0,0034
0,0032
0,0031

7 - Clculo das Matrizes dos parmetros ajustados (Xa) e das observaes ajustadas (La).
Xo = Io +X = _
654.326,00
8.250.404,00
157,70
_ +_
3,1675
7,6213
7,8804
_ = _
654.322,8325
8.250.411,6213
149,8196
_

Io = Ib +I =
654.216,0000
8.250.517,0000
654.445,0000
8.250.498,0000
654.422,0000
8.250.299,0000
654.221,0000
8.250.302,0000
0,0029
0,0030
0,0034
0,0027
0,0031
0,0034
0,0032
0,0031
654.216,0029
8.250.516,9970
654.445,0034
8.250.498,0027
654.421,9969
8.250.299,0034
654.220,9968
8.250.301,9969

O modelo deste problema do tipo no linear, e por essa razo, necessrio se aplicar algumas
iteraes at que o vetor X (das correes) se aproxime de zero. Fazendo Xa = Xo aps 3 iteraes o
vetor das correes X se aproxima de zero e como resultado tem-se:
Xo = _
654.322,8121
8.250.411,6329
149,8407
_ e Io =
654.216,0028
8.250.516,9972
654.445,0034
8.250.498,0024
654.421,9968
8.250.299,0036
654.220,9969
8.250.301,9967


75
8 - Clculo das Matrizes varincia-covarincia dos parmetros e das observaes ajustadas
001274 , 0
3
003821 , 0
2
0
= =
=
r
W K
T
o

( ) 10
0188 , 10 1899 , 5 2168 , 0
1899 , 5 9070 , 4 06613 , 0
2168 , 0 06613 , 0 2814 , 5
5
1
1 2
0
m A M A X
T
a

(
(
(

= =
o
Xc = 654.322,8121 m 0,007267 m
Yc = 8.250.411,6329 m 0,007005 m
R = 149,8407 m 0,010094 m

( )
1 1 1 2
0

=
BP M B I P L
T
a
o
(
(
(
(
(
(
(
(
(
(
(

=
0295 , 0 0318 , 0 0 0 0 0 0 0
0318 , 0 0342 , 0 0 0 0 0 0 0
0 0 0278 , 0 0316 , 0 0 0 0 0
0 0 0316 , 0 0359 , 0 0 0 0 0
0 0 0 0 0425 , 0 0300 , 0 0 0
0 0 0 0 0300 , 0 0212 , 0 0 0
0 0 0 0 0 0 0323 , 0 0318 , 0
0 0 0 0 0 0 0318 , 0 0314 , 0
a
L

Ponto E (m) o
E
(m) N (m) o
N
(m)
1 654.216,0028 0,17721 8.250.516,9972
0,17964
2 654.445,0034 0,14565 8.250.498,0024
0,20606
3 654.421,9968 0,18938 8.250.299,0036
0,16677
4 654.220,9969 0,18491 8.250.301,9967
0,17172


76
Se for calculada a matriz de correlao correspondente a ELa contatar-se- que as coordenadas x
e y tem xy = 1, ou seja, um erro na determinao da coordenada x tem 100% de probabilidade de afetar
a coordenada Y.
9 - Clculo da rea do piv e preciso da rea.
A equao da rea de uma circunferncia dada por:
A = n. R
2

Basta substituir o valor do raio calculado na equao para se obter a rea.
A = n. (149,8407)
2
= 70.535,7694m
Para se determinar a preciso dessa rea s fazer uma propagao de varincia.
EA =D.ER.D
T
=
A
R
= 2. n. R = 2. n. 149,8407 = 941,4768 m

R = (0,010094) =0,000101883m

EA = 941,4768m 0,000101883 m 941,4768m = 90,3072m
4

Extraindo-se a raiz da varincia da rea, obtem-se a preciso:
oA = 9,5030 m

Finalmente, a rea e a preciso procuradas so:

A = 70.535,7694 m 9,5030 m


77

REFERNCIAS BIBLIOBRFICAS

CAMARGO, P. O. Ajustamento de Observaes. Presidente Prudente. (Notas de aula do
Curso de Graduao em Engenharia Cartogrfica, FCT/UNESP) , 2000.
DALMOLIM, Q. Ajustamento por Mnimos Quadrados. Curitiba: Ed. UFPR, 2002.
GEMAEL, C. Introduo ao Ajustamento de Observaes: Aplicaes Geodsicas.
Curitiba: Ed. UFPR, 1994.
MONICO, J. F. G eti alli. Acurcia e preciso: Revendo os conceitos de forma acurada.
Boletim Cincias Geodsicas, sec. Comunicaes, Curitiba, v. 15, no 3, p.469-483, jul-
set, 2009.

Apostila de Geodesia 2

Caricato da

Informazioni sul documento

Titolo originale

Copyright

Formati disponibili

Condividi questo documento

Condividi o incorpora il documento

Opzioni di condivisione

Hai trovato utile questo documento?

Questo contenuto è inappropriato?

Copyright:

Formati disponibili

Apostila de Geodesia 2

Caricato da

Copyright:

Formati disponibili

IFG - INSTI TUTO FEDERAL DE EDUCAO, CINCIAS E TECNOLOGIA DE GOIS

AJ US TAMENTO DE OBS ERVA ES PROF . NI LTON RI CETTI XAVI ER DE NAZ AREN O

, que agora um valor

t obtido na tabela de distribuio de Student (pg. 42) com

6976 , 346 3080 , 118 6954 , 103

) e da Matriz varincia-covarincia dos valores observados

Potrebbero piacerti anche