JA C O B I M E TH O D

J a c o b i in t r o d u c e d h is o w n it e r a t iv e m e t h o d f o r s o lv in g n o r m a l e q u a t io n s f o r le a s t

s q u a r e s p r o b le m s in a s t r o n o m ic a l c a lc u la t io n s in 1 8 4 5 . I n t h e s a m e p a p e r , h e e m p lo y s

c a r e f u lly s e le c t e d p la n e r o t a t io n s to boost th e d ia g o n a l d o m in a n c e o f th e c o e f f ic ie n t

m a t r ix . T h is is p o s s ib ly t h e f ir s t in s t a n c e o f a lin e a r s y s t e m b e in g p r e - p r o c e s s e d in o r d e r

to a c c e le r a t e th e c o n v e rg e n c e of an it e r a t iv e m e th o d . H e u s e s th e num ber 3 x3 as an

e x a m p le . H e w ill o n ly use p la n e r o t a t io n s t o d ia g o n a liz e a s y m m e t r ic m a t r ix in a la t e r

p a p e r (1 8 4 6 ).

The J a c o b i ite ra tiv e m e th o d is an it e r a t iv e a lg o r it h m used in n u m e r ic a l lin e a r

a lg e b r a to d e t e r m in e th e s o lu t io n s to a s y s te m o f lin e a r e q u a t io n s t h a t is d ia g o n a lly

d o m in a n t . For each d ia g o n a l e le m e n t , an a p p r o x im a t e v a lu e is f ille d in u s in g th is

m e th o d . T h e p ro c e s s is it e r a t e d u n t il it c o n v e r g e s . T h is a lg o r it h m w a s f ir s t c a lle d th e

J a c o b i t r a n s f o r m a t io n p r o c e s s o f m a t r ix d ia g o n a liz a t io n .

L e t t h e n s y s t e m o f lin e a r e q u a t io n s b e A x = b .

H e re ,

L e t u s d e c o m p o s e m a t r ix A in t o a d ia g o n a l c o m p o n e n t D a n d r e m a in d e r R s u c h t h a t A =
D + R .

I t e r a t iv e ly t h e s o lu t io n w ill o b t a in u s in g t h e b e lo w e q u a t io n .

(k + 1 ) -1 (k )
x = D (b – R x )

H e re ,

k
x = k t h it e r a t io n o r a p p r o x im a t io n o f x

(k + 1 ) k th
x = N e x t it e r a t io n o f x o r (k + 1 ) it e r a t io n o f x

T h e f o r m u la f o r t h e e le m e n t - b a s e d m e t h o d is g iv e n a s
 (k ) (k ) (k ) (k ) (k )
G iv e n a n e x a c t a p p r o x im a t io n x = (x 1 , x 2 , x 3 , … , x n ) fo r x , th e p ro c e d u re
(k ) (k )
o f J a c o b ia n ’s m e t h o d h e lp s t o u s e t h e f ir s t e q u a t io n a n d t h e p r e s e n t v a lu e s o f x 2 , x 3 ,
(k ) (k + 1 ) (k )
… , x n t o c a lc u la t e a n e w v a lu e x 1 . L ik e w is e , t o e v a lu a t e a n e w v a lu e x i u s in g t h e
th (k )
i e q u a t io n a n d t h e o ld v a lu e s o f t h e o t h e r v a r ia b le s . T h a t is , g iv e n c u r r e n t v a lu e s x =
(k ) (k ) (k ) (k + 1 ) (k + 1 ) (k + 1 ) (k + 1 )
(x 1 , x 2 , … , x n ) , d e t e r m in e n e w v a lu e s b y s o lv in g f o r x = (x 1 , x 2 , … , x n )
in t h e b e lo w e x p r e s s io n o f lin e a r E q u a t io n .

T h e a b o v e s y s t e m o f e q u a t io n s c a n a ls o b e w r it t e n a s b e lo w .

(k )
F ro m t h e a b o v e e x p r e s s io n it is c le a r t h a t , t h e s u b s c r ip t i in d ic a t e s t h a t x i is t h e
th (k ) (k ) (k ) (k ) (k )
i e le m e n t o f v e c t o r x = (x 1 , x 2 , … , x i , … , x n ) , a n d s u p e r s c r ip t k c o r r e s p o n d s t o
th
t h e p a r t ic u la r it e r a t io n ( n o t t h e k pow er of x i ).

A s s u m e t h a t D , U , a n d L r e p r e s e n t t h e d ia g o n a l, s t r ic t u p p e r t r ia n g u la r a n d s t r ic t
lo w e r t r ia n g u la r a n d p a r t s o f m a t r ix A , r e s p e c t iv e ly , t h e n t h e J a c o b ia n ’s m e t h o d c a n b e
d e s c r ib e d in m a t r ix - v e c t o r n o t a t io n a s g iv e n b e lo w .

T h is c a n b e s im p lif ie d a s s h o w n b e lo w .

(k + 1 ) (k )
D x + (L + U )x = b
 (k + 1 ) -1 (k )
x = D [(-L -U )x + b]

T a k in g in t o a c c o u n t th e J a c o b ia n m a t r ix 's a p p lic a tio n s in v a r io u s f ie ld s , t h is

m e th o d possesses som e s ig n if ic a n t p r o p e r t ie s . The s im p lic it y of t h is m e th o d is
c o n s id e r e d in b o th p o s it iv e and n e g a t iv e w a y s . T h is m e t h o d is g o o d because it is t h e
f ir s t it e r a t iv e m e t h o d a n d is s im p le t o u n d e r s t a n d . H o w e v e r , t h e m e t h o d is a ls o r e g a r d e d
as in e f f e c t iv e because it is r a r e ly u s e d in p r a c t ic e . T h o u g h th e re a re c o n s , s t ill it is a
g o o d s t a r t in g p o in t f o r t h o s e w h o a r e w illin g t o le a r n m o r e u s e f u l b u t m o r e c o m p lic a t e d
it e r a t iv e m e t h o d s .

D IF F E R E N C E B E TW E E N G A U S S -S E ID E L A N D JA C O B I M E TH O D

The G a u s s – S e id e l a n d J a c o b i m e th o d s d if f e r in th a t th e J a c o b i m e th o d uses
th e v a lu e s o b t a in e d in th e p r e v io u s s t e p , w h e r e a s t h e G a u s s – S e id e l m e th o d a lw a y s
u s e s t h e m o s t r e c e n t u p d a t e d v a lu e s d u r in g t h e it e r a t iv e p r o c e d u r e s .

(k )
W it h th e J a c o b i m e th o d , th e v a lu e s of x i o b t a in e d in th e k th it e r a t io n r e m a in
u n c h a n g e d u n t il t h e e n t ir e ( k + 1 ) t h it e r a t io n h a s b e e n c a lc u la t e d . W it h t h e G a u s s - S e id e l
(k + 1 )
m e th o d , w e use th e new v a lu e s x i as soon a s t h e y a r e k n o w n . F o r e x a m p le , o n c e
(k + 1 )
w e have c o m p u te d x 1 fro m th e f ir s t e q u a t io n , it s v a lu e is t h e n used in th e second
(k + 1 )
e q u a t io n t o o b t a in t h e n e w x 2 and so on.