T - CN Autovalori Singolari I PDF

AUTOVALORI E VALORI SINGOLARI DI MATRICI
Letizia SCUDERI
Dipartimento di Scienze Matematiche, Politecnico di Torino

letizia.scuderi@polito.it
A.A. 2017/2018
L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 1 / 89

Definizione
Data una matrice A ∈ Rn,n , un numero λ (reale o complesso), si dice
autovalore di A se esiste un vettore non nullo x (reale o complesso)
soluzione del sistema omogeneo
Ax = λx
Il vettore x è detto autovettore di A corrispondente all’autovalore λ.

Definizione
Ax = λx
È immediato verificare che ogni autovettore è definito a meno di una

costante moltiplicativa.

Definizione
Ax = λx
È immediato verificare che ogni autovettore è definito a meno di una

costante moltiplicativa.
Dalla precedente definizione si ha che
λ è un autovalore di A se, e solo se, la matrice A − λI è singolare

Pertanto, gli autovalori di A coincidono con le n radici dell’equazione
caratteristica (algebrica di grado n):
det(A − λI) = 0

det(A − λI) = 0
Ne consegue che una matrice quadrata di dimensione n ha esattamente n

autovalori (reali o complessi), non necessariamente distinti tra loro.

det(A − λI) = 0
Ne consegue che una matrice quadrata di dimensione n ha esattamente n

autovalori (reali o complessi), non necessariamente distinti tra loro.
Si osservi che, poiché gli elementi di A sono numeri reali, allora
l’equazione caratteristica ha coefficienti reali e, di conseguenza, se A
ammette come autovalore un numero complesso λ, anche il suo coniugato
λ̄ sarà un autovalore.

Dalla definizione di autovalore-autovettore si deducono immediatamente le
seguenti proprietà.
Proprietà
Se λ1 , λ2 , . . . , λn sono gli autovalori di una matrice A, con
corrispondenti autovettori x1 , x2 , . . . , xn , λk1 , λk2 , . . . , λkn rappresentano
gli n autovalori di Ak . Inoltre, gli autovettori di A sono anche
autovettori di Ak .

Dalla definizione di autovalore-autovettore si deducono immediatamente le
seguenti proprietà.
Proprietà
Se λ1 , λ2 , . . . , λn sono gli autovalori di una matrice A, con
corrispondenti autovettori x1 , x2 , . . . , xn , λk1 , λk2 , . . . , λkn rappresentano
gli n autovalori di Ak . Inoltre, gli autovettori di A sono anche
autovettori di Ak .
Se λ1 , λ2 , . . . , λn sono gli autovalori di una matrice invertibile A, con
corrispondenti autovettori x1 , x2 , . . . , xn , λ−1 −1 −1
1 , λ2 , . . . , λn
−1
rappresentano gli n autovalori di A . Inoltre, gli autovettori di A
sono anche autovettori di A−1 .

La definizione di autovalore-autovettore
Axi = λi xi , i = 1, . . . , n
consente di scrivere l’identità
(Ax1 , Ax2 , . . . , Axn ) = (λ1 x1 , λ2 x2 , . . . , λn xn )
ovvero
AX = XD
con  
λ1 0
 λ2 
X = (x1 , x2 , . . . , xn ), D=
 
.. 
 . 
0 λn

I seguenti comandi Matlab consentono di calcolare gli autovalori e gli
autovettori ad essi associati di una matrice A.
Comandi Matlab
d = eig(A) restituisce il vettore d contenente tutti gli autovalori di A.

I seguenti comandi Matlab consentono di calcolare gli autovalori e gli
autovettori ad essi associati di una matrice A.
Comandi Matlab
d = eig(A) restituisce il vettore d contenente tutti gli autovalori di A.
[X,D] = eig(A) restituisce la matrice diagonale D i cui elementi
sono gli autovalori di A e la matrice X i cui vettori colonna sono i
corrispondenti autovettori (cioè l’i-esimo vettore colonna X(:,i) è un
autovettore associato all’autovalore D(i,i)).

Definizione
Data una matrice A di ordine n e un vettore non nullo x di dimensione n,
si definisce quoziente di Rayleigh il numero
xH Ax
rA (x) =
xH x
ove xH denota il vettore trasposto coniugato di x, ovvero il vettore i cui
elementi sono i coniugati x̄j degli elementi xj , j = 1, . . . , n. Se gli elementi
di x sono tutti reali, allora xH = xT .

Definizione
xH Ax
rA (x) =
xH x
Si osservi che se x è un autovettore con autovalore λ si ha rA (x) = λ.

Definizione
xH Ax
rA (x) =
xH x
Si osservi che se x è un autovettore con autovalore λ si ha rA (x) = λ.

Pertanto noto l’autovalore λ di A, un corrispondente autovettore può
essere calcolato risolvendo il sistema omogeneo Ax = λx; viceversa, noto
un autovettore x, l’autovalore λ ad esso associato è fornito dal quoziente
di Rayleigh.

Utilizzando l’espressione del quoziente di Rayleigh e la definizione di
matrice simmetrica e definita positiva, si dimostra immediatamente la
seguente proprietà.
Proprietà
Una matrice A di ordine n è simmetrica e definita positiva se, e solo se, i
suoi autovalori sono tutti positivi.

Definizione
Si definisce raggio spettrale della matrice A di ordine n il modulo
dell’autovalore di massimo modulo, cioè
ρ(A) = max {|λi | : λi è autovalore di A}

i=1,...,n

Definizione
Si definisce raggio spettrale della matrice A di ordine n il modulo
dell’autovalore di massimo modulo, cioè
ρ(A) = max {|λi | : λi è autovalore di A}

i=1,...,n
Il raggio spettrale di una matrice A si può calcolare mediante l’istruzione

Matlab max(abs(eig(A))).

Definizione
Si definisce norma 2 o norma spettrale di A ∈ Rm,n il numero reale
positivo: q
||A||2 = ρ(AT A)

Definizione
positivo: q
||A||2 = ρ(AT A)
Osservazioni
p p
Se A ∈ Rn,n è simmetrica, allora ||A||2 = ρ(A2 ) = ρ(A)2 = ρ(A)
Se A ∈ Rn,n
p è ortogonale,√allora √
||Ax||2 = (Ax)T Ax = xT AT Ax = xT x = ||x||2

Definizione
positivo: q
||A||2 = ρ(AT A)
Osservazioni
p p
Se A ∈ Rn,n è simmetrica, allora ||A||2 = ρ(A2 ) = ρ(A)2 = ρ(A)
Se A ∈ Rn,n
p è ortogonale,√allora √
||Ax||2 = (Ax)T Ax = xT AT Ax = xT x = ||x||2
Comando Matlab
norm(A,2) oppure norm(A) restituisce la norma spettrale della matrice A.

Nell’applicazione di alcuni metodi numerici è necessario localizzare in
modo (più o meno accurato) gli autovalori di A nel piano complesso. A
tale scopo si introducono le seguenti definizioni.
Definizione
Si definisce i-esimo cerchio riga di Gershgorin associato alla i-esima riga
di A l’insieme
 
 n 
(r )
X
Ci = z ∈ C : |z − aii | ≤ |aij | , i = 1, . . . , n
 
j=1,j6=i
Si definisce j-esimo cerchio colonna di Gershgorin associato alla j-esima

colonna di A l’insieme
 
 n 
(c)
X
Cj = z ∈ C : |z − ajj | ≤ |aij | , j = 1, . . . , n
 
i=1,i6=j

Teorema
n
(r )
[
Tutti gli autovalori di A appartengono a R = Ci .
i=1

Teorema
n
(r )
[
i=1
n
(c)
[
Tutti gli autovalori di A appartengono a C = Cj .
j=1

Teorema
n
(r )
[
i=1
n
(c)
[
Tutti gli autovalori di A appartengono a C = Cj .
j=1
Esempio
A sinistra i cerchi riga di Gershgorin e a destra i cerchi colonna per la
matrice: A=[30 1 2 3; 4 15 -4 -2; -1 0 3 5; -3 5 0 1];
Cerchi riga di Gershgorin e autovalori di una matrice Cerchi colonna di Gershgorin e autovalori di una matrice
15
15
10
10
5 5
0 0
−5 −5
−10
−10
−15
−15
−5 0 5 10 15 20 25 30 35 −5 0 5 10 15 20 25 30 35

Teorema
Tutti gli autovalori di A appartengono alla regione del piano complesso
individuata dall’intersezione delle regioni R e C.

Teorema
Tutti gli autovalori di A appartengono alla regione del piano complesso
individuata dall’intersezione delle regioni R e C.
Esempio
La regione in rosso punteggiata in nero rappresenta l’intersezione
dell’unione dei cerchi riga con l’unione dei cerchi colonna associata alla
matrice del precedente esempio. I circoletti verdi rappresentano gli effettivi
autovalori.
Intersezione cerchi riga e colonna di Gershgorin e autovalori di una matrice
15
10
−5
−10
−15
−5 0 5 10 15 20 25 30 35
Teorema
k n
(r ) (r )
[ [
Denotate con R1 = Ci e con R2 = Ci , se risulta
i=1 i=k+1
R1 ∩ R2 = ∅, allora esattamente k autovalori appartengono a R1 e i
restanti n − k appartengono a R2 .

Teorema
k n
(r ) (r )
[ [
Denotate con R1 = Ci e con R2 = Ci , se risulta
i=1 i=k+1
R1 ∩ R2 = ∅, allora esattamente k autovalori appartengono a R1 e i
restanti n − k appartengono a R2 .
k n
(c) (c)
[ [
Denotate con C1 = Cj e con C2 = Cj , se risulta
j=1 j=k+1
C1 ∩ C2 = ∅, allora esattamente k autovalori appartengono a C1 e i
restanti n − k appartengono a C2 .
Esempio
(c)
Per la matrice del precedente esempio, se poniamo C1 = C1 e
4
(c)
[
C2 = Cj , abbiamo C1 ∩ C2 = ∅, e quindi un autovalore appartiene a
j=2
C1 e i restanti tre appartengono a C2 .
Definizione
Due matrici A e B di ordine n si dicono simili se esiste una matrice S, di
ordine n e non singolare, tale che
S−1 AS = B

Teorema
Due matrici simili A e B hanno gli stessi autovalori.
Dimostrazione
Siano λ un autovalore di A, x un autovettore a esso corrispondente e
B = S−1 AS. Allora si ha
Ax = λx ⇒ S−1 Ax = λS−1 x ⇒ S−1 ASS−1 x = λS−1 x
⇒ Bz = λz con z = S−1 x
Quindi λ è anche autovalore di B con autovettore z.

Definizione
Una matrice A con autovalori λi , i = 1, . . . , n, si dice diagonalizzabile se
è simile alla matrice diagonale D = diag(λ1 , λ2 , ..., λn ), ovvero se esiste
una matrice di ordine n e non singolare S tale che
S−1 AS = D = diag(λ1 , λ2 , ..., λn )

Definizione
Una matrice A con autovalori λi , i = 1, . . . , n, si dice diagonalizzabile se
è simile alla matrice diagonale D = diag(λ1 , λ2 , ..., λn ), ovvero se esiste
una matrice di ordine n e non singolare S tale che
S−1 AS = D = diag(λ1 , λ2 , ..., λn )
Osservazione
Se A è diagonalizzabile e S−1 AS = D, allora si ha
AS = SD
e, pertanto, le colonne della matrice S sono autovettori di A.

Una matrice diagonalizzabile può essere caratterizzata mediante i suoi
autovettori.
Teorema
Una matrice A di ordine n è diagonalizzabile se, e solo se, A possiede n
autovettori linearmente indipendenti.
Ricordando che gli autovettori associati ad autovalori distinti sono

linearmente indipendenti, si ha la seguente condizione sufficiente.
Teorema
Una matrice è diagonalizzabile se i suoi autovalori sono distinti.

Esempio
Una matrice reale e simmetrica A di ordine n ammette n autovettori
ortogonali tra loro (quindi linearmente indipendenti) e, pertanto, è
diagonalizzabile. In particolare, per essa esiste una matrice ortogonale V
(per la quale V−1 = VT ) tale che
VT AV = D = diag(λ1 , λ2 , ..., λn )

Condizionamento del calcolo degli autovalori
Si studia ora il condizionamento del problema del calcolo degli autovalori

di una matrice A ovvero si analizza come eventuali perturbazioni
(corrispondenti, ad esempio, agli errori di arrotondamento o agli errori
sperimentali) presenti negli elementi della matrice si propaghino sugli
autovalori.
Segue un esempio di matrice mal condizionata rispetto al calcolo dei suoi

autovalori.

Esempio
Sia
101 −90
A=
110 −98
Gli autovalori di A sono λ1 = 2 e λ2 = 1.

Esempio
Sia
101 −90
A=
110 −98
Denotiamo con
101 − ε −90 − ε
Ã =
110 −98
una perturbazione della matrice A.

Esempio
Sia
101 −90
A=
110 −98
Denotiamo con
101 − ε −90 − ε
Ã =
110 −98
Per ε = 0.001, gli autovalori di Ã sono λ̃1 ≈ 1.701 e λ̃2 ≈ 1.298.

Esempio
Sia
101 −90
A=
110 −98
Denotiamo con
101 − ε −90 − ε
Ã =
110 −98
Per ε = 0.001, gli autovalori di Ã sono λ̃1 ≈ 1.701 e λ̃2 ≈ 1.298.
Si osservi che ||A − Ã||2 ≈ 0.001, mentre |λ1 − λ̃1 |,|λ2 − λ̃2 | ≈ 0.3.
Pertanto, a una perturbazione assoluta pari allo 0.1% sugli elementi della
matrice è corrisposta una variazione del 30% sugli autovalori.

Una misura del condizionamento del calcolo degli autovalori, nel caso di
matrici diagonalizzabili, è fornita dal seguente teorema.
Teorema (Bauer-Fike)
Sia A una matrice diagonalizzabile e sia S invertibile tale che
S−1 AS = D con D = diag(λ1 , λ2 , ..., λn ). Sia A
e una perturbazione della
matrice A e sia λ
e un autovalore di A.
e Allora
min |λ
e − λi | ≤ K (S)||A − A||
e
1≤i≤n
dove K (S) = ||S|| ||S−1 || e || · || indica una qualsiasi delle norme di matrice
|| · ||p , con p = 1, 2, ∞.

Il numero K (S) può essere assunto come numero di condizionamento del
problema degli autovalori di una matrice diagonalizzabile A:
se K (S) ≈ 1 il problema è ben condizionato, altrimenti il problema può
essere mal condizionato.
Esempio
Per l’esempio precedente, tenendo conto che gli autovalori di A sono
distinti e quindi A è diagonalizzabile, si ha
>> A = [101 -90; 110 -98];
>> [S,D] = eig(A);
>> condizionamento = cond(S)
condizionamento =
4.0000e+02

Osservazioni
Se A è simmetrica, allora A è diagonalizzabile con S ortogonale e
q q
K2 (S) = ||S||2 ||ST ||2 = ρ(ST S) ρ(SST ) = 1
Pertanto, per le matrici simmetriche il calcolo degli autovalori è un

problema ben condizionato.

... continua osservazioni
Il condizionamento del problema del calcolo degli autovalori per una
matrice diagonalizzabile A non dipende dal numero di
condizionamento K (A) della matrice A, ma dal numero di
condizionamento K (S) della matrice S degli autovettori.

Il condizionamento del problema del calcolo degli autovalori per una
matrice diagonalizzabile A non dipende dal numero di
condizionamento K (A) della matrice A, ma dal numero di
condizionamento K (S) della matrice S degli autovettori.
Il calcolo degli autovalori di una matrice mal condizionata non è
necessariamente un problema mal condizionato; per esempio, la
matrice di Hilbert Hn ha un numero di condizionamento K (Hn )
grande per n grande ma, essendo simmetrica, è ben condizionata per
quanto riguarda il calcolo degli autovalori.

Il seguente comando Matlab consente di calcolare il numero di
condizionamento di ciascun autovalore.

Comando Matlab
c = condeig(A) restituisce il vettore c contenente i numeri di
condizionamento di ciascun autovalore della matrice A. Se c(i),
i = 1, . . . , n, è circa 1, allora il calcolo di λi è ben condizionato, altrimenti
può essere mal condizionato.

Comando Matlab
c = condeig(A) restituisce il vettore c contenente i numeri di
condizionamento di ciascun autovalore della matrice A. Se c(i),
i = 1, . . . , n, è circa 1, allora il calcolo di λi è ben condizionato, altrimenti
può essere mal condizionato.

Esempio 1
Calcoliamo gli autovalori della matrice
A=[1 2 -2; 1 1 1; 2 2 1]
e i corrispondenti numeri di condizionamento.
>> format short e
>> A = [1 2 -2; 1 1 1; 2 2 1];
>> d = eig(A)
d =
1.0000e+00 + 1.3398e-05i
1.0000e+00 - 1.3398e-05i
9.9998e-01
>> c = condeig(A)
c =
1.1818e+10
1.1818e+10
1.1818e+10
Gli autovalori calcolati e memorizzati in d non sono affidabili, perché il
numero di condizionamento degli autovalori è dell’ordine di 1010 .
Infatti, l’equazione caratteristica associata ad A è (1 − λ)3 = 0 e,
pertanto, λ1 = λ2 = λ3 = 1.

Esempio 2
Calcoliamo gli autovalori della matrice
A=[1 2 -2; 2 1 1; -2 2 1]
e i corrispondenti numeri di condizionamento.
>> A = [1 2 -2; 2 1 1; -2 2 1];
>> d = eig(A)
d =
-2.6458e+00
3.0000e+00
2.6458e+00
>> c = condeig(A)
c =
1.0119e+00
2.0000e+00
2.0119e+00
Gli autovalori calcolati e memorizzati in d sono affidabili, perché il
condizionamento di ciascun autovalore è all’incirca 1.
Infatti, l’equazione caratteristica associata√alla matrice A è √
(3 − λ)(λ2 − 7) = 0 e, pertanto, λ1 = − 7, λ2 = 3 e λ3 = 7.

Metodi numerici
Per il calcolo degli autovalori e autovettori di una matrice A, la procedura

matematica − calcolo delle radici λ dell’equazione caratteristica e
risoluzione del sistema omogeneo Ax = λx − non è, in generale, una
procedura numerica conveniente sia per il costo che per la stabilità.
Per il calcolo degli autovalori di una matrice esistono metodi numerici
alternativi.
I metodi numerici si classificano in due gruppi:
metodi per l’approssimazione di un solo autovalore, che in alcuni casi
richiedono la localizzazione dell’autovalore cercato;
metodi per l’approssimazione simultanea di tutti gli autovalori, che si
basano sulle similitudini di matrici.

Metodi per l’approssimazione di un autovalore
I metodi per l’approssimazione di un autovalore generano, attraverso

procedimenti iterativi, una successione di autovalori convergente
all’autovalore cercato.
Metodo delle potenze
Il metodo delle potenze consente di calcolare l’autovalore di modulo
massimo di una matrice A e, conseguentemente, il raggio spettrale ρ(A).
Per introdurre l’idea del metodo, per semplicità, si supponga che A sia
reale, diagonalizzabile e che, indicati con λk , k = 1, ..., n, i suoi
autovalori, esista un solo autovalore di modulo massimo, ossia
|λ1 | > |λ2 | ≥ |λ3 | ≥ ... ≥ |λn |
Si osservi che, poiché A è reale, la prima diseguaglianza stretta comporta

che λ1 sia certamente reale.

Si denotino con x1 , x2 , . . . , xn , n autovettori corrispondenti agli autovalori
λ1 , λ2 , . . . , λn , rispettivamente. Essendo A diagonalizzabile, i vettori xk
sono linearmente indipendenti e, pertanto, ogni vettore z ∈ Rn si
rappresenta come
z = α1 x1 + α2 x2 + ... + αn xn
per opportuni coefficienti αk .
Moltiplicando ambo i membri a sinistra per la matrice A, si ha
Az = α1 Ax1 + α2 Ax2 + ... + αn Axn = α1 λ1 x1 + α2 λ2 x2 + ... + αn λn xn
Moltiplicando nuovamente per A,
A2 z = A(Az) = α1 λ21 x1 + α2 λ22 x2 + ... + αn λ2n xn

Iterando la procedura, dopo m moltiplicazioni1 per A, si ottiene
z(m) := Am z = α1 λm m m
1 x1 + α2 λ2 x2 + ... + αn λn xn
Tale vettore si può riscrivere come

m m
(m) m λ2 λn
z = λ1 α1 x1 + α2 x2 + ... + αn xn =: λm
1y
(m)
λ1 λ1
Poiché per ipotesi |λ1 | > |λk | per k > 1, si ha

m m
αk λk = |αk | λk → 0 per m → ∞

λ1 λ1
e ciò comporta che

y(m) → α1 x1 per m → ∞
Pertanto, supponendo α1 6= 0, il vettore y(m) tende ad allinearsi al primo
autovettore x1 della matrice A.
1
Il nome del metodo deriva dalla presenza delle potenze di A.
Corrispondentemente anche il vettore z(m) = λm 1y
(m) tende ad allinearsi a
x1 , ma la sua lunghezza tende a 0 oppure a ∞ a seconda che |λ1 | < 1

oppure |λ1 | > 1. È quindi opportuno, per evitare fenomeni di underflow o
overflow, normalizzare tale vettore, riportandolo a ogni iterazione ad avere
lunghezza unitaria.
Partendo da un vettore iniziale z(0) := z, si costruisce quindi per
m = 0, 1, 2, ... la successione di vettori
z(m)
w(m) =
||z(m) ||2
z(m+1) = Aw(m)

Per quanto riguarda l’approssimazione dell’autovalore λ1 , si osservi che se
w(m) approssima un autovettore x1 relativo all’autovalore λ1 , allora
Aw(m) ≈ λ1 w(m)
e
(w(m) )T Aw(m) ≈ λ1 (w(m) )T w(m)
Appare quindi naturale approssimare l’autovalore λ1 al passo m mediante

il quoziente di Rayleigh
(m) (w(m) )T Aw(m)

λ1 = = (w(m) )T Aw(m) = (w(m) )T z(m+1)
(w(m) )T w(m)
T
ove si è tenuto conto che w(m) w(m) = ||w(m) ||22 = 1 e Aw(m) = z(m+1) .

Di seguito l’algoritmo che implementa il metodo delle potenze.
Function Matlab
function [lambda max,w,m] = potenze(A,z,tol,m max)
w = z/norm(z);
lambda = 0;
for m = 1:m max
z = A*w;
lambda max = w’*z ;
w = z/norm(z);
if abs(lambda max-lambda) <= tol*abs(lambda max)
break
end
lambda = lambda max;
end

Osservazioni
L’ipotesi che il vettore iniziale z(0) abbia componente non nulla
rispetto all’autovettore x1 (cioè l’ipotesi α1 6= 0) non è restrittiva
nella pratica perché, grazie questa volta agli errori di arrotondamento,
dopo poche iterazioni compare una componente nella direzione di x1 ,
anche se questa non era presente nel vettore iniziale z(0) .

Osservazioni
L’ipotesi che il vettore iniziale z(0) abbia componente non nulla
rispetto all’autovettore x1 (cioè l’ipotesi α1 6= 0) non è restrittiva
nella pratica perché, grazie questa volta agli errori di arrotondamento,
dopo poche iterazioni compare una componente nella direzione di x1 ,
anche se questa non era presente nel vettore iniziale z(0) .
Se λ1 = λ2 = ... = λk e |λ1 | > |λk+1 | ≥ ... ≥ |λn | il metodo delle
potenze converge (lentamente) ancora a λ1 e a un autovettore ad
esso associato.

Se λ1 = −λ2 , cioè se esistono due autovalori distinti di ugual modulo
massimo, allora in generale il metodo delle potenze non converge.

Se λ1 = −λ2 , cioè se esistono due autovalori distinti di ugual modulo
massimo, allora in generale il metodo delle potenze non converge.
Se λ1 e λ2 sono complessi e coniugati, cioè se esistono due autovalori
complessi distinti di ugual modulo massimo, allora il metodo delle
potenze non converge perché, cosı̀ come è stato formulato, non può
convergere ad autovettori e autovalori complessi.

(m)
Per una generica matrice A, la velocità
m di convergenza di λ1 a λ1
λ2
per m → ∞ è pari a quella con cui λ1 → 0 per m → ∞.
Si può dimostrare che per una matrice simmetrica A la convergenza è
più rapida perchè dipende dal quadrato del suddetto rapporto, ossia la
(m)
velocità di convergenza di λ1 a λ1 per m → ∞ è pari a quella con
2m
cui λλ21 → 0 per m → ∞.

(m)
Se |λ2 | ≈ |λ1 | la convergenza della successione λ1 a λ1 può risultare
eccessivamente lenta. In questa situazione il metodo viene utilizzato
solo per una stima iniziale, da migliorare successivamente con un
metodo più veloce (per esempio, il metodo delle potenze inverse).

Metodo delle potenze inverse
Una variante del metodo delle potenze, detta metodo delle potenze
inverse, consente di approssimare un qualunque autovalore λ di A purché
se ne conosca un’approssimazione p.
Infatti, osservando che da Ax = λx segue
(A − pI)x = Ax − px = (λ − p)x
si ha che λ − p è autovalore della matrice A − pI con autovettore x.

Metodo delle potenze inverse
Una variante del metodo delle potenze, detta metodo delle potenze
inverse, consente di approssimare un qualunque autovalore λ di A purché
se ne conosca un’approssimazione p.
Infatti, osservando che da Ax = λx segue
(A − pI)x = Ax − px = (λ − p)x
si ha che λ − p è autovalore della matrice A − pI con autovettore x.

Conseguentemente,
1
(A − pI)−1 x = x
λ−p
e, dunque, (λ − p)−1 è autovalore della matrice (A − pI)−1 .

Se allora p è sufficientemente vicino a un autovalore λ di A, il numero
µ = λ−p1
è l’autovalore di modulo massimo di (A − pI)−1 .

Se allora p è sufficientemente vicino a un autovalore λ di A, il numero
µ = λ−p1
è l’autovalore di modulo massimo di (A − pI)−1 .
Pertanto, applicando il metodo delle potenze alla matrice (A − pI)−1 , si
determina µ e, quindi,
1
λ=p+
µ

Osservazione
Nell’algoritmo che implementa il metodo delle potenze occorrerebbe allora
sostituire A con (A − pI)−1 ma, tenendo conto che
z(m+1) = (A − pI)−1 w(m) ⇐⇒ (A − pI)z(m+1) = w(m) ,
non è necessario né conveniente invertire la matrice A − pI, ma è

sufficiente calcolare la sua fattorizzazione PA=LU una volta per tutte e, a
ogni passo, calcolare la soluzione del sistema (A − pI)z(m+1) = w(m)
mediante la risoluzione di due sistemi triangolari.

Di seguito l’algoritmo che implementa il metodo delle potenze inverse.
Function Matlab
function [lambda p,w,m] = potenze inverse(A,p,z,tol,m max)
n = size(A);
w = z/norm(z);
lambda = 0;
[L,U,P] = lu(A-p*eye(n));
for m = 1:m max
y = L\(P*w);
z = U\y;
lambda p = p+1/(w’*z);
w = z/norm(z);
if abs(lambda p-lambda) <= tol*abs(lambda p)
break
end
lambda = lambda p;
end

Osservazioni
Se si assume p = 0 il metodo delle potenze inverse permette di
approssimare l’autovalore di minimo modulo di A, nell’ipotesi che
esista un solo autovalore (reale) di modulo minimo.

Osservazioni
Un’approssimazione di p può essere ottenuta mediante i cerchi di
Gershgorin.

Osservazioni
Un’approssimazione di p può essere ottenuta mediante i cerchi di
Gershgorin.
Il valore di p potrebbe essere modificato nel corso delle iterazioni,
ponendo p = λ(m+1) . Ciò comporta una diminuzione del numero di
iterazioni necessarie per soddisfare il test d’arresto, ma anche un
considerevole aumento del costo computazionale in quanto la matrice
(A − pI)−1 cambia a ogni passo e non sarà più possibile fattorizzarla
una volta per tutte prima del processo iterativo.

Assegnata una matrice A, i seguenti comandi Matlab ci consentono di
calcolare solo alcuni suoi autovalori, per esempio quelli più grandi in
modulo oppure quelli più vicini a un dato valore p.

Comandi Matlab
[X,D] = eigs(A,k) restituisce in D e in X rispettivamente, i k
autovalori di A di modulo più grande e i corrispondenti autovettori.

Comandi Matlab
[X,D] = eigs(A,k) restituisce in D e in X rispettivamente, i k
autovalori di A di modulo più grande e i corrispondenti autovettori.
[X,D] = eigs(A,k,p) restituisce in D e in X rispettivamente, i k
autovalori di A più vicini a p e i corrispondenti autovettori.

Metodi per l’approssimazione di tutti gli autovalori
Metodo QR
Il metodo più efficiente e più usato per il calcolo di tutti gli autovalori, ed
eventualmente autovettori, di una matrice A è il metodo QR, il cui nome
deriva dal fatto che esso di basa sulla fattorizzazione A = QR.
Il metodo verrà descritto solo nella forma più elementare, che non sempre
però garantisce la convergenza agli autovalori di A.

Nel metodo QR viene generata una successione di matrici nel modo
seguente: posto
A1 := A
per k = 1, 2 . . . si calcola una fattorizzazione QR della matrice Ak ,
A k = Q k Rk
ove Qk è ortogonale e Rk è triangolare superiore, e si definisce la matrice

Ak+1 mediante la relazione
Ak+1 := Rk Qk

Dalle precedenti relazioni risulta che A2 è simile ad A1 = A
A 2 = R1 Q 1 = Q T
1 Q
T
1 R1 Q1 = Q1 A1 Q1
| {z }
A1
e quindi A2 ha gli stessi autovalori di A.

A 2 = R1 Q 1 = Q T
1 Q
T
1 R1 Q1 = Q1 A1 Q1
| {z }
A1

Tenendo conto che la relazione di similitudine è transitiva e che Ak+1 è
simile ad Ak , le matrici Ak della successione sono tutte simili tra loro e,
quindi, alla matrice assegnata A.

A 2 = R1 Q 1 = Q T
1 Q
T
1 R1 Q1 = Q1 A1 Q1
| {z }
A1

Tenendo conto che la relazione di similitudine è transitiva e che Ak+1 è
simile ad Ak , le matrici Ak della successione sono tutte simili tra loro e,
quindi, alla matrice assegnata A.
Inoltre, se A è simmetrica, tutte le Ak lo sono; se A è di Hessenberg
superiore tutte le Ak lo sono.

Sotto opportune ipotesi, la successione di matrici Ak converge per k → ∞
verso una matrice limite A∞ con le seguenti proprietà:
se la matrice A è simmetrica, allora A∞ è diagonale; gli elementi sulla
diagonale sono gli autovalori di A;

se la matrice A non è simmetrica, ma ha autovalori tutti reali, allora
A∞ è triangolare superiore; gli elementi sulla diagonale sono gli
autovalori di A;

se la matrice A non è simmetrica, ma ha autovalori tutti reali, allora
A∞ è triangolare superiore; gli elementi sulla diagonale sono gli
autovalori di A;
se la matrice A non è simmetrica e ha alcuni autovalori complessi
(coniugati), allora A∞ è quasi triangolare superiore, ossia presenta
lungo la diagonale sottomatrici 1 × 1 contenenti gli autovalori reali di
A, e sottomatrici 2 × 2, i cui autovalori sono una coppia di autovalori
complessi coniugati di A.

Osservazioni
La convergenza del metodo nella sua versione base è garantita se la
matrice A ha autovalori tutti distinti.
Il metodo QR è alla base della function MATLAB eig.

Osservazioni
La convergenza del metodo nella sua versione base è garantita se la
matrice A ha autovalori tutti distinti.
Il metodo QR è alla base della function MATLAB eig.
Di seguito l’algoritmo che implementa la versione base del metodo QR.
Function Matlab
function [d,m] = qr base(A,tol,m max)
% la convergenza e’ garantita solo se A ha autovalori distinti in modulo
for m = 1:m max
[Q,R] = qr(A);
A = R*Q;
if norm(tril(A,-1),inf) <= tol
break
end
end
d = diag(A);

Applicazione 1. Viabilità interurbana
Consideriamo n città e sia A la matrice di ordine n con elementi

1, se la città i ha un collegamento diretto con la città j;
aij =
0, altrimenti.
Si può dimostrare che le componenti dell’autovettore x (di norma unitaria)

associato all’autovalore di modulo massimo forniscono una misura della
facilità di accesso alle varie città.
La città più facilmente raggiungibile è quella associata alla componente di
x più grande in modulo, mentre la peggiore è quella associata alla
componente più piccola in modulo.

... continua esempio
In figura si riporta una rappresentazione schematica delle connessioni
ferroviarie in Piemonte tra i capoluoghi di provincia: 1 Torino, 2 Cuneo, 3
Asti, 4 Vercelli, 5 Biella, 6 Verbania, 7 Novara, 8 Alessandria.
5
7
1 4
3
8

La matrice A di ordine 8 associata alla rete ferroviaria in figura è
 
1 1 1 1 1 0 0 0
 1 1 1 0 0 0 0 0 
 
 1 1 1 0 0 0 0 1 
 
 1 0 0 1 0 0 1 0 
 
 1 0 0 0 1 1 0 0 
 
 0 0 0 0 1 1 1 0 
 
 0 0 0 1 0 1 1 0 
0 0 1 0 0 0 0 1
e l’autovettore x di lunghezza unitaria associato all’autovalore di modulo

massimo di A è
x = (0.5772, 0.4059, 0.4564, 0.3038, 0.3038, 0.1964, 0.1964, 0.1792)T
Pertanto, la città più facilmente raggiungibile è quella associata alla
componente 1, cioè Torino, mentre la città meno facilmente raggiungibile
è Alessandria, associata alla componente 8.

Applicazione 2. (Siti web)
Procedendo in maniera analoga all’applicazione 2, è possibile misurare
l’importanza di un determinato sito web tenendo conto dei siti che
puntano ad esso. Denotando con n il numero dei principali siti riguardanti
un determinato argomento, e con A la matrice di ordine n con elementi

1, se il sito web j ha un link al sito web i
aij =
0, altrimenti,
le componenti dell’autovettore x (di norma unitaria) associato

all’autovalore di modulo massimo forniscono una misura dell’importanza
dei vari siti: il sito più importante è quello che corrisponde alla
componente maggiore di tale autovettore.
In questo modo, quando si esegue una ricerca in rete, si riceve una lista di
siti in ordine di importanza decrescente, con ai primi posti i siti più visitati
e interessanti. Questa è, ad esempio, l’idea utilizzata dal motore di ricerca
Google.

Valori singolari e decomposizione SVD
Le nozioni di autovalore, determinante e inversa perdono di significato per

una matrice rettangolare; esse vengono sostituite rispettivamente con le
nozioni più generali di valore singolare, rango e pseudo-inversa di una
matrice.
Il termine valore singolare è collegato al fatto che mediante tali quantità è
possibile misurare la distanza di una matrice dall’insieme delle matrici
singolari.

Teorema
Ogni matrice A ∈ Rm,n è fattorizzabile nella forma
UT AV = S = diag(s1 , ..., sp ) ∈ Rm,n , p = min{m, n}
con U ∈ Rm,m e V ∈ Rn,n matrici ortogonali, e
s1 ≥ s2 ≥ ... ≥ sp ≥ 0
La matrice S è univocamente determinata, mentre U e V non lo sono.

Definizioni
La fattorizzazione UT AV = S è detta decomposizione ai valori singolari
di A (o Singular Value Decomposition, SVD).
I valori si sono detti valori singolari di A.
I vettori colonna vi per i = 1, . . . , n della matrice V e ui per i = 1, . . . , m
della matrice U sono definiti vettori singolari destri e vettori singolari
sinistri della matrice A, rispettivamente.

Definizioni
La fattorizzazione UT AV = S è detta decomposizione ai valori singolari
di A (o Singular Value Decomposition, SVD).
I valori si sono detti valori singolari di A.
I vettori colonna vi per i = 1, . . . , n della matrice V e ui per i = 1, . . . , m
della matrice U sono definiti vettori singolari destri e vettori singolari
sinistri della matrice A, rispettivamente.
Tenendo conto che U e V sono ortogonali, la decomposizione ai valori

singolari si può scrivere anche nella seguente forma:
A = USVT

La matrice S ∈ Rm,n ha una delle seguenti forme
 
s1 0 ... ... 0 0 0
 0 s2 ... ... 0 0 0 
S=  se p = m (m < n),
 
.. .. .. .. ..
 . . . . . 0 0 
0 0 ... . . . sm 0 0
oppure
 
s1 0 ... ... 0
 0 s2 ... ... 0 
.. .. . 
 
.. ..
. .. 

 . . .
S= .. ..
 se p = n (m > n),
 .. .. 

 . . . . sn 

 0 0 ... ... 0 
0 0 ... ... 0
oppure
S = diag(s1 , . . . , sn ) ∈ Rn,n se p = m = n.

Sia S ∈ Rm,n con m > n. Allora si ha
 
s1 0 ... ... 0  
v1T
 0 s2 ... ... 0 

.. .. .. .. .  v2T 
. .. 
 
. . . ..
USVT =
  
u1 u2 . . . . . . . . . um 
.. .. .. ..
 . 
..
  
 . . . . sn   
  . 
0 0 ... ... 0 
vnT

0 0 ... ... 0
s1 v1T
 
 s2 v2T 
..
 
 .

= u1 u2 . . . . . . . . . um
 
 sn vnT
 

 
 0 
0
n
X
= u1 s1 v1T + . . . + un sn vnT = si ui viT
i=1
T Pp T
In generale vale USV = i=1 si ui vi
I seguenti comandi Matlab consentono di calcolare i valori singolari e i
fattori U, S e V della decomposizione ai valori singolari della matrice A.
Comandi Matlab
d = svd(A) restituisce il vettore d contenente, in ordine decrescente,
i valori singolari di A.
[U,S,V] = svd(A) restituisce la matrice diagonale S, delle stesse
dimensioni di A e con elementi diagonali (non negativi e in ordine
decrescente) coincidenti con i valori singolari, e due matrici ortogonali
U e V tali che A = USVT .

Il calcolo dei valori singolari di una matrice A è un problema sempre ben
condizionato. Si può infatti dimostrare il seguente teorema.
Teorema
Sia A ∈ Rm,n e Ā una sua perturbazione. Siano si e s̄i i valori singolari di
A e di Ā, rispettivamente. Si ha1
|si − s̄i | ≤ ||Ā − A||2 , i = 1, .., p
1
Il concetto di norma può essere estesopanche a matrici rettangolari A ∈ Rm,n . In
particolare, per la norma 2 si ha ||A||2 = ρ(AT A).
Proprietà della decomposizione SVD
Teorema
Sia A ∈ Rm,n e sia
A = USVT
la sua decomposizione ai valori singolari. Se risulta
s1 ≥ s2 ≥ . . . ≥ sr > sr +1 = . . . = sp = 0
allora
1) Il rango di A è r .
2) A = Ur Sr VrT = ri=1 si ui viT ove
P
Ur ∈ Rm,r è la matrice le cui colonne sono u1 , ..., ur ,

Vr ∈ Rn,r è la matrice le cui colonne sono v1 , ..., vr ,
Sr ∈ Rr ,r è la matrice diagonale i cui elementi diagonali sono s1 , ..., sr .

... continua teorema
3) Le colonne u1 , ..., ur di U formano una base ortonormale dello spazio
vettoriale immagine di A, cioè di Im(A) = {Ax : x ∈ Rn }.
4) Le colonne vr +1 , ..., vn di V formano una base ortonormale dello
spazio vettoriale nucleo di A, cioè di Ker(A) = {x ∈ Rn : Ax = 0}.
5) Le colonne ur +1 , ..., um formano una base ortonormale dello spazio
vettoriale Ker(AT ).
6) Le colonne v1 , ..., vr formano una base ortonormale dello spazio
vettoriale Im(AT ).

... continua teorema
7) λi = si2 , i = 1, ..., r , sono gli autovalori della matrice AT A ∈ Rn,n (i
restanti n − r autovalori sono nulli) e i corrispondenti autovettori
formano la matrice ortogonale V.
8) µi = si2 , i = 1, ..., r , sono gli autovalori della matrice AAT ∈ Rm,m (i
restanti m − r autovalori sono nulli) e i corrispondenti autovettori
formano la matrice ortogonale U.
9) ||A||2 = s1 .
10) Se m = n e A è simmetrica, allora si = |λi |, i = 1, . . . , n e i vettori
singolari destri e sinistri coincidono con gli autovettori di A.

Osservazione
In virtù della proprietà 7), in teoria si potrebbe pensare di determinare i
valori singolari di A, calcolando gli autovalori della matrice simmetrica
AT A. Questa procedura, come mostra l’esempio che segue, può però
portare a una perdita di accuratezza.
Esempio
Consideriamo la matrice
 
1 1
√
A =  ε 0  , |ε| < eps
0 ε

Calcoliamo
1 + ε2

T 1
A A=
1 1 + ε2
È facile verificare che gli autovalori di√AT A sono λ1 = 2 + ε2 e λ2 = ε2 ; i

valori singolari di A sono allora s1 = 2 + ε2 e s2 = |ε|.
In aritmetica finita con precisione di macchina εm , denotate con A e AT A
le matrici di macchina associate ad A e ad AT A rispettivamente, si ha

1 1
A = A, AT A =
1 1
Gli autovalori di AT A sono

√ η1 = 2 e η2 = 0 e, di conseguenza, i valori
singolari di A sono σ1 √
= 2 e σ2 = 0. Pertanto, nella aritmetica fissata,
σ1 concorda con s̄1 = 2, mentre σ2 non concorda con s̄2 .

Teorema
Sia A ∈ Rm,n e sia
A = USVT
la sua decomposizione ai valori singolari, con
s1 ≥ s2 ≥ . . . ≥ sr > sr +1 = . . . = sp = 0
e sia k un intero positivo minore o uguale a r . Indicando con

k
X
Ak = si ui viT
i=1
e
Bk = {B : rango di B è k}
si ha
min ||A − B||2 = ||A − Ak ||2 = sk+1
B∈Bk

Il precedente teorema stabilisce due importanti risultati:
la matrice Ak rappresenta la migliore approssimazione in norma 2 di
rango k della matrice A;
sk+1 rappresenta la minima distanza in norma 2 della matrice A
dall’insieme delle matrici di rango k.

Applicazioni della decomposizione SVD
Descriviamo ora alcune importanti applicazioni della decomposizione ai

valori singolari.
Applicazione 1. Calcolo del rango di una matrice
La decomposizione ai valori singolari costituisce lo strumento più efficace
per la determinazione del rango di una matrice.
Il rango di una matrice coincide con il numero dei suoi valori singolari
diversi da zero, cioè se risulta
s1 ≥ s2 ≥ . . . ≥ sr > sr +1 = . . . = sp = 0,
allora il rango di A è r .

Tuttavia, in precisione finita di calcolo, i valori singolari devono essere
selezionati sulla base di una tolleranza tol; pertanto, si definisce rango
numerico, il numero dei valori singolari maggiori di una tolleranza fissata.
Comandi Matlab
r = rank(A) restituisce in r il rango della matrice A sulla base di
una tolleranza di default, che dipende dalla matrice fornita in input e
dalla precisione di macchina.
r = rank(A,tol) restituisce in r il rango numerico della matrice A,
calcolato come il numero dei valori singolari maggiori della tolleranza
tol.

Applicazione 2. Calcolo del condizionamento di una matrice
La decomposizione ai valori singolari costituisce uno strumento efficace per
la determinazione del condizionamento spettrale di una matrice.
Sia A una matrice di ordine n e di rango n, allora esistono due matrici
ortogonali U e V tali che A = USVT dove S è diagonale con elementi
(S)ii = si > 0, i = 1, . . . , n. Si ha
q q q
||A||2 = ρ(AT A) = ρ(VST UT USVT ) = ρ(VS2 VT )
q
= ρ(S2 ) = s1
Analogamente si dimostra che ||A−1 ||2 = 1/sn . Pertanto,

s1
K2 (A) = ||A||2 ||A−1 ||2 =
sn

Applicazione 3. Risoluzione del sistema lineare Ax = b
Dato il sistema lineare Ax = b, con A di dimensione n e non singolare, e
nota la decomposizione A = USVT , è possibile ottenere la soluzione x
mediante la risoluzione di un sistema diagonale e di due prodotti
matrice-vettore:
(
Sy = UT b ⇒ y
USVT x = b =⇒ S |{z}VT x = UT b =⇒
y
VT x = y ⇒ x = Vy

Applicazione 3. Risoluzione del sistema lineare Ax = b
Dato il sistema lineare Ax = b, con A di dimensione n e non singolare, e
nota la decomposizione A = USVT , è possibile ottenere la soluzione x
mediante la risoluzione di un sistema diagonale e di due prodotti
matrice-vettore:
(
Sy = UT b ⇒ y
USVT x = b =⇒ S |{z}VT x = UT b =⇒
y
VT x = y ⇒ x = Vy
Il costo di tale algoritmo, quando occorre calcolare la decomposizione ai

valori singolari, è all’incirca pari a 32/3n3 operazioni aritmetiche per n
grande. Pertanto, avendo un costo di gran lunga superiore a quello
richiesto dalla fattorizzazione PA = LU, la decomposizione SVD non viene
generalmente utilizzata per risolvere sistemi lineari. Tuttavia, essa risulta
preferibile a PA = LU quando il sistema è mal condizionato e prossimo ad
essere singolare.

Applicazione 4. Risoluzione di un sistema lineare
sovradeterminato
Si consideri il sistema lineare Ax = b con A di dimensione m × n, con
m ≥ n. Si supponga che il rango di A sia uguale a r ≤ n.
Si determina come soluzione del suddetto sistema, il vettore x? di minima
norma e soluzione del seguente problema dei minimi quadrati
||Ax? − b||2 = minn ||Ax − b||2

x∈R
Per calcolare x? verrà utilizzata la decomposizione ai valori singolari

A = USVT della matrice A.
Ricordando che, se U è ortogonale ||Uy||2 = ||y||2 , si ha:
||Ax − b||22 = ||UT (Ax − b)||22 = ||UT AVVT x − UT b||22 = ||Sy − c||22
con y := VT x e c := UT b.

Tenendo conto che r è il numero dei valori singolari non nulli di A,
partizioniamo S, y e c nelle seguenti forme:

S̃ O
S= , S̃ ∈ Rr ,r
O O

y1 c1
y= c= , y1 , c1 ∈ Rr , y2 ∈ Rn−r , c2 ∈ Rm−r
y2 c2
Allora risulta
S̃y1 − c1 2

||Ax − b||22 = ||Sy − c||22 =
= ||S̃y1 − c1 ||22 + ||c2 ||22
−c2
2
Poiché solo il primo addendo dipende da y = VT x si ha che ||Ax − b||22 è

minimo se e solo se ||S̃y1 − c1 ||22 è minimo.

Essendo S̃ non singolare e diagonale, S̃y1 = c1 ammette una e una sola
soluzione y?1 , per la quale si ha ||S̃y1? − c1 ||22 = 0.

Essendo S̃ non singolare e diagonale, S̃y1 = c1 ammette una e una sola
soluzione y?1 , per la quale si ha ||S̃y1? − c1 ||22 = 0. Denotando con (y1 )i le
componenti di y1 e con ui la i-esima colonna di U, e imponendo
r
X
||S̃y1 − c1 ||22 = (si (y1 )i − uT 2
i b) = 0,
i=1
si ricava
uT
i b
(y1? )i = , i = 1, . . . , r
si

Fra tutti i vettori y di lunghezza n con le prime r componenti coincidenti
con quelle di y1? , il vettore di minima norma euclidea y? è quello per cui le
restanti n − r componenti sono nulle.
In definitiva, 
T
 ui b , i = 1, . . . , r

?
yi = si

 0, i = r + 1, . . . , n

Fra tutti i vettori y di lunghezza n con le prime r componenti coincidenti
con quelle di y1? , il vettore di minima norma euclidea y? è quello per cui le
restanti n − r componenti sono nulle.
In definitiva, 
T
 ui b , i = 1, . . . , r

?
yi = si

 0, i = r + 1, . . . , n
Ricordando che x = Vy, il vettore soluzione nel senso dei minimi quadrati è
r
X
x? = Vy? = yi? vi
i=1
Si osservi che, poiché ||x? ||2 = ||y? ||2 , x? ha norma euclidea minima.

Sia
 1,

i ≡ j = 1, . . . , r
S+ ∈ Rn,m +
: (S )ij = si
0, i ≡ j = r + 1, . . . , n, i 6= j

allora
y? = S+ UT b
e
x? = VS+ UT b
Posto
A+ = VS+ UT
si ha quindi che la soluzione nel senso dei minimi quadrati e di minima
norma del sistema sovradeterminato Ax = b è
x? = A+ b

Definizione
La matrice A+ è detta pseudo-inversa di Moore-Penrose oppure
inversa generalizzata di A.

Definizione
Si osservi che se A ∈ Rn,n e rank(A) = n, A+ = A−1 .

Definizione
Comando Matlab
X = pinv(A) restituisce in X la pseudo-inversa della matrice A a partire
dalla sua SVD. I valori singolari al di sotto di una tolleranza di default
(dipendente da A) sono trattati come zeri.

Definizione
Comando Matlab
X = pinv(A) restituisce in X la pseudo-inversa della matrice A a partire
dalla sua SVD. I valori singolari al di sotto di una tolleranza di default
(dipendente da A) sono trattati come zeri.
X = pinv(A,tol) restituisce in X la pseudo-inversa di A ottenuta
ponendo uguali a zero i valori singolari al di sotto della tolleranza tol.

Osservazione
Nel caso di un sistema lineare mal condizionato, una procedura numerica
che consente di ottenere una soluzione più accurata di quella che si ottiene,
per esempio, con la fattorizzazione PA = LU, consiste nel trascurare
(annullare) i valori singolari più piccoli (al di sotto di una prefissata
tolleranza), nell’approssimare la matrice A con una matrice di rango
inferiore e, infine, nel risolvere il risultante problema dei minimi quadrati.

Esempio
Consideriamo, per esempio, il sistema lineare Ax = b con matrice A di
Hilbert di ordine n = 15 e con termine noto b definito in modo tale che la
soluzione coincida con il vettore x = (1, . . . , 1)T .
Il condizionamento in norma spettrale del suddetto sistema è all’incirca
1017 .
L’errore in norma 2 associato alla soluzione, ottenuta mediante il metodo
delle eliminazioni di Gauss con pivoting parziale, è superiore al 100%.

Esempio
Consideriamo, per esempio, il sistema lineare Ax = b con matrice A di
Hilbert di ordine n = 15 e con termine noto b definito in modo tale che la
soluzione coincida con il vettore x = (1, . . . , 1)T .
Il condizionamento in norma spettrale del suddetto sistema è all’incirca
1017 .
L’errore in norma 2 associato alla soluzione, ottenuta mediante il metodo
delle eliminazioni di Gauss con pivoting parziale, è superiore al 100%.
Invece, indicato con r il numero dei valori singolari più grandi per esempio
= 10−12 , se si procede approssimando A con la matrice
di tol P
Ar = ri=1 si ui viT di rango r e risolvendo il risultante sistema, l’errore in
norma 2 associato alla soluzione è dell’ordine di 10−6 .

Infatti con le seguenti istruzioni Matlab e il metodo delle eliminazioni di
Gauss
>> n = 15;
>> A = hilb(n);
>> b = sum(A,2);
>> x gauss = A\b;
>> u = ones(n,1);
>> err gauss = norm(u-x gauss)/norm(u)

Infatti con le seguenti istruzioni Matlab e il metodo delle eliminazioni di
Gauss
>> n = 15;
>> A = hilb(n);
>> b = sum(A,2);
>> x gauss = A\b;
>> u = ones(n,1);
>> err gauss = norm(u-x gauss)/norm(u)
si ha
Warning: Matrix is close to singular or badly scaled. Results may be inaccurate.
RCOND = 5.460912e-19.
err gauss =
6.1408e+00

Invece con il seguente algoritmo
>> tol = 1.0e-12;
>> [U,S,V] = svd(A);
>> s = diag(S);
% s contiene i valori singolari (ordinati dal piu’ grande al piu’ piccolo) di A
ind s = find(s<=tol);
% ind s contiene le componenti dei valori singolari piu’ piccoli di tol
r = ind s(1)-1;
% r e’ la componente dell’ultimo valore singolare piu’ grande di tol
y = zeros(n,1);
y(1:r) = (U(:,1:r)’*b)./s(1:r);
x svd = V*y
err svd = norm(u-x svd)/norm(u)

Invece con il seguente algoritmo
>> tol = 1.0e-12;
>> [U,S,V] = svd(A);
>> s = diag(S);
% s contiene i valori singolari (ordinati dal piu’ grande al piu’ piccolo) di A
ind s = find(s<=tol);
% ind s contiene le componenti dei valori singolari piu’ piccoli di tol
r = ind s(1)-1;
% r e’ la componente dell’ultimo valore singolare piu’ grande di tol
y = zeros(n,1);
y(1:r) = (U(:,1:r)’*b)./s(1:r);
x svd = V*y
err svd = norm(u-x svd)/norm(u)
si ottiene un errore più piccolo:

err svd =
1.0667e-06
Si osservi che la soluzione x svd si può calcolare anche scrivendo
x svd = pinv(A,tol)*b.

Risoluzione di un sistema lineare sottodeterminato
m < n. Si supponga che il rango di A sia uguale ad r e che A ammetta la
seguente decomposizione ai valori singolari A = USVT .
Si ha
Ax = b

Si ha
VT x = UT b
Ax = b =⇒ S |{z}
y

Si ha
Sy = UT b

T T
Ax = b =⇒ S |{z}
V x = U b =⇒
y

Si ha
Sy = UT b

T T
Ax = b =⇒ S |{z}
V x = U b =⇒
VT x = y
y

Riscrivendo S nella forma

S̃ O
S= , S̃ ∈ Rr ,r
O O
il sistema Sy = d, ove d := UT b, ammette come soluzione di norma

euclidea minima il vettore
di
yi? = , i = 1, ..., r , yi? = 0, i = r + 1, ..., n.
si
Inoltre, per l’ortogonalità di V, la norma euclidea di x è minima se e solo
se la norma euclidea di y = VT x è minima, pertanto la soluzione x? del
sistema assegnato è data da
x? = Vy? .

Applicazione 3. Compressione di immagini
La capacità della decomposizione SVD di fornire informazioni su come
ottenere approssimazioni di rango inferiore di una matrice assegnata, è
utile in molteplici applicazioni.
Segnaliamo, ad esempio, il suo utilizzo negli algoritmi di compressione dei
dati, in particolare, nella codifica di immagini.
Ogni foto può essere discretizzata decomponendo l’immagine in
quadrettini e assegnando un livello di grigio ad ogni quadrettino.
Imponendo, ad esempio, una griglia di dimensione 1000 × 1000 su una
foto e assegnando un livello di grigio da 0 a 10, si ha una matrice
(blackness matrix) di 1000000 interi.

Sia A la matrice che definisce i livelli di grigio. Mediante la decomposizione
in valori singolari si vede se l’approssimazione di rango inferiore
n
X
An = si ui viT
i=1
può rappresentare adeguatamente l’immagine. In caso affermativo, la

matrice An può essere codificata mediante 2n vettori ui e vi e i numeri si .
Se ad esempio è adeguato n = 5, per una matrice A di dimensione
1000 × 1000 sarà sufficiente memorizzare 2 · 5 · 1000 + 5 = 10005 valori
anziché 1000000, con un risparmio di quasi il 99%.

La matrice che genera la prima immagine nella slide che segue, occupa
uno spazio di memoria pari a
271 · 300 · 8 bytes = 650400 bytes
Le immagini successive sono state ottenute approssimando la suddetta
matrice con matrici di rango n = 10, 30, 50, rispettivamente.
In tal caso, l’occupazione di memoria è inferiore ed è data da
(271 · n + 300 · n + n) · 8 bytes
pari al 7%, 21% e 35% della memoria totale.

650400 bytes n=10, 45760 bytes (7%)
n=30, 137280 bytes (21%) n=50, 228800 bytes (35%)

Esempio
Questa è l’approssimazione An , di rango n = 5,
n=5

della matrice A che genera la seguente immagine:

T - CN Autovalori Singolari I PDF

Caricato da

Informazioni sul documento

Titolo originale

Copyright

Formati disponibili

Condividi questo documento

Condividi o incorpora il documento

Opzioni di condivisione

Hai trovato utile questo documento?

Questo contenuto è inappropriato?

Copyright:

Formati disponibili

T - CN Autovalori Singolari I PDF

Caricato da

Copyright:

Formati disponibili

AUTOVALORI E VALORI SINGOLARI DI MATRICI

Dipartimento di Scienze Matematiche, Politecnico di Torino

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 1 / 89

Il vettore x è detto autovettore di A corrispondente all’autovalore λ.

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 2 / 89

Il vettore x è detto autovettore di A corrispondente all’autovalore λ.

È immediato verificare che ogni autovettore è definito a meno di una

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 2 / 89

Il vettore x è detto autovettore di A corrispondente all’autovalore λ.

È immediato verificare che ogni autovettore è definito a meno di una

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 2 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 3 / 89

Ne consegue che una matrice quadrata di dimensione n ha esattamente n

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 3 / 89

Ne consegue che una matrice quadrata di dimensione n ha esattamente n

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 3 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 4 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 4 / 89

consente di scrivere l’identità

(Ax1 , Ax2 , . . . , Axn ) = (λ1 x1 , λ2 x2 , . . . , λn xn )

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 5 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 6 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 6 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 7 / 89

Si osservi che se x è un autovettore con autovalore λ si ha rA (x) = λ.

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 7 / 89

Si osservi che se x è un autovettore con autovalore λ si ha rA (x) = λ.

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 7 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 8 / 89

ρ(A) = max {|λi | : λi è autovalore di A}

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 9 / 89

ρ(A) = max {|λi | : λi è autovalore di A}

Il raggio spettrale di una matrice A si può calcolare mediante l’istruzione

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 9 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 10 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 10 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 10 / 89

Si definisce j-esimo cerchio colonna di Gershgorin associato alla j-esima

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 11 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 12 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 12 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 12 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 13 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 14 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 15 / 89

Ax = λx ⇒ S−1 Ax = λS−1 x ⇒ S−1 ASS−1 x = λS−1 x

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 16 / 89

S−1 AS = D = diag(λ1 , λ2 , ..., λn )

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 17 / 89

S−1 AS = D = diag(λ1 , λ2 , ..., λn )

e, pertanto, le colonne della matrice S sono autovettori di A.

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 17 / 89

Ricordando che gli autovettori associati ad autovalori distinti sono

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 18 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 19 / 89

Si studia ora il condizionamento del problema del calcolo degli autovalori

Segue un esempio di matrice mal condizionata rispetto al calcolo dei suoi

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 20 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 21 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 21 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 21 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 21 / 89

L. Scuderi (Politecnico di Torino) Autovalori e SVD A.A. 2017/2018 22 / 89