Descomposicin en valores singulares de una o matriz

Estas notas estn dedicadas a demostrar una extensin del teorema espectral conocida como desa o composicin en valores singulares (SVD en ingls) de gran utilidad en mltiples aplicaciones en eso e u tad stica (anlisis de componente principal), teor de control, compresin de imgenes, etc. a a o a El teorema espectral establece que cualquier matriz simtrica A Mnxn puede descomponerse como e A = P DP t donde D es diagonal y P ortogonal. Aqu mostraremos que una matriz cualquiera A Mmxn (no necesariamente cuadrada) puede descomponerse como A = U SV t donde S es diagonal, U y V ortogonales (no necesariamente una inversa de la otra). Denicin 1 Un operador autoadjunto T : V V se dice no negativo si o T (v), v 0, v V Si T es no negativo entonces resulta fcil probar que sus valores propios son todos no negativos, en a efecto si es valor propio de T con vector propio v = 0 entonces 0 T (v), v = v, v y como en el ultimo termino el segundo factor es positivo se deduce que 0. El siguiente lema util en la demostracin ha sido usado tambin en otras partes de curso. o e Lema 1 Sea T : V W una transformacin lineal entonces T T y T T son ambos autoadjuntos, no o negativo y tienen el mismo rango que T . Demostracin. Probaremos el resultado solo para T T , la prueba para T T es anloga y queda a o a cargo del lector. Veamos primero que T T es autoadjunto, (T T ) = T (T ) = T T. T T es no negativo, en efecto, T T (v), v = T (v), T (v) 0, v V. Finalmente observemos que rango(T T ) = rango(T ). Es inmediato vericar que ker(T ) ker(T T ).

Por otra parte ker (T T ) ker (T ) en efecto, si v ker (T T ) entonces 0 = T T (v), v = T (v), T (v)

por lo tanto T (v) = 0 y consecuentemente v ker (T ). Como ker (T T ) = ker (T ) se deduce inmediatamente del teorema de las dimensiones que dim(Im(T T )) = dim(Im(T )) 1

lo cual concluye la prueba.

Teorema 2 Sean V y W espacios vectoriales con dim(V ) = n y dim(W ) = m T : V W una transformacin lineal con rango(T ) = r entonces existe A = {v1 , . . . , vn } base ortonormal de V , o B = {w1 , . . . , wm } base ortonormal de W y escalares 1 2 . . . r > 0 tales que T (vi ) = i wi si i = 1, . . . , r y T (vi ) = 0 si i = r + 1, . . . , n. Demostracin. Sea R = T T , R es autoadjunto, no negativo y tiene, al igual que T rango r. Por lo o tanto en virtud del teorema espectral existe A = {v1 , . . . , vn } base ortonormal de V tal que R(vi ) = i vi i = 1, . . . , n. Como rango(T ) = r se tiene que dim(ker (T )) = n r por lo tanto la base A se puede elegir de modo que 1 2 . . . r > 0 y i = 0 si i = r + 1, . . . , n. Para i = 1, . . . , r denimos wi = donde i = i . Veamos en primer lugar que B = {w1 , . . . , wr } W es un conjunto ortonormal y consecuentemente linealmente independiente. En efecto j 1 1 T (v ) (v v T (T (vj )) = vi , R(vj ) = vi , j vj = vi , vj wi , wj = T ii ) , jj = i , j i i j i j i j Por lo tanto si i = j tenemos que wi , wj = pues A es ortonormal. Si i = j se tiene que i 2 vi , vi = 1. i Sea S = SG({w1 , . . . , wr }), se puede construir entonces B = {wr+1 , . . . , wm } base ortonormal de S , por lo tanto B = B B = {w1 , . . . , wr , wr+1 , . . . , wm } es una base ortonormal de W con las propiedades deseadas wi , wi = j vi , vj = 0 i j T (vi ) i

Corolario 3 (Descomposicin en valores singulares de un matriz) Sea M Mmxn una mao triz cualquiera con rango(M ) = r existen U Mmxm y V Mnxn ambas ortogonales y S Mmxn diagonal con rango(S) = r tal que M = U SV t Demostracin. Basta elegir T : I n I m tal que T (x) = M x entonces M =Cm ((T ))Cn donde Ci o R R i con i = m, n es la base cannica de I . Por el teorema anterior se tiene que existen A y B bases o R ortonormales de I n y I m respectivamente tales que T (vi ) = i wi con 1 2 . . . r > 0 y R R i = 0 si i > r. Por lo tanto 1 2 .. . r ((T ))A = B 0 .. . 0 2

Adems a
Cm ((T ))Cn

=Cm ((Id))B B ((T ))AA ((Id))Cn .

A ((Id))Cn

Las matrices de cambio de base Cm ((Id))B y ortonormal en otra. Por lo tanto poniendo U =Cm ((Id))B , se tiene que

son ortogonales pues transforman una base y S =B ((T ))A

V =Cn ((Id))A M = U SV t

adems a rango(S) = r lo cual concluye la prueba.

Una consecuencia importante de este resultado es el llamada teorema de descomposicin polar. o Es sabido que todo nmero complejo (no nulo) se puede escribir como producto de un complejo de u modulo uno y un nmero real positivo. u Es decir, si z C , z = 0 entonces existe [0, 2) y > 0 tal que z = ei Esta es la llamada I descomposicin polar de un nmero complejo. Ya hemos observado que la estructura algebraica de los o u nmeros complejos con la operacin de conjugacin tiene una fuerte analog con la de los operadores u o o a lineales donde el papel de la conjugacin lo juega la operacin de adjunto. El siguiente resultado puede o o ser interpretado en esta direccin o Teorema 4 (Descomposicin polar) Sea T : V V un operador invertible. Existen R positivo y o U unitario tal que T = R U . Demostracin. En virtud del teorema de descomposicin en valores singulares y de la invertibilidad o o de T existen A = {v1 , . . . , vn } y B = {w1 , . . . , wn } bases ortonormales de V y nmeros 1 2 , u , . . . , n > 0 tales que T (vi ) = wi , i = 1, . . . , n Denimos U : V V tal que U (vi ) = wi i = 1, . . . , n (como U es lineal basta para denirla dar la imagen de un base). U resulta unitaria pues lleva una base ortonormal en una base ortonormal. Sea ahora R : V V tal que R(wi ) = i wi i = 1, . . . , n. R es autoadjunto y positivo pues B es una base de vectores propios ortonormal con valores propios reales positivos. Para ver que T y R U coinciden baste ver que lo hacen en una base. R U (vi ) = R(U (vi )) = R(wi ) = i wi = T (vi ), i = 1, . . . , n