說到一個(gè)矩陣，怎么才算是真正掌握它？

一個(gè)完美分解的方法就是SVD分解。什么是SVD？全稱是 singular Value Decomposition。奇異值分解。

把矩陣Am*n分解為一個(gè)三個(gè)矩陣相乘的形式，即A=U*∑*V',這三個(gè)矩陣是最簡(jiǎn)單的矩陣， Um*m是一個(gè)單位正交矩陣，Zm*n是一個(gè)對(duì)角陣，而 Vn*n是另一個(gè)正交單位矩陣；并且∑m*n作為對(duì)角矩陣，還是元素由大到小排列的。V'即V^T,表示V的轉(zhuǎn)置。

（單位正交矩陣是非常簡(jiǎn)單的矩陣，U^T=U^-1，首先它的逆就等于其轉(zhuǎn)置。其次，它的每一個(gè)列向量的長(zhǎng)度等于1并且每?jī)蓚€(gè)行向量相互正交，每一個(gè)行向量的長(zhǎng)度等于1并且每?jī)蓚€(gè)行向量相互正交。）

那么有什么簡(jiǎn)單的方法可以求出U和V還有∑？證明如下：

因?yàn)閟igma 是對(duì)角陣，設(shè)對(duì)角上的元素是K1，K2……Kn，則∑^2矩陣對(duì)角元素就是

∑元素的平方。

所以 A*A'=U*∑^2*U'，因?yàn)椤芧2也是對(duì)角陣，這個(gè)形式就是對(duì)A*A'的特征向量分解，U就是A*A'特征向量矩陣，而∑^2就是該矩陣的特征值。

如果向量v與變換B滿足Bv=λv，則稱向量v是變換B的一個(gè)特征向量，λ是相應(yīng)的特征值。這一等式被稱作“特征值方程”。描述正方形矩陣的特征值的重要工具是特征多項(xiàng)式，λ是A的特征值等價(jià)于線性方程組(B – λI) v = 0 （其中I是單位矩陣）有非零解v (一個(gè)特征向量)，因此等價(jià)于行列式|B – λI|=0

從幾何上來看，A乘以一個(gè)向量x，可以分為以下幾步：

首先，x表示為任意一組正交基的線性組合，v1和v2是正交的，互相垂直。

先乘以V'表示將v1 v2變成標(biāo)準(zhǔn)正交基，再乘以∑表示對(duì)兩個(gè)基不同程度的拉伸。

再乘以U表示拉伸后的旋轉(zhuǎn)。

在此過程中，一組正交基乘以個(gè)正交矩陣的作用，僅僅是旋轉(zhuǎn)了，向量幅度沒變化，而乘以對(duì)角矩陣，則相當(dāng)于每一個(gè)維度的基單獨(dú)被伸長(zhǎng)或者縮短了，但是向量的幅角沒變。

簡(jiǎn)而言之：就是被旋轉(zhuǎn)，拉伸不同倍數(shù)，在旋轉(zhuǎn)。

這樣可以更形象的理解一個(gè)向量，被矩陣A線性變換后的每一步到底做了什么，有什么意義。