一、SVD奇異值分解的定義
假設
其中
二、SVD奇異值分解與特徵值分解的關係
特徵值分解與SVD奇異值分解的目的都是提取一個矩陣最重要的特徵。然而，特徵值分解只適用於方陣，而SVD奇異值分解適用於任意的矩陣，不一定是方陣。
%5E%7BT%7DU%5Csum&space;V%5E%7BT%7D&space;%5Cright=V%5Cleft&space;(&space;%5Csum&space;%5C,&space;%5ET%5Csum&space;%5Cright&space;)V%5E%7BT%7D "M^{T}M=\left ( U\sum V^{T} \right )^{T}U\sum V^{T} \right=V\left ( \sum \, ^T\sum \right )V^{T}")
%5E%7BT%7D&space;%5Cright=U%5Cleft&space;(&space;%5Csum&space;%5Csum&space;%5C,&space;%5ET&space;%5Cright&space;)U%5E%7BT%7D "MM^T=U\sum V^{T}\left ( U\sum V^{T} \right )^{T} \right=U\left ( \sum \sum \, ^T \right )U^{T}")
這裏，
三、SVD奇異值分解的作用和意義
奇異值分解最大的作用就是數據的降維，當然，還有其他很多的作用，這裏主要討論數據的降維，對於![]( "m\times n")
的矩陣![]( "M")
，進行奇異值分解
的矩陣，進行奇異值分解
取其前![]( "r")
個非零奇異值，可以還原原來的矩陣![]( "M")
，即前![]( "r")
個非零奇異值對應的奇異向量代表了矩陣![]( "M")
的主要特徵。可以表示爲
個非零奇異值，可以還原原來的矩陣，即前個非零奇異值對應的奇異向量代表了矩陣的主要特徵。可以表示爲