特徵值和特徵向量（Eigenvalues and Eigenvectors）

特徵值和特徵向量是矩陣的本質內容，在動態問題中發揮很重要的作用，本文講得矩陣默認爲方陣（square）。

1.幾何意義

現在我們從幾何的角度解釋說明是特徵值什麼是特徵向量。大多數的向量（x）乘上矩陣A時，即Ax，(下文中提到向量x乘上A就值Ax)都會改變向量的方向，但存在某些列外的矩陣x，它的方向和Ax的方向相同，這些向量就被稱爲特徵向量。向量Ax爲標量乘上原始向量x。

特徵值的大小表明當特徵向量x乘上A時拉伸、收縮、反轉或者沒有改變（e.g. 相應的的值爲2，-1/2，-1，1）。當然特徵值也可以爲0。表明特徵向量在矩陣的零空間。如果A爲單位矩陣，所有的向量滿足，所有的向量都是的特徵向量，所有的特徵值爲1.

2.特徵值特徵向量的求解

特徵值通過方程求解，求出特徵值後，相應的特徵值就是的零空間。下面的例子是求解的過程：

下面介紹一個特徵值的簡單用途，我們可以發現，如果A乘上x1，我們得到x1，類推得到，同樣的A^n*x2 = (1/2)^n * x2，從中我們可以得到的特徵向量同樣爲x1，x2，而特徵值發生了變化，分別爲1和。

因爲不同特徵值的特徵向量線性無關，所有x1和x2可以作爲二維向量的一組基向量，所有的二維向量都可以表示成x1和x2的線程組合。我們可以吧矩陣A的第一個列向量分解成：

當乘上矩陣A時，得到：

得到結果（.7, .3）爲A^2的第一個列向量。

當然我們需要求解矩陣，可以用同樣的方法，下面是通過求解得到的第一個列向量：

根據上訴的方法，當我們需要求解一個矩陣A的高次冪是，我不需要先求A^2,A^3.........，這樣的效率非常低，我們可以直接通過特徵值和特徵向量來求解。

上面提到的x1不會改變，我們稱爲“steady state”，因爲他的特徵值爲1，x2會慢慢消失，我們成爲“decaying mode”，因爲其特徵值小於1。根據這個性質，矩陣高次冪的每一列都會趨向於穩態。下面我們就引入馬爾科夫矩陣，它的所有元素都爲正值，每一列的和爲1，另外它的最大特徵值爲1。上面的矩陣A就是馬爾科夫矩陣。

3.幾個性質

1.如果矩陣A的每一列的和都爲1，則1是A的一個特徵值。

2.如果矩陣A爲奇異的，det（A）= 0，則0是A的一個特徵值。

3.如果A爲對稱矩陣，則不同特徵值的特徵向量相互正交。

4.所有特徵值的乘積爲矩陣的行列式。

5.所有特徵值的和爲矩陣的跡，即矩陣主對角線上的元素和。

4.總結

本文簡單介紹了特徵值和特徵向量，上面的例子都是比較理想（一個矩陣有n個線性無關的特徵值）。需要注意的，有些n*n矩陣沒有n的相互獨立特徵向量，這樣就不可能作爲n維空間的一個基，同樣的不能表示所有的n維向量。（這樣的矩陣也不可能對角化）

5.Reference

《A Introduction to Linear Algebra》   GILBERT STRANG