在看線性代數(shù)這一部分的時候，真是一頭霧水。雖然明白了特征值和特征向量的求法，但總覺得沒有用。在《理解矩陣》一文中，雖然提到了這與矩陣的本質(zhì)有關(guān)，但并未詳細(xì)提及，但我知道了一定具有一定的幾何意義。
后來，查看了《特征向量的幾何意義》一文，才明白了。特別是wikipedia中關(guān)于《特征向量》的文章，終于對特征向量有了一點(diǎn)認(rèn)識。
因?yàn)?span style="font-family: symbol;">l是常數(shù)，所以lx與x的方向相同。即，一個變換的特征向量是這樣一種向量，它經(jīng)過這種特定的變換后保持方向不變，只是進(jìn)行長度上的伸縮而已。
下圖是從wikipedia的《特征向量》一文中引用的。通過這個圖可以對變與不變有一個進(jìn)一步的了解。
圖1. 在這個錯切變換中，蒙娜麗莎的圖像被變形，但是中心的縱軸在變換下保持不變。（注意：角落在右邊的圖像中被裁掉了。）藍(lán)色的向量，從胸部到肩膀，其方向改變了，但是紅色的向量，從胸部到下巴，其方向不變。因此紅色向量是該變換的一個特征向量，而藍(lán)色的不是。因?yàn)榧t色向量既沒有被拉伸又沒有被壓縮，其特征值為1。所有沿著垂直線的向量也都是特征向量，它們的特征值相等。它們構(gòu)成這個特征值的特征空間。
在wikipedia的《特征向量》一文中還提到了一個地球旋轉(zhuǎn)的例子，旋轉(zhuǎn)本身是一種線性變化，出來在旋轉(zhuǎn)軸上的向量之外，所有從地心指向地表的向量的方向都變了。在旋轉(zhuǎn)軸上的向量的向量就是這個線性變化的特征向量。
說到這我想很多人應(yīng)該明白了，矩陣是一種線性變化，特征向量就是在這個變化當(dāng)中不變的向量。說白了就是在變化當(dāng)中尋找不變的東西。這不就是很多學(xué)科研究的內(nèi)容嗎？
關(guān)于這個主題的更多內(nèi)容可以參考《漫談高數(shù)(四) 特征向量物理意義》一文，該文對這個主題做了一個深入淺出的解釋，是一篇比較好的文章。
美國數(shù)學(xué)家斯特讓（G..Strang）在其經(jīng)典教材《線性代數(shù)及其應(yīng)用》中這樣介紹了特征值作為頻率的物理意義，他說：
大概最簡單的例子（我從不相信其真實(shí)性，雖然據(jù)說1831年有一橋梁毀于此因）是一對士兵通過橋梁的例子。傳統(tǒng)上，他們要停止齊步前進(jìn)而要散步通過。這個理由是因?yàn)樗麄兛赡芤缘扔跇虻奶卣髦抵坏念l率齊步行進(jìn)，從而將發(fā)生共振。就像孩子的秋千那樣，你一旦注意到一個秋千的頻率，和此頻率相配，你就使頻率蕩得更高。一個工程師總是試圖使他的橋梁或他的火箭的自然頻率遠(yuǎn)離風(fēng)的頻率或液體燃料的頻率；而在另一種極端情況，一個證券經(jīng)紀(jì)人則盡畢生精力于努力到達(dá)市場的自然頻率線。特征值是幾乎任何一個動力系統(tǒng)的最重要的特征。
我們知道，矩陣乘法對應(yīng)了一個變換，是把任意一個向量變成另一個方向或長度都大多不同的新向量。在這個變換的過程中，原向量主要發(fā)生旋轉(zhuǎn)、伸縮的變化。如果矩陣對某一個向量或某些向量只發(fā)生伸縮變換，不對這些向量產(chǎn)生旋轉(zhuǎn)的效果，那么這些向量就稱為這個矩陣的特征向量，伸縮的比例就是特征值。
實(shí)際上，上述的一段話既講了矩陣變換特征值及特征向量的幾何意義（圖形變換）也講了其物理含義。物理的含義就是運(yùn)動的圖景：特征向量在一個矩陣的作用下作伸縮運(yùn)動，伸縮的幅度由特征值確定。特征值大于1，所有屬于此特征值的特征向量身形暴長；特征值大于0小于1，特征向量身形猛縮；特征值小于0，特征向量縮過了界，反方向到0點(diǎn)那邊去了。
注意：常有教科書說特征向量是在矩陣變換下不改變方向的向量，實(shí)際上當(dāng)特征值小于零時，矩陣就會把特征向量完全反方向改變，當(dāng)然特征向量還是特征向量。我贊同特征向量不改變方向的說法：特征向量永遠(yuǎn)不改變方向，改變的只是特征值（方向反轉(zhuǎn)特征值為負(fù)值了）。這有點(diǎn)類似地說冬天深圳的室外“溫度”是10℃，哈爾濱室外的“溫度”是-30℃(稱溫度而不溫)；也類似說無人飛機(jī)在海拔“高度”100米處飛行而核潛艇在海拔“高度”-50米（稱高度而不高）處游弋一樣。
關(guān)于特征值和特征向量，這里請注意兩個亮點(diǎn)。這兩個亮點(diǎn)一個是線性不變量的含義，二個是振動的譜含義。
所謂特征向量概念的亮點(diǎn)之一是不變量，這里叫線性不變量。因?yàn)槲覀兂Ｖv，線性變換啊線性變換，不就是把一根線（向量）變成另一根線（向量），線的變化的地方大多是方向和長度一塊變。而一種名叫“特征向量”的向量特殊，在矩陣作用下不變方向只變長度。不變方向的特性就被稱為線性不變量。
如果有讀者堅持認(rèn)為負(fù)方向的特征向量就是改變了向量的方向的想法的話，你不妨這樣看線性不變量：特征向量的不變性是他們變成了與其自身共線的向量，他們所在的直線在線性變換下保持不變；特征向量和他的變換后的向量們在同一根直線上，變換后的向量們或伸長或縮短，或反向伸長或反向縮短，甚至變成零向量（特征值為零時），如下圖。
特征值是振動的譜
除了線性不變量，另外一個亮點(diǎn)是關(guān)于振動方面的。戲說在朝代宋的時候，我國就與發(fā)現(xiàn)矩陣特征值理論的機(jī)會擦肩而過。話說沒有出息的秦少游在往池塘里扔了一顆小石頭后，剛得到一句“投石沖開水底天”的泡妞詩對之后，就猴急猴急地去洞房了，全然沒有想到水波中隱含著矩陣的特征值及特征向量的科學(xué)大道理。大概地說，水面附近的任一點(diǎn)水珠在原處上下振動（實(shí)際上在做近似圓周運(yùn)動），并沒有隨著波浪向外圈移動，同時這些上下振動的水珠的幅度在漸漸變小，直至趨于平靜。在由某塊有著特定質(zhì)量和形狀的石頭被以某種角度和速度投入某個面積和深度特定的水池中所決定的某個矩陣中，紋波蕩漾中水珠的漸變過程中其特征值起著決定性的作用，它決定著水珠振動的頻率和幅度減弱的衰退率。
在理解關(guān)于振動的特征值和特征向量的過程中，需要加入復(fù)向量和復(fù)矩陣的概念，因?yàn)樵趯?shí)際應(yīng)用中，實(shí)向量和實(shí)矩陣是干不了多少事的。機(jī)械振動和電振動有頻譜，振動的某個頻率具有某個幅度；那么矩陣也有矩陣的譜，矩陣的譜就是矩陣特征值的概念，是矩陣所固有的特性，所有的特征值形成了矩陣的一個頻譜，每個特征值是矩陣的一個“諧振頻點(diǎn)”。
美國數(shù)學(xué)家斯特讓（G..Strang）在其經(jīng)典教材《線性代數(shù)及其應(yīng)用》中這樣介紹了特征值作為頻率的物理意義，他說：
大概最簡單的例子（我從不相信其真實(shí)性，雖然據(jù)說1831年有一橋梁毀于此因）是一對士兵通過橋梁的例子。傳統(tǒng)上，他們要停止齊步前進(jìn)而要散步通過。這個理由是因?yàn)樗麄兛赡芤缘扔跇虻奶卣髦抵坏念l率齊步行進(jìn)，從而將發(fā)生共振。就像孩子的秋千那樣，你一旦注意到一個秋千的頻率，和此頻率相配，你就使頻率蕩得更高。一個工程師總是試圖使他的橋梁或他的火箭的自然頻率遠(yuǎn)離風(fēng)的頻率或液體燃料的頻率；而在另一種極端情況，一個證券經(jīng)紀(jì)人則盡畢生精力于努力到達(dá)市場的自然頻率線。特征值是幾乎任何一個動力系統(tǒng)的最重要的特征。
其實(shí)，這個矩陣之所以能形成“頻率的譜”，就是因?yàn)榫仃囋谔卣飨蛄克傅姆较蛏暇哂袑ο蛄慨a(chǎn)生恒定的變換作用：增強(qiáng)（或減弱）特征向量的作用。進(jìn)一步的，如果矩陣持續(xù)地疊代作用于向量，那么特征向量的就會凸現(xiàn)出來。
比如，一個物理系統(tǒng)，其特性可以被一個矩陣所描述，那么這個系統(tǒng)的物理特性就可以被這個矩陣的特征值所決定，各種不同的信號（向量）進(jìn)入這個系統(tǒng)中后，系統(tǒng)輸出的信號（向量）就會發(fā)生相位滯后、放大、縮小等各種紛亂的變化。但只有特征信號（特征向量）被穩(wěn)定的發(fā)生放大（或縮?。┑淖兓?。如果把系統(tǒng)的輸出端口接入輸入端口，那么只有特征信號（特征向量）第二次被放大（或縮小）了，其他的信號如滯后的可能滯后也可能超前同時縮小，放大的可能被繼續(xù)放大也可能被縮小同時滯后，縮小的可能被繼續(xù)縮小也可能被放大同時滯后等。經(jīng)過N次的循環(huán)后，顯然，亂七八糟的大量的向量群眾們終不能成氣候，只有特征向量們，心往一處想，勁往一處使，要么成功出人頭地，要么失敗殺身成仁。因此我們就可以因此在時間域上觀察輸出，就會得到一個或幾個超級明顯的特征信號出來（特征向量）。
弄過電路的哥們早看出了俺的含沙射影：切！繞什么繞，你說的不就是振蕩器的原理嘛，振蕩信號（電壓、電流）構(gòu)成了特征向量，特征值是1，振蕩信號的頻率是…
是是是，就是振蕩器的原理。其實(shí)振蕩器原理是可以用矩陣的冪來解釋的。這個編輯器不好用，矩陣分析和細(xì)節(jié)這里就忽略了。
