特征值分解及奇異值分解在數(shù)字圖像中的應(yīng)用Word版

1、特征值分解及奇異值分解在數(shù)字圖像中的應(yīng)用摘要：目前，隨著科學(xué)技術(shù)的高速發(fā)展，現(xiàn)實(shí)生活中有大量的信息用數(shù)字進(jìn)行存儲(chǔ)、處理和傳送。而傳輸帶寬、速度和存儲(chǔ)器容量等往往有限制，因此數(shù)據(jù)壓縮就顯得十分必要。數(shù)據(jù)壓縮技術(shù)已經(jīng)是多媒體發(fā)展的關(guān)鍵和核心技術(shù)。圖像文件的容量一般都比較大，所以它的存儲(chǔ)、處理和傳送會(huì)受到較大限制，圖像壓縮就顯得極其重要。當(dāng)前對(duì)圖像壓縮的算法有很多，特點(diǎn)各異，類似 JPEG 等許多標(biāo)準(zhǔn)都已經(jīng)得到了廣泛的應(yīng)用。本文在簡(jiǎn)單闡述了矩陣特征值的數(shù)值求解理論之后，介紹了幾種常用的求解矩陣特征值的方法，并最終將特征值計(jì)算應(yīng)用到圖像壓縮中。以及奇異值分解(Singular Value Decomp

2、osition ，SVD) 。奇異值分解是一種基于特征向量的矩陣變換方法，在信號(hào)處理、模式識(shí)別、數(shù)字水印技術(shù)等方面都得到了應(yīng)用。由于圖像具有矩陣結(jié)構(gòu)，有文獻(xiàn)提出將奇異值分解應(yīng)用于圖像壓縮2，并取得了成功，被視為一種有效的圖像壓縮方法。本文在奇異值分解的基礎(chǔ)上進(jìn)行圖像壓縮。關(guān)鍵詞：特征值數(shù)值算法；奇異值分解；矩陣壓縮；圖像處理引言矩陣的特征值計(jì)算雖然有比較可靠的理論方法，但是，理論方法只適合于矩陣規(guī)模很小或者只是在理論證明中起作用，而實(shí)際問題的數(shù)據(jù)規(guī)模都比較大，不太可能采用常規(guī)的理論解法。計(jì)算機(jī)擅長(zhǎng)處理大量的數(shù)值計(jì)算，所以通過適當(dāng)?shù)臄?shù)值計(jì)算理論，寫成程序，讓計(jì)算機(jī)處理，是一種處理大規(guī)模矩陣的方法

3、，而且是一種好的方法。常用的特征值數(shù)值方法包括冪法、反冪法、雅克比方法、QR分解法等。其中，冪法適用于求解矩陣絕對(duì)值最大的特征值，反冪法適合求解矩陣的逆矩陣的特征值，雅克比方法適合求解對(duì)稱矩陣的特征值，QR分解法主要使用于求中小型矩陣以及對(duì)稱矩陣的全部特征值。矩陣乘以一個(gè)向量的結(jié)果仍是同維數(shù)的一個(gè)向量。因此，矩陣乘法對(duì)應(yīng)了一個(gè)變換，把一個(gè)向量變成同維數(shù)的另一個(gè)向量，變換的效果當(dāng)然與方陣的構(gòu)造有密切關(guān)系。圖像壓縮處理就是通過矩陣?yán)碚摐p少表示數(shù)字圖像時(shí)需要的數(shù)據(jù)量，從而達(dá)到有效壓縮。數(shù)字圖像的質(zhì)量很大程度上取決于取樣和量化的取樣數(shù)和灰度級(jí)。取樣和量化的結(jié)果是一個(gè)實(shí)際的矩陣。圖像壓縮是數(shù)據(jù)壓縮技術(shù)在

4、數(shù)字圖像上的應(yīng)用，它的目的是減少圖像數(shù)據(jù)中的冗余信息從而用更加高效的格式存儲(chǔ)和傳輸數(shù)據(jù)。圖像數(shù)據(jù)之所以能被壓縮，就是因?yàn)閿?shù)據(jù)中存在著冗余。圖像數(shù)據(jù)的冗余主要表現(xiàn)為：圖像中相鄰像素間的相關(guān)性引起的空冗余；圖像序列中不同幀之間存在相關(guān)性引起的時(shí)間冗余；不同彩色平面或頻譜帶的相關(guān)性引起的頻譜冗余。圖像矩陣A的奇異值（Singular Value）及其特征空間反映了圖像中的不同成分和特征。奇異值分解是一種基于特征向量的矩陣變換方法，在信號(hào)處理、模式識(shí)別、數(shù)字水印技術(shù)等方面都得到了應(yīng)用。本文中我們主要討論矩陣特征值求解及奇異值分解在圖像壓縮上的應(yīng)用。特征值分解及奇異值分解在數(shù)字圖像中的應(yīng)用一特征值在圖像

5、處理中的應(yīng)用1特征值求解的數(shù)值方法我們首先介紹幾種常用的求解特征值的數(shù)值方法。（1） 冪法。冪法就是求矩陣的絕對(duì)值最大的特征值和相應(yīng)特征向量的方法。如果是矩陣A的特征值，并且其絕對(duì)值比A的任何其他特征值的絕對(duì)值大，則稱它為主特征值。相應(yīng)于主特征值的特征向量稱為主特征向量。如果特征向量V中絕對(duì)值最大的分量為1，則稱其是歸一化的。設(shè)矩陣A有一個(gè)主特征值，而且對(duì)應(yīng)于有唯一的歸一化特征向量V，通過下面稱為冪法的迭代過程可求出特征對(duì)，V。從初始向量開始，用如下遞歸公式遞歸生成序列，其中是絕對(duì)值最大的分量。序列和將分別收斂到V和：，注：如果是個(gè)特征向量且，則必須選擇其他初始向量（2）反冪法。反冪法可以用來

6、計(jì)算矩陣絕對(duì)值最小的特征值及其對(duì)應(yīng)的特征向量。設(shè)A是n階非奇異矩陣，有n個(gè)線性無關(guān)的特征向量，它們對(duì)應(yīng)于特征值，滿足不等式，其中。因?yàn)锳非奇異，所以 ，由得。所以的特征值是A的特征值的倒數(shù)。計(jì)算A的絕對(duì)值最小的特征值的問題就是計(jì)算絕對(duì)值最大的特征值的問題，于是可用冪法求出的絕對(duì)值最大的特征值，即A的絕對(duì)值最小的特征值。計(jì)算方法如下。其中為初始向量。（3）雅克比方法。雅克比方法的基本思想是通過一系列的由平面旋轉(zhuǎn)矩陣構(gòu)成的正交變換將實(shí)對(duì)稱矩陣逐步化為對(duì)角陣，從而得到全部特征值及其相應(yīng)的特征向量。2矩陣的特征值求解在圖像壓縮中的應(yīng)用利用矩陣分解以及矩陣特征值的求解方法，可以將其應(yīng)用到很多方面，例如矩

7、陣壓縮、馬爾科夫過程、天氣預(yù)報(bào)等等，我們這里簡(jiǎn)單介紹其在圖像壓縮方面的應(yīng)用。矩陣的壓縮是指利用矩陣的分解之后，提取特征值較大的特征值，舍棄比較小的特征值。還是因?yàn)樵诰仃嚴(yán)碚撝?，特征值代表了信息量，所以保留比較大的特征值、舍棄比較小的特征值，可以達(dá)到矩陣壓縮的目的。而圖像壓縮由于使用特征值分解壓縮圖片存在著不可靠性，所以采用一種新的矩陣分解方法來提取數(shù)字圖像的特征信息，那就是矩陣的奇異值分解。奇異值分解非常有用，對(duì)于矩陣，存在，滿足。U和V中分別是A的奇異向量，而S是A的奇異值。的正交單位特征向量組成U，特征值組成，的正交單位特征向量組成V，特征值（與相同）組成。因此，奇異值分解和特征值問題緊密

8、聯(lián)系。把獲得的奇異值，取其中比較大的（類同特征值的提取壓縮方法）奇異值，然后使用同樣的方法，進(jìn)行壓縮，其本質(zhì)其實(shí)還是使用類似矩陣分解，然后提取特征的方法，讓比較小的奇異值舍去，以達(dá)到數(shù)字圖像壓縮的目的。使用普通相機(jī)拍攝的圖像A (見圖1)，大小為256256。圖1使用普通相機(jī)拍攝的圖像由于大的奇異值對(duì)圖像的貢獻(xiàn)大，所以可以從r個(gè)奇異值中選取k個(gè)生成矩陣近似表示圖像A，即取：用近似表示圖像A，其中是奇異值， ，分別是U，V的分量。存儲(chǔ)圖像A需要個(gè)數(shù)值，存儲(chǔ)圖像需個(gè)數(shù)值，取就可以達(dá)到壓縮圖像的目的。以下是不同壓縮比例的圖像。提取500個(gè)奇異值后的壓縮圖像如圖2；提取300個(gè)奇異值后的壓縮圖像如圖3

9、；提取100個(gè)奇異值后的壓縮圖像如圖4，圖像比較模糊，說明奇異值個(gè)數(shù)不可以取得過少。 圖2提取500個(gè)奇異值后的壓縮圖像 圖3提取300個(gè)奇異值后的壓縮圖像圖4提取100個(gè)奇異值后的壓縮圖像二奇異值在圖像處理中的應(yīng)用1. 矩陣奇異值分解定義設(shè)A是秩為r的復(fù)矩陣，的特征值為 則稱為A的奇異值。易見，零矩陣的奇異值都是零，矩陣A的奇異值的個(gè)數(shù)等于A的列數(shù)，A的非零奇異值的個(gè)數(shù)等于其秩。矩陣的奇異值具有如下性質(zhì)：（1）A為正規(guī)矩陣時(shí)，A的奇異值是A的特征值的模；（2）A為半正定的Hermite矩陣時(shí)，A的奇異值是A的特征值；（3）若存在酉矩陣， ，矩陣，使，則稱和B酉等價(jià)。酉等價(jià)的矩陣和B有相同的奇

10、異值。2. 奇異值分解定理設(shè)A是秩為r(r0)的復(fù)矩陣，則存在m階酉矩陣U與n階酉矩陣V，使得D 其中為矩陣A的全部非零奇異值。3. 奇異值分解的圖像性質(zhì)任意一個(gè)矩陣的奇異值是唯一的，它刻畫了矩陣數(shù)據(jù)的分布特征。直觀上，可以這樣理解矩陣的奇異值分解：將矩陣A看成是一個(gè)線性變換，它將m維空間的點(diǎn)映射到n維空間。 經(jīng)過奇異值分解后，這種變換被分割成 3 個(gè)部分，分別為U、和V。其中U和V都是標(biāo)準(zhǔn)正交矩陣。若A為數(shù)字圖像，則 A可視為二維時(shí)頻信息，可將A 的奇異值分解公式寫為：其中，和分別是U 和V 的列矢量，是A 的非零奇異值。故上式表示的數(shù)字圖像 可以看成是r個(gè)秩為 1 的子圖疊加的結(jié)果，而奇異

11、值為權(quán)系數(shù)。所以也表示時(shí)頻信息，對(duì)應(yīng)的 和 可分別視為頻率矢量和時(shí)間矢量，因此數(shù)字圖像A 中的時(shí)頻信息就被分解到一系列由 和 構(gòu)成的視頻平面中。由矩陣范數(shù)理論，奇異值能與向量2-范數(shù)和矩陣Frobenious-范數(shù)(F-范數(shù))相聯(lián)系。若以F-范數(shù)的平方表示圖像的能量，則由矩陣奇異值分解的定義知：也就是說，數(shù)字圖像A經(jīng)奇異值分解后，其紋理和幾何信息都集中在U、之中，而中的奇異值則代表圖像的能量信息。性質(zhì)1：矩陣的奇異值代表圖像的能量信息，因而具有穩(wěn)定性。性質(zhì)2：矩陣的奇異值具有比例不變性。性質(zhì)3：矩陣的奇異值具有旋轉(zhuǎn)不變性。性質(zhì)4：設(shè)，。若，所以可得：上式表明，在F-范數(shù)意義下，是在空間（秩為s

12、的維矩陣構(gòu)成的線性空間）中A的一個(gè)將秩最佳逼近。因此可根據(jù)需要保留s(sr)個(gè)大于某個(gè)閾值的而舍棄其余r-s個(gè)小于閾值的且保證兩幅圖像在某種意義下的近似。這就為奇異值特征矢量的降維和數(shù)據(jù)壓縮等應(yīng)用找到了依據(jù)。4. 圖像的奇異值分解壓縮方法4.1 奇異值分解壓縮原理分析用奇異值分解來壓縮圖像的基本思想是對(duì)圖像矩陣進(jìn)行奇異值分解，選取部分的奇異值和對(duì)應(yīng)的左、右奇異向量來重構(gòu)圖像矩陣。根據(jù)奇異值分解的圖像性質(zhì)1和4可以知道，奇異值分解可以代表圖像的能量信息，并且可以降低圖像的維數(shù)。如果A表示n個(gè)m維向量，可以通過奇異值分解將A表示m+n為個(gè)r維向量。A的秩遠(yuǎn)遠(yuǎn)小于m和n，則通過奇異值分解可以大大降低

13、A的維數(shù)。對(duì)于一個(gè)像素的圖像矩陣，其中，。按奇異值從大到小取k個(gè)奇異值和這些奇異值對(duì)應(yīng)的左奇異向量及右奇異向量重構(gòu)原圖像矩陣A。如果選擇的，這是無損的壓縮；基于奇異值分解的圖像壓縮討論的是，即有損壓縮的情況。這時(shí)，可以只用個(gè)數(shù)值代替原來的個(gè)圖像數(shù)據(jù)。這個(gè)數(shù)據(jù)分別是矩陣A的前k個(gè)奇異值，左奇異向量矩陣U的前k列和右奇異向量矩陣V的前k列元素。比率：稱為圖像的壓縮比。顯然，被選擇的奇異值的個(gè)數(shù)k應(yīng)該滿足條件，即。故在傳送圖像的過程中，不需要傳個(gè)數(shù)據(jù)，而只需要傳個(gè)有關(guān)奇異和奇異向量的數(shù)據(jù)即可。接收端，在接收到奇異值，以及左異向量和右奇異向量后，可以通過重構(gòu)出原圖像矩陣。與的誤差為：某個(gè)奇異值對(duì)圖像的

14、貢獻(xiàn)可以定義為，對(duì)一幅圖像來說，較大的奇異值對(duì)圖像信息的貢獻(xiàn)量較大，較小的奇異值對(duì)圖像的貢獻(xiàn)較小。假如接近1，該圖像的主要信息就包含在之中。通常圖像的奇異值都具“大L曲線”，只有不多的一些比較大的奇異值，其它的奇異值相對(duì)較小，因此一般只需要比較小的k就使接近1。在滿足視覺要求的基礎(chǔ)上，按奇異值的大小選擇合適的奇異值個(gè)數(shù)kr，就可以通過將圖像恢復(fù)。k越小，用于表示的數(shù)據(jù)量就小，壓縮比就越大，而k越接近r，則與就越相似。在一些應(yīng)用場(chǎng)合中，如果是規(guī)定了壓縮比，則可以由式求出k，這時(shí)也同樣可以求出。4.2 奇異值分解壓縮應(yīng)用過程在對(duì)圖像進(jìn)行操作時(shí)，因?yàn)榫仃嚨木S數(shù)一般較大，直接進(jìn)行奇異值分解運(yùn)算量大，可

15、以將圖像分解為子塊，對(duì)各子塊進(jìn)行奇異值分解并確定奇異值個(gè)數(shù)，將每個(gè)子塊進(jìn)行重構(gòu)。這樣操作除了因?yàn)閷?duì)較小型的矩陣進(jìn)行奇異值分解的計(jì)算量比較小外，另一方面是為了利用原始圖像的非均勻的復(fù)雜性。如果圖像的某一部分比較簡(jiǎn)單，那么只需要少量的奇異值，就可以達(dá)到滿意的近似效果。為了保證圖像的質(zhì)量就需要較多的奇異值。但是各個(gè)子塊的奇異值數(shù)目，大小各不相同，因此可以考慮為每個(gè)子塊自適應(yīng)的選擇適當(dāng)?shù)钠娈愔禂?shù)目。一種簡(jiǎn)單的方法是定義奇異值貢獻(xiàn)量的和來選擇k，其中a是一個(gè)接近1的數(shù)。對(duì)常見的256256。bmp格式的圖像（位圖），劃分為44個(gè)子塊，每個(gè)子塊大小為664。對(duì)每個(gè)子塊根據(jù)來選擇所需要的奇異值數(shù)目。增大a的

16、值來選擇奇異值數(shù)目，可以推理得隨著a不斷增大，視覺效果越來越好。隨著a不斷增大，需要的奇異值也增多，壓縮比會(huì)減小。結(jié)論第一，特征值的應(yīng)用不僅僅在于圖像處理上，在物理、材料、力學(xué)等方面都有各種應(yīng)用。有人曾在書里這樣說過“有振動(dòng)的地方就有特征值和特征向量”，以后我們將進(jìn)一步探討矩陣?yán)碚摷捌湎嚓P(guān)應(yīng)用。第二，用奇異值分解進(jìn)行圖像壓縮，肯定能取得成功，也具有較好的應(yīng)用價(jià)值，但仍然可對(duì)子塊的劃分采取更加有效的方法來完成。例如對(duì)規(guī)模很大的矩陣，隨機(jī)抽取矩陣的某些行列得到規(guī)模較小的矩陣，計(jì)算小矩陣的奇異值，重復(fù)若干次，用這些小矩陣的奇異值逼近原始矩陣的奇異。另外，若已知圖像矩陣的奇異值及其特征空間，一般認(rèn)為較大的奇異值及其對(duì)應(yīng)的奇異向量表示圖像信號(hào)，而噪聲反映在較小的奇異值及其對(duì)應(yīng)的奇異向量上。依據(jù)一定的準(zhǔn)則選擇門限，低于該門限的奇異值置零(截?cái)? ，然后通過這些奇異值和其對(duì)應(yīng)的奇異向量重構(gòu)圖像進(jìn)行去噪。若考慮圖像的局部平穩(wěn)性，也可以對(duì)圖像分塊奇