1、工科研究生數(shù)學(xué)工科研究生數(shù)學(xué)矩矩 陣陣 論論仝允戰(zhàn)仝允戰(zhàn)鄭州輕工業(yè)學(xué)院鄭州輕工業(yè)學(xué)院數(shù)學(xué)系數(shù)學(xué)系第二章第二章范數(shù)理論及其應(yīng)用范數(shù)理論及其應(yīng)用第二章 范數(shù)理論及其應(yīng)用摘要（P109） 把一個向量（線性空間中的元素）或矩陣與一個非負(fù)實數(shù)聯(lián)系起來，在某種意義下，這個數(shù)值可以代表向量或矩陣的大小度量。向量范數(shù)與矩陣范數(shù)就是這樣的數(shù)值，他們在研究數(shù)值方法的收斂性和穩(wěn)定性以及誤差估計等方面有著重要應(yīng)用。第二章 范數(shù)理論及其應(yīng)用主要內(nèi)容 1.向量范數(shù)的構(gòu)造與驗證； 2.矩陣范數(shù)的構(gòu)造與驗證； 3.誘導(dǎo)范數(shù)（二者之間的關(guān)系及相容性）； 4.范數(shù)在數(shù)值分析中的應(yīng)用。定義定義： 設(shè)設(shè)V是實數(shù)域是實數(shù)域R（或復(fù)數(shù)域

2、（或復(fù)數(shù)域C）上的）上的n維線性維線性空間，對于空間，對于V中的任意一個向量中的任意一個向量 按照某一確定法按照某一確定法則對應(yīng)著一個實數(shù)，這個實數(shù)稱為該向量則對應(yīng)著一個實數(shù)，這個實數(shù)稱為該向量 的的范范數(shù)數(shù)，記為，記為 ，并且要求范數(shù)滿足下列條件：，并且要求范數(shù)滿足下列條件：（1）非負(fù)性：當(dāng)）非負(fù)性：當(dāng)（2）齊次性：）齊次性： ，k為實數(shù)為實數(shù)(或復(fù)數(shù)或復(fù)數(shù))（3）三角不等式：）三角不等式：例：線性空間任何內(nèi)積定義的長度即為范數(shù)。例：線性空間任何內(nèi)積定義的長度即為范數(shù)。0,0向量的范數(shù)向量的范數(shù)|kk),(V例例： 在在n維酉空間維酉空間Cn中，對于任意的向量中，對于任意的向量 分別定義分別

3、定義（1） （2） （3）證明證明 都是都是Cn上的范數(shù)，并且還有上的范數(shù)，并且還有12(,)nna aaCniia1121122)(niiainia1max12,12122(1)(2)(3)nnn引理（引理（Holder不等式）不等式）：設(shè)設(shè)1212,TTnnna aab bbC則則 ( p1, q1, )11111()()nnnpqpqiiiiiiiabab111qp引理（引理（Minkowski不等式）不等式）：設(shè)設(shè)則對任何則對任何 p1 都有都有1212,TTnnna aab bbC111111()()()nnnppppppiiiiiiiabab證明證明 以以 代入下式代入下式則則 1

4、11nnppiiiiiiiiabab ab1pqp11nnppqiiiiiiiiabab ab11nnppqqiiiiiiiia abb abqnipiipnipibaa1111)()(qnipiipnipibab1111)()(111111()() ()nnnpppppqiiiiiiibbab此不等式兩端同除以此不等式兩端同除以 ，根據(jù)，根據(jù)可得可得 11()npqiiiab111pq111111()()()nnnppppppiiiiiiiabab定義：定義：設(shè)向量設(shè)向量 ，對任意的數(shù)，對任意的數(shù) ，稱，稱為向量為向量 的的p-范數(shù)范數(shù)。常用的常用的p-范數(shù)：范數(shù)：（1）1-范數(shù)范數(shù) （2）

5、2-范數(shù)范數(shù)（3）-范數(shù)范數(shù)12,Tna aa1p 11()nppipia11niiaP-范數(shù)范數(shù)121 2221()()nHiia inippa1maxlim證明：證明：令令 ，則，則于是有于是有另一方面另一方面1maxii nxa ,1,2,iiayinx11()nppipixy111111()npiinpppiiynyn11lim()1nppipiy故故由此可知由此可知xpplim利用已知向量范數(shù)可以去構(gòu)造新的范數(shù)。利用已知向量范數(shù)可以去構(gòu)造新的范數(shù)。例例1 設(shè)設(shè) 是是 Cm上的向量范數(shù)，且上的向量范數(shù)，且(mn)，則由，則由所定義的所定義的 是是Cn上的向量范數(shù)。上的向量范數(shù)。例例2

6、設(shè)設(shè)V數(shù)域數(shù)域數(shù)域數(shù)域F上的上的n維線性空間，維線性空間， 為其為其一組基底，那么對于一組基底，那么對于V中的任意一個向量中的任意一個向量 可唯一地表示可唯一地表示成成又設(shè)又設(shè) 是是Fn上的向量范數(shù)，則由上的向量范數(shù)，則由所定義的所定義的 是是V上的向量范數(shù)。上的向量范數(shù)。 b,( )m nACrank An,nabACa12,n 121,nniinixXx xxFVXV定義定義 設(shè)設(shè) 是是n維線性空間維線性空間V上定義的兩種向量范上定義的兩種向量范數(shù)，如果存在兩個與數(shù)，如果存在兩個與 無關(guān)的正數(shù)無關(guān)的正數(shù)d1, d2使得使得則稱該兩范數(shù)等價。則稱該兩范數(shù)等價。定理定理 有限維線性空間有限維線

7、性空間V上的任意兩個向量范數(shù)都是等價上的任意兩個向量范數(shù)都是等價的。的。12,babddV范數(shù)等價范數(shù)等價ba,定義定義 對于任何一個矩陣對于任何一個矩陣 ，用，用 表示按照某一表示按照某一確定法則與矩陣確定法則與矩陣A相對應(yīng)的一個實數(shù)，且滿足相對應(yīng)的一個實數(shù)，且滿足（1）非負(fù)性：當(dāng)）非負(fù)性：當(dāng) ，當(dāng)，當(dāng)（2） 齊次性：齊次性： 為任意復(fù)數(shù)。為任意復(fù)數(shù)。（3） 三角不等式：對于任意兩個同階矩陣三角不等式：對于任意兩個同階矩陣A, B都有都有（4）矩陣乘法的相容性：對于任意兩個可以相乘的矩陣）矩陣乘法的相容性：對于任意兩個可以相乘的矩陣A, B，都有，都有那么我們稱那么我們稱 是是矩陣矩陣A的范

8、數(shù)。的范數(shù)。A0,0AA0,0AA,kAk AkABABm nAC矩陣范數(shù)矩陣范數(shù)ABA BA例例1 對于任意對于任意 ，定義，定義證明如此定義的證明如此定義的|A|為矩陣為矩陣A的范數(shù)。的范數(shù)。證明證明 只需要驗證此定義滿足矩陣范數(shù)的四條性質(zhì)即可。非只需要驗證此定義滿足矩陣范數(shù)的四條性質(zhì)即可。非負(fù)性，齊次性與三角不等式容易證明。現(xiàn)在驗證乘法的相容負(fù)性，齊次性與三角不等式容易證明。現(xiàn)在驗證乘法的相容性。設(shè)性。設(shè) ，則，則m nAC11mnijijAa,m pp nACBCminjpkkjikminjpkkjikbabaAB111111minjpkkjpkikba1111BAbanjpkkjmi

9、pkik1111例例2 設(shè)矩陣設(shè)矩陣 ，證明：，證明：是矩陣范數(shù)。是矩陣范數(shù)。證明證明：非負(fù)性、齊次性和三角不等式容易證得。現(xiàn)在我們：非負(fù)性、齊次性和三角不等式容易證得。現(xiàn)在我們考慮乘法的相容性。設(shè)考慮乘法的相容性。設(shè) ，那么，那么n nAC,maxiji jAna,n nn nACBC,11,maxmaxmaxmaxmaxmaxnnikkjikkji ji jkkikkji kk jikkji kk jABna bnabn nabnanbA B因此因此 為矩陣為矩陣A的范數(shù)。的范數(shù)。A例例3 對于任意對于任意 ，定義，定義可以證明可以證明 也是矩陣也是矩陣A的范數(shù)。我們稱此范數(shù)為矩陣的的范數(shù)

10、。我們稱此范數(shù)為矩陣的Frobenious范數(shù)范數(shù)。證明證明：此定義的非負(fù)性、齊次性是顯然的。利用：此定義的非負(fù)性、齊次性是顯然的。利用Minkowski不等式容易證明三角不等式。現(xiàn)在我們驗證乘法的相容性。不等式容易證明三角不等式。現(xiàn)在我們驗證乘法的相容性。 設(shè)設(shè) ，則，則 m nAC12211()mnijFijAaA,m ll nACBC minjpkkjikminjpkkjikFbabaAB112111212)(|minjpkkjpkikba111212)()(22112112BAbanjpkkjmipkik于是有于是有 例例4 對于任意對于任意 ，定義，定義證明如此定義的證明如此定義的

11、是矩陣是矩陣A的范數(shù)。的范數(shù)。證明證明 首先注意到這樣一個基本事實，即首先注意到這樣一個基本事實，即由上一個例題可知此定義滿足范數(shù)的性質(zhì)。由上一個例題可知此定義滿足范數(shù)的性質(zhì)。n nAC12()HATr A AA1122211()()mnHijijTr A AaFFFABAB（1）如果）如果 ，那么，那么（2） （3）對于任何）對于任何m階酉矩陣階酉矩陣U與與n階酉矩陣階酉矩陣V都有都有12nA2221niFiA21()()nHHiFiATR A AA AFrobenious范數(shù)的性質(zhì)范數(shù)的性質(zhì)HFFFFFAUAAAVUAV定理定理 設(shè)設(shè) 是矩陣是矩陣A的任意兩種范數(shù)，則總的任意兩種范數(shù)，則總

12、存在正數(shù)存在正數(shù)d1, d2，使得，使得12,m ndAAdAAC 矩陣范數(shù)的等價性矩陣范數(shù)的等價性AA ,定義定義 設(shè)設(shè) 是向量范數(shù)，是向量范數(shù)， 是矩陣范數(shù)，如果對于任是矩陣范數(shù)，如果對于任何矩陣何矩陣 A 與向量與向量 X 都有都有則稱矩陣范數(shù)則稱矩陣范數(shù) 與向量范數(shù)與向量范數(shù) 是相容的。是相容的。例例1 矩陣的矩陣的Frobenius范數(shù)與向量的范數(shù)與向量的2-范數(shù)是相容的。范數(shù)是相容的。證明證明 因為因為 XAAXAXAX12211()mnijFijAa誘導(dǎo)范數(shù)誘導(dǎo)范數(shù)(從屬范數(shù)從屬范數(shù))121 2221()()nHiiXxXX根據(jù)根據(jù)Hoider不等式可以得到不等式可以得到2222

13、11112211122111222()()()()()mnmnijjijjijijmnnijjijjmnnijjijjFAXa xa xaxaxAX 于是有于是有22FAXAX例例2 設(shè)設(shè) 是向量的范數(shù)，則是向量的范數(shù)，則滿足矩陣范數(shù)的定義，且滿足矩陣范數(shù)的定義，且 是與向量范數(shù)是與向量范數(shù) 相容的相容的矩陣范數(shù)。矩陣范數(shù)。證明證明 首先我們驗證此定義滿足范數(shù)的四條性質(zhì)。非負(fù)性，首先我們驗證此定義滿足范數(shù)的四條性質(zhì)。非負(fù)性，齊次性與三角不等式易證。現(xiàn)在考慮矩陣范數(shù)的相容性。齊次性與三角不等式易證。現(xiàn)在考慮矩陣范數(shù)的相容性。設(shè)設(shè) 向量向量X1滿足滿足|X1| =1，且，且|AB|i=|ABX1|

14、 ，則，則XiAX|1|1BXAABXABii|max)max|1|0AXXAXAXXiiiiiBAXBA|1|因此因此 滿足矩陣范數(shù)的定義。滿足矩陣范數(shù)的定義。最后證明最后證明 與與 是相容是相容的。的。 由上面的結(jié)論可知由上面的結(jié)論可知這說明這說明 與與 是相容的。是相容的。 定義定義 上面所定義的矩陣范數(shù)上面所定義的矩陣范數(shù) 稱為由向量范數(shù)稱為由向量范數(shù) 所所誘導(dǎo)的誘導(dǎo)的誘導(dǎo)范數(shù)誘導(dǎo)范數(shù)或或算子范數(shù)，算子范數(shù)，也稱為也稱為 的的從屬范數(shù)從屬范數(shù)。iAXiAiiAXAXAXAXiAXXiAX向量向量 p-范數(shù)范數(shù) 所誘導(dǎo)的矩陣范數(shù)稱為矩陣所誘導(dǎo)的矩陣范數(shù)稱為矩陣p-范數(shù)，即范數(shù)，即常用的常

15、用的矩陣矩陣p-范數(shù)范數(shù)為為 ， 和和 。定理定理 設(shè)設(shè) ，則，則（1）稱此范數(shù)為矩陣稱此范數(shù)為矩陣A的的列和范數(shù)列和范數(shù)。（2） 表示矩陣表示矩陣AHA的的第第 j 個特征值。我們稱此范數(shù)為矩陣個特征值。我們稱此范數(shù)為矩陣A的的譜范數(shù)譜范數(shù)。pX0maxppXpAXAX1A2AAm nAC11max(),1,2,mijjiAajn122max(),()HHjjjAA AA A（3）我們稱此范數(shù)為矩陣我們稱此范數(shù)為矩陣A的的行和范數(shù)行和范數(shù)。證明：記證明：記（1）設(shè)）設(shè)|X|1=1，則，則 minjjijminjjijxaxaAX11111| minjjijjnjmijijxaxa1111|)

16、|max(|)|(1max(),1,2,nijijAaim,)(nmijaATnxxxX),(21miijja1|max設(shè)設(shè)j=kj=k為其最大者為其最大者, 令令X的第的第k個坐標(biāo)為個坐標(biāo)為1，其它都為零，其它都為零，則則miijjaAX11|max|即即miijjaA11|max|（2）設(shè)）設(shè)|X|2 2=1，由，由0|22AXAXAXHH因為因為 AHA為半正定共軛對稱矩陣，因此存在非負(fù)實特征值為半正定共軛對稱矩陣，因此存在非負(fù)實特征值n21因此有因此有及其標(biāo)準(zhǔn)正交特征向量及其標(biāo)準(zhǔn)正交特征向量nppp,21nnpppX22112222211nnHHAXAX1222211)(n取取X=p1

17、X=p1，則有，則有1AXAXHH即即12|A（3）設(shè)）設(shè)|X| =1，則，則|max|max|11njjijinjjijixaxaAXnjijia1|max設(shè)設(shè)i=ki=k為其最大者為其最大者, 令令X的第的第j個坐標(biāo)為個坐標(biāo)為miijjaAX11|max|即即miijjaA11|max|0|00kjkjkjkjjaaaax則有則有例例 1 設(shè)設(shè) ，計算計算 ， ， 和和 。解解因為因為 ，所以，所以210023120A1A2AAFA15A5A23FA215A500096069HA A例例2 證明：對于任何矩陣證明：對于任何矩陣 都有都有m nAC11222222221HTHTHAAAAAA

18、A AAAAA|11AAATH證：容易證明證：容易證明 下面證明下面證明222|AAATH設(shè)設(shè)AAH的一個非零特征值為的一個非零特征值為，對應(yīng)特征向量為，對應(yīng)特征向量為p，則有，則有ppAAH)()(pApAAAHHH因此因此 AHp 為為AHA的的非零特征向量，非零特征向量，對應(yīng)特征值為對應(yīng)特征值為，即，即AAH的的非零特征值都是非零特征值都是AHA的特征值。類似可以證明，的特征值。類似可以證明， AHA的非零特的非零特征值都是征值都是AAH的非零特征值。因此的非零特征值。因此AAH與與AHA具有相同非零特具有相同非零特征值。因此征值。因此 。另一方面，由。另一方面，由22|AAHTHTHT

19、AAAA)()(知知 (AT)HAT 與與 AAH 有相同的特征值，因此有相同的特征值，因此其余不等式證明作為練習(xí)。其余不等式證明作為練習(xí)。22|THAA如何由矩陣范數(shù)構(gòu)造與之相容的向量范數(shù)？如何由矩陣范數(shù)構(gòu)造與之相容的向量范數(shù)？定理定理 設(shè)設(shè) 是矩陣范數(shù)，則存在向量范數(shù)是矩陣范數(shù)，則存在向量范數(shù) 使得使得證明證明 對于任意的非零向量對于任意的非零向量 ，定義向量范數(shù)，定義向量范數(shù)容易驗證此定義滿足向量范數(shù)的三個性質(zhì)，且容易驗證此定義滿足向量范數(shù)的三個性質(zhì)，且*AX*AXAX*HXX*HHAXAXAXAX例例3 設(shè)設(shè) 是是 上的相容矩陣范數(shù)。上的相容矩陣范數(shù)。證明：證明： （1） （2） 為可

20、逆矩陣，為可逆矩陣， 為為 的非零的非零 特征值，特征值，則有則有n nC1I AA11AA范數(shù)的應(yīng)用范數(shù)的應(yīng)用v矩陣的非奇異性條件矩陣的非奇異性條件定理定理1：設(shè)：設(shè) ，且對范數(shù)，且對范數(shù) 有有 ，則，則I-AI-A非奇異，非奇異，且且證明：用反證法，假設(shè)證明：用反證法，假設(shè)I-AI-A奇異，則方程奇異，則方程有非零解有非零解0,0,選取與矩陣范數(shù)相容的向量范數(shù)，于是有選取與矩陣范數(shù)相容的向量范數(shù)，于是有矛盾，因此矛盾，因此I-AI-A非奇異。非奇異。1AAIAI1)(1AAnnCA0)(xAI再由再由 AAIAIAIAII111)()()()(知知 AAIIAI11)()(AAII1)(AAII1)(于是得于是得AIAI1)(1v矩陣的非奇異性條件矩陣的非奇異性條件定理定理2：設(shè)：設(shè) ，且對范數(shù)，且對范數(shù)| |有有|A|1，則有，則有證明：由于證明：由于 ，知，知(I-A)(I-A)-1-1存在，由存在，由AAAII1)(1nnCA1A111)()()(AIAAAIAAIAIAA知知 11)()(AIAAAAIA1)(AIAAA即即 AAAIA1)(1再由再由 111)()()(AIAAIAIAII得得AAAIAAII1)()(11v求逆矩陣的誤差求逆矩陣的誤差定理：設(shè)定理：設(shè) 非奇異，非奇異， 且對范數(shù)且對范數(shù) 有