1、線性方程組的敏度分析與消去法的舍入誤差分析我們已經在上一章詳細討論了如何用auss消去法求解線性方程組，但從數值計算的角度來看，這是不夠的。這是因為在實際計算時，我們不僅要面對如何求解的問題，而且也要面對數據不精確的問題和機器的有限精度問題。只有討論了后面這兩個問題，我們才可能知道，所求得的解是否可靠。而要討論這兩個問題，我們需要用范數來描述向量和矩陣的擾動的大小等概念。所以在這一章中，我們首先介紹向量范數和矩陣范數的概念及其基本性質；然后對線性方程組進行敏度分析，討論舍入誤差問題，并對列主元auss消去法進行詳細的舍入誤差分析；最后介紹一種估計計算精度的實用方法以及改進其計算精度的迭代方法。

2、2.1 向量范數與矩陣范數2.1.1 向量范數向量范數的概念是復數模的概念的自然推廣，其定義如下：定義2.1.1 一個從到的非負函數叫做上的向量范數，如果滿足：（1） 正定性：對所有的有，而（2） 且當且僅當；（3） 齊次性：對所有的和有；（4） 三角不（5） 等式：對所有的有.定理 2.1.1 上的向量范數是連續函數。證明 對任意，因，由性質（3）得，即，及 從而得到再注意到，由性質（2）和（3）得由此可知，作為上的實函數是連續的。定理證畢最常用的向量范數是P范數（亦稱H?lder范數）：其中是最重要的，即它們分別叫做1范數、2范數和范數。這三個范數的正定性與齊次性是顯然的，而且也容易證明和

3、滿足三角不等式。對于2范數要證明三角不等式成立，需要用到Cauchy-Schwartz不等式（其證明參見習題2.1）這個不等式是H?lder不等式的特殊情形。事實上，利用Cauchy-Schwartz不等，我們有由此即知2范數滿足三角不等式。盡管在上可以引進各種各樣的范數，但在下面定理所述的意義下所有這些范數都是等價的。定理2.1.2 設和是上任意二個范數，則存在正常數和，使得對一切有證明 分兩步來證明這個結論。首先來證明和等價，即證明存在常數，使對一切且有考慮泛函記，則是一個有界閉集。由于為S上的連續函數，所以于S上達到最大最小值，即存在使得設且，則，從而有即同理可證得和等價，即存在正常數，

4、使對一切且有下面我們進一步來證明和等價。由有再由令，則有定理證畢例如，對于，和這三種常用的向量范數，有由定理2.1.2可證得如下的重要結論。定理2.1.3 設向量序列，則的充分必要條件是，即向量序列的范數收斂等價于分量收斂。證明 顯然，等價于，而由定理2.1.2知，對于任意一種范數存在常數，使對一切且有于是由求極限的兩邊夾法則得，等價于。定理證畢2.1.2 矩陣范數若我們用表示在位置上的元素是1，其余元素都是零的矩陣，則是線性無關的，而且任一個矩陣都可以表示為這也就是說，全體實矩陣構成的空間的維數是. 因此，亦可看作一個維的向量空間。這樣，我們自然想到將向量范數的概念推廣到矩陣上。然而這樣推廣

5、的缺點是未考慮到矩陣的乘法運算。因而實用的矩陣范數的定義是按如下的方式定義的。定義2.1.2 一個從到的非負函數叫做上的矩陣范數，如果它滿足：正定性：對所有的有而且當且僅當；齊次性：對所有的和有；三角不等式：對所有的有；相容性：對所有的有因為上的矩陣范數自然可以看作是上的向量范數，所以矩陣范數具有向量范數的一切性質。例如，有(i) 上的任意兩個矩陣范數是等價的。(ii)矩陣序列的范數收斂等價于元素收斂，即其中矩陣與向量的乘積在矩陣計算中經常出現，因此我們自然希望矩陣范數與向量范數之間最好具有某種協調性。若將向量看作是矩陣的特殊情形，那么由矩陣范數的相容性，我們便得到了這種協調性，即矩陣范數與向

6、量范數的相容性。定義2.1.3 若矩陣范數和向量范數滿足則稱矩陣范數與向量范數是相容的。在本節中，如果沒有特殊的說明，凡同時涉及到向量范數和矩陣范數的均假定它們是相容的。事實上，對任意給定的向量范數，我們都可以構造一個與該向量范數相容的矩陣范數，其方法如下面的定理所述。定理2.1.4 設是上的一個向量范數。若定義                      (2.1.1)則是上的一個矩陣范

7、數。證明 由于是有界閉集，而又是上的連續函數，所以存在向量使得. 因此，由（2.1.1）所定義的矩陣范數是有意義的。其次，對任意，由（2.1.1）知從而有                             (2.1.2)下面對任取的，證明滿足矩陣范數的四條性質。正定性。設，不妨設的第列非零，即.由（2.1.2）和

8、向量范數的正定性，有從而有.(2) 齊次性。任取，有（3） 三角不等式。設滿足使得，則由向量范數的三角不等式和(2.1.2)，有（4）相容性。設滿足使得，則由(2.1.2)，有定理證畢由（2.1.2）定義的矩陣范數稱為從屬于向量范數的矩陣范數，也稱其為由向量范數誘導出的算子范數。在上面的討論中，為了不致引起混淆，我們將算子范數記作，今后為了簡單起見，我們仍將其記作。此外，還需指出的是，為了討論方便，我們在本節中僅考慮了方陣的范數，但其大部分結論都適宜于長方陣的情形。根據定理2.1.4，我們可從上最常用的范數得到上的算子范數：對于所對應的算子范數，我們有定理2.1.5 設，則有其中表示的最大特征

9、值。證明 時定理顯然成立。因此在下面的證明中總假定.對于1范數，將給定的按列分塊為，并記，則對任意的滿足有此外，若取為階單位矩陣的第列，則有，而且因此，我們有對于范數，記，則對任一滿足有設的第行的1范數最大，即. 令即蘊含著，而且容易證明. 這樣，我們就已經證明了對于2范數，應有注意，是半正定的對稱陣，設其特征值為以及其對應的正交規范特征向量為，則對任一滿足的向量有和于是，有另一方面，若取，則有所以定理證畢基于定理2.1.5，我們通常分別稱矩陣的1范數、范數和2范數為列和范數、行和范數和譜范數。此外，從這一定理容易看出，矩陣列和范數與行和范數是很容易計算的，而矩陣的譜范數就不適宜于實際計算。它

10、需要計算的最大特征值。但是，譜范數所具有的許多好的性質，使它在理論研究中很有用處。下面的定理列舉了譜范數的幾條最常用的性質。定理2.1.6 設，則（1）（2）（3）對任意的正交矩陣和有，證明 （1）設，那么由Cauchy不等式有另一方面，設定且，令，則且因此，對這樣選擇的和上面的等式是成立的。（2）注意到另外，由(1)結果可知再由矩陣范數的相容性可知綜上所述，我們有（3）利用正交矩陣的特性及（2）的結果，我們有定理證畢此外，在上的另一個常用且易于計算的矩陣范數為通常稱作Frobenius范數，它是向量2范數的自然推廣。作為本節的結束，我們來證明幾個本書經常使用的與范數有關的重要結果。由于這些結

11、果與譜半徑有關，因此，為了討論方便，我們下面的討論將在復數范圍內展開。大家容易看出，本節前面所講的所有概念與結果都可毫無困難地推廣到復空間上。定義2.1.4 設，則稱為的譜半徑，這里表示的特征值的全體。譜半徑與矩陣范數之間有如下關系：定理2.1.7 設，則有對上的任意矩陣范數，有對任給的存在上的算子范數使得.證明 （1）設滿足則有從而有由Jordan分解定理知，存在非奇異矩陣，使得，其中，=1或0，對于任意給定的，令則有下面，我們回到本問題中來，在上引入一個算子矩陣范數（請參見注2），定義如下它所對應的向量范數（請參見注1），定義如下該范數對于矩陣有其中假定=0. 定理證畢注 1 .滿足向量范數定義的所有條件，非負性和奇次性顯然成立，至于三角不等式，對于，有注 2 .根據算子范數有定義可知，我們只需要導出矩陣范數確實是由向量范數導出即可。事實上，定理2.1.8 設，則的充分必要條件是M的譜半徑。證明 必要性 設，并假定滿足。由于對任意的k有，故由引理6.3.2的結論(1)知對一切k成立, 從而必有.充分性 設,則由引理6.3.2的結論(2)知,必有算子范數，使得，從而于是 定理證畢定理2.1.9 設是上的一個滿足條件矩陣范數，并假定滿足，則可逆且有證明 用反證法。若奇異，則方程組有非零解，即存在使，從而有，故，這與假設矛盾。又由，有及從而有定理證畢利用定理2.1.