1、解線性代數方程組的迭代法例1求解方程組方程組的精確解是22.1向量、矩陣范數與譜半徑32.1向量、矩陣范數與譜半徑定義：設將實數稱為向量x,y的數量積.歐氏范數4定理設 ，則1.(x,x)=0當且僅當x=0成立2.(ax,y)= a(x,y), a為實數3. (x,y)= (y,x)4. (x1+x2,x)= (x1,y)+ (x2,y)5. 等式當且僅當x與y線性相關時成立6.5向量的范數定義2.1設 為x的實值函數，若它滿足下列條件（1）非負性（2）齊次性（3）三角不等式則稱 為Rn上的一個向量范數（或向量模）, 的值稱為向量x的范數6由向量范數的定義可以推出證明：由定義中的“三角不等式”

2、可以很容易的證明。7常見的三種向量范數“1范數”“2范數”（歐氏范數）“范數”（最大范數）8這3個范數可以統一記為容易得出，這三種范數滿足關系（2.1.8）（2.1.9）9定理：設 為Rn上向量的任意兩種范數，則存在常數c1,c20，使得對于一切xRn有向量范數的等價性（2.1.8）（2.1.9）10定義2.2：設 為Rn上的一個向量序列(k =1,2,) 如果對于i=1,2, ,n有， 則稱向量序列x(k)收斂于向量x*11定理： 其中 為向量的任一種范數。結論：如果在一種范數意義下向量序列收斂，則在任何一種范數下該向量序列均收斂。12矩陣范數定義2.3設 為A的實值函數，若它滿足下列條件（

3、1）非負性（2）齊次性（3）三角不等式則稱 為 上的一個矩陣范數（或矩 陣模）, 的值稱為矩陣A的范數13相容范數 （2.1.13）（2.1.14）14最常用的是利用向量范數來定義的矩陣范數：稱之為矩陣A的算子范數，其中（2.1.15）15定理2.1由(2.1.15)式所定義的矩陣范數為相容范數證明：容易證明，由(2.1.15)式所定義的函數滿足定義2.3的三個條件，故它是矩陣范數。另外，當x=0時， (2.1.14)式顯然成立。對任意的x0,兩邊乘以即為(2.1.14)式。16再來證(2.1.13)式。注意到由(2.1.14)式有定理證完。17常見的三種向量范數“1范數”“2范數”（歐氏范數

4、）“范數”（最大范數）18最常用的是利用向量范數來定義的矩陣范數：稱之為矩陣A的算子范數，其中（2.1.15）19定理2.2對于由(2.1.15)式所定義的矩陣范數下列等式成立：其中AT表示A的轉置矩陣。(ATA之最大特征值)1/2(2.1.16)(2.1.17)(2.1.18)20證明先證(2.1.16)式。首先，對任意滿足 的xRn，因為 ，故有21另一方面，設并取 ，則以為分量的向量 滿足這就證明了等式(2.1.16)成立，等式(2.1.16)表明， 等于A中各行元素按絕對值求各行所得的最大和數，故又稱為A的“行和范數”22再證等式(2.1.18)，注意當 時，ATA是對稱非負定矩陣，故

5、ATA有完全正交的特征向量系 ，即其中 為ATA的特征值23對于任意的xRn，借助于特征向量系可表示為且從而有24由于故有(2.1.19)式說明 是 的上界，并且這個上界在x=v1時達到。定理證完。（2.1.19）25(ATA之最大特征值)1/2行和范數列和范數譜范數（2.1.15）262.1.3 譜半徑矩陣A的特征值的按模最大值稱為A的譜半徑記作，即其中是A的特征值。定理2.3對任意 ，有27由譜半徑的定義,矩陣的2范數可記為當A是實對稱矩陣時，由（2.1.18）式有這也就是說，此時A的2范數與該矩陣的譜半徑相等。282.6 條件數與病態方程組292.6.1 矩陣的條件數例2.4 令 ,并設

6、3031病態方程組定義 如果矩陣A或常數項b的微小變化,引起方程組Ax=b的巨大變化,則稱此方程組為“病態”方程組,矩陣A稱為“病態”矩陣，否則稱方程組為“良態”方程組，A稱為“良態”矩陣。32設A為非奇異矩陣,用x表示(2.6.1)式的精確解,而 是擾動方程組的精確解.由Ax=b和(2.6.3)兩式相減,可知解的誤差 滿足方程由此(2.6.3)33利用矩陣的范數性質,有另外,由Ax=b又有由(2.6.4)式和(2.6.5)式,便可得:(2.6.4)(2.6.5)(2.6.6)342.6.1 矩陣的條件數定義2.6 設 為可逆矩陣,稱 為矩陣A在范數 意義下的條件數.(2.6.7)352.2

7、迭代法的一般形式與收斂性定理362.2.1迭代法的一般形式考慮求解線性代數方程組為了采用迭代法，首先要將方程組（2.2.1）改寫成等價的形式其中 為已知向量， 代表未知向量。(2.2.1)(2.2.2)37給定初始近似值 ，定義向量序列稱為迭代序列，并稱H為迭代矩陣。（2.2.3）38如果當k時， 有極限，設為則在等式（2.2.3）兩端取極限可得此式表明迭代序列的極限恰為方程組的解。因此，如果迭代序列收斂，則當k充分大時，可將x(k)取作方程組的近似解。（2.2.3）（2.2.4）39例: 解方程組,要求準確到小數點后第五位40kx1(k)x2(k)x3(k)01234567891011121

8、300.720000.971001.057001.085351.095101.098341.099441.099811.099941.099981.099991.100001.1000000.830001.070001.157101.185341.195101.198341.199441.199811.199941.199981.199991.200001.2000000.840001.150001.248201.282821.294141.295041.299341.299781.299921.299981.299991.300001.30000412.2.2迭代法的收斂性利用迭代公式（2.

9、2.3）構造序列 ，以求得方程組（2.2.2）的近似解的算法稱為解（2.2.2）式的簡單迭代法。若迭代序列 收斂，就稱此迭代法是收斂的。(2.2.2)（2.2.3）422.2.2迭代法的收斂性顯然，只有收斂的迭代法才能使用，因此必須回答在何種條件下，由公式（2.2.3）所定義的 為收斂的向量序列（2.2.3）43（2.2.3）（2.2.4）(2.2.2)(2.2.1)44根據（2.2.6）式可以判定，對任意x(0)即 的充分必要條件是 （零矩陣），k，由此得到下面結果.(2.2.6)45引理2.1迭代法（2.2.3）式對任何初始近似x(0)均收斂的充分必要條件是46引理2.2 的充分必要條件是

10、H的譜半徑47簡單迭代法收斂的基本定理定理2.4迭代法（2.2.3）式對任何初始近似x(0)均收斂的充分必要條件是迭代矩陣H的譜半徑注意矩陣的任何一種相容范數均為其譜半徑的上界，因此我們有下面結果。推論2.1若 ,（允許為任何一種相容的矩陣范數），則迭代法（2.2.3）式收斂.48一般迭代法的求解步驟依據方程組分離x得到迭代格式判斷迭代格式是否收斂迭代求解滿足終止條件,迭代結束49迭代法迭代終止條件定理2.5當 時，由迭代法（2.2.3）式所定義的序列滿足如下估計式：證明.（2.2.7）（2.2.8）50由估計式（2.2.7）可知，當時，有因此，通常可以用 作為誤差的控制量，也就是說在計算過程

11、中可以用它來判斷迭代是否應當終止。512.2.3 迭代法的收斂速度估計式（2.2.8）還表明，當k時, x(k)x*的速度不低于 的速度，這里 可取為任何一種矩陣范數，只要 即可. 另外，由迭代法收斂的基本定理可知，迭代序列 的收斂速度是由迭代矩陣H的譜半徑決定的,即x(k)x*的速度可由(H)(k)0的速度來刻畫。52討論使誤差減少初始誤差的倍所需最少迭代步數記y(k)=x(k)x* ，根據（2.2.6）式，為使 須滿足由上式兩端取對數，得到此即（2.2.9）53定義為迭代法（2.2.3）式的漸近收斂速度。（2.2.10）（2.2.9）54R(H)稱為迭代法的收斂速度是恰當的。事實上，設H1,H2為兩個不同的迭代矩陣，由公式(2.2.3)所定義的相應的迭代法分別記為方法1和方法2，并設初始向量均為x(0)。可以看出，當R(H1)R(H2)時，k1k2；特別地，當R(H1)2R(H2)時，為達到同樣的精度，方法1所需迭代次數為方法2的一半，換句話說方法1的收斂速度是方法2的兩倍。55一般迭代法的求解步驟依據方程組分離x得到迭代格式判斷迭代格式是否收斂迭代求解滿足終止條件,迭代結束56迭代法迭代收斂條件定理2.4迭代法（2.2.3）式