線性代數與方程求解線性代數基礎知識與方程求解方法課程概述課程目標掌握線性代數核心概念主要內容向量空間、矩陣運算、方程求解學習方法第一章：線性代數基礎向量具有大小和方向的量矩陣數的矩形陣列行列式向量的定義與表示幾何向量有大小和方向的幾何量代數向量有序數組表示n維向量向量運算向量加法對應分量相加(a?,a?)+(b?,b?)=(a?+b?,a?+b?)數乘每個分量乘以常數k·(a?,a?)=(k·a?,k·a?)點積對應分量乘積之和向量的線性相關性線性相關的定義存在不全為零的系數使向量線性組合為零向量判斷方法解向量方程或檢查秩實例分析矩陣的定義與表示1矩陣的概念按行列排列的數表2特殊矩陣類型單位矩陣、對角矩陣、對稱矩陣3矩陣的維度m×n表示m行n列矩陣運算（一）矩陣加法同型矩陣對應元素相加矩陣數乘每個元素乘以常數矩陣乘法行乘列得到新矩陣矩陣運算（二）矩陣轉置行列互換逆矩陣乘積為單位矩陣矩陣的秩線性無關行/列的最大數目行列式的定義行列式是方陣的一個標量值反映矩陣的可逆性質行列式的性質1轉置不變性|A|=|A?|2行列式展開可按任一行或列展開3代數余子式去掉某行某列后的子行列式行列式的計算方法三角化法行變換化為上三角形式拉普拉斯展開按行或列展開計算克拉默法則求解線性方程組的特殊方法第二章：線性方程組線性方程組的表示系數矩陣與增廣矩陣求解方法概述消元法、矩陣法解的結構唯一解、無窮多解或無解線性方程組的矩陣表示系數矩陣方程組中變量系數組成的矩陣增廣矩陣系數矩陣添加常數列向量形式Ax=b線性方程組的解的類型唯一解當且僅當系數矩陣滿秩無窮多解系數矩陣秩小于變量數且等于增廣矩陣秩無解系數矩陣秩小于增廣矩陣秩高斯消元法（一）消元過程逐步消去未知數回代過程從下往上求解每個未知數實例演示具體步驟解析高斯消元法（二）1主元選擇選擇最大元素作為主元提高計算穩定性2部分主元消去法每一列選最大元素作主元3全主元消去法在整個矩陣中選最大元素矩陣的初等變換行變換交換兩行、行乘常數、行加上另一行的倍數列變換交換兩列、列乘常數、列加上另一列的倍數等價矩陣通過初等變換互相轉化的矩陣線性方程組的矩陣解法逆矩陣法x=A?1b適用于系數矩陣可逆情況克拉默法則利用行列式求解僅適用于方程數等于未知數且有唯一解適用條件分析不同方法的效率與局限性齊次線性方程組定義與特點Ax=0，總有零解基礎解系通解的一組基通解的表示基礎解系的線性組合非齊次線性方程組1與齊次方程組的關系通解=齊次通解+特解2特解與通解方程Ax=b的一個解+對應齊次方程的通解3求解步驟先求特解，再求齊次通解，最后求完全通解第三章：向量空間向量空間的定義滿足加法和數乘運算的集合子空間向量空間的子集基與維數表示空間的最小向量組向量空間的定義與性質加法封閉性對任意向量u,v∈V，有u+v∈V加法交換律對任意向量u,v∈V，有u+v=v+u加法結合律對任意向量u,v,w∈V，有(u+v)+w=u+(v+w)加法零元存在0∈V，使得對任意v∈V，有v+0=v加法逆元對任意v∈V，存在-v∈V，使得v+(-v)=0子空間子空間的定義滿足向量空間運算的子集生成子空間由向量組張成的空間子空間的交與和兩個子空間的交集與和空間線性無關與線性相關定義回顧線性組合為零向量僅有零系數解判斷方法向量組成矩陣的秩等于向量個數幾何解釋二維空間中兩向量不共線，三維空間中三向量不共面基與維數1基的定義線性無關且張成整個空間的向量組2維數的概念基中向量的個數3基變換從一組基到另一組基的轉換坐標與坐標變換向量的坐標表示向量在基下的系數不同基下的坐標同一向量在不同基下的不同表示2坐標變換矩陣基之間的變換關系第四章：線性變換線性變換的定義保持線性結構的映射矩陣表示每個線性變換對應唯一矩陣特征值與特征向量變換的不變方向與縮放因子線性變換的定義與性質定義T(αu+βv)=αT(u)+βT(v)線性性質保持加法和數乘運算常見線性變換旋轉、反射、投影、伸縮線性變換的矩陣表示標準矩陣線性變換對基向量作用結果坐標變換與矩陣乘法T(v)=Av實例分析旋轉、反射等變換的矩陣線性變換的核與像核空間的定義被映射為零向量的所有向量集合像空間的定義變換后得到的向量集合維數定理dimker(T)+dimIm(T)=dimV特征值與特征向量（一）定義Av=λv，v≠0特征方程det(A-λI)=0求解方法解特征方程得特征值，再求對應特征向量特征值與特征向量（二）特征空間對應特征值的所有特征向量及零向量對角化條件n階矩陣有n個線性無關特征向量應用實例求矩陣冪、解微分方程第五章：正交性與最小二乘法內積空間定義了內積的向量空間正交投影向量在子空間上的投影最小二乘問題最佳近似解的求解內積與正交性內積的定義?u,v?=u?v?+u?v?+...+u?v?正交向量?u,v?=0施密特正交化構造正交基的方法正交基與標準正交基正交基的性質任意兩個向量正交構造方法施密特正交化過程應用優勢計算簡便，數值穩定正交投影定義與性質向量到子空間的最短距離投影矩陣P=Q(Q?Q)?1Q?幾何解釋正交分解為子空間內分量與正交分量最小二乘問題（一）求解方程Ax=b的近似解，使得||Ax-b||最小最小二乘問題（二）正規方程A?Ax=A?bQR分解法A=QR，x=R?1Q?b應用實例數據擬合、信號處理第六章：特殊矩陣與分解對稱矩陣A=A?正定矩陣x?Ax>0，對所有x≠0矩陣分解方法LU、QR、SVD等對稱矩陣的性質定義A=A?，a??=a??特征值和特征向量所有特征值為實數，特征向量可正交對角化可被正交矩陣對角化正定矩陣定義與判別x?Ax>0，所有特征值為正性質可逆、主對角線元素為正應用二次型優化、穩定性分析LU分解1定義A=LU，L為下三角，U為上三角2計算方法高斯消元過程不交換行3應用于求解線性方程組分解一次，可多次求解不同右端向量QR分解定義A=QR，Q為正交矩陣，R為上三角2Gram-Schmidt正交化構造Q和R的基本方法應用于最小二乘問題求解Ax=b的最小二乘解奇異值分解（SVD）定義A=UΣV?計算方法通過AA?和A?A的特征值和特征向量應用領域壓縮、降維、噪聲過濾第七章：迭代法求解線性方程組迭代法概述從初始估計逐步改進雅可比迭代法同時更新所有分量高斯-賽德爾迭代法逐個更新分量迭代法的基本思想1迭代公式x???1?=Mx???+c2收斂性分析譜半徑ρ(M)<1時收斂3誤差估計誤差界與收斂速度雅可比迭代法迭代次數誤差雅可比迭代法的收斂過程，誤差隨迭代次數增加而減小高斯-賽德爾迭代法算法改進使用已更新的分量收斂性比較通常比雅可比法收斂更快應用場景大型稀疏方程組SOR方法超松弛因子0<ω<2的參數最優松弛因子的選擇取決于系數矩陣的特征收斂性分析適當選擇ω可加速收斂共軛梯度法算法原理基于共軛方向的迭代法實現步驟計算殘差和共軛方向優勢與局限性對稱正定系統快速收斂第八章：特征值問題冪法求最大模特征值反冪法求最小模特征值QR算法求所有特征值冪法迭代公式：x???1?=Ax???/||Ax???||收斂到最大模特征值對應的特征向量反冪法與冪法的關系對A?1應用冪法求最小特征值收斂到A?1的最大特征值的倒數求特定特征值對(A-μI)?1應用冪法求接近μ的特征值QR算法1基本思想QR分解與相似變換結合2算法步驟A=QR，A←RQ迭代3收斂性與復雜度收斂到上三角形式，顯示特征值Lanczos算法算法原理基于Krylov子空間實現步驟構造三對角矩陣近似原矩陣特征值適用于大型稀疏矩陣僅需矩陣-向量乘法操作第九章：數值穩定性與條件數舍入誤差計算機浮點表示的固有限制病態問題輸入小擾動引起輸出大變化條件數問題敏感性的度量浮點數與舍入誤差1.5×10?1?機器精度雙精度浮點數的相對精度限制32單精度位數I