最小二乘法與曲線擬合第1頁，共38頁，2023年，2月20日，星期六為此,我們希望從給定的數據(xi,yi)出發,構造一個近似函數,不要求函數完全通過所有的數據點，只要求所得的近似曲線能反映數據的基本趨勢，如圖5-7所示。圖5-7曲線擬合示意圖

第2頁，共38頁，2023年，2月20日，星期六也就是說擬合函數在xi處的偏差(亦稱殘差）

不都嚴格地等于零。即為矛盾方程組。曲線擬合函數不要求嚴格地通過所有數據點但是,為了使近似曲線能盡量反映所給數據點的變化趨勢,要求按某種度量標準最小。若記向量即要求向量的某種范數最小,如的1-范數或∞-范數第3頁，共38頁，2023年，2月20日，星期六即為最小。這種要求誤差（偏差）平方和最小的擬合稱為曲線擬合的最小二乘法。為了便于計算、分析與應用，通常要求的2-范數實質仍然是求矛盾方程組的最小二乘解。第4頁，共38頁，2023年，2月20日，星期六

作擬合直線（1）直線擬合該直線不是通過所有的數據點,而是使偏差平方和設已知數據點,分布大致為一條直線。為最小，第5頁，共38頁，2023年，2月20日，星期六其中每組數據與擬合曲線的偏差為根據最小二乘原理，應取和使有極小值，故和應滿足下列條件：解法一：第6頁，共38頁，2023年，2月20日，星期六即得如下正規方程組

求解該方程組，解得代人即得擬合曲線。第7頁，共38頁，2023年，2月20日，星期六也可將條件帶入構成矛盾方程組其中利用解法二：第8頁，共38頁，2023年，2月20日，星期六即得如下正規方程組

求解該方程組，解得代人即得擬合曲線。第9頁，共38頁，2023年，2月20日，星期六例：某種合成纖維的強度與其拉伸倍數有直接關系，下表是實際測定的24個纖維樣品的強度與相應拉伸倍數的記錄。試確定這種關系。第10頁，共38頁，2023年，2月20日，星期六（提示：將拉伸倍數作為x,強度作為y,在座標紙上標出各點，可以發現什么?）第11頁，共38頁，2023年，2月20日，星期六

解：設y=a+bx從上圖中可以看出強度與拉伸倍數大致成線形關系，可用一條直線來表示兩者之間的關系。則：第12頁，共38頁，2023年，2月20日，星期六解得：a=0.15,b=0.859

直線方程為：y=0.15+0.859x計算出它的正規方程得第13頁，共38頁，2023年，2月20日，星期六

12341.361.371.952.2814.09416.84418.47520.963

用最小二乘法求以上數據的擬合函數例設有某實驗數據如下：解:把表中所給數據畫在坐標紙上,將會看到數據點的分布可以用一條直線來近似地描述,第14頁，共38頁，2023年，2月20日，星期六設所求的擬合直線為則正規方程組為第15頁，共38頁，2023年，2月20日，星期六解得

即得擬合直線將以上數據代入上式正規方程組,得其中第16頁，共38頁，2023年，2月20日，星期六（2）多項式擬合有時所給數據點的分布并不一定近似地呈一條直線,這時仍用直線擬合顯然是不合適的,可用多項式擬合。對于給定的一組數據，尋求次數不超過m(m<<n)的多項式，

第17頁，共38頁，2023年，2月20日，星期六來擬合所給定的數據，與線性擬合類似，使偏差的平方和為最小第18頁，共38頁，2023年，2月20日，星期六由于Q可以看作是關于

(j=0,1,2,…,m)的多元函數,故上述擬合多項式的構造問題可歸結為多元函數的極值問題。令得

第19頁，共38頁，2023年，2月20日，星期六即有

這是關于系數

的線性方程組正則方程組第20頁，共38頁，2023年，2月20日，星期六也可利用矛盾方程組來做第21頁，共38頁，2023年，2月20日，星期六即有

利用第22頁，共38頁，2023年，2月20日，星期六123456012345521123用最小二乘法求一個多項式擬合這組數據例設某實驗數據如下：解：將已給數據點描在坐標系中，可以看出這些點接近一條拋物線，因此設所求的多項式為

第23頁，共38頁，2023年，2月20日，星期六由法方程組（5.46）,

n=6,經計算得

其法方程組為

第24頁，共38頁，2023年，2月20日，星期六解之得

所求的多項式為

第25頁，共38頁，2023年，2月20日，星期六例1設函數y=f(x)的離散數據如下表所示01234500.20.40.60.811.0001.2211.4921.8222.2262.718試用二次多項式擬和上述數據解：設第26頁，共38頁，2023年，2月20日，星期六則第27頁，共38頁，2023年，2月20日，星期六由可得第28頁，共38頁，2023年，2月20日，星期六例：試用最小二乘法求形如的多項式，使之與下列數據擬合。1234529163052解：由題目可知：第29頁，共38頁，2023年，2月20日，星期六由可得第30頁，共38頁，2023年，2月20日，星期六（3）可化為線性擬合的非線性擬合12345600.511.522.52.01.00.90.60.40.3用最小二乘法求擬合曲線例設某實驗數據如下:解:將已給數據點描在坐標系中下圖所示,第31頁，共38頁，2023年，2月20日，星期六可以看出這些點接近指數曲線,因而可取指數函數作為擬合函數：對函數兩邊取對數得.令則就得到線性模型得第32頁，共38頁，2023年，2月20日，星期六則正規方程組為

其中

第33頁，共38頁，2023年，2月20日，星期六將以上數據代入上式正規方程組，得解得

第34頁，共38頁，2023年，2月20日，星期六由得于是得到擬合指數函數為由

得

第35頁，共38頁，2023年，2月20日，星期六有些非線性擬合曲線可以通過適當的變量替換轉化為線性曲線，從而用線性擬合進行處理，對于一個實際的曲線擬合問題，一般先按觀測值在直角坐標平面上描出散點圖，看一看散點的分布同哪類曲線圖形接近，然后選用相接近的曲線擬合方程。再通過適當的變量替換轉化為線性擬合問題，按線性擬合解出后