第十一講數據擬合與線性最小二乘擬合演示文稿當前第1頁\共有15頁\編于星期五\10點（優選）第十一講數據擬合與線性最小二乘擬合當前第2頁\共有15頁\編于星期五\10點2．線性最小二乘法1）.理論———基本理論之ak的確定根據最小二乘準則，記J(a1，a2，…，am)=為求a1，a2，…，am是J達到最小，只需要利用極值的必要條件得到關于a1，…，am的線性方程組當前第3頁\共有15頁\編于星期五\10點2．線性最小二乘法記，A=(a1，a2，…，am)T，y=(y1，…，yn)T，方程組(3)可表為RTRA=RTy(4)(4)稱為法方程組，當{r1(x)，…，rm(x)}線性無關時，R列滿秩，RTR可逆，于是方程組(4)有唯一解A=(RTR)-1RTy(5)可以看出，只要f(x)關于待定系數a1，…，am線性，在最小二乘準則（2）下得到的方程組(3)關于a1，a2，…，am也一定是線性的，故稱線性最小二乘法。當前第4頁\共有15頁\編于星期五\10點2．線性最小二乘法2)理論______函數rk(x)的選取面對一組數據(xi，yi)，i=1,2,…,n，用線性最小二乘法作曲線擬合時，首要的、也是關鍵的一步是恰當地選取r1(x)，r2(x)，…，rm(x)。

如果通過機理分析，能夠知道y與x之間應該有什么樣的函數關系，則r1(x)，…，rm(x)容易確定。若無法知道y與x之間的關系，通常可以將數據(xi，yi)，i=1,2,…,n作圖，直觀地判斷應該用什么樣的曲線去作擬合。人們常用的參數曲線有u

直線y=a1x+a2u

多項式y=a1xm+…+amx+am+1(一般m=2,3,不宜過高)u

雙曲線（一支）y=a1/x+a2u

指數曲線對于指數曲線，擬合前需作變量代換，化為對a1，a2的線性函數。已知一組數據，用什么樣的曲線擬合最好，可以在直觀判斷的基礎上，選擇集中曲線分別作擬合，然后比較，看那條曲線的最小二乘指標J最小。當前第5頁\共有15頁\編于星期五\10點2．線性最小二乘法3）求解方法（1）

描出數據的圖示；（2）

觀察并選擇不同的數學模型進行擬合；（3）

比較多種擬合結果，選擇其中較好的一種或者某幾種作為備選結果；注意：通常需要將非線性函數rk(x)的轉化成線性的函數Rk(x)，然后再用Rk(x)進行擬合，計算中通常需要列下表：i01…nxix0x1…xnyi=f(xi)y0y1…ynR1(x)R1(x0)R1(x1)…R1(xn)………………Rm(x)Rm(x0)Rm(x1)…Rm(xn)這樣就容易確定出法方程組RTRA=RTy。上表中后面的m行即為RT。當前第6頁\共有15頁\編于星期五\10點2．線性最小二乘法3）.算例例

給定數據(xi，f(xi))，i=0,1,2,3,4，見下表，使選擇適當的模型，求最小二乘擬合函數g(x)。

i01234xi1.001.251.501.752.00f(xi)5.105.796.537.458.46Yi=lnf(xi)1.6291.7561.8762.0082.135解：（1）、先描出數據的圖示當前第7頁\共有15頁\編于星期五\10點2．線性最小二乘法（2）選定不同的數學模型或者rk(x)進行擬合

直線模型y=a+bx

選取線性函數模型，選取Y=a+bx，此時，r1(x)=1，r2(x)=x。要求Y=a+bx與(xi，yi)，i=0,1,2,3,4，做最小二乘擬合，Yi=f(xi)。列表計算如下：i01234xi1.001.251.501.752.00Yi=f(xi)5.105.796.537.458.46r1(x)11111r2(x)1.001.251.501.752.00當前第8頁\共有15頁\編于星期五\10點2．線性最小二乘法求解法方程組得到a=1.6380，b=3.3520，于是得到該模型下的最小二乘擬合曲線為g(x)=1.6380+3.3520x。

當前第9頁\共有15頁\編于星期五\10點2．線性最小二乘法

多項式模型y=a0+a1x+a2x2

選取線性函數模型，選取Y=a+bx+cx2，此時，

r1(x)=1，r2(x)=x，r3(x)=x2。要求Y=a+bx+cx2與(xi，yi)，i=0,1,2,3,4，做最小二乘擬合，Yi=f(xi)。列表計算如下：i01234xi1.001.251.501.752.00Yi=f(xi)5.105.796.537.458.46r1(x)=111111r2(x)=x1.001.251.501.752.00r3(x)=x21.001.56252.253.06254.00當前第10頁\共有15頁\編于星期五\10點2．線性最小二乘法求解法方程組得到

a=3.6294，b=0.5406，c=0.9371，于是得到該模型下的最小二乘擬合曲線為g(x)=3.6294+0.5406x+0.9371x2當前第11頁\共有15頁\編于星期五\10點2．線性最小二乘法

雙曲線模型y=1/(a0+a1x)

選取雙曲函數模型，例如，選取y=1/(a0+a1x)，令Y=1/y=a0+a1x，此時，r1(x)=1，r2(x)=x。要求Y=a0+a1x與(xi，yi)，i=0,1,2,3,4，做最小二乘擬合，Yi=1/f(xi)。列表計算如下：i01234xi1.001.251.501.752.00f(xi)5.105.796.537.458.46Yi=1/f(xi)0.1960780.1727120.1531390.1342280.118203r1(x)11111r2(x)1.001.251.501.752.00當前第12頁\共有15頁\編于星期五\10點2．線性最小二乘法求解法方程組得到

a0=0.27139，a1=-0.07768，于是得到該模型下的最小二乘擬合曲線為g(x)=1/(0.27139-0.07768x)。

當前第13頁\共有15頁\編于星期五\10點2．線性最小二乘法

l

指數曲線模型y=aebx

根據給定數據選擇數據模型y=aebx，取對數lny=lna+bx，令Y=lny，A=lna，取r1(x)=1，r2(x)=x，要求Y=A+bx與(xi，Yi)，i=0,1,2,3,4，做最小二乘擬合，Yi=lnf(xi)。計算結果如下：

i01234xi1.001.251.501.752.00f(xi)5.105.796.537.458.46Yi=lnf(xi)1.6292405401.7561322921.876406942.008214032.13534917r1(x)111