1、數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS第3章 曲線擬合的最小二乘法 給出一組離散點(diǎn)，確定一個(gè)函數(shù)逼近原函數(shù)，插值是這樣的一種手段。在實(shí)際中，數(shù)據(jù)不可避免的會(huì)有誤差，插值函數(shù)會(huì)將這些誤差也包括在內(nèi)。 因此，我們需要一種新的逼近原函數(shù)的手段：不要求過所有的點(diǎn)（可以消除誤差影響）；盡可能表現(xiàn)數(shù)據(jù)的趨勢(shì)，靠近這些點(diǎn)。數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS 有時(shí)候，問題本身不要求構(gòu)造

2、的函數(shù)過所有的點(diǎn)。如：5個(gè)風(fēng)景點(diǎn)，要修一條公路S使得S為直線，且到所有風(fēng)景點(diǎn)的距離和最小。先講些預(yù)備知識(shí) 對(duì)如上2類問題，有一個(gè)共同的數(shù)學(xué)提法：找函數(shù)空間上的函數(shù)g，使得g到f的距離最小。數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定義1：向量范數(shù)向量范數(shù)映射：滿足：0: RRn非負(fù)性00, 0XXX且齊次性XaaXRa,三角不等式Y(jié)XYX稱該映射為向量的一種范數(shù)范數(shù)預(yù)備知識(shí)我們定義兩點(diǎn)的距離距離為：YX 數(shù) 學(xué) 系University of Science and Technology

3、of ChinaDEPARTMENT OF MATHEMATICS常見的范數(shù)有：nniixxxXxX,)(21122nixxxXxX,max21nniixxxXxX,2111定義2：函數(shù)f，g的關(guān)于離散點(diǎn)列 niix0的離散內(nèi)積離散內(nèi)積為：niiiDxgxfgf0)()(),(數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS定義3：函數(shù)f的離散范數(shù)離散范數(shù)為niiiDxfxff0)()(提示：該種內(nèi)積，范數(shù)的定義與向量的2范數(shù)一致我們還可以定義函數(shù)的離散范數(shù)為：01010110(),(),()

4、max(),(),()(),(),()( )nnDnniDiff xf xf xf xf xf xff xf xf xf x數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSf(x)為定義在區(qū)間a,b上的函數(shù)， 為區(qū)間上n+1個(gè)互不相同的點(diǎn)， 為給定的某一函數(shù)類。求 上的函數(shù)g(x)滿足f(x)和g(x)的距離最小 0niix如果這種距離取為2范數(shù)的話，稱為最小二乘問題曲線擬合的最小二乘問題定義定義數(shù) 學(xué) 系University of Science and Technology of Chin

5、aDEPARTMENT OF MATHEMATICS下面我們來看看最小二乘問題：求 使得 最小)(xgniiixfxgR022)()(設(shè),10nspan)()()(00 xaxaxgnnDnnxaxaxf)()()(00DDxfxxfxg)()(min)()(最小則即關(guān)于系數(shù),10naaa數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS20020020020,001 ( )( )( )2(,( )( ) ( )( )2,(,)nnDnnDDnnDnnkkikikDki knfxaxaxff a

6、xaxaxaxfafa aQ aaa由于它關(guān)于系數(shù),10naaa最小，因此有：niaQi, 0, 0即nifainkkik, 0),(),(0數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICS寫成矩陣形式有：DnDnDnnDnDnDffaa,000000法方程法方程由,10n的線性無關(guān)性，知道該方程存在唯一解數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSbxay DDDDDDxffbaxxxx

7、,1 ,1 , 11 , 1第一步：函數(shù)空間的基x, 1，然后列出法方程baxy2 DDDDDDfxfbaxxxx1 ,1 , 1, 1, 1,22222第一步：函數(shù)空間的基1 ,2x，然后列出法方程例：數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSbaxy23703456334558.3ab 3212414.38.34.78.322.7xy第一步：函數(shù)空間的基1 ,2x，然后列出法方程DDDDDDfxfbaxxxx1 ,1 , 1, 1, 1,222220.8327167.49691ab 數(shù) 學(xué) 系University of Science and Technology of ChinaDEPARTMENT OF MATHEMATICSbxaey 由bxay lnln，可以先做bxay*bxayeeey*3212414.38.34.78.322.7ln2.660262.116261.547562.116263.12236xyy1,11,11,DDDDDDxfaxx xf xb 5011.56270342.9611ab 2.312540.0870912ab 數(shù) 學(xué) 系University of Science and Technolog