1、實驗報告七實驗課程：回歸分析實驗課專業：年級：姓名：學號：指導教師：完成時間：得分：19教師評語:學生收獲與思考:實驗七非線性回歸（4學時）一、實驗目的1.掌握非線性回歸模型的建模步驟3.運用SAS計算非線性回歸模型的各參數估計及相關檢驗統計量二、實驗理論與方法在實際問題中，變量之間的關系不總是線性的。我們常常會碰到某些現象的因變量與解釋變量 間的關系呈某種曲線關系。曲線形式的回歸問題，不能再照搬線性回歸的建模方法。我們把非 線性回歸問題分成兩類，一類是可線性化的，另一類是不能線性化的?？删€性化的非線性回歸，我們可以通過對變量進行變換，將模型轉化成線性回歸模型。不可線性化的非線性回歸模型，與線

2、性回歸模型的區別很大，待估參數的個數和自變量的個數沒有一定的對應關系，用最小二乘法估計時，正規方程組不再是線性的，所以它的姐一幫要用數值分析的方法求近似解，一般用牛頓迭代法，或者直接極小化殘差和。三.實驗內容1 .用DAT能建立一個永久SA蹴據集，數據集名為xt93,數據見表18;對數據集xt93,用ae，x來擬合回歸模型，乘性誤差項y = ae xe匕加性誤差項y = ue-x +名。2 .用DAT能建立一個永久SA蹴據集，數據集名為xt94,數據見表19 （y是北京市每百戶家庭平1均擁有的照相機數）；對數據集 xt94,擬合Logisitc 回歸函數y = 已知u=100,用1 b0b1u

3、線性化方法擬合，u未知，用非線性最小二乘法擬合。u的初值可取100, b0 > 0,0 < b1 < 1 o3.用DAT能建立一個永久SA蹴據集，數據集名為xt95,數據見表20,對數據集xt95,用線性 化的乘性誤差項模型擬合 C-D生產函數用非線性最小二乘擬合加性誤差項模型的C-D生產函四.實驗儀器計算機和SASa件五.實驗步驟和結果分析1.用DAT能建立一個永久SA蹴據集，數據集名為xt93,數據見表18;對數據集xt93,用ae-x來 擬合回歸模型，乘性誤差項y = «e/xeq加性誤差項y = «e x +名。1.51.4 :1,31.21.11

4、0MrQ.9OS。丁o.sl*0.51*0.4* 0.30.1* 1fDO 1£J4X散點圖，明顯看出y與x不是線性關系。x乘性誤差項-.e線性化：lny =ln a + P /x + 6 ,其中，u =ln y, a = lna, v = 1 / x對替換了的變量進行線性模型擬合，有：Pr >F< 0001方差分析平方源 自由度和均方F值模型110.9301510.930154778. 30誤差130. 029740.00229校正合計1410. 95989均方根誤差 因變量均值 變異系數0. 04783 R 方 0. 9973-1.43492 調整 R 方 0.997

5、1-3. 33311由方差分析表可以看出，P值小于0.05,可以看出該線性模型是顯著，R方和調整R方都很大，也說明擬合程度高。參數估計值變量自由度參數估計值準差 標誤七值Pr > |t|1ntercept17,855980. 03714-103. 83<.0001V16. 079910. 0879569,13<.0001由參數估計表，可以看出，兩個變量都很顯著，有線性方程:u =-3.86 6.08v回代到原方程，為：y =0.021e6O8/x一、 吩加性誤差項y = ： e x ;不能線性化，直接用非線T擬合，設初值 a =0.021, P=6.08有：源自由度平方和均方

6、F值近似Pr > F模型24. 45762. 228824029. 3<.0001誤差130* 001210. 000093未校正合計154. 4588參數估計值近似 標準誤差近似95%置信限a0. 02130.000621S 02000. 0227b6. 06050.04455. 96456. 1566可以看出，模型檢驗通過，可以認為該非線性模型擬合的好。參數檢驗的誤差也很小，參數估計的 區間不包括零點且較短，故，該非線性模型為：y =0.021e6.061/xSAS代碼： data xt93; input x y; u=log(y)； v= 1 /x; cards ; 4.2

7、0.086 4.060.093.8 0.1 3.6 0.12 3.4 0.13 3.2 0.15 30.172.8 0.19 2.6 0.22 2.4 0.24 2.2 0.35 20.441.8 0.62 1.6 0.94 1.4 1.62 ； run ;proc gplot data =xt93;plot y*x= 1 ;symboll c=red v=star i =none ; | run ;proc reg data =xt93; /*用線性擬合有乘性誤差項的模型*/model u=v;run ;Proc nlin data =xt93 method =marquardt; /*用非

8、線性擬合有加性誤差項的模型，method 設置的是模型參數近似求解方法，SAS提供五種辦法，內設是 GUASS*/Parms a= 0.021 b= 6.08 ; /*給出參數名稱并賦初值*/Model y=a*exp(b/x);Run;2.用DATA建立一個永久SA嗷據集，數據集名為xt94,數據見表19 （y是北京市每百戶家庭平均擁1-有的照相機數）；對數據集 xt94,擬合Logisitc 回歸函數y =已知u=100,用線性化方b0 b1 u法擬合，u未知，用非線性最小二乘法擬合。u的初值可取100, b0 > 0,0 < b1 <1。已知u=100,用線性化方法擬合

9、111+b0bl，即 ln( ) = ln b0 +tln b1100y 10011將Logisitc 回歸函數 y =變換為： 一-b0b1yu91令 u = ln(一 y),作 100u與t的一元線性回歸擬合。¥9C 4J4制 * 7Q .*率 缸巾x 50 .4。 *30 < 如*M 10.*1!2345616&101112131415161710 1St由散點圖，可以看出，t與y符合Logisitc回歸函數的圖像方差分析平方自由度 和 均方F值Pr >F模型誤差校正合計l39. 83947 39. 83947 1408,17 <. 000117 0.

10、4B096 0.0282918 40. 32043均方根誤差0.16820R方0. 9881因變量均值-4. 49441調整R方0. 9874變異系數-3. 74246由方差分析表，P值遠小于0.05,說明該線性模型顯著成立，且 R方=0.9881,說明擬合效果好。參數估計值參數標準變量 自由度估計值誤差t值pr>ltlIntercept1 -L 85066 0. 08033 -23. 04<. 0001t1 -0.26437 0.00705 -37.53<. 0001八由參數估計表，兩個變量都顯著。此時，模型為u = 0.264t 1.8511 1ln( )=-1.851

11、-0.264ty 100b0 =0.157,6 =0.768A1回歸方程為：y=1r0.01 0.157 0.768tu未知，用非線性最小二乘法擬合。u的初值可取100, b0 > 0,0 < b1 < 1。取初值u=100,b0=0.157,b1=0.768 ,進行非線性最小二乘法擬合：源自由度平方和均方F值近似Pr > F模型360774. 320258. 13796. 82<.0001誤差1685. 36875. 3355未校正合計1960859. 7由模型檢驗可以發現， P值小于0.05,說明該非線性模型是顯著的。參數估計值近似 標準誤差近似95*置信限b

12、00,21130. 02800. 15200. 2705bl0. 72670.01220. 70090. 7526u091.06202. 035386. 747395. 3767由參數估計，可以得出，回歸方程為y =0.211 0727t91.062y 1Sas程序：data xt94;input t y;u=log( 1/y- 1/100); cards ;17.529.8311.4413.3517.2620.6729.1834.6947.41055.51159.61262.21366.51472.71577.21682.41785.41886.81987.2Jrun proc gplot

13、data =xt94;plot y*t= 1 ;symbol1 c=red v=star i =none ; | run ;proc reg data =xt94; /*用線性擬合有乘性誤差項的模型*/model u=t;run ;Proc nlin data =xt94 method =marquardt; /*用非線性擬合有加性誤差項的模型，method 設置的是模型參數近似求解方法，SAS提供五種辦法，內設是 GUASS*/Parms b0= 0.157 b1= 0.768 u0= 100 ; /* 給出參數名稱并賦初值*/Model y= 1/( 1/u0+b0*b1*t);Run;3

14、.用DAT能建立一個永久SA嗷據集，數據集名為xt95,數據見表20,對數據集xt95,用線性化的 乘性誤差項模型擬合C-D生產函數用非線性最小二乘擬合加性誤差項模型的C-D生產函數。用線性化的乘性誤差項模型擬合C-D生產函數對乘法誤差項模型可通過兩邊取對數轉化為線性模型：lny = ln A 二二 ln K " ln L令u = ln y,b0 =ln A, x1 = ln K, x2 = ln L則回歸方程為u 0 ax1 bx2；方差分析源 自由度模型2誤差22校正合計24平方a 44568 4. 22284 1806. 77 <00010. 05142 0.002348

15、.49710均方根誤差0. 04834R方0.9939因變量均值9. 15170調整R方0.9934變異系數0. 52826調整R方為0.9934,說明生產函數擬合好，即說明GDP增長是一個指數模型參數估計值變量自由度參數估計值標準 誤差t值Pr > |t|1ntercept1-1.787981.43706-1. 240. 2265xl10. 800940. 0557114. 38<.0001x210. 40197Q. 170442.360. 0277X1 x2變量都顯著，常數項不顯著，這時的回歸方程為 ：lny = -1.78798 0.800941n K 0.401971n L

16、當InK和InL都為0時，InY為-1.78798,即當K和L都為1時，GDP為0.168,也就是說，當投入資本和勞動力都為 1單位時，GDP將增加0.168個單位，這種解釋在我們的承受范圍內，故認為模 型是可行的。最終的方程形式為：y =0.618K 0.80094 L040197人 加性誤差項，模型形式為»beta= L7854 0.8011 0,4016;用非線性最小二乘擬合加性誤差項模型的C-D生產函數。將b0=-1.7854,a= 0.80094 ,b=0.40197作為初值，進行非線性最小二乘擬合：源自由度平方和均方F值近似Pr > F模型34. 0165E9L 3

17、388E93405.65<. 0001誤差228646570393117未校正合計254. 0251E9模型的F值檢驗P值小于顯著性水平，故該模型是顯著成立的，即說明該加性誤差項模型是顯著有效的。參數估計值近似 標準誤差近似95%置信限a0. 40740.8852-L42852. 2433bl0. 86830. 06620. 73101.0057u00. 2698Q. 2430-0. 23410. 7738經過多次迭代，得到了穩定的參數值，此時的方程為：y = 0.4074K°.8683L0.2698Sas程序： data xt95; input t cpi gdp k l;

18、u=log(gdp);x1=log(k);x2=log(l); cards ;1100.003 624.11 377.9401252101.903 962.91 446.7410243109.544124.21451.5423614112.284 330.61408.1437255114.534623.11 536.9452956116.825 080.21 716.4464367119.975 977.32 057.7481978131.136 836.32 582.2498739139.657 305.42754.05128210149.857 983.22 884.35278311178

19、.028 385.93 086.85433412210.068 049.72 901.55532913216.578 564.32 975.46474914223.949 653.53 356.86549115238.271 1179.94044.26615216273.291 2673.05487.96 680817339.161 3786.95679.06 745518397.151 4724.36012.06 806519430.121 5782.86246.56 895020442.161 6840.66436.06 982021438.621 7861.66736.17 063722

20、432.481 8975.97098.97139423434.212 0604.77510.57 208524437.252 2256.08567.37 302525433.752 4247.09764.97 3740Jrun ;proc reg data =xt95;model u= x1 x2;run ;method 設置Proc nlin data =xt95 method =marquardt; /*用非線性擬合有加性誤差項的模型, 的是模型參數近似求解方法，SAS提供五種辦法，內設是 GUASS*/Parms a= 0.618 b1= 0.801 u0= 0.404 ; /* 給出參

21、數名稱并賦初值*/Model gdp=a*(k*b1)*(l*u0);Run;六.收獲與思考七.思考題本實驗的內容3中的，因為我們是線性化的模型，我們還需要做些什么？例如共線性檢驗？；解答：因為是線性化的乘性誤差項模型，首先，要對線性化回歸做自相關性檢驗（圖示檢驗法、自相關系數法、DW僉驗），若存在自相關性，則用自回歸方法，如迭代法、差分法或者BOX-CO效換消除自相關，再進行線性擬合。其次，要對該模型進行回歸共線性檢驗（方差擴大因子法、特征根判別法或者直觀判別法），若存在共線性，則剔除一些不重要的解釋變量的方法消除共線性問題，再進行線性擬合。Durb i n-Watson D0.715Pr

22、< DW<.0001Pr > DWL 0000觀測數25第一階自相關0.595DW僉驗中，0<DW=0.715<2表示有較強的正相關性，殘差存在自相關性。用迭代法消除自相關，擬合結果如下：Analysis of VarianceSourceDFSum of SquaresMeanSquareF ValuePr> FModel20.957930.47896392.97<.0001Error210025600 00122Corrected Total230.98352Root MSE0.03491R-Square0.9740Dependent Mean3.

23、33686Adj R Sq0.9715Coeff Var1.04625由方差分析表，可以看出R方為0.974,很大，說明擬合效果好，P值也說明了該模型顯著。Parameter EstimatesVariableDFParameterEstimateStandardErrort ValuePr>MIntercept1-0 904090 63520-1.420 1693xlhat10 726790.0534912.43< 0001x2hat10 526170.197142.670.0144參數檢驗，可以看出，除了常數項外，其他兩個變量都是顯著的，回歸方程為：ln y = 0.90409

24、 0.72679lnK 0.526171nL多重共線性的診斷：參數估計值變量自由度參數 估計值準差 標誤t值Pr > 111膨脹Intercept1-L 787981,43706-1.240, 22650x110. 800940. 0557114. 38C 000113.02472x210.401970 J 70442.360. 027713.02472共線性診斷個數特征值條件 指數偏差比例Interceptxlx212.996771.000000. 000005040. 000050010. 0000029820.0032130.539780. 004340. 088800. 0004

25、826430.00001630428. 756710.995650.911150.99951共線性診斷顯示，VIF1=VIF2>10 ,特征值有兩個接近于0,都說明了 x1 x2之間存在嚴重的多重共線性。即資本和勞動之間存在共線性。對上一步消除完自相關性的變量進行共線性診斷：參數估計值變量自由度參數估計值準差 標誤t值Pr > |t|差脹 方膨1ntercept1T. 904090. 63520-1.420. 16930x1 hat10. 726790. 0584912.43<.00013. 60679x2hat10.526170. 197142. 670.01443. 60

26、679共線性診斷個數特征值件數 條指偏差比例Interceptx1 hatx2hat12. 996571.000000. 000014000.000184310.0000093720.0033829. 764270.010280l 317060.0019230.00004966245. 646150.989710. 682760L 99807由方差擴大因子都小于 10,沒能看出其具有明顯的多重共線性，但是由特征值2和3都接近于0,且條件指數大于10,說明它們是存在多重共線性的。消除多重共線性方法：剔除不重要變量法，有：參數檢驗中，x2hat是除了常數項外的 T值最小的變量，剔除。方差分析源自由

27、度方和 平均方F值Pr >F模型10. 949250. 94925609. 24< 0001誤差220. 034280. 00156校正合計230. 98352均方根誤差0. 03947R方0. 9651因變量均值3. 33686調整R方0. 9636變異系數1.18292由上圖，剔除x2hat后，方差分析F (1=609.24, p值顯著小于0.05,說明模型是顯著成立的。參數估計變量自由度參數估計值準差 標誤t值Pr > |t|1ntercept10. 773290,104177.42<. 0001xlhat10. 859510. 0348224.68<. 0

28、001由參數估計表，可以看出變量都顯著，回歸模型為:yhat =0.77329 0.85951x1hat其中 yhat=y-0.6425*lag(y)x1hat=x1-0.6425*lag(x1);殘差；/hat1 hat翌但是，有殘差圖可以看出，yhat仍然存在異方差，但是現在只剩下一個變量，這是一個仍需解決的問題。data xt95;input t cpi gdp k l;y=log(gdp);x1=log(k);x2=log(l);yhat=y- 0.6425 *lag(y); /* 迭代法消除自相關性1-0.715/2=0.6425*/x1hat=x1-0.6425 *lag(x1);

29、x2hat=x2-0.6425 *lag(x2);cards ;1100.003 624.11 377.9401252101.903 962.91 446.7410243109.544124.21451.5423614112.284 330.61408.1437255114.534623.11 536.9452956116.825 080.21 716.4464367119.975 977.32 057.7481978131.136 836.32 582.2498739139.657 305.42754.05128210149.857 983.22 884.35278311178.028 38

30、5.93 086.85433412210.068 049.72 901.55532913216.578 564.32 975.46474914223.949 653.53 356.86549115238.271 1179.94044.26615216273.291 2673.05487.96 680817一339.161 3786.95679.06 745518397.151 4724.36012.06 806519430.121 5782.86246.56 895020442.161 6840.66436.06 982021438.621 7861.66736.17 063722432.48

31、1 8975.97098.97139423434.212 0604.77510.57 208524437.252 2256.08567.37 302525433.752 4247.09764.97 3740J run ;proc reg data =XT95;model y=x1 x2/ dwprob vif collin ; /* 自相關檢驗 共線性診斷 */output out =out p=yy r =r rstudent =sre cookd =cookd; /*異常值檢驗*/ run ;proc reg data =xt95;model yhat=x1hat x2hat /vif collin ; /*對消除自相關性后的變量進行共線性診斷*/run ;procreg data =xt95;model yhat=x1hat ;/*消除多重共線性，剔除 x2hat*/run ;表18序號xy序號xy14.200.08692.600.22024.060.090102.400.24