1、第第3 3講講 多元線性回歸模型多元線性回歸模型3.1 多元線性回歸模型的估計3.1.1 3.1.1 多元線性回歸模型及其矩陣表示多元線性回歸模型及其矩陣表示 在計量經濟學中，將含有兩個以上解釋變量的回歸模型叫做多元回歸模型，相應地，在此基礎上進行的回歸分析就叫多元回歸分析。 它是解釋變量的多元線性函數，稱為多元線性總體回歸方程。 假定通過適當的方法可估計出未知參數的值，用參數估計值替換總體回歸函數的未知參數，就得到多元線性樣本回歸方程:它代表了總體變量間的依存規律。3.1.2 3.1.2 多元線性回歸模型的基本假定多元線性回歸模型的基本假定 假設6： 解釋變量之間不存在多重共線性 假設1用矩

2、陣形式表示： 3.1.3 多元線性回歸模型的估計1 1參數的最小二乘估計參數的最小二乘估計上述（k+1）個方程稱為正規方程。用矩陣表示就是： 即 :將上述過程用矩陣表示如下：根據矩陣求導法則可得：t 例例 3.1.13.1.1 經過研究，發現家庭書刊消費水平受家庭收入及戶主受教育年數的影響。現對某地區的家庭進行抽樣調查，得到樣本數據如表3.1.1所示，其中y表示家庭書刊消費水平(元/年)，x表示家庭收入(元月)，T 表示戶主受教育年數。下面我們估計家庭書刊消費水平同家庭收入、戶主受教育年數之間的線性關系。表3.1.1 某地區家庭書刊消費水平及影響因素的調查數據表家庭書刊消費家庭書刊消費 y y

3、家庭收入家庭收入 x x戶主受教育年數戶主受教育年數 T T450.0450.01027.21027.28 8507.7507.71045.21045.29 9613.9613.91225.81225.81212563.4563.41312.21312.29 9501.5501.51316.41316.47 7781.5781.51442.41442.41515541.8541.81641.01641.09 9611.1611.11768.81768.810101222.11222.11981.21981.21818793.2793.21998.61998.61414660.8660.8219

4、6.02196.01010792.7792.72105.42105.41212580.8580.82147.42147.48 8612.7612.72154.02154.01010890.8890.82231.42231.414141121.01121.02611.82611.818181094.21094.23143.43143.416161253.01253.03624.63624.62020借助于計量經濟軟件EViews對表3.1.1進行分析，具體步驟為(1)建立工作文件；(2)輸入數據；(3)回歸分析表3.1.2 回歸結果2 2最小二乘估計量的性質最小二乘估計量的性質用最小二乘法得到的

5、多元線性回歸的參數估計量具有線性、無偏性、最小方差性。3.1.4 隨機誤差項方差的估計若記3.2 多元線性回歸模型的檢驗3.2.1 3.2.1 擬合優度檢驗擬合優度檢驗擬合優度是指樣本回歸直線與觀測值之間的擬合程度。1多重決定系數 總離差平方和=殘差平方和+ 回歸平方和 自由度: （n-1）= （n-k-1）+ kESS：由回歸直線（即解釋變量）所解釋的部分，表示x對y的線性影響。RSS：是未被回歸直線解釋的部分，由解釋變量x對y影響以外的因素而造成的。 多重決定系數或決定系數是指解釋變差占總變差的比重，用來表述解釋變量對被解釋變量的解釋程度：2修正的決定系數（1）用自由度調整后，可以消除擬合

6、優度評價中解釋變量多少對決定系數計算的影響；（2）對于包含的解釋變量個數不同的模型，可以用調整后的決定系數直接比較它們的擬合優度的高低。修正的決定系數與未經修正的多重決定系數之間有如下關系：3.2.2 赤池信息準則和施瓦茨準則 為了比較所含解釋變量個數不同的多元回歸模型的擬合優度，常用的標準還有赤池信息準則（Akaike information criterion,AIC）和施瓦茨準則（Schwarz criterion,SC）,其定義分別為 這兩個準則均要求僅當所增加的解釋變量能夠減少AIC或SC值時才能在原模型中增加該解釋變量。3.2.3 偏相關系數3.2.3 回歸模型的總體顯著性檢驗：F

7、檢驗 回歸模型的總體顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立作出推斷。 檢驗模型中被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立，即是檢驗方程：圖3.2.1 陰影部分為F檢驗的否定區域 F 檢驗的具體步驟為： 借助于計量經濟軟件EViews對表3.1.1中的樣本回歸方程作F檢驗。 F 統計量的值：F =146.2973，n =18，n-k-1=18-2-1=15，在5%的顯著性水平下，查自由度為(2，15)的F分布表，得臨界值3.2.4 回歸參數的顯著性檢驗：t檢驗 回歸參數的顯著性檢驗，目的在于檢驗當其他解釋變量不變時，該回歸系數對應的解釋變量是

8、否對因變量有顯著影響。 由參數估計量的分布性質可知，回歸系數的估計量服從如下正態分布：用t統計量進行回歸參數的顯著性檢驗，其具體過程如下： 借助于計量經濟軟件EViews對表3.1.1中的樣本回歸方程的系數作顯著性檢驗: 至此，我們已全面分析了例3.1.1所提出的問題。現將從例3.1.1的回歸分析結果整理如下：3.3 3.3 多元線性回歸模型的預測多元線性回歸模型的預測3.3.1 點預測 點預測就是根據給定解釋變量的值，預測相應的被解釋變量的一個可能值。設多元線性回歸模型為:3.3.2 區間預測3.4 3.4 非線性回歸模型非線性回歸模型3.4.1 可線性化模型 在非線性回歸模型中，有一些模型

9、經過適當的變量變換或函數變換就可以轉化成線性回歸模型，從而將非線性回歸模型的參數估計問題轉化成線性回歸模型的參數估計，稱這類模型為可線性化模型。 1對數模型 模型形式： 模型適用對象：模型適用對象：對觀測值取對數，將取對數后的觀測值（lnx，lny）描成散點圖，如果近似為一條直線，則適合于對數線性模型來描述x與y的變量關系。 容易推廣到模型中存在多個解釋變量的情形。例如，柯布道格拉斯生產函數形式： 例3.4.1 根據表3.4.1給出的1980-2003年間總產出(用國內生產總值GDP度量，單位：億元)，勞動投入L(用從業人員度量，單位為萬人)，以及資本投入K(用全社會固定投資度量，單位：億元)

10、。表3.4.1 1980-2003年中國GDP、勞動投入與資本投入數據年份GDPLK19804517.842361910.919814862.443725961.019825294.7452951230.419835934.5464361430.119847171.0481971832.919858964.4498732543.2198610202.2512823120.6年份GDPLK198711962.5527833791.7198814928.3543344753.8198916909.2553294410.4199018547.9639094517.0199121617.8647995

11、594.5199226638.1655548080.1199334634.46637313072.3199446759.46719917042.1199558478.16794720019.3199667884.66885022913.5199774462.66960024941.1199878345.26995728406.2199982067.57139429854.7200089442.27208532917.7200195933.37302537213.52002102398.07374043499.92003117251.97443255566.6 利用EViews軟件解題如下：首先

12、建立工作文件，其次輸入樣本數據Q、L、K，再次，在EViews軟件的命令窗口，依次鍵入：GENR lnGDP=LOG(GDP)GENR lnL=LOG(L)GENR lnK=LOG(K)LS lnGDP C lnL lnK輸出結果如下(表3.4.2)：表3.4.2 回歸結果 2半對數模型 在對經濟變量的變動規律研究中，測定其增長率或衰減率是一個重要方面。在回歸分析中，我們可以用半對數模型來測度這些增長率。 模型形式：模型形式：3倒數模型 4多項式模型 多項式回歸模型在生產與成本函數這個領域中被廣泛地使用。多項式回歸模型可表示為3.4.2 非線性化模型的處理方法 無論通過什么變換都不可能實現線性

13、化，這樣的模型稱為非線性化模型。對于非線性化模型，一般采用高斯牛頓迭代法進行估計，即將其展開成泰勒級數之后，再利用迭代估計方法進行估計。3.4.3 回歸模型的比較 1 1圖形觀察分析圖形觀察分析 (1)觀察被解釋變量和解釋變量的趨勢圖。 (2)觀察被解釋變量與解釋變量的相關圖。 2 2模型估計結果觀察分析模型估計結果觀察分析 對于每個模型的估計結果，可以依次觀察以下內容： (1)回歸系數的符號和值的大小是否符合經濟意義，這是對所估計模型的最基本要求。 (2)改變模型形式之后是否使判定系數的值明顯提高。 (3)各個解釋變量t檢驗的顯著性。 (4)系數的估計誤差較小。3殘差分布觀察分析 模型的殘差

14、反映了模型未能解釋部分的變化情況，在方程窗口點擊ViewActual，Fitted，ResidualTable(或Graph)，可以觀察分析以下內容： (1)殘差分布表中，各期殘差是否大都落在的虛線框內，這直觀地反映了模型擬合誤差的大小及變化情況。 (2)殘差分布是否具有某種規律性，即是否存在著系統誤差。 (3)近期殘差的分布情況。 另外，利用判定系數比較模型的擬合優度時，如果兩個模型包含的解釋變量個數不同，則應采用“調整的判定系數”。 除了調整的判定系數之外，人們還使用另外兩個指標SC（Schwarz Criterion，施瓦茲準則）和AIC(Akaike lnformation Crite

15、rion，赤池信息準則)來比較含有不同解釋變量個數模型的擬合優度。 3.5 3.5 受約束回歸受約束回歸 在建立回歸模型時，有時根據經濟理論需要對模型中變量的參數施加一定的約束條件。對模型施加約束條件后進行回歸，稱為受約束回歸(restricted regresslon)，與此對應，不加任何約束的回歸稱為無約束回歸(unrestricted regression)。3.5.1 模型參數的線性約束 一般地，估計線性模型時可對模型參數施加若干個線性約束條件。例如，對模型其中式中第二項為一非負標量，于是 式(3.5.9)表明受約束樣本回歸模型的殘差平方和大于無約束樣本回歸模型的殘差平方和，這意味著，

16、通常情況下，對模型施加約束條件會降低模型的解釋能力。 約束條件的個數。表3.5.1 無約束條件的C-D生產函數估計結果表3.5.2 有約束條件的C-D生產函數估計結果 在EViews軟件中，當估計完C-D生產函數后，在方程結果輸出窗口，點擊View按鈕，然后在下拉菜單中選擇Coefficient TestWald Coefficient Restrictions,屏幕出現圖3.5.1對話框。 圖3.5.1 Wald檢驗定義對話框 在對話框中輸入系數的約束條件，若有多個，則用逗號分開。本例中輸入：C（2）+C（3）=1，得檢驗結果見表3.5.3。表3.5.3 Wald檢驗輸出結果 由表3.5.3

17、可知，在0.05顯著性水平下，兩個檢驗均仍然不能拒絕和為1的原假設，原假設為真。這個結果與直觀判斷差異明顯，主要是因為變量LOG（L）的回歸系數標準誤差較大。 需要指出的是，這里介紹的F檢驗適合所有關于參數線性約束的檢驗，32節中對回歸模型總體的線性檢驗，可以歸結到這里的F檢驗上來。 3.5.2 3.5.2 解釋變量的選擇解釋變量的選擇 在實際建模時，選取哪些變量作為解釋變量引入模型，對模型的優劣有直接的影響作用。模型中，既不能遺漏重要的解釋變量，又要防止過多的變量帶來的多重共線性問題或對因變量沒有什么影響的不必要的解釋變量。這里介紹兩種有用的用于選擇解釋變量的檢驗。 考慮如下兩個回歸模型：

18、在EViews軟件中，要檢驗冗余變量，選擇Equation工具欄中的ViewCoefficient TestRedundant Variable功能。在對話框中輸入需要檢驗的變量。 Testadd 檢驗用于在方程中檢驗引入新的解釋變量，檢驗引入引入新的解釋變量是否對模型有利。要檢驗缺失變量，選擇Equation工具欄中的ViewCoefficient TestOmitted Variable功能。在對話框中輸入需要檢驗的變量。 在例3.4.1的方程窗口（表3.4.2）輸出結果中選擇ViewCoefficient TestRedundant Variable-Likelihood Ratio，屏

19、幕出現對話圖3.5.2框。圖3.5.2 多余變量檢驗定義對話框 在話框中輸入希望減少的序列名。在本例，輸入LOG（L），點擊OK，計算結果如表3.5.4所示。表3.5.4 Testdrop檢驗輸出結果 與Wald檢驗類似，EViews也給出F統計量和相伴概率。這里，在0.05顯著性水平下，兩個檢驗均拒絕變量LOG（L）不顯著的假設，LOG（L）不是多余的變量，說明勞動投入量對GDP有顯著影響。3.5.3 參數的穩定性檢驗：鄒氏檢驗 建立模型時往往希望模型的參數是穩定的，即所謂的結構不變，這將提高模型的預測與分析功能。然而，經濟結構的變化往往導致計量經濟模型結構也發生變化。例如，例3.4.1我國

20、C-D生產函數例子中，從GDP、L、K散點圖的變化上容易判斷1992年前后這種結構的變化。下面給出一個結構變化的檢驗。圖3.5.3 中國1980-2003年GDP、L、K散點圖 這兩個回歸方程是否顯著的不同？如果這兩個回歸方程的差別并不顯著，說明模型所反映的經濟結構在時間上(或截面上)是穩定的。否則是不穩定的。鄒至莊(Chow)提出了如下的Chow檢驗。 因此，對參數穩定性的原假設(3.5.22)的檢驗步驟為： 首先，分別以兩個連續的時間序列作為兩個樣本運用式(3.5.18)進行回歸，得到相應的殘差平方和 RSS1與 RSS2； 其次，將兩序列并為一個大樣本后運用式(3.5.18)進行回歸，得

21、到大樣本下的殘差平方和 RSSR； 最后，通過式(3.5.25)的F統計量，在事先給定的顯著性水平下進行假設檢驗。如果F大于相應的臨界值，則拒絕原假設，認為發生了結構變化，參數是非穩定的。該檢驗方法也被稱為鄒氏參數穩定性檢驗(Chow test for parameter stability)。 本例利用EViews軟件進行Chow檢驗。在操作上，首先根據表3.4.1，利用EViews軟件可得如下結果（見表3.5.5）。 表3.5.5 回歸結果 在方程窗口按View/Stability Tests/Chow Breakpoint Test順序逐一單擊鼠標鍵，打開Chow Test對話框（圖3.

22、5.4）。圖3.5.4 打開Chow Test對話框然后在對話框內輸入轉折點年份，1992（圖3.5.5）。圖3.5.5 Chow Test 對話框 計算結果如表3.5.6所示。表3.5.6 計算結果 根據F分布表，可得在5的顯著性水平下，F臨界值為3.55(分子自由度為3，分母自由度為18)。因此，得到F值2.9355小于臨界值為3.55，接受原假設。由此可知中國GDP和L、K間的關系（即C-D生產函數），在不同時期（1980-1991與1992-2003）沒有什么不同，即中國C-D生產函數結構是穩定的。 在運用Chow檢驗時，需要注意以下一些限制條件： (1)必須滿足上面講到的古典假定條件

23、。 (2)Chow檢驗的結果僅僅告訴我們是否存在結構差異，而無法得知導致這種差異的原因。 (3)Chow檢驗假定知道結構發生變化的時間點。 3.6 3.6 案例分析案例分析中國經濟增長影響因素分析中國經濟增長影響因素分析 根據表3.6.1給出的1980-2003年間總產出(用國內生產總值GDP度量，單位：億元)，最終消費CS(單位：億元)，投資總額I(用固定資產投資總額度量，單位：億元)，出口總額（單位：億元）統計數據，試對中國經濟增長影響因素進行回歸分析。表3.6.1 1980-2003年中國GDP、最終消費、投資與出口總額（單位：億元）年 份GDP最終消費CS投資總額I出口總額EX198916466.010556.54410.41956.1199018319.511365.24517.02985.8199121280.413145.95594.53827.1199225863.715952.18080.14676.3199334500.720182.113072.35284.8199446690.726796.017042.110421.8199558510.533635.020019.312451.8199668330.440003.922974.012576.4199774894.243579.424941.1