1、第四章 多重共線(xiàn)性 多重共線(xiàn)性定義 多重共線(xiàn)性影響 多重共線(xiàn)性確認(rèn)和解決方法 應(yīng)用多重共線(xiàn)性定義完全共線(xiàn)性 多元回歸模型的假設(shè)之一是模型中任何自變量間不存在精確的線(xiàn)性關(guān)系，若這種線(xiàn)性關(guān)系存在，則認(rèn)為自變量是完全共線(xiàn)的或存在完全共線(xiàn)性。如： 表示每周平均學(xué)習(xí)的小時(shí)數(shù) 表示每天平均學(xué)習(xí)的小時(shí)數(shù)顯然 ，所以?xún)蓚€(gè)變量是完全共線(xiàn)的。完全共線(xiàn)性易發(fā)現(xiàn)，因?yàn)樗鼤?huì)使參數(shù)的最小二乘估計(jì)求不出完全共線(xiàn)性的后果用離差形式正規(guī)方程若兩個(gè)變量存在完全共線(xiàn)性，則參數(shù)沒(méi)有唯一解。多重共線(xiàn)性定義 多重共線(xiàn)性是指兩個(gè)或多個(gè)自變量之間存在高度相關(guān)。 存在多重共線(xiàn)性時(shí)，仍然能獲得參數(shù)的最小二乘估計(jì)，但很難對(duì)系數(shù)做出合理的解釋。多重

2、共線(xiàn)性產(chǎn)生原因經(jīng)濟(jì)變量間通常存在共同的變化趨勢(shì)經(jīng)濟(jì)變量間往往存在著密切的關(guān)聯(lián)度模型中采用滯后變量解釋變量選擇不當(dāng)多重共線(xiàn)性影響多重共線(xiàn)性影響 存在多重共線(xiàn)性時(shí)，雖然估計(jì)量還是最優(yōu)線(xiàn)性無(wú)偏估計(jì) (BLUE)，但標(biāo)準(zhǔn)誤通常較高，導(dǎo)致t統(tǒng)計(jì)量值較低和不顯著。兩個(gè)自變量時(shí)多重共線(xiàn)性影響(續(xù))是第j個(gè)解釋變量對(duì)模型中其它解釋變量作輔助回歸模型時(shí)的決定系數(shù)。定義為方差膨脹因子例 設(shè)HOUSING為t年的動(dòng)工的住房單位數(shù)量，POP是該年以百萬(wàn)計(jì)的人口，GNP是以十億計(jì)的國(guó)民生產(chǎn)總值，INTRATE為百分制新房抵押利率。數(shù)據(jù)data41.xls，估計(jì)下面三個(gè)模型：相關(guān)系數(shù)矩陣意味高度正相關(guān)cd D:econo

3、metrics15zdataload data71.wf1group group1 gnp pop intratecor group1group1.corGNPPOPINTRATEGNP10.9903860.879361POP0.99038610.912876INTRATE0.8793610.9128761模型估計(jì)結(jié)果變量 模型(1) 模型(2) 模型(3) C -3812.93 687.90 -1315.75 (-2.40) (1.80) (-0.27)INTRATE -198.40 -169.66 -184.75 (-3.87) (-3.87) (-3.18)POP 33.82 14.90

4、 (3.61) (0.41)GNP 0.91 0.52 (3.64) (0.54)F 7.50 7.61 4.92Adj.R sq 0.371 0.375 0.348通過(guò)t統(tǒng)計(jì)量和F統(tǒng)計(jì)量可初步判斷存在共線(xiàn)性equation eq1.ls housing c intrate popequation eq2.ls housing c intrate gnpequation eq3.ls housing c intrate pop gnpeq1.resultseq2.resultseq2.results多重共線(xiàn)性確認(rèn)和解決方法多重共線(xiàn)性確認(rèn) 值較高，t統(tǒng)計(jì)量值低解釋變量間的高相關(guān)系數(shù)值通過(guò)增減變量

5、來(lái)觀察回歸系數(shù)的變動(dòng)是否很大通過(guò)方差膨脹因子來(lái)判斷，一般認(rèn)為大于10時(shí)存在較為嚴(yán)重的共線(xiàn)性計(jì)算解釋變量矩陣的條件數(shù)指數(shù)，超過(guò)30(20,Greene)意味著存在嚴(yán)重的共線(xiàn)性。條件數(shù)指數(shù)的一種計(jì)算方法group gr1 c gnp pop intratematrix m=convert(gr1)sym X=transpose(m)*mvector v=eigenvalues(X)scalar lammax=max(v)scalar lammin=min(v)scalar xcond=sqrt(lammax/lammin)scalar xxcond=cond(X)上例(續(xù))方差膨脹因子計(jì)算equa

6、tion eq4.ls gnp c intrate popequation eq5.ls pop c intrate gnpequation eq6.ls intrate c pop gnpgenr vif1=1/(1-eq4.r2)genr vif2=1/(1-eq5.r2)genr vif3=1/(1-eq6.r2)show vif1show vif2show vif3 library(car) taoattach(tao) vif(lm(housingintrate+pop+gnp) intrate pop gnp 7.425353 87.978078 64.669527 XX kapp

7、a(XX,exact=T)1 236205.4R解決辦法忽略著重預(yù)測(cè)；回歸系數(shù)的符號(hào)和大小； 理論方面的要求等。去除變量通常去除t統(tǒng)計(jì)量不顯著的重建模型增加樣本容量其它嶺回歸、主成分分析前例的模型重建注：這樣處理一般只能降低多重共線(xiàn)性而不能完全消除show cor(GNP/pop,intrate)應(yīng)用 考察加利福利亞州58個(gè)縣的貧困率與影響這些比率的若干因素。因變量為povrate，指生活在貧困線(xiàn)以下的家庭百分比。自變量如下：urb城市人口百分比f(wàn)amsize每個(gè)家庭的人口數(shù)量unemp失業(yè)率百分比highschl只受過(guò)中學(xué)教育的人口(25歲及以上)百分比college完成大學(xué)四年或更高教育的人口(25歲及以上)百分比medinc中等家庭收入，以千美元計(jì)數(shù)據(jù)data72.xls程序72.prg模型比較全部變量不含自變量unemp不含自