第二章回歸分析第1頁，課件共60頁，創作于2023年2月回歸分析：

研究處于同一總體中兩個或兩個以上變量之間的相關關系的數學工具。

相關關系

1.確定關系（函數關系）如：U=IR···2.相關關系（不確定關系）如：樹高與胸徑，產量與施肥量的關系。第2頁，課件共60頁，創作于2023年2月

相關關系——如給定X的任一具體取值，對應的Y是一隨機變量,服從一定的概率分布；同時給定Y的任一個具體取值時，對應的X是一隨機變量,服從一定的概率分布.

回歸關系——相關關系中，如果X容易確定或可控制，即為非隨機變量，Y是隨機變量，則稱Y對X存在回歸關系。

X：預報因子Y：預報量相關關系與回歸關系第3頁，課件共60頁，創作于2023年2月§2.1一元回歸2.1.1回歸分析概述第4頁，課件共60頁，創作于2023年2月

回歸函數（

回歸方程）

因變量自變量自變量：預報因子的取值因變量：預報量的期望（均值）問題1：回歸方程有何意義？問題2：如何求得回歸方程？第5頁，課件共60頁，創作于2023年2月

回歸模型

第6頁，課件共60頁，創作于2023年2月

回歸函數

散點圖：把觀測數據用散點表示在平面直角坐標上

實際中，回歸函數不易得到，用如下辦法確定：（1）先確定形式：用專業知識或散點圖；（2）確定系數：用最小二乘法

X與У之間具有線性回歸關系，散點圖呈線性，回歸函數是線性函數。第7頁，課件共60頁，創作于2023年2月一元線性回歸自變量為一個（一元），回歸函數是線性的。

設回歸方程的形式為：

常數項回歸系數一元線性回歸方程模型

關鍵：求出常數項和一次項系數（回歸系數）辦法：由樣本觀測值，估計出直線方程。第8頁，課件共60頁，創作于2023年2月一元線性回歸滿足的前提正態，獨立，等方差第9頁，課件共60頁，創作于2023年2月2.1.2參數估計1.普通最小二乘法（OLSE）第10頁，課件共60頁，創作于2023年2月

（1）構造殘差平方和:求出常數項和回歸系數回歸值實測值請問：殘差平方和表示什么？第11頁，課件共60頁，創作于2023年2月（2）確定系數，使殘差達到最小（最小二乘法）求出常數項和回歸系數為什么？怎么做？求導數并令導數為零第12頁，課件共60頁，創作于2023年2月解得：其中：預報因子平均值預報量平均值第13頁，課件共60頁，創作于2023年2月幾個平方和記為：注意對比記憶公式第14頁，課件共60頁，創作于2023年2月

求回歸方程的例題

例設從某油松林地隨機抽得10株油松，測得胸徑與樹高如下表所示:胸徑x(cm)4.25.15.96.57.38.18.69.09.7樹高y(m)5.74.66.47.87.58.49.29.59.6試求樹高y對胸徑x的經驗回歸方程。第15頁，課件共60頁，創作于2023年2月解：設回歸方程為：經計算得：第一行數據之和第二行數據之和兩行數據交叉乘積之和第16頁，課件共60頁，創作于2023年2月計算平方和得：X的離差平方和X和Y的協方差第17頁，課件共60頁，創作于2023年2月所以：所求回歸方程為：第18頁，課件共60頁，創作于2023年2月2.1.3一元線性回歸的顯著性檢驗3種方法1.方差分析法（F檢驗）2.樣本相關系數法（r檢驗）3.T檢驗第19頁，課件共60頁，創作于2023年2月

1.方差分析法(F檢驗)：總的離差平方和：回歸平方和U=SSR殘差平方和Q=SSE第20頁，課件共60頁，創作于2023年2月構造檢驗統計量即回歸關系顯著第21頁，課件共60頁，創作于2023年2月2.樣本相關系數法

樣本相關系數：大小能反映X與Y間的相關關系第22頁，課件共60頁，創作于2023年2月

樣本相關系數的特點：

（1）

|r|≤1（2）

r>0，則X與Y正相關；

r<0，X與Y負相關；(3)|r|=1時，X與Y典型線性關系

(4)r=0,X與Y不相關（沒線性關系)(5)|r|越大，線性相關關系越顯著。第23頁，課件共60頁，創作于2023年2月樣本相關系數特點第24頁，課件共60頁，創作于2023年2月

檢驗線性相關關系的步驟

（1）計算r值；（2）

臨界值rα(n-2)（3）當|r|≥rα(n-2)時，X與Y的線性相關關系顯著，否則，不顯著。

第25頁，課件共60頁，創作于2023年2月樣本決定系數法樣本決定系數：樣本決定系數=（樣本相關系數）2第26頁，課件共60頁，創作于2023年2月3.T檢驗法

t統計量：第27頁，課件共60頁，創作于2023年2月回歸分析的顯著性檢驗的例題解：計算樣本相關系數查表得臨界值r0.01(8)=0.7646例：檢驗例9.2.1的線性關系是否顯著∵r>r0.01(8)∴線性關系極顯著

第28頁，課件共60頁，創作于2023年2月2.1.4

利用回歸方程預測步驟：第29頁，課件共60頁，創作于2023年2月第30頁，課件共60頁，創作于2023年2月

回歸分析的例題x(cm)林木平均高20222426283032343638y(m3)木材蓄積量314376436495585615671733755835例在某油松林地中，隨機抽取10塊樣地測量其林木平均高與木材蓄積量的資料如下第31頁，課件共60頁，創作于2023年2月

（1）試求木材蓄積量y對林木平均高x的經驗直線回歸方程。（2）檢驗線性回歸的顯著性；(3)

當林木平均高為25m時，以95%的可靠性確定木材蓄積量的置信區間。自己考慮應如何解答？第32頁，課件共60頁，創作于2023年2月解：(1)設回歸方程為：經計算得：第33頁，課件共60頁，創作于2023年2月所以：所求回歸方程為：第34頁，課件共60頁，創作于2023年2月（2）解：計算樣本相關系數對顯著性水平0.01，查表得臨界值r0.01(8)=0.7646∵r>r0.01(8)∴線性關系極顯著第35頁，課件共60頁，創作于2023年2月第36頁，課件共60頁，創作于2023年2月第37頁，課件共60頁，創作于2023年2月第38頁，課件共60頁，創作于2023年2月

請利用一元回歸分析的方法解決一個實際問題（包括收集數據，設計方法，并求解）例如：研究人的身高與體重的關系；數學成績與外語成績的關系……第39頁，課件共60頁，創作于2023年2月§2.2多元回歸

第40頁，課件共60頁，創作于2023年2月2.2.1多元回歸概述

因變量(響應變量)為y（一個），自變量(回歸變量)為xi（i＝1,2,…,k）（多個），多元線性回歸模型：

其中β0稱為截距

βi

(i＝1，2，…，k)叫做偏回歸系數，ε叫做誤差第41頁，課件共60頁，創作于2023年2月

如果對各自變量及相應的因變量觀測了n次，得到如下表所示的樣本：

樣本號因變量回歸變量x1x2x3……xk1y1x11x12x13……x1k2y2x21x22x23……x2k┋┋┋┋┋……┋nynxn1xn2xn3……xnk第42頁，課件共60頁，創作于2023年2月令則模型矩陣表示為第43頁，課件共60頁，創作于2023年2月2.2.2參數估計利用最小二乘法，得第44頁，課件共60頁，創作于2023年2月例、設因變量y與其有關的自變量x1，x2得下表所示的數據：樣本號（年份）因變量回歸變量yx1x2180.56290.583120.7104110.5125130.8126171.212(7)？(1.7)(14)如果y與x1，x2的線性模型是第45頁，課件共60頁，創作于2023年2月（1）求回歸方程y＝b0＋b1x1＋b2x2（2）預測當x1＝1.7，x2＝14時，y的估計值（3）計算殘差。由公式即可算出

其中故所求回歸方程為當x1＝1.7，x2＝14時，y的預報值為

第46頁，課件共60頁，創作于2023年2月

我們可以通過回歸方程計算出每一樣點上的殘差為：－0.1，0.0，0.3，0.1，－0.4，0.1于是殘差平方和＝0.27第47頁，課件共60頁，創作于2023年2月2.2.3方差分析與回歸參數檢驗第48頁，課件共60頁，創作于2023年2月(一)方差分析法在討論檢驗之前，先介紹幾種平方和：1.殘差平方和

回歸的顯著性檢驗

第49頁，課件共60頁，創作于2023年2月2.總平方和

３．回歸平方和

反映模型的貢獻，稱為SSR

第50頁，課件共60頁，創作于2023年2月回歸平方和的自由度，記為

fR＝k殘差平方和的自由度，記為fE＝n－k－１進行F檢驗:我們就認為回歸關系在α水平上是顯著的；換句話說，模型在一定程度上反映了y與之間的相關關系。第51頁，課件共60頁，創作于2023年2月方差分析表變差來源離差平方和自由度均方F值臨界值顯著性回歸SSRfR=kMSRF=MSR/

MSEFα(fR,fE)***-殘差SSEfE=n-k-1MSE總和SSTfT=n-1第52頁，課件共60頁，創作于2023年2月（二）復相關系數法回歸平方和在總平方和中所占份額，即可用來評價模型的有效性，稱為決定系數，

稱R為復相關系數，R越大，反映回歸變量與因變量之間線性關系密切。第53頁，課件共60頁，創作于2023年2月

一般0≤R≤1，但R要多大才認為線性關系存在呢？要給出臨界值(多元線性回歸顯著性檢驗復相關系數臨界值表)

多元線性回歸顯著,否則不顯著第54頁，課件共60頁，創作于2023年2月校正決定系數

（Adjusteddeterminationefficient）

響考慮了自變量個數的影,22RRc<第55頁，課件共60頁，創作于2023年2月（三）t檢驗:檢驗第j個自變量對Y影響是否顯著第56頁，課件共60頁，創作于2023年2月

說明第j個自變量對Y影響顯著，應保留，否則說明第j個自變量對Y影響不顯著，可以剔除；如果同時有幾個預報因子經檢驗都不顯著，則先剔除|t|值最小的預報因子，每次只能剔除一個預報因子。第57頁，課件共60頁，創作于2023年2月剔除和引進變量的方法ⅰ）淘汰法（向后法backward）這種程序基本思想是，根據給定