1、1.1回歸分析的基本回歸分析的基本思想及其初步應(yīng)用思想及其初步應(yīng)用必修必修3(3(第二章第二章 統(tǒng)計(jì)統(tǒng)計(jì)) )知識(shí)結(jié)構(gòu)知識(shí)結(jié)構(gòu) 收集數(shù)據(jù)收集數(shù)據(jù) ( (隨機(jī)抽樣隨機(jī)抽樣) )整理、分析數(shù)據(jù)估整理、分析數(shù)據(jù)估計(jì)、推斷計(jì)、推斷簡(jiǎn)單隨機(jī)抽簡(jiǎn)單隨機(jī)抽樣樣分層抽樣分層抽樣系統(tǒng)抽樣系統(tǒng)抽樣用樣本估計(jì)總體用樣本估計(jì)總體變量間的相關(guān)關(guān)系變量間的相關(guān)關(guān)系 用樣本用樣本的頻率的頻率分布估分布估計(jì)總體計(jì)總體分布分布 用樣本用樣本數(shù)字特?cái)?shù)字特征估計(jì)征估計(jì)總體數(shù)總體數(shù)字特征字特征線性回歸分析線性回歸分析1、兩個(gè)變量的關(guān)系、兩個(gè)變量的關(guān)系不相關(guān)不相關(guān)相關(guān)關(guān)相關(guān)關(guān)系系函數(shù)關(guān)系函數(shù)關(guān)系線性相關(guān)線性相關(guān)非線性相關(guān)非線性相關(guān)問(wèn)題

2、問(wèn)題1：現(xiàn)實(shí)生活中兩個(gè)變量間的關(guān)系有哪些呢？：現(xiàn)實(shí)生活中兩個(gè)變量間的關(guān)系有哪些呢？相關(guān)關(guān)系：相關(guān)關(guān)系：對(duì)于兩個(gè)變量，當(dāng)自變量取值一定時(shí)，對(duì)于兩個(gè)變量，當(dāng)自變量取值一定時(shí)，因變量的取值帶有一定隨機(jī)性的兩個(gè)變量之間的關(guān)因變量的取值帶有一定隨機(jī)性的兩個(gè)變量之間的關(guān)系。系。思考：相關(guān)關(guān)系與函數(shù)關(guān)系有怎樣的不同？函數(shù)關(guān)系中的兩個(gè)變量間是一種確定性關(guān)系相關(guān)關(guān)系是一種非確定性關(guān)系 函數(shù)關(guān)系是一種理想的關(guān)系模型 相關(guān)關(guān)系在現(xiàn)實(shí)生活中大量存在，是更一般的情況問(wèn)題問(wèn)題2：對(duì)于線性相關(guān)的兩個(gè)變量用什么方法來(lái)刻：對(duì)于線性相關(guān)的兩個(gè)變量用什么方法來(lái)刻劃之間的關(guān)系呢？劃之間的關(guān)系呢？2、最小二乘估計(jì)、最小二乘估計(jì)最小二乘

3、估計(jì)下的線性回歸方程：最小二乘估計(jì)下的線性回歸方程：ybxa121()()()niiiniixXyYbXX aYbX1221niiiniix ynx ybxnx ay bxybxaniixnx11niiyny11回歸直線必過(guò)樣本點(diǎn)的中心回歸直線必過(guò)樣本點(diǎn)的中心),(yx3、回歸分析的基本步驟回歸分析的基本步驟:畫(huà)散點(diǎn)圖畫(huà)散點(diǎn)圖求回歸方程求回歸方程預(yù)報(bào)、決策預(yù)報(bào)、決策這種方法稱(chēng)為回歸分析這種方法稱(chēng)為回歸分析.回歸分析回歸分析是對(duì)具有相關(guān)關(guān)系的兩個(gè)變量進(jìn)行統(tǒng)計(jì)是對(duì)具有相關(guān)關(guān)系的兩個(gè)變量進(jìn)行統(tǒng)計(jì)分析的一種常用方法分析的一種常用方法. 比數(shù)學(xué)3中“回歸”增加的內(nèi)容數(shù)學(xué)數(shù)學(xué)統(tǒng)計(jì)統(tǒng)計(jì)1. 畫(huà)散點(diǎn)圖畫(huà)散點(diǎn)圖

4、2. 了解最小二乘法的了解最小二乘法的思想思想3. 求回歸直線方程求回歸直線方程ybxa4. 用回歸直線方程解用回歸直線方程解決應(yīng)用問(wèn)題決應(yīng)用問(wèn)題選修1-2統(tǒng)計(jì)案例5. 引入線性回歸模型引入線性回歸模型ybxae6. 了解模型中隨機(jī)誤差項(xiàng)了解模型中隨機(jī)誤差項(xiàng)e產(chǎn)生產(chǎn)生的原因的原因7. 了解相關(guān)指數(shù)了解相關(guān)指數(shù) R2 和模型擬合和模型擬合的效果之間的關(guān)系的效果之間的關(guān)系8. 了解殘差圖的作用了解殘差圖的作用9. 利用線性回歸模型解決一類(lèi)非利用線性回歸模型解決一類(lèi)非線性回歸問(wèn)題線性回歸問(wèn)題10.正確理解分析方法與結(jié)果正確理解分析方法與結(jié)果例例1 從某大學(xué)中隨機(jī)選取從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其

5、身高和體重?cái)?shù)據(jù)如表名女大學(xué)生，其身高和體重?cái)?shù)據(jù)如表1-1所示。所示。5943616454505748體重/kg170155165175170157165165身高/cm87654321編號(hào)求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為172cm的女大學(xué)生的體重。的女大學(xué)生的體重。問(wèn)題一：結(jié)合例問(wèn)題一：結(jié)合例1得出線性回歸模型及隨機(jī)誤差。并且得出線性回歸模型及隨機(jī)誤差。并且區(qū)區(qū)分函數(shù)模型和回歸模型。分函數(shù)模型和回歸模型。解：解：1、選取身高為自變量、選取身高為自變量x，體重為因變量，體重為因變量y，作散點(diǎn)圖：，作散

6、點(diǎn)圖：2.回歸方程：回歸方程：172.85849. 0 xy學(xué)學(xué)身身 高高 1 17 72 2c cm m女女 大大生生 體體 重重y y = = 0 0. .8 84 49 91 17 72 2 - - 8 85 5. .7 71 12 2 = = 6 60 0. .3 31 16 6( (k kg g) )探究：身高為172cm的女大學(xué)生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？答：用這個(gè)回歸方程不能給出每個(gè)身高為答：用這個(gè)回歸方程不能給出每個(gè)身高為172cm的女大學(xué)生的體重的預(yù)測(cè)值，的女大學(xué)生的體重的預(yù)測(cè)值，只能給出她們平均體重的估計(jì)值。只能給出她們平均體重的估計(jì)值。

7、由于所有的樣本點(diǎn)不共線，而只是散布在某一直線的附近，所由于所有的樣本點(diǎn)不共線，而只是散布在某一直線的附近，所以身高和體重的關(guān)系可以用以身高和體重的關(guān)系可以用線性回歸模型線性回歸模型來(lái)表示：來(lái)表示：其中其中a和和b為模型的未知參數(shù)，為模型的未知參數(shù)，e稱(chēng)為隨機(jī)誤差稱(chēng)為隨機(jī)誤差.eabxy函數(shù)模型與函數(shù)模型與“回歸模型回歸模型”的關(guān)系的關(guān)系函數(shù)模型：因變量函數(shù)模型：因變量y完全由自變量完全由自變量x確定確定回歸模型：回歸模型： 預(yù)報(bào)變量預(yù)報(bào)變量y完全由解釋變量完全由解釋變量x和隨機(jī)誤差和隨機(jī)誤差e確定確定注：注：e 產(chǎn)生的主要原因：產(chǎn)生的主要原因： (1)所用確定性函數(shù)不恰當(dāng)；所用確定性函數(shù)不恰當(dāng)

8、； (2)忽略了某些因素的影響；忽略了某些因素的影響； (3)觀測(cè)誤差。觀測(cè)誤差。思考思考:產(chǎn)生隨機(jī)誤差項(xiàng)產(chǎn)生隨機(jī)誤差項(xiàng)e的原因的原因是什么？是什么？問(wèn)題二：?jiǎn)栴}二：在線性回歸模型中，在線性回歸模型中，e是用是用bx+a預(yù)報(bào)真實(shí)值預(yù)報(bào)真實(shí)值y的隨機(jī)誤差，的隨機(jī)誤差， 它是一個(gè)不可觀測(cè)的量，那么應(yīng)如何研究隨機(jī)誤差呢？它是一個(gè)不可觀測(cè)的量，那么應(yīng)如何研究隨機(jī)誤差呢？,1,2,. ,1,2,.iiiiiiiiybxa ineyyybxa ine1122nniii殘差：一般的對(duì)于樣本點(diǎn)（x ,y）,(x ,y ),.,(x ,y ),它們的隨機(jī)誤差為e其估計(jì)值為稱(chēng)為相應(yīng)于點(diǎn)(x ,y )的殘差。 結(jié)合

9、例結(jié)合例1除了身高影響體重外的其他因素是不可測(cè)量的，不能希望有某種方法獲除了身高影響體重外的其他因素是不可測(cè)量的，不能希望有某種方法獲取隨機(jī)誤差的值以提高預(yù)報(bào)變量的估計(jì)精度，但卻可以估計(jì)預(yù)報(bào)變量觀測(cè)值中所包取隨機(jī)誤差的值以提高預(yù)報(bào)變量的估計(jì)精度，但卻可以估計(jì)預(yù)報(bào)變量觀測(cè)值中所包含的隨機(jī)誤差，這對(duì)我們查找樣本數(shù)據(jù)中的錯(cuò)誤和模型的評(píng)價(jià)極為有用，因此在此含的隨機(jī)誤差，這對(duì)我們查找樣本數(shù)據(jù)中的錯(cuò)誤和模型的評(píng)價(jià)極為有用，因此在此我們引入殘差概念。我們引入殘差概念。e=y-(bx+a)問(wèn)題三：如何發(fā)現(xiàn)數(shù)據(jù)中的錯(cuò)誤？如何衡量隨機(jī)模型的擬合效果？問(wèn)題三：如何發(fā)現(xiàn)數(shù)據(jù)中的錯(cuò)誤？如何衡量隨機(jī)模型的擬合效果？(1)

10、我們可以通過(guò)分析發(fā)現(xiàn)原始數(shù)據(jù)中的可疑數(shù)據(jù)，判斷建立模型的擬合效果。我們可以通過(guò)分析發(fā)現(xiàn)原始數(shù)據(jù)中的可疑數(shù)據(jù)，判斷建立模型的擬合效果。iiieybxa（1）計(jì)算（i=1,2,.n）殘差分析（2）畫(huà)殘差圖（1）查找異常樣本數(shù)據(jù)（3）分析殘差圖（2）殘差點(diǎn)分布在以O(shè)為中心的水平帶狀區(qū)域，并沿水平方向散點(diǎn)的分布規(guī)律相同。殘差圖的制作和作用：殘差圖的制作和作用：制作：坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇制作：坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇. . 橫軸為編號(hào)：可以考察殘差與編號(hào)次序之間的關(guān)系，橫軸為編號(hào)：可以考察殘差與編號(hào)次序之間的關(guān)系， 常常用于調(diào)查數(shù)據(jù)錯(cuò)誤用于調(diào)查數(shù)據(jù)錯(cuò)誤. . 橫軸為解

11、釋變量：可以考察殘差與解釋變量的關(guān)系，常用橫軸為解釋變量：可以考察殘差與解釋變量的關(guān)系，常用于研究模型是否有改進(jìn)的余地于研究模型是否有改進(jìn)的余地. .作用：判斷模型的適用性若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)作用：判斷模型的適用性若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸為中心的帶形區(qū)域該分布在以橫軸為中心的帶形區(qū)域. .下面表格列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。下面表格列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。編號(hào)編號(hào)12345678身高身高/cm165165157170175165155170體重體重/kg4857505464614359殘差殘差-6.373

12、2.6272.419-4.6181.1376.627-2.8830.382殘差圖的制作及作用。殘差圖的制作及作用。坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇；若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸為心的帶形區(qū)域?yàn)樾牡膸螀^(qū)域；對(duì)于遠(yuǎn)離橫軸的點(diǎn)，要特別注意對(duì)于遠(yuǎn)離橫軸的點(diǎn)，要特別注意。身高與體重殘差圖異常點(diǎn) 錯(cuò)誤數(shù)據(jù) 模型問(wèn)題 幾點(diǎn)說(shuō)明：幾點(diǎn)說(shuō)明： 第一個(gè)樣本點(diǎn)和第第一個(gè)樣本點(diǎn)和第6個(gè)樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過(guò)程中是否有人為的錯(cuò)誤。個(gè)樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過(guò)程中是否有人為的錯(cuò)誤。如

13、果數(shù)據(jù)采集有錯(cuò)誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采如果數(shù)據(jù)采集有錯(cuò)誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒(méi)有錯(cuò)誤，則需要尋找其他的原因。集沒(méi)有錯(cuò)誤，則需要尋找其他的原因。 另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說(shuō)明選用的模型計(jì)較合適，這樣的帶另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說(shuō)明選用的模型計(jì)較合適，這樣的帶狀區(qū)域的寬度越窄，說(shuō)明模型擬合精度越高，回歸方程的預(yù)報(bào)精度越高。狀區(qū)域的寬度越窄，說(shuō)明模型擬合精度越高，回歸方程的預(yù)報(bào)精度越高。誤差與殘差，這兩個(gè)概念在某程度上具有很大的相似性，誤差與殘差，這兩個(gè)概念在某程度上具有很大的相似

14、性，都是衡量不確定性的指標(biāo)，可是兩者又存在區(qū)別。都是衡量不確定性的指標(biāo)，可是兩者又存在區(qū)別。誤差與測(cè)量有關(guān)，誤差大小可以衡量測(cè)量的準(zhǔn)確性，誤差誤差與測(cè)量有關(guān)，誤差大小可以衡量測(cè)量的準(zhǔn)確性，誤差越大則表示測(cè)量越不準(zhǔn)確。誤差分為兩類(lèi)：系統(tǒng)誤差與越大則表示測(cè)量越不準(zhǔn)確。誤差分為兩類(lèi)：系統(tǒng)誤差與隨機(jī)誤差。其中，系統(tǒng)誤差與測(cè)量方案有關(guān)，通過(guò)改進(jìn)測(cè)隨機(jī)誤差。其中，系統(tǒng)誤差與測(cè)量方案有關(guān)，通過(guò)改進(jìn)測(cè)量方案可以避免系統(tǒng)誤差。隨機(jī)誤差與觀測(cè)者，測(cè)量工具，量方案可以避免系統(tǒng)誤差。隨機(jī)誤差與觀測(cè)者，測(cè)量工具，被觀測(cè)物體的性質(zhì)有關(guān)，只能盡量減小，卻不能避免被觀測(cè)物體的性質(zhì)有關(guān)，只能盡量減小，卻不能避免。 殘差殘差與預(yù)

15、測(cè)有關(guān)，殘差大小可以衡量預(yù)測(cè)的準(zhǔn)確性。與預(yù)測(cè)有關(guān)，殘差大小可以衡量預(yù)測(cè)的準(zhǔn)確性。殘差越大表示預(yù)測(cè)越不準(zhǔn)確。殘差與數(shù)據(jù)本身的分布特性，殘差越大表示預(yù)測(cè)越不準(zhǔn)確。殘差與數(shù)據(jù)本身的分布特性，回歸方程的選擇有關(guān)。回歸方程的選擇有關(guān)。顯然，顯然，R2的值越大，說(shuō)明殘差平方和越小，也就是說(shuō)模型擬合效果越好。的值越大，說(shuō)明殘差平方和越小，也就是說(shuō)模型擬合效果越好。在線性回歸模型中，在線性回歸模型中，R2表示解析變量對(duì)預(yù)報(bào)變量變化的貢獻(xiàn)率。表示解析變量對(duì)預(yù)報(bào)變量變化的貢獻(xiàn)率。 R2越接近越接近1，表示回歸的效果越好（因?yàn)椋硎净貧w的效果越好（因?yàn)镽2越接近越接近1，表示解析變量和預(yù)報(bào)變量的，表示解析變量和預(yù)報(bào)

16、變量的線性相關(guān)性越強(qiáng)）線性相關(guān)性越強(qiáng)）。 如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過(guò)比較如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過(guò)比較R2的值的值來(lái)做出選擇，即選取來(lái)做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型。較大的模型作為這組數(shù)據(jù)的模型。注：相關(guān)指數(shù)注：相關(guān)指數(shù)R R2 2是度量模型擬合效果的一種指標(biāo)。在線性模型中，它代表是度量模型擬合效果的一種指標(biāo)。在線性模型中，它代表自變量刻畫(huà)預(yù)報(bào)變量的能力。自變量刻畫(huà)預(yù)報(bào)變量的能力。（2）我們可以用相關(guān)指數(shù)）我們可以用相關(guān)指數(shù)R2來(lái)刻畫(huà)回歸的效果，其計(jì)算公式是來(lái)刻畫(huà)回歸的效果，其計(jì)算公式是22121()11()

17、niiiniiyyRyy殘 差 平 方 和。總 偏 差 平 方 和相關(guān)系數(shù)相關(guān)系數(shù)相關(guān)系數(shù)的性質(zhì)相關(guān)系數(shù)的性質(zhì)(1)|r|1(1)|r|1(2)|r|(2)|r|越接近于越接近于1 1，相關(guān)程度越強(qiáng)；，相關(guān)程度越強(qiáng)；|r|r|越接近于越接近于0 0，相關(guān)，相關(guān)程度越弱程度越弱 注注:b :b 與與 r r 同號(hào)同號(hào) 問(wèn)題：達(dá)到怎樣程度，問(wèn)題：達(dá)到怎樣程度，x x、y y線性相關(guān)呢？它們的相關(guān)程線性相關(guān)呢？它們的相關(guān)程度怎樣呢？度怎樣呢？n ni ii ii i= =1 1n nn n2 22 2i ii ii i= =1 1i i= =1 1( (x x - - x x) )( (y y -

18、- y y) )r r = =( (x x - - x x) )( (y y - - y y) )2 2_ _n n1 1i i2 2i i2 2_ _n n1 1i i2 2i in n1 1i i_ _ _i ii iy yn ny yx xn nx xy yx xn ny yx xn ni ii ii i= =1 1n nn n2 22 2i ii ii i= =1 1i i= =1 1( (x x - - x x) )( (y y - - y y) )( (x x - - x x) ) ( (y y - - y y) )r 相關(guān)系數(shù)相關(guān)系數(shù)正相關(guān)；負(fù)相關(guān)正相關(guān)；負(fù)相關(guān)通常：通常：r r

19、-1,-1,-0.75-0.75-負(fù)相關(guān)很強(qiáng)負(fù)相關(guān)很強(qiáng); ; r r0.75,10.75,1正相關(guān)很強(qiáng)正相關(guān)很強(qiáng); ; r r-0.75,-0.3-0.75,-0.3-負(fù)相關(guān)一般負(fù)相關(guān)一般; ; r r0.3, 0.750.3, 0.75正相關(guān)一般正相關(guān)一般; ; r r-0.25, -0.25, 0.25-0.25-相關(guān)性較弱相關(guān)性較弱; ; 對(duì)對(duì)r r進(jìn)行顯進(jìn)行顯著性檢驗(yàn)著性檢驗(yàn) 1354總計(jì)0.36128.361殘差變量0.64225.639回歸變量比例平方和來(lái)源 從上中可以看出，解析變量對(duì)總效應(yīng)約貢獻(xiàn)了從上中可以看出，解析變量對(duì)總效應(yīng)約貢獻(xiàn)了64%，即，即R2 0.64，可以敘述為，可

20、以敘述為“身高解析了身高解析了64%的體重變化的體重變化”，而隨機(jī)誤，而隨機(jī)誤差貢獻(xiàn)了剩余的差貢獻(xiàn)了剩余的36%。 所以，身高對(duì)體重的效應(yīng)比隨機(jī)誤差的效應(yīng)大得多。所以，身高對(duì)體重的效應(yīng)比隨機(jī)誤差的效應(yīng)大得多。下面我們用相關(guān)指數(shù)分析一下例下面我們用相關(guān)指數(shù)分析一下例1：預(yù)報(bào)變量的變化程度可以分解為由解釋變量引起的變化程度與殘差預(yù)報(bào)變量的變化程度可以分解為由解釋變量引起的變化程度與殘差變量的變化程度之和，即變量的變化程度之和，即222111()()()nnniiiiiiiyyyyyy； 問(wèn)題四：結(jié)合例問(wèn)題四：結(jié)合例1思考：用回歸方程預(yù)報(bào)體重時(shí)應(yīng)注意什么？思考：用回歸方程預(yù)報(bào)體重時(shí)應(yīng)注意什么？1.回歸方程只適用于我們所研究的樣本的總體。回歸方程只適用于我們所研究的樣本的總體。2.我們建立的回歸方程一般都有時(shí)間性。我們建立的回歸方程一般都有時(shí)間性。3.樣本取值的范圍會(huì)影響回歸方程的適