第一節(jié)參數(shù)的點(diǎn)估計點(diǎn)估計概念求估計量的方法課堂練習(xí)小結(jié)2參數(shù)估計問題的一般提法:X1,X2,…,Xn

設(shè)有一個統(tǒng)計總體,總體的分布函數(shù)為現(xiàn)從該總體抽樣，得樣本F(x,)，其中為未知參數(shù)(可以是向量).

要依據(jù)該樣本對參數(shù)作出估計,或估計的某個已知函數(shù).這類問題稱為參數(shù)估計.

參數(shù)估計問題是利用從總體抽樣得到的信息來估計總體的某些參數(shù)或者參數(shù)的某些函數(shù).參數(shù)估計3參數(shù)估計點(diǎn)估計區(qū)間估計4（假定身高服從正態(tài)分布）設(shè)這5個數(shù)是:1.651.671.681.781.69這是區(qū)間估計.估計在區(qū)間[1.57,1.84]內(nèi)，例如我們要估計某隊男生的平均身高.

現(xiàn)從該總體選取容量為5的樣本，我們的任務(wù)是要根據(jù)選出的樣本（5個數(shù)）求出總體均值的估計.而全部信息就由這5個數(shù)組成.

估計為1.68，這是點(diǎn)估計.5一、點(diǎn)估計概念隨機(jī)抽查100個嬰兒,…得100個體重數(shù)據(jù)10,7,6,6.5,5,5.2,

…呢?據(jù)此,我們應(yīng)如何估計和而全部信息就由這100個數(shù)組成.例1

已知某地區(qū)新生嬰兒的體重,未知6

為估計:我們需要構(gòu)造出適當(dāng)?shù)臉颖镜暮瘮?shù)T(X1,X2,…Xn)

，每當(dāng)有了樣本，就代入該函數(shù)中算出一個值，用來作為的估計值.T(X1,X2,…Xn)

稱為參數(shù)的點(diǎn)估計量，把樣本值代入T(X1,X2,…Xn)

中，估計值.得到的一個點(diǎn)7由大數(shù)定律,

自然想到把樣本體重的平均值作為總體平均體重的一個估計.樣本體重的平均值我們知道,若,則

.用樣本體重的均值估計.

類似地，用樣本體重的方差估計.8使用什么樣的統(tǒng)計量去估計？可以用樣本均值;也可以用樣本中位數(shù);還可以用別的統(tǒng)計量.問題是:9二、尋求估計量的方法1.矩估計法2.最大似然法3.最小二乘法4.貝葉斯方法……這里我們主要介紹前面兩種方法.101.矩估計法

矩估計法是英國統(tǒng)計學(xué)家K.皮爾遜最早提出來的.由辛欽大數(shù)定理,若總體的數(shù)學(xué)期望有限,則有其中為連續(xù)函數(shù).11

這表明

,當(dāng)樣本容量很大時,在統(tǒng)計上,可以用用樣本矩去估計總體矩.這一事實(shí)導(dǎo)出矩估計法.定義用樣本原點(diǎn)矩估計相應(yīng)的總體原點(diǎn)矩,又用樣本原點(diǎn)矩的連續(xù)函數(shù)估計相應(yīng)的總體原點(diǎn)矩的連續(xù)函數(shù),這種參數(shù)點(diǎn)估計法稱為矩估計法

.

理論依據(jù):

大數(shù)定律矩估計法的具體做法如下：那么它的前k階矩,一般都是這k個參數(shù)

設(shè)總體的分布函數(shù)中含有k個未知參數(shù),12i=1,2,…,k從這k個方程中解出j=1,2,…,kj=1,2,…,k那么用諸的估計量Ai分別代替上式中的諸,即可得諸的矩估計量：矩估計量的觀察值稱為矩估計值

.的函數(shù),記為：13

例2

設(shè)總體X在[a,b]上服從均勻分布,a,b未知.是來自X

的樣本,試求a,b

的矩估計量.解14即解得于是a,b的矩估計量為樣本矩總體矩15解

例3

設(shè)總體X的均值和方差都存在,未知.是來自X

的樣本,試求的矩估計量.16解得于是的矩估計量為樣本矩總體矩17解:

由矩法,樣本矩總體矩從中解得的矩估計.即為數(shù)學(xué)期望是一階原點(diǎn)矩

例3

設(shè)總體X的概率密度為是未知參數(shù),其中X1,X2,…,Xn是取自X的樣本,求參

的矩估計.18

矩法的優(yōu)點(diǎn)是簡單易行,并不需要事先知道總體是什么分布.

缺點(diǎn)是，當(dāng)總體類型已知時，沒有充分利用分布提供的信息.一般場合下,矩估計量不具有唯一性.

其主要原因在于建立矩法方程時，選取那些總體矩用相應(yīng)樣本矩代替帶有一定的隨意性.192.最大似然法

它是在總體類型已知條件下使用的一種參數(shù)估計方法.

它首先是由德國數(shù)學(xué)家高斯在1821年提出的.GaussFisher

然而,這個方法常歸功于英國統(tǒng)計學(xué)家費(fèi)歇

.

費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì).2020最大似然估計法的思想

最大似然估計法，是建立在最大似然原理的基礎(chǔ)上的求點(diǎn)估計量的方法。最大似然原理的直觀想法是：在試驗中概率最大的事件最有可能出現(xiàn)。因此，一個試驗如有若干個可能的結(jié)果A,B,C,…,若在一次試驗中，結(jié)果A出現(xiàn)，則一般認(rèn)為A出現(xiàn)的概率最大。21

最大似然估計定義：

當(dāng)給定樣本X1,X2,…Xn時，定義似然函數(shù)為：

設(shè)X1,X2,…Xn是取自總體X的一個樣本，樣本的聯(lián)合密度(連續(xù)型）或聯(lián)合分布律(離散型)為

f(x1,x2,…,xn

;).f(x1,x2,…,xn;)這里x1,x2,…,xn

是樣本的觀察值.22

似然函數(shù)：f(x1,x2,…,xn;)

最大似然估計法就是用使達(dá)到最大值的去估計.即稱為的最大似然估計值

.而相應(yīng)的統(tǒng)計量稱為的最大似然估計量

.

看作參數(shù)的函數(shù)，它可作為將以多大可能產(chǎn)生樣本值x1,x2,…,xn

的一種度量.23求最大似然估計量的一般步驟為：

（1）求似然函數(shù)（2）一般地，求出及似然方程

（3）解似然方程得到最大似然估計值

（4）最后得到最大似然估計量

24解似然函數(shù)例52526解X的似然函數(shù)為例6272829解例7303132解例33這一估計量與矩估計量是相同的.34最大似然估計的不變性:U.35三、課堂練習(xí)

例1

設(shè)總體X的概率密度為其中是未知參數(shù),X1,X2,…,Xn

是取自X的樣本,求參數(shù)的矩估計.36解樣本矩總體矩解得的矩估計量為故37解由密度函數(shù)知例

2

設(shè)X1,X2,…Xn是取自總體X的一個樣本其中>0,求的矩估計.具有均值為的指數(shù)分布即E(X-)=

D(X-)=

E(X)=

D(X)=故38解得也就是

E(X)=

D(X)=的矩估計量為于是39解似然函數(shù)為對數(shù)似然函數(shù)為例3

設(shè)X1,X2,…Xn是取自總體X的一個樣本

求的最大似然估計值.其中

>0,40求導(dǎo)并令其為0=0從中解得即為的最大似然估計值

.對數(shù)似然函數(shù)為41

這一講，我們介紹了參數(shù)點(diǎn)估計,給出了尋求估計量最常用的矩法和極大似然法.

參數(shù)點(diǎn)估計是用一個確定的值去估計未知的參數(shù).看來似乎精確，實(shí)際上把握不大.四、小結(jié)42第二節(jié)估計量的評選標(biāo)準(zhǔn)無偏性有效性相合性小結(jié)布置作業(yè)43這就需要討論以下問題:問題的提出

從前面可以看到,對于同一個參數(shù),用不同的估計方法求出的估計量可能不相同,而且,很明顯,原則上任何統(tǒng)計量都可以作為未知參數(shù)的估計量.(1)對于同一個參數(shù)究竟采用哪一個估計量好?(2)評價估計量的標(biāo)準(zhǔn)是什么?44

常用的幾條標(biāo)準(zhǔn)是：1．無偏性2．有效性3．相合性這里我們重點(diǎn)介紹前面兩個標(biāo)準(zhǔn).45無偏估計的實(shí)際意義:無系統(tǒng)誤差.一、無偏性46證例147特別的:不論總體X服從什么分布,只要它的數(shù)學(xué)期望存在,48證例249(這種方法稱為無偏化).50

例3

設(shè)總體X服從參數(shù)為的指數(shù)分布

,

其概率密度為為未知,X1,X2,…Xn是取自總體的一個樣本,試證和都是參數(shù)的無偏估計量.51證所以是參數(shù)的無偏估計量

.而具有概率密度故知即也是參數(shù)的無偏估計量

.52

所以無偏估計以方差小者為好,這就引進(jìn)了有效性這一概念.的大小來決定二者誰更優(yōu).和一個參數(shù)往往有不止一個無偏估計,若和都是參數(shù)

的無偏估計量，我們可以比較由于53二、有效性D()≤D()則稱較有效.都是參數(shù)

的無偏估計量，若對任意，設(shè)和且至少對于某個上式中的不等號成立，54證明例4

(續(xù)例3)55例如三、相合性56第三節(jié)區(qū)間估計置信區(qū)間定義置信區(qū)間的求法57

引言

前面，我們討論了參數(shù)點(diǎn)估計.它是用樣本算得的一個值去估計未知參數(shù).但是，點(diǎn)估計值僅僅是未知參數(shù)的一個近似值，它沒有反映出這個近似值的誤差范圍，使用起來把握不大.區(qū)間估計正好彌補(bǔ)了點(diǎn)估計的這個缺陷.58一、置信區(qū)間定義滿足設(shè)是一個待估參數(shù)，給定X1,X2,…Xn確定的兩個統(tǒng)計量則稱區(qū)間是的置信水平（置信度)為

的置信區(qū)間.和分別稱為置信下限和置信上限.若由樣本59這里有兩個要求:可見，

對參數(shù)作區(qū)間估計，就是要設(shè)法找出兩個只依賴于樣本的界限(構(gòu)造統(tǒng)計量).

一旦有了樣本，就把估計在區(qū)間內(nèi).60可靠度與精度是一對矛盾，一般是在保證可靠度的條件下盡可能提高精度.1.要求以很大的可能被包含在區(qū)間內(nèi)，就是說，概率要盡可能大.即要求估計盡量可靠.2.估計的精度要盡可能的高.如要求區(qū)間長度

盡可能短，或能體現(xiàn)該要求的其它準(zhǔn)則.61關(guān)于定義的說明62若反復(fù)抽樣多次(各次得到的樣本容量相等,都是n)按伯努利大數(shù)定理,在這樣多的區(qū)間中,63例如64在求置信區(qū)間時，要查表求分位點(diǎn).二、置信區(qū)間的求法

設(shè),對隨機(jī)變量X，稱滿足的點(diǎn)為X的概率分布的上分位點(diǎn).定義65若X為連續(xù)型隨機(jī)變量,則有所求置信區(qū)間為所求置信區(qū)間為由此可見，置信水平為的置信區(qū)間是不唯一的。66~N(0,1)求參數(shù)的置信度為的置信區(qū)間.

例1

設(shè)X1,…Xn是取自

的樣本，明確問題,是求什么參數(shù)的置信區(qū)間?置信水平是多少？尋找未知參數(shù)的一個良好估計.選的點(diǎn)估計為,解

尋找一個待估參數(shù)和統(tǒng)計量的函數(shù)，要求其分布為已知.有了分布，就可以求出U取值于任意區(qū)間的概率.67對給定的置信水平查正態(tài)分布表得對于給定的置信水平,根據(jù)U的分布，確定一個區(qū)間,使得U取值于該區(qū)間的概率為置信水平.使為什么這樣取？6869這樣的置信區(qū)間常寫成其置信區(qū)間的長度為70

從例1解題的過程，我們歸納出求置信區(qū)間的一般步驟如下:1.明確問題,是求什么參數(shù)的置信區(qū)間?

置信水平

是多少?2.尋找參數(shù)的一個良好的點(diǎn)估計

3.尋找一個待估參數(shù)和估計量T的函數(shù)U(T,),且其分布為已知.T(X1,X2,…Xn)714.對于給定的置信水平

，根據(jù)U(T,)的分布，確定常數(shù)a,b，使得P(a

<U(T,)<b)=

5.對“a<U(T,)<b”作等價變形,得到如下形式即于是就是的100(

)％的置信區(qū)間.72

可見，確定區(qū)間估計很關(guān)鍵的是要尋找一個待估參數(shù)和估計量T的函數(shù)U(T,),且U(T,)的分布為已知,不依賴于任何未知參數(shù).而這與總體分布有關(guān)，所以，總體分布的形式是否已知，是怎樣的類型，至關(guān)重要.73

需要指出的是，給定樣本，給定置信水平，置信區(qū)間也不是唯一的.對同一個參數(shù)，我們可以構(gòu)造許多置信區(qū)間.

1.在概率密度為單峰且對稱的情形，當(dāng)a=-b時求得的置信區(qū)間的長度為最短.

2.即使在概率密度不對稱的情形，如分布，F(xiàn)分布，習(xí)慣上仍取對稱的分位點(diǎn)來計算未知參數(shù)的置信區(qū)間.74第四節(jié)

正態(tài)總體均值與方差的區(qū)間估計單個總體的情況兩個總體的情況75一、單個總體的情況并設(shè)為來自總體的樣本,分別為樣本均值和樣本方差.均值的置信區(qū)間為已知可得到

的置信水平為的置信區(qū)間為或76為未知可得到

的置信水平為的置信區(qū)間為此分布不依賴于任何未知參數(shù)由或77

例1

有一大批糖果.現(xiàn)從中隨機(jī)地取16袋,稱得重量(以克計)如下:506508499503504510497512514505493496506502509496設(shè)袋裝糖果的重量近似地服從正態(tài)分布,試求總體均值的置信水平0.95為的置信區(qū)間.解這里78于是得到

的置信水平為的置信區(qū)間為即79方差的置信區(qū)間由可得到

的置信水平為的置信區(qū)間為80由可得到標(biāo)準(zhǔn)差

的置信水平為的置信區(qū)間為注意:在密度函數(shù)不對稱時,習(xí)慣上仍取對稱的分位點(diǎn)來確定置信區(qū)間(如圖).81

例2

有一大批糖果.現(xiàn)從中隨機(jī)地取16袋,稱得重量(以克計)如下:506508499503504510497512514505493496506502509496設(shè)袋裝糖果的重量近似地服從正態(tài)分布,試求總體方差的置信水平0.95為的置信區(qū)間.解這里82于是得到

的置信水平為的置信區(qū)間為即的置信水平為的置信區(qū)間為即83

以下討論兩個整體總體均值差和方差比的估計問題.二、兩個總體的情況84推導(dǎo)過程如下:1.為已知8586為未知87

例3

為比較I,Ⅱ

兩種型號步槍子彈的槍口速度,隨機(jī)地取I型子彈10發(fā),得到槍口速度的平均值為標(biāo)準(zhǔn)差隨機(jī)地取Ⅱ

型子彈20發(fā),得到槍口速度的平均值為標(biāo)準(zhǔn)差假設(shè)兩總體都可認(rèn)為近似地服從正態(tài)分布.且生產(chǎn)過程可認(rèn)為方差相等.求兩總體均值差的置信水平為0.95

的置信區(qū)間.88解

依題意,可認(rèn)為分別來自兩總體的樣本是相互獨(dú)立的.又因為由假設(shè)兩總體的方差相等

,但數(shù)值未知

,故兩總體均值差的置信水平為的置信區(qū)間為其中89這里

故兩總體均值差的置信水平為0.95的置信區(qū)間為即(3.07,4.93).90推導(dǎo)過程如下:2.91根據(jù)F分布的定義,知9293

例4

研究由機(jī)器A

和機(jī)器B

生產(chǎn)的鋼管的內(nèi)徑,隨機(jī)地抽取機(jī)器A生產(chǎn)的鋼管18只,測得樣本方差隨機(jī)地取機(jī)器B

生產(chǎn)的鋼管13只,測得樣本方差設(shè)兩樣本相互獨(dú)立,且設(shè)由機(jī)器A和機(jī)器B

生產(chǎn)的鋼管的內(nèi)徑分別服從正態(tài)分布這里(i=1,2)

均未知.試求方差比的置信水平為0.90

的置信區(qū)間.94這里即(0.45,2.79).解

故兩總體方差比的置信水平為0.90的置信區(qū)間為95單側(cè)置信區(qū)間96在上述討論中,對于未知參數(shù)q,我們給出兩個統(tǒng)計量q,`q,得到q的雙側(cè)置信區(qū)間(q,`q).但在一些