1,概率論與數理統計 第21講,本文件可從網址 上下載,2,第八章 參數估計,3,問題的提出,人們經常遇到的問題是如何選取樣本以及根據樣本來對總體的種種統計特征作出判斷。 實際工作中碰到的隨機變量(總體)往往是分布類型大致知道, 但確切的形式并不知道, 亦即總體的參數未知. 要求出總體的分布函數F(x)(或密度函數f(x), 就等于要根據樣本來估計出總體的參數. 這類問題稱為參數估計.,4,估計量的優劣標準,設q為總體中要被估計的一個未知參數, 例如期望值或方差等,5,(一) 一致估計,6,7,(二) 無偏估計 根據樣本推得的估計值與真值可能不同, 然而, 如果有一系列抽樣構成各個估計, 很合理地會要求這些估計的期望值與未知參數的真值相等, 它的直觀意義是樣本估計量的數值在參數的真值周圍擺動, 而無系統誤差.,8,9,例 從總體X中取一樣本(X1,X2,.,Xn), E(X)=m, D(X)=s2, 試證明,10,11,即,12,因此,13,有效估計,14,15,16,獲得估計量的方法點估計,17,最大似然估計法,Maximum likelyhood estimation,18,現在要根據從總體X中抽到的樣本(X1,X2,.,Xn), 對總體分布中的未知參數q進行估計. 最大似然法是要選取這樣的估計值, 當它作為q的估計值時, 使觀察結果出現的可能性最大.,19,對于離散型的隨機變量就是估計概率函數中的參數q, 對于連續型的隨機變量就是估計概率密度中的q.,20,設X為連續型隨機變量, 它的分布函數是F(x;q), 概率密度是f(x;q), 其中q是未知參數, 可以是一個值, 也可以是一個向量, 由于樣本的獨立性, 則樣本(X1,X2,.,Xn)的聯合概率密度是,21,對每一取定的樣本值x1,x2,.,xn是常數, L是參數q的函數, 稱L為樣本的似然函數(如果q是一個向量, 則L是多元函數),22,設X為離散型隨機變量, 有概率函數P(X=xi)=p(xi;q), 則似然函數,23,24,最大似然估計值,25,26,例 已知,x1,x2,.,xn為X的一組樣本觀察值, 求q的最大似然估計.,27,解 似然函數,28,29,例 某電子管的使用壽命(從開始使用到初次失效為止)服從指數分布(概率密度見前例), 今抽取一組樣本, 其具體數據如下: 16, 29, 50, 68, 100, 130, 140, 270, 280, 340, 410, 450, 520, 620, 190, 210, 800, 1100 問如何估計q?,30,解 根據前例的結果, 參數q用樣本均值估計.,31,例 已知X服從正態分布N(m,s2), (x1,x2,.,xn)為X的一組觀察值, 用最大似然估計法估計m,s2的值.,32,解,33,34,解似然方程組,35,36,例 求普哇松分布中參數l的最大似然估計.,37,解 已知總體X的概率函數為,38,39,因此,40,例 求0-1分布的總體的對參數p的最大似然估計.,41,解 已知總體X的概率函數為 P(X=k)=pk(1-p)1-k,(k=0,1), 假設獲得了n個樣本值(x1,x2,.,xn), 當然這些值不是0就是1.,42,PX=k=pk(1-p)1-k,(k=0,1),43,44,45,例 設(x1,x2,xn)為從總體X中取出的一組樣本觀察值, 試用最大