1、大數定律和中心極限定理(NXPowerL)1第五章 大數定律和中心極限定理 關鍵詞：關鍵詞：契比雪夫不等式契比雪夫不等式大數定律大數定律中心極限定理中心極限定理大數定律和中心極限定理(NXPowerL)21 大數定律 背景 本章的大數定律，對第一章中提出的 “頻率穩定性”，給出理論上的論證 為了證明大數定理，先介紹一個重要不等式大數定律和中心極限定理(NXPowerL)3 22222,0,1XE XD XP XE XP XE X 設隨機變量 具有數學期望方差則對于任意都有：定理的為：等價形式 ,XXf x證明： 僅就 為連續型時證之 設 的概率密度為 xPXfx dx則 22xxf x dx

2、221xfx dx222D X( )fxP127-128契比雪夫不等式 大數定律和中心極限定理(NXPowerL)4不等式說明不等式說明2( ,),(3 )(33 )XNP XPX 檢驗：當時 則2 (3) 10.9974 2(),(),(3 )XE XD XP X對于任意分布的 ，若記則由契比雪夫不等式：330.8889X即由契比雪夫不等式知道，對于任意分布的 落入區間（，）的概率均大于。0.99740.8889!可見， 符合以上結論2210.8889(3 ) 但要注意，雖然契比雪夫不等式可以對任意分布的隨機變量落入其期望附近的對稱區間進行估計，但只是粗略估計!大數定律和中心極限定理(NXP

3、owerL)5 例例1 1：n n重貝努里試驗中，已知每次試驗事件重貝努里試驗中，已知每次試驗事件A A出現的概率出現的概率為為0.750.75，試利用契比雪夫不等式，試利用契比雪夫不等式,(1),(1)若若n=7500,n=7500,估計估計A A出現出現的頻率在的頻率在0.740.74至至0.760.76之間的概率至少有多大；（之間的概率至少有多大；（2 2）估計）估計n,n,使使A A出現的頻率在出現的頻率在0.740.74至至0.760.76之間的概率不小于之間的概率不小于0.900.90。nA解：設在 重貝努里試驗中，事件 出現的次數為X，,0.75XB n則,()0.75 ,()0

4、.1875 ,E Xnpn D Xnpqn nXAfAn又 事件的頻率為：0.740.760.750.01XPP Xnnn(2)20.187510.01nn 187510.90n 18750n(1)7500,0.740.760.750.01XnPP Xnnn20.187510.01nn 0.75大數定律和中心極限定理(NXPowerL)6 隨機變量序列依概率收斂的定義 ,( , )( , )(,( , )PPnnPnnXaYbg x ya bg XYg a b 依概率收斂性質：若且在處連續，則） 12,0,1,nnnnY YYalim P YaYaPYan 。定義：設隨機變量序列若存在某常數

5、， 使得均有： 則稱隨機變量序列依概率收斂于常數 ， 記為：aaa大數定律和中心極限定理(NXPowerL)7122111,1,01limlim1.1.nnkknknnknPPkkXXXnXXnP XPXnXXn 定理一 契比雪夫定理的特殊情況 ： 設隨機變量序列相互獨立，且具有相同的數學期望 和相同的方差，作前 個隨機變量的算術平均： 則，有： 即，或寫為大數定律和中心極限定理(NXPowerL)8 111,nkkE XEXnnn證明：由于 11nkkD XDXn211nkkD Xn2221nnn22111nkknPXn 由契比雪夫不等式得：111nknklim PXn大數定律和中心極限定理

6、(NXPowerL)9 ,0,1AAnApnnAnlim Ppn定理二伯努利大數定理 設事件 在每次試驗中發生的概率為 ，記為 次獨立重復試驗中 發生的次數 則有：,AnB n p證明：11,AAnEE nnppnnn20,1AnpqPpnn 有2211AAnpqDD nnpqnnnn1Annlim Ppn即得：由契比雪夫不等式：大數定律和中心極限定理(NXPowerL)10大數定律的重要意義大數定律的重要意義 貝努里大數定律揭示了在大量重復獨立貝努里大數定律揭示了在大量重復獨立試驗中事件出現頻率的穩定性，正因為這種試驗中事件出現頻率的穩定性，正因為這種穩定性，概率的概念才有客觀意義，貝努里穩

7、定性，概率的概念才有客觀意義，貝努里大數定律還提供了通過試驗來確定事件概率大數定律還提供了通過試驗來確定事件概率的方法，既然頻率的方法，既然頻率 與概率與概率 有較大有較大偏差的可能性很小，我們便可以通過做試驗偏差的可能性很小，我們便可以通過做試驗確定某事件發生的頻率并把它作為相應的概確定某事件發生的頻率并把它作為相應的概率估計，這種方法就是第率估計，這種方法就是第7 7章將要介紹的參章將要介紹的參數估計法，參數估計的重要理論基礎之一就數估計法，參數估計的重要理論基礎之一就是大數定理。是大數定理。/Annp大數定律和中心極限定理(NXPowerL)111211,101limlim1.nnkkn

8、knnkXXXnXXnP XPXn 定理三 辛欽定理 ： 設隨機變量序列相互獨立，服從同一分布，且存在數學期望 ，作前 個隨機變量的算術平均： 則，有： 121n,1 nnkkXXXXn定理一表明，當 很大時，的算術平均:接近于它們共同的數學期望。而這種接近是在概率意義下的接近。此外，定理中要求隨機變量的方差存在，但當隨機變量服從相同分布時，就不需要這一要求。大數定律和中心極限定理(NXPowerL)12 例2：112111,( 1,1).111123nnnnkkkkkkXXXUXXXnnn設隨機變量相互獨立同分布，則（），（ ），（ ）分別依概率收斂嗎？如果依概率收斂，分別收斂于什么？111

9、1222112111,(),(),()111 nnnnnnkkkkkkXXE XXXE XXXE XnXXXnnn解：對照辛欽大數定律，相互獨立同分布，存在,相互獨立同分布，存在,相互獨立同分布，存在,故它們各前 個算術平均：，均依概率收斂。1()0,E X因為，11nkkPXn 0，111(),E Xxdx11同理，2212211(),E Xxdx112311nkkPXn 1，2211nkkPXn 1。3大數定律和中心極限定理(NXPowerL)1321222211n3,013:( ),0,0,lim1,=nnxxXf xXnXXXXXXPaan例設現對 獨立觀察次，其他觀察值記為如果這些觀

10、察值滿足求？12,nXXX解： 由題意知，是具有獨立同分布的隨機變量22212,nXXX所以,它們的連續函數也是獨立同分布的。2222221111nnXXXXXXnn是變量序列， ，的前 個算術平均，2()E X故由定理三（辛欽定理）得： 算術平均依概率收斂于122203()35aE Xxx dx大數定律和中心極限定理(NXPowerL)14 例4：1112,(0,1),nnnXXXUX XX設隨機變量相互獨立同分布，則依概率收斂嗎？如果依概率收斂，收斂于什么？111,ln(lnln)nnnnnnYXXZYXXn解：令則1nZnnPZYee 所以的連續函數1ln,ln,nXX而是相互獨立同分布

11、的，并且11100(ln)ln( ln)1 ,EXxdxxxx即存在數學期望。1.nPZ 由辛欽大數定律，大數定律和中心極限定理(NXPowerL)152 中心極限定理背景： 有許多隨機變量，它們是由大量的相互獨立的隨機變量的綜合影響所形成的，而其中每個個別的因素作用都很小，這種隨機變量往往服從或近似服從正態分布，或者說它的極限分布是正態分布，中心極限定理正是從數學上論證了這一現象，它在長達兩個世紀的時期內曾是概率論研究的中心課題。 大數定律和中心極限定理(NXPowerL)16 定理四獨立同分布的中心極限定理210,1 .(,),nniinYNXN nn（近似）此定理表明，當 充分大時，近似

12、服從即：11niiXXn思考題（n足夠大）：的近似分布是什么？2( ,)Nn答案：2122112,1,2,1,2niiniinnitxinnnXXXE XD XiXnnYnXnxRlim P Yxlim Pxedtn 設隨機變量相互獨立同分布，則前 個變量的和的標準化變量為：有： 1()()().niibnanP aXbnn 從而，注意：定理五的應用大數定律和中心極限定理(NXPowerL)17 定理六棣莫佛-拉普拉斯定理221,(1)2tbAnannplim P abedtnpp由前定理1 0 iiAXiA第 次試驗時 發生證明：令第 次試驗時 未發生 2201 ,1,lim,(1)2Atb

13、AnannAP Appnnpa bP abedtnpp設為 重貝努里試驗中 發生的次數，則對任何區間(，有：12, (1, ).niXXXXbp則相互獨立同分布,12,AnnXXX由于( , ),(,(1)AAnB n pnN np npp近似即: 若則 ()(1)()(1)AP anbbnpnppanpnpp 大數定律和中心極限定理(NXPowerL)18121616,X XX解：記 只電器元件的壽命分別為16116iiXX則只電器元件的壽命總和為,2100,100iiE XD X由題設2(1600,400 )XN近似根據獨立同分布的中心極限定理: 192011920P XP X 1920

14、16001400 10.80.2119 161611()()()16*1001600iiiiE XEXE X16162211()()()16*100400iiiiD XDXD X例例5 5：設某種電器元件的壽命服從均值為：設某種電器元件的壽命服從均值為100100小時的小時的指數分布，現隨機取得指數分布，現隨機取得1616只，設它們的壽命是相互只，設它們的壽命是相互獨立的獨立的, ,求這求這1616只元件的壽命的總和大于只元件的壽命的總和大于19201920小時的小時的概率。概率。大數定律和中心極限定理(NXPowerL)195000,0.005XXb解：設 為一年內符合賠付條件的人數，則25

15、,25,(25,25)npnpqXN近似由中心極限定理得 200005000*16 200040000PX30 2520 25()2525) 11211 例例6 6：設保險公司的某項保險業務有：設保險公司的某項保險業務有50005000人參人參加，投保人交加，投保人交1616元元, ,若符合賠付條件時，保險若符合賠付條件時，保險公司付給投保人公司付給投保人20002000元。設賠付率為元。設賠付率為0.0050.005，試求保險公司在這項保險業務中盈利試求保險公司在這項保險業務中盈利2 2萬到萬到4 4萬元的概率萬元的概率. .2030PX0.6826大數定律和中心極限定理(NXPowerL)

16、20Y另解：設 為公司在該業務中的利潤iiX設為公司在第 人業務中的所獲得的利潤500021( ,)iiYXN 近似則：(2000040000)2(1) 1=0.6826PY 1619840.0050.995ikXP 例例6 6：設保險公司的某項保險業務有：設保險公司的某項保險業務有50005000人人參加，投保人交參加，投保人交1616元元, ,若符合賠付條件時，若符合賠付條件時，保險公司付給投保人保險公司付給投保人20002000元。設賠付率為元。設賠付率為0.0050.005，試求保險公司在這項保險業務中盈，試求保險公司在這項保險業務中盈利利2 2萬到萬到4 4萬元的概率萬元的概率. .

17、2( )30000,( )9975iiE XD XE YD Y)=6,)=19900,2(30000,9975 )YN近似大數定律和中心極限定理(NXPowerL)218400 0.02 0.982.81721(1)10.99382.8npnpqnpP XP Xnpq ，,400,0.02 XXb解：設機器出故障的臺數為則，分別用三種方法計算：1. 用二項分布計算40039921011 0.98400 0.02 0.980.9972P XP XP X 2. 用泊松分布近似計算400 0.028 ,21011 0.000335 0.0026840.9969npP XP XP X 3. 用正態分布

18、近似計算2621(2)10.98382.8npP XP Xnpq 例例7 7：設某工廠有：設某工廠有400400臺同類機器，各臺機器發生故臺同類機器，各臺機器發生故障的概率都是障的概率都是0.020.02，各臺機器工作是相互獨立的，各臺機器工作是相互獨立的，試求機器出故障的臺數不小于試求機器出故障的臺數不小于2 2的概率。的概率。P44P44大數定律和中心極限定理(NXPowerL)22 例例8 8：12012020202111,( 1,1)111123202020kkkkkkXXXUXXX設隨機變量相互獨立同分布，。分別求（），（），（）的近似分布。2020202111111202020kkkkkkXXX解：由中心極限定理，均近似服從正態分布。1()0,E X因為，11110(),E Xxdxxdx112214(),12D X132011(0,),20kkXN近似16022111()() (),D XE XE X1122011( ,)20kkXN近似11，2 2402422111()() (),D XE XE X1145945211( ,)nkkXNn近似11。3 22511222