第四章大數定律與中心極限定律

4.1大數定律(一)依概率收斂第一章提到過，某一事件A發生的頻率，當實驗次數n增大時，會逐漸趨向于其概率。即若能否理解為對任意一組實驗中的樣本點ω，有，顯然上述極限不成立，但是發生的概率很小。設第i次試驗事件A發生第i次試驗事件A不發生則由切比雪夫不等式則稱{ξn}依概率收斂于ξ

.記為：定義設{ξn}為一個隨機變量序列，ξ為一個隨機變量，若任給的ε>0，有等價定義設{ξn}為一個隨機變量序列，ξ一個隨機變量，若任給的ε>0，δ>0存在N，使得當n>N時，則稱{ξn}依概率收斂于ξ。表示不管ε有多小，當n→∞，ξn落在內的概率→1，即落在外的概率→0。ξn收斂于ξ的幾種形式。對任意ω?，有1.逐點收斂2.一致收斂對任意ε>0，存在N，當n>N時，對所有ω?，有若存在A?，P(A)=1，使得對任意ωA，有3.幾乎必然收斂ξn幾乎必然收斂于ξ，可記為用集合的方式來表示即是其中ξn收斂于ξ的點ω構成的集合是4.幾乎必然一致收斂若存在A?，P(A)=1，使得對任意ε>0，存在N，當n>N時，對所有ωA，有用集合的方式來表示即是，存在一個整數序列{nl}，l=1,2,…使得如果隨機變量序列ξn的分布函數Fn(x)在連續點處收斂于ξ的分布函數F(x)，稱ξn弱收斂于ξ,記作也稱隨機變量ξn依分布收斂于ξ。5.弱收斂也把它記為6.積分平均收斂各種收斂之間的關系幾乎必然一致收斂幾乎必然收斂弱收斂依概率收斂積分平均收斂依概率收斂存在子列幾乎必然收斂(二)幾個常用的大數定律1.伯努利大數定律定理4.1(伯努利定理)設μn是n重伯努利試驗中事件A出現的次數，又A在每次試驗中出現的概率為p(0<p<1),則A出現的頻率fn(A)依概率收收斂于p，即對任意的ε>0，有證明:設第i次試驗事件A發生第i次試驗事件A不發生則由切比雪夫大數定律事實上，可以證明幾乎處處收斂于p，即滿足強大數定律。大數定律的一般定義定義4.1若是隨機變量序列，如果存在常數使得成立，則稱隨機變量序列服從大數定律。則對任意的ε>0，有2.切比雪夫大數定律定理4.2設是一列兩兩不相關的隨機變量，又設它們的方差有界，即存在常數C>0，使有證明；由切比雪夫不等式由于兩兩不相關，例4.1設是獨立同分布的隨機變量序列，均服從參數為λ的泊松分布，因為Eξi=λ，Dξi=λ，因此滿足大數定律，即對任意ε>0，有3.馬爾可夫大數定律定理4.3對隨機變量序列，若有則服從大數定律，即對任意的ε>0，有大數定律的證明過程中利用了稱其為馬爾可夫條件。當隨機變量序列獨立且方差有界時顯然有而如果隨機變量序列獨立同分布，方差存在即有界，顯然滿足馬爾可夫條件，進而滿足大數定律。即馬爾可夫大數定律成立。而如果隨機變量序列僅僅是獨立同分布，方差是否存在未知，則同樣可以證明其滿足大數定律，但是不能用切比雪夫大數定律了，要用到特征函數的工具。3.辛欽大數定律定理4.4若為獨立同分布隨機變量序列,且數學期望存在：則對于任意，有（三）幾個大數定的關系結論條件伯努利大數定律頻率依概率收斂于概率切比雪夫大數定律平均值依概率收斂于其數學期望馬爾可夫大數定律辛欽大數定律隨機變量序列兩兩不相關且方差有界方差的平均值趨向于0獨立同分布且數學期望存在則稱{ξn}依概率收斂于η

.記為：定義4.2設{ηn}為一個隨機變量序列，若任給的ε>0，有等價定義設{ηn}為一個隨機變量序列，若任給的ε>0，δ>0存在N，使得當n>N時，則稱{ηn}依概率收斂于η。4.2隨機變量序列的兩種收斂性或關于依概率收斂極限的唯一性若且關于依概率收斂極限保持運算的性質若且問？？這里只證明加法的情形，對任意的ε>0,依概率收斂性是否被連續函數所保持？即若，f(x)是連續函數，是否成立？考慮f(x)一致連續的情況，證明如下：對任意的ε>0，存在δ>0，使得當|x1-x2|<δ時，|f(x1)-f(x2)|<δ，故故有證明：對任意的，有例4.2設η，{ηn}都是服從退化分布的隨機變量序列，且則，但。自然的問題分布函數證明：對當故但故只在不連續點0處定義4.3設F1(x),F2(x),F3(x),…是一列分布函數，如果對F(x)的每個連續點x，都有稱分布函數{Fn(x)}弱收斂于分布函數F(x),并記作如果隨機變量序列ηn的分布函數弱收斂于η的分布函數，也稱ηn弱收斂于η,記作也稱隨機變量ηn依分布收斂于η。定理4.5若隨機變量序列η1,η2,η3,…依概率收斂于隨機變量η,即則相應的分布函數F1(x),F2(x),F3(x),…弱收斂于分布函數F(x)，即證明：對故而故即當時，同理有于是當時，有當F在x處連續時，令

有定理4.5的逆命題不真，即弱收斂不蘊含依概率收斂例4.3拋擲一枚均勻的硬幣的試驗，樣本空間為Ω={H,T}定義兩個隨機變量：顯然，它們有相同的分布函數令則不成立但僅在非常特殊的一些情況下弱收收斂才蘊含依概率收斂。定理4.6隨機變量序列（c為常數）的充要條件是這里F(x)是η=c的分布函數，也就是退化分布：證明：作業：P226126選做38問題：由第3章知識隨機變量的分布函數和其特征函數一一對應，那么依分布收斂（弱收斂）與其特征函數的收斂性是否等價？定理4.7分布函數列{Fn(x)}弱收斂于分布函數F(x)的充要條件是相應的特征函數列{φn(x)}收斂于F(x)的特征函數φ(x)。例4.4若ξλ是服從參數為λ的泊松分布的隨機變量，證明：證明：已知ξλ特征函數是，故的特征函數為因為故故從而是標準正態分布隨機變量的特征函數，由定理4.7定理4.4（辛欽大數定律）的證明：

因為ξk同分布，故設其特征函數為φ(t)，又因為Eξk=a存在，故有φ’(0)=ai，φ(t)在0處作泰勒展開ξk互獨立，因此的特征函數為故由定理4.6

是退化分布的特征函數，再由定理4.7

考察射擊命中點與靶心距離的偏差這種偏差是大量微小的偶然因素造成的微小誤差的總和,這些因素包括:瞄準誤差、測量誤差、子彈制造過程方面(如外形、重量等)的誤差以及射擊時武器的振動、氣象因素(如風速、風向、能見度、溫度等)的作用,所有這些不同因素所引起的微小誤差是相互獨立的,并且它們中每一個對總和產生的影響不大.問題:

某個隨機變量是由大量相互獨立且微小的隨機變量相加而成的,研究其概率分布情況.4.3中心極限定理(一)問題的提法設ξn(n=1,2,…)相互獨立。如果討論ηn=

ξ1+ξ2+…+ξn(n=1,2,…)的收斂規律律，它的極限可能取到正負無窮，哪怕是ηn-Eηn也是如此，即可能出現因此無意義。如果討論

的收斂規律律，由大數定律，其會收斂于它們的數學期望的平均值，即但這是我們已知的結論。因此，分母中n的數量級很關鍵，應當與ηn=

ξ1+ξ2+…+ξn(n=1,2,…)的標準差的數量級一致。即我們應當考慮ζn稱為ηn的中心化隨機變量。顯然滿足Eζn=0，Dζn=1。例如n重伯努利試驗，Eξn=p，Dξn=pq，(q=1-p),

因此應當考慮的收斂規律(二)同分布的中心極限定理定理4.10若ξ1,ξ2,…是一列獨立同分布隨機變量，且定理4.9（棣模弗－拉普拉斯）在n重伯努利試驗中，事件A在每次試驗中出現的概率為p(0<p<1)，μn為n次試驗中A出現的次數，則

則有例μn為n重伯努利試驗中事件A出現的次數，試計算例4.5某單位內部有260架電話分機，每個分機有4%的概率要與外線通話，可以認為各個電話分機用不用外線是相線獨立的，問總機要備有多少條外線才能以95%的把握保證各個分機在用外線時不必等候。解：令第i個分機要用外線第i個分機不用外線若260架分機中同時要求使用外線的分機數為μ260練習對于一個學生而言,來參加家長會的家長人數是一個隨機變量.設一個學生無家長、1名家長、2名家長來參加會議的概率分別為0.05，0.8，0.15.若學校共有400名學生,設各學生參加會議的家長數相互獨立,且服從同一分布.(1)求參加會議的家長數X超過450的概率;(2)求有1名家長來參加會議的學生數不多于340的概率.解根據獨立同分布的中心極限定理，由德莫佛－拉普拉斯定理知,例某類保險公司有100000人參加，每人每年付72元保險費。在一年內一個人死亡的概率為0.5%，死亡時其家屬可向保險公司領得10000元，公司一年的總開支為70萬元。問：(1)保險公司虧本的概率有多大？(2)保險公司一年的純利潤不少于90萬元、100萬元、150萬元的概率各為多大？解：設ξ表示一年內死亡的人數，則ξ~B(n,p),其中n=100000，p=0.5%，保險公司每年的凈收入為：72元100000-700000=6500000元（1）當該年死亡人數超過人時，公司就會虧本，于是由中心極限定理有：（2）公司純利潤不少于90萬元的事件等駕于保險者年內死亡人數不多于650人-90人=560人，其概率為：同理，公司純利潤不少于100萬元、150萬元的概率分別為：關于二項分布的收斂性問題第二章泊松定理告訴我們，二項分布收斂于泊松分布，中收極限定理則告訴我們，二項分布收斂于正態分布。是否有矛盾？二項分布收斂于泊松分布的條件是npn→λ;而二項分布收斂于正態分