概率論基礎（Ⅲ）2009年3月山西大學數學科學學院大數定律&中心極限定理1知識拓展山西大學數學科學學院大數定律&中心極限定理2一、多維隨機變量（隨機向量）二、多維隨機變量的特征數三、大數定理四、中心極限定理相關概念山西大學數學科學學院大數定律&中心極限定理3n維隨機變量（隨機向量）的形式：n維隨機變量的聯合分布函數：二維離散型隨機變量的聯合分布列：二維連續型隨機變量的聯合分布函數：二維隨機變量的特征數山西大學數學科學學院大數定律&中心極限定理4協方差相關系數二維隨機變量的協方差山西大學數學科學學院大數定律&中心極限定理5設（X，Y）是一個二維隨機變量，如果存在，則稱其為X與Y的協方差，或稱為X與Y的相關（中心）矩，并記為特別地：協方差>0，稱X與Y正相關，即同增同減；協方差<0，稱X與Y負相關，即增減相反；協方差=0，稱X與Y不（線性）相關。二維隨機變量的協方差山西大學數學科學學院大數定律&中心極限定理6協方差的性質：Cov(X,Y)=E(XY)-E(X)E(Y)；若X與Y獨立，則Cov(X,Y)=0，反之亦然；Cov(X,Y)=Cov(Y,X)；Cov(X,a)=0，a為常數；Cov(aX,bY)=abCov(Y,X)，a,b為常數;Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)；Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y),Var(X-Y)=Var(X)+Var(Y)-2Cov(X,Y)。二維隨機變量的相關系數山西大學數學科學學院大數定律&中心極限定理7設（X，Y）是一個二維隨機變量，且Var(X)>0，Var(Y)>0。則稱為X與Y的相關系數。相關系數與協方差是同符號的，即同正同負，所以從相關系數的取值也可以反映X與Y的（線性）相關性。相關系數可以看做是X與Y標準化后的協方差。二維隨機變量的相關系數山西大學數學科學學院大數定律&中心極限定理8相關系數的性質：有界：;不等式關系：；相關系數為的充分必要條件是X與Y幾乎處處有線性關系，即存在a(不為0)和b，使得P(Y=aX+b)=1。其中當Corr(X,Y)=1時，有a>0；當Corr(X,Y)=1，有a<0。獨立與不相關山西大學數學科學學院大數定律&中心極限定理9一般場合，獨立必然導致不相關，但不相關推不出獨立。但在正態場合下兩者等價。TH.在二維正態分布場合，不相關與獨立是等價的。伯努利大數定律山西大學數學科學學院大數定律&中心極限定理10設為n重伯努利試驗中事件A發生的次數，p為每次實驗中A出現的概率，則對任意的，有注解：只要試驗次數足夠大，事件A發生的頻率就會與其概率真值相當的接近，偏離的機會很小，可以認為是0。大數定律的一般形式山西大學數學科學學院大數定律&中心極限定理11設有一隨機變量序列{Xn}，若對任意的，有則稱該隨機變量序列服從大數定律。注解：只要n充分大，隨機變量“平均值”與理論“期望”可以無限接近。大數定律的不同形式山西大學數學科學學院大數定律&中心極限定理121、切比雪夫大數定律設{Xn}為一列兩兩不相關的隨機變量序列，若每個Xi的方差存在，且有共同的上界，則{Xn}服從大數定律。2、馬爾科夫大數定律（條件）隨機變量序列{Xn}，若滿足3、辛欽大數定律設{Xn}為一獨立同分布的隨機變量序列，若Xi的期望存在，則{Xn}服從大數定律。中心極限定理&大數定律的關系山西大學數學科學學院大數定律&中心極限定理13大數定律討論的是多個隨機變量的平均(1)的漸進性質，中心極限定理討論的是隨機變量和(2)的極限分布。(1)(2)獨立同分布的中心極限定理山西大學數學科學學院大數定律&中心極限定理141、林德貝格-勒維中心極限定理設{Xn}是獨立同分布的隨機變量序列，且記則對任意實數y，有注解：獨立隨機變量和序列標準化后的分布是漸進正態的。二項分布的正態近似山西大學數學科學學院大數定律&中心極限定理152、棣莫弗-拉普拉斯極限定理設n重伯努利試驗中，事件A在每次實驗中出現的概率是p(0<p<1)，記為n次試驗中事件A出現的次數，且記則，對任意實數y，有注解：二項分布（n個獨立同分布事件和）是漸進正態的。林德貝格條件山西大學數學科學學院大數定律&中心極限定理16林德貝格條件設{Xn}是一個相互獨立的的隨機變量序列，他們具有有限的數學期望和方差：

，則隨機變量的和的期望方差分別為：若諸Xi為連續隨機變量時，記其密度函數為pi(x)。如果對任意的，有 *獨立不同分布的中心極限定理1山西大學數學科學學院大數定律&中心極限定理173、林德貝格中心極限定理設{Xn}是相互獨立的的隨機變量序列，如果滿足林德貝格條件，即對任意，有則對任意的x，有

注解：n個獨立不同分布事件的和是漸進正態的，只要它