1、概率論與數理統計第一章概率論的基本概念§ 2 樣本空間、隨機事件1 事件間的關系 A B 則稱事件B包含事件A,指事件A發生必然導致事件 B發生A、B =x x w A或x w B稱為事件A與事件B的和事件，指當且僅當A, B中至少有一個發生時，事件 A B發生Ac B =x x E A且x E B稱為事件A與事件B的積事件，指當A, B同時發生時，事件 A'B發生A B =x x乏A且x更B稱為事件 A與事件B的差事件，指當且僅當A發生、B不發生時，事件 A B發生A* B ：,則稱事件A與B是互不相容的，或互斥的，指事件A與事件B不能同時發生，基本事件是兩兩互不相容的A

2、B = 5且B = ，則稱事件A與事件B互為逆事件，又稱事件 A與事件B互為對立事件2 運算規則 交換律A _ B二B _ A A ' B二B - A結合律(A B) 一 C = A 一(B 一 C) (A 一 B)C = A(B 一 C)分配律 A _( B - C)二(A 一 B廠(A C)A -(B 一 C) =(A - B)(A - C)徳摩根律 A= A - B A - B = A B§ 3 .頻率與概率定義在相同的條件下，進行了 n次試驗，在這n次試驗中，事件 A發生的次數nA稱為事件A發生的頻數，比值nA.； n稱為事件A發生的頻率概率：設E是隨機試驗，S是它的

3、樣本空間，對于E的每一事件A賦予一個實數，記為P( A), 稱為事件的概率1 概率P(A)滿足下列條件：(1) 非負性：對于每一個事件 A 0乞P(A)乞1(2) 規范性：對于必然事件 S P(S) =1(3)可列可加性：設Ai,A2,，An是兩兩互不相容的事件， 有P( Ak)=7 P(Ak)( n可kk4以取：)2.概率的一些重要性質：(i) P( ) =0nn(ii) 若Ai,A2,，An是兩兩互不相容的事件，則有P( Ak)二二P(Ak)( n可以取：)k4k 二(iii )設 A，B是兩個事件若 A B，則 P(B _ A) = P(B) _ P(A)， P(B) _ P(A)(iv

4、 )對于任意事件 A, P(A) <1(v)P(Aj=1P(A)(逆事件的概率)(vi )對于任意事件 A, B有 P(A 一 B)二 P(A) P(B) - P(AB)§ 4等可能概型(古典概型)等可能概型：試驗的樣本空間只包含有限個元素，試驗中每個事件發生的可能性相同若事件 A包含k個基本事件，即，里ii, iz，i k是1,2, n中某k個不同的數，則有/ f k A包含的基本事件數 巳厲./衛飛中基本事件的總數§ 5.條件概率(1) 定義：設A,B是兩個事件，且P(A) 0,稱P(B|為事件A發生的條P(A)件下事件B發生的條件概率(2) 條件概率符合概率定義

5、中的三個條件1。非負性:對于某一事件B,有 P(B|A) 02。規范性:對于必然事件S, P(S|A)=13可列可加性：設B1，B2,是兩兩互不相容的事件，則有00P(u Bi A )=瓦 P(Bi A )i =1i T(3) 乘法定理設P(A) 0，則有P(AB) =P(B)P(A| B)稱為乘法公式(4)全概率公式：nP(A)八 P(Bi)P(A|Bi)i 二貝葉斯公式：P(Bk | A)P(Bk)P(A|Bk)n' P(Bi)P(A| Bi)i 4§ 6.獨立性定義設A, B是兩事件，如果滿足等式 P(AB) =P(A)P(B)，則稱事件A,B相互獨立定理一 設A, B

6、是兩事件，且P(A) . 0,若A, B相互獨立，則 P(B|A) = PB定理二 若事件A和B相互獨立，則下列各對事件也相互獨立：A與B ,A與B ,A與B第二章隨機變量及其分布§ 1隨機變量定義設隨機試驗的樣本空間為 S二e.X=X(e)是定義在樣本空間 S上的實值單值函數，稱X =X(e)為隨機變量§ 2離散性隨機變量及其分布律1. 離散隨機變量：有些隨機變量，它全部可能取到的值是有限個或可列無限多個，這種隨 機變量稱為離散型隨機變量0P(X =Xk)二 Pk 滿足如下兩個條件(1) Pk -0 , ( 2) V Pk =1kz!2. 三種重要的離散型隨機變量(1)

7、分布設隨機變量 X只能取 0 與 1 兩個值，它的分布律是 P(X二k) =pk(1-p)1-k, k =0,1 (0 ： p < 1)，則稱X服從以P為參數的分布或兩點分布。(2) 伯努利實驗、二項分布設實驗E只有兩個可能結果：A與A，則稱E為伯努利實驗設P(A) =p(0 ： p - 1),此時P(A) = 1- p 將E獨立重復的進行n次，則稱這一串重復的獨立實驗為n重伯努利實驗。nP(X =k)pkqn-k, k =0,1,2,n 滿足條件(1) pk - 0 , (2) Pk =1 注意到-可編輯修改-(；pkqn-k是二項式(p+q)的展開式中出現pk的那一項，我們稱隨機變量

8、X服從參數為n, p的二項分布。(3 )泊松分布設隨機變量X所有可能取的值為0,1,2，而取各個值的概率為、ke-幾P(X二k) ,k =0,1,2，其中，.0是常數，則稱 X服從參數為的泊松分布記為 k!X ： ( )§ 3隨機變量的分布函數定義 設X是一個隨機變量，x是任意實數，函數 F(x)二PX込x,-： : x :稱為X的分布函數分布函數F(x)二P(X乞x),具有以下性質(1) F(x)是一個不減函數 (2 )0 < F(x)乞 1，且 F(-：) =0,F(：) =1(3) F(x 0) =F(x),即F(x)是右連續的§ 4連續性隨機變量及其概率密度連

9、續隨機變量：如果對于隨機變量X的分布函數F (x),存在非負可積函數 f (x)，使對x于任意函數x有F(x)二f (t) dt, 則稱x為連續性隨機變量，其中函數f(x)稱為X的概率密度函數，簡稱概率密度1概率密度f (x)具有以下性質，滿足(1) f (x) _ 0, (2) f (x)dx二1 ；(3) P(X1 蘭 X 蘭 X2) = J f (x)dx ; (4)若 f (x)在點 x 處連續，則有 F'(x)=f(x)x12,三種重要的連續型隨機變量若連續性隨機變量丄X具有概率密度f (x) =tb_aI 0(1)均勻分布，a "x ：；b，則成x在區間(a,b)

10、上服，其他從均勻分布記為X U ( a, b)(2)指數分布若連續性隨機變量X的概率密度為丄e" f (x)痊，x. 0，其他其中V - 0為常數，則稱X10-可編輯修改-服從參數為V的指數分布。(3 )正態分布若連續型隨機變量 X的概率密度為:X ：:：:,其中，；（；0）為常數，則稱從參數'為二的正態分布或高斯分布，記為特別，當-0, ；-1時稱隨機變量X服從標準正態分布§ 5隨機變量的函數的分布定理設隨機變量 X具有概率密度fX（x）,-： :：x ：,又設函數g（x）處處可導且恒有g'(x)0Y=g（X）是連續型隨機變量其概率密度為-可編輯修改-fY

11、 ( y) =%h(y) h'(y) a < y < P0，其他第三章多維隨機變量§ 1二維隨機變量定義 設E是一個隨機試驗，它的樣本空間是S二e. X =X（e）和Y =Y（e）是定義在S上的隨機變量，稱 X =X（e）為隨機變量，由它們構成的一個向量（X，Y）叫做二維隨機變量設（X， Y）是二維隨機變量，對于任意實數x， y，二元函數 F（ x，y） = P（X乞x）（Y y）記成PX乞x，Y < y稱為二維隨機變量 （X，Y）的分 布函數如果二維隨機變量（X，Y）全部可能取到的值是有限對或可列無限多對，則稱（X，Y）是離散型的隨機變量。我們稱P（X二X

12、i，丫二yj）二Pj，i，j =1,2，為二維離散型隨機變量（X，Y）的分 布律。對于二維隨機變量（X,Y）的分布函數F （x，y），如果存在非負可積函數f（x,y），y x使對于任意x，y有F （x，y）f（u，v） dudv,則稱（X，Y）是連續性的隨機變量，“ x z /函數f （x，y）稱為隨機變量（X，Y）的概率密度，或稱為隨機變量 X和Y的聯合概率密度。§ 2邊緣分布二維隨機變量（X，Y）作為一個整體，具有分布函數F （x，y）.而X和Y都是隨機變量，各自也有分布函數，將他們分別記為FX（x）, FY（y），依次稱為二維隨機變量（X，Y）關于X和關于Y的邊緣分布函數。Pi

13、 八 Pij 二 PX 二 Xi, i =1,2,Pj 八 Pij 二 PY 二 yi, = 1,2/ji 分別稱Pi.Pd為(X, Y)關于X和關于Y的邊緣分布律。fx(x)二f (x, y) dyfy(y)二 f(x, y) dx分別稱 fx(x),fY(y)為X, Y關于X和關于Y的邊緣概率密度。§ 3條件分布定義 設(X，Y)是二維離散型隨機變量，對于固定的j，若PY二yj 0,PX =Xj,Y = yjPj則稱PX二人丫二yj-j =,i =1,2,為在Y = yj條件下PY = yjp鼻PX=Xi,Y = yjPj隨機變量X的條件分布律，同樣PY=yjX=Xi=，j=1,

14、2，PX=x- Pi.為在X二x-條件下隨機變量 X的條件分布律。設二維離散型隨機變量(X，丫的概率密度為f (x, y)，( X，丫關于丫的邊緣概率密度為fY(y)，若對于固定的y，fY(y) > 0，則稱f(x, y)為在Y=y的條件下x的條件概率密 fy(y)度，記為 fxY(xy)= f y)fv(y)§ 4相互獨立的隨機變量定義設F (x, y)及Fx(x) , Fy(y)分別是二維離散型隨機變量(X, Y)的分布函數及邊緣分布函數若對于所有x,y有PX = X,丫二y二PX空xPY < y，即Fx,y -Fx(x)FY(y), 則稱隨機變量 X和Y是相互獨立的

15、。對于二維正態隨機變量(X, Y), X和Y相互獨立的充要條件是參數卜=0§ 5兩個隨機變量的函數的分布1, Z=X+Y的分布設(X,Y)是二維連續型隨機變量，它具有概率密度f (x, y).則Z=x+丫仍為連續性qQqQ隨機變量，其概率密度為fx y(z)二.二(z-y, y) dy或 fx Y(z) = _ . f (x, x) dx又若x和Y相互獨立，設(X, 丫)關于x, Y的邊緣密度分別為fx (x), fY(y)則OQqQfx Y(z)二fx(z-y) fY(y)dy 和 fx y二 一 fx(x) fy(z-x)dx這兩個公式稱為 -=a-=ofx , fY的卷積公式有

16、限個相互獨立的正態隨機變量的線性組合仍然服從正態分布2, z 的分布、Z二XY勺分布x設(x,Y)是二維連續型隨機變量，它具有概率密度Yf(x，y)，則 r，"xY仍為連續性隨機變量其概率密度分別為Y x (z) = ©xf (x,xz)dxfXY (z)="8f (x,-)dx又若x和Y相互獨立，設(x, xY)關于x,Y的邊緣密度分別為fx(X), fY(y)則可化為 fYX(Z)二匚fX(x)fY(xz)dXf xy 二:1zLfx (x)fY(；)dx3M 二maxX , Y及N =min X,Y的分布Fx (x),FY(y)由于設x, Y是兩個相互獨立的

17、隨機變量，它們的分布函數分別為M =maxX , Y不大于z等價于X和Y都不大于z故有PM z = PX _ z, Y z又由于X和Y相互獨立，得到 M二maxX , Y的分布函數為Fmax(z) = FX(z)FY(z)N = minX,Y的分布函數為 Fmin =1 - 1 - Fx 】1 - Fy(z) 1第四章 隨機變量的數字特征§ 1 數學期望QO定義設離散型隨機變量 X的分布律為PX二Xk二Pk , k=1,2，若級數7 XkPk絕對kTQO收斂，則稱級數 7 XkPk的和為隨機變量 X的數學期望，記為E(X)，即E(X)=v Xk Pkk 1iqQ設連續型隨機變量 X的

18、概率密度為f(x)，若積分xf(x)dx絕對收斂，則稱積分oq"bo.xf(x)dx的值為隨機變量x的數學期望，記為E(X)，即E(X)二xf(x)dx定理 設Y是隨機變量X的函數Y=g(X)(g是連續函數)QO(i )如果X是離散型隨機變量，它的分布律為PX =xk二pk，k=1,2，若g(xk)pk k 二絕對收斂則有 E(Y)二 E(g(X)=二 g(xQPk(ii)如果X是連續型隨機變量，它的分概率密度為 f (x)，若"g(x) f (x)dx絕對收斂則 *0有 E(Y) =E(g(X) = ：g(x)f(x)dx數學期望的幾個重要性質1設C是常數，則有E(C)

19、=C2設X是隨機變量，C是常數，則有E(CX)二CE(X)3設X,Y是兩個隨機變量，則有 E(X Y E(X) E(Y)；4設X，Y是相互獨立的隨機變量，則有E(XY)二E(X)E(Y)§ 2方差定義設X是一個隨機變量，若E X -E(X)12存在，則稱ElX -E(X)!2為X的方差，記為D( x)即D(x)=E X -E(X) F，在應用上還引入量. D(x)，記為二(x)，稱為標 準差或均方差。D(X) =E(X - E(X)2 =E(X2) - (EX)2方差的幾個重要性質1設C是常數，則有 D(C) =0,2設X是隨機變量，C是常數，則有 D(CX)=C2D(X)，D(X

20、CD(X)3 設 X,Y 是兩個隨機變量，則有 D(X YD(X) - D(Y) 2E(X - E(X)(Y - E(Y)特 別，若X,Y相互獨立，則有 D(X YD(X) D(Y)4D(X) =0的充要條件是 X以概率1取常數E(X)，即PX =E(X) =1切比雪夫不等式：設隨機變量 X具有數學期望 E(X) -廠2，則對于任意正數 ；，不等式_ 2PX-4成立z§ 3協方差及相關系數定義 量E X _E(X)Y _E(Y)稱為隨機變量 X與Y的協方差為Cov(X,Y)，即Cov(X,Y)二 E(X 一 E(X)(Y 一 E(Y) = E(XY) 一 E(X )E(Y) Cov(

21、X , Y)而：稱為隨機變量 X和Y的相關系數糾(X) pDY"對于任意兩個隨機變量 X和Y， D(X Y)二D(X) D(Y) 2Cov(X,Y)協方差具有下述性質1Cov(X,Y) =Cov(Y,X), Cov(aX,bY) =abCov(X,Y)2Cov(X, X2,Y) =Cov(X1,Y) Cov(X2,Y)定理 1* < 12| 'XY二1的充要條件是，存在常數a,b使PY = a bx = 1當 XY =o時，稱X和Y不相關附：幾種常用的概率分布表分布參數分布律或概率密度數學期望方差兩點分 布0 £ p £1k1 kPX =k)= p

22、(1 p) ,k = 0,1，pp(1- p)二項式分布n工10 c p £1kkn kp(x =k) =Cn p (1 p),k = 0,1，n，npnP(1- p)泊松分 布k >0xke_P(X =k)=,k = 0,1,2，k!入扎幾何分 布0 c p C1k _1P(X =k)=(1 p) p,k=1,2,1 p1 - p2 p均勻分 布a vbf1 f(x) = (b a ,a'xu ，10 ，其他a + b2(b-a)212指數分 布e >0f(x) = beI。0,其他e薩正態分 布CT > 01(x*2f(X)Se2 O"第五章 大數定律與中心極限定理§ 1.大數定律弱