1、 第一章第一章 隨機變量基礎隨機變量基礎隨機變量理論隨機變量理論隨機變量隨機變量分析分析概率特性概率特性概率分布函數概率分布函數概率密度函數概率密度函數數字特征數字特征用確定量來表示用確定量來表示不確定量的特征不確定量的特征均值均值 方差等方差等特征函數特征函數概率特性轉換域函數概率特性轉換域函數研究方便研究方便 一、隨機變量基礎一、隨機變量基礎1.1 1.1 概率論的基本術語概率論的基本術語 隨機試驗隨機試驗 滿足下列三個條件的試驗稱為隨機試驗： (1)在相同條件下可重復進行； (2)試驗的結果不止一個，所有可能的結果能事先明確； (3)每次試驗前不能確定會出現哪一個結果。例：投擲硬幣可重復

2、性可重復性總體確定性總體確定性具體隨機性具體隨機性隨機事件隨機事件 在隨機試驗中，對試驗中可能出現也可能不出現、而在大量重復試驗中卻具有某種規律性的事情，稱為隨機事件，簡稱為事件，如投擲硬幣出現正面就是一個隨機事件。 1.1 1.1 概率論的基本術語概率論的基本術語基本事件基本事件 隨機試驗中最簡單的隨機事件稱為基本事件，如投擲骰子出現1、2、.、6點是基本事件。樣本空間樣本空間 隨機試驗的所有基本事件組成的集合稱為樣本空間，記為，如投擲骰子的樣本空間為1,2,3,4,5,6。頻數和頻率頻數和頻率 在相同條件下的n次重復試驗中，事件A發生的次數nA稱為事件A的頻數，比值稱為事件A發生的頻率。頻

3、率反映了事件A發生的頻繁程度。 概率概率 事件發生可能性大小的度量。( )limAnnP An1.2 1.2 隨機變量的定義隨機變量的定義定義：定義：設隨機試驗E的樣本空間為S=e，如果對于每一個e S，有一個實數X(e)與之對應，這樣就得到一個定義在S上的單值函數X(e)，稱X(e)為隨機變量，簡記為X。注意：隨機變量是定義在樣本空間注意：隨機變量是定義在樣本空間S S上的單值函數，上的單值函數， X(e) X(e)的的隨機性隨機性在在e e中體現。中體現。根據隨機變量取值的不同可以分為： 連續型隨機變量 離散型隨機變量1.2 1.2 隨機變量的定義隨機變量的定義離散型隨機變量是指它的取值為

4、有限個或者可列無窮個 設離散型隨機變量X的所有可能取值為 ，其概率為),.,1(nkxk),.,2 , 1()(nkpxXPkk X x1 x2 . xn pk p1 p2 . pn 離散隨機變量X的概率分布/分布律 1.2 1.2 隨機變量的定義隨機變量的定義幾種典型的離散隨機變量的概率分布 (0,1) (0,1)分布分布 隨機變量的可能取值為0和1兩個值，其概率分布為 ) 10(10,1ppXPpXP設隨機試驗E只有兩種可能的結果 和 ，且AAqpAPpAP1)(,)(mnmmnnqpCmXP)()0(nm ),(pnBX那么在n次試驗中事件A發生m次的概率為： 二項分布二項分布 1.2

5、1.2 隨機變量的定義隨機變量的定義幾種典型的離散隨機變量的概率分布 泊松分布泊松分布 隨機變量的可能取值為0,1,2,，且概率分布為 !)(kekXPk,.1 , 0k0)(PX1.3 1.3 隨機變量的分布函數與概率密度隨機變量的分布函數與概率密度分布函數分布函數 隨機變量的可能取值為0,1,2,，且概率分布為設X為隨機變量，x為實數，定義 F(x)=P(Xx) 為X的概率分布函數，簡稱分布函數。分布函數性質分布函數性質0)()(12xFxF12xx 0( )1F x ，)(1)(xFxXP1221()()( )P xXxF xF x)()()(1221xFxFxXxP右連續)()(xFx

6、F1.3 1.3 隨機變量的分布函數與概率密度隨機變量的分布函數與概率密度連續型隨機變量連續型隨機變量 分布函數是連續的，即 ，因此)()(xFxF0)( xXP離散型隨機變量離散型隨機變量 分布函數是階梯型的，即iiiipxXPxFxF)()()(分布函數則表示為：iiixxUpxF)()(0,1)分布的分布函數 1.3 1.3 隨機變量的分布函數與概率密度隨機變量的分布函數與概率密度概率密度概率密度 隨機變量X的分布函數的導數，記為 ，即)(xfdxxdFxf)()(概率密度函數性質：0)(xf1)(dxxf21)()()(1221xxdxxfxFxFxXxP1x2xkx1p2pkp( )

7、F xx1xkx1p( )f xx2pkp2x離散型隨機變量的概率密度離散型隨機變量的概率密度(PDF)(PDF)1.3 1.3 隨機變量的分布函數與概率密度隨機變量的分布函數與概率密度常見連續型隨機變量分布 正態分布正態分布( (高斯分布高斯分布) ) 222)(exp21)(xxf-4-3-2-10123400.10.20.30.40.50.60.70.8N(0,1)標準正態分布概率密度標準正態分布概率密度 ),(2NX221()( )exp22xXxFxdx21( )exp22xxxdx標準正態分布函數標準正態分布函數 均勻分布均勻分布常見連續型隨機變量分布其它01)(bxaabxf(

8、, )XU a b 在實際問題中，定點計算的舍入誤差，計算機產生的隨在實際問題中，定點計算的舍入誤差，計算機產生的隨機數，正弦波的隨機相位等都用到均勻分布。機數，正弦波的隨機相位等都用到均勻分布。 瑞利分布瑞利分布常見連續型隨機變量分布0002exp)(222xxxxxf，瑞利分布概率密度瑞利分布概率密度 2 02468101200.050.10.150.20.250.30.350.4 指數分布指數分布常見連續型隨機變量分布000)(xxexfx，指數分布概率密度指數分布概率密度 0123456700.511.5 對數正態分布對數正態分布常見連續型隨機變量分布)(2)(exp21)(22xUI

9、nxxxf 為尺度參數為尺度參數 為形狀參數為形狀參數01234567891000.10.20.30.40.5對數正態分布概率密度對數正態分布概率密度 1.4 1.4 多維隨機變量及其分布多維隨機變量及其分布1 1、二維隨機變量、二維隨機變量 設隨機試驗設隨機試驗E E的樣本空間的樣本空間S=e,X=X(e)S=e,X=X(e)和和Y=Y(e)Y=Y(e)是定義在是定義在樣本空間樣本空間S S上的兩個隨機變量上的兩個隨機變量, ,由由X X和和Y Y構成的矢量（構成的矢量（X X，Y Y）稱為）稱為二維隨機變量。二維隨機變量。Se( ), ( )X e Y exy2R1.4 1.4 多維隨機變

10、量及其分布多維隨機變量及其分布2 2、二維隨機變量的分類、二維隨機變量的分類 連續型隨機變量連續型隨機變量 離散型隨機變量離散型隨機變量 離散型隨機變量是指離散型隨機變量是指(X,Y)(X,Y)的取值為有限個或者可列無窮個的取值為有限個或者可列無窮個(,)( ,1,2,.)iiijP Xx Yypi j1ijijp 聯合概率分布列：聯合概率分布列：二維離散型隨機變量的取值規律：二維離散型隨機變量的取值規律：1.4 1.4 多維隨機變量及其分布多維隨機變量及其分布3 3、二維分布函數、二維分布函數 設（X，Y）為二維隨機變量，x，y為實數，定義 ,),(yYxXPyxF為二維隨機變量的的分布函數

11、。二維分布函數圖解二維分布函數圖解 二維隨機變量落在某一區域的概率二維隨機變量落在某一區域的概率 1.4 1.4 多維隨機變量及其分布多維隨機變量及其分布4 4、二維分布函數性質、二維分布函數性質1),(0yxF0),( yF0),(xF0),(F1),(F )(),(xFxFX)(),(yFyFY邊緣分布邊緣分布由二維分布函數可以求出一維分布函數由二維分布函數可以求出一維分布函數 1.4 1.4 多維隨機變量及其分布多維隨機變量及其分布5 5、二維概率密度、二維概率密度 yxyxFyxf),(),(26 6、二維概率密度性質、二維概率密度性質0),(yxf xydxdyyxfyxF),(),

12、(dyyxfxfX),()(dxyxfyfY),()(可以求出邊緣概率密度可以求出邊緣概率密度1.4 1.4 多維隨機變量及其分布多維隨機變量及其分布7 7、條件分布函數、條件分布函數 8 8、條件概率密度、條件概率密度|)|(|xXyYPxyFXYyxyFxyfXYXY)|()/(|)()|()()|(),(|xfxyfyfyxfyxfXXYYYX稱隨機變量稱隨機變量X，Y獨立獨立( ,)( )( )XYf x yfx fy1.5 1.5 隨機變量的數字特征隨機變量的數字特征1 1、均值、均值( (數學期望數學期望) ) (1) (1) 均值為線性算子；均值為線性算子；(3) (3) 若若

13、，則稱，則稱X X與與Y Y正交正交。0)(XYEXmNiiipxXE1)(離散型隨機變量：離散型隨機變量：性質：性質：)()()(YEXEXYE(2) (2) 若隨機變量若隨機變量X X與與Y Y相互相互獨立獨立，則有，則有所有取值的統計平均所有取值的統計平均()( )E Xxfx dx定義：定義：為隨機變量為隨機變量X X的均值，記為的均值，記為 。 1.5 1.5 隨機變量的數字特征隨機變量的數字特征2 2、方差、方差 性質：性質：定義：定義：)()(2XEXEXD22()()E XEX通常記為通常記為 ， 稱為均方差或標準差。稱為均方差或標準差。2XX反映隨機變量的取值與其均值的偏離程

14、度！反映隨機變量的取值與其均值的偏離程度！(1)(1)( )0D c (2)(2)2()()D cXc D Xc， 為常數(3)(3)對于對于n n個獨立的隨機變量，個獨立的隨機變量，)()()(11nnXDXDXXD221214 ，1.5 1.5 隨機變量的數字特征隨機變量的數字特征3 3、協方差、協方差 與與 相關系數相關系數 協方差：協方差：性質：性質：(1)(1)1XYrcov(, )()( )()() ( )XYX YEXE XYE YE XYE X E YK)()(),cov(YDXDYXrXY相關系數：相關系數：描述兩個隨機變量相互關系(2)(2)1XYr的充分必要條件是X與Y依

15、概率1線性相關；當X與Y相互獨立時， ，此時X與Y不相關，反之不成立。(3)(3)0XYr1.5 1.5 隨機變量的數字特征隨機變量的數字特征4 4、矩、矩K K階原點矩：階原點矩：K K階中心矩：階中心矩：K KL L階混合矩：階混合矩： K KL L階混合中心矩：階混合中心矩：)(kXmXElkYXE)()(lYkXmYmXEkE X1.5 1.5 隨機變量的數字特征隨機變量的數字特征例題：例題： pXP 1pqXP10例例1 1 設X為服從(0,1)分布的隨機變量，且求X的均值和方差。 例例2 2 設隨機變量在區間上服從均勻分布，其概率密度為 求均值與方差。otherbxaabxf，01

16、)(1.6 1.6 隨機變量的函數隨機變量的函數定義：定義：設有一實函數設有一實函數 以及隨機變量以及隨機變量 ，定義一個，定義一個新的隨機變量新的隨機變量 ，稱隨機變量，稱隨機變量 是隨機變量是隨機變量 的的函數。函數。)(XgY ( )yg xXYX隨機變量的函數隨機變量的函數問題：問題：已知已知 的統計特性，求的統計特性，求 的統計特性。的統計特性。XY1 1、一維隨機變量函數的分布、一維隨機變量函數的分布若若g(x)為單調連續函數：為單調連續函數： ( )( )YXfy dyfx dx)(1ygx單調函數示意圖單調函數示意圖 )(xgy yxxy0P yYydyP xXxdx( )(

17、)YXdxfyfxdydydxJ 雅可比雅可比(Jacobi)(Jacobi)1.6 1.6 隨機變量的函數隨機變量的函數例、例、設隨機變量設隨機變量X與隨機變量與隨機變量Y的關系為的關系為 a,b 為常數，已知為常數，已知X的概率密度為的概率密度為fX(x)，求，求Y的概率密度。的概率密度。baXY),(2mNX如果如果正態隨機變量的線性變換仍為正態隨機變量。正態隨機變量的線性變換仍為正態隨機變量。1.6 1.6 隨機變量的函數隨機變量的函數例例2、設電阻設電阻R設計為設計為50，但實際值為一均勻分布于，但實際值為一均勻分布于4555之間的隨機變量之間的隨機變量X，求輸出電壓，求輸出電壓u的

18、分布函數的分布函數和概率密度。和概率密度。1.6 1.6 隨機變量的函數隨機變量的函數若若g(x)為非單調函數：為非單調函數： 11( )()()YXXnnfyfxJfxJ)(xgdyy y 22dxx 2x11dxx 1xx0/kkJdxdy)(11yhx )(yhxnn其中其中1.6 1.6 隨機變量的函數隨機變量的函數例例2、設平方律檢波器的輸入輸出關系為設平方律檢波器的輸入輸出關系為 求求Y的概率密度。的概率密度。2(0)YbXb1.6 1.6 隨機變量的函數隨機變量的函數1.7 1.7 隨機變量函數的數字特征隨機變量函數的數字特征2 2、隨機變量函數的數字特征、隨機變量函數的數字特征

19、)(XgY dxxfxgdyyyfYEXY)()()()(均值：均值： 方差：方差： 2( ) ( )( ( ) D YE g XE g XdxxfmxgXY)()(21.7 1.7 隨機變量函數的數字特征隨機變量函數的數字特征3 3、多維隨機變量函數的分布、多維隨機變量函數的分布),(),(21222111XXgYXXgY只考慮只考慮 為單調情形：為單調情形： 221221112121),(),(yxyxyxyxyyxxdSdSJYX雅可比變換為：雅可比變換為： 12,g g1 2112212(,)(,)YYX Xfy yfx xJ1.7 1.7 隨機變量函數的數字特征隨機變量函數的數字特征

20、例例3 設設X1、 X2為相互獨立的隨機變量，求其和、差的概率為相互獨立的隨機變量，求其和、差的概率密度。密度。112YXX 212-YX X 11 211122212122111()(,)( (),()222YYYX Xfyfy y dyfyyyydy1 21112212212121(,)( ,)()/2,()/22YYX XX Xfy yfx xJfyyyy1112122212121/ 21/ 2( ,)11/ 21/ 2(,)2xxyyx xJxxy yyy 112212(+)/ 2()/ 2xyyxyy解：解：1.7 1.7 隨機變量函數的數字特征隨機變量函數的數字特征兩個獨立隨機變量

21、之和的概率密度為其各自的概率密度的卷積。兩個獨立隨機變量之和的概率密度為其各自的概率密度的卷積。兩個獨立隨機變量之積和商的概率密度？兩個獨立隨機變量之積和商的概率密度？duuyufuyfXXY)/,(1)(2112YX XduuyufuyfXXY),()(2112/YXX令令12()/ 2uyy111121121()( ,)()()YX XXXfyfu yu dufyfy則，( )()( )jXjxXXE efx edx 1 1、特征函數的定義、特征函數的定義1.7 1.7 隨機變量函數的特征函數隨機變量函數的特征函數若若X X為離散型隨機變量，則有：為離散型隨機變量，則有：若若X X為連續型

22、隨機變量，則有：為連續型隨機變量，則有：1( )( )2j xXXfxed( )()kjxjXXkkE eeP Xx 1 1、特征函數的性質、特征函數的性質1.7 1.7 隨機變量函數的特征函數隨機變量函數的特征函數(3) (3) 若若 (C(C是常數是常數) )，則，則CXY ( )()YXC (4) (4) 若若 (a(a、b b是常數是常數) )，則，則baXY( )()jbYXea(5)(5)相互獨立相互獨立的隨機變量之和的特征函數是各特征函數之乘積，即的隨機變量之和的特征函數是各特征函數之乘積，即 (1)(1)(0)1X(2)(2)( )1X1niiYX1( )( )nYX ii1.

23、7 1.7 隨機變量的特征函數隨機變量的特征函數例例4、設、設X X為為(0,1)分布隨機變量，其概率分布為：分布隨機變量，其概率分布為：求特征函數。求特征函數。qXPpXP0,1例例5、設設X為均勻分布隨機變量，其概率分布為：為均勻分布隨機變量，其概率分布為：otheraaxaxf0,21)(求特征函數。求特征函數。1.7 1.7 隨機變量的特征函數隨機變量的特征函數例例6、若隨機變量相應的特征函數分別為：若隨機變量相應的特征函數分別為：(1)(2)cos)(X求隨機變量的分布。求隨機變量的分布。2cos)(X(0)nnXnndj md2 2、特征函數與矩的關系、特征函數與矩的關系1.7 1

24、.7 隨機變量的特征函數隨機變量的特征函數或或定理：定理：設隨機變量設隨機變量X X的的n n階矩為階矩為 ，則與特征函數，則與特征函數的關系為：的關系為：nnXEm (0)()nnXnndmjd 1 1、二維正態隨機變量、二維正態隨機變量1.8 1.8 多維隨機變量多維隨機變量222exp21)(XXmxxf一維概率密度：一維概率密度：定義：定義：設兩個隨機變量設兩個隨機變量 ,如果它們的聯合概率密度為：如果它們的聯合概率密度為： 21,XX)()(2)()1 ( 21exp121),(222221221222122121112121XXXXXXXXXXXXmxmxmxrmxrrxxf其中其

25、中r r為相關系數。為相關系數。則稱則稱 是是聯合正態聯合正態的。的。 21,XX1 1、二維正態隨機變量、二維正態隨機變量1.8 1.8 多維隨機變量多維隨機變量-4-3-2-10123400.10.20.30.40.50.60.70.8N(0,1)正態分布概率密度正態分布概率密度 二維正態分布概率密度二維正態分布概率密度 2 2、二維正態隨機變量的性質、二維正態隨機變量的性質1.8 1.8 多維隨機變量多維隨機變量(1) (1) X1 1, ,X2 2的邊緣概率密度也是正態的的邊緣概率密度也是正態的221111112)(exp21)(XXXXmxxf222222222)(exp21)(XX

26、XXmxxf(2)(2)若若X1,X2的不相關，則的不相關，則r=0，兩隨機變量相互獨立，兩隨機變量相互獨立12121212( ,)()()X XXXfx xfxfx3 3、二維概率密度的矩陣表示、二維概率密度的矩陣表示1.8 1.8 多維隨機變量多維隨機變量協方差矩陣：協方差矩陣：)()(22122121212211XXXXXXmXEmXmXEmXmXEmXEK22221211XXXXXXrr222222212121)1 ()(XXXXXXrrK2121212121 XXXXXXrrKK3 3、二維概率密度的矩陣表示、二維概率密度的矩陣表示1.8 1.8 多維隨機變量多維隨機變量協方差矩陣：協方差矩陣：)()(22122121212211XXXXXXmXEmXmXEmXmXEmXEK22221211XXXXXXrr222222212121)1 ()(XXXXXXrrK2121212121 XXXXXXrrKK3 3、二維概率密度的矩陣表示、二維