1、1,隨機過程,南京郵電大學 理學院 胡國雷,2,教材：隨機過程，劉次華，華中理工大學出版社。 參考書： 1.應用隨機過程，林元烈編著，清華大學出版社； 2.隨機系統分析引論，盛昭瀚，東南大學出版社； 3.隨機過程，伊曼紐爾、帕爾遜著， 鄧永錄、楊振業譯，高等教育出版社； 4.隨機過程，Sheldon M1.Ross著。,3,第一章 預備知識,簡要回顧一下概率論中與本課程有關的基本概念：隨機試驗、樣本空間、事件、概率、隨機變量、概率分布、數字特征等。,4,一、基本概念,試驗結果事先不能準確預言，三個特征: 可以在相同條件下重復進行； 每次試驗結果不止一個，可預先知道試驗所有可能結果； 每次試驗前

2、不能確定那個結果會出現。,樣本空間,隨機試驗所有可能結果組成的集合，記為,隨機事件,樣本空間的子集A稱為隨機事件，用A、B、C表示,1.1 概率空間,隨機試驗,5,注：由于事件是集合，故集合的運算（并、交、差、上極限、下極限、極限等）都適用于事件。,注：所謂某個事件在 試驗中是否出現，當且僅當該事件所包含的某個樣本點是否出現，因此一個事件實際上對應于的一個確定的子集。,6,在實際問題中，并不是對所有的事件： （樣本空間的所有子集）都感興趣，而是關心某些事件（的某些子集）及其發生的可能性大小（概率）。,為了數學上處理方便，我們常要求這些子集組成的類具有一些基本性質（即對事件需加一些約束）,7,F

3、中的元素稱為事件。,則稱F為 代數（Bord事件域），,稱為可測空間,8,例如，包含A的最大的 代數是 的一切 子集組成的集類,對于某個事件A包含它的 代數不是唯一的,而包含A的最小的 代數則是：,注：F（）表示由的子集全體構成的集合類， 顯然滿足上述定義的（1）（3），但這個族常常顯得太大以致對于某些樣本空間而言不可以在這樣的族上定義滿足三條公理的概率函數,。,為了建立概率的數學理論通常只需把事件族取為具有定義（）（）中并包含了我們感興趣的所有集合的的最小子集族。,9,三、概率的公理化定義,為了完成隨機現象的數學描述，還要規定隨機事件族上的概率函數即對中的每個事件要定義一個稱作為的概率的數

4、，作為事件A的函數必須假定滿足三條公理。,非負性；,規范性；,兩兩互不相容，即,有,則稱P為（，F）上的概率，（，F，P）稱為概率空間，P（A）為事件A的概率。,定義1.2：設（，F）是可測空間， 是定義在F上的實值函數，如果 滿足,10,由此定義出發，可推出概率的其它一些性質：,即概率具有單調性；,新事件：,連續性定理,11,條件概率,在事件B已發生這一條件下，事件A發生的概率。,全概率公式,若有N個互斥事件Bn（n=1,2,N），它的并集等于整個樣本空間，則,四、幾個重要公式,加法公式,12,設事件B1，B2，Bn構成一個完備事件組，概率P(Bi)0,i=1,2,n,對于任何一個事件A，若

5、P(A)0, 有,貝葉斯公式,獨立事件,獨立事件族：設（，F，P）是概率空間， 如果對任意 有 則稱Y為獨立事件族。,13,1.2 隨機變量及其分布,一、一維隨機變量及其分布函數,由于數學分析不能直接利用來研究集合函數，這樣影響對隨機現象的研究。解決這個問題的方法，主要是設法在集合函數與數學分析中所研究的點函數間建立某種聯系，從而能用數學分析去研究隨機現象。,14,X(e)就是一個函數，它把樣本點映射到實數軸上，隨機變量就是從原樣本空間到新樣本空間的一種映射，我們通常把這樣一種對應關系稱之為在概率空間上的一個隨機變量。下面我們給出隨機變量的數學定義。,定義1.4：設（ ，F，P）是概率空間，X

6、=X(e)是定義在上的實函數，如果對任意實數x，e:X(e) x F，則稱X(e)是F上的隨機變量。,15,事件,隨機變量,離散型隨機變量： 只取有限個數值或可列無窮多個值。,連續型隨機變量：從原樣本空間到新樣本空間的映射是某一個范圍，是一段（或幾段）實線（也可能是整個坐標軸），隨機變量可以取值于某一區間中的任一數。,16,分布函數（一個描述隨機變量取值的概率分布情況的統一方法）,17,離散型隨機變量X的概率分布用分布律描述：,18,離散型隨機變量的概率分布用分布列描述,01分布,二項分布,泊松分布,連續型隨機變量的概率分布用概率密度描述,均勻分布,正態分布,指數分布,19,隨機變量函數的分布

7、,在給定某任意的隨機變量X，以及它的概率分布函數FX(x)，希望進一步求出給定的隨機變量的某些可測函數（如Y=g(X)）的概率分布函數。,非線性放大器,Y,X,Y的概率分布函數公式為,如果上式右端概率的導數對于y處處存在，那么這個導數就給出了隨機變量Y的概率密度,20,二、n維隨機變量及其分布函數,定義1.5 設（ ，F，P）是概率空間，X=X(e)（X1(e),Xn(e)）是定義在上的n維空間Rn中取值的向量函數。如果對于任意x=(x1,xn) Rn，e:X1(e) x1,Xn(e) xn F，則稱X=X(e)為n維隨機變量。稱,為X=(X1,X2,Xn)的聯合分布函數,21,22,三、邊緣

8、分布,若二維聯合分布函數中有一個變元趨于無窮，則其極限函數便是一維分布函數，對于這種特殊性質，我們稱其為邊緣分布。,對于任意兩個隨機變量X,Y，其聯合分布函數為：,則：,分別稱FX(x)和FY(y)為 關于X和關于Y的邊緣分布函數。,23,離散型隨機變量（X，Y）邊緣分布律計算如下,連續型隨機變量（X，Y）邊緣概率密度計算如下,24,相互獨立的隨機變量,設X，Y是兩個隨機變量，若對任意實數x，y有,則稱X，Y為相互獨立的隨機變量。,若X，Y為相互獨立隨機變量，則有,聯合密度,邊緣密度,邊緣密度,聯合密度,25,四、條件分布,條件概率,條件分布函數,兩邊對x微分,26,1.3 隨機變量的數字特征

9、,隨機變量的數學期望 隨機變量函數的期望 方差 協方差 相關系數 獨立與不相關,27,一、斯蒂爾吉斯積分（補充）,1.有限區間上的斯蒂爾吉斯積分,28,29,2.無限區間上的S積分,30,31,左邊的積分稱為斯蒂爾吉斯積分,二、數學期望,32,隨機變量函數的期望,已知隨機變量X的數學期望，求隨機變量函數Y=g(X)的數學期望，,對于多維隨機變量,33,設X1,X2, ,Xn為隨機變量，求隨機變量函數Y=a1X1+a2X2+anXn的數學期望。,已知隨機變量X1和X2，求隨機變量函數YaX1+bX2的數學期望,34,加權和的期望等于加權期望的和,求數學期望是線性運算,數學期望的線性運算不受獨立條

10、件限制,已知隨機變量X1和X2，求隨機變量函數Yg1(X1)g2(X2)的數學期望,35,假設兩個隨機變量X1和X2相互獨立，則有,因此，有,36,三、方差（隨機變量取值的離散程度）,37,四、協方差與相關系數,引入一個描述兩個隨機變量相關程度的系數,XY稱為歸一化的協方差系數或相關系數。,若XY0，則稱隨機變量X和Y不相關。,38,若兩個隨機變量X和Y的聯合矩滿足,則稱隨機變量X和Y統計獨立,39,五、K階原點矩、k階中心矩,隨機變量X，若E|X|k，稱EXk為k階原點矩。,離散隨機變量,連續隨機變量,又若EX存在，且E|X-EX|k ，稱,為X的k階中心矩。,離散隨機變量,連續隨機變量,4

11、0,一階原點矩就是隨機變量的數學期望，,數學期望大致的描述了概率分布的中心。,二階中心矩就是隨機變量的方差，,方差反映隨機變量取值的離散程度。,01分布,泊松分布,正態分布,常用分布的數學期望和方差 （見表11）,41,中心化的兩個隨機變量X-EX，Y-EY的互相關矩稱為隨機變量X和Y的協方差，,協方差是描述隨機現象中，隨機變量X和Y概率相關的程度。,42,相互獨立,不相關,相互獨立,不相關,設Z是一個隨機變量，具有均勻概率密度,令X=sinZ，Y=cosZ，求隨機變量X和Y是否相關，是否獨立？,43,1.4 特征函數、母函數,數字特征只反映了概率分布的某些側面，一般并不能通過它們來確定分布函

12、數，這里將要引進的特征函數，既能完全決定分布函數而又具有良好的分析性質。,一、復隨機變量,對復隨機變量也可以平行于實隨機變量建 立起一系列結果。,44,二、特征函數,45,對離散型隨機變量，若其分布律為,46,三、特征函數的性質,47,48,因而可作下列積分號下的微分,49,此性質使我們可以方便地求得隨機變量的各階矩,50,51,（7）特征函數與分布函數是相互唯一確定的,證略,52,唯一性定理： 分布函數由其特征函數唯一決定,而分布函數由其連續點上的值唯一決定 不連續點利用右連續性,53,即在特征函數絕對可積的條件下，概率密度 與特征函數構成一對付氏變換。,54,因此用控制收斂定理知（極限號與

13、積分號 交換的勒貝格控制收斂定理）,55,56,四、多元特征函數,57,58,59,60,61,62,63,64,65,66,利用特征函數與分布一一對應的唯一性得,67,注：求隨機變量的特征函數的方法,（3）用Fourier變換去求解。,（1）一般定義求解；,（2）對一些特殊分布可化為微分方程求解；,（4）利用特征函數求多個獨立隨機變量和的分布。,要求： （1）會求一些常用的隨機變量的特征函數；,（2）記住一些重要分布的特征函數，如正態分布；,（3）利用特征函數求相應隨機變量的各階矩；,68,五、母函數,對于整值隨機變量，有一種處理方法很便于應用，這就是母函數法。,69,70,例、求二項分布、泊松分布、幾何分布 的母函數,71,（1）唯一性，非負整數值隨機變量的分布列 由其母函數唯一確定,六、母函數的性質,72,73,74,3、獨立隨機變量之和的母函數等于母函數之積,75,76,(4) 隨機個隨機變量之和的母函數,77,78,79,一、密度函數與特征函數,80,81,二、幾個常用結論,82,83,84,85,1.6 條件期望