1、主講教師(jiosh)：何松華 教授聯系電話：(0731）82687718子信箱：應用統計學與隨機過程(通信(tng xn)專業)Applied Statistics and Random Process共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述1. 概 述兼概率論復習(fx) (6學時)1.1不確定性事件1.2通信與電子系統中的不確定性1.3含噪信號的最優處理問題1.4隨機變量及其數字特征1.5隨機變量函數的概率密度分布1.6隨機變量的特征函數共一百一十二頁不確定性事件(shjin)1.1客觀世界中的兩大類規律：1.確定性事件(shj

2、in)中蘊涵的確定性規律2.不確定性事件中蘊涵的統計性規律確定性事件及確定性規律：1.因果律 確定的原因產生確定的可預知的結果“如果蘋果從樹上掉下(B),則肯定往下掉到地上(A)” if B then A ProbA|B=100%, Prob|B=0%湖南大學教學課件：應用統計學與隨機過程 概述共一百一十二頁2.排中律 事物歸屬關系的確定性,非此即彼 “我(x)現在是湖南大學(h nn d xu)的教師(A)” I：論域（被討論的對象的全體范圍） AB=（空集），AB=I if xA then uA(x)=100%,xB, uB(x)=0% if xB then uB(x)=100%,xA,

3、uA(x)=0%湖南大學教學課件：應用統計學與隨機(su j)過程 概述3.恒等律 事物(A,B,C,)之間相互約束關系的確定性 “三角形的三個內角之和為180度” R（A，B，C，）= Constant共一百一十二頁 4.守恒律 事物(A,B,C,)(a,b,c,)之間轉換(zhunhun)或交換過程中的確定性 “物質不滅,能量守恒” R1（A，B，C，）= R2(a,b,c,)5.周期律 事物在有限(yuxin)域內變化的重復性 “物極必返” if A=N,MN,xiA(i=1,2,M) then 存在 i1i2,xi1=xi2毛澤東：打破周期率；江澤民：與時俱進，三個代表湖南大學教學課件

4、：應用統計學與隨機過程 概述共一百一十二頁不確定性事件及不確定性：1.隨機性,因果律的一種破缺 隨機試驗：可以在相同條件下重復進行,每次試驗的結果是事先不可預測的,所有可能的結果不止一個(y )，但每次試驗的結果是唯一的, 這樣的試驗稱為隨機試驗。 隨機事件：在隨機試驗中，對于1次試驗可能發生也可能不發生、但在大量重復的試驗中按一定規律發生的某種事情，稱為隨機事件。 基本事件：在隨機試驗中，最簡單、不可再分、互不相容的事件稱為基本事件。 湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述例如:不同的人通過測量蘋果落地的時間獲得樹的高度共一百一十二頁 “隨機試驗”舉例：袋中有編號

5、為0到5的6個乒乓球，從里面隨機地拿出一個，觀察結果后再放回；反復進行試驗。 6種基本事件：(1)拿到編號為0的球；(2)拿到編號為1的球；(3)拿到編號為2的球；(4)拿到編號為3的球；(5)拿到編號為4的球；(6)拿到編號為5的球。 “隨機事件”舉例：拿到編號大于4的球(在一次試驗中可能發生(fshng)也可能不發生(fshng)；在大量重復的試驗中發生(fshng)的比例約為1/3) “基本事件”是隨機事件的特例。 所有基本事件的組合稱為隨機試驗的“樣本空間”。湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述共一百一十二頁不確定性事件及不確定性：2.模糊性,排中律的一種破缺

6、事物之間歸屬關系的不確定(qudng)性，不能確定(qudng)某個對象肯定屬于某個集合或肯定不屬于某個集合，但能夠確定(qudng)對象屬于某個集合的程度。 模糊性舉例：論域 I=各種不同年齡x的人 模糊集合 =年輕人 1 （0 x 24） u(x)= 1+（x-25）/52-1（25 x） 年齡x越大，則歸屬于年輕人的隸屬度u(x)就越小。湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述共一百一十二頁通信(tng xn)與電子系統中的不確定性(隨機性)1.2湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述由于信道噪聲的存在(電子的布朗運動)，確定的傳輸系統對確

7、定的傳輸信號并不產生確定的響應。 傳輸系統h(t)傳輸信號X(t) 響應 Y(t) 信道噪聲(t) Y(t)= X(t)h(t)+ (t) (卷積）(t)的取值是隨機的、不可預測的，則Y(t)也是隨機的、不確定的。共一百一十二頁通信電子系統中的不確定性所帶來的問題：1.信號的檢測問題 在數字通信中，0，1編碼用不同的兩種波形進行傳輸;接收端信號為Y(t) H0：（傳輸 0 編碼信號） Y(t)= X0(t)h(t) + 0(t) H1：（傳輸 1 編碼信號） Y(t)= X1(t)h(t) + 1(t) 怎樣(znyng)從接收信號Y(t)中判斷出發送端傳輸的信號是X0(t) 還是X1(t)

8、？ 如何將假設檢驗理論應用于通信電子系統?湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述共一百一十二頁2.信號(xnho)及系統參數的估計問題湖南大學教學課件：應用統計學與隨機(su j)過程 概述系統h(t，2)A(t，)+ (t) a(t，1) Y(t)=a（t，1) h(t，2) + (t) 1：信號參數矢量(K個參數) 2：系統參數矢量(M個參數)問題：Y(t)、 (t)是不可預知的隨機過程，怎樣從接收信號Y(t)的有限個采樣值Y(0)、Y(T)、Y(N-1)T求得1、 1的最佳估計呢？簡單的方程K+M個聯立為什么不能求得統計意義上的最佳估計？共一百一十二頁3.最優濾波器

9、的設計(shj)問題湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述 問題：Y(t)、 (t)是不可預知的隨機過程，采用什么樣的濾波器h1(t)，使得含噪失真信號Y(t)通過該濾波器后，其輸出信號與X(t)最逼近？ minimum EY(t) h1(t)-X(t)2 h1(t)傳輸系統h(t)傳輸信號X(t) 響應 Y(t) 信道噪聲(t) 濾波器h1(t)含噪失真信號Y(t) 恢復信號Z(t) 共一百一十二頁4.系統的性能評估以及信號波形參數(cnsh)的設計問題(自學)湖南大學教學課件：應用統計學與隨機過程(guchng) 概述已知信道噪聲(t)的統計特性平均值、方差、相關函數

10、、概率分布等，要求在給定接收端檢測性能的情況下對傳輸信號的波形進行設計。舉例：軍用雷達目標檢測H0：（無目標） Y(t)= (t)H1：（有目標） Y(t)= kAs(t-2R/c)+ (t) s(t)：寬度為的正弦脈沖,R:目標距離,c:光速，k：信號傳輸衰減系數;要求虛警概率Pf=P（H1H0）=10-7，已知(t)服從N(0，2)，如何對發射信號的幅度A、脈沖寬度進行設計？共一百一十二頁5.噪聲背景中的最優預測問題(wnt)(自學)湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述 舉例：軍用雷達機動目標狀態(距離、速度)預測測量方程：Y(n)= A(n) + (n) n0,N

11、-1 Y(n):n時刻目標距離的測量值(已知) A(n):n時刻實際的目標距離值(未知) (n):測量誤差(隨機過程,概率分 布密度函數及相關特性已知) 目標運動狀態方程：A(n+1)=A(n)+TV(n)+ (1/2)T2W(n) V(n+1)=V(n)+TW(n) V(n):目標第n個時刻的速度(未知) T :時間采樣間隔 W(n):目標的加速度擾動(概率密度、相關性已知)假設為帶有加速度擾動的勻速運動如何預測目標未來狀態? A(n),V(n)(nN-1)共一百一十二頁社會(shhu)及國民經濟領域中的統計問題舉例1.19世紀末中華民族無人能解的一個簡單問題湖南大學教學課件：應用統計學與隨

12、機過程(guchng) 概述加拿大山貓年捕獲量數據 (1821-1878)269,321,585,871,1475,2821,3928,5943,4950,2577,523,98,184,279,409,2285,2685,3409,1824,409,151,45,68,213,546,1033,2129,2536,957,361,377,225,360,731,1638,2725,2871,2119,684,299,236,245,552,1623,3311,6721,4254,687,255,473,358,784,1594,1676,2251,1426,756,299假設今年為1878年

13、,請根據歷史數據建立預測模型, 得到明年及1880,1881,1882,1883五年內的山貓捕獲量的預測.有限次差分后平穩共一百一十二頁2. 現在一個很容易(rngy)解決的問題湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述舉例: 某城市居民季度用煤消耗量 ( 單位: 噸 )請預測1997年度每個季度的用煤消耗量年份1季度2季度3季度4季度年平均19916878.45343.74847.96421.95873.019926815.45532.64745.66406.25875.019936634.45658.54674.86645.55853.319947130.25532

14、.64898.66642.36073.719957413.55863.14997.46776.16262.619967476.55965.55202.16894.16384.5非平穩隨機過程: (1)趨勢項; (2)季節(周期)項共一百一十二頁含噪信號的最優處理(chl)問題1.3湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述信號處理的主要研究內容 從噪聲背景中檢測感興趣的信號、提取信息或對信號的參數進行估計圖像處理、語音信號處理、數據處理最優信號處理方法 信號處理的方法不僅與信號本身的特性有關，還與噪聲背景的統計特性(概率密度分布、功率譜等)密切相關；從事通信與電子系統領域研究

15、的人員除了掌握確定性的信號與系統分析方法外，必須了解噪聲等隨機過程的特性，掌握各種統計方法在信號處理中的應用共一百一十二頁信號處理(xn ho ch l)方法舉例1：最優預測湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述設x(n)(n=1,2,)為離散時間隨機信號，n為采樣時刻；該隨機信號的相關函數及功率譜定義為(數學期望)如果該隨機信號的功率譜密度函數為則最優的因果IIR 3步預測方程為共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述其中(qzhng)(逆z變換)如果該隨機信號的功率譜密度函數為則最優的因果IIR 3步預測濾波器應修正為隨機信號的

16、最優預測方法與其統計特性有關共一百一十二頁信號處理方法(fngf)舉例2：最優估計湖南大學教學課件：應用統計學與隨機過程(guchng) 概述 利用氣壓計對某棟高樓的高度進行測量,根據甲班各個學生的測量結果，該樓高度的測量值的平均值為h0，變化的范圍(方差)為02 ，測量值分布接近高斯分布。 現由乙班對該樓高度h進行測量，N個學生中第n個學生的測量值xn, 第n個學生的測量儀器的精度(誤差的方差)為n2;誤差服從正態分布,各觀測相互獨立。 (1) 不參考甲班的測量結果，且假設乙班不同儀器的測量精度相同， 12= 22= N2,則高度的最優估計值為共一百一十二頁湖南大學教學課件：應用統計學與隨機

17、(su j)過程 概述(簡單(jindn)平均) (2) 不參考甲班的測量結果，但乙班每個學生的測量儀器的精度不同，則高度的最優估計值為(加權平均，精度越高，方差越小，加權系數越大) (3) 參考甲班的測量結果，則高度的最優估計值為在數據統計中如何利用先驗知識共一百一十二頁信號處理(xn ho ch l)方法舉例3：正弦信號的參數估計湖南大學教學課件：應用統計學與隨機過程(guchng) 概述(已知)假設觀測噪聲(n)服從零均值正態分布,各觀測值之間相互獨立，求A、B的最優估計值頻率已知、幅相未知的正弦信號的參數估計。假設獲得了正弦信號在N個不同時刻的觀測值為什么不能解方程？僅僅兩個參數而已?

18、共一百一十二頁信號處理方法(fngf)舉例4：數據的最優平滑(維納濾波器)湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述x(n)：測量數據(已知)； s(n)：需要恢復的信號數據(未知)(n)：測量誤差(未知且隨機)。如何恢復s(n)？濾波器h(n)含噪數據x(n) 恢復的數據s1(n) 求解如下的最優化問題：共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述其中(qzhng)：(信號相關函數的傅立葉變換，信號功率譜)(噪聲相關函數的傅立葉變換，噪聲功率譜)濾波器的單位脈沖響應共一百一十二頁社會與經濟領域中數據的統計處理方法1. 統計描述方法 對所收

19、集的數據進行加工處理，計算綜合性的統計指標，描述所研究的隨機現象的總體數量特征和數量關系2. 統計推斷方法 在對已獲取的數據進行統計描述的基礎上，建立(jinl)預測模型，對未知的或未來的數據進行推斷。統計研究的作用 (1) 提供決策咨詢服務；(2)提供監督服務；(3)提供其他形式的信息服務湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述共一百一十二頁社會與經濟領域中的應用統計舉例： 移動通信公司之客戶保持 已知歷史客戶(包括離網客戶、忠誠客戶)的基本屬性，例如：性別、年齡、職業類型、在網時長、發展渠道、繳費方式、繳費途徑、平均每次繳費金額、平均每月話費、所選套餐類型、.(1

20、)如何確定影響客戶是否離網的最主要屬性(因素)？(2)如何根據歷史客戶數據建立預測(yc)模型，預測(yc)目前在網客戶的離網可能性？(3)對離網可能性比較大的客戶，應采取何種針對性的營銷或客戶保持措施，以最低的活動成本實現客戶保持？湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述共一百一十二頁隨機變量及其數字(shz)特征1.4湖南大學教學課件：應用統計學與隨機過程(guchng) 概述隨機變量 (事件變量，物理描述數學問題) 設隨機試驗E的樣本空間 Se，如果對于每一個eS，有一個實數X(e)和它對應，這樣就得到一個定義在S上的單值實函數X(e)，稱X(e)為隨機變量，一般簡記

21、為X。 舉例1：拋擲硬幣(隨機試驗E) 樣本空間 S正面朝上，反面朝上 定義：如果正面朝上，則 X=0；反面朝上，則X=1 則X為隨機變量，且取值為離散的，稱為離散隨機變量 共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述舉例(j l)1(續) P(X=0)=0.5 (X取值為0的概率); P(X=1)=0.5 舉例2：用標尺測量長度，最小刻度單位1mm樣本空間S=長度測量誤差的分布范圍 設X為測量值與實際值之間的誤差，則X為隨機變量，且取值范圍為連續區間-0.5mm,0.5mm ，稱為連續隨機變量。 對于本例，PxXy=miny,0.5-maxx,-0.5 (隨機變

22、量X取值落在區間x,y)內的概率)共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述古典(gdin)概率模型若某一隨機事件可以分解為某些基本事件的組合,則該事件發生的概率為這些基本事件發生概率的和。舉例：設離散隨機變量X有只有3種可能的取值0,1,2;各種取值出現的概率為0.2,0.5,0.3;求X1.5這一事件的發生概率。共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述幾何(j h)概率模型若向有界區域G內投擲質點，所有質點落在G中任何一點是等可能的(均勻分布)，若g是G中一部分，則質點落在g中的概率：P = g的區域寬度/G的區域寬度。舉例：設

23、連續隨機變量X在-3,1區間內均勻分布;求X0.2這一事件的發生概率。共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述全概率(gil)公式與貝葉斯公式舉例設S為隨機試驗E例如：從n個車間的產品中隨機地抽取1個進行檢驗的樣本空間例如：抽到車間1的正品，抽到車間1的劣品，抽到車間2的正品，抽到車間2的劣品，,抽到車間n的正品，抽到車間n的劣品 (2n個基本事件)設A1、A2、An為S的一個劃分例如事件Ai：“抽到車間i的產品”,即空集共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述設B為任意的隨機事件例如(lr)：抽到劣品，則B發生的概率為 P(A1

24、)、P(A2) 、P(AN)稱為先驗概率例如P(Ai) 為車間i的產品占總產品的比例， P(B|Ai)為似然概率(條件概率)例如：車間i的產品是劣品的概率全概率公式 假如B已經發生例如抽到劣品，則該事件在多大的可能性上應由Ai負責？例如：“抽到的劣品是車間i的產品的概率”(與“車間i的產品是劣品的概率”并不等價)，如何計算P(Ai|B)貝葉斯公式共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述 P(Ai|B）稱為后驗概率事件發生后對事件各種( zhn)起因的可能性的概率性推斷，P(Ai,B）稱為聯合概率例如：既是劣品又是車間i的產品的概率貝葉斯公式顯然，B肯定來源于劃

25、分中的其中某一個 例如：劣品肯定來自某個車間，劣品來自于各車間的概率和為1共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述例題：已知某地區銷售(xioshu)的計算機主板有20%來自供應商1，50%來自供應商2，30來自供商3。假定這三個供應商所生產的主板的不合格率已知，分別為0.01、0.004和0.008，請計算每個供應商應承擔的責任(主板返修費用)比例。 雖然不合格比例低,但產品量大,承擔責任不一定少共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述隨機變量(su j bin lin)的概率分布函數與概率密度分布函數(x的單調非減函數)概

26、率分布函數概率密度分布函數關系根據幾何概型為什么是x+非負函數Px1Xx2=FX(x2+)- FX(x1+)Px1Xx2 可能存在不連續點共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述概率分布(fnb)函數與概率密度分布(fnb)函數舉例1設離散隨機變量X有3種可能的取值0,1,2;各種取值出現的概率為0.2,0.5,0.3;求其概率分布函數及概率密度分布函數解:根據古典概型注意定義及開閉區間單位階躍函數FX(x)x0120.20.710.50.3共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述單位階躍函數(詳見信號(xnho)與系統

27、)u(x)x0121在x=0處不連續,u(0)=1,u(0-)=0FX(x)x0120.20.71共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述其中,()為單位(dnwi)沖激函數,滿足在信號與系統理論中,采用單位沖激函數解決不可微問題fX(x)x120.20.50.30其他任何位置的導數為零，x=0,1,2三處的導數為無窮大(不同的無窮大)對無窮大的約束沖激強度為1共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述單位(dnwi)沖激函數與單位(dnwi)階躍函數的關系u(x)x01(x)x10100兩個1的區別偶函數共一百一十二頁湖南大學

28、(h nn d xu)教學課件：應用統計學與隨機過程 概述舉例：利用沖激函數的積分(jfn)性質求概率分布函數fX(x)x120.20.50.30(1)(2)在內的x=0處有一個沖激其他位置處的積分和為零(3)在內的x=0,1處有2個沖激+號可省去共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述(4)在內的x=0,1,2處有3個沖激沖激強度(qingd)分別為0.2,0.5共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述推廣(tugung)到離散隨機變量的更一般情況設離散隨機變量X有I種可能的取值x1,x2,xI;其中第i(i=1,2,I)取值出

29、現的概率為pi;則其概率分布函數及概率密度分布函數分別為參見前面FX(x)圖根據古典概型附錄：沖激函數積分性質：設g(x)在x0處連續，則共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述概率分布函數(hnsh)與概率密度分布函數(hnsh)舉例2設連續隨機變量在區間a,b上服從均勻分布;求其概率分布函數及概率密度分布函數解:根據幾何概型FX(x)xab1abfX(x)x1/(b-a)共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述多維連續隨機變量的聯合概率分布函數(hnsh)與聯合概率密度分布函數(hnsh)設X1、X2、XN為不同的隨機變

30、量，則其聯合概率分布函數以及概率密度分布函數定義為多個隨機事件同時發生的概率省去“+”共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述多維連續(linx)隨機變量分布函數的性質(練習：證明其為所有變量的單調非減函數)事件可以分解為情況下的所有事件之和，等價于事件下面考察如何由高維分布得到低維分布。共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述邊緣(binyun)分布上式兩邊對x1,x2,xn-1求偏導，再作變量置換采用遞推方法不難得到：根據古典概型得到：共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述隨機變量之間相

31、互獨立(dl)的定義如果或則這n個隨機變量相互獨立離散隨機變量的相互獨立，要求對所有可能組合(x1,x2,xn)對于離散型隨機變量，聯合概率分布或分布律定義為共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述隨機變量(su j bin lin)的數字特征(1)均值(數學期望)(連續隨機變量)(有I種取值的離散隨機變量)(2)方差(連續)(離散)或共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述(3)k階原點矩(連續(linx)隨機變量)(離散隨機變量)(4)k階中心矩(連續隨機變量)(離散隨機變量)1階原點矩即為均值，二階中心矩即為方差；二階原點矩

32、稱為均方值，滿足共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述(5)隨機變量(su j bin lin)函數的數學期望(連續隨機變量)(離散隨機變量)(6)兩個隨機變量之間的相關函數(連續隨機變量)(離散隨機變量)附錄(證)：共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述(離散(lsn)隨機變量)(9)多維隨機變量函數的數學期望(8)兩個隨機變量之間的相關系數或標準協方差(連續隨機變量)(7)兩個隨機變量之間的協方差函數對于零均值變量，協方差函數與相關函數等價顯然共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述隨機變量(

33、su j bin lin)之間不相關及正交的定義若則稱兩個隨機變量X、Y互不相關若則稱兩個隨機變量X、Y相互正交在零均值情況下，正交與不相關等價共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述隨機變量(su j bin lin)數字特征的性質以c為變量的拋物線在c軸上方的充要條件A根據 同理可得B:對稱性附錄證：根據定義以及乘法的交換率(練習)為什么？共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述數學期望方差協方差函數的運算(yn sun)性質ABC常數b只影響均值，不影響方差共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchn

34、g) 概述附錄(fl):概率密度函數的全積分為1邊緣分布共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述利用隨機變量(su j bin lin)和的數學期望性質利用隨機變量和的數學期望性質(將整個函數作為新的隨機變量)當各隨機變量不相關時共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述(10)多維隨機矢量(shling)的均值矢量(shling)定義由n個隨機變量構成的矢量則其均值矢量定義為各隨機變量的均值所構成的矢量(10)多維隨機變量的協方差矩陣(n行n列對稱矩陣)協方差矩陣的第i行第j列元素值為矩陣對稱性Cij=Cji列矢量行矢量共一百

35、一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述附錄：(證明)若兩個變量相互獨立，則必然不相關(反之(fnzh)不一定)證：設X、Y兩個隨機變量相互獨立，即則：共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述正態分布以及多維聯合(linh)正態分布的定義設X為隨機變量，如果其概率密度函數為則稱X服從均值為u，方差為2的正態分布或高斯分布容易證明(參見后面附錄)：概率密度函數的積分性質共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述當u=0, 2=1時，此時(c sh)的正態分布稱為標準正態分布x0fX(x)mX=uu

36、x=u+x=u-最大值點(均值u處)、最大值、兩個拐點、對稱性、漸近線平移參數u，形狀參數(方差的性質？)xufX(x) =1 =1.5 =3共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述附錄(fl)直角坐標系內的積分轉化為極坐標系內的積分練習：在此式的基礎上運用常規的積分方法證明前面的3個式子共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述如果(rgu)這n個隨機變量的多維聯合概率密度分布函數滿足下面介紹多維聯合正態分布。定義n維隨機矢量定義隨機變量取值所構成的矢量C：nn的正定方陣、對角線元素值大于0；|：行列式值n維常數列矢量共一百一

37、十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述則稱這n個隨機變量服從聯合正態分布，且均值矢量(shling)以及協方差矩陣滿足容易證明(見第4章ppt附錄)：對除xi外的所有變量積分(n-1重積分)矩陣的數學期望的概念共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述結論1：若多個(du )隨機變量服從聯合正態分布，則其中的任意變量服從正態分布(反之則不一定)進一步,若C為對角矩陣，即對稱矩陣于是可得到如下結論:共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述

38、結論(jiln)2：若多個隨機變量服從聯合正態分布，且各變量互不相關，則這些變量相互獨立其他分布不一定滿足此性質則多維聯合概率密度分布函數為共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述結論2的推論(tuln)：若多個隨機變量各自服從正態分布，且相互獨立(充分條件，并非必要條件) ，則其聯合分布為聯合正態分布。二維情況的充分必要條件為：容易證明(練習)：若隨機變量X、Y分別服從均值、方差分別為(mX,X2)、(mY,Y2)的正態分布，且在X=x的情況下，Y的條件概率密度分布為如下的正態分布則X、Y服從聯合正態分布，且r為兩變量的相關系數,即共一百一十二頁湖南大學(h

39、 nn d xu)教學課件：應用統計學與隨機過程 概述(相關系數)共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述共一百一十二頁隨機變量(su j bin lin)函數的概率密度分布1.5湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述1. 單調單變量函數的概率密度分布 設隨機變量X和Y存在單調函數關系Y=g(X)，存在唯一反函數X=h(Y)。如果Y在任意小區間(y,y+dy)內變化時，X在(h(y), h(y)+ dy)區間內變化，這兩個事件的概率相等，即(dy、dx可能為負,但區間的長度是正的,取絕對值),得到共一百一十二頁湖南大學教學(jio xu)

40、課件：應用統計學與隨機過程 概述證(附錄(fl)：設性質：若X服從正態分布，Y是X的線性函數，則Y也服從正態分布則有：共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述附錄:實際應用中，可利用上述性質以及概率論中數學(shxu)期望與方差的性質，直接寫出Y的概率密度分布函數則有：數學期望的性質方差的性質共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述2. 多值單變量函數(hnsh)的概率密度分布 設隨機變量X和Y存在函數關系Y=g(X)，除個別的Y值外，存在多個反函數(以2個為例)X=h1(Y)、X=h2(Y)。如果Y在任意小區間(y,y+dy

41、)內變化時，則X 可以在兩個區間(h1(y),h1(y)+ dy)、(h2(y),h2(y)+ dy)區間內變化，這兩個事件的概率相等，即得到:共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述隨機變量Y和X間的關系為Y=sin(X)，X在區間(q jin) -X內服從均勻分布。求隨機變量Y的概率密度多值函數概率密度分布函數舉例解：-1Y1，對于任意一個Y值(0除外)，有兩個X值與之對應，有-YX值域范圍?共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述3. 多變量(binling)函數的概率密度分布如果存在唯一的反函數對于多維隨機變量的

42、函數共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述根據(gnj)高等數學：其中 表示矩陣J的行列式值的絕對值，J為如下的矩陣(雅可比矩陣)“超體積”放大系數共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述(附錄(fl)以二維為例,當矢量 的終點在2維平面上由如下四個頂點組成的長方形區域(面積為dy1dy2)內時則矢量 的終點落在由如下四個頂點組成四邊形區域內(邊之間不一定垂直,也可能是曲邊)共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述附錄(fl):可以證明(高等數學),該四邊形區域的面積為對于二維情

43、況,根據等概率事件原理,有矩陣的行列式值的絕對值共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述定理(dngl)：若X1、X2、.、Xn服從聯合正態分布，則這些隨機變量的任意線性組合服從聯合正態分布定義由n個隨機變量構成的矢量設A為任意的可逆矩陣 (n行n列)，定義另外的n個隨機變量構成的矢量令：顯然，任意的Yi都是X1、X2、Xn的線性組合共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述于是(ysh)可以得到設：其中：共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述于是(ysh)有其中：由得到共一百一十二頁湖南大學教學

44、(jio xu)課件：應用統計學與隨機過程 概述矩陣及行列式的各種性質以及(yj)C的正定性共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述于是(ysh)得到Y1、Y2、Yn的聯合概率密度函數為結論：多維隨機矢量 服從均值矢量為 ，協方差矩陣為 的聯合正態分布；根據前面的結論1，則其中的任意變量Yi或X1、X2、Xn的任意線性組合服從正態分布。共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述附錄:實際應用中，可利用上述性質(xngzh)，直接得到Y的概率密度分布函數舉例：X1、X2服從0均值方差為2的正態分布，兩個隨機變量的相關系數為0.5(

45、1)分別求Y1、Y2的概率密度分布函數，(2)求Y1、Y2的聯合概率密度分布函數解:(1)正態隨機變量的線性組合依然服從正態分布共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述同理可以(ky)求得(練習)：(2)共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述均方值性質以及相關函數與協方差函數、均值(jn zh)的關系共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述驗證邊緣分布(fnb)(練習/自學)：共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述均值為 、方差為26(1-0.8912)

46、的正態分布函數的全積分為1(任意均值成立)均值(jn zh)為0情況下的條件正態分布共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述性質(練習/自學)：標準正態分布隨機數Y1可以通過兩個相互獨立(dl)的0,1區間上均勻分布的隨機數X1、X2按照如下的函數產生證：按如下方式構造另外一個隨機變量存在唯一反函數關系求概率密度分布函數的技能之一:構造新的變量,形成多維函數關系四象限反正切函數,值域范圍0,2,通過反正切函數的值域擴展得到共一百一十二頁湖南大學(h nn d xu)教學課件：應用統計學與隨機過程 概述雅可比行列式值為共一百一十二頁湖南大學教學(jio xu)課

47、件：應用統計學與隨機過程 概述Y1、Y2的聯合(linh)概率密度分布函數為Y1、Y2的概率密度分布函數均為標準正態分布，且兩個隨機變量相互獨立。X1、X2的聯合概率密度分布函數為共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述技巧(練習/自學)：利用概率密度分布函數的積分(jfn)特性求無窮區間內的函數積分(jfn)變換成正態概率密度分布函數的積分形式共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述求正態分布隨機變量(su j bin lin)的均方值共一百一十二頁隨機變量(su j bin lin)的特征函數1.6湖南大學教學課件：應用統

48、計學與隨機(su j)過程 概述1. 連續型隨機變量X的特征函數 概率密度函數的頻域特征(在某些時候,采用頻域分析方法比時域分析方法更方便 )(概率密度函數的傅立葉變換?X的函數ejX的數學期望) 參見工程數學之積分變換復變函數為虛數單位(歐拉定理)為復數共一百一十二頁湖南大學教學(jio xu)課件：應用統計學與隨機過程 概述2. 離散(lsn)型隨機變量X的特征函數 特征函數與概率密度函數的傅立葉變換對關系 為什么稱為特征函數？附錄：見附錄與標準傅立葉變換在定義上的差別?共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述3. 多維隨機變量(su j bin lin)的多維特征函數 類似于多維傅立葉變換共一百一十二頁湖南大學教學課件：應用統計學與隨機過程(guchng) 概述附錄(fl)(自學)： 證：當x0 時當x=0 時因此：奇函數的積分為0余弦函數在任意周期內的積分為0，無窮區間總可以劃分為無窮個周期共一百一十二頁湖南大學教學課件：應用統計學與隨機(su j)過程 概述再附錄：上式的無窮(wqing)定積分如何求偶函數注：積分技巧:廣義二維積分共一百一十二頁湖南大學教學課件：應用(yngyng)統計學與隨機過程 概述4. 特征函數的性質(xngzh)1 設CX()為隨機變量X的特征函數，則容