第一章：預備知識§１.1概率空間隨機實驗,樣本空間記為Ω。定義1.１設Ω是一個集合，Ｆ是Ω的某些子集組成的集合族。假如(１）F;(２）Ｆ,F;（3)若F，，則F；則稱F為代數(Bｏrel域)。(,F)稱為可測空間,Ｆ中的元素稱為事件。由定義易知:定義1.2設(,Ｆ)是可測空間，P(·）是定義在上的實值函數。假如則稱P是上的概率，（)稱為概率空間，Ｐ（A)為事件Ａ的概率。定義1.３設(）是概率空間,，假如對任意,有：則稱為獨立事件族?！?．2隨機變量及其分布隨機變量Ｘ,分布函數,n維隨機變量或n維隨機向量，聯合分布函數，是獨立的。§1.3隨機變量的數字特性定義１.7設隨機變量Ｘ的分布函數為，若,則稱=為X的數學盼望或均值。上式右邊的積分稱為Lebesgue-Ｓtieltjｅｓ積分。方差，為X、Y的協方差,而為Ｘ、Y的相關系數。若則稱X、Y不相關。(Schwarz不等式）若則§1.4特性函數、母函數和拉氏變換定義1.10設隨機變量的分布函數為F(x）,稱為X的特性函數隨機變量的特性函數具有下列性質：(1)1(2)g（ｔ)在上一致連續。(3)(４)若是互相獨立的隨機變量,則的特性函數,其中是隨機變量X的特性函數,．定義1.11設是n維隨機變量,t=()則稱,為X的特性函數。定義1.12設X是非負整數值隨機變量,分布列則稱＝為Ｘ的母函數。§1．5n維正態分布定義１．1３若n維隨機變量的聯合概率密度為式中,是常向量，是正定矩陣，則稱為n維正態隨機變量或服從n維正態分布，記作?？梢宰C明，若，則的特性函數為為了應用的方便，下面,我們不加證明地給出常用的幾個結論。性質1若則。性質2設，，若正定，則。即正態隨機變量的線性變換仍為正態隨機變量。性質３設是四維正態隨機變量，，則§1．６條件盼望給定Y＝y時，X的條件盼望定義為由此可見除了概率是關于事件{Y=y}的條件概率以外,現在的定義與無條件的情況完全同樣。E（Ｘ｜Y=y)是y的函數,y是Y的一個也許值。若在已知Y的條件下，全面地考慮X的均值,需要以Y代替ｙ,E(Ｘ｜Y）是隨機變量Y的函數,也是隨機變量,稱為Ｘ在Y下的條件盼望。條件盼望在概率論、數理記錄和隨機過程中是一個十分重要的概念，下面我們介紹一個極其有用的性質。性質若隨機變量X與Y的盼望存在,則－--－--－-(1)假如Ｙ是離散型隨機變量，則上式為假如Ｙ是連續型,具有概率密度f(x），則（1)式為隨機過程的概念與基本類型§2．1隨機過程的基本概念定義2．1設(）是概率空間，T是給定的參數集,若對每個ｔ∈T，有一個隨機變量X(t,ｅ)與之相應，則稱隨機變量族是（）的隨機過程，簡記為隨機過程。T稱為參數集,通常表達時間。通常將隨機過程解釋為一個物理系統。X(t）表達在時刻t所處的狀態。X(t）的所有也許狀態所構成的集合稱為狀態空間或相空間，記為Ｉ。從數學的觀點來說，隨機過程是定義在T×Ω上的二元函數。對固定的ｔ，Ｘ(ｔ，e)是定義在T上的普通函數，稱為隨機過程的一個樣本函數或軌道，樣本函數的全體稱為樣本函數的空間?！欤玻?隨機過程的函數特性={X(ｔ），t∈T｝的有限維分布函數族。有限維特性函數族:其中：定義2.３設={X(ｔ),ｔ∈T}的均值函數,。二階矩過程,協方差函數:相關函數：定義2．４設｛Ｘ（t）,t∈T},｛Y(t),t∈Ｔ}是兩個二階矩過程，互協方差函數，互相關函數?！?.3復隨機過程定義2.5設,是取實數值的兩個隨機過程,若對任意，其中,則稱為復隨機過程．定理2.２復隨機過程的協方差函數具有性質（1)對稱性:；(2）非負定性§2.4幾種重要的隨機過程一、正交增量過程定義2.６設是零均值的二階矩過程,若對任意的有公式，則稱正交增量過程。?二、獨立增量過程定義２．7設是隨機過程,若對任意的正整數和隨機變量是互相獨立的，則稱是獨立增量過程，又稱可加過程。定義2.８設是平穩獨立增量過程，若對任意隨機變量的分布僅依賴于，則稱是平穩獨立增量過程。三、馬爾可夫過程定義2.9設為隨機過程，若對任意正整數n及,，且其條件分布＝,(2.6)則稱為馬爾可夫過程。 四、正態過程和維納過程?定義2.10 設是隨機過程,若對任意正整數n和，(,)是n維正態隨機變量,則稱是正態過程或高斯過程。定義2.11 設為隨機過程,假如（1）；（2)它是獨立、平穩增量過程;(3)對,增量，則稱為維納過程,也稱布朗運動過程。?定理2.3設是參數為的維納過程，則任意t,；對任意,,特別：。五、平穩過程定義２.12設是隨機過程，假如對任意常數和正整數當時,與有相同的聯合分布，則稱為嚴平穩過程，也稱狹義平穩過程。定義2.13設是隨機過程,假如（1)是二階矩過程;（２)對于任意常數；(3)對任意的,則稱為廣義平穩過程，簡稱為平穩過程。若Ｔ為離散集，則稱平穩過程為平穩序列。第三章泊松過程§3.1泊松過程的定義和例子定義3．１計數過程定義3．2稱計數過程為具有參數>0的泊松過程,若它滿足下列條件(1)X（０)=0;(２)X（t)是獨立增量過程；(３)在任一長度為t的區間中，事件A發生的次數服從參數t＞０的泊松分布，即對任意s,t＞0,有注意,從條件（3）知泊松過程是平穩增量過程且。由于，表達單位時間內事件A發生的平均個數，故稱為此過程的速率或強度。定義3.3稱計數過程為具有參數＞０的泊松過程，若它滿足下列條件（1）X(0）=０；(2)X（t)是獨立、平穩增量過程;(3）X(t)滿足下列兩式：（3.2)定理3.1定義３.2與定義3．3是等價的。３.2泊松過程的基本性質一、數字特性設是泊松過程,一般泊松過程的有。有特性函數定義,可得泊松過程的特性函數為二、時間間隔與等待時間的分布為第ｎ次事件Ａ出現的時刻或第n次事件Ａ的等待時間，是第n個時間間隔,它們都是隨機變量。定理3.２設是具有參數的泊松分布，是相應的時間間隔序列,則隨機變量是獨立同分布的均值為的指數分布。定理3.３設是與泊松過程相應的一個等待時間序列，則服從參數為n與的分布，其概率密度為三、到達時間的條件分布定理3.4設是泊松過程,已知在[0,t］內事件A發生n次,則這n次到達時間與相應于n個［0,t]上均勻分布的獨立隨機變量的順序記錄量有相同的分布?！?.3非齊次泊松過程定義3.4稱計數過程為具有跳躍強度函數的非齊次泊松過程，若它滿足下列條件：(1）;(２)是獨立增量過程；(3)非齊次泊松過程的均值函數為：定理3.5設是具有均值函數的非齊次泊松過程，則有或上式表白不僅是的函數,也是的函數。3.4復合泊松過程定義３.5設是強度為的泊松過程,是一列獨立同分布隨機變量，且與獨立，令則稱為復合泊松過程。定理3.6設是復合泊松過程，則（１)。是獨立增量過程;(2）X(t)的特性函數，其中是隨機變量的特性函數;是事件的到達率。（3）若則第４章馬爾可夫鏈§4.1馬爾可夫鏈的概念及轉移概率一、馬爾可夫鍵的定義定義1設有隨機過程，若對于任意的整數和任意的，條件概率滿足則稱為馬爾可夫鏈,簡稱馬氏鏈。二、轉移概率定義2稱條件概率為馬爾可夫鏈在時刻n的一步轉移概率,其中，簡稱為轉移概率。定義3若對任意的，馬爾可夫鏈的轉移概率與ｎ無關,則稱馬爾可夫鏈是齊次的，并記為。定義4稱條件概率為馬爾可夫鏈的n步轉移概率，定理1設為馬爾可夫鏈,則對任意整數和，n步轉移概率具有下列性質：定義5設為馬爾可夫鏈,稱為的初始概率和絕對概率,并分別稱和為的初始分布和絕對分布，簡記為和。定理２設為馬爾可夫鏈,則對任意和,絕對概率具有下列性質:定理3設為馬爾可夫鏈,則對任意和，有§４．2馬爾可夫鏈的狀態分類一、狀態分類假設是齊次馬爾可夫鏈,其狀態空間,轉移概率是,初始分布為。定義4.6如集合非空,則稱該集合的最大公約數為狀態的周期。如就稱為周期的，如就稱為非周期的。(若對每一個不可被整除的,有=0，且是具有此性質的最大正整數，則稱為狀態的周期。)引理4.1如的周期為ｄ，則存在正整數M，對一切，有。定義對記(4．15)稱是系統在0時從出發通過步轉移后初次到達狀態的概率，而則是在0時從出發，系統在有限步轉移內不也許到達狀態的概率。我們將和統稱為首達概率（又稱首中概率)。引理（1)首達概率可以用一步轉移概率來表達：定義4.7若=1，則稱狀態為常返的;若<１，則稱狀態為非常返的。定義4.8如，則稱常返態為正常返的；如，則稱常返態為零常返的,非周期的正常返態稱為遍歷狀態。從狀態是否常返，如常返的話是否正常返,如正常返的話是否非周期等三層次上將狀態區分為以下的類型：與有如下關系:定理4.4對任意狀態，及,有(４.1６）引理４.2二、常返態的性質及其性質定理4.５狀態常返的充要條件為（4.18）如非常返，則定理４．7設常返且有周期ｄ,則．(4.２6）其中為的平均返回時間。當時,.推論設常返,則零常返;（2）遍歷。定理4.８可達關系與互通關系都具有傳遞性，即假如，,則;假如,,則。定理4.9如，則與同為常返或非常返，若為常返，則它們同為正常返或零常返;與有相同的周期。§4．３狀態空間的分解?定義4.9狀態空間I的子集C稱為(隨機）閉集，如對任意及都有。閉集C稱為不可約的，如Ｃ的狀態互通。馬氏鏈稱為不可約的，如其狀態空間不可約。 引理4.4C是閉集的充要條件為對任意及kC都有=0,n≥1。 稱狀態i為吸取的,如=1。顯然狀態吸取等價于單點集為閉集。 定理４.10任一馬氏鏈的狀態空間I,可唯一地分解成有限個或可列個互不相交的子集之和，使得每一是常返態組成的不可約閉集。中的狀態同類,或全是正常返，或全是零常返。它們有相同的周期且，。Ｄ由全體非常返狀態組成。自中的狀態不能到達D中的狀態。定義４.10稱矩陣（)為隨機矩陣,如其元素非負且每有＝１。顯然k步轉移矩陣=(）為隨機矩陣。引理４.5設C為閉集，又G=（）,,j∈C,是C上所得的(即與C相應的)k步轉移子矩陣,則G仍是隨機矩陣。定理4．11周期為d的不可約馬氏鏈,其狀態空間可唯一地分解為個互不相交地子集之和,即（４.3１）且使得自中任一狀態出發,經一步轉移必進入中（其中）。定理4.12設是周期為的不可約馬氏鏈，則在定理4.１1的結論下有(1）如只在時刻上考慮,即得一新馬氏鏈,其轉移陣,對此新鏈，每一是不可約閉集，且中的狀態是非周期的。(2)如原馬氏鏈常返，也常返?！欤矗?的漸近性質與平穩分布 一、的漸近性質定理4.１3如j非常返或零常返，則=0,（４.33）推論1有限狀態的馬氏鏈,不也許全是非常返狀態,也不也許具有零常返狀態，從而不可約的有限馬氏鏈必為正常返的。推論２如馬氏鏈有一個零常返狀態，則必有無限多個零常返狀態。定理4．14如ｊ正常返，周期為ｄ，則對任意ｉ及有（4.３7）推論設不可約、正常返、周期d的馬氏鏈，其狀態空間為C，則對一切,有(４.３8）其中為定理４．11中所給出。特別，如d＝1,則對一切有(4.39)定理4．1５對任意狀態有推論如不可約，常返,則對任意，有?＝時，理解=０定義４.1１稱概率分布為馬爾可夫鏈的平穩分布，若它滿足(4.41)值得注意的是，對平穩分布,有(4.42）定理4.16不可約非周期馬爾可夫鏈是正常返的充要條件是存在平穩分布,且此平穩分布就是極限分布。推論1有限狀態的不可約非周期馬爾可夫鏈必存在平穩分布。推論2若不可約馬爾可夫鏈的所有狀態是非常返或零常返的，則不存在平穩分布.推論3若是馬爾可夫鏈的平穩分布,則第五章連續時間的馬爾可夫鏈§５.1連續時間的馬爾可夫鏈定義5.１設隨機過程{X(t),ｔ≥０},狀態空間，若對于任意及有=(５.1)則稱{X（t),t≥０}為連續時間的馬爾可夫鏈。記(5.1)式條件概率的一般形式為(5.２)定義５.2若(5.2)式的轉移概率與s無關,則稱連續時間馬爾可夫鏈具有平穩的或齊次的轉移概率，此時轉移概率簡記為(５.3)其轉移概率矩陣簡記為。以下的討論均假定我們所考慮的連續時間馬爾柯夫鏈都具有齊次轉移概率。為方便起見,簡稱為齊次馬爾可夫過程。定理5.1.1齊次馬爾可夫過程的轉移概率具有以下性質：其中（3）式為馬爾可夫過程的Chａpman-Koｌmoｇｏrｏv（簡稱C-K)方程。(1),（2）由概率定義及的定義易知，下面只證明(3)。定義5.1.3對于任一t≥0,記分別稱和為齊次馬爾可夫過程的絕對概率分布和初始概率分布。性質5．1.１齊次馬爾可夫過程的絕對概率及有限維概率分布具有以下性質:§５．2柯爾莫哥洛夫微分方程引理5.２.1設齊次馬爾可夫過程滿足正則性條件，則對于任意固定的是ｔ的一致連續函數。定理５.3設是齊次馬爾可夫過程的轉移概率，則下列極限存在我們稱為齊次馬爾可夫過程從狀態到狀態的轉移速率或跳躍強度。推論?對有限齊次馬爾可夫過程，有(5.2.1）定理５.4(柯爾莫哥洛夫向后方程)假設,則對一切及t０,有（5．2．4)定理5.2．３（柯爾莫哥洛夫向前方程）在適當的正則條件下(5.2.6)定理５.2．4齊次馬爾可夫鏈過程在ｔ時刻處在狀態ｊ∈I的絕對概率滿足如下方程：定理5.2.5設馬爾可夫過程是不可約的,則有下列性質:(１)若它是正常返的，則極限存在且等于,這里是方程組的唯一非負解，此時稱{}是該過程的平穩分布,并且有(2）若它是零常返的或非常返的,則§5.３生滅過程定義設齊次馬爾可夫過程的狀態空間為,轉移概率為,假如則稱為生滅過程。其中，稱為出生率，稱為死亡率。(1)若(,為正常數)，則稱為線性生滅過程；(2)若,則稱為純生過程;(3）若，則稱為純滅過程。第六章平穩隨機過程§6.1平穩過程的概念與例子一、平穩過程的定義１.平穩過程定義§6.2聯合平穩過程及相關函數的性質一、聯合平穩過程定義設和是兩個平穩過程，若它們的互相關函數及僅與有關，而與無關，則稱和是聯合平穩隨機過程。定理６．１設為平穩過程,則其相關函數具下列性質:(1)(2）(３)(4）是非負定的，即對任意實數及復數，有(5）若是周期為T的周期函數，即，則；(６)若是不含周期分量的非周期過程，當時，與互相獨立,則(1)（2)§6．３隨機分析一、收斂性概念1、處處收斂對于概率空間上的隨機序列,每個實驗結果e都相應一序列。(６.２)故隨機序列事實上代表一族（６.2)式的序列,故不能用普通極限形式來定義隨機序列的收斂性。若(６.２)式對每個ｅ都收斂,則稱隨機序列處處收斂,即滿足其中X為隨機變量。2、以概率１收斂若使隨機序列滿足的e的集合的概率為１，即我們稱二階矩隨機序列以概率1收斂于二階矩隨機變量X(e),或稱幾乎處處收斂于X(e)，記作。３、依概率收斂若對于任給的ε>０,若有,則稱二階矩隨機序列依概率收斂于二階矩隨機變量X(e),記作。4、均方收斂設有二階矩隨機序列和二階矩隨機變量Ｘ，若有(6.３)成立,則稱均方收斂，記作。注：（6．3)式一般記為或。5、依分布收斂設有二階矩隨機序列和二階矩隨機變量Ｘ，若相應的分布函數列,在X的分布函數F(x）的每一個連續點處，有則稱二階矩隨機序列依分布收斂于二階矩隨機變量Ｘ，記作對于以上四種收斂定義進行比較，有下列關系:（1)若,則(2）若，則（3）若，則定理2二階矩隨機序列收斂于二階矩隨機變量X的充要條件為定理3設都是二階矩隨機序列,Ｕ為二階矩隨機變量，{}為常數序列，a，ｂ,c為常數。令，，,。則（1）；(2）；(3）；(4)；（５)；（6）;特別有。定理4設為二階矩隨機序列，則均方收斂的充要條件為下列極限存在。二、均方連續定義設有二階矩過程，若對,有,則稱在點均方連續，記作。若對Ｔ中一切點都均方連續,則稱在Ｔ上均方連續。定理(均方連續準則）二階矩過程在t點均方連續的充要條件為相關函數。推論若相關函數在上連續,則它在T×Ｔ上連續三、均方導數定義7設是二階矩過程，若存在一個隨機過程,滿足類似的有稱為在的廣義二階導數，記為定理６均方可微準則二階矩過程在t點均方可微的充要條件為相關函數的廣義二階導數存在。推論1二階矩過程在Ｔ上均方可微的充要條件為相關函數在上每一點廣義二階可微。推論2若在上每一點廣義二階可微，則在T上以及在上存在,且有四、均方積分定義８假如時,均方收斂于，即，則稱在上均方可積，并記為定理7（均方可積準則）在區間上均方可積的充要條件為存在。特別的，二階矩過程在上均方可積的充要條件為在上可積。定理8設在區間上均方可積，則有(1)特別有(2）特別的有。定理9設二階矩過程在上均方連續，則在均方意義下存在，且隨機過程在上均方可微,且有。推論設均方可微，且均方連續，則特別有§4平穩過程的各態歷經性定義9設為均方連續的平穩過程,則分別稱為該過程的時間均值和時間相關函數。定義１０設是均方連續的平穩過程,若,即以概率1成立，則稱該平穩過程的均值具有各態歷經性。若,即以概率1成立,則稱該平穩過程的相關函數具有各態歷經性。定義１1假如均方連續的平穩過程的均值和相關函數都具有各態歷經性,則稱該平穩過程為具有各態歷經性或遍歷性。定理10設是均方連續的平穩過程,則它的均值具有各態歷經性的充要條件為(6.9)定理6．11設為均方連續的平穩過程，則其相關函數具有各態歷經性的充要條件為(6.１5)其中(6.１6)定理６.12對于均方連續平穩過程，等式以概率1成立的充要條件為若為實平穩過程,則上式變為定理６.１3對于均方連續平穩過程,等式以概率１成立的充要條件為其中與（6.１６)式相同。若為實平穩過程，則上式變為第七章平穩過程的譜分析§7.1平穩過程的譜密度設是均方連續隨機過程,作截尾隨機過程