概率論與數理統計講義匯報人：AA2024-01-19概率論基本概念隨機變量及其分布多維隨機變量及其分布數理統計基本概念和方法方差分析和回歸分析初步隨機過程初步知識contents目錄01概率論基本概念樣本空間與事件事件必然事件樣本空間的子集，即某些可能結果的組合。包含樣本空間中所有樣本點的事件。樣本空間基本事件不可能事件所有可能結果的集合，常用大寫字母S表示。只包含一個樣本點的事件。不包含任何樣本點的事件。概率定義及性質概率定義描述某一事件發生的可能性大小的數值，常用P(A)表示事件A發生的概率。概率性質非負性、規范性（必然事件的概率為1，不可能事件的概率為0）、可加性（互斥事件的概率和等于它們并的概率）。VS在某一事件B已經發生的條件下，另一事件A發生的概率，記作P(A|B)。事件的獨立性如果兩個事件A和B的發生互不影響，即P(AB)=P(A)P(B)，則稱事件A和B是相互獨立的。條件概率條件概率與獨立性全概率公式如果事件B1,B2,...,Bn構成一個完備事件組，且都有正概率，則對任一事件A，有P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)。貝葉斯公式在全概率公式的假定下，對任一事件A和任一事件Bi（i=1,2,...,n），有P(Bi|A)=[P(A|Bi)P(Bi)]/P(A)。全概率公式與貝葉斯公式02隨機變量及其分布隨機變量是定義在樣本空間上的實值函數，它將樣本空間中的每一個樣本點映射到一個實數。隨機變量定義根據取值的不同，隨機變量可分為離散型隨機變量和連續型隨機變量。離散型隨機變量取值為有限個或可列個，而連續型隨機變量取值則充滿某個區間。隨機變量分類隨機變量定義及分類分布律定義離散型隨機變量的分布律描述了隨機變量取各個值的概率。常見離散型隨機變量分布包括0-1分布、二項分布、泊松分布等。這些分布各自具有不同的特點和應用場景。離散型隨機變量分布律連續型隨機變量概率密度函數連續型隨機變量的概率密度函數是一個非負可積函數，它描述了隨機變量在某個區間內取值的概率。概率密度函數定義包括均勻分布、指數分布、正態分布等。這些分布各自具有不同的特點和應用場景。常見連續型隨機變量分布隨機變量函數是由一個或多個隨機變量通過某種函數關系構成的新的隨機變量。當已知原隨機變量的分布時，可以通過一定的方法求出隨機變量函數的分布。常見的求法包括直接法、公式法和變換法等。隨機變量函數定義隨機變量函數的分布隨機變量函數分布03多維隨機變量及其分布聯合分布函數描述二維隨機變量$(X,Y)$取值情況的函數，記作$F(x,y)$。聯合概率密度函數對于連續型二維隨機變量，其聯合分布函數可表示為$F(x,y)=int_{-infty}^{x}int_{-infty}^{y}f(u,v)dudv$，其中$f(u,v)$為聯合概率密度函數。聯合分布律對于離散型二維隨機變量，其聯合分布律可用二維表格表示，表格中每個元素表示$(X,Y)$取對應值的概率。010203二維隨機變量聯合分布邊緣分布與條件分布由聯合分布函數分別對$x$和$y$求極限得到，記作$F_X(x)$和$F_Y(y)$。邊緣概率密度函數對于連續型二維隨機變量，其邊緣概率密度函數可由聯合概率密度函數對另一個變量積分得到，記作$f_X(x)$和$f_Y(y)$。條件分布在已知一個隨機變量取值的條件下，另一個隨機變量的分布。對于連續型二維隨機變量，條件概率密度函數為$f_{X|Y}(x|y)=frac{f(x,y)}{f_Y(y)}$和$f_{Y|X}(y|x)=frac{f(x,y)}{f_X(x)}$。邊緣分布函數相互獨立的定義如果兩個隨機變量的聯合分布函數等于各自邊緣分布函數的乘積，即$F(x,y)=F_X(x)F_Y(y)$，則稱這兩個隨機變量相互獨立。相互獨立的性質如果兩個隨機變量相互獨立，則它們之間的任何事件也相互獨立。判斷方法通過比較聯合概率密度函數和邊緣概率密度函數的乘積來判斷兩個隨機變量是否相互獨立。相互獨立隨機變量要點三多維隨機變量函數的定義設$(X_1,X_2,ldots,X_n)$是$n$維隨機變量，如果存在一個$n$元實值函數$g(x_1,x_2,ldots,x_n)$，使得$Z=g(X_1,X_2,ldots,X_n)$是一個一維隨機變量，則稱$Z$是$(X_1,X_2,ldots,X_n)$的函數。要點一要點二多維隨機變量函數的分布求法首先確定$(X_1,X_2,ldots,X_n)$的聯合分布，然后根據函數關系求出$Z$的分布函數或概率密度函數。常見的多維隨機變量函數分布包括線性變換、多項式變換、指數變換等。對于這些常見的變換，可以通過一些特定的方法簡化計算過程。要點三多維隨機變量函數分布04數理統計基本概念和方法總體研究對象的全體個體組成的集合，通常用一個概率分布來描述。樣本從總體中隨機抽取的一部分個體組成的集合，用于推斷總體的性質。統計量樣本的函數，用于描述樣本的特征，如樣本均值、樣本方差等。總體、樣本和統計量抽樣分布樣本統計量的概率分布，描述了統計量在多次抽樣中的分布情況。要點一要點二性質抽樣分布具有一些重要的性質，如無偏性、有效性、一致性等，這些性質保證了樣本統計量能夠準確地反映總體的特征。抽樣分布及性質點估計用樣本統計量的某個值來估計總體參數的方法，如最大似然估計、最小二乘估計等。區間估計根據樣本統計量的分布性質，構造一個包含總體參數的置信區間，并給出該區間的置信水平。參數估計方法先對總體參數提出一個假設，然后構造一個合適的統計量，并根據該統計量的分布性質及顯著性水平，決定是否拒絕原假設。原理建立假設、構造檢驗統計量、確定拒絕域、計算p值或臨界值、作出決策。步驟假設檢驗原理及步驟05方差分析和回歸分析初步方差分析原理及應用廣泛應用于醫學、農學、心理學等領域，用于比較不同處理或因素對實驗結果的影響。方差分析應用方差分析是一種通過比較不同組別間均值差異，推斷總體是否存在顯著差異的統計方法。方差分析定義基于不同來源的變異對總變異的貢獻大小，將總變異分解為組間變異和組內變異，通過比較二者的大小來判斷組別間是否存在顯著差異。方差分析原理回歸分析原理基于最小二乘法等數學原理，通過最小化預測值與實際值之間的誤差平方和，得到最優的回歸系數，從而建立回歸模型。回歸分析應用廣泛應用于經濟學、金融學、社會學等領域，用于預測、解釋和控制因變量的變化。回歸分析定義回歸分析是一種研究自變量與因變量之間關系，通過建立數學模型預測因變量取值的統計方法。回歸分析原理及應用線性回歸模型建立根據自變量和因變量的數據類型及關系，選擇合適的線性回歸模型（如一元線性回歸、多元線性回歸等），并通過最小二乘法等方法求解回歸系數。線性回歸模型檢驗通過殘差分析、擬合優度檢驗、顯著性檢驗等方法，對建立的線性回歸模型進行檢驗，評估模型的擬合效果和預測能力。線性回歸模型建立與檢驗非線性回歸模型定義當自變量與因變量之間的關系不能用線性模型描述時，需要采用非線性回歸模型進行建模。非線性回歸模型類型常見的非線性回歸模型包括指數函數、對數函數、冪函數等。非線性回歸模型建立與檢驗與線性回歸模型類似，非線性回歸模型的建立也需要選擇合適的模型形式，并通過最小二乘法等方法求解參數。模型的檢驗則可采用殘差分析、擬合優度檢驗等方法進行評估。非線性回歸模型簡介06隨機過程初步知識隨機過程定義及分類隨機過程定義隨機過程是一族隨時間變化的隨機變量，它們之間存在一定的統計關聯性。隨機過程分類根據隨機過程的特性和性質，可以將其分為平穩過程、馬爾可夫過程、鞅過程等。VS馬爾可夫鏈是一種時間和狀態都是離散的隨機過程，具有“無后效性”，即未來狀態只與當前狀態有關，與過去狀態無關。馬爾可夫鏈性質馬爾可夫鏈具有遍歷性、周期性、常返性、暫留性等性質，這些性質決定了馬爾可夫鏈的長期行為。馬爾可夫鏈定義馬爾可夫鏈基本概念和性質平穩過程定義平穩過程是一類特殊的隨機過程，其統計特性不隨時間推移而改變。嚴格平穩過程要求任意時刻的有限維分布與時間起點無關；寬平穩過程要求均值和協方差函數與時間起點無關。平穩過程性質平穩過程具有各態歷經性，即其統計平均可以用時間平均來代替。此外，平穩過程的功率譜密度和自相關函數之間存在傅里葉變換關系。平穩過程基本概念和性質金融領域隨機過程在金融領域有廣泛應用，如股票價格預測、期權定價等。通過建立股票價格隨機模型（如幾何布朗運動），可以分析股票價格的波動性和風險。隨機過程在物理學