1、第一章 準備知識 數學公式 矩陣代數 概率統計7/16/20221 數學公式7/16/20222數學公式(一)階乘 ：對于正整數n，有指數函數：斯特林公式：Gamma函數：特別地遞推關系n為整數時7/16/20223數學公式(二)二項式系數：對于非負整數n和r， ，有 二項式展開：對于實數x，y及非負整數n7/16/20224數學公式(三)單變量泰勒序列：二階向量泰勒展開：對于轉置7/16/20225 矩陣代數7/16/20226基本概念矩陣(matrix)：向量(Vector)：數量(Scalar)：數量指的是單個數，表示為7/16/20227矩陣的向量表示7/16/20228矩陣轉置對稱陣

2、對角陣，上三角陣，下三角陣n=k時稱為方陣7/16/20229矩陣相乘7/16/202210單位陣和正交陣若 ，則稱兩個向量正交。對于矩陣 ，k0，定義X的m階矩為m階中心矩為7/16/202229期望性質如果c為常量或非隨機變量，則E(c)=c如果c為常量或非隨機變量，則Ecg(X)=cEg(X)7/16/202230方差(variance)和標準差其算術根稱為標準差7/16/202231方差性質均為常數7/16/202232獨立離散型連續型7/16/202233條件概率(conditional probability)離散型連續型7/16/202234條件均值(條件期望)condition

3、al mean (expectation)性質7/16/202235常用分布伯努里分布二項分布幾何分布泊松分布均勻分布貝塔分布正態分布卡方分布t分布F分布伽瑪分布柯西分布指數分布對數正態帕累托分布威布爾分布7/16/202236伯努里分布7/16/202237二項分布7/16/202238幾何分布7/16/202239泊松分布7/16/202240均勻分布7/16/202241指數分布無記憶！7/16/202242伽瑪分布n個服從指數分布的獨立隨機變量的和服從Gamma分布7/16/202243貝塔分布7/16/202244柯西分布7/16/202245對數正態7/16/202246帕累托分布

4、7/16/202247威布爾分布7/16/202248正態分布時，稱為標準正態分布7/16/202249卡方分布7/16/202250t分布n為正整數7/16/202251F分布7/16/202252變換(transformation)連續型隨機變量，一一對應，可微是的逆函數雅克比行列式7/16/202253單變量情形的變換增函數減函數例如7/16/202254相關系數(correlation coefficient)7/16/202255樣本統計樣本均值樣本方差7/16/202256協方差(covariance)顯然7/16/202257大數定律 (law of large numbers) 設 是均值為 方差為 的獨立同分布(independent,identically distributed,iid)隨機變量，則 弱大數定律強大數定律7/16/202258中心極限定理(central limit theorem) 如果隨機變量 具有均值 和方差 ，則隨著n增大， 的抽樣分布越來越接近于均值為 方差為 的正態分布7/16/202259參數估計方法矩方法最小二乘法最大似然法7/16/202260估計量的性質無偏性有效性一致性7/16/202261假設檢驗(hypothesis testing)零假設和備擇假設接受域和拒絕域第一類錯誤和第二類錯