貝葉斯估計上海師范大學商學院貝葉斯估計授課大綱12.1貝葉斯估計原理12.2貝葉斯估計命令12.3貝葉斯線性回歸12.4MH算法的貝葉斯模型2025/4/14312.1貝葉斯估計原理12.1.1貝葉斯定理12.1.2蒙特卡羅積分的貝葉斯計算12.1.3

馬爾可夫鏈蒙特卡羅方法12.1.4Metropolis–Hastings算法12.1.5后驗預測12.1.1貝葉斯定理

對于隨機向量（參數）與隨機向量（樣本數據），根據貝葉斯定理可知：(12.1)其中，是考慮樣本數據之后的條件分布密度（即后驗分布）；為參數的先驗分布密度；是隨機向量（參數）與隨機向量（樣本數據）的聯合分布；為給定時的密度函數；為y的邊緣分布密度。2025/4/14512.1.1貝葉斯定理在聯合分布中將隨機參數積分，就可以得到隨機向量的邊緣分布密度：

（12.2）2025/4/14612.1.1貝葉斯定理在貝葉斯分析中，一般把后驗分布記為，而把y的密度函數記為。在貝葉斯公式（12.2）中分母為邊緣分布，不包含，可以將其視為常數，因此后驗分布與該公式的分子成正比：

（12.3）2025/4/14712.1.2蒙特卡羅積分的貝葉斯計算

給定后驗分布的樣本，我們可以使用蒙特卡羅積分來近似積分。設

為后驗分布的獨立樣本。

原始積分可近似為：。此外，如果g是一個標量函數，在一些溫和的條件下，中心極限定理成立：式中可通過樣本方差進行近似。2025/4/14812.1.3馬爾可夫鏈蒙特卡羅方法

每個MCMC方法都設計為從轉換內核生成值，以便從該內核收斂到預先指定的目標分布。它使用目標分布為鏈的平穩或平衡分布。根據定義，馬爾科夫鏈是目標分布域中的任何值或狀態序列，每個價值只取決于它的直接前身。MCMC方法在模擬方面有很大不同效率和計算復雜性。對于設計良好的MCMC，鏈越長，性能越好，使樣本更接近平穩分布。2025/4/14912.1.4Metropolis–Hastings算法

MH算法用于在一般公式內的后驗分布抽樣。它需要指定提議的概率分布q（?）和在后部的區域內的起始狀態，即。該算法生成一個馬爾可夫鏈。這樣，在每個步驟t:1）根據當前狀態生成提議狀態，2）根據適當定義的接受概率接受或拒絕生成提議狀態。2025/4/141012.1.4Metropolis–Hastings算法對于

:（1）生成建議狀態：（2）計算接受率，其中，

（3）繪制（0,1）區間上的均勻分布隨機變量u。（4）設如果；其他則。2025/4/141112.1.4Metropolis–Hastings算法我們將迭代步驟1到4稱為MH更新。通過設計，使用這種MH算法的任何馬爾可夫鏈都可以保證作為其平穩分布。衡量MCMC效率的兩個重要標準是鏈條的接受率和生成的樣本中的自相關程度。2025/4/141212.1.5后驗預測預測是統計分析的另一個重要部分。在貝葉斯統計中，使用后驗預測分布進行預測是非常重要的。給定觀測數據y時觀察未來數據的概率可以通過邊緣化得到：

(12.4)假設給定觀測數據y獨立于未來數據時，可以簡化為：(12.5)方程（12.5）稱為后驗預測分布，用于貝葉斯預測。2025/4/141312.2貝葉斯估計命令Stata中的貝葉斯估計與標準估計類似，只是在估計命令前面加上“bayes:”前綴。Stata貝葉斯估計命令主要包括貝葉斯估計的線性回歸模型、二元響應回歸模型、排序響應回歸模型、分類響應回歸模型、計數響應回歸模型、分數響應回歸模型、廣義線性模型、樣本選擇模型、面板數據模型、多層次回歸模型、多元時間序列模型和DSGE模型等。2025/4/141412.3貝葉斯線性回歸貝葉斯線性回歸估計的Stata命令為：

bayes[,bayesopts]:regressdepvar[indepvars][if][in][weight][,options]2025/4/141512.4MH算法的貝葉斯模型MH算法的貝葉斯模型估計的Stata命令為：（1）含公共回歸的多元正態線性回歸

bayesmhdepvars=[indepvarspec][if][in][weight],likelihood(mvnormal(...))prior(priorspec)[options]（2）具有結果特異性回歸因子的多元正態回歸

bayesmh([eqname1:]depvar1[indepvarspec1])([eqname2:]depvar2[indepvarspec2])[...][if][in][weight],likelihood(mvnormal(...))prior(priorspec)[options]2025/4/1416（3）多變量正態的非線性模型

bayesmh(nleqspec1))(nleqspec2))[...][if][in][weigh