高級計量經(jīng)濟分析及Stata應(yīng)用 課件 第12章 貝葉斯估計

貝葉斯估計上海師范大學(xué)商學(xué)院貝葉斯估計授課大綱12.1貝葉斯估計原理12.2貝葉斯估計命令12.3貝葉斯線性回歸12.4MH算法的貝葉斯模型2025/4/14312.1貝葉斯估計原理12.1.1貝葉斯定理12.1.2蒙特卡羅積分的貝葉斯計算12.1.3

馬爾可夫鏈蒙特卡羅方法12.1.4Metropolis–Hastings算法12.1.5后驗預(yù)測12.1.1貝葉斯定理

對于隨機向量（參數(shù)）與隨機向量（樣本數(shù)據(jù)），根據(jù)貝葉斯定理可知：(12.1)其中，是考慮樣本數(shù)據(jù)之后的條件分布密度（即后驗分布）；為參數(shù)的先驗分布密度；是隨機向量（參數(shù)）與隨機向量（樣本數(shù)據(jù)）的聯(lián)合分布；為給定時的密度函數(shù)；為y的邊緣分布密度。2025/4/14512.1.1貝葉斯定理在聯(lián)合分布中將隨機參數(shù)積分，就可以得到隨機向量的邊緣分布密度：

（12.2）2025/4/14612.1.1貝葉斯定理在貝葉斯分析中，一般把后驗分布記為，而把y的密度函數(shù)記為。在貝葉斯公式（12.2）中分母為邊緣分布，不包含，可以將其視為常數(shù)，因此后驗分布與該公式的分子成正比：

（12.3）2025/4/14712.1.2蒙特卡羅積分的貝葉斯計算

給定后驗分布的樣本，我們可以使用蒙特卡羅積分來近似積分。設(shè)

為后驗分布的獨立樣本。

原始積分可近似為：。此外，如果g是一個標(biāo)量函數(shù)，在一些溫和的條件下，中心極限定理成立：式中可通過樣本方差進行近似。2025/4/14812.1.3馬爾可夫鏈蒙特卡羅方法

每個MCMC方法都設(shè)計為從轉(zhuǎn)換內(nèi)核生成值，以便從該內(nèi)核收斂到預(yù)先指定的目標(biāo)分布。它使用目標(biāo)分布為鏈的平穩(wěn)或平衡分布。根據(jù)定義，馬爾科夫鏈?zhǔn)悄繕?biāo)分布域中的任何值或狀態(tài)序列，每個價值只取決于它的直接前身。MCMC方法在模擬方面有很大不同效率和計算復(fù)雜性。對于設(shè)計良好的MCMC，鏈越長，性能越好，使樣本更接近平穩(wěn)分布。2025/4/14912.1.4Metropolis–Hastings算法

MH算法用于在一般公式內(nèi)的后驗分布抽樣。它需要指定提議的概率分布q（?）和在后部的區(qū)域內(nèi)的起始狀態(tài)，即。該算法生成一個馬爾可夫鏈。這樣，在每個步驟t:1）根據(jù)當(dāng)前狀態(tài)生成提議狀態(tài)，2）根據(jù)適當(dāng)定義的接受概率接受或拒絕生成提議狀態(tài)。2025/4/141012.1.4Metropolis–Hastings算法對于

:（1）生成建議狀態(tài)：（2）計算接受率，其中，

（3）繪制（0,1）區(qū)間上的均勻分布隨機變量u。（4）設(shè)如果；其他則。2025/4/141112.1.4Metropolis–Hastings算法我們將迭代步驟1到4稱為MH更新。通過設(shè)計，使用這種MH算法的任何馬爾可夫鏈都可以保證作為其平穩(wěn)分布。衡量MCMC效率的兩個重要標(biāo)準(zhǔn)是鏈條的接受率和生成的樣本中的自相關(guān)程度。2025/4/141212.1.5后驗預(yù)測預(yù)測是統(tǒng)計分析的另一個重要部分。在貝葉斯統(tǒng)計中，使用后驗預(yù)測分布進行預(yù)測是非常重要的。給定觀測數(shù)據(jù)y時觀察未來數(shù)據(jù)的概率可以通過邊緣化得到：

(12.4)假設(shè)給定觀測數(shù)據(jù)y獨立于未來數(shù)據(jù)時，可以簡化為：(12.5)方程（12.5）稱為后驗預(yù)測分布，用于貝葉斯預(yù)測。2025/4/141312.2貝葉斯估計命令Stata中的貝葉斯估計與標(biāo)準(zhǔn)估計類似，只是在估計命令前面加上“bayes:”前綴。Stata貝葉斯估計命令主要包括貝葉斯估計的線性回歸模型、二元響應(yīng)回歸模型、排序響應(yīng)回歸模型、分類響應(yīng)回歸模型、計數(shù)響應(yīng)回歸模型、分?jǐn)?shù)響應(yīng)回歸模型、廣義線性模型、樣本選擇模型、面板數(shù)據(jù)模型、多層次回歸模型、多元時間序列模型和DSGE模型等。2025/4/141412.3貝葉斯線性回歸貝葉斯線性回歸估計的Stata命令為：

bayes[,bayesopts]:regressdepvar[indepvars][if][in][weight][,options]2025/4/141512.4MH算法的貝葉斯模型MH算法的貝葉斯模型估計的Stata命令為：（1）含公共回歸的多元正態(tài)線性回歸

bayesmhdepvars=[indepvarspec][if][in][weight],likelihood(mvnormal(...))prior(priorspec)[options]（2）具有結(jié)果特異性回歸因子的多元正態(tài)回歸

bayesmh([eqname1:]depvar1[indepvarspec1])([eqname2:]depvar2[indepvarspec2])[...][if][in][weight],likelihood(mvnormal(...))prior(priorspec)[options]2025/4/1416（3）多變量正態(tài)的非線性模型

bayesmh(nleqspec1))(nleqspec2))[...][if][in][weigh