3.若Y被接受，则Xt+1=Y,否则X+1=Xt 提议分布(Proposal distribution)的选择要使得生产的马氏链的平稳分布 为目标抽样分布∫，需要满足的正则化条件包括不可约，正常返，非周期.一个 具有和目标分布相同支撑集的提议分布一般会满足这些正则化条件 1.2.1 Metropolis-Hastings Sampler MH抽样方法通过如下方式生产马氏链{Xo,X1,X2,·: 1.构造合适的提议分布g(X:)(满足前述的正则化条件) 2.从某个分布g中产生X0: 3.重复（直至马氏链达到平稳状态） (a)从g(X)中产生Y (b)从U(0,1)中产生U (c)若 U≤ f(Y)g(X:Y) f(X:)g(Y X:) Previous Next First Last Back Forward 14
3. eY …, KXt+1 = Y , ƒK Xt+1 = Xt. JÆ©Ÿ(Proposal distribution)¿Já¶)ͺ۲©Ÿ è8Iƒ©Ÿf, Iá˜vKz ^áù)ÿå, ~à, ö±œ. òá ‰k⁄8I©ŸÉ”|†8JÆ©ŸòѨ˜v˘ Kz^á. 1.2.1 Metropolis-Hastings Sampler MHƒê{œLXeê™)ͺÛ{X0, X1, X2, · · · }: 1. E‹·JÆ©Ÿg(·|Xt)(˜vc„Kz^á). 2. l,á©Ÿg•)X0; 3. E(ÜñͺÛà²G) (a) lg(·|Xt)•)Y . (b) lU(0, 1)•)U; (c) e U ≤ f(Y )g(Xt|Y ) f(Xt)g(Y |Xt) Previous Next First Last Back Forward 14
则接受Y并令X+1=Y,否则Xt+1=X. (d)增加t,返回到(a) 注意到上述算法中接受概率为 a(Xt,Y)=min f(Y)9(XY)) fX)9(Y7X)1 因此只需知道目标分布∫正比于某个常数即可，该常数可以未知. 显然，通过MH算法构造的链满足马氏性，因为X+1仅依赖于X:.而这样 的链是否是非周期不可约的则取决于提议分布的选取.如果是非周期不可约 的，则由MH算法得到的链具有唯一的平稳分布.我们来验证在MH算法下得到 的马氏链的平稳分布为f.事实上，当r≠s时，转移核为 K(r,s)=p(slXe=r)≈P(Xt+1∈s±h,TAXt=T)/2h s+h g(lr)a(r,y)dy/2h→g(sr)a(r,s),h→0. s-h Previous Next First Last Back Forward 15
K…Y ø-Xt+1 = Y , ƒK Xt+1 = Xt. (d) O\t, à£(a). 5ø˛„é{•…V«è α(Xt, Y ) = min 1, f(Y )g(Xt|Y ) f(Xt)g(Y |Xt) , œdêI8I©Ÿf'u,á~Í=å, T~Íå±ô. w,, œLMHé{EÛ˜vͺ5, œèXt+1=ù6uXt. ˘ Û¥ƒ¥ö±œÿåK˚uJÆ©Ÿ¿. XJ¥ö±œÿå , KdMHé{Û‰kçò²©Ÿ. ·Ç5y3MHé{e ͺ۲©Ÿèf. Ø¢˛, r 6= sû, =£ÿè K(r, s) = p(s|Xt = r) ≈ P(Xt+1 ∈ s ± h, T A|Xt = r)/2h = Z s+h s−h g(y|r)α(r, y)dy/2h → g(s|r)α(r, s), h → 0. Previous Next First Last Back Forward 15
当r=s时 K(r,r）=p(rlX:=r）≈P(X+1∈r±h,TAXt=r)/2h 十 P(Xt+1年r士h,TAX:=r) a(r,y)g(ulr)dy/2h+/[1-a(r,y)]g(ulr)dy yr士h →a(r,r)g(rlr）+1-ar,ylg(r)dy,h→0. 因此我们有 K(r,s)=a(r,s)g(slr)+I(r=s)/[1-a(r,)g(ylr)dy. 从而对r=s显然细致方程成立.对任意r≠s有 K(r,s)f(r)=a(r,s)g(slr)=min{1, (s)(rs(lr)f(r) (r)g(sr) minig(slr)f(r),f(s)g(rls)}=a(s,r)g(rls)f(s) K(s,r)f(s). Previous Next First Last Back Forward 16
r = sû, K(r, r) = p(r|Xt = r) ≈ P(Xt+1 ∈ r ± h, T A|Xt = r)/2h + P(Xt+1 ∈/ r ± h, T A¯ |Xt = r) = Z r+h r−h α(r, y)g(y|r)dy/2h + Z y /∈r±h [1 − α(r, y)]g(y|r)dy → α(r, r)g(r|r) + Z [1 − α(r, y)]g(y|r)dy, h → 0. œd·Çk K(r, s) = α(r, s)g(s|r) + I(r = s) Z [1 − α(r, y)]g(y|r)dy. l Èr = sw,[óêߧ·. È?ør 6= sk K(r, s)f(r) = α(r, s)g(s|r) = min{1, f(s)g(r|s) f(r)g(s|r) }g(s|r)f(r) = min{g(s|r)f(r), f(s)g(r|s)} = α(s, r)g(r|s)f(s) = K(s, r)f(s). Previous Next First Last Back Forward 16