CHAPTER7.BAYES方法和统计决策理论* 解确定先验分布的问题就转化为估计超参数和的问题.这可用“每周平 均销售量统计表”作出估计.若对表中0的每个小区间用其中点代替,算得和2的 估计如下 i=2.5×0.05+7.5×0.26+..+32.5×0.01=13.45 T2=(2.5-)2×0.05+(7.5-μ4)2×0.26+…+(32.5-)2×0.01=36.85 故0~N(位,2)=N(13.45,36.85),用先验分布可求下列概率,如 P20≤0≤2=P203559-13.45<21-13.45 ≤7368两≤VW3. =Φ(1.24)-Φ(1.08)=0.8925-0.8508=0.0417 在给定先验分布形式时,决定超参数的另一方法是从先验信息中获得几个分位 数的估计值,然后选择超参数(即超参数的估计值),使其尽可能接近这些分位数. 例7.2.3设参数的取值范围为(-∞,∞),先验分布为正态分布,若从先验信 息得知:(1)先验的中位数为0,(2)0.25和0.75的分位数分别为-1和+1,试求此先验分 布 解由于0~N(4,),因此确定先验分布的问题就转化为估计4和的问 题.正态分布的中位数就是4,故μ=0.由0.75的分位数为1,即0.75=P(0<1)= P(0/r<1/)=P(Z<1/r),其中Z=/r~N(0,1),查标准正态分布表÷1/r= 0.675,即T=1.481,故→0~N(4,2)=N(0,1.4812)为9的先验分布. 又若在本例中假定不是正态分布,而是Cauchy?分布,其余条件不变,即9~ π(0:α,)=B/{π[32+(0-a)2]},-o<0<o,确定先验分布的问题就转化 为求a,B的估计. 由于Cauchy分布均值和方差皆不存在,但它关于a对称,故有a=0.又由条 件0.25分位数为-1,即 1 1 +2=0.25 1 -xπ(B2+2 =元arctg( 解出6=1,故9~C(a,)=C(0,1) 因此同样的先验信息有2个先验分布可供选择.若2个先验分布差别不大,可任 选其一.在本例中N(0,1.4812)和C(0,1)密度函数形状上相似(都关于0对称,中间高 两边低),但Cauchy分布的尾部概率较大.因此若的先验信息集中在中间,则选择 正态好些,若先验信息较分散,选择Cauchy分布更合适些, 三、无信息先验 Bays分析的一个重要特点就是在统计推断时要利用先验信息.但常常会出现 这样的情况:没有先验信息或者只有极少的先验信息可利用,但仍想用Byes方法. 此时所需要的是一种无信息先验(noninformative prior),即对参数空间日中的任何 一点没有偏爱的先验信息.这就引出了无信息先验分布的概念
6 CHAPTER 7. BAYESê{⁄⁄O˚¸nÿ* ) (½k©ŸØK“=zèOáÎ͵⁄τ 2ØK. ˘å^/z±² ˛ù»˛⁄OL0ä—O. eÈL•θ zá´m^Ÿ•:ìO, éµ⁄τ 2 OXe µˆ = 2.5 × 0.05 + 7.5 × 0.26 + · · · + 32.5 × 0.01 = 13.45 ˆ τ 2 = (2.5 − µ) 2 × 0.05 + (7.5 − µ) 2 × 0.26 + · · · + (32.5 − µ) 2 × 0.01 = 36.85 θ ∼ N(ˆµ, τˆ 2 ) = N(13.45, 36.85),^k©Ÿå¶eV«, X P(20 ≤ θ ≤ 21) = P( 20 − 13.45 √ 36.85 ≤ θ − 13.45 √ 36.85 ≤ 21 − 13.45 p√ 36.85 ) = Φ(1.24) − Φ(1.08) = 0.8925 − 0.8508 = 0.0417 3â½k©Ÿ/™û, ˚½áÎÍ,òê{¥lk&E•ºAᩆ ÍOä, ,¿JáÎÍ(=áÎÍOä) , ¶Ÿ¶åUC˘ ©†Í. ~7.2.3 ÎÍθäâåè(−∞, ∞),k©Ÿè©Ÿ, elk& E: (1)k•†Íè0,(2) 0.25⁄0.75©†Í©Oè-1⁄+1, £¶dk© Ÿ. ) duθ ∼ N(µ, τ 2 ),œd(½k©ŸØK“=zèOµ ⁄ τØ K. ©Ÿ•†Í“¥µ,µ = 0. d0.75©†Íè1, =0.75 = P(θ < 1) = P(θ/τ < 1/τ ) = P(Z < 1/τ ), Ÿ•Z = θ/τ ∼ N(0, 1), IO©ŸL⇒ 1/τ = 0.675, = τ = 1.481,=⇒ θ ∼ N(µ, τ 2 ) = N(0, 1.4812 )èθk©Ÿ. qe3~•b½θÿ¥©Ÿ, ¥Cauchy©Ÿ, Ÿ{^áÿC, =θ ∼ π(θ; α, β) = β/{π[β 2 + (θ − α) 2 ]}, −∞ < θ < ∞, (½k©ŸØK“=z è¶α, β O. duCauchy©Ÿ˛ä⁄êÿ3, ß'uαȰ, kα = 0.qd^ á0.25©†Íè-1,= Z −1 −∞ β π(β 2 + θ 2) dθ = 1 π arctg−1 β + 1 2 = 0.25 )—β = 1, θ ∼ C(α, β) = C(0, 1). œd”k&Ek2ák©Ÿå¯¿J. e2ák©ŸOÿå, å? ¿Ÿò. 3~•N(0, 1.4812 )⁄C(0,1)ó›ºÍ/G˛Éq(—'u0Ȱ, •mp ¸>$) , Cauchy©Ÿó‹V«å. œdeθk&E8•3•m, K¿J – , ek&E©—, ¿JCauchy©Ÿç‹· . n!Ã&Ek Bayes©¤òááA:“¥3⁄Ỏûá|^k&E. ~~¨—y ˘ú¹: vkk&E½ˆêk4k&Eå|^, Eé^Bayesê{. dû§Iá¥ò´Ã&Ek (noninformative prior),=ÈÎÍòmΘ•?¤ ò:θvk†Ok&E. ˘“⁄— Ã&Ek©ŸVg.
72.先验分布的确定* 7 1.均匀分布与广义先验分布 (1)若日为有限集,即0只可能取有限个值,如0=0,i=1,2·n,无信息先验 给日中的每个元素以概率1/n,即P(0=0)=1/m,i=1,2…n. (2)若日为R1上的有限区间[a,b],则取无信息先验为区间[a,b]上的均匀分布U(a,b) (有时也记为R(a,b) (3)问题是若参数空间日无界,无信息先验如何选取?样本分布为N(0,σ), σ2已知,此时日=(-o,∞).若无信息先验取为π(0)三1,则π()不是通常的密度,因 为∫π()d=∞.这就引出广义先验分布的概念 定义设随机变量X~f(x9),0∈日,若9的先验分布π()满足下列条件: (①)π()≥0且∫6π(8)d=o ()后验密度π(x)是正常的密度函数, 则称π(d)为e的广义先验密度(improper prior density). 例7.2.4设X=X1,…,Xn为从N(0,1)总体中抽取的随机样本,设π()≡ 1,求0的后验密度 解由公式(7.1.1)可知 f(x0)π(8) π(x)= ezp{-∑1c:-)2] f()(0)do o exp(-0) n 这是正态分布N(,1/n)的密度,后验分布π(z)仍为正常的密度函数,故π(0)三1为 广义先验密度,它也是一种无信息先验 对一般常见的概率分布中的参数如何求其无信息先验分布?我们下面对位置 参数和刻度参数分别介绍. 2.位置参数和刻度参数的无信息先验 (1)位置参数的无信息先验 设总体分布有密度函数有形式f(x-),-oo<0<∞,为一位置参数(location parameters).让X平移c,得到Y=X+c,同时让也平移c得到n=0+c,显然Y有密 度(y-),仍为位置参数.所以(X,)与(Y,)的统计问题结构相同.因此主张它 们有相同的无信息先验是合理的.理解这一点的另一方法:X和Y的测量原点不同, 由于测量原点的选择是非常任意的,所以无信息先验应当与这种选择无关.如果无 信息先验不依赖于原点的选择,则它在等长区间内的先验概率应当一样.换言之 先验密度应当恒等于1.即取0的无信息先验密度 π(0)三1. 它是一个广义先验密度 这表明当为位置参数时,其无信息先验密度取为常数或者1
7.2. k©Ÿ(½* 7 1. ˛!©ŸÜ2¬k©Ÿ (1) eΘèkÅ8, =θêåUkÅáä, Xθ = θi , i = 1, 2 · · · n,Ã&Ek âΘ •záɱV«1/n,=P(θ = θi) = 1/n, i = 1, 2 · · · n . (2) eΘèR1˛kÅ´m[a,b], KÃ&Ekè´m[a,b]˛˛!©ŸU(a,b) (kûèPèR(a,b)). (3) ØK¥eÎÍòmΘÃ., Ã&EkX¤¿? ©ŸèN(θ, σ2 ), σ 2Æ, dûΘ = (−∞, ∞).eÃ&Ekèπ(θ) ≡ 1, Kπ(θ)ÿ¥œ~ó›, œ è R ∞ −∞ π(θ)dθ = ∞.˘“⁄—2¬k©ŸVg. ½¬ ëÅC˛X ∼ f(x|θ), θ ∈ Θ,eθk©Ÿπ(θ)˜ve^á: (i) π(θ) ≥ 0Ö R Θ π(θ)dθ = ∞, (ii)ó›π(θ|x)¥~ó›ºÍ, K°π(θ)èθ2¬kó› (improper prior density). ~7.2.4 X = X1, · · · , Xn èlN(θ, 1)oN•ƒëÅ, π(θ) ≡ 1,¶θó›. ) d˙™(7.1.1)å π(θ|x) = f(x|θ)π(θ) R ∞ −∞ f(x|θ)π(θ)dθ = exp{−1 2 Pn i=1(xi − θ) 2} R ∞ −∞ exp{−1 2 Pn i=1(xi − θ) 2} = r n 2π expn − n 2 (x − θ) 2 o . ˘¥©ŸN(x, 1/n)ó›, ©Ÿπ(θ|x)Eè~ó›ºÍ, π(θ) ≡ 1è 2¬kó›,ßè¥ò´Ã&Ek. ÈòÑ~ÑV«©Ÿ•ÎÍX¤¶ŸÃ&Ek©Ÿ? ·Çe°È†ò ÎÍ⁄è›ÎÍ©O0. 2. †òÎÍ⁄è›ÎÍÃ&Ek (1) †òÎÍÃ&Ek oN©Ÿkó›ºÍk/™f(x−θ), −∞ < θ < ∞, θèò†òÎÍ (location parameters). 4X²£c, Y = X + c,”û4θè²£cη = θ + c,w,Y kó ›p(y − η), ηEè†òÎÍ. §±(X, θ)Ü(Y, η)⁄OØK(É”. œdÃ‹ß ÇkÉ”Ã&Ek¥‹n. n)˘ò:,òê{: X⁄Y ˇ˛:ÿ”, duˇ˛:¿J¥ö~?ø, §±Ã&EkAܢ´¿JÃ'. XJà &Ekÿù6u:¿J, Kß3´mSkV«Aò. ÜÛÉ, kó›Aðu1. =θ Ã&Ekó› π(θ) ≡ 1. ߥòá2¬kó›. ˘L²θè†òÎÍû,ŸÃ&Ekó›è~ͽˆ1.
8 CHAPTER7.BAYES方法和统计决策理论* 例7.2.5(例7.2.4续).设X=(X1,·,Xn)为从~N(0,a2)中抽取的简单样 本,其中σ2已知.无任何先验信息可用,求的后验分布 解显见此时x=是∑1X:为充分统计量且元~N(6,o2/m),即 p(0)=vn en{-2a-P} V2πσ 由于无任何先验信息可用,此时可取无信息先验π()=1则由例7.2.4可知后验密度 是正态分布N(,σ/n)的密度.如取0的Bayes估计为后验均值,则Bayest估计为9B= 这个结果与经典统计中常用估计量一致. 这种现象被Bays学派解释为经典统计学中一些成功的估计量可以看作使用合 理的无信息先验的结果.无信息先验的开发和使用是Bayes?统计中最成功的结果之 (2)刻度参数的无信息先验 设总体分布有密度函数有形式olp(x/o),o>0为刻度参数(scale parame- ters)·对X作变换Y=cX,同时对也作相应的变换n=co.不难算出Y的密度仍 为m1p(y/m)可见(x,o)和(y,)统计问题的结构相同,故主张o的无信息先验与n的 无信息先验相同是合理的.理解这一点的另一方法:X和Y的度量单位不同,先验 分布应当不依赖于度量单位的选择,则对任何a,b,0<a<b,c>0,σ落在[a,内 先验概率,应当等于n落在[ca,cb内的先验概率,不难看出,这只有在先验密度为1/o (当σ>0,σ<0时为0)时才可能,即取σ的无信息先验为 π(o)=1/o,o>0. 例7.2.6设总体X为指数分布,其密度为 f()=A-lexpf-x/A},>0, 其中>0为刻度参数.令X=(X1,…,X)是从上述分布中抽取的简单样本,的 先验密度为无信息先验,求其后验密度 解由公式(7.1.1)可知的后验密度为 Π=1f(红入)() π(入x)= A-+ezp-3∑1z} =f()r(A)dXX(n+Deapf-dx Xa*en{-∑x r(n) 若取其Bayest估计为后验均值,则Bayes估计为 人-B6网=占 其方差为(=1X)/(n-1)2(n-2:
8 CHAPTER 7. BAYESê{⁄⁄O˚¸nÿ* ~7.2.5 (~7.2.4Y). X = (X1, · · · , Xn)èl∼ N(θ, σ2 ) •ƒ{¸ ,Ÿ•σ 2Æ. θÃ?¤k&Eå^, ¶θ©Ÿ. ) wÑdûX = 1 n Pn i=1 Xièø©⁄O˛Öx ∼ N(θ, σ2/n),= p(x|θ) = √ n √ 2πσ expn − n 2σ 2 (x − θ) 2 o duθÃ?¤k&Eå^, dûåÃ&Ekπ(θ) ≡ 1 Kd~7.2.4åó› ¥©ŸN(x, σ2/n)ó›. XθBayesOè˛ä,KBayesOèˆθB = X.˘á(Jܲ;⁄O•~^O˛òó. ˘´yñBayesÆ)ºè²;⁄OÆ•ò §ıO˛å±wä¶^‹ nÃ&Ek(J. Ã&Ekmu⁄¶^¥Bayes⁄O•ŧı(JÉ ò. (2) è›ÎÍÃ&Ek oN©Ÿkó›ºÍk/™σ −1ϕ(x/σ), σ > 0èè›ÎÍ (scale parameters) . ÈXäCÜY = cX,”ûÈθèäÉACÜη = cσ. ÿJé—Y ó›E èη −1ϕ(y/η)åÑ(x, σ) ⁄ (y, η)⁄OØK(É”, ËσÃ&EkÜη Ã&EkÉ”¥‹n. n)˘ò:,òê{: X⁄Y ›˛¸†ÿ”, k ©ŸAÿù6u›˛¸†¿J, KÈ?¤a, b, 0 < a < b, c > 0, σ·3[a, b]S kV«, Auη·3[ca, cb]SkV«, ÿJw—, ˘êk3kó›è1/σ (σ > 0, σ < 0ûè0)û‚åU,=σÃ&Ekè π(σ) = 1/σ, σ > 0. ~7.2.6 oNXèçÍ©Ÿ, Ÿó›è f(x|λ) = λ −1 exp{−x/λ}, x > 0, Ÿ•λ > 0èè›ÎÍ. -X = (X1, · · · , Xn) ¥l˛„©Ÿ•ƒ{¸, λ kó›èÃ&Ek, ¶Ÿó›. ) d˙™(7.1.1)åλó›è π(λ|x) = Qn i=1 f(xi |λ)π(λ) R ∞ 0 Qn i=1 f(xi |λ)π(λ)dλ = λ −(n+1)exp{− 1 λ Pn i=1 xi} R ∞ 0 λ−(n+1)exp{− 1 λ Pn i=1 xi}dλ = Pn i=1 xi n Γ(n) λ −(n+1)expn − 1 λ Xn i=1 Xi o . eŸBayesOè˛ä, KBayesOè λˆ B = E(λ|x) = 1 n − 1 Xn i=1 xi . Ÿêè Pn i=1 Xi 2 [(n − 1)2 (n − 2)]
72.先验分布的确定* 9 3.一般情形下的无信息先验 对非位置参数族和刻度参数族的无信息先验如何求,被广发采用的是Jeffreys (1961)的方法,由于推导涉及到变换群和Har测度,这里只给出结果,不推导结果 是如何得来的, 设X=(X1,·,Xn)是来自总体f(x9)的简单样本,这里0=(01,·,9p)为p维 参数向量.在对0无先验信息可用时,Jef伍reys用Fisher信息阵的平方根作为0的无信 息先验,这样的无信息先验称为.Jeffreys无信息先验.其求解步骤是: (1)写出样本的对数似然函数 (2)求样本的信息阵 I(0)=(Iij(0))pxp' 1(0)=Ex1e- 0211 00:08,J ,j=1,…,p 特别对p=1,即9为单参数的情形 10=Ex{- 821 (3)9的无信息先验的密度为π(0)=[detI(0)]1/2,其中detI(0)表示p阶方阵I(0)的 行列式.特别p=1,即单参数场合π(8)=[I(8)/2 例7.2.7设X=(X1,·,X)是从总体N(4,σ2)中抽取的简单样本,记0= (μ,σ),求(4,σ)的联合无信息先验 解给定X时,的对数似然函数是 1(0)--7 lg2r-nlgo- a-r 记I()=(I(0)pxp,则有 m0=5x{-g型}-A 2 122(0)=Ex1e- a21(0x) 12()=121(0)=ExIe{ }=层x,-}-0 0μ00 故有 I(0= 0 [detI(0)]2=v2n/a2 0
7.2. k©Ÿ(½* 9 3. òÑú/eÃ&Ek∗ Èö†òÎÍx⁄è›ÎÍxÃ&EkX¤¶, 2uÊ^¥Jeffreys (1961)ê{, duÌ9CÜ+⁄Harr ˇ›, ˘pêâ—(J, ÿÌ(J ¥X¤5. X = (X1, · · · , Xn)¥5goNf(x|θ){¸, ˘pθ = (θ1, · · · , θp) èpë ÎÍï˛. 3ÈθÃk&Eå^û, Jeffreys^Fisher&E ²êääèθÃ& Ek, ˘Ã&Ek°èJeffreysÃ&Ek. Ÿ¶)⁄½¥: (1) —ÈÍq,ºÍ l(θ|x) = ln hYn i=1 f(xi |θ) i = Xn i=1 ln f(xi |θ) (2) ¶&E I(θ) = Iij (θ) p×p , Iij (θ) = EX|θ n − ∂ 2 l ∂θi∂θj o i, j = 1, · · · , p AOÈp = 1,=θè¸ÎÍú/ I(θ) = EX|θ n − ∂ 2 l ∂θ2 o (3) θÃ&Ekó›èπ(θ) = [det I(θ)]1/2 ,Ÿ•det I(θ)L´pê I(θ) 1™. AOp = 1,=¸ÎÍ|‹π(θ) = [I(θ)]1/2 . ~7.2.7 X = (X1, · · · , Xn)¥loNN(µ, σ2 )•ƒ{¸, Pθ = (µ, σ),¶(µ, σ)È‹Ã&Ek. ) â½Xû, θÈÍq,ºÍ¥ l(θ|x) = − n 2 lg 2π − n lg σ − 1 2σ 2 Xn i=1 (xi − µ) 2 }. PI(θ) = (Iij (θ))p×p ,Kk I11(θ) = EX|θ n − ∂ 2 l(θ|x e ) ∂µ2 o = n σ 2 I22(θ) = EX|θ n − ∂ 2 l(θ|x) ∂σ2 o = − n σ 2 + 3 σ 4 E Xn i=1 (Xi − µ) 2 = 2n σ 2 I12(θ) = I21(θ) = EX|θ n − ∂ 2 l(θ|x) ∂µ∂θ o = E n 2 σ 3 Xn i=1 (Xi − µ) o = 0 k I(θ) = n σ2 0 0 2n σ2 ! , [detI(θ)]1/2 = √ 2 n/σ2
10 CHAPTER7.BAYES方法和统计决策理论* 所以,(4,σ)的Jeffreys先验(由于它是非正常先验,可以丢弃常数因子)为 π(4,o)=1/o2 即(4,σ)的联合无信息先验为1/σ2.它的几个特例为 ()当a已知时,I=E{-}=n/a2,故取x(=1. 2当u已知时,I0o)=E{-8}=2na2,故取xo)=1/o,∈(0,o) (3)当4和σ独立时,π(4,o)=(m)π(o)=1/o,o∈(0,∞) 由此可见,当μ和σ的无信息先验不独立时,它们的联合无信息先验为1/σ2: 而当μ和o的无信息先验独立时,它们的联合无信息先验为1/a.Jeffreys最终推荐 用π(4,o)=1/a为μ和σ的联合无信息先验 例7.2.8设为Benoulli试验中成功概率,则在n次独立的Benoulli试验中,记成 功次数为随机变量X,则X~b(n,).即 PX==(回)pr1-0n-3,=01,n 其对数似然函数为(x)=ln()+xl血0+(n-x)n(1-),故有 0=Bw{-g}=Bw倍+二}=日+2。= 故取π()xI()2=0-(1-)一,0∈(0,1),添加正则化因子得到先验密度π(),它 是一个Beta密度Be(1/2,1/2): 注7.2.1一般说来无信息先验不唯一,它们对Bay©s推断影响都很小,很少对 结果产生较大的影响,所以任何无信息先验都可以接受.当今无论在统计理论和应 用研究中无信息先验采用越来越多,就连经典统计学者也认为无信息先验是客观 的,可以接受的.这是近几十年中Bayes学派研究中最成功的部分. 四、共轭先验分布 1.共轭先验分布的概念 另外一种选择先验的方法是从理论的角度出发的,在已知样本分布的情形下, 为了理论上的需要常常选参数的先验为共轭先验分布,其定义如下: 定义7.2.2设F为9的先验分布族,样本X的分布为f(x9),如果对任取的π(0)∈ F及样本x,后验分布π(0z)仍属于F,则称F是一个共轭先验分布族(conjugate prior distribution family). 下面给出计算共轭先验分布的一个例子: 例7.2.9设X~b(n,0).(1)设0~U(0,1),即(0,1)上的均匀分布,证明9的后 验分布为Beta分布;(2)若取的先验分布为Beta分布Be(a,b),证明e的后验分布仍 为Beta分布.即样本分布如果为二项分布,则共轭先验分布为Beta分布
10 CHAPTER 7. BAYESê{⁄⁄O˚¸nÿ* §±, (µ, σ)Jeffreysk(duߥö~k, å±øÔ~Íœf)è π(µ, σ) = 1/σ2 . =(µ, σ)È‹Ã&Ekè1/σ2 . ßAáA~è (1) σÆû, I(µ) = E − ∂ 2 l(θ|x) ∂µ2 = n/σ2 , π(µ) ≡ 1. (2) µÆû, I(σ) = E − ∂ 2 l(θ|x) ∂σ2 = 2n/σ2 ,π(σ) = 1/σ, σ ∈ (0, ∞). (3) µ ⁄ σ’·û,π(µ, σ) = π(µ)π(σ) = 1/σ, σ ∈ (0, ∞). ddåÑ, µ ⁄ σÃ&Ekÿ’·û, ßÇÈ‹Ã&Ekè1/σ2 ; µ ⁄ σÃ&Ek’·û, ßÇÈ‹Ã&Ekè1/σ. JeffreysÅ™Ì ^π(µ, σ) = 1/σèµ ⁄ σÈ‹Ã&Ek. ~7.2.8 θèBenoulli£•§ıV«, K3ng’·Benoulli£•, P§ ıgÍèëÅC˛X,KX ∼ b(n, θ).= P(X = x) = n x θ x (1 − θ) n−x , x = 0, 1, · · · , n. ŸÈÍq,ºÍèl(θ|x) = ln n x + x ln θ + (n − x) ln(1 − θ),k I(θ) = EX|θ n − ∂ 2 l(θ|x) ∂θ2 o = EX|θ n X θ 2 + n − X (1 − θ) 2 o = n θ + n 1 − θ = n θ(1 − θ) π(θ) ∝ I(θ) 1/2 = θ − 1 2 (1−θ) − 1 2 , θ ∈ (0, 1), V\Kzœfkó›π(θ),ß ¥òáBetaó›Be(1/2, 1/2). 57.2.1 òÑ`5Ã&Ekÿçò, ßÇÈBayes̉Kè—È, ÈÈ (J)åKè, §±?¤Ã&Ek—å±…. 8Ãÿ3⁄Onÿ⁄A ^Ôƒ•Ã&EkÊ^5ı, “β;⁄Oƈè@èÃ&Ek¥ê* , å±…. ˘¥CAõc•BayesÆÔƒ•ŧı‹©. o!›k©Ÿ 1. ›k©ŸVg , ò´¿Jkê{¥lnÿ›—u, 3Æ©Ÿú/e, è nÿ˛Iá~~¿ÎÍkè›k©Ÿ,Ÿ½¬Xe: ½¬7.2.2 Fèθk©Ÿx, X©Ÿèf(x|θ), XJÈ?π(θ) ∈ F9x,©Ÿπ(θ|x)E·uF, K°F¥òá›k©Ÿx (conjugate prior distribution family). e°â—Oé›k©Ÿòá~f: ~7.2.9 X ∼ b(n, θ). (1) θ ∼ U(0, 1),=(0, 1)˛˛!©Ÿ, y²θ ©ŸèBeta©Ÿ; (2) eθk©ŸèBeta©ŸBe(a, b),y²θ©ŸE èBeta©Ÿ. =©ŸXJè멟, K›k©ŸèBeta©Ÿ.