据此我们可以作出β的区间估计与假设检验。 本段所使用的二步估计法:先估计方差,再估计回归系数,在处理这一类问题中经常用到。 三、乘子异方差模型 本段继续推广异方差模型,考虑未知的方差可能有多个,不过它们被写成一个特殊的函数 Y=X B+8 (3.2.17) E(E=o, ar(e)=of =exp(Z;a), i=1,.,n 这里Z1=(Zn1,Z2…,z)是一个(1×k的已知向量,通常Z1=1,而其余的Z也是X的函 a=(Zn,Z12,…,z1)是一个(×1)的未知向量。模型的任务是估计a与B。因为这里 方差可被写为 o:=exp(a).exp(a2Zi2)-exp(a Zik) (3.2.18) 故称为乘子异方差模型 当k=2时,取lnx=Zn,lno2=a1,p=a2,则 of =exp(za)=exp(a, +a2Z2)=ox (3.2.19) 在一般情况下 of=exp(Z a)=exp(a+a2Z+.+a, Zk (3.2.20) p(azI z)=a2ex(za’) 这里Z"=(Z12…,z1)a'=(a2…,a4)。如果采用矩阵记号,在模型(32.1)中 p(Z a) p(z a) exp(za) (3.2.21) p(Zia) p(22a) 如果我们能得到估计a,那么就能得到估计G2,也就能得到估计。我们就沿着这条思路
11 据此我们可以作出β的区间估计与假设检验。 本段所使用的二步估计法:先估计方差,再估计回归系数,在处理这一类问题中经常用到。 三、乘子异方差模型 本段继续推广异方差模型,考虑未知的方差可能有多个,不过它们被写成一个特殊的函数 式: = = = = = + E Var Z i n Y X i i i i i i i ( ) 0, ( ) exp( ), 1, , 2 (3.2.17) 这里 ( , , , ) Zi = Zi1 Zi2 Zik 是一个(1×k)的已知向量,通常 Zi1=1,而其余的 Zi 也是 Xi 的函 数。 ( , , , ) = Zi1 Zi2 Zik 是一个(k×1)的未知向量。模型的任务是估计α与β。因为这里 方差可被写为 exp( ) exp( ) exp( ) 1 2 2 2 i Zi kZik = (3.2.18) 故称为乘子异方差模型。 当 k=2 时,取 lnxi = Zi2, lnσ2=α1, p=α2 ,则 p i i i i Z Z x 2 1 2 2 2 = exp( ) = exp( + ) = (3.2.19) 在一般情况下, exp( ) exp( ) exp( ) exp( ) 2 * * 2 2 2 1 2 2 2 i k ik i i i i k ik Z Z Z Z Z Z = + + = = = + + + (3.2.20) 这里 ( , , ), ( , , ) 2 * 2 */ = = Zi Zi Zik k 。如果采用矩阵记号,在模型 (3.2.1)中, = = exp( ) exp( ) exp( ) exp( ) exp( ) exp( ) *' * 1 *' * 2 *' * 1 2 2 2 n n Z Z Z Z Z Z (3.2.21) 如果我们能得到估计 ˆ ,那么就能得到估计 2 ˆ i ,也就能得到估计 ˆ 。我们就沿着这条思路
作下去。首先对a2取对数得 In Za (3.2.22) 模型的残差向量为 E1=y1-XB,i=1…n 3.2.23) 这里 B=(XX)Xr (3.2.24) 这样hna2,i=1…,n就计算出来了,结合(3223)得 In a=z'a-hng+In a=za+ui=l.n (3.2.25) 这里=h82-ha2=h(82102) 方程组(3225可以看作回归模型,hB2是通常的观测值,z是设计矩阵里的向量,a是 k×1的未知向量,随机误差项里也含有待估参数,暂不作考虑,一起记作 g=Za+D 这里q=(he2…,ha2),Z=(Z1…,Z4),U=(U,…Un),使用最小二乘,就得到a的估计 a=(zz)"z' q (3.2.27) 这个估计的性质真是说不清楚,因为a=a+(zzZ)z,而这里的v期望不一定为0, 并且v里包含有a。我们可以求助于渐近性质。记 O, -XX=L (3.2.28) 假定Q、V都非奇,考虑E-E1的均值与方差,我们有 Ea -E]=-X(XX)XE(Y)=0 E[2-)]=x:(x)-xEa]x(x)2x 02X (YY)-YDX(YY)-X (3.2.29) YX XX(X'X
12 作下去。首先对 2 i 取对数得 i = Zi 2 ln (3.2.22) 模型的残差向量为 i Yi Xi ,i 1, ,n ˆ ˆ = − = (3.2.23) 这里 i = XX XY −1 ( ) ˆ (3.2.24) 这样 ln ˆ i ,i 1, ,n 2 = 就计算出来了,结合(3.2.23)得 ln ˆ i Zi ln i ln ˆ i Zi i ,i 1, ,n 2 = − 2 + 2 = + = (3.2.25) 这里 ln ˆ ln ln( ˆ / ) 2 2 2 2 i i j i i = − = 。 方程组(3.2.25)可以看作回归模型, 2 ln ˆ i 是通常的观测值, Zi 是设计矩阵里的向量,α是 k×1 的未知向量,随机误差项里也含有待估参数,暂不作考虑,一起记作 q = Z + (3.2.26) 这里 (ln ˆ , ,ln ˆ ), ( , , ) , ( , ) 1 1 2 2 = = = q i n Z Z Zk n ,使用最小二乘,就得到α的估计 = ZZ Z q −1 ˆ ( ) (3.2.27) 这个估计的性质真是说不清楚,因为 = + ZZ Z −1 ˆ ( ) ,而这里的 v 期望不一定为 0, 并且 v 里包含有α。我们可以求助于渐近性质。记 X X V n X X Q n = = 1 , 1 (3.2.28) 假定 Q、V 都非奇,考虑 i i ˆ − 的均值与方差,我们有 [ ˆ ] ( ) ( ) 0 1 − = − = − E i i Xi X X X E Y i i i i i i i i X n X X n X X n X X X n X X X X X X X X E X X X X E X X X X = = − = − − − − − − 1 1 2 2 1 1 2 1 1 ( ) ( ) ( ˆ ) ( ) [ ] ( ) (3.2.29)
E(G-E1)2]→>0,于是(G1-E1)→0,即 E1(n→>∞) 因此 hE2/a2)→l(E2la2)=U,(n→>∞) 如果假定E1~N(O,o2),则e21o2~z2(1),而(E2/2)≈hx2(1,它的期望值可以算 E(U2)=-1.2704 (3.2.32) ar(U)=E[(u-E(u2)2]=49348 CovE, D=0, i 现在我们终于松了一口气。从渐近分布来看,模型(3.2.26)里的随机项v是无关的,方差 是常数,这完全满足普通最小二乘模型的假设。只是U的期望不为0,不过这不要紧,将期 望值拨到模型的常数项,也就是α1里去就可以了。对于新的 a=(a1-1.2704a2,…,ak) (3.2.35) 它已是一个很好的LSE。同时我们还知道, n(a -a) (0.49348∑) Iim -ZZ (3.2.37) 现在该倒过来总结一下模型的算法。从资料阵(F:X)={,X1…,Xm},以及{21,…,z 我们建立了模型(3217)。算出B=(XX)xY,E=Y-XB,h2=q后我们得到模型 (3226,从它又算出a=(zz)zq,于是估计出G2=exp(za),中,最后得到B及 B=(X-X"xp-Y (3.2.38) (Y-B)Φ(Y-B)/n-m) (3.2.39) 由于存在渐近分布
13 当 n→∞时, [( ˆ ) ] 0 E i − i 2 → ,于是 ( ˆ i − i ) → 0 ,即 ˆ → ,(n → ) i i (3.2.30) 因此 ln( ˆ / ) ln( / ) ,( ) 2 2 2 2 * i = i i → i i =i n → (3.2.31) 如果假定 ~ (0, ) 2 i N i ,则 / ~ (1) 2 2 2 i i ,而 ln( / ) ln[ (1)] 2 2 2 i i ,它的期望值可以算 出: ( ) 1.2704 * E i = − (3.2.32) ( ) [( ( )) ] 4.9348 * * * 2 Var i = E i − E i = (3.2.33) Cov i j ( i , j ) = 0, * * (3.2.34) 现在我们终于松了一口气。从渐近分布来看,模型(3.2.26)里的随机项 vi 是无关的,方差 是常数,这完全满足普通最小二乘模型的假设。只是 * i 的期望不为 0,不过这不要紧,将期 望值拨到模型的常数项,也就是α1 里去就可以了。对于新的 ˆ ( 1.2704, , , ) 1 2 * = − k (3.2.35) 它已是一个很好的 LSE。同时我们还知道, ( ˆ ) (0,4.9348 ) * 1 ⎯→ − n − N d (3.2.36) 这里 Z Z n n = → 1 lim (3.2.37) 现在该倒过来总结一下模型的算法。从资料阵 n Y X Yi X1i X mi 1 ( ) = { , , } ,以及 n Z1i Zki 1 , , 我们建立了模型(3.2.17)。算出 = X X X Y −1 ( ) ˆ , ˆ ˆ = Y − X , = q 2 ln ˆ 后我们得到模型 (3.2.26),从它又算出 = ZZ Z q −1 ˆ ( ) ,于是估计出 ˆ exp( ˆ) 2 i = Zi , ˆ ,最后得到 ˆ ˆ 及 ˆ ˆ 。 X X X Y 1 1 1 ˆ ) ˆ ( ˆ ˆ − − − = (3.2.38) )/( ) ˆ ˆ ( ˆ ) ˆ ˆ ( ˆ ˆ 1 = Y − X Y − X n − m − (3.2.39) 由于存在渐近分布
(B-B)-M(0a2(X6-x)-) (3.2.40) 我们可以据此作出关于B的假设检验。 第三节自相关线性模型 前面介绍的线性模型 Y=XB+8 E(E)=0,ar(E)=Φ=dlag(a2,…o2) Φ只是对角阵,表示随机观测项Y,P=1,…;n是彼此不相关的。在经济分析中,经常遇到的问 题是这种不相关假设难以满足。这通常有三种可能:(1)Y依赖于自身过去的数值,比如是 年度的经济指针,就与过去的基础有关;(2)X包含解释变量的当前或滞后的数值,即由于X 的相关性也造成Y的相关性:(3)随机误差项ε本身相关,它依赖于先前的随机误差值。前面 两种情况意味着ⅹ也是随机的,我们放到以后的章节研究。这一节重点研究由于随机误差项 E自身相关形成的自相关模型 、残差一阶自回归线性模型 随机误差项的结构不同可能形成许多不同的线性模型。最普遍实用的是残差一阶自回归过 程的线性模型: =XB+E1,i=1,…,n E1=pE1+U1,i=2 E(U=0, E(UX=ob, EU,U,=0, i*j 我们可以看出,对于原始资料YX它的随机误差项ε;不满足普通最小二乘方法要求的不相关 性。但是退而问其次,关于E;我们可以建立起一个真正的普通最小二乘模型。 当p<1时,一阶自回归过程是平稳的 E=U+pE1=U1+P(U1+pE-2)=b1+pU1-1+p2E12 =U1+PU-+pU-2+PU-3+…=∑pU 于是 E()=∑E(U)=0 (3.34) I-A)S ∑ B△o (3.3.5)
14 ) ) ˆ ( ˆ ) (0, ˆ ˆ ˆ ( 2 −1 −1 n − ⎯→N X X d (3.2.40) 我们可以据此作出关于 ˆ ˆ 的假设检验。 第三节 自相关线性模型 前面介绍的线性模型 = = = = + ( ) 0, ( ) ( , , ) 2 2 E Var diag 1 n Y X (3.3.1) Φ只是对角阵,表示随机观测项 Yi, i=1,…,n 是彼此不相关的。在经济分析中,经常遇到的问 题是这种不相关假设难以满足。这通常有三种可能:(1)Yi 依赖于自身过去的数值,比如 Yi 是 年度的经济指针,就与过去的基础有关;(2)X 包含解释变量的当前或滞后的数值,即由于 X 的相关性也造成 Y 的相关性;(3)随机误差项ε本身相关,它依赖于先前的随机误差值。前面 两种情况意味着 X 也是随机的,我们放到以后的章节研究。这一节重点研究由于随机误差项 ε自身相关形成的自相关模型 一、残差一阶自回归线性模型 随机误差项的结构不同可能形成许多不同的线性模型。最普遍实用的是残差一阶自回归过 程的线性模型: = = = = + = = + = − E E E i j i n Y X i n i i i j i i i i i i ( ) 0, ( ) , 0, , 2, , , 1, , 2 2 1 (3.3.2) 我们可以看出,对于原始资料 Yi, Xi,它的随机误差项εi 不满足普通最小二乘方法要求的不相关 性。但是退而问其次,关于εi 我们可以建立起一个真正的普通最小二乘模型。 当|ρ|<1 时,一阶自回归过程是平稳的, = − − − − − − − − − = + + + + = = + = + + = + + 0 3 3 2 2 1 2 2 1 1 2 1 ( ) k i k k i i i i i i i i i i i i i (3.3.3) 于是 ( ) ( ) 0 0 = = = − k i k k E i E (3.3.4) = = − − = = = 0 2 2 2 2 2 0 2 1 ( ) ( ) k k k i k k Var i Var (3.3.5)
EO DE(EL+E(ED=p (3.3.6) E(E,E1-2)=pE(E1E12)+E(E-2U1)=pE(pE-2+U1-1)E-2)+E(E1-2U) (3.3.7) 类似地 E(615-)-1-p ,S=1,2,3 (3.3.8) 注意它们都有公共因子σ2,于是我们获得误差协方差阵 882 88 d=E(EE=E EvEn Ena En8 88 (3.3.9) 如果记矩阵 则Φ=σ2屮。于是残差一阶自回归的线性模型也可以写为 Y=XB+a E(a)=0,rar()=a甲 (3.3.11) 对于普通最小二乘回归模型,这里就用ψ取代了Ln,对比上一节的异方差线性回归模型,这里 就是用ψ取得了diag(σ1,…σn)。对比下面要讲的一般协方差正定的广义线性模型,这里的 协方差阵就是属于那里的一个特殊情况,不过这里整个ψ只与一个参数p有关,因而是可以估 计出来的
15 2 2 1 2 2 1 1 ( ) ( ) ( ) − = + = E i i− E i− E i− i (3.3.6) 2 2 2 2 2 2 2 1 2 2 2 1 2 2 1 ( ) ( ) ( ) (( ) ) ( ) − = = = + = + + − − − − − − − − − i i i i i i i i i i i i E E E E E E (3.3.7) 类似地 , 1,2,3, 1 ( ) 2 2 2 = − E − = s v i i s (3.3.8) 注意它们都有公共因子 2 ,于是我们获得误差协方差阵: − = = = − − − − − − 1 1 1 1 1 ( ) 1 2 3 2 3 2 2 1 2 2 1 2 2 1 2 2 1 2 1 2 1 2 1 n n n n n n n n n n n n E E (3.3.9) 如果记矩阵 − = − − − − − 1 1 1 1 1 1 2 3 2 2 1 n n n n n (3.3.10) 则 = 2 。于是残差一阶自回归的线性模型也可以写为 = = = + 2 ( ) 0, ( ) E Var Y X (3.3.11) 对于普通最小二乘回归模型,这里就用Ψ取代了 In,对比上一节的异方差线性回归模型,这里 就是用Ψ取得了 diag( 2 2 1 , , n )。对比下面要讲的一般协方差正定的广义线性模型,这里的 协方差阵就是属于那里的一个特殊情况,不过这里整个Ψ只与一个参数ρ有关,因而是可以估 计出来的