Hausman检验
时间:2021.03.07 创作:欧阳德 Hausman检验的基本思想是:由于在遗漏相关变量的情况下,往往导致解释变量与随机扰动项出现同期相关性,即CovXt,ut0,外生性条件不满足,从而使得OLS估计量有偏且非一致。因此,对模型遗漏相关变量的检验可以用模型是否出现解释变量与随机扰动项同期相关性的检验来替代。
我们知道,当CovXt,ut0,或者解释变量与随机扰动项同期相关时,采用工具变量法(IV)可得到参数的一致估计量;当解释变量与随机扰动项同期无关时,OLS估计量为参数的一致估计量。因此,只须检验IV估计量与OLS估计量是否存在显著的差异性,以检验解释变量与随机扰动项是否同期无关,进而判别模型是否存在着遗漏相关变量的情况。
Hausman检验在原假设条件下,IV估计量与LS估计量都是一致的,而在备择假设中,只有IV估计量是一致的。若外生性条件确定满足时,我们更倾向于使用LS估计量;而当外生性条件不确定满足时,就需要使用IV估计量。
欧阳德创编 2021.03.07
欧阳德创编 2021.03.07
令dbIVbLS,则H检验统计量为一个Wald统计量:
.(d)AsyVar.(bIV)AsyVar.(bLS)。则 可以证明得到AsyVar若拒绝原假设则需要选用IV估计量。 模型选择统计量
我们知道,随着模型中变量个数的增加,残差平方和RSSei2将减小,拟合优度R2增加,但自由度减少。R2和指标
12eink12的提出都是为了权衡
RSSei2减小和自由度丢失两个方面,是模型选择中
最常用的标准。
近年来,若干模型选择的标准相继面世。这些标准所采用的的形式均为残差平方和与具有惩罚意义的自由度因子(表征模型设定复杂度)的乘积。其中,赤池(1970,1974)提出了有限预测误差(FPE)和赤池信息准则(AIC);汉南(Hannan)和奎因(Quinn)的HQ准则;许瓦兹准则(SCHWARZ);施巴塔准则(Shibata);赖斯准则(RICE);广义交叉确认准则(GCV)等。下表是关于各类不同标准的总结。这些统计量也被称为模型选择统计量。
SGMASQ k121ei nn1HQ lnn2kn12ei n欧阳德创编 2021.03.07
欧阳德创编 2021.03.07
AIC e2kn12ei nRICE 2k121ei nn1nnei2 nk1FPE nk12ei nknSCHWARZ GCV k121ei nn2SHIBATA n2k12ei nn理想情况是,我们所设定的模型,在上述各科统计量中,与其他模型相比较,有着较小的检验统计值。换言之,模型选择的标准为,上述各个模型选择统计量具有较小的统计值。各个统计量的推导不作要求。
思考题
1、假设真实的模型为:yX11X22,若遗漏变量X2,讨论1估计量的无偏性。若我们关心的不是回归参数,而是y的预测值,遗漏变量X2是否带来偏误?若E[X2|X1]是X1的线性函数,结论是怎样的?
2、证明:有约束的R2统计量绝不会比无约束的
R2统计量大,加入约束条件不能提高模型的拟合优
度。(提示:从RSS入手。)
3、y对一个常数、x1和x2的多元回归结果如下:
y40.4x10.9x2,R2=8/60,e'e520,n29
模型满足古典的假设条件,根据这些结果,检验两个斜率之和为1的假设。
欧阳德创编 2021.03.07
欧阳德创编 2021.03.07
Wald检验、拉格朗日乘数检验和似然比检验基本思路:
(1)沃尔德检验
对于回归模型的参数约束而言,可以是线性约束也可以是非线性约束。
设H0:cβ0,H1:cβ0 采用ML则
1a2TˆN0,XX估计,有:βMLβ :
ˆˆcβ1cβaN0,MLXTXˆML cβcβˆTMLˆββMLML故当H0:cβ0成立时,有:
ˆˆcβ1βMLTcXTXa2rˆˆMLcβ00cβˆTMLMLˆβMLβML Wald检验统计量为:W(c[]q)T(Var(c[]q))(c[]q)
ˆ是无约束条件下的参数估计向量。 其中,θˆ在H0:cθ q和大样本条件下,W遵从自由度等
于约束个数的卡方分布。其中,约束个数是指约束方
ˆ -q0θ程c的个数。 设总体Xf(x;θ),θ为未知参数,θΘ,现考虑如
下的检验问题: H0:θΘ0,H1:θΘ1 (1)
欧阳德创编 2021.03.07
欧阳德创编 2021.03.07
其中Θ0与Θ1是非空子集,且Θ0与Θ1不相交,下面为方便起见,讨论Θ0与Θ1之并为Θ的情况。
设X1,X2,,Xn是来自X的样本,记其似然函数为
ˆL(θ),θˆ分别是θ的参数空间Θ与Θ上的极大似然θ与00ˆ)与估计,似然函数在Θ0与Θ上的极大值分别记为L(θ0ˆ),即L(θˆ)maxL(θ),记其比值为: ˆ)maxL(θ)和L(θL(θ0θΘθΘ0λ(X,X,12ˆ)L(θ0 (2) ,Xn)ˆ)L(θ其中,λ是一个统计量,由于范围越大L的最大值不
ˆ)L(θˆ),这意味着01。由于会减少,故总有L(θ0似然函数可以看成是给定样本后,θ出现可能性的一种度量。
设Yt的密度函数为
YtXtf(x;β),β为k1阶的未知参数向量,T,εt~iidβεt,t1,2,。
分三种情形讨论 1.H0:0,H1:0;
2.H0:cβcβ0,H1:cβcβ0; 3.H0:cβ0,H1:cβ0;
①简单假设情形:H0:0,H1:0 则
有
:
当
H0成立时,有:
ˆ)lnL()2(k), 2lnL(0欧阳德创编 2021.03.07
欧阳德创编 2021.03.07
ˆ)lnL()2(k)。 且H0的拒绝域为:2lnL(0②复合假设情形:H0:cβcβ0,H1:cβcβ0 其中:cβ是r1的向量,cβ与β是一一对应,
dc(β)连续。 dβˆ为β的极大似然估计, 由于βdN0,I1β,可得: ˆβ)则:T(βa2(kr)。 ˆ)lnL(β)lnL(β因此,20③一般情形:H0:cβ0,H1:cβ0
a2(r) ˆ)lnL(β)lnL(β则有检验统计量 2R(3)拉格朗日乘数检验基本思想
ˆ满足由于在非限制条件下,βˆlnLβˆβ0,即
ˆlnLβˆβ在βˆ处为0。若HˆlnLβR:cβ0成立,则0ˆβR也
ˆ和βˆ均为β的一致性估计,有约应在0附近。考虑到βRˆlnLβˆcβ 束条件下的对数似然函数为lnLβR因而,有H0:cβ0H0:0。此乃拉格朗日乘数检验:
若H0:cβ0成立,则
ˆlnLβRˆβˆlnLβR0ˆβ;则可依据
构造检验统计量,得到给定显著水平条件下
欧阳德创编 2021.03.07
欧阳德创编 2021.03.07
H0的拒绝域。因此:
三个非线性约束检验的等价关系
三个非线性约束检验之间的关系(等价性)可由如下图形解释:
一般地有: LMLRWald。 习题
1、简要阐述三个检验的基本思路。 2、简要阐述三个检验之间的关系。
时间:2021.03.07 创作:欧阳德 欧阳德创编 2021.03.07
因篇幅问题不能全部显示,请点此查看更多更全内容