计量经济非参数函数估计的最优收敛速度研究

摘要:在随机设计(模型中所有变量为随机变量)下,提出了非参数计量经济模型的变窗宽核估计,并利用概率论中大数定理和中心极限定理,在内点处证明了它的一致性和渐近正态性.它在内点处的收敛速度达到了非参数函数估计的最优收敛速度.

关键词:非参数计量经济模型 变窗宽 核估计

Abstract:This paper presents kernel estimators with variable bandwidth for nonparametric regression e-conometric models in the random design case that all variables in models are stochastic. We prove itsconsistency and asymptotic normality in interior by using laws of large numbers and central limittheoremsin probability. Its rates of convergence in interior points equal the optimal rate convergence for estimatingnonparametric function.

Keywords:nonparametric regression econometric model; variable bandwidth; kernel estimation

当多元非参数计量经济模型解释变量的分布不是均匀分布时,若采用不变窗宽核估计,则在密度大的点处由于窗宽相对较大,过多的观察点进行局部回归将导致估计的精度下降,在密度小的点处由于窗宽相对较小,过少的观察点进行局部回归也将导致估计的精度下降.若掌握解释变量分布的一些信息,对密度大的点取较小的窗宽,对密度小的点取较大的窗宽,这样采用与掌握的信息有关的变窗宽核估计将会提高估计的效率[1-3].非参数计量经济模型核估计是一个深受欢迎的估计方法[4].研究多元非参数回归模型变窗宽核估计的性质,得到了变窗宽核估计的条件渐近偏和方差.在内点处证明了它的一致性和渐近正态性,它在内点处的收敛速度达到了非参数函数估计的最优收敛速度.变窗宽核估计在边界点处的性质将另文讨论.

1　非参数计量经济模型的变窗宽核估计

设(X1, Y1),…, (Xn, Yn)是Rd+1维独立同分布的随机变量向量序列,考虑非参数计量经济模型:Yi= m(Xi)+ ui(1)其中:随机误差项序列{ui}是条件均值E(uiXi) =0,条件方差为σ2(x) =Var(uiXi=x)的相互独立随机变量序列,于是m(Xi) = E(YiXi). 设f(x)是X1的密度函数,假定inff(x)>0, m(x)的二阶偏导数连续,σ2(x)连续有界.设K(·)是d维对称密度函数, K(u)≥0,∫K(u)du=1;令Kh(u) = h-dK(h-1u).假设∫uuTK(u)du=μ2(K)I,其中μ2(K)≠0,I为d×d单位阵;假设当l1+…+ld为奇数时,∫ul11…ulddK(u)du=0,其中li为非负整数;假定K(·)的支撑是有界闭集,假设hn= cn-1/(d+4).m(x)的变窗宽核估计为:m^n(x, hn,α) =∑ni=1Khn/α(Xi)(Xi-x)Yi∑ni=1Khn/α(Xi)(Xi-x) (2)其中:hn为不变窗宽;α(·)为变窗宽函数.假设α(·)连续可微.

2　主要结论

首先给出了非参数计量经济模型变窗宽核估计的逐点条件渐近偏和渐近方差.其次,给出了变窗宽核估计的渐近正态性的结论.

定理1　设x为supp(f) = {xf(x)≠0}的内点,则1) E{m^n(x,α)X1,…,Xn}-m(x) = h2na(x,α,K)+ op(h2n)其中: a(x,α, K) =α(x)-3∫supp(K)uTDm(x)DTα(x)uuTDK(u)du+μ2(K)[dDTα(x) +α(x)f(x)-1DTf(x)]Dm(x)+12μ2(K)(α(x))-2s(Hm(x))　　; Hm(x) = 2m(x) xi xj d×d, s(·)为矩阵的所有元素之和.2)Var[m^n(x, hn,α)X1,…,Xn] = n-1h-dnR(K)(α(x))dσ2(x)f(x)-1+ op(n-1h-dn)其中R(K) =∫(K(u))2du.由定理1知,变窗宽核估计的渐近偏和渐近方差将趋于零.

定理2　设x为supp(f) = {xf(x)≠0}的内点,则n2/(d+4)[m^n(x,α)-m(x)]dN(c2a(x,α, K), c-dR(K)(α(x))dσ2(x)f(x)-1)　　

由定理2知,变窗宽核估计具有渐近正态性.由于渐近方差趋于零,利用大数定律可知,变窗宽局部线性估计是一致估计.易见,其收敛速度为O(n-2/(d+4)),该收敛速度达到了Stone[5]的非参数函数估计的最优收敛速度.

3　主要结论的证明

因为Yi= m(x)+(Xi-x)TDm(x)+1/2Qmi(x)+ ui(3)其中:Dm(x) = m(x)/ x1　…　 m(x)/ xdT,Qmi(x) = (Xi-x)THm(zi(x,Xi))(Xi-x),zi(x,Xi)-x≤Xi-x,所以,m^n(x, hn,α)-m(x) =∑ni=1Khn/α(Xi)(Xi-x)[(Xi-x)TDm(x)+12Qmi(x)+ ui]∑ni=1Khn/α(Xi)(Xi-x)(4)由Xi相互独立,可知zi(x,Xi)相互独立.

引理1　①n-1∑ni=1Khn/α(Xi)(Xi-x) =f(x)+ op(1)②　n-1∑ni=1Khn/α(Xi)(Xi-x)(Xi-x)　= h2nα(x)-3f(x)∫supp(K)uDTα(x)uuTDK(u)du+μ2(K)[df(x)Dα(x)+α(x)Df(x)] +op(h2ni) 其中i为元素全为1的列向量、行向量或矩阵(下同).③n-1∑ni=1Khn/α(Xi)(Xi-x)Qmi(x) = h2nf(x)μ2(K)(α(x))-2s(Hm(x))+ op(h2n)④[n-1∑ni=1Khn/α(Xi)(Xi-x)]-1=f(x)-1+ op(1)⑤E[n-1∑ni=1Khn/α(Xi)(Xi-x)ui] =0(nhdn)1/2n-1∑ni=1Khn/α(Xi)(Xi-x)uidN(0, R(K))(α(x))dσ2(x)f(x))只证明引理1②和⑤,其它类似可证.

3.1

引理1②的证明因为n-1∑ni=1Khn/α(Xi)(Xi-x)(Xi-x) = E[Khn/α(Xi)(Xi-x)(Xi-x)]+Opn-1Ψ,其中Ψ是VarKhn/α(Xi)(Xi-x)(Xi-x)的对角元素组成的列向量.因x为内点,则当hn充分小时,supp(K) {z:(x+ hn(α(x))-1z)∈supp(f)}由f、K和α的连续性,可得到:　E[Khn/α(Xi)(Xi-x)(Xi-x)]=∫supp(f)h-dn(α(X1))dK(h-1n(α(X1)(X1-x))(X1-x)f(X1)dX1=∫Ωn(α(x+ hnQ))dK(Qα(x+ hnQ))f(x+ hnQ)hnQdQ= h2n(α(x))-3{f(x)∫supp(K)DTα(x)uuTDK(u)udu+μ2(K)[df(x)Dα(x)+α(x)Df(x))]+o(h2n)其中Ωn= {Q:x+ hnQ∈supp(f)}.因为:　VarKhn/α(Xi)(Xi-x)(Xi-x)= E Khn/α(Xi)(Xi-x)(Xi-x)-E[Khn/α(Xi)(Xi-x)(Xi-x)]　Khn/α(Xi)(Xi-x)(Xi-x)-E[Khn/α(Xi)(Xi-x)(Xi-x)]T= E [Khn/α(Xi)(Xi-x)(Xi-x)][Khn/α(Xi)(Xi-x)(Xi-x)]T　- E[Khn/α(Xi)(Xi-x)(Xi-x)] E[Khn/α(Xi)(Xi-x)(Xi-x)]T由f、K和α的连续性,可得到:　E [Khn/α(Xi)(Xi-x)(Xi-x)][Khn/α(Xi)(Xi-x)(Xi-x)]T= E[(Khn/α(Xi)(Xi-x))2(Xi-x)(Xi-x)T]=∫supp(f)[h-dn(α(X1))dK(h-1α(X1)(X1-x))]2f(X1)(X1-x)(X1-x)TdX1= h-d+2n∫Ωn((α(x+ hnQ))dK(Qα(x+ hnQ)))2f(x+ hnQ)QQTdQ= h-d+2n∫Ωn((α(x))dK(Qα(x)))2f(x)QQTdQ+ o(h-d+2ni) = O(h-d+2ni)易见: Opn-1Ψ= op(h2ni)综合上述结论,可知引理1②成立.

3.2　引理1⑤的证明显然E n-1∑ni=1Khn/α(Xi)(Xi-x)ui= n-1∑ni=1E E Khn/α(Xi)(Xi-x)uiXi=0由f、K、σ2和α的连续性,可得到:　Varn-1∑ni=1Khn/α(Xi)(Xi-x)ui= n-1Var[Khn/α(Xi)(Xi-x)ui]= n-1∫supp(f)[h-dn(α(X1))dK(h-1nα(X1)(X1-x))]2σ2(X1)f(X1)dX1= n-1h-dn∫Ω2((α(x+ hQ))dK(Qα(x+ hQ)))2σ2(x+ hQ)f(x+ hQ)dQ= n-1h-dn∫Ωn((α(x))dK(Qα(x)))2σ2(x)f(x)dQ+ o(n-1h-dn)= n-1h-dn(α(x))dσ2(x)R(K)f(x)+ o(n-1h-dn)综合上述结论,可知引理1⑤成立.

3.3　定理1的证明由引理1②、③,有:　E{m^n(x, hn,α)X1,…,Xn}-m(x) =∑ni=1Khn/α(Xi)(Xi-x)[(Xi-x)TDm(x)+12Qmi(x)]∑ni=1Khn/α(Xi)(Xi-x)= h2nα(x)-3∫supp(K)uTDm(x)DTα(x)uuTDK(u)du+μ2(K)[dDTα(x)+α(x)f(x)-1DTf(x)]Dm(x)　+12μ2(K)(α(x))-2s(Hm(x)) + op(h2n)易见:Var{m^n(x, hn,α)X1,…,Xn} =∑ni=1[Khn/α(Xi)(Xi-x)]2σ2(Xi)∑ni=1Khn/α(Xi)(Xi-x)2容易证明: n-1∑ni=1[Khn/α(Xi)(Xi-x)]2σ2(Xi) = h-dnR(K)(α(x))dσ2(x)f(x)+ op(h-dn)综合上述结论和引理1④,可得到:Var{m^n(x, hn,α)X1,…,Xn} = n-1h-dnR(K)(α(x))dσ2(x)f(x)-1+ op(n-1h-dn)

3.4　定理2的证明由引理1②、③、⑤和中心极限定理,易见:n2/(d+4)n-1∑ni=1Khn/α(Xi)(Xi-x)[(Xi-x)TDm(x)+12Qmi(x)+ ui]dN(c2f(x)a(x,α, K), c-dR(K)(α(x))dσ2(x)f(x))再由引理1④,可推得该定理成立.

参考文献:

[1] Fan J, Gjibels I. Local polynomial modeling and its applications[M]. London: Chapman&Hall, 1996.http://www.51lunwen.com/jiliangjingji/

[2] Pagan A, Ullah A. Nonparametric econometrics[M]. Cambridge : Cambridge University Press, 1999.

[3]叶阿忠.非参数计量经济学[M].天津:南开大学出版社, 2003.

[4] Wang M P, Jones M C. Kernel smoothing[M]. London: Chapman&Hall, 1995.

[5] Stone C J. Optimal global rates of convergence for nonparametric regression[J]. Annals Statistics, 1982(10): 1 040-1 053.