线性回归模型的二阶最小二乘估计

发布时间：2017-09-28 05:08

  本文关键词：线性回归模型的二阶最小二乘估计

  更多相关文章： 线性回归模型 加权最小二乘估计 收敛性 渐近正态性 均方误差分类号

【摘要】：线性模型在数理统计学的理论和应用中都占据十分重要的地位,越来越多的研究领域都涉及到线性模型的参数估计问题。国内外的学者已经做了大量的研究,提出了多种估计方法,常用的有最小二乘估计法、岭估计法、主成分估计法和广义压缩最小二乘估计法等。本文主要研究一种新的参数估计方法——二阶最小二乘估计法——在线性回归模型中的应用。二阶最小二乘估计法的主要思想是极小化响应变量及响应变量的平方分别与响应变量的一阶条件矩和二阶条件矩的差的平方和得到估计值。本文主要考察具有非对称分布误差变量的线性模型的二阶最小二乘估计,并且证明出统计性质,例如收敛性和渐近正态性。除此之外,还证明了当误差变量的三阶矩非零时,二阶最小二乘估计是渐近优于一般最小二乘估计的,并且当误差变量为对称的分布时,二者具有相同的渐近协方差矩阵。最重要的是,我们可以在不完全知道误差变量分布的情形下,求得线性模型的参数估计。最后通过数值模拟试验,比较不同样本数情况下,线性回归模型未知参数的最小二乘估计和二阶最小二乘估计的方差和均方误差。结果发现,当样本数小于50时,回归系数与误差变量方差的二阶最小二乘估计优于一般最小二乘估计,这也说明了当样本数较少时,二阶最小二乘估计法能够充分利用数据中的信息来改良最小二乘估计法。
【关键词】：线性回归模型 加权最小二乘估计 收敛性 渐近正态性 均方误差分类号
【学位授予单位】：北京交通大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：O212.1
【目录】：

• 致谢5-6
• 中文摘要6-7
• ABSTRACT7-9
• 第1章 绪论9-18
• 1.1 引言9-10
• 1.2 线性回归模型10-11
• 1.3 常用的参数估计法介绍11-17
• 1.3.1 最小二乘估计11-13
• 1.3.2 岭估计13-14
• 1.3.3 主成分估计14-15
• 1.3.4 广义压缩最小二乘估计15-17
• 1.4 估计量的评价方法17-18
• 第2章 线性回归模型的二阶最小二乘估计18-34
• 2.1 二阶最小二乘估计定义方法18-20
• 2.2 统计性质证明20-28
• 2.2.1 预备知识20-21
• 2.2.2 收敛性21-22
• 2.2.3 渐近正态性22-28
• 2.3 二阶最小二乘估计的优良性28-34
• 第3章 二阶最小二乘估计与最小二乘估计的数值试验比较34-41
• 3.1 数值试验34-35
• 3.2 数值试验结果分析35-41
• 第4章 结论41-42
• 参考文献42-44
• 作者简历44-46
• 学位论文数据集46

【相似文献】

中国期刊全文数据库 前10条

1 张二艳;许燕;;利用配方法求解最小二乘估计的的应用研究[J];北京印刷学院学报;2009年06期

2 吴慎言;;最小二乘估计器存在性的研究[J];西安工程科技学院学报;1992年01期

3 吴刘仓,黄文亮,詹金龙;最小二乘估计的有效性[J];昆明理工大学学报(自然科学版);2001年02期

4 崔博文,陈剑,陈心昭,任章;复参数最小二乘估计方法[J];安徽大学学报(自然科学版);2005年03期

5 肖庭延;张培培;阎金华;;正则化的最小二乘估计及其应用[J];高等学校计算数学学报;2005年S1期

6 车金锐;梁刚;陈敏茹;;基于小波测量预处理的最小二乘估计[J];数学的实践与认识;2006年04期

7 刘湘蓉;;最小二乘估计关于误差分布的稳健性[J];应用概率统计;2006年04期

8 李兵;朱宁;唐文芳;段复建;;改进的最小二乘估计确定高精度参数模型[J];统计与决策;2007年23期

9 吴如光;;约束最小二乘估计关于误差分布的稳健性[J];西安文理学院学报(自然科学版);2008年02期

10 蔺焕泉;;普通最小二乘估计方差表达式的等价性[J];长春大学学报;2010年02期

中国重要会议论文全文数据库 前5条

1 陈欢;杨德森;时胜国;;最小二乘估计的矢量阵近场虚拟聚焦算法[A];2008年全国声学学术会议论文集[C];2008年

2 范龙;白鸽;;基于抗差最小二乘估计的载体速度计算方法[A];第二届中国卫星导航学术年会电子文集[C];2011年

3 张崇高;;Fuzzy变量的配方回归模型的最小二乘估计[A];模糊集理论与模糊应用专辑——中国系统工程学会模糊数学与模糊系统委员会第十届年会论文选集[C];2000年

4 崔博文;陈剑;陈心昭;任章;;基于U-D分解的复参数最小二乘估计方法[A];第二十三届中国控制会议论文集（上册）[C];2004年

5 刘娜;张端金;杨林;;基于SVD的偏差补偿最小二乘估计算法[A];2011年中国智能自动化学术会议论文集（第一分册）[C];2011年

中国博士学位论文全文数据库 前1条

1 赵媛媛;信号模型中若干参数估计问题的研究[D];中国科学技术大学;2011年

中国硕士学位论文全文数据库 前10条

1 王媛;线性回归模型的二阶最小二乘估计[D];北京交通大学;2016年

2 卢冬晖;约束泛最小二乘估计及其影响分析[D];湖北师范学院;2014年

3 桂咏新;奇异增长曲线模型中参数阵的最优估计及最小二乘估计的有效性[D];华中师范大学;2003年

4 于家富;回归系数的混合估计和最小二乘估计的相对效率[D];山东师范大学;2006年

5 刘洪伟;线性模型最小二乘估计递推算法[D];东北林业大学;2012年

6 王剑;线性回归系数的Stein估计[D];华中科技大学;2007年

7 尤太林;EV模型的正交回归分析[D];贵州财经学院;2011年

8 詹小平;工具变量回归中的估计问题[D];东北师范大学;2006年

9 黄超;推广增长曲线模型中协差阵的最小二乘估计及其优良性[D];华中师范大学;2001年

10 王晓光;序约束下ARCH模型最小二乘估计[D];吉林大学;2004年

，

本文编号：933937