不同误差影响模型下总体最小二乘法在多元线性回归中的应用研究

发布时间：2017-08-19 13:22

  本文关键词：不同误差影响模型下总体最小二乘法在多元线性回归中的应用研究

  更多相关文章： 总体最小二乘法 多元线性回归 估值漂移 误差影响模型 有效性

【摘要】：测绘学科在对测量数据进行处理过程中需要采用大量的函数模型,而这些函数模型最为常见的是以线性回归模型的方式呈现。线性回归问题的主要任务是回归系数的解算,通常是采用经典的最小二乘法进行求解。然而,在使用最小二乘求解回归系数过程中,大部分学者只顾及观测向量中包含误差的情况,对于线性回归模型误差方程的系数矩阵带有的误差却不予关注,或者人为地将其忽略,这将导致最小二乘法的平差结果失真。总体最小二乘法的提出,解决了观测向量和系数阵中的误差不能兼顾的问题。随着这一理论的不断发展和深入,它在电力系统、医学、生物学、统计学、图形学等领域得到了广泛的应用。同时,它在测绘学科也受到了越来越多学者的关注。针对观测向量和系数矩阵同时含有随机误差的情形,目前众多学者主要利用总体最小二乘法对一元线性回归模型进行了研究,也仅通过某些特例得出此方法法比最小二乘法具有更小的单位权中误差和较接近真值的平差值等类似结论。然而,采用总体最小二乘法对多元线性回归的研究案例还比较少,并且使用这种方法研究多元线性回归模型是否能够得到与一元情况类似的结论也未可知。因此,有必要进一步对总体最小二乘多元线性回归进行研究,进而为扩展总体最小二乘法的适用范围提供依据。本文在总体最小二乘法算法已有研究成果的基础上,对于总体最小二乘法在多元线性回归中的应用进行了研究。分析了三种误差影响模型:1.EIV(Errors-in-variables)模型(即观测向量和系数矩阵均包含随机误差的模型);2.EIVO(Errors-in-variables-only)模型(即只有系数矩阵包含随机误差的模型);3.EIOO(Errors-in-observations-only)模型(即只有观测向量包含随机误差的模型)的异同点,并用1~5元线性回归的具体算例给出了说明。本文还采用仿真实验的方法,以具有不同观测值数量和不同误差分布的1~5元线性回归算例为例,讨论了在三种误差影响模型下总体最小二乘法与最小二乘法的相对有效性,进而确定出应用于多元线性回归模型中相对更为有效的参数估计方法。本文的研究表明,仿真实验中总体最小二乘法的平差结果不稳定,并且普遍存在估值漂移现象,而最小二乘法的平差结果却相对稳定且一般情况下不存在估值漂移现象,且从统计上讲,总体最小二乘法出现估值漂移现象的次数比最小二乘法更多、估值漂移的程度更大。总体而言,对于EIV、EIVO、EIOO三种误差影响模型,总体最小二乘法的残余真误差均方误差都大于最小二乘法的残余真误差均方误差,这表明总体最小二乘法不如最小二乘法更有效。在1~5元线性回归中,相对而言,最小二乘法的结果比总体最小二乘法的结果更可靠,在应用总体最小二乘法时需要考虑其估值漂移现象,否则可能产生难以预见的后果。
【关键词】：总体最小二乘法 多元线性回归 估值漂移 误差影响模型 有效性
【学位授予单位】：太原理工大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：P207
【目录】：

• 摘要3-5
• ABSTRACT5-10
• 第一章 绪论10-16
• 1.1 研究目的和选题意义10
• 1.2 国内外研究动态10-13
• 1.3 论文的主要内容与组织结构13-16
• 第二章 总体最小二乘法16-28
• 2.1 总体最小二乘原理16-17
• 2.2 总体最小二乘线性回归的基本模型17
• 2.3 总体最小二乘法解算方法17-23
• 2.3.1 总体最小二乘SVD解法17-19
• 2.3.2 总体最小二乘最小奇异值解法19-21
• 2.3.3 总体最小二乘的Euler-Lagrange逼近法21-23
• 2.4 总体最小二乘法不同解算方法的算例——以三元线性回归模型为例23-28
• 第三章 不同误差影响模型及总体最小二乘线性回归的估值漂移28-38
• 3.1 不同误差影响模型28
• 3.2 参数估计方法的估值漂移28-29
• 3.3 总体最小二乘线性回归的估值漂移——以三元线性回归为例29-36
• 3.4 本章小结36-38
• 第四章 总体最小二乘法与最小二乘法在一元线性回归中的相对有效性38-48
• 4.1 仿真实验方法38-40
• 4.2 一元线性回归仿真40-46
• 4.3 本章小结46-48
• 第五章 总体最小二乘法与最小二乘法在多元线性回归中的相对有效性48-66
• 5.1 总体最小二乘法与最小二乘法二元线性回归48-52
• 5.1.1 二元线性回归仿真48-51
• 5.1.2 二元线性回归仿真实验结果分析51-52
• 5.2 总体最小二乘法与最小二乘法三元线性回归52-56
• 5.2.1 三元线性回归仿真52-55
• 5.2.2 三元线性回归仿真实验结果分析55-56
• 5.3 总体最小二乘法与最小二乘法四元线性回归56-60
• 5.3.1 四元线性回归仿真56-59
• 5.3.2 四元线性回归仿真实验结果分析59-60
• 5.4 总体最小二乘法与最小二乘法五元线性回归60-64
• 5.4.1 五元线性回归仿真60-63
• 5.4.2 五元线性回归仿真实验结果分析63-64
• 5.5 本章小结64-66
• 第六章 总结与展望66-68
• 6.1 论文总结66
• 6.2 论文展望66-68
• 参考文献68-74
• 致谢74-76
• 攻读硕士研究生学位期间发表学术论文和参与科研项目76

【相似文献】

中国期刊全文数据库 前10条

1 张德文,魏阜旋;再论约束最小二乘法[J];计算力学学报;2000年04期

2 邓宏,薛惠锋;最小二乘法的自加权问题及其修正[J];河南师范大学学报(自然科学版);2002年02期

3 左西年;半经验最小二乘法在铅球投掷数学模型中的应用[J];榆林学院学报;2003年03期

4 张彬,曹福军;用最小二乘法处理回归问题[J];唐山师范学院学报;2004年05期

5 李梦霞;陈忠;;最小二乘法自加权问题的另一种修正[J];长江大学学报(自科版);2005年10期

6 贾小勇;徐传胜;白欣;;最小二乘法的创立及其思想方法[J];西北大学学报(自然科学版);2006年03期

7 高山;李孝军;;关于最小二乘法的稳健性分析[J];统计与决策;2006年15期

8 张亚文;卢书成;张岐;;静态最小二乘法及其应用[J];新课程研究(职业教育);2007年04期

9 熊邦喜;;渔业上应用最小二乘法建立经验公式的简介[J];水库渔业;1982年03期

10 李化平;;最小二乘法和组合测量参数的确定[J];实验技术与管理;1984年02期

中国重要会议论文全文数据库 前10条

1 王大愚;;最小二乘法平滑技术在体育中运用的尝试[A];第四届全国运动生物力学学术会议论文集（二）[C];1983年

2 朱凤蓉;徐江;董宏波;周国庆;李志明;;最小二乘法在同位素质谱学中的应用[A];2007年全国质谱学会无机质谱、同位素质谱、质谱仪器和教育学专业委员会学术交流会论文集[C];2007年

3 张国锋;高晓蓉;;利用最小二乘法复原2m弦测轨道波形[A];中国自动化学会、中国仪器仪表学会2004年西南三省一市自动化与仪器仪表学术年会论文集[C];2004年

4 柳明;刘雨;苏宝库;蒋效雄;;总体最小二乘法辨识惯导平台误差模型研究[A];2007'仪表，，自动化及先进集成技术大会论文集（一）[C];2007年

5 汪连贺;张育红;;最小二乘法在水位推算中的应用[A];中国航海学会航标专业委员会测绘学组学术研讨会学术交流论文集[C];2009年

6 陈云生;;用最小二乘法与搜索法寻求A值与风速V关系的数学表达式[A];中国电子学会可靠性分会第十三届学术年会论文选[C];2006年

7 冯纯伯;张颖;;应用最小二乘法辩识闭环系统[A];1994年中国控制会议论文集[C];1994年

8 顾念明;;最小二乘法在测定(后张法预应力混凝土)预应力的孔道摩阻系数μ和偏差系数k测试资料计算中的应用[A];第十一届全国混凝土及预应力混凝土学术交流会论文集[C];2001年

9 景春国;白秋果;;最小二乘法在原油含水分析仪标定中的应用[A];中国仪器仪表学会第五届青年学术会议论文集[C];2003年

10 徐含青;;利用EXCEL进行线性拟合应用的实现[A];2013年江苏省计量测试学会学术会议论文集[C];2013年

中国硕士学位论文全文数据库 前10条

1 董巧玲;不同误差影响模型下总体最小二乘法在多元线性回归中的应用研究[D];太原理工大学;2016年

2 杨仕平;整体小二乘理论及其在变形监测中的应用研究[D];西南交通大学;2013年

3 钟云山;最小二乘法结合遗传算法在平面波综合技术中的应用[D];西安电子科技大学;2008年

4 李蓓蕾;多次自适应最小二乘曲线拟合方法及其应用[D];长江大学;2014年

5 胡序朋;基于加权非负最小二乘法的近海浮游植物荧光识别测定技术[D];中国海洋大学;2008年

6 赵婵娟;基于正交最小二乘法的EIV模型及其医学应用[D];山西医科大学;2011年

7 孟炜;高度测量数据处理及算法的研究[D];西北工业大学;2005年

8 王一帮;船用CO分析仪研制[D];中国舰船研究院;2012年

9 郑杰良;GPS位置算法关键技术的研究与工程实现[D];河北科技大学;2014年

10 张凤香;无单元方法在三维电磁场数值计算中的应用研究[D];华北电力大学（河北）;2008年

本文编号：700942