Fused-LASSO惩罚最小一乘回归的统计分析与优化算法

发布时间：2017-08-04 11:20

  本文关键词：Fused-LASSO惩罚最小一乘回归的统计分析与优化算法

  更多相关文章： Fused-LASSO模型 最小一乘方法 高维线性回归模型 线性化乘子交替方向法

【摘要】：高维线性回归模型之下,基于高斯噪声的最小绝对收缩和选择算子(LASSO)模型在变量选择和维数下降方面起重要作用.然而,在实践中高斯假设不一定成立.在这种情况下,最为流行且常用的是最小一乘方法.本文主要研究经由fused-LASSO惩罚的最小一乘回归,其估计系数以及相邻估计系数之间的差分都具有稀疏性,我们称之为稳健fused-LASSO模型.稳健fused-LASSO估计量不依赖于一些噪声的先行知识,如噪声的标准差或者噪声的任何矩假设.我们的结果表明稳健fused-LASSO估计量具有near oracle性质,即估计误差的L2-范数的阶为且以大概率成立.这个结果对于各种不同分布的噪声(包含柯西分布)都是成立的.除此之外,我们应用具有全局收敛性的线性化乘子交替方向法来求解稳健fused-LASSO模型.数值实验验证了我们方法的有效性.
【关键词】：Fused-LASSO模型 最小一乘方法 高维线性回归模型 线性化乘子交替方向法
【学位授予单位】：北京交通大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：O212.1
【目录】：

• 致谢5-6
• 中文摘要6-7
• ABSTRACT7-9
• 第一章 绪论9-15
• 1 研究背景和意义9-10
• 2 统计优化模型和基础知识10-14
• 2.1 LASSO回归11
• 2.2 FLASSO回归11-13
• 2.3 最小一乘回归及其相关模型13-14
• 3 论文的主要内容和结构14-15
• 第二章 RFLASSO模型的统计性质15-23
• 1 惩罚因子的选择16
• 2 RFLASSO估计量的near oracle性质16-23
• 第三章 最优化算法23-34
• 1 预备知识23-24
• 2 RFLASSO模型的LADMM算法24-26
• 3 LADMM算法的收敛性分析26-34
• 第四章 RFLASSO模型的数值实验34-38
• 1 合成数据以及其参数选择34
• 2 数值实验结果34-38
• 第五章 结论38-39
• 参考文献39-43
• 学位论文数据集43

【相似文献】

中国期刊全文数据库 前10条

1 王晓旭;林钧岫;王德和;;Observation of a fused dual-fiber sensor head tips by SEM[J];Chinese Optics Letters;2006年01期

2 张景龄,曹志松;THE SYNTHESIS AND SPECTRAL PROPERTIES OF TRIAZOPHOSPHOLENE(Ⅴ)[J];Science Bulletin;1987年10期

3 王城峰;Image Based Rendering under Varying Illumination[J];High Technology Letters;2003年03期

4 Sien Chi,Shiao-Min Tseng;Fused-Polished Fiber Couplers[J];光学学报;2003年S1期

5 李文超;封继康;任爱民;张祥标;孙家钟;;Theoretical studies on the one-and two-photon absorption properties of azulenylporphyrins and azulene-fused porphyrins[J];Chinese Physics B;2009年06期

6 ;ASSESSMENT OF THE SFIM ALGORITHM[J];Chinese Geographical Science;2004年01期

7 刘青,程光华,王屹山,程昭,赵卫,陈国夫;Three-dimensional optical storage in fused silica using modulated femtosecond pulses[J];Chinese Optics Letters;2004年05期

8 刘卫静;李斌成;;Repetition rate dependence of absorption of fused silica irradiated at 193 nm[J];Chinese Optics Letters;2013年05期

9 李莉;向霞;袁晓东;贺少勃;蒋晓东;郑万国;祖小涛;;Effect of fused silica subsurface defect site density on light intensification[J];Chinese Physics B;2013年05期

10 K.H.D銉TZ;;Functional Organometallics[J];复旦学报(自然科学版);2007年05期

中国重要会议论文全文数据库 前10条

1 ;Study on the Synthesis of Heterocycle-fused Troponoid Compounds[A];中国化学会第四届有机化学学术会议论文集（上册）[C];2005年

2 ;An Initial Study on the Escherichia Coli Acid Phosphatase EcAP as an Expression Partner for Expression of Membrane Proteins[A];2008年全国生物化学与分子生物学学术大会论文摘要[C];2008年

3 ;Synthesis and crystal structures of cyclodiazastannoxide fused cyclopentadienyl M-Sn (M=Mo, W) bonded organometallic heterocycle[A];中国化学会第十三届金属有机化学学术讨论会论文摘要集[C];2004年

4 Liang Xu;Junping Du;Qingping Li;JangMyung Lee;;Saliency Preserved Image Fusion Using Nonsubsampled Contourlet Transform[A];2013年中国智能自动化学术会议论文集（第二分册）[C];2013年

5 Le Hao;Tianyu Yang;Hongzhi Zhang;Mo Zhu;Yuheng Hou;Hua Chen;Xiaoliu Li;;Synthetic seven-membered iminosugars fused thiazolidin-4-one or thiazinan-4-one as new potential HIV-RT inhibitors[A];中国化学会第29届学术年会摘要集——第07分会：有机化学[C];2014年

6 Senzhu Lin;XiangQin Liu;Qing Meng;;Production of Artificial Hybrid Spider Silks Showing Novel Properties[A];中国生物化学与分子生物学会第十一次会员代表大会暨2014年全国学术会议论文集——专题报告一[C];2014年

7 ;Optimal State Estimation for a Class of Asynchronous Multirate Multisensor Dynamic Systems[A];第二十九届中国控制会议论文集[C];2010年

8 Guochao Qi;Fengjun Shan;Qiang Li;Jingyuan Yu;;Energy Saving by Applying 3000kVA Electric Arc Furnace in Fused Magnesia Production[A];中国材料大会2012第16分会场：材料先进制备加工技术论文集[C];2012年

9 ;Oxidative Cyclization of 5-Bromo-3-cinnamoyltropolones in DMSO/H_2SO_4/I_2 System[A];中国化学会第四届有机化学学术会议论文集（上册）[C];2005年

10 ;Information Fusion Estimation of Noise Statistics for Multisensor Systems[A];2009中国控制与决策会议论文集（1）[C];2009年

中国硕士学位论文全文数据库 前1条

1 张环;Fused-LASSO惩罚最小一乘回归的统计分析与优化算法[D];北京交通大学;2016年

，

本文编号：619274