高维相关矩阵稀疏估计问题的优化算法研究

发布时间：2020-03-30 02:48

【摘要】：协方差矩阵估计或相关矩阵估计是统计学领域中的经典问题,在经济、金融、社交网络、基因排序等高维数据分析领域中有着广泛的应用.统计分析和优化算法的结合是目前最新的研究趋势,并且数值最优化算法被广泛应用于求解统计领域中的优化模型.交替方向乘子法和加速临近梯度算法迭代形式简单、存储量低,是求解可分离凸优化问题的高效算法.本文重点研究交替方向乘子法和加速临近梯度算法在高维相关矩阵稀疏估计问题中的应用,分析算法的收敛性,并使用模拟数据测试算法的有效性.第一章,先简单介绍统计学基本概念,然后介绍优化基础知识;简单回顾协方差矩阵和相关矩阵估计问题以及求解方法,并列出本文所使用的符号、概念等.第二章,简单回顾经典交替方向乘子法、广义交替方向乘子法、对称交替方向乘子法和加速临近梯度算法,并给出相应的收敛性定理,简单陈述本文的主要研究动机和贡献.第三章,基于 Cui,LengSun(Comput.Statist.Data Anal.2016)和 Liu,WangZhao(J.Comput.Graph.Statist.2014)提出的高维稀疏相关矩阵估计模型,提出一种带有最大最小特征值显式约束的相关矩阵估计新模型,然后利用交替方向乘子法求解.在适当条件下分析算法的收敛性,数值试验验证算法的有效性和模型的优越性.第四章,基于第三章提出的相关矩阵估计新模型,推导其对偶模型.对偶模型含有光滑项和非光滑项并具有可分离结构.利用加速临近梯度算法求解.最后给出算法收敛性定理,使用模拟数据测试算法的有效性和模型的优越性.第五章,总结全文并给出一些值得进一步研究的方向.
【图文】：

法都具有较好的数值表现，其中当Ｓｉｇ＝邋１时，ＡＤＭＭ算法的数值结果最好．逡逑本节中只给出罚参数Ｓｉｇ＝邋１时，不同维度下求解出真实矩阵与本文所提算法３．３．１、逡逑算法３．３．３和算法３．３．５所求的重建矩阵的效果对比图，见图３－１至３－９．由图３－１０可知，当逡逑Ｓｉｇ邋＝邋１时，且维数ｐ邋＝邋１００：５００，１０００，可以看出ＡＤＭＭ收敛速率和ＳＡＭＭＭ收敛速率逡逑相媲美．ＧＡＤＭＭ收敛速率次之，其中横坐标表示迭代次数，，纵坐标表示／ｆｅｓ．逡逑２３逡逑

ｎｔ＞邋１Ｋ＞１０逦ｎｚ邋＝邋１８３９６逡逑图３－３邋Ｓｉｇ＝ｌ．邋Ｐ＝１０００时真实矩阵与ＡＤＭＭ算法所得矩阵对比图逡逑；、逦ｖ逡逑ｌｏｏｋ逦逦逦逦逦逦逦逦逦－９＾
【学位授予单位】：河南大学
【学位级别】：硕士
【学位授予年份】：2018
【分类号】：O212

【相似文献】

相关期刊论文 前10条

1 付强,刘长军;交替方向隐式时域有限差分算法的应用与发展[J];成都信息工程学院学报;2005年01期

2 J.R.Bates,A.Mcdonald,杨世莹;积分多层原始方程的半拉格朗日交替方向隐式法[J];海洋预报;1988年S1期

3 黄康乐;求解二维饱和-非饱和溶质运移问题的交替方向特征有限单元法[J];水利学报;1988年07期

4 吴美娟,M.A.Letchziner;速度、压力耦合方程组的块隐式解[J];华东化工学院学报;1988年02期

5 黄伟祥;;一类非线性发展方程的交替方向格式[J];内蒙古民族大学学报(自然科学版);2006年04期

6 孙敏;徐健腾;时贞军;;一种新的投影型变分不等式交替方向方法[J];工程数学学报;2006年06期

7 刘波,高本庆,薛正辉,胡沥;无条件稳定的交替方向隐式FDTD算法[J];电波科学学报;2002年05期

8 黎丽梅;;交替方向隐式差分法在分数次微分方程中的应用[J];湖南理工学院学报(自然科学版);2012年03期

9 来翔;袁益让;;一类三维拟线性双曲型方程交替方向有限元法[J];计算数学;2010年01期

10 张争茹;带有迁移的疟疾病与疟蚊数学模型的交替方向有限元法及其数值分析[J];生物数学学报;2003年01期

相关会议论文 前10条

1 刘波;高本庆;薛正辉;胡沥;;交替方向隐式FDTD法[A];全国电磁兼容学术会议论文集[C];2001年

2 张宝琳;;交替差分块方法及其差分图[A];中国工程物理研究院科技年报（1998）[C];1998年

3 杨义校;康学净;陶然;;基于交替方向乘子法的分数傅里叶相位恢复算法[A];第十二届全国信号和智能信息处理与应用学术会议论文集[C];2018年

4 张娇娇;丛爽;郑凯;李克之;;进一步改进的交替方向乘子法及其在量子态估计的应用[A];第17届中国系统仿真技术及其应用学术年会论文集（17th CCSSTA 2016）[C];2016年

5 宋万均;张厚;;磁化等离子体ADE-ADI FDTD算法[A];2017年全国微波毫米波会议论文集（上册）[C];2017年

6 郑忠;胡燕;罗小刚;占贤辉;;基于交替方向隐式差分算法的连铸坯凝固传热模型[A];2008年全国冶金物理化学学术会议论文集[C];2008年

7 王林年;褚庆昕;;二维ADI-FDTD算法的PML[A];2003'全国微波毫米波会议论文集[C];2003年

8 张良;韩立国;刘争光;常傲;;基于压缩感知的交替方向乘子算法恢复地震数据[A];2017中国地球科学联合学术年会论文集（二十一）——专题44：深部资源探测技术与矿集区立体探测[C];2017年

9 王燕;田振夫;魏剑英;;Navier-Stokes方程组的一种四阶紧致交替方向隐式差分方法[A];第七届全国水动力学学术会议暨第十九届全国水动力学研讨会文集（上册）[C];2005年

10 嵇阳;朱卫华;;使用一种新颖的基于交替方向隐式的全矢量光束传播法分析三维光波导[A];鲁豫赣黑苏五省光学（激光）学会2011学术年会论文摘要集[C];2011年

相关博士学位论文 前10条

1 马宁;发展型方程的高阶正交配置方法[D];山东大学;2006年

2 来翔;几类双曲型方程交替方向有限元分析[D];山东大学;2007年

3 邓定文;高精度交替方向隐式差分法的理论与应用[D];华中科技大学;2012年

4 黎丽梅;分数阶偏微分方程交替方向有限元误差分析[D];湖南师范大学;2013年

5 王慧慧;分布式交替方向乘子法研究[D];南京大学;2017年

6 谢家新;稀疏信号恢复问题的几类算法及应用研究[D];湖南大学;2017年

7 尤燕飞;鞍点问题和约束优化的几个一阶算法[D];南京大学;2015年

8 冯民权;大型湖泊水库平面及垂向二维流场与水质数值模拟[D];西安理工大学;2003年

9 杨晓波;稀疏信号的联合恢复与低秩稀疏恢复的理论及数值方法[D];湖南大学;2017年

10 杨真真;压缩感知重构技术及其在图像融合中的应用研究[D];南京邮电大学;2014年

相关硕士学位论文 前10条

1 丁雯雯;高维相关矩阵稀疏估计问题的优化算法研究[D];河南大学;2018年

2 吴灿;交替方向乘子法在图像处理和统计分析中的应用[D];河南大学;2018年

3 徐秋云;分块低秩矩阵回归的线性化乘子交替方向算法[D];北京交通大学;2018年

4 张雪清;广义交替方向乘子法的若干理论性研究[D];重庆师范大学;2018年

5 刘雅梅;一类自适应广义交替方向乘子法[D];南京师范大学;2018年

6 梁梓均;现代能源系统背景下分布式最优潮流计算的同步型交替方向乘子法[D];华南理工大学;2018年

7 刘知音;基于交替方向乘子算法的l_1正则化极限学习机的算法研究[D];北京化工大学;2018年

8 陈雨;带有邻近点项交替方向乘子法的双乘子步长更新研究[D];南京大学;2017年

9 张继宏;一类二次规划逆问题的交替方向数值方法[D];大连理工大学;2012年

10 李莹莹;改进的随机交替方向乘子方法[D];上海大学;2016年

本文编号：2606911