改进的随机交替方向乘子方法

发布时间：2017-06-24 13:01

  本文关键词：改进的随机交替方向乘子方法，，由笔耕文化传播整理发布。

【摘要】：最近,随着信息技术的高速发展和大数据时代的到来,在解决优化问题时,我们常常会遇到大规模的问题.因此,能够找到一个有效的方法去解决此类问题变得越来越重要.交替方向乘子方法是适合可分离结构凸优化问题的一个简单但很强大的算法.它的主要思想是将复杂的大规模优化问题分解成多个子问题,通过交替地求解一系列子问题而得出原问题的解.因为它应用的广泛性与有效性,吸引了许多学者们的关注.目前对此方法已经有了很多的推广和改进算法,其中随机交替方向乘子方法也已经成为近期优化领域的研究热点.本文主要提出了一个新的改进的随机交替方向乘子方法,并且给出了此算法相应的收敛性分析.同时,数值实验结果也验证了该算法的有效性.本文的结构安排如下：第一章：主要介绍了最优化问题的一些理论知识和部分研究背景.针对带有线性约束的大规模凸优化问题模型,简要地介绍了最近提出的几类随机交替方向乘子方法的应用背景及其优缺点,随后介绍本论文的主要内容和章节安排.第二章：针对目标函数是两个可分凸函数和的大规模凸优化问题,我们提出了一个新的改进的随机交替方向乘子方法,并给出了此方法的迭代格式以及相应的具体算法.第三章：对于第二章提出的新的算法,我们分别用两种不同的迭代平均方式,从理论上证明了新提出算法相应的收敛速率.第四章：针对广义的Lasso模型,我们对该算法以及参考文献中最近提出的几类随机算法进行了数值实验.然后通过对它们的数值结果进行比较,验证了该算法的可行性和有效性.第五章：总结全文,并给出接下来可以考虑的几个问题.
【关键词】：凸优化 ADMM算法 随机交替方向乘子方法 收敛速率
【学位授予单位】：上海大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：O224
【目录】：

• 摘要5-6
• ABSTRACT6-8
• 第一章 绪论8-19
• 1.1 最优化理论与算法8-15
• 1.1.1 无约束最优化9-11
• 1.1.2 约束最优化11-15
• 1.2 随机ADMM算法的研究简介15-18
• 1.3 本论文的主要工作以及内容安排18-19
• 第二章 改进的随机交替方向乘子方法19-23
• 2.1 SVR-ADMM算法19-22
• 2.2 本章小结22-23
• 第三章 收敛性分析23-33
• 3.1 收敛性分析23-31
• 3.2 本章小结31-33
• 第四章 数值实验33-40
• 4.1 数值实验33-39
• 4.2 本章小结39-40
• 第五章 总结和展望40-41
• 参考文献41-46
• 攻读硕士学位期间发表的文章46-47
• 致谢47

【相似文献】

中国期刊全文数据库 前10条

1 方红卫;交替方向的三维有限分析方法[J];水动力学研究与进展(A辑);1994年05期

2 袁益让;三维油水运移聚集数值模拟的交替方向格式和分析[J];数学物理学报;1999年02期

3 张争茹;带有迁移的疟疾病与疟蚊数学模型的交替方向有限元法及其数值分析[J];生物数学学报;2003年01期

4 黎丽梅;;交替方向隐式欧拉方法在偏积分微分方程中的应用[J];北华大学学报(自然科学版);2012年02期

5 袁益让,赵卫东,程爱杰,韩玉笈;油水运移聚集数值模拟和分析[J];应用数学和力学;1999年04期

6 那顺布和,苏志勋,张志跃;一个血吸虫病数学模型的交替方向有限元分析[J];生物数学学报;2004年03期

7 高夫征;一类非线性抛物型方程组的交替方向多步法及其理论分析[J];山东大学学报(理学版);2005年04期

8 来翔;袁益让;;一类三维拟线性双曲型方程交替方向有限元法[J];计算数学;2010年01期

9 黎丽梅;;交替方向隐式差分法在分数次微分方程中的应用[J];湖南理工学院学报(自然科学版);2012年03期

10 陈蔚;三维含弥散可压核废料污染问题的交替方向有限元方法[J];系统科学与数学;2003年02期

中国重要会议论文全文数据库 前4条

1 曹渊;王铁良;郭永辉;田宙;;三维饱和——非饱和渗流的交替方向隐式求解算法[A];第十六届全国流体力学数值方法研讨会2013论文集[C];2013年

2 张宝琳;;交替差分块方法及其差分图[A];中国工程物理研究院科技年报（1998）[C];1998年

3 刘波;高本庆;薛正辉;胡沥;;交替方向隐式FDTD法[A];全国电磁兼容学术会议论文集[C];2001年

4 王燕;田振夫;魏剑英;;Navier-Stokes方程组的一种四阶紧致交替方向隐式差分方法[A];第七届全国水动力学学术会议暨第十九届全国水动力学研讨会文集（上册）[C];2005年

中国博士学位论文全文数据库 前4条

1 黎丽梅;分数阶偏微分方程交替方向有限元误差分析[D];湖南师范大学;2013年

2 邓定文;高精度交替方向隐式差分法的理论与应用[D];华中科技大学;2012年

3 来翔;几类双曲型方程交替方向有限元分析[D];山东大学;2007年

4 马宁;发展型方程的高阶正交配置方法[D];山东大学;2006年

中国硕士学位论文全文数据库 前9条

1 何宜盛;Lasso问题以及其在证券指数稀疏回归中的应用[D];南京大学;2016年

2 杨森;大数据下城市应急药品的药店选择规划[D];吉林大学;2016年

3 李莹莹;改进的随机交替方向乘子方法[D];上海大学;2016年

4 张t;双曲方程的交替方向隐式差分方法[D];中国海洋大学;2004年

5 许浩锋;基于交替方向乘子法的分布式在线学习算法[D];中国科学技术大学;2015年

6 张伶伶;几类发展方程的有限差分方法[D];青岛科技大学;2007年

7 赵继伟;抛物问题的区域分解和交替方向有限差分算法[D];山东大学;2013年

8 王伟敏;二维广义有阻尼Sine-Gordon方程的交替方向差分方法[D];河南师范大学;2012年

9 吴威威;Cahn-Allen方程与Cahn-Hilliard方程半隐的交替方向discontinuous Galerkin方法[D];上海交通大学;2012年

  本文关键词：改进的随机交替方向乘子方法，由笔耕文化传播整理发布。

本文编号：478220