求解大规模无约束优化问题的共轭梯度法

发布时间：2017-10-07 02:29

  本文关键词：求解大规模无约束优化问题的共轭梯度法

  更多相关文章： 无约束优化 共轭梯度法 子空间 全局收敛性

【摘要】：对于一般的无约束优化问题而言,共轭梯度法是一类重要的数值计算方法,它介于最速下降法与牛顿法之间.共轭梯度法的优势在于它仅需利用一阶导数的信息,不但能克服最速下降法收敛慢的缺点,又能避免牛顿法需要存储和计算Hessian矩阵并求逆的不足.基于具有的上述优点,共轭梯度法在大规模优化问题中起到了不容忽视的作用.因此,共轭梯度法的研究一直是一个比较热门的研究方向.本文主要研究对传统LS共轭梯度法的修正和基于子空间技术的三项共轭梯度法.第二章,基于传统的LS共轭梯度法,提出修正的LS法,并证明对于强凸函数,新算法在Wolfe线性搜索条件下可以达到全局收敛.进一步,在所提出算法中加入一个混合策略,则对于一般非凸函数,算法也具有全局收敛性.第三章,结合子空间技术,提出求解大规模无约束优化问题的一种子空间三项共轭梯度法,其搜索方向在由负梯度方向,迭代点的差和梯度差张成的子空间上选择.在这个子空间中,通过极小化目标函数的二次近似问题确定搜索方向,它在任何线性搜索条件下都具有充分下降性.在适当假设条件下,证明算法的全局收敛性.第四章,在由当前迭代点的负梯度方向和最近两次迭代的搜索方向张成的子空间上,极小化目标函数的近似子问题,进而推导出另一种子空间三项共轭梯度法.其搜索方向不仅满足下降条件也满足Dai-Liao共轭梯度条件.在适当假设条件下,证明了算法的收敛性.本文对所提出的所有算法进行了数值实验,并利用性能图对算法的数值计算结果进行了比较分析,说明所提出算法的有效性和适用范围.
【关键词】：无约束优化 共轭梯度法 子空间 全局收敛性
【学位授予单位】：北华大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：O224
【目录】：

• 摘要5-6
• Abstract6-9
• 第1章 引言9-17
• 1.1 选题意义9
• 1.2 一般共轭梯度法简介9-11
• 1.3 共轭梯度法的研究进展11-14
• 1.4 本文主要工作14-17
• 第2章 两种修正的LS共轭梯度法17-27
• 2.1 NLS算法及其收敛性17-19
• 2.2 MNLS算法及其收敛性19-23
• 2.3 数值实验23-27
• 第3章 子空间三项共轭梯度法STCG27-35
• 3.1 STCG算法的提出27-30
• 3.2 STCG法的收敛性分析30-32
• 3.3 数值实验32-35
• 第4章 子空间三项共轭梯度算法STT35-45
• 4.1 STT算法的提出35-39
• 4.2 STT法的收敛性分析39-42
• 4.3 数值实验42-45
• 第5章 结论45-47
• 参考文献47-51
• 作者简介及在学期间所取得的科研成果51-53
• 后记和致谢53

【相似文献】

中国期刊全文数据库 前10条

1 王斌;;共轭梯度法[J];黑龙江科技信息;2010年29期

2 张艳君;赵金玲;徐尔;;求解多集分裂可行问题的一种共轭梯度法[J];数值计算与计算机应用;2013年04期

3 解惠青;共轭梯度法的一个计算公式[J];南京航空航天大学学报;2000年06期

4 雷伟华;一类带非精确线搜索的共轭梯度法之收敛性[J];南宁师范高等专科学校学报;2000年03期

5 刘云,梁玉梅;几类非精确线搜索下共轭梯度法的收敛条件(英文)[J];广西科学;2001年01期

6 莫降涛;修正Hestenes-Stiefel共轭梯度法及其收敛性[J];广西大学学报(自然科学版);2001年01期

7 梁玉梅,刘云;一类新共轭梯度法在几种非精确线搜索下的收敛性(英文)[J];广西大学学报(自然科学版);2001年02期

8 谭欣星,席光;共轭梯度法在三维复杂流动数值分析中的应用[J];水动力学研究与进展(A辑);2002年01期

9 徐泽水;一类新的共轭梯度法(英文)[J];数学杂志;2002年01期

10 杜守强,陈元媛;一类在新的线搜索下的共轭梯度法[J];滨州师专学报;2002年04期

中国重要会议论文全文数据库 前10条

1 姚馨;倪勤;;解大规模优化问题的锥模型共轭梯度法[A];中国运筹学会第十届学术交流会论文集[C];2010年

2 孙树立;陈璞;;求解多右端向量方程组的块共轭梯度法及其相关研究进展[A];计算爆炸力学进展[C];2006年

3 霍伟娜;倪勤;;一个新的条件预优共轭梯度法[A];中国运筹学会第十届学术交流会论文集[C];2010年

4 王川龙;朱金香;;非单调混合共轭梯度法[A];管理科学与系统科学进展——全国青年管理科学与系统科学论文集（第4卷）[C];1997年

5 陈珑;刘兴高;;一种基于PRP共轭梯度法的新型动态优化方法及其应用[A];PCC2009—第20届中国过程控制会议论文集[C];2009年

6 李梅霞;王长钰;刘茜;;带扰动项的FR共轭梯度法[A];2006年中国运筹学会数学规划分会代表会议暨第六届学术会议论文集[C];2006年

7 王晨;张秀军;徐安农;;一类共轭梯度法的全局收敛性[A];第八届中国青年运筹信息管理学者大会论文集[C];2006年

8 陈璞;肖梃松;孙树立;袁明武;;预条件共轭梯度法的实现以及一些改进[A];第七届全国结构工程学术会议论文集（第Ⅰ卷）[C];1998年

9 连淑君;王长钰;;在Armijo型线搜索下共轭梯度法簇的全局收敛性[A];中国运筹学会第七届学术交流会论文集（上卷）[C];2004年

10 支希哲;孟光;徐松平;;多级隔振系统优化设计的共轭梯度法[A];数学·物理·力学·高新技术研究进展（一九九六·第六期）——中国数学力学物理学高新技术交叉研究会第6届学术研讨会论文集[C];1996年

中国博士学位论文全文数据库 前5条

1 黄元元;求解无约束优化问题及非线性方程组的共轭梯度法[D];西安电子科技大学;2014年

2 董晓亮;自适应共轭梯度法的研究[D];西安电子科技大学;2015年

3 邓松海;若干新型谱共轭梯度算法及应用研究[D];中南大学;2013年

4 戴志锋;非线性共轭梯度法与鲁棒最优投资组合[D];湖南大学;2013年

5 钟萍;Newton-PCG型算法的效率分析[D];中国农业大学;2002年

中国硕士学位论文全文数据库 前10条

1 曾维强;含有多个参数的非线性共轭梯度法研究[D];广东技术师范学院;2015年

2 李双安;共轭梯度法在大规模信号重构问题中的应用[D];桂林电子科技大学;2015年

3 鞠静洁;几类优化问题的算法研究[D];青岛大学;2015年

4 屈明恩;无约束优化问题的共轭梯度法研究[D];西安电子科技大学;2014年

5 关哲;Wolfe线搜索下的共轭梯度法[D];渤海大学;2016年

6 汪丹戎;非线性共轭梯度法及全局收敛性分析[D];长江大学;2016年

7 陈倩;无约束优化的谱共轭梯度法和三项共轭梯度法研究[D];广西大学;2016年

8 陈洪敏;Wolfe线搜索下具有全局收敛性的混合共轭梯度法[D];重庆师范大学;2016年

9 吴双江;基于DAI-LIAO型方法和WEI-YAO-LIU型方法的混合共轭梯度法[D];重庆师范大学;2016年

10 陈钰婷;求解大规模无约束优化问题的共轭梯度法[D];北华大学;2016年

，

本文编号：986418