大规模有限内存方法的探讨

发布时间：2023-07-25 00:16

　　有限内存方法是求解大规模无约束优化的一类有效的方法。它是将有限内存技术与拟牛顿方法相结合,这种方法简便快捷,是能够保持拟牛顿法大部分优良性质的方法。近几年,韦增欣、张建中等学者利用新的拟牛顿条件产生了许多新的有限内存算法,新算法既有梯度信息,又有函数值信息,且数值表现比以往的算法优越的多。 本文的主要思想有两个方面:一是在韦增欣、张建中等学者提出的新算法的基础上,通过引入一个参数θ,给出一种具有统一形式的修正公式,是一种推广了的有限内存算法。在一定的条件下,证明出新算法对二次连续凸函数具有全局收敛性和R-线性收敛速度后,进行数值验证算法的有效性,比标准的有限内存BFGS算法更优越。 另一方面,本文基于Liu,Nocedal等学者提出的具有紧凑形式的有限内存BFGS公式,我们推导出统一形式的修正公式的紧凑形式,紧凑形式的重要特征是并不要求存储矩阵H_k,而是根据H_k的紧凑表示,由递推公式直接计算H_kg_k,从而得到搜索方向d_k。这就降低了算法对计算量和存储量的要求,因而特别适用于求解...

【文章页数】：40 页

【学位级别】：硕士

【文章目录】：
摘要
ABSTRACT
第一章 绪论
    1.1 引言
    1.2 大规模无约束优化问题概述
        1.2.1 共轭梯度法
        1.2.2 稀疏拟牛顿法
        1.2.3 无记忆拟牛顿法
        1.2.4 有限内存方法
    1.3 有限内存方法的研究现状
    1.4 本文主要工作及结构安排
第二章 一类新的有限内存BFGS类公式及算法的收敛性分析
    2.1 新的有限内存BFGS公式的推导
    2.2 新的有限内存BFGS公式的算法
    2.3 收敛性分析
第三章 数值验证
第四章 新的修正公式的紧凑形式
    4.1 修正矩阵的紧凑形式
    4.2 紧凑形式的算法
    4.3 收敛性分析
结论
致谢
参考文献



本文编号：3836791