非线性共轭梯度算法的理论及应用研究

发布时间：2021-06-10 22:35

　　随着科学技术的日益进步,特别是互联网与信息技术的极速发展,人类面临的优化问题规模越来越大。为了解决此类问题,众多算法被提出来,其中共轭梯度算法因其具有迭代形式简单、所需计算及存储空间少等优点而被广泛使用。论文对解决非线性无约束最优化问题的共轭梯度算法做进一步研究。首先,在分析了共轭梯度算法DY和HS优缺点的基础上,结合两者各自的优点设计出了两个既满足全局收敛性又具有良好数值表现的共轭梯度算法。DY算法具有良好的理论收敛性但数值表现较差,而HS具有较好的数值表现但理论收敛性较弱。第一个算法,将HS与NLS-DY共轭梯度算法有机混合,得到PHS共轭梯度算法。其共轭参数的结合系数是一个非固定常数,它可以根据相邻迭代点的梯度信息自动调整。PHS算法既能够在Wolfe-Powell线型搜索下全局收敛,又能够避免连续出现小步长,从而使该算法具有良好的数值表现。第二个算法,将MHS与NLS-DY共轭梯度算法巧妙结合,得到FHS共轭梯度算法。该算法在Wolfe-Powell线搜索下所生成的搜索方向满足充分下降条件,进而满足全局收敛性,且数值实验表明FHS算法具有高效稳定的数值表现。其次,为了得到更加具... 

【文章来源】：燕山大学河北省

【文章页数】：71 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第1章 绪论
    1.1 基础知识
    1.2 部分无约束最优化算法介绍
        1.2.1 最速下降法
        1.2.2 牛顿及拟牛顿算法
    1.3 非线性共轭梯度算法概要
    1.4 本文的主要工作
第2章 两个混合共轭梯度算法
    2.1 引言
    2.2 PHS共轭梯度算法
        2.2.1 公式及算法
        2.2.2 收敛性证明
        2.2.3 数值结果
    2.3 FHS共轭梯度算法
        2.3.1 公式及算法
        2.3.2 收敛性证明
        2.3.3 数值结果
    2.4 本章小结
第3章 三类单参数共轭梯度簇算法
    3.1 引言
    3.2 相关算法概述
    3.3 算法的主要思想
    3.4 收敛性分析
        3.4.1 WPRP算法的收敛性证明
        3.4.2 WHS算法的收敛性证明
        3.4.3 WLS算法的收敛性证明
    3.5 算法步骤
    3.6 数值实验
    3.7 本章小结
第4章 改进算法的应用研究
    4.1 引言
    4.2 CG_ ARIMA组合模型
        4.2.1 目标函数的确立
        4.2.2 初值点的确定
    4.3 PHS_ ARIMA模型的应用
        4.3.1 算法执行过程
        4.3.2 实例分析
    4.4 FHS_ ARIMA模型的应用
        4.4.1 算法执行过程
        4.4.2 实例分析
    4.5 本章小结
结论
参考文献
攻读硕士学位期间承担的科研任务与主要成果
致谢



本文编号：3223235