最小二乘问题精确罚的光滑牛顿-最速下降算法
发布时间:2021-10-20 18:58
约束非线性最小二乘问题在科学实验、科学计算、预测、仿真、设计和工程技术等领域有重要应用.本文对CNLLS问题采用Coleman等人提出的精确罚方法,通过引入罚项将约束问题转化为非光滑无约束问题.本文的主要贡献有两点.首先证明了 Coleman等人提出的一阶稳定点等价于非光滑优化中的Clarke稳定点,在此基础上构造精确罚函数的二次连续可微的光滑函数,提出光滑牛顿-最速下降算法,将光滑化技术与具有局部超线性收敛性的牛顿法与具有全局收敛性的最速下降法结合证明了任何聚点都是无约束问题的Clarke稳定点.在度量回归问题、二阶最小二乘问题进行的数值实验表明精确罚函数光滑牛顿-最速下降方法能够高效的解决约束非线性优化问题,并且数值表现明显优于光滑最速下降法。
【文章来源】:北京交通大学北京市 211工程院校 教育部直属院校
【文章页数】:50 页
【学位级别】:硕士
【文章目录】:
中文摘要
ABSTRACT
第1章 绪论
1.1 引言
1.2 精确罚函数
1.3 光滑化理论
1.4 逼近l_1精确罚函数的光滑罚函数
第2章 最小二乘问题精确罚的理论分析
2.1 无约束非光滑精确罚的一阶稳定点
2.2 稳定点之间的等价性
2.3 精确罚函数的二阶连续可微光滑化
第3章 光滑牛顿-最速下降法
3.1 算法设计
3.2 全局收敛性分析
3.3 可能的改进及推广
第4章 数值实验
4.1 线性约束最小二乘问题
4.2 非线性约束二阶最小二乘问题
第5章 结论
参考文献
作者简历
学位论文数据集
本文编号:3447429
【文章来源】:北京交通大学北京市 211工程院校 教育部直属院校
【文章页数】:50 页
【学位级别】:硕士
【文章目录】:
中文摘要
ABSTRACT
第1章 绪论
1.1 引言
1.2 精确罚函数
1.3 光滑化理论
1.4 逼近l_1精确罚函数的光滑罚函数
第2章 最小二乘问题精确罚的理论分析
2.1 无约束非光滑精确罚的一阶稳定点
2.2 稳定点之间的等价性
2.3 精确罚函数的二阶连续可微光滑化
第3章 光滑牛顿-最速下降法
3.1 算法设计
3.2 全局收敛性分析
3.3 可能的改进及推广
第4章 数值实验
4.1 线性约束最小二乘问题
4.2 非线性约束二阶最小二乘问题
第5章 结论
参考文献
作者简历
学位论文数据集
本文编号:3447429
本文链接:https://www.wllwen.com/kejilunwen/yysx/3447429.html