解线性约束非线性方程组的无导数方法及其理论分析

发布时间：2017-07-08 20:30

  本文关键词：解线性约束非线性方程组的无导数方法及其理论分析

  更多相关文章： 无导数优化 信赖域 非线性方程组 内点 Levenberg-Marquardt模型 张量模型

【摘要】：最优化问题在工业、农业、国防、通信等领域都有广泛的应用。特别是随着近些年来计算机技术的不断发展,各类软件的不断完善,快速、高效的求解最优化问题显得越来越重要,也成为现实。在众多求解最优化问题的方法中,线搜索技术与信赖域策略是研究算法的全局收敛性的两个重要的手段,同时,与其相应的问题张量是解非线性方程组的数值方法,在合理的条件下,上述方法还具有超线性及二次收敛速率。本文针对解约束及无约束非线性方程组问题,将其转化为最优化问题,在最优化问题目标函数导数信息难以获得的情况下,提出了各类无导数算法,并研究其收敛性,以及数值实现。信赖域方法主要思想是在当前迭代点的某个邻域内极小化目标函数的一个合适的二次模型,并不断校正信赖域半径,得到一个可以接受的方向步。本文给出了解有界约束的非线性方程组的无导数信赖域内点算法。利用插值函数构造信赖域子问题,通过引入仿射变换矩阵将有界约束转化为仿射信赖域子问题,并结合线搜索技术得到严格内部可行点。对于带有线性不等式约束的非线性方程组,通过构造相应的仿射变换矩阵,同样可以将原问题的子问题转化为只有椭球约束的信赖域子问题。线索搜技术的应用使得算法在运算过程中避免反复求解信赖域子问题,提高了算法的效率并保证得到严格内部可行点,在合理的条件下所给出的这类算法具有全局收敛性和超线性收敛速率。数值结果表明了算法的有效性。Levenberg-Marquardt算法是求解非线性方程组问题的一类常用方法。在利用Levenberg-Marquardt模型求解问题的过程中,每次迭代一般要求得到精确解,然而,对于大规模问题,求出模型精确解计算量较大,为了克服这一困难,在很多情况下不精确模型起到了非常重要的作用。在本文中,利用插值函数构造无导数LevenbergMarquardt算法,为了保证插值模型与原问题具有较好的近似度,要求插值点集合具有Λ-稳定性,并且插值半径趋于0,为了达到这一目的,算法中利用插值函数梯度的范数来更新插值半径。通过引入仿射变换矩阵,并求解一个严格凸函数的近似解得到迭代方向,当该迭代方向不严格可行时,利用回溯线搜索技术得到可接受的步长因子。该步长因子不仅保证新的迭代点有足够的下降量,而且使得它位于可行域的内部,在局部误差界的假设下,证明了此类方法具有超线性和二次收敛速率。数值测试表明算法的可行性与有效性。张量方法是求解无约束非线性方程组的一类有效的方法。这种方法主要用来求解Jacobi矩阵奇异或者病态情况下的非线性方程组。本文利用插值函数构造原问题的无导数张量模型。同样利用梯度范数更新插值半径,保证插值模型与原问题具有较好的近似度。根据Jacobi矩阵的不同情况,分别利用曲线线搜索技术和Block 2模型求解张量模型,得到近似张量步,并利用2维信赖域策略保证算法具有全局收敛性。数值实验表明了以上所给算法的可行性和有效性。本文最后对所做工作进行总结并提出了进一步的研究方向。
【关键词】：无导数优化 信赖域 非线性方程组 内点 Levenberg-Marquardt模型 张量模型
【学位授予单位】：上海师范大学
【学位级别】：博士
【学位授予年份】：2015
【分类号】：O241.7;O224
【目录】：

• 摘要5-7
• Abstract7-11
• 主要符号对照表11-12
• 第一章 最优化理论与方法的基础12-23
• 1.1 最优化问题简介12-13
• 1.2 最优化条件13-14
• 1.3 最优化问题的算法迭代格式14-16
• 1.4 函数插值16-18
• 1.5 线搜索技术与信赖域策略18-19
• 1.6 非线性方程组系统的方法19-23
• 第二章 有界变量约束非线性方程组的无导数信赖域方法23-62
• 2.1 前言23-24
• 2.2 信赖域子问题24-27
• 2.3 无导数算法27-31
• 2.4 全局收敛性31-44
• 2.5 局部收敛速率44-57
• 2.6 数值实验57-62
• 第三章 线性不等式约束非线性方程组的无导数信赖域方算法62-91
• 3.1 前言62-63
• 3.2 信赖域子问题63-66
• 3.3 算法66-69
• 3.4 全局收敛性69-79
• 3.5 局部收敛速率79-87
• 3.6 数值结果87-91
• 第四章 线性不等式约束非线性方程组的无导数L-M方法91-118
• 4.1 引言91-93
• 4.2 算法93-95
• 4.3 全局收敛性95-99
• 4.4 局部收敛速率99-115
• 4.5 数值实验115-118
• 第五章 非线性方程组的无导数张量方法118-134
• 5.1 引言118-119
• 5.2 无导数插值模型119-121
• 5.3 无导数张量模型121-123
• 5.4 曲线线搜索步123-124
• 5.5 Block-2 模型124-127
• 5.6 信赖域张量模型127-128
• 5.7 算法128-132
• 5.8 数值结果132-134
• 第六章 小结134-136
• 参考文献136-144
• 致谢144-145
• 攻读博士学位期间的研究成果14

【相似文献】

中国期刊全文数据库 前10条

1 欧阳艾嘉;刘利斌;贺明华;周旭;李肯立;;求解非线性方程组的混合人口迁移算法[J];计算机工程与应用;2012年25期

2 陶会;曾德强;覃燕梅;;求解非线性方程组的一种新的数值方法[J];内江师范学院学报;2012年10期

3 胡锡恒;一类含幅、相等式的非线性方程组的线性化及其应用[J];应用数学和力学;1982年04期

4 谷同祥,王能超;松弛型并行多分裂方法解非线性方程组的安全界[J];应用数学;1995年03期

5 赵华敏,陈开周;解多元非线性方程组的一个非线性迭代法[J];西安公路交通大学学报;2001年02期

6 刘健,袁建平;一种求解非线性方程组的混沌算法[J];哈尔滨商业大学学报(自然科学版);2001年01期

7 黄书盛;遗传算法用于求解非线性方程组[J];漳州职业技术学院学报;2005年02期

8 彭灵翔;李于锋;;用实数编码遗传算法解非线性方程组[J];延安大学学报(自然科学版);2007年02期

9 张建文;丁霞霞;邹杰涛;;一类耦合非线性方程组的整体解[J];数学的实践与认识;2011年13期

10 朱铁锋;;求解非线性方程组的一种新方法及应用[J];齐齐哈尔大学学报(自然科学版);2012年01期

中国重要会议论文全文数据库 前5条

1 杨本立;;非线性方程组行处理法[A];数学·物理·力学·高新技术研究进展（一九九六·第六期）——中国数学力学物理学高新技术交叉研究会第6届学术研讨会论文集[C];1996年

2 董晓亮;李郴良;唐清干;;解非线性方程组的一类偏序区间快速松弛迭代算法[A];第八届中国青年运筹信息管理学者大会论文集[C];2006年

3 邱宽;;爬山遗传算法在非线性方程组中求解的应用[A];2010通信理论与技术新发展——第十五届全国青年通信学术会议论文集（下册）[C];2010年

4 王冬冬;李哲;梁丽;周永权;;基于改进人工鱼群算法求解多元非线性方程组[A];2009年中国智能自动化会议论文集（第一分册）[C];2009年

5 韩正之;林家骏;;用神经网络求解非线性相容方程[A];1993年控制理论及其应用年会论文集[C];1993年

中国博士学位论文全文数据库 前3条

1 葛仁东;关于奇异的非线性方程组与奇异的非线性最优化方法的研究[D];大连理工大学;2004年

2 王鹏;解线性约束非线性方程组的无导数方法及其理论分析[D];上海师范大学;2015年

3 刘浩;大规模非线性方程组和无约束优化方法研究[D];南京航空航天大学;2008年

中国硕士学位论文全文数据库 前10条

1 关洪波;求解凸约束单调的非线性方程组的两种算法[D];湖南大学;2011年

2 邱明伦;求解非线性方程组的方法研究[D];西南石油大学;2012年

3 代璐璐;非线性方程组的迭代解法[D];合肥工业大学;2012年

4 秦小军;非线性方程组的加速迭代解法[D];上海交通大学;2010年

5 曾金龙;非线性方程组的修正Levenberg-Marquardt方法[D];上海交通大学;2013年

6 陈飞;大规模非线性方程组的几类算法研究[D];中国矿业大学;2014年

7 陈新龙;约束单调非线性方程组和奇异凸优化问题的牛顿型算法研究[D];长沙理工大学;2013年

8 晁玉翠;求解非线性方程组的修正牛顿法研究[D];哈尔滨工业大学;2007年

9 张旭;求解非线性方程组的几种迭代方法[D];合肥工业大学;2014年

10 张华仁;非线性方程组奇异问题的数值解法[D];中国石油大学;2009年

，

本文编号：536218