一类约束矩阵最小二乘问题的理论与算法

发布时间：2020-05-22 22:58

【摘要】：最小二乘问题是数值代数领域的经典研究课题之一,求解最小二乘问题的理论与算法在结构设计、参数识别、振动理论以及线性最优控制等领域均有广泛应用。本篇硕士论文主要研究一类非负约束下的矩阵最小二乘问题,该问题主要是用于处理来源于医学图像重建,放射治疗中的逆问题以及计算分离超平面等理论与实际应用问题中的不相容线性不等式组。这类非负约束最小二乘问题的解是相应线性不等式组在最小二乘意义下的最佳逼近解,特别当该最小二乘问题的目标函数值为零时,表明相应的线性不等式组是相容的。尽管这一类非负约束最小二乘问题的目标函数为凸函数,而且相应的梯度是全局Lipschitz连续的,但是与经典的非负约束最小二乘问题(NNLS)不同,该问题的解可能不唯一,而且其目标函数的二阶Jacobi矩阵不存在。因此不能直接利用求解凸优化问题的二阶方法直接求解这一类非负约束最小二乘问题。由于这类非负约束最小二乘问题的目标函数是半光滑的,因此可以尝试利用半光滑牛顿法的思想求解这类非负约束最小二乘问题。本篇硕士论文基于罚函数方法,将该非负约束最小二乘问题转化为一类无约束的凸优化问题,在此基础上,利用基于广义Jacobi的修正牛顿法进行求解,并给出了相应算法的收敛性证明。为了保证解的非负性和广义Jacobi矩阵的正定性,该方法需要引入较大的罚参数和较小的修正因子,这可能导致数值算法的不稳定性。为此,本篇硕士论文将深入研究该类非负约束最小二乘问题的解的特征,利用Hilbert空间中经典的最佳逼近定理和极分解定理给出该类非负约束最小二乘问题解的充分必要条件。在现有研究的基础上,本文还将提出求解该问题的精确固定矩阵迭代方法。由于精确固定矩阵迭代方法的每一步都需要求一个经典的非负约束最小二乘子问题(NNLS)的精确解,因此该方法的计算量大,不适合求解规模较大的问题,从而本文将基于Armijo搜索条件,提出相应的不精确迭代方法,并分别给出精确和不精确矩阵迭代方法的收敛性证明。当迭代的逼近解接近于这类非负约束最小二乘问题的真解时,本文提出的精确与不精确固定矩阵迭代方法不能保证相应迭代解的目标函数值具有足够的下降量,因此本文还将讨论关于精确与不精确固定矩阵迭代方法的积极集策略。通过不断更新迭代解对应的积极集,将原问题转化为一个无约束最小二乘问题,并把该无约束最小二乘问题的解作为下一步迭代的下降方向,保证每一步迭代具有足够的下降量,从而进一步提高精确与不精确固定矩阵迭代方法的计算效率。最后我们将通过多个数值算例来验证本文理论结果的正确性和数值方法的有效性,并比较本文所提出算法的计算效率。
【学位授予单位】：湖南大学
【学位级别】：硕士
【学位授予年份】：2018
【分类号】：O241.5

【相似文献】

相关期刊论文 前10条

1 孙艳波;;非负线性最小二乘问题与线性互补问题及不动点问题的等价性[J];安徽师范大学学报(自然科学版);2015年06期

2 贡平邺;;最小二乘问题的研究现状[J];洛阳师范学院学报;2012年02期

3 王茜;;广义不定最小二乘问题的扰动分析(英文)[J];华东师范大学学报(自然科学版);2009年04期

4 王明辉;;一个约束最小二乘问题(英文)[J];科学技术与工程;2009年22期

5 陈忠,黄惠;求解非线性最小二乘问题的迭代法[J];武汉大学学报(理学版);2003年01期

6 高坚,贺秉庚;用神经网络解非线性最小二乘问题[J];工科数学;2002年04期

7 桂冰;用分块的高斯─约当方法求解最小二乘问题[J];工科数学;1994年02期

8 刘钦圣;线性最小二乘问题解法的某些进展[J];数学的实践与认识;1991年04期

9 魏木生,陈果良;加权总体最小二乘问题的分析[J];计算数学;1993年01期

10 汤健康;用2-块SSOR求解稀疏最小二乘问题的收敛性[J];高等学校计算数学学报;1988年02期

相关会议论文 前5条

1 刘歆;;求解可分非线性最小二乘问题的新方法(英文)[A];中国运筹学会第八届学术交流会论文集[C];2006年

2 刘歆;;二次最小二乘问题的全局化算法(英文)[A];中国运筹学会第九届学术交流会论文集[C];2008年

3 江潇;殷洪友;;一种解非负线性最小二乘问题的新算法[A];中国运筹学会第九届学术交流会论文集[C];2008年

4 毛剑琴;石永辉;K.HUNG;;最小二乘问题求解专家系统的探讨[A];1990年控制理论及其年会应用论文集（3）[C];1990年

5 杨振宇;周鸿兴;;分布参数MIMO控制系统反求输入的线性最小二乘问题[A];1993年控制理论及其应用年会论文集[C];1993年

相关博士学位论文 前10条

1 刘巧华;若干最小二乘问题的舍入误差研究[D];华东师范大学;2005年

2 裘渔洋;线性约束矩阵最小二乘问题：理论与算法[D];浙江大学;2007年

3 王明辉;Procrustes问题的迭代解法和两个矩阵扰动问题[D];华东师范大学;2008年

4 王茜;系统解耦和极点配置问题与不定最小二乘问题[D];华东师范大学;2009年

5 罗自炎;Lyapunov-type对称锥规划[D];北京交通大学;2010年

6 吴颉尔;正则化方法及其在模型修正中的应用[D];南京航空航天大学;2007年

7 唐利民;非线性最小二乘的不适定性及算法研究[D];中南大学;2011年

8 胡淼;振动式离心机动态性能优化设计关键技术与方法研究[D];天津大学;2012年

9 张剑尘;几类特殊约束矩阵方程问题及其最佳逼近问题[D];湖南大学;2009年

10 赵丽君;几类特殊线性约束矩阵方程问题及其最佳逼近问题[D];湖南大学;2008年

相关硕士学位论文 前10条

1 侯燕;最小二乘问题精确罚的光滑牛顿-最速下降算法[D];北京交通大学;2018年

2 常璐;一类约束矩阵最小二乘问题的理论与算法[D];湖南大学;2018年

3 杨玲玲;带多重右边的不定最小二乘问题的条件数[D];重庆大学;2017年

4 马鹏;多右端项最小二乘问题的条件数研究[D];兰州大学;2018年

5 曹新宇;分布鲁棒最小二乘问题的理论研究及其应用[D];辽宁师范大学;2018年

6 欧洋君;几类矩阵方程不定最小二乘问题的研究[D];湖南科技大学;2011年

7 张宏伟;关于最小二乘问题近似解误差估计的进一步研究[D];中国海洋大学;2011年

8 江潇;非负最小二乘问题的算法研究[D];南京航空航天大学;2009年

9 郑昭静;稀疏最小二乘问题的求解及其应用[D];中国石油大学（华东）;2013年

10 李鹏程;新的求解超大规模最小二乘问题的随机算法[D];西安电子科技大学;2013年

，

本文编号：2676744