矩阵优化问题的数值算法

发布时间：2017-04-16 18:09

  本文关键词：矩阵优化问题的数值算法，由笔耕文化传播整理发布。

【摘要】：矩阵优化问题(Matrix Optimization Problems)是指目标函数或约束函数中含有矩阵变量的优化问题,这类问题大量出现在工程计算、金融分析、机器学习、数据挖掘、高维统计等领域.伴随着大数据时代的来临,矩阵优化(Matrix Optimization)逐渐成为最优化领域的一个重要分支.在本论文中我们研究了三类矩阵优化问题的数值算法,包括求解一类l22-lpp矩阵极小化问题的光滑化Majorization方法、求解一类半定二次规划逆问题的交替方向方法、求解一类阻尼陀螺特征值逆问题的基于加速邻近梯度策略的增广Lagrange算法.本论文的主要内容概括如下：1.论文的第三章研究了求解一类l22-lpp矩阵极小化问题的光滑化Majorization方法,其中ι22-ιpp模型是求解矩阵秩极小化问题的一类非凸正则化模型.首先,借助问题的一阶和二阶必要条件给出了问题局部最优解处非零奇异值的下界估计.然后,使用光滑化技术和Majorization算法来改善lpp矩阵拟范数的分析性质,同时构造对应的光滑化模型、设计光滑化Majorization算法.收敛性定理表明：由算法生成的迭代点列的任一聚点均满足ι22-ιpp矩阵极小化问题的一阶必要条件.最后,将提出的算法与非零奇异值的下界估计相结合应用于求解矩阵完整化问题.2.论文的第四章研究了一类半定二次规划逆问题,并且针对此问题提出了一个交替方向方法.在这一方法中,一个方向的子问题具有显式解,而另一方向的子问题可以在一些假设条件下转化为一个定义在低维半正定锥上的严格凸半定二次规划问题.进一步给出了求解此矩阵优化子问题的谱投影梯度算法并证明了其收敛性.数值结果表明：与牛顿类算法相比,本论文提出的算法容易操作和编写相应程序,能够快速地得到问题的最优解.3.论文的第五章在增广Lagrange算法框架下考虑阻尼陀螺特征值逆问题的求解算法,其中子问题用加速邻近梯度算法求解.在通常的假设条件下,证明了算法的全局收敛性.在没有任何正则性条件的假设下,通过分析算法的迭代复杂度得到：算法仅需要至多O(log(ε-1))次迭代和至多0(ε-1)次加速邻近梯度计算就能得到问题ε可行、ε最优的数值解.
【关键词】：矩阵优化 l_2~2-l_p~p矩阵极小化问题 光滑化Majorization方法 半定二次规划逆问题 交替方向方法 阻尼陀螺特征值逆问题 加速邻近梯度算法 增广Lagrange算法
【学位授予单位】：大连理工大学
【学位级别】：博士
【学位授予年份】：2015
【分类号】：O151.21
【目录】：

• 摘要4-5
• Abstract5-11
• 图目录11
• 表目录11-12
• 主要符号表12-13
• 1 绪论13-23
• 1.1 矩阵优化问题的简介13-15
• 1.2 矩阵优化问题的研究现状15-21
• 1.2.1 矩阵秩优化问题的算法研究现状16-17
• 1.2.2 半定二次规划逆问题的算法研究现状17-20
• 1.2.3 阻尼陀螺特征值逆问题的算法研究现状20-21
• 1.3 本论文的主要内容21-23
• 2 预备知识23-31
• 2.1 变分分析中的基本概念和结论23-25
• 2.2 矩阵分解的相关结论25-26
• 2.3 对称矩阵谱函数的性质26-28
• 2.4 算法的基本思想28-31
• 2.4.1 交替方向算法28-29
• 2.4.2 谱投影梯度算法29
• 2.4.3 Majorization算法29-31
• 3 求解一类l_2~2-l_p~p矩阵极小化问题的光滑化Majorization方法31-57
• 3.1 引言31-32
• 3.2 下界分析32-37
• 3.3 光滑化模型37-42
• 3.4 光滑化Majorization算法42-48
• 3.5 数值实验48-55
• 3.5.1 矩阵完整化问题49-52
• 3.5.2 算法比较52-55
• 3.6 本章小结55-57
• 4 求解一类半定二次规划逆问题的交替方向方法57-75
• 4.1 引言57
• 4.2 交替方向方法57-71
• 4.2.1 子问题(4.8)的求解60
• 4.2.2 子问题(4.9)的求解60-65
• 4.2.3 求解子问题(4.28)的谱投影梯度算法65-70
• 4.2.4 交替方向方法的停止准则70-71
• 4.3 数值实验71-74
• 4.3.1 算法ADM-ISDQP的测试72
• 4.3.2 算法比较72-74
• 4.4 本章小结74-75
• 5 求解一类阻尼陀螺特征值逆问题的增广Lagrange算法75-103
• 5.1 引言75-78
• 5.2 基于加速邻近梯度策略的增广Lagrange算法78-84
• 5.2.1 求解子问题(P~v)的加速邻近梯度算法81-83
• 5.2.2 关于停止准则ITER-stop和GARD-stop的讨论83-84
• 5.3 收敛性结果84-90
• 5.4 迭代复杂度分析90-96
• 5.5 数值实验96-102
• 5.5.1 求解子问题的线搜索算法96-100
• 5.5.2 算法比较100-101
• 5.5.3 求解结构化工程问题中阻尼陀螺特征值逆问题101-102
• 5.6 本章小结102-103
• 6 结论与展望103-105
• 6.1 结论103
• 6.2 创新点103-104
• 6.3 展望104-105
• 参考文献105-111
• 附录111-115
• 攻读博士学位期间发表学术论文情况115-117
• 致谢117-119
• 作者简介119

  本文关键词：矩阵优化问题的数值算法，，由笔耕文化传播整理发布。

本文编号：311367