低秩矩阵近似理论与应用
本文关键词:低秩矩阵近似理论与应用,由笔耕文化传播整理发布。
【摘要】:低秩矩阵近似,是机器学习、数值优化、理论计算机科学等领域的重要研究方向。它既有严格的理论基础,在实际问题中,也有着广泛的应用。低秩矩阵近似的本质是利用高维空间中的低维结构,寻找一个合适的低秩矩阵来近似原来的复杂矩阵,使得低秩矩阵既能够较好地保持原来复杂矩阵的诸多性质,又能够有效地减少冗余信息和噪声,从而降低存储空间和计算量。近年来,使用非凸松弛的方法来求解低秩矩阵近似问题受到越来越多的关注。一些理论分析和实验验证表明,相比于凸松弛方法,非凸松弛可以对实际问题有着更好的近似,能够更好地刻画实际问题的本质属性。然而,非凸优化问题具有很高的复杂性,设计快速高效的优化算法去求解非凸优化问题是一项巨大的挑战。本文使用更加简单、直观、灵活的非凸加权核范数作为低秩惩罚项,并提出一种解决低秩矩阵近似问题的统一的、非凸的框架。同时,本文提出一种叫做迭代收缩阈值与权值再分配算法(ISTRA),来求解上述非凸的低秩矩阵近似问题。在理论方面,本文证明了在一定假设下,ISTRA算法能够有效地收敛到目标函数的局部最优解,即稳定点,并有次线性的收敛速度。在合成数据和实际图像数据上的矩阵补全实验表明,本文提出的迭代收缩阈值与权值再分配算法(ISTRA)能够有效地恢复低秩矩阵,在精确度和速度上,都能超过当前最好的低秩矩阵恢复算法。
【关键词】:低秩矩阵近似 非凸松弛 非凸优化 矩阵补全 加权核范数 迭代收缩阈值与权值再分配算法
【学位授予单位】:中国科学技术大学
【学位级别】:硕士
【学位授予年份】:2016
【分类号】:O151.21;TP18
【目录】:
- 摘要5-6
- ABSTRACT6-9
- 主要符号对照表9-10
- 第一章 绪论10-16
- 1.1 引言10
- 1.2 研究背景与意义10-11
- 1.3 国内外研究现状11-12
- 1.4 本文主要工作与贡献12-13
- 1.5 本文组织结构13-16
- 第二章 低秩矩阵近似相关工作概述16-26
- 2.1 低秩矩阵近似的理论研究16-22
- 2.1.1 低秩矩阵近似的问题定义16-17
- 2.1.2 低秩矩阵近似的凸松弛方法17-19
- 2.1.3 低秩矩阵近似与稀疏优化的联系19-20
- 2.1.4 低秩矩阵近似的非凸松弛方法20-22
- 2.1.5 基于矩阵分解的方法22
- 2.2 低秩矩阵近似的应用22-25
- 2.2.1 推荐系统22-23
- 2.2.2 鲁棒主成分分析23-25
- 2.2.3 其它应用25
- 2.3 本章小结25-26
- 第三章 低秩矩阵近似问题的优化算法26-32
- 3.1 凸优化方法26-28
- 3.1.1 半定规划方法26
- 3.1.2 Proximal梯度法26-28
- 3.2 非凸优化方法28-31
- 3.2.1 交替优化方法29
- 3.2.2 交替方向乘子法29-31
- 3.3 本章小结31-32
- 第四章 迭代收缩阂值与权值再分配算法ISTRA32-52
- 4.1 问题定义32-33
- 4.2 基本方法33-39
- 4.2.1 构造Proximal问题33-35
- 4.2.2 权值再分配策略35-37
- 4.2.3 迭代收缩阈值与权值再分配算法ISTRA37-39
- 4.3 收敛性分析39-43
- 4.3.1 步长有界39-40
- 4.3.2 收敛结果40-42
- 4.3.3 收敛速度42
- 4.3.4 与Majorization Minimization方法的联系42-43
- 4.4 实验分析43-50
- 4.4.1 合成数据实验44-46
- 4.4.2 实际图像数据实验46-50
- 4.5 本章小结50-52
- 第五章 结论与展望52-54
- 5.1 工作内容总结52-53
- 5.2 下一步工作展望53-54
- 参考文献54-58
- 致谢58-60
- 在读期间发表的学术论文与取得的研究成果60
【相似文献】
中国期刊全文数据库 前10条
1 李耀堂,关莉;块H-矩阵的简捷判据[J];延安大学学报(自然科学版);2000年04期
2 陈飞翔;武忠祥;;一类关于矩阵范数的不等式及其应用[J];河南科学;2009年02期
3 洪光焱;;相容矩阵范数的延拓[J];数学理论与应用;2009年02期
4 王植棠;矩阵范数||A||_(α,β)[J];阜新矿业学院学报;1986年01期
5 高科华;一类实对称矩阵范数的估计[J];十堰大学学报;1988年00期
6 耿济;;矩阵的追迹与范数(二)[J];海南大学学报(自然科学版);1989年03期
7 孙继涛;;区间矩阵的稳定性研究[J];华东冶金学院学报;1992年03期
8 张银萍;;时变区间矩阵的稳定性研究[J];华东冶金学院学报;1993年02期
9 蹇继贵;王仁明;;n阶时变区间矩阵的稳定性[J];葛洲坝水电工程学院学报;1994年01期
10 张喜平;几类矩阵范数之间的关系[J];高等学校计算数学学报;1997年01期
中国重要会议论文全文数据库 前1条
1 张银萍;孙继涛;;时变区间矩阵稳定的判别准则[A];1993中国控制与决策学术年会论文集[C];1993年
中国博士学位论文全文数据库 前8条
1 陈彩华;求解一类矩阵范数逼近问题的数值算法[D];南京大学;2012年
2 郭少艳;两类矩阵优化问题的扰动分析[D];大连理工大学;2016年
3 陈小山;矩阵扰动若干问题研究[D];华南师范大学;2007年
4 潘小平;几类矩阵的约束特征值反问题及其最佳逼近问题[D];湖南大学;2005年
5 庹清;广义对角占优矩阵的数值判定方法[D];湘潭大学;2011年
6 李朝迁;矩阵和高阶张量特征值的定位与估计[D];云南大学;2012年
7 王峰;H-矩阵(张量)的判定及其Schur补研究[D];云南大学;2014年
8 侍兴华;矩阵和张量计算中的若干问题研究[D];复旦大学;2013年
中国硕士学位论文全文数据库 前10条
1 靳志祥;酉变换下对矩阵不等式的推广[D];曲阜师范大学;2015年
2 吴霓;矩阵幂的展开及其应用[D];浙江工商大学;2015年
3 仲小伟;低秩矩阵近似理论与应用[D];中国科学技术大学;2016年
4 冉水秀;块H-矩阵与广义H-矩阵性质的研究[D];湘潭大学;2012年
5 匡巧英;H-矩阵和广义H-矩阵的一些判别方法[D];湘潭大学;2013年
6 周立新;H-矩阵和块矩阵的若干性质[D];湘潭大学;2008年
7 何安旗;H-矩阵的一些直接和迭代判别法[D];湘潭大学;2007年
8 陈愈;矩阵对数的计算及其在信用风险定量分析中的应用[D];复旦大学;2007年
9 冉艳丽;矩阵数值特征界的新估计[D];重庆大学;2010年
10 胡荣春;托普利兹矩阵的一种分解带状逆预处理矩阵[D];汕头大学;2010年
本文关键词:低秩矩阵近似理论与应用,,由笔耕文化传播整理发布。
本文编号:372850
本文链接:https://www.wllwen.com/kejilunwen/yysx/372850.html