稀疏与低秩理论及其应用研究
发布时间：2023-10-01 22:34
科学技术的发展使人类进入了大数据时代,很多行业和领域每天都会产生海量的数据,而对这些数据在可以容忍的时间内进行收集、管理和处理已经超过了传统技术的能力。数据处理最核心的挑战之一是如何从海量的数据中提取出有用的信息和知识为后续决策提供帮助,因此设计高效、高速的可以发现数据潜在模式、相关性以及其它有用知识的数据分析方法就变得越来越重要。由于数据固有的冗余特点,稀疏性和低秩性广泛存在于许多大数据应用中,这为大数据分析及处理提供了新的可能性。尽管大多数数据具备稀疏性,但是这些数据通常并不会在数据域上直接呈现稀疏特点,而是经过某种线性变换之后才稀疏。在很多应用中,信号表征的稀疏度水平可以显著地影响去噪、分类和聚类等应用的性能。因此,研究字典学习,即从数据中直接学习得到一组变换基使得数据在这些变换基下是最稀疏的,就显得很有意义。除了稀疏性,数据也常常呈现低秩性。人们可以利用数据的低秩特点对数据进行因子分析或特征提取等处理,然而由于实际应用中,数据普遍存在非完备的特点,导致许多传统的分析算法无法适用。因此,研究数据缺失条件下如何对数据进行补全和分析具有很高的学术和应用价值。针对上述问题,本文首先研究...
【文章页数】：132 页
【学位级别】：博士
【文章目录】：
摘要
abstract
缩略词表
主要符号表
第一章 绪论
1.1 研究工作的背景与意义
1.2 稀疏与低秩理论的研究现状
1.2.1 稀疏表征
1.2.1.1 字典学习
1.2.2 低秩理论
1.2.2.1 低秩矩阵填充
1.2.2.2 低秩张量分解
1.2.3 深度聚类
1.3 本文的主要贡献与创新
1.4 本文的结构安排
第二章 数学基础
2.1 张量基础回顾
2.2 优化工具简介
2.2.1 Majorization Minimization方法
2.2.2 变分贝叶斯推断
2.2.3 吉布斯采样算法
2.3 常见稀疏表征学习方法
2.3.1 贪婪算法
2.3.2 凸松弛算法
2.4 本章小结
第三章 基于高斯分层模型的稀疏贝叶斯字典学习
3.1 分层模型
3.2 基于变分贝叶斯的字典学习算法
3.3 基于吉布斯采样的字典学习算法
3.4 仿真结果
3.4.1 人工生成数据情况
3.4.2 图像去噪中的应用
3.5 本章小结
第四章 基于分层高斯先验模型的快速低秩贝叶斯矩阵填充
4.1 贝叶斯先验模型
4.2 基于变分贝叶斯推断的矩阵填充算法
4.3 内嵌广义近似消息传播的变分贝叶斯算法
4.3.1 利用广义近似消息传播求解(4-37)
4.3.2 讨论
4.4 仿真结果
4.4.1 人工生成数据
4.4.2 基因数据
4.4.3 协同过滤
4.4.4 图像填充
4.5 本章小结
第五章 迭代重加权非完备张量分解算法
5.1 问题建模
5.2 基于迭代重加权的非完备张量填充算法
5.3 一种可以高效计算的迭代重加权算法
5.3.1 超松弛MFISTA算法回顾
5.3.2 利用超松弛MFISTA解决(5-14)
5.4 仿真结果
5.4.1 人工生成数据以及化学计量学数据
5.4.2 图像填充
5.4.3 视频恢复
5.5 本章小结
第六章 基于图嵌入高斯混合变分自动编码机的深度聚类方法
6.1 基于图嵌入的高斯混合自动编码机
6.1.1 深度高斯混合模型
6.1.1.1 生成模型
6.1.1.2 推断模型
6.1.2 内含图嵌入的变分自动编码机
6.1.2.1 学习算法
6.1.2.2 参数更新
6.1.3 构建邻接矩阵
6.2 实验结果
6.2.1 人工生成数据
6.2.2 真实数据
6.2.3 生成图像
6.2.4 邻居数目对算法性能的影响研究
6.2.5 算法的计算复杂度
6.3 本章小结
第七章 总结与展望
7.1 主要结论
7.2 论文不足与研究展望
致谢
参考文献
附录A 部分公式证明与推导
A.1 公式(6-13)证明
A.2 公式(6-15)证明
A.3 公式(6-19)的详细推导
A.4 公式(6-21)的详细推导
攻读博士学位期间取得的成果
本文编号：3849568
【文章页数】：132 页
【学位级别】：博士
【文章目录】：
摘要
abstract
缩略词表
主要符号表
第一章 绪论
1.1 研究工作的背景与意义
1.2 稀疏与低秩理论的研究现状
1.2.1 稀疏表征
1.2.1.1 字典学习
1.2.2 低秩理论
1.2.2.1 低秩矩阵填充
1.2.2.2 低秩张量分解
1.2.3 深度聚类
1.3 本文的主要贡献与创新
1.4 本文的结构安排
第二章 数学基础
2.1 张量基础回顾
2.2 优化工具简介
2.2.1 Majorization Minimization方法
2.2.2 变分贝叶斯推断
2.2.3 吉布斯采样算法
2.3 常见稀疏表征学习方法
2.3.1 贪婪算法
2.3.2 凸松弛算法
2.4 本章小结
第三章 基于高斯分层模型的稀疏贝叶斯字典学习
3.1 分层模型
3.2 基于变分贝叶斯的字典学习算法
3.3 基于吉布斯采样的字典学习算法
3.4 仿真结果
3.4.1 人工生成数据情况
3.4.2 图像去噪中的应用
3.5 本章小结
第四章 基于分层高斯先验模型的快速低秩贝叶斯矩阵填充
4.1 贝叶斯先验模型
4.2 基于变分贝叶斯推断的矩阵填充算法
4.3 内嵌广义近似消息传播的变分贝叶斯算法
4.3.1 利用广义近似消息传播求解(4-37)
4.3.2 讨论
4.4 仿真结果
4.4.1 人工生成数据
4.4.2 基因数据
4.4.3 协同过滤
4.4.4 图像填充
4.5 本章小结
第五章 迭代重加权非完备张量分解算法
5.1 问题建模
5.2 基于迭代重加权的非完备张量填充算法
5.3 一种可以高效计算的迭代重加权算法
5.3.1 超松弛MFISTA算法回顾
5.3.2 利用超松弛MFISTA解决(5-14)
5.4 仿真结果
5.4.1 人工生成数据以及化学计量学数据
5.4.2 图像填充
5.4.3 视频恢复
5.5 本章小结
第六章 基于图嵌入高斯混合变分自动编码机的深度聚类方法
6.1 基于图嵌入的高斯混合自动编码机
6.1.1 深度高斯混合模型
6.1.1.1 生成模型
6.1.1.2 推断模型
6.1.2 内含图嵌入的变分自动编码机
6.1.2.1 学习算法
6.1.2.2 参数更新
6.1.3 构建邻接矩阵
6.2 实验结果
6.2.1 人工生成数据
6.2.2 真实数据
6.2.3 生成图像
6.2.4 邻居数目对算法性能的影响研究
6.2.5 算法的计算复杂度
6.3 本章小结
第七章 总结与展望
7.1 主要结论
7.2 论文不足与研究展望
致谢
参考文献
附录A 部分公式证明与推导
A.1 公式(6-13)证明
A.2 公式(6-15)证明
A.3 公式(6-19)的详细推导
A.4 公式(6-21)的详细推导
攻读博士学位期间取得的成果
本文编号：3849568
本文链接：https://www.wllwen.com/kejilunwen/ruanjiangongchenglunwen/3849568.html
