若干基于变分贝叶斯的正则化理论和方法

发布时间：2022-01-25 22:03

　　科学与工程中许多的反问题需要利用观测信息尽可能地重构难以直接获取的缺失信息。这些缺失的信息包括源信息,如:盲源分离问题中的源信号,或模型参数,如:神经网络中网络权重。然而,反问题中有限的观测信息往往引起各类棘手的挑战,如:盲源分离中病态性的问题,神经网络中过拟合的问题。正则化技术通过引入对缺失信息的先验知识,为弥补观测信息不足的问题提供了一种有效的途径。在各类正则化技术中,贝叶斯正则化能天然地通过先验模型并入对缺失信息的先验知识,有效地正则化反问题的解空间,为求解反问题提供了坚实的理论和方法上的支撑。本论文立足于变分贝叶斯理论,围绕三个典型的反问题开展研究,包括:盲源分离、图像去模糊化和神经网络的过拟合问题。其主要研究成果如下:1基于帧化变分贝叶斯的独立和相关源分离。为降低传统变分贝叶斯学习方法的计算复杂度,本文提出了一种帧化变分贝叶斯学习框架。该框架划分观测信号和源信号为帧,在基于每帧的基础上实现变分推导,因此相对于传统基于整体信号的变分贝叶斯学习,具有较低的计算成本。另一方面,区别于在线变分贝叶斯学习和序列贝叶斯学习,所提出的框架对于每帧的混迭矩阵统一建模,保证了估计的混迭矩阵的一... 

【文章来源】：武汉大学湖北省 211工程院校 985工程院校 教育部直属院校

【文章页数】：107 页

【学位级别】：博士

【部分图文】：

图１．１：盲源分离示例：鸡尾酒会议中，众多通过发声的人群导致混迭的声音信号

图１．２：图像去樣糊化示例／由于相机在曝光过程中，相机自身的抖动逶成模糊的图像

图１．４：三类问题的关联??

【参考文献】：
期刊论文
[1]贝叶斯机器学习前沿进展综述[J]. 朱军,胡文波.  计算机研究与发展. 2015(01)

博士论文
[1]深度模型简化：存储压缩和计算加速[D]. 李皈颖.中国科学技术大学 2018
[2]分布式变分贝叶斯算法及其应用[D]. 华俊豪.浙江大学 2018
[3]运动模糊估计的理论、算法及其应用[D]. 潘金山.大连理工大学 2017
[4]盲源信号分离算法研究及应用[D]. 李成杰.电子科技大学 2017



本文编号：3609277