基于动态Gibbs采样的RBM训练算法研究

发布时间：2020-01-20 13:51

【摘要】：目前大部分受限玻尔兹曼机(Restricted Boltzmann machines,RBMs)训练算法都是以多步Gibbs采样为基础的采样算法.本文针对多步Gibbs采样过程中出现的采样发散和训练速度过慢的问题,首先,对问题进行实验描述,给出了问题的具体形式;然后,从马尔科夫采样的角度对多步Gibbs采样的收敛性质进行了理论分析,证明了多步Gibbs采样在受限玻尔兹曼机训练初期较差的收敛性质是造成采样发散和训练速度过慢的主要原因;最后,提出了动态Gibbs采样算法,给出了对比仿真实验.实验结果表明,动态Gibbs采样算法可以有效地克服采样发散的问题,并且能够以微小的运行时间为代价获得更高的训练精度.

【相似文献】

相关期刊论文 前10条

1 李彦,王国红,卢虎;基于Matlab的“Gibbs现象”的仿真研究[J];西安石油学院学报(自然科学版);2000年03期

2 黄静;马建华;路利军;毕一鸣;陈武凡;;基于广义Gibbs先验的优质PET成像[J];电子学报;2010年04期

3 黄河,李政,倪维斗;Gibbs反应器模型及其计算机实现[J];动力工程;2004年06期

4 ;Cimatron将在德国销售Gibbs CAM[J];现代制造;2008年40期

5 朱成文;李兵;胡奎;;HMM参数估计的Gibbs抽样算法[J];计算机工程与应用;2012年18期

6 马晓川,侯朝焕,赵荣椿;一种新的纹理图像Gibbs模型[J];计算机学报;1998年S1期

7 马建华;黄静;陈阳;陈凌剑;陈武凡;;基于广义Gibbs先验的低剂量X-CT优质重建研究[J];计算机工程与应用;2008年16期

8 江贵平;黄鑫;冯衍秋;陈武凡;;一种适用于真实人体数据能有效消除Gibbs伪影的MR重建新算法[J];计算机学报;2007年11期

9 周寿军,梁斌,陈武凡;一种基于模糊Gibbs随机场的运动估计新算法[J];中国图象图形学报;2004年06期

10 冯前进;黄鑫;冯衍秋;;基于Chebyshev多项式的消除Gibbs伪影的快速算法[J];中国图象图形学报;2006年08期

相关会议论文 前1条

1 刘文忠;张沅;;贝叶斯方差组分估计中Gibbs链的收敛诊断[A];中国青年农业科学学术年报[C];2002年

相关博士学位论文 前2条

1 林亚忠;基于Gibbs随机场模型的医学图像分割新算法研究[D];第一军医大学;2004年

2 王秀丽;Gibbs系综Monte Carlo方法研究流体相平衡[D];天津大学;2004年

相关硕士学位论文 前8条

1 逄荣荣;基于Gibbs抽样法及模拟过滤法对前馈环调控速率的估计[D];苏州大学;2010年

2 惠丰;乙烯—醋酸体系汽液相平衡的Gibbs系综蒙特卡罗模拟研究[D];天津大学;2012年

3 唐n，

本文编号：2571295