高效的贝叶斯推理电路设计及应用
发布时间：2020-11-19 03:45
随着计算机技术与人工智能领域的不断发展,人们已经开始在各行各业中引入机器来取代人做出各种判决。而由于庞大的计算量与复杂的模型制约,人们也更愿意依赖计算机去完成规律的把握、因果关系的学习、甚至决策的判决。而对于学习推理问题中的不确定性,人们常将其转换成概率图模型求解。对于具有因果关系的不确定性问题推理的往往采用贝叶斯推理的方式进行求解。传统方法中对贝叶斯推理中求解概率问题的解析解仍然具有很高的计算复杂度,因此人们常通过随机采样的方式获得计算复杂度低的近似解。然而,采用传统处理器结构实现的采样模块仍具有较高的复杂度,因此本文设计实现了高性能、低复杂度的随机采样门电路来实现贝叶斯推理。首先,本文介绍了贝叶斯定理,随后推导了MC采样方法,包括逆采样方法、拒绝采样方法、重要采样方法等,然后也详细推导了MCMC方法,包括Metropolis采样法、Metropolis-Hasting采样法和Gibbs采样法,也在推导经典采样方法的同时也说明了各种方法的局限性,为后文的贝叶斯推理电路设计提供了理论基础。为了构建具有贝叶斯推理能力的系统,本文设计实现了随机采样门电路,并对每个采样门的结构详细进行了分析:对于设计的二元采样门电路可以在每个时钟周期完成一次采样,而即使是最复杂的标准化多项采样门可以在平均k个时钟周期完成一次采样。随后通过利用概率分布条件独立性的特点提出了并行采样和随机有限状态机的设计思想,从系统层面优化采样流程,使得系统的效率得以提升。随后本文介绍了基于MCMC方法的MIMO检测器,将设计的随机采样门电路应用于MIMO系统中,通过从概率分布中进行采样实现了MCMC-MIMO检测器的功能,在性能较全精度MCMC-MIMO检测器至多低1dB的基础上,随机采样门电路能以低消耗、高效率地完成逐比特及逐符号的MCMC-MIMO检测器功能。最后,本文将设计的随机采样门电路以软件仿真和FPGA实现的方式进行分析,给出了采样门电路的资源消耗。并通过RTL代码对Rain模型和Ising模型进行实现,完成了贝叶斯推理的功能。讨论了随机熵源和量化精度对随机采样门电路的影响:误差会随着熵源性能的提升得到改善,并且量化精度远低于传统全精度的程度时就已经能较精确的对分布进行估计,在量化位宽为5比特时估计得到的误差最高仅为0.026,而量化位宽为12比特时采样估计得到的误差最高仅为0.0017。基于随机采样门电路的大型系统能以更低的开销更高的效率执行。
【学位单位】：电子科技大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：TP181;TP331
【部分图文】：
成 Sprinkler 节点和 Rain 节点的采样后，我们基于这两个节点的采样结果再对 Wet节点进行采样，同样使用条件概率采样门进行采样。图5-2 基于 RTL 代码的 Rain 模型采样实现由于引入流水技术，我们可以在一个时钟得到四个节点的采样值。采样结果如图 5-2 中的 samp 信号，其有效标志位 samp_vld 信号。但是对某一次采样结果来说，首先我们需要一个时钟完成 Cloudy 节点的采样，然后 Cloudy 节点采样完成后，我们可以对 Sprinkler 节点和 Rain 节点并行采样，这同样需要一个时钟。最后在得到 Sprinkler 节点和 Rain 节点的采样结果后，我们以这两个节点的值为条件输入，对 Wet 节点进行采样
个时钟都可以获得一次点阵的更新，随机有限状态机的使用可以更高效的确定点阵更新的具体位置。下图 5-3 展示了在温度低于临界温度的情况图5-3 基于 RTL 代码的 Ising 模型采样实现-系统温度低于临界温度与第三章中结果相似，随着采样的进行，在系统温度低于临界温度时，点阵中的点倾向于向着能量最小的方向演化，最终演化为所有点处于同一状态，而对于系统温度高于临界温度时，点阵中的点倾向于随机变化，如图 5-4 所示。图5-4 基于 RTL 代码的 Ising 模型采样实现-系统温度高于临界温度其中，Ising 模型消耗触发器资源 553，查找表资源 897，指数运算模块 exp_lut消耗触发器资源 4，查找表资源 268。RNG 消耗触发器资源 17
中的点倾向于向着能量最小的方向演化，最终演化为所有点处于同一状态，而对于系统温度高于临界温度时，点阵中的点倾向于随机变化，如图 5-4 所示。图5-4 基于 RTL 代码的 Ising 模型采样实现-系统温度高于临界温度其中，Ising 模型消耗触发器资源 553，查找表资源 897，指数运算模块 exp_lut消耗触发器资源 4，查找表资源 268。RNG 消耗触发器资源 17，查找表资源 637。
【参考文献】
本文编号：2889647
【学位单位】：电子科技大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：TP181;TP331
【部分图文】：
成 Sprinkler 节点和 Rain 节点的采样后，我们基于这两个节点的采样结果再对 Wet节点进行采样，同样使用条件概率采样门进行采样。图5-2 基于 RTL 代码的 Rain 模型采样实现由于引入流水技术，我们可以在一个时钟得到四个节点的采样值。采样结果如图 5-2 中的 samp 信号，其有效标志位 samp_vld 信号。但是对某一次采样结果来说，首先我们需要一个时钟完成 Cloudy 节点的采样，然后 Cloudy 节点采样完成后，我们可以对 Sprinkler 节点和 Rain 节点并行采样，这同样需要一个时钟。最后在得到 Sprinkler 节点和 Rain 节点的采样结果后，我们以这两个节点的值为条件输入，对 Wet 节点进行采样
个时钟都可以获得一次点阵的更新，随机有限状态机的使用可以更高效的确定点阵更新的具体位置。下图 5-3 展示了在温度低于临界温度的情况图5-3 基于 RTL 代码的 Ising 模型采样实现-系统温度低于临界温度与第三章中结果相似，随着采样的进行，在系统温度低于临界温度时，点阵中的点倾向于向着能量最小的方向演化，最终演化为所有点处于同一状态，而对于系统温度高于临界温度时，点阵中的点倾向于随机变化，如图 5-4 所示。图5-4 基于 RTL 代码的 Ising 模型采样实现-系统温度高于临界温度其中，Ising 模型消耗触发器资源 553，查找表资源 897，指数运算模块 exp_lut消耗触发器资源 4，查找表资源 268。RNG 消耗触发器资源 17
中的点倾向于向着能量最小的方向演化，最终演化为所有点处于同一状态，而对于系统温度高于临界温度时，点阵中的点倾向于随机变化，如图 5-4 所示。图5-4 基于 RTL 代码的 Ising 模型采样实现-系统温度高于临界温度其中，Ising 模型消耗触发器资源 553，查找表资源 897，指数运算模块 exp_lut消耗触发器资源 4，查找表资源 268。RNG 消耗触发器资源 17，查找表资源 637。
【参考文献】
相关硕士学位论文 前4条
1 常卫建;智能广告投放平台系统的设计与实现[D];北京交通大学;2017年
2 何帅宁;MCMC算法在MIMO技术中的研究及应用[D];电子科技大学;2016年
3 殷陶;马尔科夫链蒙特卡洛方法的加速及应用[D];上海交通大学;2014年
4 刘沁沂;基于概率计算的FFT实现[D];电子科技大学;2012年
本文编号：2889647
本文链接：https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/2889647.html
