贝叶斯网络结构学习的混合优化方法研究

发布时间：2017-09-17 20:36

  本文关键词：贝叶斯网络结构学习的混合优化方法研究

  更多相关文章： 动态贝叶斯网络 结构学习 互信息 最大信息系数 二进制粒子群算法

【摘要】：贝叶斯网络是以概率论和图论为基础,用概率来表示所有形式的不确定性,现已成为进行不确定性推理和数据挖掘的有效工具。目前,贝叶斯网络已广泛应用于多个前沿研究领域,然而对于复杂的动态系统,由专家根据领域知识直接构造贝叶斯网络显然不切实际。因此,如何从样本数据集中学习得到动态贝叶斯网络结构成为该领域的研究热点和难点。在各种各样的贝叶斯网络结构学习方法中,混合优化算法因策略选择灵活、组成方法多样、兼具基于约束和基于评分搜索两大类结构学习算法的长处而引起研究者的重视。本文从目前结构学习中群智能学习算法所存在的不足入手,提出了一些混合优化方法和改进措施,以提升结构学习算法的性能。主要工作包括以下方面:1.对贝叶斯网络及其结构学习的基本知识和研究现状进行了总结和梳理,并结合具体算法进行相对应结构学习方法的阐述分析,特别是动态贝叶斯网络的定义表示以及当前的结构学习研究情况;2.提出了基于互信息和二进制粒子群优化的MI-BPSO算法。该算法是针对当前群智能学习算法的初始搜索起点具有随机性、离散情况下搜索效果差等缺点,分别从初步网络结构的构造、初始粒子群的产生和二进制粒子群算法的改进策略三个方面对基本粒子群算法进行了改进。实验表明三种改进策略的混合应用有效地提高了算法的学习效率和质量,特别是互信息方法大大降低动态网络中转移网络的结构学习计算量;3.在MI-BPSO算法的基础上,提出了改进MIC-BPSO算法。该算法从初步网络构建方法和粒子群算法中最优值更新策略两个方面对MI-BPSO算法进行改进优化:采用最大信息系数替代互信息方法进行初始无向图构建,提高初步网络结构质量;利用评分函数的分解性,将BPSO算法中个体最优值和群体最优值的更新粒度细化到父子节点集合层级,提高算法的学习质量和学习效率。实验表明新算法在静态和动态网络的结构学习中,学习质量和时间效率均有较大提升。
【关键词】：动态贝叶斯网络 结构学习 互信息 最大信息系数 二进制粒子群算法
【学位授予单位】：西北工业大学
【学位级别】：硕士
【学位授予年份】：2015
【分类号】：O157.5;TP18
【目录】：

• 摘要4-5
• Abstract5-9
• 1 绪论9-19
• 1.1 研究背景及意义9-15
• 1.1.1 贝叶斯网络研究现状9-10
• 1.1.2 贝叶斯网络结构学习研究现状10-15
• 1.2 本文的主要研究内容15-16
• 1.3 本文组织结构16-19
• 2 贝叶斯网络概述19-39
• 2.1 贝叶斯网络定义19-21
• 2.2 贝叶斯网络基本性质21-24
• 2.2.1 d-分隔21-22
• 2.2.2 马尔科夫等价类22-24
• 2.3 贝叶斯网络的结构学习24-32
• 2.3.1 结构学习的基本问题及假设24-25
• 2.3.2 基于约束的结构学习方法25-28
• 2.3.3 基于评分搜索的结构学习方法28-31
• 2.3.4 混合学习算法31-32
• 2.4 动态贝叶斯网络32-38
• 2.4.1 动态贝叶斯网络的定义及表示33-34
• 2.4.2 动态贝叶斯网络的结构学习34-38
• 2.5 本章小结38-39
• 3 基于MI-BPSO算法的BN结构学习39-69
• 3.1 信息熵与互信息理论39-40
• 3.2 二进制粒子群算法40-43
• 3.3 基于互信息和二进制粒子群优化的MI-BPSO算法43-55
• 3.3.1 基于互信息的初步网络构造方法43-48
• 3.3.2 改进二进制粒子群优化算法48-52
• 3.3.3 无效网络结构的检测与破除52-55
• 3.3.4 MI-BPSO算法55
• 3.4 实验设计与结果分析55-66
• 3.4.1 K2算法和MWST-HC算法56-57
• 3.4.2 F-score准则57-58
• 3.4.3 静态BN结构学习的实验分析58-63
• 3.4.4 动态BN结构学习的实验分析63-66
• 3.5 本章小结66-69
• 4 基于改进MIC-BPSO算法的BN结构学习69-83
• 4.1 最大信息系数69-70
• 4.2 改进MIC-BPSO算法70-77
• 4.2.1 基于最大信息系数的初步网络构造方法70-72
• 4.2.2 基于评分函数分解性的改进BPSO算法72-76
• 4.2.3 改进MIC-BPSO算法流程76-77
• 4.3 实验设计与结果分析77-82
• 4.3.1 静态BN结构学习的实验分析77-80
• 4.3.2 动态BN结构学习的实验分析80-82
• 4.4 本章小结82-83
• 5 总结与展望83-85
• 5.1 论文工作总结83-84
• 5.2 未来工作展望84-85
• 参考文献85-89
• 发表论文和参加科研情况说明89-91
• 致谢91-93

【参考文献】

中国期刊全文数据库 前10条

1 刘宝宁;章卫国;李广文;刘小雄;;一种改进遗传算法的贝叶斯网络结构学习[J];西北工业大学学报;2013年05期

2 汪春峰;张永红;;基于无约束优化和遗传算法的贝叶斯网络结构学习方法[J];控制与决策;2013年04期

3 ;Bayesian network learning algorithm based on unconstrained optimization and ant colony optimization[J];Journal of Systems Engineering and Electronics;2012年05期

4 邸若海;高晓光;;基于限制型粒子群优化的贝叶斯网络结构学习[J];系统工程与电子技术;2011年11期

5 陈海洋;高晓光;樊昊;;变结构DDBNs的推理算法与多目标识别[J];航空学报;2010年11期

6 孟光磊;龚光红;;基于混合贝叶斯网的空域目标威胁评估方法[J];系统工程与电子技术;2010年11期

7 高晓光;赵欢欢;任佳;;基于蚁群优化的贝叶斯网络学习[J];系统工程与电子技术;2010年07期

8 贾海洋;陈娟;朱允刚;刘大有;;基于混合方式的贝叶斯网弧定向算法[J];电子学报;2009年08期

9 肖秦琨;高晓光;高嵩;王海芸;;DBN结构学习度量分解性能分析[J];系统工程与电子技术;2009年04期

10 冀俊忠;张鸿勋;胡仁兵;刘椿年;;一种基于独立性测试和蚁群优化的贝叶斯网学习算法(英文)[J];自动化学报;2009年03期

，

本文编号：871204