基于成员分类器选择优化的集成极端学习机的研究

发布时间：2017-03-28 03:10

  本文关键词：基于成员分类器选择优化的集成极端学习机的研究，由笔耕文化传播整理发布。

【摘要】：极端学习机(ELM:Extreme Learning Machine)因其良好的性能得到广泛的应用,且集成ELM相比于单个ELM在收敛性和泛化性能上取得更好的效果。然而ELM因随机初始化输入权值和偏置导致算法的稳定性偏低,从而直接影响到集成ELM中基分类器之间的差异度和准确率。因此,本文在初始ELM库中利用K均值算法(K-means)和锦标赛选择算子(Tournament Selection)对成员ELM进行分类和选择。并进一步将选择出的ELM集群划分为两个群体,根据群体的不同收敛特性利用多样性自适应控制的吸引排斥微粒群算法(ARPSO:Attractive and Repulsive PSO)分别对其进行优化,取得较优的性能。本文的主要工作如下:(1)提出一种基于K均值算法和遗传算法的集成ELM算法—KGA-DOEELM。该算法根据ELM的输入输出权重和偏置,利用K均值聚类将初始ELM分成多个簇;在不同的簇中锦标赛选择算子根据成员ELM间的准确率和差异度双重选择出最优的成员ELM,组成新的ELM集群。在多个数据集上的实验结果表明,构建的集成系统比其他的集成ELM和单一的ELM具有较高的系统差异度,保证了系统准确率。(2)在KGA-DOEELM基础上,提出基于多子群优化的集成极端学习机 M-KGA-DOEELM。该算法主要针对算法KGA-DOEELM对初期成员ELM选择后的遗漏进行补充,首先利用K均值算法将初始ELM集群分类后,锦标赛选择算子依次从不同簇中选出适应度值最优和适应度值次优的成员ELM形成两个的群体,称为最优群体和一般的群体。对于最优群体依然按照ARPSO优化的步骤进行迭代;对于表现一般的群体,在使用ARPSO优化的过程中加入收敛评价标准动态调整惯性权值,保证了算法的收敛性。实验证明基于多种群优化的KGA-DOEELM保证集成系统准确率和差异性的同时,较大提高系统的稳定性。
【关键词】：极端学习机 吸引排斥微粒群算法 K均值聚类 锦标赛选择算子
【学位授予单位】：江苏大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP18
【目录】：

• 摘要4-5
• Abstract5-9
• 第一章 绪论9-17
• 1.1 研究背景和意义9-10
• 1.2 集成学习算法国内外研究现状10-12
• 1.3 集成ELM国内外研究现状12-14
• 1.4 研究内容14-15
• 1.5 章节安排15-17
• 第二章 相关技术17-26
• 2.1 极端学习机17-19
• 2.2 集成极端学习机19-22
• 2.3 微粒群算法22-26
• 2.3.1 标准微粒群算法22-24
• 2.3.2 吸引排斥微粒群算法24-26
• 第三章 基于K-means和遗传算法的集成极端学习机26-39
• 3.1 引言26
• 3.2 基于K均值聚类和遗传算法的集成极端学习机26-29
• 3.2.1 K均值聚类算法对成员分类器的分类26-28
• 3.2.2 锦标赛选择算子对成员分类器的选择28-29
• 3.3 算法思想及步骤29-32
• 3.4 实验结果与讨论32-38
• 3.4.1 数据集32
• 3.4.2 实验结果及讨论32-38
• 3.5 本章小结38-39
• 第四章 基于多群体的KGA-ARPSO优化的集成极端学习机39-50
• 4.1 引言39
• 4.2 基于多群体和收敛评价标准的集成极端学习机39-43
• 4.2.1 多子群优化的收敛程度评价标准41
• 4.2.2 基于多子群双重优化的集成极端学习机41-43
• 4.3 实验结果与讨论43-49
• 4.4 本章小结49-50
• 第五章 总结和展望50-52
• 5.1 总结50
• 5.2 展望50-52
• 参考文献52-57
• 致谢57-58
• 攻读硕士学位期间发表的学术论文与参与的科研项目58

【相似文献】

中国期刊全文数据库 前10条

1 吕岳,施鹏飞,赵宇明;多分类器组合的投票表决规则[J];上海交通大学学报;2000年05期

2 韩宏;杨静宇;;多分类器组合及其应用[J];计算机科学;2000年01期

3 陈刚,戚飞虎;多分类器结合的人脸识别[J];上海交通大学学报;2001年02期

4 韩宏,杨静宇,娄震;基于层次的分类器组合[J];南京理工大学学报(自然科学版);2002年01期

5 赵谊虹,程国华,史习智;多分类器融合中一种新的加权算法[J];上海交通大学学报;2002年06期

6 王正群,叶晖,孙兴华,杨静宇;模糊多分类器组合[J];小型微型计算机系统;2003年01期

7 杨利英,覃征,王向华;多分类器融合实现机型识别[J];计算机工程与应用;2004年15期

8 杨利英,覃征,王卫红;多分类器融合系统设计与应用[J];计算机工程;2005年05期

9 陈湘;;1-范数软间隔分类器的风险[J];湖北大学学报(自然科学版);2006年02期

10 秦锋;杨波;程泽凯;;分类器性能评价标准研究[J];计算机技术与发展;2006年10期

中国重要会议论文全文数据库 前10条

1 王占一;徐蔚然;刘东鑫;郭军;;一种基于两级分类器的垃圾短信过滤方法[A];第五届全国信息检索学术会议论文集[C];2009年

2 翟静;李海宏;唐常杰;陈敏敏;李智;;可验证对象集分类器的再训练演进[A];第十九届全国数据库学术会议论文集（研究报告篇）[C];2002年

3 陈继航;刘家锋;赵巍;唐降龙;;联机手写识别笔段特征分类器的学习方法[A];黑龙江省计算机学会2009年学术交流年会论文集[C];2010年

4 穆明生;;基于特征集的多种分类器模型的在线笔迹认证[A];第十届全国信号处理学术年会（CCSP-2001）论文集[C];2001年

5 彭涛;左万利;赫枫龄;;基于链接上下文的分类器主题爬行技术(英文)[A];第二十三届中国数据库学术会议论文集（技术报告篇）[C];2006年

6 王岚;陈珂;迟惠生;;基于多特征组合多分类器的方法用于“与文本无关”的说话人辨认[A];第四届全国人机语音通讯学术会议论文集[C];1996年

7 谢秋玲;;应用于心电图分类的KNN-SVM分类器研究[A];2006中国控制与决策学术年会论文集[C];2006年

8 胡琼;汪荣贵;胡韦伟;孙见青;;基于级联分类器的快速人脸检测方法[A];计算机技术与应用进展·2007——全国第18届计算机技术与应用（CACIS）学术会议论文集[C];2007年

9 李兰春;王双成;杜瑞杰;;认知结构评估的动态贝叶斯网络分类器方法[A];2011年中国智能自动化学术会议论文集（第一分册）[C];2011年

10 邵小健;段华;贺国平;;一种改进的最少核分类器[A];中国运筹学会第七届学术交流会论文集（上卷）[C];2004年

中国重要报纸全文数据库 前1条

1 黄明;精子分类器决定生男生女[N];广东科技报;2000年

中国博士学位论文全文数据库 前10条

1 张非;对抗逃避攻击的防守策略研究[D];华南理工大学;2015年

2 张文博;多类别智能分类器方法研究[D];西安电子科技大学;2014年

3 许劲松;智能交通中目标检测与分类关键技术研究[D];南京理工大学;2014年

4 余家林;普通场景视频人脸检测与识别的关键技术研究[D];浙江大学;2016年

5 刘明;分类器组合技术研究及其在人机交互系统中的应用[D];北京交通大学;2008年

6 严志永;在划分数据空间的视角下基于决策边界的分类器研究[D];浙江大学;2011年

7 王U，

本文编号：271580