基于信息理论学习的支持向量数据描述集成

发布时间：2017-04-02 01:09

  本文关键词：基于信息理论学习的支持向量数据描述集成，，由笔耕文化传播整理发布。

【摘要】：单类分类是介于监督学习和无监督学习之间的机器学习任务,它能够有效地解决仅有一类样本训练分类器的问题和类别极端不平衡问题。迄今为止,涌现了大量的单类分类方法,其中最为常用的有一类支持向量机(one-class support vector machine,OCSVM)和支持向量数据描述(support vector data description,SVDD)。为了进一步提高单类分类器的分类性能,可以对多个单类分类器加以集成。然而,已有的单类分类器集成方法并未综合考虑差异性和选择性集成对集成性能的影响。基于此,本文在已有单类分类器集成的基础上,结合信息理论学习,对基于信息理论学习的SVDD集成开展了研究。1.提出了基于相关熵和距离方差的SVDD选择性集成方法。所提方法使用相关熵代替均方误差,用于度量集成的紧致性,从而构造出更为紧致的分类边界。同时使用训练样本到各最小包围球中心的距离的方差作为集成的差异性度量。此外,在目标函数中引入基于l_1范数的正则化项,实现选择性集成。最后,利用半二次优化技术对所提选择性集成模型进行求解,实验结果表明,所提方法比相关方法具有更优的分类性能。2.提出了基于相关熵和Renyi熵的SVDD选择性集成方法。所提方法利用各个样本到集成中心距离的Renyi熵作为集成的差异性度量,并使用半二次优化技术对所提选择性集成模型进行求解。在人工数据集和标准数据集上的实验表明,所提方法具有更优的鲁棒性。
【关键词】：支持向量数据描述 相关熵 Renyi熵 单类分类 选择性集成
【学位授予单位】：河北大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP181
【目录】：

• 摘要5-6
• Abstract6-9
• 第1章 绪论9-13
• 1.1 研究背景和意义9
• 1.2 国内外研究现状9-11
• 1.3 主要研究内容与论文组织结构11-12
• 1.3.1 主要研究内容11-12
• 1.3.2 论文组织结构12
• 1.4 本章小结12-13
• 第2章 相关知识13-17
• 2.1 SVDD13-14
• 2.2 信息理论学习14-15
• 2.2.1 相关熵14
• 2.2.2 Renyi熵14-15
• 2.3 基于方差的差异性度量15-16
• 2.4 本章小结16-17
• 第3章 基于相关熵和距离方差的SVDD选择性集成17-29
• 3.1 数学模型17-20
• 3.2 学习算法20-21
• 3.3 实验结果21-27
• 3.3.1 人工数据集21-23
• 3.3.2 标准数据集23-27
• 3.4 本章小结27-29
• 第4章 基于相关熵和Renyi熵的SVDD选择性集成29-41
• 4.1 数学模型29-32
• 4.2 学习算法32-33
• 4.3 实验结果33-40
• 4.3.1 人工数据集33-36
• 4.3.2 标准数据集36-40
• 4.4 本章小结40-41
• 第5章 总结与展望41-43
• 5.1 全文总结41
• 5.2 工作展望41-43
• 参考文献43-46
• 致谢46-47
• 攻读学位期间取得的科研成果47

【相似文献】

中国期刊全文数据库 前10条

1 吕岳,施鹏飞,赵宇明;多分类器组合的投票表决规则[J];上海交通大学学报;2000年05期

2 韩宏;杨静宇;;多分类器组合及其应用[J];计算机科学;2000年01期

3 陈刚,戚飞虎;多分类器结合的人脸识别[J];上海交通大学学报;2001年02期

4 韩宏,杨静宇,娄震;基于层次的分类器组合[J];南京理工大学学报(自然科学版);2002年01期

5 赵谊虹,程国华,史习智;多分类器融合中一种新的加权算法[J];上海交通大学学报;2002年06期

6 王正群,叶晖,孙兴华,杨静宇;模糊多分类器组合[J];小型微型计算机系统;2003年01期

7 杨利英,覃征,王向华;多分类器融合实现机型识别[J];计算机工程与应用;2004年15期

8 杨利英,覃征,王卫红;多分类器融合系统设计与应用[J];计算机工程;2005年05期

9 陈湘;;1-范数软间隔分类器的风险[J];湖北大学学报(自然科学版);2006年02期

10 秦锋;杨波;程泽凯;;分类器性能评价标准研究[J];计算机技术与发展;2006年10期

中国重要会议论文全文数据库 前10条

1 王占一;徐蔚然;刘东鑫;郭军;;一种基于两级分类器的垃圾短信过滤方法[A];第五届全国信息检索学术会议论文集[C];2009年

2 翟静;李海宏;唐常杰;陈敏敏;李智;;可验证对象集分类器的再训练演进[A];第十九届全国数据库学术会议论文集（研究报告篇）[C];2002年

3 陈继航;刘家锋;赵巍;唐降龙;;联机手写识别笔段特征分类器的学习方法[A];黑龙江省计算机学会2009年学术交流年会论文集[C];2010年

4 穆明生;;基于特征集的多种分类器模型的在线笔迹认证[A];第十届全国信号处理学术年会（CCSP-2001）论文集[C];2001年

5 彭涛;左万利;赫枫龄;;基于链接上下文的分类器主题爬行技术(英文)[A];第二十三届中国数据库学术会议论文集（技术报告篇）[C];2006年

6 王岚;陈珂;迟惠生;;基于多特征组合多分类器的方法用于“与文本无关”的说话人辨认[A];第四届全国人机语音通讯学术会议论文集[C];1996年

7 谢秋玲;;应用于心电图分类的KNN-SVM分类器研究[A];2006中国控制与决策学术年会论文集[C];2006年

8 胡琼;汪荣贵;胡韦伟;孙见青;;基于级联分类器的快速人脸检测方法[A];计算机技术与应用进展·2007——全国第18届计算机技术与应用（CACIS）学术会议论文集[C];2007年

9 李兰春;王双成;杜瑞杰;;认知结构评估的动态贝叶斯网络分类器方法[A];2011年中国智能自动化学术会议论文集（第一分册）[C];2011年

10 邵小健;段华;贺国平;;一种改进的最少核分类器[A];中国运筹学会第七届学术交流会论文集（上卷）[C];2004年

中国重要报纸全文数据库 前1条

1 黄明;精子分类器决定生男生女[N];广东科技报;2000年

中国博士学位论文全文数据库 前10条

1 张非;对抗逃避攻击的防守策略研究[D];华南理工大学;2015年

2 张文博;多类别智能分类器方法研究[D];西安电子科技大学;2014年

3 许劲松;智能交通中目标检测与分类关键技术研究[D];南京理工大学;2014年

4 余家林;普通场景视频人脸检测与识别的关键技术研究[D];浙江大学;2016年

5 赵作林;基于图像分析的北京地区杨树种类识别研究[D];北京林业大学;2015年

6 任亚峰;基于标注和未标注数椐的虚假评论识别研究[D];武汉大学;2015年

7 刘明;分类器组合技术研究及其在人机交互系统中的应用[D];北京交通大学;2008年

8 严志永;在划分数据空间的视角下基于决策边界的分类器研究[D];浙江大学;2011年

9 王U

本文编号：281616