多示例学习支持向量降维机及其应用

发布时间：2020-04-29 19:50

【摘要】：不同于监督学习,多示例学习的数据集由“包”组成,每个包中含有若干个以向量形式表示的示例。多示例学习数据集中包的标签明确,其基本假设为:正包中至少含有一个正示例,但具体是哪一个或哪几个未知;负包中全是负示例。随着多示例学习分类算法在图像和文本等领域应用越来越广泛,多示例学习降维算法也逐渐成为研究热点。本文主要研究工作如下:一、提出了一种对于多示例学习问题通过使用支持向量机实现线性降维的算法。首先,假设数据集每个正包中最具区分度的正示例已知,并将它们作为对应包的单特征向量表示;每个负包中的所有示例取均值作为对应包的单特征向量表示(数据集给定此项为定值)。这些单特征向量标签明确,于是可将多示例学习拓展至监督学习内解决。然后,利用这些正负类单特征向量训练一个二分类线性软间隔支持向量机模型。支持向量机的分类准则是不同类样本间隔最大化,因此分类超平面的法方向是一个很好的投影方向,可将多示例数据集向此方向投影实现降维。但问题关键在于正包中正示例是未知的,正包单特征向量的选择直接影响支持向量机模型及投影方向。本文采用交替迭代优化的块坐标下降方法实现投影向量的求解。具体的,先初始化正包单特征向量并计算出负包的单特征向量,将它们作为样本训练一个支持向量机模型并获得初步的投影方向;然后,固定模型更新优化正包的单特征向量,有了新样后本又可重新训练支持向量机模型并更新投影方向。按此方法交替迭代优化达到预设停止条件即可。二、提出了一种对于多示例学习问题使用L1范数线性判别分析获取投影矩阵的线性降维算法。求解方法与第一种算法类似,也是将数据集每个包用单特征向量表示转至监督学习内解决,然后交替迭代优化正包的单特征向量和投影向量实现求解,不同的是这里使用更具鲁棒性的L1范数线性判别分析获取投影矩阵。现有的一种求解L1范数线性判别分析的方法是使用基于自定义梯度的梯度法,本文在此基础上使用动量梯度法实现加速收敛并可使结果更加精确。最后用实验验证了本文提出的两种算法的有效性。
【学位授予单位】：大连理工大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：C81

【相似文献】

相关期刊论文 前10条

1 张起荣;陈善雄;余廷忠;王燕;;二维合并双向可调拉普拉斯逆线性判别分析算法[J];贵州工程应用技术学院学报;2017年03期

2 马家军;;针对人脸个体差异性的核线性判别分析[J];商洛学院学报;2016年02期

3 马冯艳;;主分量分析和线性判别分析在分类问题中的应用[J];科技视界;2015年13期

4 王金甲;胡备;;脑机接口的广义核线性判别分析方法研究[J];中国生物医学工程学报;2012年01期

5 高建强;范丽亚;;模糊线性判别分析中距离对面部识别的影响[J];井冈山大学学报(自然科学版);2012年03期

6 郑秋梅;吕兴会;时公喜;;基于双向二维直接线性判别分析的人脸表情识别[J];中国石油大学学报(自然科学版);2010年05期

7 杨昔阳;;基于模糊线性判别分析的控制规则约简[J];泉州师范学院学报;2010年06期

8 刘笑嶂;冯国灿;;多重核线性判别分析及其权值优化[J];计算机应用;2009年09期

9 胡煜;;线性判别分析和主分量分析法应用于基因芯片数据分析[J];海南广播电视大学学报;2007年04期

10 姚棣荣;;逐步非线性判别分析[J];科技通报;1988年03期

相关会议论文 前10条

1 欧阳梅兰;张志敏;陈晨;刘鑫波;梁逸曾;;稀疏线性判别分析法在代谢组学数据研究中的应用[A];中国化学会第29届学术年会摘要集——第19分会：化学信息学与化学计量学[C];2014年

2 张明锦;杜一平;童佩瑾;;基于非相关线性判别分析的分层特征选择方法及其在蛋白质组数据分析中的应用[A];第十届全国计算(机)化学学术会议论文摘要集[C];2009年

3 包森成;董远;杨浩;董乘宇;王海拉;;中文有调语音识别系统的改进[A];第九届全国人机语音通讯学术会议论文集[C];2007年

4 陈晨;张志敏;欧阳梅兰;刘鑫波;易伦朝;梁逸曾;;质心收缩正则判别分析法在代谢组学数据分析中的应用[A];中国化学会第29届学术年会摘要集——第19分会：化学信息学与化学计量学[C];2014年

5 仪淑敏;杨立平;徐永霞;李学鹏;励建荣;;秘鲁鱿鱼丝在加工过程中挥发性风味物质分析[A];中国食品科学技术学会第十一届年会论文摘要集[C];2014年

6 贺海浪;龙绪明;刘明晓;罗爱玲;曹宏耀;董健腾;;(2D)~2LDA和支持向量机在PCB焊点检测中的应用[A];2014中国高端SMT学术会议论文集[C];2014年

7 王毅军;张志广;李勇;高小榕;高上凯;杨福生;;2003年脑机接口数据竞赛论文之一——基于CSSD和FDA的单次手指运动诱发脑电分类算法[A];首届全国功能神经影像学和神经信息学研讨会论文汇编[C];2003年

8 黄良韬;林志敏;刘庆聪;;脑机融合图像识别中的统计模型[A];2015年（第四届）全国大学生统计建模大赛论文[C];2015年

9 陈思宝;姚志强;胡郁;王仁华;;基于树的相关系数补偿满方差建模技术研究[A];第九届全国人机语音通讯学术会议论文集[C];2007年

10 乔红波;徐永伟;程登发;周益林;;冬小麦主要病虫害的高光谱识别[A];植物保护与现代农业——中国植物保护学会2007年学术年会论文集[C];2007年

相关博士学位论文 前10条

1 刘笑嶂;核方法的若干关键问题研究及其在人脸图像分析中的应用[D];中山大学;2010年

2 潘志斌;半监督排序的若干关键问题研究[D];华中科技大学;2014年

3 袁大林;代谢组学与中药研究中复杂体系的解析方法及应用研究[D];中南大学;2010年

4 刘忠宝;基于核的降维和分类方法及其应用研究[D];江南大学;2012年

5 刘俊;人脸图像的子空间表示研究[D];南京航空航天大学;2007年

6 张明锦;基于特征选择的多变量数据分析方法及其在谱学研究中的应用[D];华东理工大学;2011年

7 文颖;数字、字符识别及其应用研究[D];上海交通大学;2009年

8 尹学松;半监督聚类分析策略设计及其拓展性研究[D];南京航空航天大学;2009年

9 沈道义;基于最小化训练误差的子空间分类算法研究[D];中国科学技术大学;2008年

10 赵松;人脸识别中的姿态估计、识别算法和融合算法的研究[D];中国科学技术大学;2009年

相关硕士学位论文 前10条

1 王成祥;多示例学习支持向量降维机及其应用[D];大连理工大学;2019年

2 林恩;基于等级数据的产品质量统计分析[D];上海交通大学;2016年

3 房园;基于多特征信息融合的癌症凝集素的鉴定方法研究[D];云南大学;2019年

4 滕君;基于度量学习的行人再识别技术研究[D];重庆邮电大学;2018年

5 陈莎;基于鬼成像的光学加密及物体分类方法研究[D];南京邮电大学;2019年

6 车志勇;基于线性判别分析（FDA）的迁移学习方法[D];广东工业大学;2019年

7 王馨彤;函数型线性判别分析[D];新疆大学;2019年

8 董良;基于线性判别分析与特征加权支持向量机的选股模型研究[D];河北工业大学;2016年

9 郭月;基于正交线性判别分析的高光谱空谱联合分类方法[D];辽宁工程技术大学;2018年

10 雷振风;基于噪声比LDA和类内隶属度KNN的蛋白质亚细胞定位的研究[D];云南大学;2017年

，

本文编号：2644933