当前位置:主页 > 科技论文 > 自动化论文 >

多视图聚类算法研究

发布时间:2020-10-30 17:06
   作为一种最主要的机器学习技术,核方法提供了一个强大且统一的学习框架。它使得研究者专注于算法设计而无需考虑数据本身的属性,如字符串、向量、文本、图等。正因为具有此优点,核方法被广泛应用于不同的学习任务中,如分类、回归、聚类、排序等。核方法的性能极大地依赖于核及其参数的选择。如何选择核(核矩阵)及其参数仍然是一个开放性的问题。因此,对核算法的探索研究有着极其重要的理论和应用价值。本文将每个核矩阵视为一个视图,主要工作集中于设计有效的多视图聚类算法以提高聚类性能,其贡献可以概括为如下四个方面:1.提出了基于矩阵范数导出正则化的多视图聚类算法。它通过衡量每一对视图之间的相关性来减少被选中核的冗余并同时增加其多样性。我们算法也提供了嵌入矩阵范数导出正则化方法的理论解释,而且本文提出的算法通过针对给定的聚类任务设计合适的矩阵范数导出正则化项即可很容易地实现扩展。提出了一种有效的算法以解决合成优化问题并证明了其收敛性。我们在五个多视图学习标准数据集上进行了实验,结果表明本文算法可以有效地提高多视图K均值算法的性能,在所有测试数据集上都获得了比当前最佳算法更好的效果,这也验证了嵌入矩阵范数导出正则化项的有效性和有用性。2.提出了一种最优的邻居核聚类算法来增强所学最优核表示能力。本文提出的算法允许最优核落在其邻域内,而并不严格要求它是基核的线性组合。这样我们的算法可以有效地扩大最优核的选择区域,因此相比于传统方法可以为聚类找到一个更合适的核。另外,从理论上证明了我们算法学习得到的最优核同时依赖于基核的线性组合和之前迭代获得的聚类结果。这表明我们的算法能够增强最优核和自动聚类之间的联系,这两个学习过程相互平衡从而获得更好地聚类效果。针对提出的最优邻居多核聚类算法,我们设计了其优化目标函数,同时提出解决优化问题的有效方法,并证明其是收敛的。多个公共数据集和医学数据集上的实验结果验证了提出的最优邻居核学习算法的有效性和优越性。3.提出了一种缺失多视图K-均值算法。该算法能够将填补和聚类融合成一个统一的优化程序。在我们的算法中,每一轮迭代的聚类结果将指引缺失核元素的填补,这将用于后续进一步的聚类,这两个流程交替进行直至收敛。这样填补和聚类过程可以无缝连接,从而达到最佳的聚类效果。我们也观察到这种算法没有充分考虑到每个视图的填充可以从其它核矩阵收益,虽然它们可能是不完整的。随后,我们通过缺失核矩阵间的相互填充进一步改善了所提出的确实核的K-均值算法。所提缺失核的多核聚类算法的目标函数经过精心设计,提出两种三步交替优化方法来解决两个优化问题。在13个多核学习数据集上评估了我们所提算法的性能,实验表明我们提出的存在缺失核情况下的多核K-均值算法明显好于现有现有两阶段填补方法,在缺失率高时的改善效果更为明显。同时,我们提出的另一个衍生算法,即带有互填充的缺失核多核聚类算法,进一步改善了缺失核多核聚类算法。多个公共数据集和医学数据集上的分类结果验证了该算法的有效性。而且,实验结果表明,缺失比率越高,我们算法的优越性越明显。4.提出了一种矩阵范数正则化的局部缺失多视图K-均值算法。区别于强制性地迫使所有样本对被均匀地对准到相同的理想相似度,我们的算法仅要求样本与其k个最近的邻居的相似性与理想的相似性矩阵对齐。这种对齐将有助于聚类过程中更能集中在更近的样本对,并且避免了对于较远的样本对的不可靠的相似性评估。此外,引入矩阵范数正则化能够减少多核的冗余并增强所选择的核的多样性,使多核能够更好地用于聚类。对8个多核学习标准数据集进行了广泛的实验研究,以评估我们算法的聚类性能。我们的算法显著地优于现有的两阶填充方法和新提出的算法,以此验证最大化局部核对齐和矩阵引导正则化的有效性。
【学位单位】:西安电子科技大学
【学位级别】:博士
【学位年份】:2018
【中图分类】:TP181
【文章目录】:
摘要
ABSTRACT
符号对照表
缩略语对照表
第一章 绪论
    1.1 研究背景
    1.2 研究现状
        1.2.1 现有的多视图聚类算法
    1.3 研究内容
        1.3.1 考虑视图相关性的多视图聚类算法
        1.3.2 最优邻居核聚类算法
        1.3.3 具有缺失视图的多视图聚类算法
        1.3.4 具有矩阵范数正则化的局部多核聚类算法
第二章 矩阵范数导出正则化的多视图聚类算法
    2.1 简介
    2.2 相关工作
        2.2.1 核k-means聚类(KKM)
        2.2.2 多核k-means聚类(MKKM)
    2.3 带有矩阵范数导出正则化的MKKM聚类
        2.3.1 算法公式化描述
        2.3.2 交替优化
        2.3.3 讨论与扩展
    2.4 实验结果
        2.4.1 数据集
        2.4.2 比较的相关算法
        2.4.3 实验设置
        2.4.4 实验结果
        2.4.5 参数和收敛性分析
    2.5 结论
第三章 基于最优邻居核的多视图聚类算法
    3.1 引言
    3.2 相关工作
        3.2.1 多核k-均值聚类(MKKM)
        3.2.2 矩阵导出正则化MKKM(MKKM-MR)
    3.3 本文提出的最优邻居多核聚类算法
        3.3.1 我们的算法
        3.3.2 交替优化
        3.3.3 讨论和扩展
    3.4 实验
        3.4.1 数据集
        3.4.2 参与对比的算法
        3.4.3 实验设置
        3.4.4 实验结果
        3.4.5 参数选择与收敛
    3.5 结论
第四章 缺失多视图聚类算法
    4.1 简介
    4.2 相关工作
        4.2.1 核k-均值聚类
        4.2.2 多核k-均值聚类
    4.3 我们提出的算法
        4.3.1 有缺失的多核k-均值算法描述
        4.3.2 缺失条件下的核互补齐多核k均值算法(MKKM-IK-MKC)
        4.3.3 扩展
    4.4 实验结果
        4.4.1 实验设置
        4.4.2 在WebKB数据集上的实验结果
        4.4.3 在Caltech101数据集上的实验结果
        4.4.4 在数据集Flower17和Flower102上的实验结果
        4.4.5 在数据集CCV上的实验结果
        4.4.6 原始核与填补核之间的对齐
        4.4.7 收敛和参数敏感度
    4.5 总结
第五章 局部化缺失多视图聚类算法
    5.1 简介
    5.2 相关工作
        5.2.1 多核k-means算法(MKKM)
        5.2.2 MKKM和缺失核(MKKM-IK)
    5.3 LI-MKKM-MR算法
        5.3.1 公式表达
        5.3.2 交替优化
    5.4 实验
        5.4.1 实验设置
        5.4.2 实验结果
        5.4.3 参数敏感性
    5.5 结论
第六章 总结与展望
    6.1 工作总结
    6.2 工作展望
参考文献
致谢
作者简介

【相似文献】

相关期刊论文 前10条

1 小米;;818型海警巡逻舰多视图[J];军事文摘;2016年18期

2 段桂江;孙飞;唐晓青;;集成质量系统与企业资源计划系统的多视图融合机制研究[J];计算机集成制造系统;2005年12期

3 邓强;杨燕;王浩;;一种改进的多视图聚类集成算法[J];计算机科学;2017年01期

4 罗爱民;罗雪山;黄力;;基于多视图的信息系统体系结构描述方法研究[J];计算机科学;2007年02期

5 李波;赵健康;戴金海;;飞行器设计并行工程中多视图响应分析[J];计算机仿真;2006年09期

6 胡树根,李涨生,卓守鹏,董进;一种基于约束的多视图尺寸驱动方法及实现[J];中国机械工程;1998年07期

7 石艳玲;单文档多视图的多种实现方式[J];计算机应用研究;1999年10期

8 邱立坤;金澎;王厚峰;;基于依存语法构建多视图汉语树库[J];中文信息学报;2015年03期

9 任振娜;;怎样在VC++中创建基于SDI多框架多视图[J];电脑编程技巧与维护;2009年03期

10 夏钮琛;胡洁;王伟明;彭颖红;詹振飞;戚进;;基于转换表的物料清单多视图映射方法[J];上海交通大学学报;2008年04期


相关博士学位论文 前10条

1 王岳青;多视图学习算法和应用研究[D];国防科学技术大学;2017年

2 朱信忠;多视图聚类算法研究[D];西安电子科技大学;2018年

3 吴飞;多视图特征学习方法研究[D];南京邮电大学;2016年

4 沈肖波;多视图嵌入学习方法及其应用研究[D];南京理工大学;2017年

5 钱强;复杂场景下的多视图学习方法研究[D];南京航空航天大学;2013年

6 李晋;基于多视图鉴别特征学习的分类算法[D];中国矿业大学(北京);2016年

7 田文;多视图图像的快速三维场景重建[D];华中科技大学;2010年

8 杨琬琪;多视图特征选择与降维方法及其应用研究[D];南京大学;2015年

9 段春梅;基于多视图的三维模型重建方法研究[D];山东大学;2009年

10 苏树智;多视图典型相关分析的理论研究和应用[D];江南大学;2017年


相关硕士学位论文 前10条

1 张屹然;基于划分模型的多视图聚类算法研究[D];南京师范大学;2018年

2 杨克;基于DWH模型对多模态数据的多视图度量学习方法研究[D];华南理工大学;2018年

3 关俊鹏;图学习多视图聚类[D];兰州大学;2018年

4 吴铭;基于多视图的雾霾数据分析方法[D];浙江大学;2017年

5 朱玲玲;基于噪声估计的多视图三维重建技术研究[D];华中科技大学;2016年

6 于航;基于生产管控系统的BOM多视图的研究与应用[D];吉林大学;2017年

7 卜哲;基于多视图的半监督特征选择算法研究[D];山东师范大学;2017年

8 赵琴琴;多视图学习方法研究[D];西安电子科技大学;2017年

9 何梦娇;基于非负矩阵分解的多视图聚类研究[D];西南交通大学;2017年

10 刘彦勋;多视图学习研究及其算法改进[D];西安电子科技大学;2015年



本文编号:2862767

资料下载
论文发表

本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/2862767.html


Copyright(c)文论论文网All Rights Reserved | 网站地图 |

版权申明:资料由用户16160***提供,本站仅收录摘要或目录,作者需要删除请E-mail邮箱bigeng88@qq.com