基于多示例多标记的多领域数据分类

发布时间：2020-05-21 02:57

【摘要】：近年来,随着大数据和人工智能的迅速发展,标记学习成为重点研究领域之一。其中,多示例多标记学习(Multi-Instance Multi-Label Learning,MIML)作为一种新型的学习范式,拓展了多示例学习(Multi-Instance Learning,MIL)和多标记学习(Multi-Label Learning,MLL)。MIML对于现实世界中许多复杂和模糊对象具有更好的表示能力,同时示例的表达方式也更加契合对象所存在的多义性。因此,MIML学习框架成为模式识别与标记学习重点研究课题之一,众多学者提出了大量MIML分类算法,并在文本、图像、音频和生物信息等多领域数据分析处理中取得较大成功。本文将主要针对基于MIML框架进行多领域数据分类问题研究,通过对MIML的深入学习探究,实现对于MIML分类算法中退化策略算法、分类算法和端到端分类算法的改进,主要研究工作如下:(1)目前基于K-Medoids聚类退化MIML算法将各示例间视为相互独立,退化过程可能造成较多的信息丢失,且K-Medoids聚类需聚类簇K的先验知识,不同的K值对分类结果影响较大。针对该问题,提出了一种改进均值漂移算法的多示例多标记分类算法,通过带有权值且为非参数聚类算法的均值漂移退化MIML,考虑示例间的相关性,尽可能减少退化过程信息的丢失。实验进一步验证了算法的有效性。(2)传统神经网络算法需要较多的网络参数设置,在求解最优解时很有可能出现局部最优解,而无法得到全局最优解。而极限学习机(Extreme Learning Machine,ELM)是一种高效且具有优化学习算法的单隐层前馈神经网络,求解时只需设置隐藏层节点数,并随机初始化权值和偏置就可求解出全局最优解。但传统ELM算法需设置隐藏层节点数,并且需初始随机权值和偏置,易受随机值的影响导致计算结果并不稳定,采用核ELM则可以解决这一问题。因此,提出将回归核极限学习机作为基分类器的MIML分类算法,在保证分类精度的同时降低了分类的时间消耗。通过对比实验表明了算法了可靠性。(3)近年来随着计算机硬件的飞速发展,深度学习技术也得到了广泛的应用。但目前基于卷积神经网络(Convolutional Neural Networks,CNN)的MIML分类算法多使用Softmax函数进行分类,但此函数将类与类之间视为互斥事件,并不符合MIML学习框架。因此,提出将CNN网络中Softmax函数替换为ELM分类器,构造出一种端到端的图像分类算法。将所提CNN-ELM-MIML模型与原始CNN进行对比,表明所提算法的合理性。
【图文】：

多标记,向量,示例,特征向量

图 1.1 多标记学习样例 1其中，多标记学习[10]是将一个示例同时分配给多个标记，每个对象由一量和一组二元标记向量来表示。如图 1.1 所示，在多标记学习中将一张图个示例，通过特征提取构成特征向量，同时将图片中的“太阳”、“白云”和“乔治”等多个标记构成标记向量。相比于单标记学习，多标记学习例表达方式更加契合现实世界对象的多义性，因此多标记学习成为模式记学习重点研究课题之一，并已成功应用于文本分类[28,29]、图像识别学习[31]和情感分析[32,33]等领域。目前，在多标记学习问题中，诸多学者已研究并提出多种多标记学习算些方法大致可以分为两类，即问题转换法和算法适应法。其中问题转换标记学习任务转换为一个或者多个相应单标记学习任务，然后再通过传学习方法进行处理，典型算法包括 BR[34]、LP[35]、PPT[36]和 RAkEL[37法适应法通过扩展特定单标记学习算法，修改其约束条件从而可以直接记学习任务，代表算法有 ML-KNN[38]、MLNB[39]、Rank-SVMRBF[41]和 ML-EKELM[42]等。而这些适应型算法就是将最近邻（k-N

活性分析,框架,分子,示例

图 1.2 多示例学习样例 2多示例学习框架是由 Dietterich et al. [43]进行分子活性分析时提出的。而习可以看成是传统单标记学习的一种演化，区别在于多示例中各数据用每个包中含有多个示例，且只有一个标记与该包相关联，包中各示例均将整张图片视为一个包，而图片被切割成若干块即为多个示例，整个图包具有一个类别标记，但图片中各块示例则无类别标记。如图 1.2 所示，成多个示例，，但各单独示例并不拥有类别标记，而只有包具有类别标记猪佩奇”。因此，多示例学习能够更好考虑对象中各元素之间的内在关系分类任务中较单示例学习具有更好的效果。近年来，在多示例学习中，学者们相继提出了多种学习算法。Foulds 和 Fra Amores[45]给出了多示例学习的综述性分析，对于多示例学习中示例空间和嵌入空间等作出详细介绍。Langone 和 Suykens[46]提出通过集体假和包信息结合进行聚合特征学习。Qiao et al. [47]为了将包级别的标记和的特征表示结合，提出多样性字典来学习此类信息。为了解决大规模的，Wei et al. [48]提出了 miVLAD 和 miFV 两种高效且可扩展的 MIL 算法
【学位授予单位】：安庆师范大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：C81

【相似文献】