基于分布保持的特征提取方法研究

发布时间：2021-04-17 07:45

　　随着社会的快速发展,模式识别已在各行各业受到了广泛地关注,并已成为当今社会生活中的实际应用。模式识别研究内容包括了数学、机器学习、计算机视觉、人工智能、神经科学以及认知科学等多门学科,是一个具有挑战性的理论研究难点,也是一个快速发展的挑战性应用问题。作为模式识别的核心内容,特征提取主要研究如何从高维观测数据中学习到有利于识别任务的判别属性,特征提取模型的质量直接决定着模式识别的性能。特征提取研究是当前模式识别领域的热点问题之一。现有模型基本是在欧式距离下取得数据的最优低维表示,没有考虑隐藏在高维数据中的非线性流形结构。而且基于欧式距离的模型不能保证把具有较大内在曲率的流形结构映射到本征维嵌入空间中。本文采用核密度估计方法来近似隐藏在高维数据空间中的本征维流形结构,提出了多个基于分布保持嵌入学习的非线性特征提取模型来消除数据较大内在曲率,并分别从监督分类,无监督聚类,半监督分类的角度来验证这些特征提取模型性能。论文的主要内容和创新点可归纳如下:（1）基于边缘平滑的分布保持超球嵌入学习提出了一种基于边缘平滑的分布保持超球面嵌入模型,并应用于高光谱数据特征提取中。具体是在用光谱特征向量估计每... 

【文章来源】：重庆大学重庆市 211工程院校 985工程院校 教育部直属院校

【文章页数】：115 页

【学位级别】：博士

【部分图文】：

典型的模式识别系统

褂成涞揭桓鯠维空间中[29]。显然，内在曲率的存在给基于距离的特征提取模型带来了极大的挑战。J.K.Mose在研究[30]中表明：满足一定条件的两个流形之间存在着一个同胚变换(homeomorphictransformation)，该变换可保持二者局部体积不变。同胚变换可消除较大的内在曲率，并找到嵌入在高维数据空间中的低维流形结构，在不破坏数据流形拓扑结构的情况下使得样本在低维嵌入空间中具有非常简洁的几何结构。虽然同胚变换整个过程可通过旋转、拉伸、压缩等操作来达到近似的目的，然而如何代数化这一抽象变换过程却显得比较困难。图1.2给出了一个简单的示意图，三维观测空间中的瑞士卷(Swissroll)表现出了较大内在曲率，同胚变换可消除这些复杂内在曲率，并把三维观测数据映射到具有清晰几何平面结构的本征维流形空间中。图1.2同胚变换示意图。Fig.1.2Theschematicdiagramofhomeomorphictransformation.在低维嵌入空间中保持高维数据流形结构是特征提取的重要目的，而同胚变换是能够使得拓扑结构不变的连续映射。Moser定理及其推论给出了实现同胚变换的代数化方案，即通过使得原始观测数据空间和低维嵌入空间中的数据分布保持一

重庆大学博士学位论文20(|)()DijijDhhchhghhbb(2.24)图2.3基于边缘平滑的分布保持超球面嵌入框架的示意图。(b)和(c)中的垂直坐标轴表示条件密度。其中，(b)和(c)中的条件密度(|)是0，非零值只是为了便于显示。Fig.2.3.Schematicdiagramoftheproposededgesmoothing-baseddistributionpreservinghypersphericalembeddingframework.Theverticalaxisin(b)and(c)denotetheconditionaldensity.Notethattheconditionaldensities(|)in(b)and(c)are0andthenonzerovaluesarejustforeasytodisplay.2.3.4优化设计最小化任意点对i,j在两个空间中条件密度的不一致性有助于保持原始数据的流形结构不变，为了在低维空间中呈现高光谱数据的曲线和非线性结构，需给最后求得的低维嵌入施加一个超球限制，最终，本章方法的目标函数表达式如下，2((|)(|))ijijijOghhfxx2..1isth(2.25)实际上，上述约束目标函数是一个非凸问题，因此难以实现全局优化。拉格朗日乘子法，系数归一化法，切线梯度法等都适用于最小化上述约束目标函数[46]。目标函数O相对于ih的偏导数为，1212((|)(|))"()DNDijijijDijijhhODchhghhfxxhhhbb(2.26)


本文编号：3143074