象形包裹流形理论及其在模式分类中的应用

发布时间：2017-10-03 18:20

  本文关键词：象形包裹流形理论及其在模式分类中的应用

  更多相关文章： 流形 象形包裹流形(PWM) 任意方向坐标轴法(AAD) 同胚 监督模式分类 PWM分类法

【摘要】：交通运载工具(如车、船舶等)在运行中如果发生故障,轻则降低或失去其预定的功能,影响生产,造成经济损失；重则导致严重的以至灾难性的事故,造成人员伤亡或者恶劣的社会影响。因此对交通运载工具进行有效的状态监测和故障诊断是保障其正常运行和故障的及时预警和处理的重要手段。 模式识别是人工智能领域中的一个重要方面。经过多年的发展,模式识别技术已经在很多行业得到应用。简而言之,模式识别的核心就是分类,分为监督模式识别和非监督模式识别。利用模式识别技术对交通运载工具的状态监测和故障诊断对于实现实时、智能、高效地实施对它们的工作状态进行监控,从而保障其正常运行和故障的及时预警和处理都具有重要的理论意义和实用价值。 但是随着信息技术的迅速发展,数据采集能力的提高导致交通运载工具运行数据的数量和维数呈指数级增长。对海量、高维和复杂非线性数据处理的需求迫切要求模式识别领域提出新的、适应这些要求的算法。 本文分析和研究了针对离散数据模式识别方法中的四种重要方法——人工神经网络、支持向量机、流形学习和仿生模式识别方法的现状和特点。人工神经网络、支持向量机在进行监督模式识别时,把在不同类别的样本间建立的分类界面作为分类器来区分不同类别样本。人工神经网络在训练分类器时,需要选择较多的参数,并且在训练时存在着局部极小点的问题。有时即使对同样一种神经网络方法,在一些应用中可能取得很好的结果,而在另外一些相似的应用中却可能完全失败。支持向量机在训练分类器时的一个核心计算是求解二次规划问题。当样本数量较多时,支持向量机存在二次规划求解速度慢、算法复杂等困难。这些问题和困难在很大程度上制约了人工神经网络和支持向量机方法的理论和应用的发展,也引发了学者们对其它方法的探索。与这两种方法不同,流形学习和仿生模式识别方法是两种基于探索和利用数据本身的内部几何结构(数据的一种内在本质)进行模式识别的方法。流形学习源于高维数据问题,核心是在高维数据中找到这些数据所在的低维流形。而仿生模式识别则是通过为数据建立覆盖来表达数据的几何结构。这两种依据数据本身的几何结构进行模式识别的方法使模式识别深入到了数据本身的内在性质,因此这些方法是属于揭示数据内在本质的模式识别方法。 但是,我们通过对两种方法的原理和应用进行深入研究,发现其中也存在一些问题。例如,它们假设高维空间数据应分布在某一个低维流形上。然而如何确定高维数据是分布在某个低维流形上,以及对这个低维流形维数的确定,都是这些算法中遇到的比较困难的问题。 在这些方法的启发下,针对这些方法所存在的一些问题,在深入研究这些方法原理和特点的基础上,结合拓扑学、微分几何的流形理论,本文提出了象形包裹流形理论。该理论通过光滑流形对欧氏空间中的高维离散数据进行包裹,从而实现对高维离散数据的整体几何结构的有效表达。文中同时进行了相关的理论分析和证明。提出了一种在二维可视空间上分析高维数据及其象形包裹流形的简单方法——任意方向坐标轴法。提出了象形包裹流形模式分类算法及其分类策略。本文对所提出的象形包裹流形表达数据结构的方法和象形包裹流形分类计算方法进行了仿真实验,实验结果验证了上述方法简单有效；通过在理论证明和分析时对任意方向坐标轴法的应用,验证了该方法的直观性和有效性。 本文的主要工作概括如下： (1)提出了象形包裹流形(Pictographically Wrapping Manifold, PWM)的数学模型——建立关于数据集的函数和方程,结合拓扑学和微分几何理论证明了该方程的解集为闭流形。文中据此给出了数据的PWM的定义。数据的PWM可以在高维数据的原空间上有效地表达数据的几何结构,并且不需要找出数据的低维流形维数及能够保持数据几何结构的自然状态。文中还给出了也能够对数据进行象形包裹的PWM扩展方程的数学模型。文中的两个直观二维离散数据集的实例验证了PWM表达数据几何结构的有效性。 (2)针对目前对于高维数据普遍缺乏可视化研究手段的现状,本文提出了一种将非直观高维数据及其PWM问题转化为在可视的二维平面中进行讨论的方法——任意方向坐标轴法(Axis of Arbitrary Direction, AAD)。应用AAD证明了当参数满足一定条件时,所得到的PWM与n维欧氏空间的球面同胚。应用AAD和实例说明了当参数变化时,PWM存在分裂与融合的变化：当参数变化趋势不同时,PWM将经历分裂或融合过程。应用AAD和实例说明当参数满足一定条件时,PWM将分裂为与数据集中数据数量相同的流形分支,并且每一个分支都与n维欧氏空间的球面同胚。对AAD的成功应用,验证了该方法的简单和有效性。 (3)在建立离散数据的PWM的基础上,提出了PWM监督模式分类方法,并给出了PWM解决单类和多类问题的分类策略。该算法直接把PWM作为分类器,不需要另外构造分类器。该算法在实际应用时不需要将流形求出,不存在构造分类器而引起的计算代价,极大地减少了算法本身的复杂程度(这也是该算法与大多数监督模式分类算法的最根本的差别)。该算法的分类策略算式简单,在计算全过程中无优化计算、无矩阵计算、无高维空间的向量计算等,所有计算只包括简单的加、减、除、乘方计算,所以当维数增大、样本量增大、非线性复杂程度增加时,对算法的复杂程度影响很小。因为PWM是数据几何结构的表达,所以这种算法是揭示数据内在本质的模式识别方法。PWM监督模式识别方法原理易于理解、算法简单,适用于高维、大容量样本和复杂非线性问题。对两条螺旋线状数据点的分类验证了该方法的有效性。 文中对两个种子点的PWM连通性进行了讨论,提出了参数c的初选方法,并且给出了该模式分类方法的评价指标。 (4)对PWM分类算法在应用时可能出现的重叠问题,本文提出的流形内距离和流形外距离等概念,可方便地用于确定数据点与流形的相互位置关系,从而避免了在高维空间中寻求数据点与流形的距离的复杂计算,使PWM监督模式分类方法在实际应用时的计算非常简单。 文中针对重叠问题给出的子流形法、流形距离法和混合法分别适用于训练集重叠、测试集重叠和子流形法子层较多的情况。 本文应用PWM分类算法对一组回转机械故障测试数据进行了分类实验,实验结果表明当选取适当的参数时,PWM分类算法能够有效地应用于这个分类问题,并且验证了该方法的有效性。
【关键词】：流形 象形包裹流形(PWM) 任意方向坐标轴法(AAD) 同胚 监督模式分类 PWM分类法
【学位授予单位】：大连海事大学
【学位级别】：博士
【学位授予年份】：2014
【分类号】：U472.9;U672.74;TP18
【目录】：

• 创新点摘要5-6
• 摘要6-9
• ABSTRACT9-15
• 第1章 绪论15-39
• 1.1 背景15-33
• 1.1.1 交通运载工具状态监测、故障诊断与模式识别15-17
• 1.1.2 人工神经网络17-19
• 1.1.3 支持向量机19-24
• 1.1.4 流形学习24-29
• 1.1.5 仿生模式识别29-33
• 1.2 本文问题的提出33-35
• 1.3 本文内容35-37
• 1.4 论文的结构安排37-39
• 第2章 象形包裹流形理论初步和相关的数学理论39-46
• 2.1 数据的象形包裹流形理论初步39-42
• 2.1.1 数据的象形包裹流形39-41
• 2.1.2 数据的象形包裹流形理论41
• 2.1.3 对数据进行象形包裹思想的起源41
• 2.1.4 数据的象形包裹流形理论研究的数学基础41-42
• 2.1.5 数据的象形包裹流形理论的应用42
• 2.2 拓扑学和微分几何中关于流形的基础知识42-46
• 第3章 象形包裹流形的生成及相关分析46-61
• 3.1 构造象形包裹流形方程46-47
• 3.2 任意方向坐标轴法47
• 3.3 用AAD分析PWM方程的解47-55
• 3.3.1 方程(3.6)的解与ζ~1轴的关系48
• 3.3.2 坐标系ζ~1ζ~_0~1ζ与方程(3.8)的解法48
• 3.3.3 相关函数及其关系的研究48-53
• 3.3.4 PWM方程一定有解53-55
• 3.4 象形包裹流形55-58
• 3.4.1 PWM方程的解集为n-1维光滑流形55
• 3.4.2 PWM方程的解集为闭集55
• 3.4.3 在某些条件下解集流形与球面同胚55-57
• 3.4.4 流形M为闭流形57
• 3.4.5 象形包裹流形(PWM)定义57-58
• 3.5 PWM方程和PWM定义的扩展58
• 3.6 数据集的PWMs实例58-60
• 3.7 本章小结60-61
• 第4章 参数b、c变化与流形的分裂和融合61-101
• 4.1 η_(s(m-1))(ζ~1)曲线和η_m(ζ~1)曲线交点数和位置的讨论61-74
• 4.1.1 当η_(s(m-1))(ζ~1)曲线和η_m(ζ~1)曲线不相切时61-67
• 4.1.2 当η_(s(m-1))(ζ~1)曲线和η_m(ζ~1)曲线相切时67-74
• 4.2 η_(s(m-1))(ζ~1)和η_m(ζ~1)交点分割的区域74-96
• 4.2.1 参数b为一定值、参数c变化时74-86
• 4.2.2 参数c为一定值、参数b变化时86-96
• 4.3 存在参数c使流形M有m个分支96-100
• 4.3.1 参数c取较小值时对η_(s(m-1))(ζ~1)曲线的影响96-99
• 4.3.2 存在临界c值使流形分支仅包裹点ζ_0,且与球面同胚99
• 4.3.3 存在参数c使流形对每一个数据点都有一个分支99-100
• 4.4 本章小结100-101
• 第5章 象形包裹流形监督模式分类算法101-112
• 5.1 象形包裹流形分类算法101-103
• 5.1.1 单类别分类算法101
• 5.1.2 两类别分类算法101-102
• 5.1.3 多类别分类算法102-103
• 5.2 参数b和参数c值的选取方法103
• 5.2.1 参数b的选取103
• 5.2.2 参数c的选取103
• 5.3 象形包裹流形中种子点的连通性103-106
• 5.3.1 种子点的连通性定义103
• 5.3.2 仅两个种子点时,其连通性的讨论103-105
• 5.3.3 多个种子点中两个种子点连通性的讨论105-106
• 5.4 参数c的初选106
• 5.5 一个两类别分类问题实验106-109
• 5.6 象形包裹流形分类算法的评价指标109-111
• 5.6.1 评价指标109-110
• 5.6.2 指标的选取110-111
• 5.7 本章小结111-112
• 第6章 象形包裹流形分类算法中的重叠问题及相关算法112-119
• 6.1 训练集重叠112-113
• 6.1.1 定义112-113
• 6.1.2 解决方法113
• 6.2 测试集重叠113-114
• 6.2.1 定义113
• 6.2.2 解决途径113-114
• 6.3 混合重叠114
• 6.3.1 定义114
• 6.3.2 解决途径114
• 6.4 重叠区域的判别策略114-118
• 6.4.1 流形距离的概念114-115
• 6.4.2 子流形法115-116
• 6.4.3 流形距离法116-117
• 6.4.4 混合法117-118
• 6.5 本章小结118-119
• 第7章 象形包裹流形分类算法在回转机械状态监测和故障诊断中的应用研究119-135
• 7.1 简述119
• 7.2 状态监测和故障数据的获取119-122
• 7.3 小波包对数据预处理122-124
• 7.4 工作状态监测器PWM及监测结果124-128
• 7.5 转子故障分类器PWM及分类结果128-133
• 7.6 监测器和分类器的实验结果分析133-135
• 第8章 结论与展望135-139
• 8.1 结论135-137
• 8.2 展望137-139
• 参考文献139-148
• 攻读学位期间公开发表论文148-149
• 致谢149-150
• 作者简介150

【相似文献】

中国期刊全文数据库 前10条

1 欧阳晓黎,杨军;基于模式识别的装备故障诊断方法[J];弹箭与制导学报;2004年02期

2 陈红,何祖威,苟小龙;基于自组织特征映射网络的锅炉漏风模式识别[J];热力发电;2004年07期

3 陈菲;模式识别在生物医学工程中的应用[J];中国测试技术;2005年02期

4 张静;杨智勇;王国宏;于红芸;;模式识别中幂变换正态性的研究[J];海军航空工程学院学报;2009年06期

5 王宪保;陆飞;陈勇;方路平;王守觉;;仿生模式识别的算法实现与应用[J];浙江工业大学学报;2011年01期

6 吴明康;陆鑫森;;海洋工程结构故障的模式识别诊断[J];振动工程学报;1990年03期

7 宋明凯,竺士蒙,宫先仪;模式识别在多路径定位中的应用[J];声学与电子工程;1991年04期

8 程德金,孙正毅;极值载荷分布模式识别[J];航空动力学报;1993年04期

9 张军,戚飞虎;基于协同理论的不变性模式识别[J];上海交通大学学报;1998年06期

10 朱进忠;模式识别在毛类织物上的应用[J];青岛大学学报(工程技术版);1998年01期

中国重要会议论文全文数据库 前10条

1 李瑞宏;李薄山;肖薇;;模式识别与病毒对抗[A];第十一届全国计算机安全技术交流会论文集[C];1996年

2 张如浩;赵巍;齐永和;;人类形象思维模式识别与机器模式识别之探讨[A];1995年中国智能自动化学术会议暨智能自动化专业委员会成立大会论文集（下册）[C];1995年

3 王筝;杨德超;高军涛;许翱翔;欧阳楷;;兔嗅觉神经的动力学研究——模式识别的稳健性[A];21世纪医学工程学术研讨会论文摘要汇编[C];2001年

4 赵健;俞卞章;;小波与神经网络在模式识别中应用的研究[A];中国仪器仪表学会第三届青年学术会议论文集（上）[C];2001年

5 吴晓明;盛元生;王克明;沙云东;李宴喜;;航空结构声疲劳应力的仿真与模式识别[A];2003年中国智能自动化会议论文集（下册）[C];2003年

6 张开银;;模式识别中的信息融合方法——二次决策[A];第二届全国信息获取与处理学术会议论文集[C];2004年

7 崔建国;王旭;张大千;王少曼;张威;;基于磁场刺激与神经网络肌电信号的模式识别[A];第三届全国信息获取与处理学术会议论文集[C];2005年

8 ;红外偏振图像的模式识别[A];黑龙江、江苏、山东、河南、江西 五省光学（激光）联合学术‘13年会论文（摘要）集[C];2013年

9 贾春玉;刘宏民;周会峰;;模糊神经网络板形模式识别的研究[A];全国自动化新技术学术交流会会议论文集（一）[C];2005年

10 束茹欣;王国东;张建平;倪力军;;基于NIRS信息对中国烤烟烟叶进行模式识别[A];上海烟草系统2005年度优秀学术论文集[C];2005年

中国重要报纸全文数据库 前9条

1 范兴川 郑华坤;计算机形象思维创新之路[N];科技日报;2004年

2 陈瑜邋唐婷;让计算机会看、会听、会说、会思考[N];科技日报;2007年

3 记者 吴苡婷;心愿：让高科技走出“象牙塔”[N];上海科技报;2006年

4 本报记者 佘惠敏;模式识别，，行走在电脑与人脑之间[N];经济日报;2014年

5 张琪;当机器抢了你的工作[N];经济观察报;2012年

6 记者 邵斌;汉语走上国际口语自动翻译平台[N];大众科技报;2000年

7 记者 刘垠;首届中美视觉夏令营开营[N];大众科技报;2009年

8 刘茂胜;语音也能控制家电[N];中国妇女报;2002年

9 记者 陈磊;中国科研团队获国际文档分析与识别竞赛3项冠军[N];科技日报;2013年

中国博士学位论文全文数据库 前10条

1 厉小润;模式识别的核方法研究[D];浙江大学;2007年

2 赵海峰;基于图的模式识别及其在计算机视觉中的应用[D];南京理工大学;2011年

3 颜学峰;高维复杂模式识别的新方法[D];浙江大学;2002年

4 陈文涛;烟草异物在线高速模式识别与剔除技术研究[D];重庆大学;2003年

5 丁世飞;基于信息理论的数字模式识别及应用研究[D];山东科技大学;2004年

6 万海平;模式识别中核方法若干问题研究[D];北京邮电大学;2006年

7 肖潇;高维仿生信息几何学研究及其在模式识别中的应用[D];浙江工业大学;2012年

8 尹征;基因组尺度高信息量RNA干扰筛选数据分析：一类系统生物学应用中若干模式识别问题的研究[D];浙江大学;2009年

9 金涛;非对称神经网在模式识别中的应用[D];兰州大学;2006年

10 朱永宣;基于模式识别的入侵检测关键技术研究[D];北京邮电大学;2006年

中国硕士学位论文全文数据库 前10条

1 徐蕾;仿生模式识别应用研究[D];中国海洋大学;2008年

2 黄艳林;基于非线性时间序列的机械故障模式识别[D];武汉科技大学;2010年

3 许亦男;智能模式识别新方法及其应用研究[D];江南大学;2011年

4 韩萍;仓储物害虫声音模式识别的研究[D];郑州大学;2001年

5 沈X;模式识别—人工神经网络方法研究及其在材料领域的应用[D];武汉理工大学;2005年

6 王宪保;基于仿生模式识别的人脸身份确认研究[D];浙江工业大学;2003年

7 王振华;基于非线性维数约减的模式识别[D];天津大学;2004年

8 沈孙园;基于仿生模式识别的连续语音关键词识别的研究[D];浙江工业大学;2007年

9 聂一鸣;吴方法在模式识别问题中的应用研究[D];国防科学技术大学;2006年

10 陈永锋;基于仿生模式识别的孤立性肺结节诊断研究[D];重庆大学;2007年

本文编号：965999