基于柔性边界的神经网络分类器研究及应用

发布时间：2020-04-17 18:21

【摘要】：分类是机器学习和模式识别领域的经典问题之一。对有监督分类任务,分类器从训练样本中学习知识,并调整自己的行为来实现更好的分类表现。许多经典的方法被提出用于解决分类问题,例如支持向量机、神经网络、贝叶斯分类器、决策树等。在这些方法中,神经网络凭借其易于构建和优异的近似能力,被广泛的应用于分类任务中。神经网络的分类过程可以从几何角度被解释。在分类过程中,神经网络将待分类样本从原始的数据空间映射到一个新的空间,其被称为分区空间。在分区空间中,每个类别分别被表示为空间中一个特定的点,称之为质心。待分类样本被标记为距离其最近的质心所代表的类别。然而,质心固定的问题,即质心的位置,标签和数目在训练之前就被固定,限制了训练过程中可用的神经网络的范围。一个神经网络应该被认为是成功的,只要神经网络能将样本映射到正确的类别上,即使该类别对应的质心位于分区空间中任意的位置。浮动质心法神经网络的提出有效的解决了固定质心的问题。在这种方法中,代表每个类别的质心是根据数据的分布自动产生的。尽管浮动质心法有效地提升了神经网络分类器的表现,但是硬边界的问题依然限制着其性能的进一步提升。硬边界问题是指在训练过程中,分区空间中的决策边界被清楚地描述导致即使是噪声点和边界点也必须被强制的标记为唯一的类别。边界点和噪声点的误分类会导致神经网络训练过程出现震荡,并且降低发现最优神经网络的概率。为解决硬边界问题,本文尝试使用模糊理论来帮助浮动质心神经网络产生柔性边界。本文的主要研究内容如下:(1)提出了一种可产生柔性边界的神经网络分类器:Fuzzy Floating Centroid Method(FFCM),即模糊浮动质心法。该方法糅合了浮动质心的概念和模糊策略来产生柔性决策边界,这增加了在训练过程中发现最优神经网络的可能性。此外,一种类权重策略被引入模糊浮动质心法中,来帮助其提升在非平衡数据问题上的表现。(2)模糊浮动质心法被用于估测水泥的抗压强度等级。由于相同配置的非同一个水泥试件,或同一水泥试件的不同位置会展现出不同一的抗压强度。因此采集的水泥数据会存在大量的噪声点和边界点。FFCM对数据中噪声点和边界点有较高的鲁棒性,所以我们将其应用到水泥强度等级估测以检测其有效性。(3)提出一种动态多层粒子群优化算法,Dynamic Multilayer Particle Swarm Optimization(DMLPSO),来优化浮动质心法神经网络分类器。神经网络的优化可以被视为一个多峰优化问题,DMLPSO使用动态重组策略和多层搜索策略来获得优异的搜索多峰问题的解空间的能力,以DMLPSO作为优化方法用来获得符合期望的神经网络。
【图文】：

图 2.1 神经网络分类过程（概率解释） )是含有 n 个样本的数据集，其中 = ( 个样本。图 2.1 从概率论的角度展示了一个三层感知 = 表示输入层神经元与隐藏层示输入层第 i 个神经元与隐藏层第 d 个神经元之间 表示隐藏层神经元与输出层神经元之间的连接元与输出层第 c 个神经元之间的连接权重； H =

其中 表示第i个隐层神经元的偏置；O = 表示输出层神经元的偏置，其中 boi表示第 i 个输出层神经元的偏置。另, (π)为神经网络的激活函数，在分类过程中，数据集 X 被输入到神经网络中，神经网络输出层输出数据集 X 中每个样本属于各个类别的概率，该过程被表述在公式 (2.1)中：P = ( π ( π ′) ′)= = (2.1)其中 ′= | ¤ ¨( ) ′= | ¤ ¨( ) 另， = ( ) 表示样本集 X 中第 n 个样本属于 c 个类别的可能性，，通常最高概率对应的类别被认为是样本所属的类别。
【学位授予单位】：济南大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：TP183

【相似文献】

相关期刊论文 前10条

1 毛玲,孙即祥,季虎;基于交叉熵和新转移函数的模糊神经网络分类器[J];国防科技大学学报;2004年05期

2 吕铁军,肖先赐;基于快速组合神经网络分类器的数字调制识别新方法[J];信号处理;2001年01期

3 李斌;手写字母识别中的多级神经网络分类器[J];管理科学文摘;1997年06期

4 岳丹丹;;基于多神经网络分类器的目标识别[J];舰船科学技术;2015年04期

5 周而重;逄玉俊;;基于遗传算法的神经网络分类器优化设计[J];沈阳大学学报;2006年05期

6 任红格;李冬梅;李福进;;动态神经网络分类器主动学习算法及其智能控制应用[J];计算机应用与软件;2016年07期

7 李铁鹰,崔艳;一种基于粗糙集理论的神经网络分类器的设计[J];计算机工程与应用;2005年32期

8 张鸿宾;一种基子距离的神经网络分类器的设计方法[J];计算机应用与软件;1992年06期

9 胡静;高隽;杨静;;模糊神经网络分类器的主动学习方法[J];中国科学技术大学学报;2008年03期

10 颜华，胡谋;基于模糊识别的神经网络分类器[J];上海铁道大学学报;1996年02期

相关会议论文 前5条

1 李孟歆;吴成东;;基于响应面法的神经网络分类器的参数优化[A];第二十届中国控制会议论文集（下）[C];2001年

2 杨恒;张贤达;;模糊神经网分类器[A];第九届全国信号处理学术年会（CCSP-99）论文集[C];1999年

3 刘皓挺;姜国华;王丽;;一种BPNN分类器的设计及应用[A];人-机-环境系统工程研究进展（第七卷）[C];2005年

4 胡继明;雷俊锋;江虹;曾立波;童华;张泽兰;刘均堂;;电子和金相显微分析系统中新分析技术的开发及应用[A];中国分析测试协会科学技术奖发展回顾[C];2015年

5 王忠民;曹栋;;坐标转换在移动用户行为识别中的应用研究[A];2013年全国通信软件学术会议论文集[C];2013年

相关博士学位论文 前7条

1 闻辉;核自适应学习的RBF混合结构神经网络分类器研究[D];深圳大学;2018年

2 胡静;机器学习及其神经网络分类器优化设计[D];合肥工业大学;2007年

3 雷景生;神经网络的分类、聚类功能及其规则抽取研究[D];新疆大学;2003年

4 高鹏毅;BP神经网络分类器优化技术研究[D];华中科技大学;2012年

5 杨发权;无线通信信号调制识别关键技术与理论研究[D];西安电子科技大学;2015年

6 刘澍;基于改进蚁群算法与神经网络的调制识别研究[D];华中科技大学;2009年

7 王琳;基于计算智能的水泥水化过程建模方法与关键技术研究[D];山东大学;2011年

相关硕士学位论文 前10条

1 许欢庆;基于姿态信息的写字机器人研究与设计[D];云南大学;2018年

2 刘双荣;基于柔性边界的神经网络分类器研究及应用[D];济南大学;2019年

3 朱雪慧;闭曲面最近邻分区神经网络分类器的研究与应用[D];济南大学;2019年

4 俞博;基于改进粒子群算法的神经网络分类器研究[D];哈尔滨工程大学;2018年

5 彭敏;基于多级神经网络分类器的手写数字识别[D];沈阳工业大学;2014年

6 李鑫;基于神经网络分类器的汉字识别系统研究[D];辽宁工程技术大学;2005年

7 钟淑瑛;基于入侵检测的神经网络分类器组合问题及PCA技术研究[D];广西大学;2005年

8 吕秋霞;核logistic神经网络分类器及在血液透析诊断中的应用[D];大连理工大学;2017年

9 蔡锋;离线手写签名识别技术研究[D];上海交通大学;2007年

10 张晓倩;面向水泥及其基材料分类的神经网络方法与改进研究[D];济南大学;2015年

本文编号：2631158