基于深度学习的自组织分类算法

发布时间：2017-08-10 00:12

  本文关键词：基于深度学习的自组织分类算法

  更多相关文章： 联想生成 条件反射 自组织分类 深信度网络 特征提取

【摘要】：通过对语言形成过程的学习,我们发现大脑可以接收不同信号源,经联想、模式识别等操作,将同类事物的不同表达方式提取出共同特征从而建立联系,最终将同类型事物自组织分类。同时,巴甫洛夫实验证明了我们生物体具有着基本的条件反射能力,当经常看到一些相关联的事物时,我们可以做出快速的反应,比如“谈梅生津”指的就是当我们听到梅子时就会流口水。神经网络作为人工智能领域一个举足轻重的领域,在发展历程中经历了从浅层学习到深度学习的浪潮。2006年之前,人工神经网络反向传播算法的提出使得机器学习取得巨大成功,我们可以通过使用人工神经网络从大量训练样本中找到统计规律,然后进行预测、分类。随后,由于理论分析的难度和训练过程的繁复,人工神经网络进入低谷期,而支持向量机、最大熵方法等模型取得了巨大成功。2006年,加拿大多伦多大学教授Geoffrey Hinton在《科学》发表了关于深度学习的一篇文章,表明含隐藏层的神经网络可以学习到数据的特征,并且训练过程可以通过逐层初始化解决。自此,深度学习开始对学术界和工业界产生巨大影响。本文研究的主要内容就是通过建立一个多路信号联想生成模型,从而将同类事物进行自组织分类的算法来模拟大脑的能力。该算法主要基于限制波尔兹曼机、深信度网络以及自组织映射算法,首先使用深信度网络对多路输入信号源进行特征提取,随后通过限制波尔兹曼机将特征融合产生共同特征,最终采用自组织映射算法将事物分类。在学习语言及文字的过程中,人类可以通过将相同含义但不同语言的文字建立联系,能够灵活的将不同语言不同文字相互转换。深度学习算法出现之前,我们通过浅层学习算法可以做到从一类信号输入源中识别文字,但很少有将不同信号源建立联系的算法。本文实验中我们将利用基于深度学习的自组织分类算法实现汉字数字图片同阿拉伯数字图片建立关联,最终在网络中产生分类。通过实验证明,使用基于深度学习的自组织分类算法可以将同类事物的不同表达方式建立联系,随后产生条件反射效果；同时我们将学习到联想记忆通过完全无监督的自组织分类算法,成功学习到统一概念,达到了学习知识的效果。
【关键词】：联想生成 条件反射 自组织分类 深信度网络 特征提取
【学位授予单位】：吉林大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP18
【目录】：

• 摘要4-6
• Abstract6-10
• 第1章 绪论10-16
• 1.1 研究背景10-11
• 1.2 研究意义11-12
• 1.3 研究现状12-14
• 1.4 研究内容及创新点14-15
• 1.5 本文组织结构15-16
• 第2章 深度学习及自组织分类理论和算法基础16-24
• 2.1 引言16-18
• 2.2 神经网络概述18-21
• 2.2.1 感知机18-19
• 2.2.2 前馈型神经网络训练方法19-20
• 2.2.3 反馈型神经网络训练方法20-21
• 2.3 限制波尔兹曼机21
• 2.4 深信度网络21-22
• 2.5 自组织映射网络22-23
• 2.6 本章小结23-24
• 第3章 基于深度学习的自组织分类算法24-34
• 3.1 引言24-25
• 3.2 自组织分类算法模型25-26
• 3.3 算法基础26-29
• 3.3.1 对比散度算法与Gibbs采样26-28
• 3.3.2 过拟合和dropout方法28
• 3.3.3 Mini-batch算法28-29
• 3.4 模型训练及验证算法29-32
• 3.4.1 模型训练29-32
• 3.4.2 模型验证32
• 3.5 本章小结32-34
• 第4章 实验及结果34-43
• 4.1 引言34-35
• 4.2 数据集35-36
• 4.3 实验模型及结果分析36-41
• 4.3.1 联想生成结果分析37-39
• 4.3.2 自组织分类结果分析39-41
• 4.4 本章小结41-43
• 第5章 总结与展望43-45
• 5.1 总结43
• 5.2 结论与展望43-45
• 参考文献45-48
• 作者简介及在学期间所取得的科研成果48-49
• 致谢49

【相似文献】

中国期刊全文数据库 前10条

1 王萍;;图书馆的自组织序[J];图书馆;2006年01期

2 乔东枝;;图书馆核心竞争力的自组织研究[J];科技情报开发与经济;2007年16期

3 方天宇;张佳琳;;自组织网络中的智能容错导航算法研究[J];鸡西大学学报;2012年06期

4 宁录游,张中兆;自组织通信网技术[J];通信技术;2002年01期

5 杨甫;肖前香;;按需自组织路由算法的设计[J];信息安全与通信保密;2006年06期

6 曹蓟光;;自组织网络技术的发展趋势[J];电信网技术;2007年07期

7 于坤;吴国新;方群;;基于二阶声誉测度的自组织网络合作激励机制[J];东南大学学报(自然科学版);2008年06期

8 孙韩林;金跃辉;崔毅东;蒋砚军;;自组织网络的元指标体系[J];计算机系统应用;2008年09期

9 彭宁波;;信息自组织的产生、形成和发展探析[J];图书馆学研究;2010年07期

10 李燕;浅谈自组织无线网络技术[J];甘肃科技;2005年10期

中国重要会议论文全文数据库 前10条

1 黄进永;;自组织网络可靠性分析技术[A];2010第十五届可靠性学术年会论文集[C];2010年

2 谭矛;孙江辉;;一种自组织式车-车通讯技术的研究[A];2013中国汽车工程学会年会论文集[C];2013年

3 赵宁;;军用自组织网络体系结构研究[A];开创新世纪的通信技术——第七届全国青年通信学术会议论文集[C];2001年

4 蔡晓晗;;城市规划的多元力量——以旧住房自组织改建为例[A];多元与包容——2012中国城市规划年会论文集(06.住房建设与社区规划)[C];2012年

5 袁倩;;国家退出之后:基于农村自组织的公共产品供给机制——对赵坝“农民议会”的案例研究[A];上海青年政治学年度报告2013[C];2013年

6 梅林;谢薇;钟雪霞;王建;;浅谈应急通信自组织网络技术[A];2013第一届中国指挥控制大会论文集[C];2013年

7 朱脉勇;王莹;黄洁;龚辉;刁国旺;;表面活性剂对镍纳米粒子的形貌及自组织的影响[A];中国化学会第27届学术年会第04分会场摘要集[C];2010年

8 邵泽才;丁丁;刘磊;黄宇红;;自组织移动通信网络研究概述[A];2008年中国通信学会无线及移动通信委员会学术年会论文集[C];2008年

9 王进富;张颖颖;;协同创新网络形成的自组织机理[A];第十一届中国技术管理（2014`MOT）年会论文集[C];2014年

10 张蓉茜;陈晓曙;;一种分级多跳自组织无线通信网络的研究[A];江苏省通信学会2004年学术年会论文集[C];2004年

中国博士学位论文全文数据库 前10条

1 范绍帅;自组织网络智能化控制与优化策略研究[D];北京邮电大学;2015年

2 孙瑜;乡村自组织运作过程中能人现象研究[D];清华大学;2014年

3 郭毅;基于政策的自组织软件系统及其构造和运行技术研究[D];国防科学技术大学;2013年

4 陈曦;自组织蜂窝通信系统若干关键技术研究[D];解放军信息工程大学;2007年

5 王非;自组织网络信誉模型及其应用研究[D];华中科技大学;2008年

6 魏W，

本文编号：647953