最少门结构的循环神经网络及其应用

发布时间：2017-05-16 10:16

  本文关键词：最少门结构的循环神经网络及其应用，由笔耕文化传播整理发布。

【摘要】：在现实世界中,有无数的任务需要处理序列化的数据。有的需要模型的输出是序列。同时在一些其他场景下,需要模型可以接受输入数据是序列。而对于交互型的任务,需要模型同时具备上述两种能力。相对于传统模型,循环神经网络可以更好的胜任以上所说的三类问题,实际中循环神经网络在语音识别、视频动作分析、手写识别和图片描述等问题成功应用,取得了很好的效果。在经过多年的发展后,循环神经网络衍生出了很多的变种,其中使用最广泛的是LSTM和GRU,这两个变种均是基于门结构的。结合上述两种结构以及现有文献中对不同变种的总结分析,本文提出了一个新的变种,这种结构仅仅包含一个门结构,因此将它称为最少门单元(Minimal Gated Unit,简称MGU)。相比于之前的变种,MGU的贡献有如下三点：1)MGU把门结构精简到最小的可能,参数要远远比LSTM和GRU少,训练复杂性大大降低,训练速度也得到提升。同时此项性能是与序列的长度成正比的,在实验中出现了相同的运算能力下LSTM和GRU无法在可以接受的时间内完成训练,但MGU不会。2)理论上越简单的结构越方便去分析,MGU只有一个门结构,理解MGU的机制也变得更容易。但本文不涉及具体的RNN理解问题。3)本文选取了四个问题进行验证,包括加法问题,情感分析,图像识别和语言模型,MGU均取得了较好的结果。同时MGU可以适应不同长度的序列学习任务(长度从35到784)。在实验中的超长序列问题上,MGU时间和结果都取得了很好的结果。
【关键词】：循环神经网络 机器学习 长短时记忆网络 门控重复单元
【学位授予单位】：南京大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP183
【目录】：

• 摘要5-6
• ABSTRACT6-8
• 第一章 绪论8-14
• 1.1 引言8
• 1.2 背景8-11
• 1.3 待研究的问题11-12
• 1.4 本文的工作12-14
• 第二章 深度神经网络14-27
• 2.1 多层感知机14-20
• 2.2 循环神经网络20-22
• 2.3 网络训练22-27
• 第三章 循环神经网络变种27-40
• 3.1 LSTM28-33
• 3.2 LSTM变种33-38
• 3.3 最少门结构单元38-40
• 第四章 MGU在不同问题中表现40-50
• 4.1 加法问题40-42
• 4.2 情感分析42-44
• 4.3 图片识别44-45
• 4.4 语言模型45-48
• 4.5 小结48-50
• 第五章 结束语50-51
• 参考文献51-56
• 致谢56-57
• 附录57-58

【相似文献】

中国期刊全文数据库 前10条

1 云中客;新的神经网络来自于仿生学[J];物理;2001年10期

2 唐春明,高协平;进化神经网络的研究进展[J];系统工程与电子技术;2001年10期

3 李智;一种基于神经网络的煤炭调运优化方法[J];长沙铁道学院学报;2003年02期

4 程科,王士同,杨静宇;新型模糊形态神经网络及其应用研究[J];计算机工程与应用;2004年21期

5 王凡,孟立凡;关于使用神经网络推定操作者疲劳的研究[J];人类工效学;2004年03期

6 周丽晖;从统计角度看神经网络[J];统计教育;2005年06期

7 赵奇 ,刘开第 ,庞彦军;灰色补偿神经网络及其应用研究[J];微计算机信息;2005年14期

8 袁婷;;神经网络在股票市场预测中的应用[J];软件导刊;2006年05期

9 尚晋;杨有;;从神经网络的过去谈科学发展观[J];重庆三峡学院学报;2006年03期

10 杨钟瑾;;神经网络的过去、现在和将来[J];青年探索;2006年04期

中国重要会议论文全文数据库 前10条

1 徐春玉;;基于泛集的神经网络的混沌性[A];1996中国控制与决策学术年会论文集[C];1996年

2 周树德;王岩;孙增圻;孙富春;;量子神经网络[A];2003年中国智能自动化会议论文集（上册）[C];2003年

3 罗山;张琳;范文新;;基于神经网络和简单规划的识别融合算法[A];2009系统仿真技术及其应用学术会议论文集[C];2009年

4 郭爱克;马尽文;丁康;;序言(二)[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

5 钟义信;;知识论:神经网络的新机遇——纪念中国神经网络10周年[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

6 许进;保铮;;神经网络与图论[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

7 金龙;朱诗武;赵成志;陈宁;;数值预报产品的神经网络释用预报应用[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

8 田金亭;;神经网络在中学生创造力评估中的应用[A];第十二届全国心理学学术大会论文摘要集[C];2009年

9 唐墨;王科俊;;自发展神经网络的混沌特性研究[A];2009年中国智能自动化会议论文集（第七分册）[南京理工大学学报（增刊）][C];2009年

10 张广远;万强;曹海源;田方涛;;基于遗传算法优化神经网络的故障诊断方法研究[A];第十二届全国设备故障诊断学术会议论文集[C];2010年

中国重要报纸全文数据库 前10条

1 美国明尼苏达大学社会学博士 密西西比州立大学国家战略规划与分析研究中心资深助理研究员 陈心想;维护好创新的“神经网络硬件”[N];中国教师报;2014年

2 卢业忠;脑控电脑 惊世骇俗[N];计算机世界;2001年

3 葛一鸣 路边文;人工神经网络将大显身手[N];中国纺织报;2003年

4 中国科技大学计算机系　邢方亮;神经网络挑战人类大脑[N];计算机世界;2003年

5 记者 孙刚;“神经网络”：打开复杂工艺“黑箱”[N];解放日报;2007年

6 本报记者 刘霞;美用DNA制造出首个人造神经网络[N];科技日报;2011年

7 健康时报特约记者　 张献怀;干细胞移植：修复受损的神经网络[N];健康时报;2006年

8 刘力;我半导体神经网络技术及应用研究达国际先进水平[N];中国电子报;2001年

9 ;神经网络和模糊逻辑[N];世界金属导报;2002年

10 邹丽梅 陈耀群;江苏科大神经网络应用研究通过鉴定[N];中国船舶报;2006年

中国博士学位论文全文数据库 前10条

1 杨旭华;神经网络及其在控制中的应用研究[D];浙江大学;2004年

2 李素芳;基于神经网络的无线通信算法研究[D];山东大学;2015年

3 石艳超;忆阻神经网络的混沌性及几类时滞神经网络的同步研究[D];电子科技大学;2014年

4 王新迎;基于随机映射神经网络的多元时间序列预测方法研究[D];大连理工大学;2015年

5 付爱民;极速学习机的训练残差、稳定性及泛化能力研究[D];中国农业大学;2015年

6 李辉;基于粒计算的神经网络及集成方法研究[D];中国矿业大学;2015年

7 王卫苹;复杂网络几类同步控制策略研究及稳定性分析[D];北京邮电大学;2015年

8 陈辉;多维超精密定位系统建模与控制关键技术研究[D];东南大学;2015年

9 闫淑霞;基于神经网络的微波射频器件建模[D];天津大学;2015年

10 胡文凭;基于深层神经网络的口语发音检测与错误分析[D];中国科学技术大学;2016年

中国硕士学位论文全文数据库 前10条

1 陈少吉;基于神经网络血压预测研究与系统实现[D];华南理工大学;2015年

2 张韬;几类时滞神经网络稳定性分析[D];渤海大学;2015年

3 邵雪莹;几类时滞不确定神经网络的稳定性分析[D];渤海大学;2015年

4 胡婷;改进QGA-BP模型及其在弥苴河总氮量预测中的应用[D];昆明理工大学;2015年

5 刘俊辉;基于数据清洗方法的河道水位预测研究[D];昆明理工大学;2015年

6 刘波;短期风电功率预测方法研究[D];南京信息工程大学;2015年

7 蔡邦宇;人脸识别中单次ERP时空特征分析及其快速检索的应用[D];浙江大学;2015年

8 郑川;垃圾评论检测算法的研究[D];西南交通大学;2015年

9 李菊;BP神经网络在房地产批量评估中的应用研究[D];昆明理工大学;2015年

10 马亮;降水点分类预测方法研究[D];中国地质大学(北京);2015年

  本文关键词：最少门结构的循环神经网络及其应用，，由笔耕文化传播整理发布。

本文编号：370572