基于脉冲序列内积的脉冲神经网络监督学习研究

发布时间：2017-04-18 07:29

  本文关键词：基于脉冲序列内积的脉冲神经网络监督学习研究，，由笔耕文化传播整理发布。

【摘要】：神经科学的最新研究成果表明,大脑中神经信息是通过脉冲精确定时编码的,而不仅仅是通过脉冲发放频率来编码信息。基于脉冲精确定时编码的第三代人工神经网络,即脉冲神经网络,非常适合实现大脑神经信号的处理问题,是进行复杂时空信息处理的有效工具。但由于其内在的不连续和非线性机制,构建高效的脉冲神经网络监督学习算法非常困难,同时也是该研究领域的重要问题。本文首先介绍了脉冲神经网络监督学习算法的基本框架,以及性能评价原则,包括脉冲序列学习能力、离线与在线处理性能、学习规则的局部特性和对神经网络结构的适用性。此外,对脉冲神经网络监督学习算法的梯度下降学习规则、突触可塑性学习规则和脉冲序列卷积学习规则进行了详细的讨论,通过对比分析指出了现有算法存在的优缺点。其次,基于脉冲序列内积的定义,提出了一种新的脉冲神经元监督学习算法。该算法应用脉冲序列的内积构造多脉冲误差函数和对应的突触学习规则,并通过神经元的实际脉冲发放频率自适应调整学习率。将该算法应用于脉冲序列的学习任务,其中期望脉冲序列采用Poisson过程或线性方法编码,同时分析了不同学习率、不同输入神经元数目、不同期望输出脉冲序列的长度、不同输入与期望输出脉冲序列的发放频率以及不同核函数等因素对该算法学习性能的影响。实验结果表明该算法具有较高的学习精度和良好的适应能力,在处理复杂的时空模式学习问题时十分有效。最后,将基于脉冲序列内积的脉冲神经元监督学习算法推广到了多层前馈脉冲神经网络,提出了一种新的基于脉冲序列内积的多层前馈脉冲神经网络监督学习算法。将该算法应用到Wisconsin乳腺癌数据集分类问题,验证该算法对非线性模式分类问题的求解能力。采用线性脉冲序列编码方法对Wisconsin乳腺癌数据集的数据进行编码,分析了训练结果以及隐含层神经元数目对分类准确度的影响。实验结果表明该算法可以有效地解决非线性模式分类问题,具有一定的实用价值。
【关键词】：脉冲神经网络 监督学习 脉冲序列的内积 多层前馈网络 反向传播算法
【学位授予单位】：西北师范大学
【学位级别】：硕士
【学位授予年份】：2015
【分类号】：TP183
【目录】：

• 摘要8-9
• ABSTRACT9-11
• 1 绪论11-26
• 1.1 研究背景及意义11-12
• 1.2 脉冲神经网络监督学习的基本理论12-14
• 1.2.1 脉冲神经网络监督学习算法的基本框架12-13
• 1.2.2 脉冲神经网络监督学习算法的性能评价13-14
• 1.3 脉冲神经网络监督学习的研究现状14-23
• 1.3.1 基于梯度下降规则的监督学习算法14-18
• 1.3.2 基于突触可塑性规则的监督学习算法18-21
• 1.3.3 基于脉冲序列卷积的监督学习算法21-23
• 1.4 本文的研究工作23-24
• 1.5 论文的组织结构24-26
• 2 脉冲序列内积的相关理论26-33
• 2.1 核方法以及RKHS的相关理论26-27
• 2.2 脉冲时间的内积27-28
• 2.3 脉冲序列的内积28-31
• 2.4 脉冲序列内积的性质31-32
• 2.5 本章小结32-33
• 3 脉冲神经元的监督学习算法33-46
• 3.1 脉冲响应模型33
• 3.2 脉冲序列的转换关系33-34
• 3.3 脉冲神经元监督学习算法34-36
• 3.3.1 多脉冲误差函数34
• 3.3.2 突触权值的学习规则34-35
• 3.3.3 学习率自适应35-36
• 3.3.4 脉冲序列的相似性度量36
• 3.4 实验结果36-44
• 3.4.1 学习过程分析37-38
• 3.4.2 不同学习率的学习38-39
• 3.4.3 不同输入神经元数目的学习39-40
• 3.4.4 不同脉冲序列长度的学习40-41
• 3.4.5 不同期望脉冲序列编码的学习41-42
• 3.4.6 不同核函数的学习42-44
• 3.5 讨论44-45
• 3.6 本章小结45-46
• 4 多层前馈脉冲神经网络的监督学习算法46-52
• 4.1 脉冲神经网络的多层前馈结构46
• 4.2 多层前馈脉冲神经网络的学习规则46-48
• 4.3 非线性模式分类问题48-51
• 4.4 本章小结51-52
• 5 总结与展望52-54
• 5.1 本文工作总结52
• 5.2 今后工作展望52-54
• 参考文献54-59
• 攻读硕士学位期间的学术成果59-60
• 致谢60

【相似文献】

中国期刊全文数据库 前10条

1 云中客;新的神经网络来自于仿生学[J];物理;2001年10期

2 唐春明,高协平;进化神经网络的研究进展[J];系统工程与电子技术;2001年10期

3 李智;一种基于神经网络的煤炭调运优化方法[J];长沙铁道学院学报;2003年02期

4 程科,王士同,杨静宇;新型模糊形态神经网络及其应用研究[J];计算机工程与应用;2004年21期

5 王凡,孟立凡;关于使用神经网络推定操作者疲劳的研究[J];人类工效学;2004年03期

6 周丽晖;从统计角度看神经网络[J];统计教育;2005年06期

7 赵奇 ,刘开第 ,庞彦军;灰色补偿神经网络及其应用研究[J];微计算机信息;2005年14期

8 袁婷;;神经网络在股票市场预测中的应用[J];软件导刊;2006年05期

9 尚晋;杨有;;从神经网络的过去谈科学发展观[J];重庆三峡学院学报;2006年03期

10 杨钟瑾;;神经网络的过去、现在和将来[J];青年探索;2006年04期

中国重要会议论文全文数据库 前10条

1 徐春玉;;基于泛集的神经网络的混沌性[A];1996中国控制与决策学术年会论文集[C];1996年

2 周树德;王岩;孙增圻;孙富春;;量子神经网络[A];2003年中国智能自动化会议论文集（上册）[C];2003年

3 罗山;张琳;范文新;;基于神经网络和简单规划的识别融合算法[A];2009系统仿真技术及其应用学术会议论文集[C];2009年

4 郭爱克;马尽文;丁康;;序言(二)[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

5 钟义信;;知识论:神经网络的新机遇——纪念中国神经网络10周年[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

6 许进;保铮;;神经网络与图论[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

7 金龙;朱诗武;赵成志;陈宁;;数值预报产品的神经网络释用预报应用[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年

8 田金亭;;神经网络在中学生创造力评估中的应用[A];第十二届全国心理学学术大会论文摘要集[C];2009年

9 唐墨;王科俊;;自发展神经网络的混沌特性研究[A];2009年中国智能自动化会议论文集（第七分册）[南京理工大学学报（增刊）][C];2009年

10 张广远;万强;曹海源;田方涛;;基于遗传算法优化神经网络的故障诊断方法研究[A];第十二届全国设备故障诊断学术会议论文集[C];2010年

中国重要报纸全文数据库 前10条

1 美国明尼苏达大学社会学博士 密西西比州立大学国家战略规划与分析研究中心资深助理研究员 陈心想;维护好创新的“神经网络硬件”[N];中国教师报;2014年

2 卢业忠;脑控电脑 惊世骇俗[N];计算机世界;2001年

3 葛一鸣 路边文;人工神经网络将大显身手[N];中国纺织报;2003年

4 中国科技大学计算机系　邢方亮;神经网络挑战人类大脑[N];计算机世界;2003年

5 记者 孙刚;“神经网络”：打开复杂工艺“黑箱”[N];解放日报;2007年

6 本报记者 刘霞;美用DNA制造出首个人造神经网络[N];科技日报;2011年

7 健康时报特约记者　 张献怀;干细胞移植：修复受损的神经网络[N];健康时报;2006年

8 刘力;我半导体神经网络技术及应用研究达国际先进水平[N];中国电子报;2001年

9 ;神经网络和模糊逻辑[N];世界金属导报;2002年

10 邹丽梅 陈耀群;江苏科大神经网络应用研究通过鉴定[N];中国船舶报;2006年

中国博士学位论文全文数据库 前10条

1 杨旭华;神经网络及其在控制中的应用研究[D];浙江大学;2004年

2 李素芳;基于神经网络的无线通信算法研究[D];山东大学;2015年

3 石艳超;忆阻神经网络的混沌性及几类时滞神经网络的同步研究[D];电子科技大学;2014年

4 王新迎;基于随机映射神经网络的多元时间序列预测方法研究[D];大连理工大学;2015年

5 付爱民;极速学习机的训练残差、稳定性及泛化能力研究[D];中国农业大学;2015年

6 李辉;基于粒计算的神经网络及集成方法研究[D];中国矿业大学;2015年

7 王卫苹;复杂网络几类同步控制策略研究及稳定性分析[D];北京邮电大学;2015年

8 张海军;基于云计算的神经网络并行实现及其学习方法研究[D];华南理工大学;2015年

9 李艳晴;风速时间序列预测算法研究[D];北京科技大学;2016年

10 曾U喺

本文编号：314342