基于STDP规则的脉冲神经网络图像分类算法研究
发布时间：2021-08-26 07:42
人类对于信息的处理主要依赖于构成复杂神经网络的数十亿个神经元,而且信息以脉冲的形式进行传递,目前脉冲神经网络是比较好的结合了人类的生物神经系统与机器学习两者特征的神经网络,并已经在图像处理,强化学习,语音处理等实际应用取得了一些成果,但是现阶段也只是处于一个初始研究阶段,很多理论框架算法都还不够清晰,所以越来越多人开始对其的理论和应用进行研究。在对于脉冲神经网络进行研究中,无监督学习一直是重要的一环,基于STDP（Spike-timing-dependent plasticity,STDP）规则的脉冲神经网络,在具有明确的生物意义的同时,也能够处理相对复杂的图像分类问题,为了提高算法的效率和准确率,本文对其网络结构以及分类层算法做出了改进,本文主要内容如下:首先阐述了脉冲神经网络的生物意义以及基本理论知识,在其生物意义的基础上介绍了常规的脉冲神经元模型,并描述了脉冲神经元的编码机制以及学习算法,给出了目前常用的一些网络结构。其次对于突触可塑性规则进行了详细介绍,研究了其发展历程以及不同的STDP规则变体;对常用的基于STDP规则的全连接网络结构进行了改进,修改成一种稀疏概率连接方式。通...
【文章来源】：西华大学四川省
【文章页数】：67 页
【学位级别】：硕士
【部分图文】：
神经元生物结构图
基于STDP规则的脉冲神经网络图像分类算法研究10其中0，是一个和神经元膜时间相关的常数，I表示突触前神经元的输入电流。通过进一步的研究其震荡特性表明，IF模型过于简单无法达到一般的放电需求，因此改进的LIF模型被提出，LIF电路模型图如下：图2.4LIF电路模型图Fig2.4LIFcircuitmodel从图中可以看出其与H-H模型也比较类似，将离子电流简化为了单电阻的电流，即弱化了其生物意义，极大的减少的模型的复杂度。其中可以得出神经元细胞膜电流可以分为()cRItII，其中RI是由电阻两端的电压u和电阻的阻值R所决定的，即RuIR，而通过电容的电流cI，因为CdqIdt，而电容qCu，故可以得到等式=CcduIdt。则有:()()utduItCRdt(2.6)将上式两端同时乘以膜电阻R，就可以得到LIF模型的标准形式了:=R()()mduItutdt(2.7)其中=mRC是膜时间常数，可以看出脉冲产生的条件在LIF模型中没有明确建模，当输入电流使得u(t)大于thu时，模电压u(t)会在经历一个脉冲后到达一个比ru更低的值，然后再回到ru。上式已经可以描述一个这样的过程，但是还缺乏具有真实意义的绝对不应期abs，在这期间无论输入多大的电流其模电压都不会上升。为了研究LIF模型的脉冲周期，研究在输入直流电流的情况下LIF模型脉冲产生的时间，现在我们假设I(t)=I，即保持一个输入电流不变化。且假设=-45rumv，可以解出等式得到：
基于STDP规则的脉冲神经网络图像分类算法研究14其中时间长度T与神经元模型相关，通常是几百毫秒，该方法一般只用在输入强度恒定时，具有可观的效果。脉冲发放率通常可以用来测试神经元的活动状态，但是如果涉及到对于信息的处理，这种方式就存在很多不足。2.2.3时间编码在时间编码方式中，传递的信息包含在脉冲产生的时刻。与频率编码相比，基于脉冲时间的编码策略可以包含更多的信息，因为一次脉冲产生的时间都在毫秒级，如果基于精确脉冲发放时间进行信息的编码则可以传递更多的信息。也因为如此，其对于噪声十分敏感。有研究表明，在生物的视觉系统中，神经元对于视觉信息的编码和第一次脉冲产生的时间有关[43]，基于此生物现象，首次脉冲编码被提出：2112maxminmaxminmaxminttttPxf)(2.19)其中输入信号x[min,max]，编码后的脉冲序列P(x)[min,max]首次脉冲编码方式提高了单个脉冲所蕴含的信息，但是也存在不足，如首次脉冲编码对于神经元的震荡过于敏感，即其抗干扰能力较弱，其次由于需要在神经系统中准确的记录下反应开始的时间，需要额外增加相关机制。图2.5首次脉冲编码图Fig2.5Firstspikingcoding2.3脉冲神经元算法在大脑皮层中，信息之间传递空间主要在神经元之间的突触内发生。经研究表明，这些突触之间的连接强度是可以改变的，称为突触可塑性，人类的大脑通过某种机制进行突触权重的改变，来改变信息传递的方向。这种突触传递的过程就是叫做学习过程，是现在人工智能研究的基矗
【参考文献】：
期刊论文
[1]基于脉冲神经网络的迁移学习算法与软件框架[J]. 尚瑛杰,董丽亚,何虎. 计算机工程. 2020(03)
[2]考虑STDP学习律的树突整合型神经元网络的放电同步[J]. 曹金凤,杨梅晨,韩芳,王直杰. 动力学与控制学报. 2020(01)
[3]脉冲神经网络硬件互连系统的动态优先级仲裁策略[J]. 刘俊秀,黄星月,罗玉玲,曹弋. 电子学报. 2018(08)
[4]脉冲神经网络:模型、学习算法与应用[J]. 程龙,刘洋. 控制与决策. 2018(05)
[5]基于脉冲序列合成核的脉冲神经元在线监督学习算法[J]. 蔺想红,李丹,王向文,张宁. 计算机工程. 2017(12)
[6]一种改进的基于STDP规则的SOM脉冲神经网络[J]. 王蕾,王连明. 东北师大学报(自然科学版). 2017(03)
[7]基于TTFS编码的脉冲神经网络图像分割方法[J]. 蔺想红,张宁,崔文博,冯丽霞. 计算机工程. 2015(08)
硕士论文
[1]基于进化脉冲神经网络的图像识别研究[D]. 赵吉昌.西北师范大学 2017
[2]递归脉冲神经网络的监督学习及图像识别研究[D]. 张玉平.西北师范大学 2015
[3]一种融合多种可塑性的脉冲神经网络研究[D]. 王玮.重庆大学 2015
本文编号：3363840
【文章来源】：西华大学四川省
【文章页数】：67 页
【学位级别】：硕士
【部分图文】：
神经元生物结构图
基于STDP规则的脉冲神经网络图像分类算法研究10其中0，是一个和神经元膜时间相关的常数，I表示突触前神经元的输入电流。通过进一步的研究其震荡特性表明，IF模型过于简单无法达到一般的放电需求，因此改进的LIF模型被提出，LIF电路模型图如下：图2.4LIF电路模型图Fig2.4LIFcircuitmodel从图中可以看出其与H-H模型也比较类似，将离子电流简化为了单电阻的电流，即弱化了其生物意义，极大的减少的模型的复杂度。其中可以得出神经元细胞膜电流可以分为()cRItII，其中RI是由电阻两端的电压u和电阻的阻值R所决定的，即RuIR，而通过电容的电流cI，因为CdqIdt，而电容qCu，故可以得到等式=CcduIdt。则有:()()utduItCRdt(2.6)将上式两端同时乘以膜电阻R，就可以得到LIF模型的标准形式了:=R()()mduItutdt(2.7)其中=mRC是膜时间常数，可以看出脉冲产生的条件在LIF模型中没有明确建模，当输入电流使得u(t)大于thu时，模电压u(t)会在经历一个脉冲后到达一个比ru更低的值，然后再回到ru。上式已经可以描述一个这样的过程，但是还缺乏具有真实意义的绝对不应期abs，在这期间无论输入多大的电流其模电压都不会上升。为了研究LIF模型的脉冲周期，研究在输入直流电流的情况下LIF模型脉冲产生的时间，现在我们假设I(t)=I，即保持一个输入电流不变化。且假设=-45rumv，可以解出等式得到：
基于STDP规则的脉冲神经网络图像分类算法研究14其中时间长度T与神经元模型相关，通常是几百毫秒，该方法一般只用在输入强度恒定时，具有可观的效果。脉冲发放率通常可以用来测试神经元的活动状态，但是如果涉及到对于信息的处理，这种方式就存在很多不足。2.2.3时间编码在时间编码方式中，传递的信息包含在脉冲产生的时刻。与频率编码相比，基于脉冲时间的编码策略可以包含更多的信息，因为一次脉冲产生的时间都在毫秒级，如果基于精确脉冲发放时间进行信息的编码则可以传递更多的信息。也因为如此，其对于噪声十分敏感。有研究表明，在生物的视觉系统中，神经元对于视觉信息的编码和第一次脉冲产生的时间有关[43]，基于此生物现象，首次脉冲编码被提出：2112maxminmaxminmaxminttttPxf)(2.19)其中输入信号x[min,max]，编码后的脉冲序列P(x)[min,max]首次脉冲编码方式提高了单个脉冲所蕴含的信息，但是也存在不足，如首次脉冲编码对于神经元的震荡过于敏感，即其抗干扰能力较弱，其次由于需要在神经系统中准确的记录下反应开始的时间，需要额外增加相关机制。图2.5首次脉冲编码图Fig2.5Firstspikingcoding2.3脉冲神经元算法在大脑皮层中，信息之间传递空间主要在神经元之间的突触内发生。经研究表明，这些突触之间的连接强度是可以改变的，称为突触可塑性，人类的大脑通过某种机制进行突触权重的改变，来改变信息传递的方向。这种突触传递的过程就是叫做学习过程，是现在人工智能研究的基矗
【参考文献】：
期刊论文
[1]基于脉冲神经网络的迁移学习算法与软件框架[J]. 尚瑛杰,董丽亚,何虎. 计算机工程. 2020(03)
[2]考虑STDP学习律的树突整合型神经元网络的放电同步[J]. 曹金凤,杨梅晨,韩芳,王直杰. 动力学与控制学报. 2020(01)
[3]脉冲神经网络硬件互连系统的动态优先级仲裁策略[J]. 刘俊秀,黄星月,罗玉玲,曹弋. 电子学报. 2018(08)
[4]脉冲神经网络:模型、学习算法与应用[J]. 程龙,刘洋. 控制与决策. 2018(05)
[5]基于脉冲序列合成核的脉冲神经元在线监督学习算法[J]. 蔺想红,李丹,王向文,张宁. 计算机工程. 2017(12)
[6]一种改进的基于STDP规则的SOM脉冲神经网络[J]. 王蕾,王连明. 东北师大学报(自然科学版). 2017(03)
[7]基于TTFS编码的脉冲神经网络图像分割方法[J]. 蔺想红,张宁,崔文博,冯丽霞. 计算机工程. 2015(08)
硕士论文
[1]基于进化脉冲神经网络的图像识别研究[D]. 赵吉昌.西北师范大学 2017
[2]递归脉冲神经网络的监督学习及图像识别研究[D]. 张玉平.西北师范大学 2015
[3]一种融合多种可塑性的脉冲神经网络研究[D]. 王玮.重庆大学 2015
本文编号：3363840
本文链接：https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3363840.html
