当前位置:主页 > 医学论文 > 生物医学论文 >

神威太湖之光加速计算在脑神经网络模拟中的应用

发布时间:2022-01-16 19:32
  脑神经网络模拟是脑科学研究和理论验证的重要方法.为提高脑模拟速度,异构加速已开始应用于脑模拟.然而现有异构加速脑模拟软件均存在明显的访存性能和计算精度问题.为此,本文基于神威太湖之光研发了脑模拟软件SWsnn,确保了随机访存多发生在高速缓存中.为避免主存访问的随机性,将频繁出现随机访存且数据量较小的神经元信息长时间停留在局部存储(LDM),同时将数据量很大的突触连接数据存储在主存,且尽可能连续访问主存.为避免可塑性导致的对突触连接的随机搜索,对脉冲时间依赖可塑性(STDP)算法采用需要前再更新的方法,以确保主存访问的连续性.为了提高脑模拟精度,设计环形缓冲和延迟传送联合应用方法,以支持高精度时间步长的脑模拟.在此基础上,对SWsnn进行向量化、访存隐藏等优化操作,计算性能进一步提高约50%.SWsnn对104神经元全连接网络实现了生物实时模拟,比同等规模浮点计算能力GPU上运行的CARLsim快10倍左右. 

【文章来源】:计算机学报. 2020,43(06)北大核心EICSCD

【文章页数】:13 页

【部分图文】:

神威太湖之光加速计算在脑神经网络模拟中的应用


神经元细胞和突触[10]

函数,脉冲时间,突触,突触可塑性


突触可塑性是突触属性随时间的改变,是实现脑神经的学习和记忆的理论基础.其中,脉冲时间依赖可塑性(Spike-Timing Dependent Plasticity,STDP)是常用的脑模拟突触可塑性模型,也是SNN常用的非监督学习方法[15].STDP模型认为突触权重的改变与前后神经元相对脉冲时间差有关,图2显示了统计获得的60对脉冲时间差与突触权重改变量的关系[13].常规的权重改变量可以表示为[13]

脉冲,异构,权重,架构


脉冲传送延时

【参考文献】:
期刊论文
[1]神经元模型对比分析[J]. 徐泠风,李传东,陈玲.  物理学报. 2016(24)
[2]The Sunway Taihu Light supercomputer:system and applications[J]. Haohuan FU,Junfeng LIAO,Jinzhe YANG,Lanning WANG,Zhenya SONG,Xiaomeng HUANG,Chao YANG,Wei XUE,Fangfang LIU,Fangli QIAO,Wei ZHAO,Xunqiang YIN,Chaofeng HOU,Chenglong ZHANG,Wei GE,Jian ZHANG,Yangang WANG,Chunbo ZHOU,Guangwen YANG.  Science China(Information Sciences). 2016(07)



本文编号:3593291

资料下载
论文发表

本文链接:https://www.wllwen.com/yixuelunwen/swyx/3593291.html


Copyright(c)文论论文网All Rights Reserved | 网站地图 |

版权申明:资料由用户7cc4e***提供,本站仅收录摘要或目录,作者需要删除请E-mail邮箱bigeng88@qq.com