前馈神经网络和粒子群优化算法的FPGA设计与实现

发布时间：2020-10-23 18:53

　　 人工神经网络(Artificial Neural Networks)是机器学习的一个分支,它是一种模仿生物行为特征的生物神经网络结构的数学模型。深度学习是在神经网络的基础上发展而来的一种新的学习算法,其基本结构是深度神经网络。粒子群优化算法(PSO)是一种群体智能算法,可以对目标进行优化。针对目前软件实现的前馈神经网络和粒子群优化算法存在的一些局限性(功耗、耗时和成本),本论文给出了一种基于FPGA实现的前馈神经网络和粒子群优化算法的方法,其结构上实现并行、流水线设计、模块化设计,使得基于FPGA实现的神经网络和PSO算法功耗更低、耗时更短、计算效率更高。本论文用FPGA设计与实现的前馈神经网络与粒子群优化算法的方案主要贡献包括以下几点。(1)研究了用FPGA设计与实现BP神经网络的逻辑结构,其中采用模块化编程,根据算法的原理设计电路结构,使得电路更加具有可移植性和可重配置性。系统设计中输入层模块到隐含层模块和隐含层模块到输出层模块多采用流水线结构,可以在一个时钟周期下完成多个操作。隐含层模块、输出层模块和权值、阈值更新模块的数据计算实现并行,使得用FPGA设计的BP神经网络功耗更低、耗时更短和计算效率更高。(2)研究了用FPGA设计与实现卷积神经网络的逻辑结构。用FPGA实现的卷积神经网络同样采用模块化的思想,可以便捷的改变网络结构,即增加或减少层数。设计中卷积层模块到池化层模块、池化层模块到全连接层模块实现流水线操作,卷积层模块、池化层模块和全连接层模块层内实现并行,加快了卷积神经网络的计算。(3)研究了用FPGA设计与实现PSO算法的逻辑结构,PSO算法的FPGA设计与实现同样使用模块化的设计,根据粒子的规模,并行产生该规模的粒子数据,并行计算粒子的适应度,这样极大地缩短了计算时间,使得PSO算法在硬件上实现更加具有优势。本论文给出了一种基于FPGA实现的前馈神经网络与PSO算法的设计方案并在硬件上验证了该方案。实现的前馈神经网络和PSO算法具有可移植性、并行性、流水线操作,能够方便的移植到其他网络。相较于用软件(MATLAB)实现的前馈神经网络和PSO算法而言,用FPGA实现其资源更少、功耗更低、耗时更短、计算效率更高和实时性更强。
【学位单位】：湖南师范大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：TP18;TN791
【文章目录】：
摘要
Abstract
第一章 绪论
    1.1 课题研究背景与意义
    1.2 相关技术的发展与研究现状
    1.3 本课题的研究内容
    1.4 论文结构与工作安排
第二章 BP神经网络的FPGA设计与实现
    2.1 神经网络的基本概念
        2.1.1 BP神经网络的原理
        2.1.2 BP神经网络设计流程
    2.2 BP神经网络的FPGA逻辑设计
        2.2.1 样本的逻辑结构设计
        2.2.2 BP神经网络的逻辑结构设计
    2.3 FPGA实现BP神经网络实验分析
        2.3.1 实验的环境与平台
        2.3.2 PMV指标拟合实验
        2.3.3 正弦函数拟合实验
    2.4 本章小结
第三章 卷积神经网络算法的FPGA设计与实现
    3.1 深度神经网络的基本概念
    3.2 卷积神经网络的FPGA逻辑设计
        3.2.1 输入图片的逻辑结构设计
        3.2.2 卷积神经网络（CNN）的逻辑结构设计
    3.3 FPGA实现卷积神经网络实验分析
        3.3.1 实验的环境与平台
        3.3.2 MNIST 库手写字体识别实验
    3.4 本章小结
第四章 粒子群优化算法PSO的 FPGA设计与实现
    4.1 PSO算法的基本概念
        4.1.1 PSO算法的原理
        4.1.2 PSO算法的设计流程
    4.2 PSO算法的FPGA逻辑设计
        4.2.1 PSO算法优化BP神经网络的FPGA逻辑设计
        4.2.2 PSO算法的FPGA逻辑设计
    4.3 FPGA实现PSO算法实验分析
        4.3.1 实验的环境与平台
        4.3.2 非线性函数寻优实验
        4.3.3 PMV指标拟合实验
    4.4 本章小结
第五章 FPGA实验与分析
    5.1 实验的环境与平台
    5.2 FPGA实现前馈神经网络的实验与分析
        5.2.1 FPGA实现BP神经网络实验与分析
        5.2.2 FPGA实现卷积神经网络实验与分析
    5.3 FPGA实现PSO算法的实验与分析
    5.4 本章小结
第六章 总结与展望
    6.1 总结
    6.2 展望
参考文献
附录A （攻读硕士学位期间取得的科研成果）
致谢

【相似文献】

相关期刊论文 前10条

1 孙景文;常鲜戎;;基于高斯混沌粒子群优化动态前馈神经网络的短期负荷预测[J];陕西电力;2015年09期

2 周小燕,徐晋;一种基于重置的变结构前馈神经网络[J];南昌大学学报(理科版);2004年04期

3 彭娟,王方华,徐晋;基于熵方误差的高斯牛顿前馈神经网络[J];系统工程理论方法应用;2003年04期

4 徐善针,洛永平,崔荣一;三层前馈神经网络的异联想算法[J];延边大学学报(自然科学版);2001年04期

5 吴龙标,张本矿,连加锐;基于遗传算法的前馈神经网络火灾探测[J];火灾科学;1998年02期

6 张春雷,杨治国,龙伟;前馈神经网络开发工具的研究[J];四川联合大学学报(工程科学版);1997年06期

7 江冰,张勇传;改进半前馈神经网络学习算法[J];水电能源科学;1997年02期

8 吴宁，李韧强;分支前馈神经网络的研究[J];重庆大学学报(自然科学版);1995年03期

9 闻辉;严涛;李同彬;陈德礼;;典型前馈神经网络的研究现状与分析[J];科技风;2019年17期

10 王士同;钟富礼;蒋亦樟;;我们还需要前馈神经网络技术?[J];江南大学学报(自然科学版);2013年06期

相关博士学位论文 前10条

1 李锋;前馈神经网络稀疏化的正则化方法[D];大连理工大学;2018年

2 凌青华;基于粒子群优化的随机前馈神经网络的研究[D];江苏大学;2019年

3 王健;前馈神经网络梯度学习算法收敛性分析[D];大连理工大学;2012年

4 侯木舟;基于构造型前馈神经网络的函数逼近与应用[D];中南大学;2009年

5 Atlas Khan;神经网络的优化与用于优化的神经网络[D];大连理工大学;2013年

6 范钦伟;带光滑正则项前馈神经网络学习算法的收敛性分析[D];大连理工大学;2014年

7 许世刚;计算智能及其在水利水电工程中的应用[D];河海大学;2001年

8 付爱民;极速学习机的训练残差、稳定性及泛化能力研究[D];中国农业大学;2015年

9 贺彦林;前馈神经网络结构设计研究及其复杂化工过程建模应用[D];北京化工大学;2016年

10 张会生;前馈神经网络梯度训练算法的几个收敛性结果[D];大连理工大学;2009年

相关硕士学位论文 前10条

1 李炎;前馈神经网络和粒子群优化算法的FPGA设计与实现[D];湖南师范大学;2019年

2 王子昊;基于前馈神经网络控制优化城镇污水处理厂生化单元性能研究[D];浙江大学;2019年

3 石佳超;基于CMAQ与前馈神经网络的区域大气污染物浓度快速响应研究[D];浙江大学;2019年

4 张维恒;基于毫米波光载无线通信系统的前馈神经网络信道均衡技术研究[D];北京邮电大学;2018年

5 田金鹏;前馈神经网络在自适应逆控制中的应用研究[D];郑州大学;2005年

6 康艳旗;基于多层前馈神经网络盲均衡算法的研究[D];太原理工大学;2007年

7 邓维;基于单隐层前馈神经网络极限算法的高速公路工程投资估算模型研究[D];江西理工大学;2017年

8 袁光耀;基于非线性滤波优化的前馈神经网络训练方法研究[D];河南大学;2016年

9 吕俊;前馈神经网络参数和结构的优化策略研究[D];南京工业大学;2004年

10 王磊;基于遗传算法的前馈神经网络结构优化[D];东北石油大学;2013年

本文编号：2853412