深度学习的轻量化及其在图像识别中的应用研究

发布时间：2021-09-02 20:30

　　图像作为当今社会一种常用的信息载体,其重要性与日俱增。随着图片使用量的日益增加,图像识别算法也随之成为人工智能领域一个非常热门的研究方向。近年来,有赖于卷积神经网络在图像识别领域的优异表现,越来越多的卷积神经网络优化方法和网络模型架构被研究者提出。但是,在网络性能提升的同时,随之而来的是急剧增加的网络复杂度,大多数先进网络拥有数百兆的参数量和数十亿的计算量。然而,随着卷积神经网络应用的增加,越来越多的网络模型需要在只拥有有限内存和计算能力的设备上高效运行。故而卷积神经网络的轻量化也逐渐吸引着众多的研究者。本文针对轻量级卷积神经网络进行研究,设计全新的网络构建模块并从头开始训练一个新型轻量级卷积神经网络。主要工作如下:首先,本文对轻量级卷积神经网络的研究背景和研究意义给出了自己的总结,表明轻量级卷积神经网络是一个热门且快速发展的方向。对国内外研究现状进行了详细的梳理,进而挖掘出其中值得研究和需要改进的部分。其次,截至当前时间点,本文对卷积神经网络的基础理论和轻量化方法做了归纳和总结。在这之后介绍了近年来被提出的经典轻量级卷积神经网络模型,并对现有的卷积神经网络轻量化方法的优缺点进行了总结... 

【文章来源】：浙江师范大学浙江省

【文章页数】：78 页

【学位级别】：硕士

【部分图文】：

全连接层网络结构示意图

图 2.1 全连接层网络结构示意图2.1.2 卷积层卷积层（Convolutional Layer）中的“卷积”一词表示该层中使用的数学运算为卷积（Convolution）。在数学中，卷积是一种特殊的线性运算。在卷积神经网络中，卷积层的主要作用是进行特征提取，通过输入特征图（Input Feature Map）与卷积核（Kernel）（或称滤波器（Filter））进行卷积操作来得到下一层的输入特征图。卷积层实质上就是一组可学习参数的滤波器[80]，不同深度的层中的卷积核提取输入的不同特征，通常低层卷积核提取的是边缘和色彩信息，高层的卷积核提取的是由低层卷积核组成的更加复杂的特征，如动物的耳朵，车辆的轮子等。

结果重新组成一张新的特征图，因为每一个卷积核产生一张新的特征图，所以卷的个数也就决定了输出特征图的通道数（Channel）。从图中可以看出，经过卷作后输出特征图的尺寸会小于输入特征图的尺寸，为了在卷积神经网络中保持每积层输出的特征图尺寸不变，一般在输入特征图的周围添加像素值为“0”的像素填充（Padding）。卷积层作为卷积神经网络中最重要的组成部分，相比于全连接层它具有两个明显势。第一个优势是局部感知。现代生物学普遍认为人的大脑对视觉的感知是从局全局的[81]。在图像领域中，一般认为空间距离较近的像素拥有更加紧密的联系间距离较远的像素则相关性较弱。卷积神经网络出现之前，人们一直使用的都是神经网络，也就是由全连接层构建的网络，该网络每个神经元都与前层所有的神相连，如图 2.3(a)。而卷积神经网络低层的神经元只感知图像的部分区域，高层经元对低层的神经元获得的局部特征进行整合，从而得到更加抽象的全局特征 2.3(b)。卷积神经网络的局部感知域的大小即卷积核大小。

【参考文献】：
期刊论文
[1]基于紧致全姿态二值SIFT的人脸识别[J]. 毋立芳,侯亚希,许晓,高源,漆薇,周鹏.  仪器仪表学报. 2015(04)

博士论文
[1]基于深度学习的图像分类方法研究[D]. 孟丹.华东师范大学 2017

硕士论文
[1]深度神经网络的压缩实现方法研究[D]. 马琰.西安理工大学 2018
[2]基于深度学习的移动端图像识别算法[D]. 黄萱昆.北京邮电大学 2018
[3]基于卷积神经网络的图像识别方法研究[D]. 宋月.东北石油大学 2017
[4]深度神经网络压缩与优化研究[D]. 王征韬.电子科技大学 2017
[5]面向图像内容检索的卷积神经网络[D]. 顾亚风.杭州电子科技大学 2017
[6]卷积神经网络的研究及其在车牌识别系统中的应用[D]. 陆璐.合肥工业大学 2006



本文编号：3379684