基于卷积神经网络压缩的交通标志识别算法
发布时间:2021-02-14 19:12
交通标志识别是智能交通系统的重要功能之一,在无人驾驶、智能机器人等领域也具有广泛的应用。与一般的目标识别相比,真实自然场景下的交通标志易受光照、遮挡、天气、拍摄角度和距离等因素影响,干扰到识别结果。传统交通标志识别方法采用手工特征,结合分类器对交通标志进行识别,但手工特征的表达能力和鲁棒性不够理想。基于深度卷积神经网络的交通标志识别算法可以从训练数据中实现无监督地提取特征,但移动计算设备很难满足大型卷积神经网络对计算资源和存储空间的需求。本文分析了目前一些深度网络压缩算法的优缺点,深入研究了卷积神经网络的基础理论知识,在现有的卷积神经网络模型上进行改进并压缩模型的参数量,提出了适用于部署在资源受限设备上进行交通标志识别的网络结构。本文主要工作如下:(1)经典卷积神经网络模型AlexNet和VGG16的参数量过多,难以移植到车载计算系统进行交通标志识别。首先在GTSRB数据集上挑选原始VGG16和AlexNet进行交通标志图像分类训练;接着对网络模型进行基于泰勒展开的通道剪枝,裁剪冗余的特征通道;然后使用三值量化方法对剪枝后的网络模型进行参数量化;最后分别比较了通道剪枝、参数量化、组合压...
【文章来源】:长沙理工大学湖南省
【文章页数】:67 页
【学位级别】:硕士
【部分图文】:
图2.1?LeNet-5网络结构图??LeNet-5x?
野。感受野的概念源自于生物学,卷积神经网络中,输入空间里一个特定??特征的范围区域也就是卷积操作的区域称为感受野。感受野越大,所对应的输入特征范??围也就越大,更容易提取全局特征,包含的语义信息也就更多;感受野越小,特征中的??局部和细节信息更多。使用局部感受野时,卷积神经网络的每一次卷积只与前一层的特??征图进行局部连接而不是全连接,局部连接能大幅度地减少网络的参数量,缓解多层神??经网络过拟合问题。??.?????????.????(a)全连接?(b)局部连接??图2.2两种连接方式??权值共享。假设图2.2中交通标志图像的尺寸为100x100,神经元的个数为1〇〇,则??全连接时参数总量为100x100x100即1〇6个参数。如果每个神经元的感受野的区域大小??为10x10,则采用局部连接时参数总量为10x10x100即1〇4个参数。权值共享是指同一??个特征图对应的所有的卷积核参数都是相同的,从而卷积核能在不同的位置提取同一种??特征,假设卷积核的大小为10x10,采用权值共享时卷积核的偏置参数也是共享的,则??参数总量为10x10+1即102+1个参数。权值共享能使得卷积时只需要学习一个参数集??合,而不是对每个位置都学习一个单独的参数集合,从而参数数目能大幅度地减少。??时间或空间亚采样。在卷积神经网络中表现为池化操作,也是一种特征映射的过程,??能够保留输入特征图的主要特征同时降低图像的维度,达到防止过拟合的效果。池化操??作通过使用滑动窗口在输入的特征图上依据池化函数来实现对应的降维方式,常使用的??有最大池化和平均池化。??第9页??
?硕士学位论文???3?4?1??1?2?9?4?9??3?5?6?5?9??图2.3最大池化操作示意图??如图2.3所示,假设最大池化的滑动窗口大小为2x2,步长为1,填充为0,则尺寸??为3x3的输入特征图池化后只保留滑动窗口内的最大值特征。池化操作的数学表达如公??式(;2.1)所示:??x!?=/?(w'id〇wn?(4')+H)?(2.i)??其中,x丨为第/层输出的第/个特征图,Z)/为偏置项(BiasTerm),w丨是对应特征图的??相关权重参数,也定义为池化函数,为激活函数常使用非线性函数如??ReLU[)7]、Sigmoid、Tanh?等。??2.1.2卷积操作??使用卷积操作的目的是提取输入特征图的局部特征,CNNs会随机初始化卷积核的??参数,在训练的过程中自动学习并更新参数。在卷积层里每一个卷积核,都是由一个三??维权重矩阵和一个偏置项组成,与输入的特征图在同一个通道位置。特征图尺寸与卷积??核大小的关系如公式(2.2)和(2.3)所示:??..y?wndth-?+?2padding?-?kernelSize?,?^??wldtK,r???—?+i?(2.2)??stride??heightm,?=?hei-ght…+?lpadding_kernelSize?+1?(2.3)??stride??其中,为边界区域填充的像素个数,对r/_也为卷积区域滑动的步长。??图像中所包含的信息具有固定的特性,即使是图像中的某一小部分,其蕴含的特征??与其他相同部分所蕴含的特征是相同的,因此对于图像的所有位置,能够通过同一卷积??核来学习到同类特征。卷积操作的数学表达如公式
【参考文献】:
期刊论文
[1]一种基于单目视觉的前方车辆检测算法[J]. 陈高攀,徐美华,王琪,郭爱英. 上海大学学报(自然科学版). 2019(01)
[2]改进特征与GPU加速的行人检测[J]. 齐美彬,李佶,蒋建国,王慈淳. 中国图象图形学报. 2018(08)
[3]基于高斯颜色模型和SVM的交通标志检测[J]. 常发亮,黄翠,刘成云,赵永国,马传峰. 仪器仪表学报. 2014(01)
本文编号:3033710
【文章来源】:长沙理工大学湖南省
【文章页数】:67 页
【学位级别】:硕士
【部分图文】:
图2.1?LeNet-5网络结构图??LeNet-5x?
野。感受野的概念源自于生物学,卷积神经网络中,输入空间里一个特定??特征的范围区域也就是卷积操作的区域称为感受野。感受野越大,所对应的输入特征范??围也就越大,更容易提取全局特征,包含的语义信息也就更多;感受野越小,特征中的??局部和细节信息更多。使用局部感受野时,卷积神经网络的每一次卷积只与前一层的特??征图进行局部连接而不是全连接,局部连接能大幅度地减少网络的参数量,缓解多层神??经网络过拟合问题。??.?????????.????(a)全连接?(b)局部连接??图2.2两种连接方式??权值共享。假设图2.2中交通标志图像的尺寸为100x100,神经元的个数为1〇〇,则??全连接时参数总量为100x100x100即1〇6个参数。如果每个神经元的感受野的区域大小??为10x10,则采用局部连接时参数总量为10x10x100即1〇4个参数。权值共享是指同一??个特征图对应的所有的卷积核参数都是相同的,从而卷积核能在不同的位置提取同一种??特征,假设卷积核的大小为10x10,采用权值共享时卷积核的偏置参数也是共享的,则??参数总量为10x10+1即102+1个参数。权值共享能使得卷积时只需要学习一个参数集??合,而不是对每个位置都学习一个单独的参数集合,从而参数数目能大幅度地减少。??时间或空间亚采样。在卷积神经网络中表现为池化操作,也是一种特征映射的过程,??能够保留输入特征图的主要特征同时降低图像的维度,达到防止过拟合的效果。池化操??作通过使用滑动窗口在输入的特征图上依据池化函数来实现对应的降维方式,常使用的??有最大池化和平均池化。??第9页??
?硕士学位论文???3?4?1??1?2?9?4?9??3?5?6?5?9??图2.3最大池化操作示意图??如图2.3所示,假设最大池化的滑动窗口大小为2x2,步长为1,填充为0,则尺寸??为3x3的输入特征图池化后只保留滑动窗口内的最大值特征。池化操作的数学表达如公??式(;2.1)所示:??x!?=/?(w'id〇wn?(4')+H)?(2.i)??其中,x丨为第/层输出的第/个特征图,Z)/为偏置项(BiasTerm),w丨是对应特征图的??相关权重参数,也定义为池化函数,为激活函数常使用非线性函数如??ReLU[)7]、Sigmoid、Tanh?等。??2.1.2卷积操作??使用卷积操作的目的是提取输入特征图的局部特征,CNNs会随机初始化卷积核的??参数,在训练的过程中自动学习并更新参数。在卷积层里每一个卷积核,都是由一个三??维权重矩阵和一个偏置项组成,与输入的特征图在同一个通道位置。特征图尺寸与卷积??核大小的关系如公式(2.2)和(2.3)所示:??..y?wndth-?+?2padding?-?kernelSize?,?^??wldtK,r???—?+i?(2.2)??stride??heightm,?=?hei-ght…+?lpadding_kernelSize?+1?(2.3)??stride??其中,为边界区域填充的像素个数,对r/_也为卷积区域滑动的步长。??图像中所包含的信息具有固定的特性,即使是图像中的某一小部分,其蕴含的特征??与其他相同部分所蕴含的特征是相同的,因此对于图像的所有位置,能够通过同一卷积??核来学习到同类特征。卷积操作的数学表达如公式
【参考文献】:
期刊论文
[1]一种基于单目视觉的前方车辆检测算法[J]. 陈高攀,徐美华,王琪,郭爱英. 上海大学学报(自然科学版). 2019(01)
[2]改进特征与GPU加速的行人检测[J]. 齐美彬,李佶,蒋建国,王慈淳. 中国图象图形学报. 2018(08)
[3]基于高斯颜色模型和SVM的交通标志检测[J]. 常发亮,黄翠,刘成云,赵永国,马传峰. 仪器仪表学报. 2014(01)
本文编号:3033710
本文链接:https://www.wllwen.com/kejilunwen/qiche/3033710.html