基于神经网络的移动端车型识别系统设计与实现
发布时间:2021-10-26 17:02
近年来,随着神经网络的快速发展,卷积神经网络在车型识别领域任务中取得了最先进的结果。然而,由于传统的卷积神经网络模型计算复杂度过高、模型参数量巨大等不足,使得其难以部署在资源有限的移动端设备中,如何开发出可以移植到移动端设备的车辆识别模型具有重要的意义。本文的目标是设计并实现移动端车型识别加速平台,主要工作包含轻量级车型识别模型的开发、压缩以及基于ARM平台的计算加速三个方面,具体的工作如下:(1)对比目前主流的轻量级卷积神经网络MobileNet、SqueezeNet、ShuffleNet在车型识别任务上的优劣,并针对车型识别任务的需求对网络结构进行了改进。针对triple loss难以训练的缺点,提出综合使用softmax loss和center loss进行训练。针对轻量级网络特征提取能力较弱的缺点,提出使用密集连接结构加强信息在卷积层之间的流动,提高了车型识别的准确率。(2)提出一种基于通道信息熵的逐层剪枝框架,通过计算每一层中各个通道特征张量的熵值,并以此为依据评估该通道包含信息量的大小,进而评估该通道的重要性,对熵值进行排序,剪除熵值比较低的通道。为了降低剪枝对模型准确率的...
【文章来源】:山东大学山东省 211工程院校 985工程院校 教育部直属院校
【文章页数】:80 页
【学位级别】:硕士
【部分图文】:
图1-1算法性能对比??鉴于神经网络在计算机视觉领域的巨大优势,研宄运用神经网络实现车型识??别的方法对构建智能交通系统,实现国家建设智慧型新城市的目标具有重大的意??
ter?!?〇?7 ̄?2:?L5〇??M?^???!?V-?^?.1M|:-i.?〇3?0?3?1?0?1?:■■?LK04j??1.49?3?1?2?2?0:;-!.00?-0-97:??gradient?xIr??3[?m??02?Bi?Group?by?0.03?0?01?_0.02?:?0.02??一?響二]1002?|??__?—?—?i ̄_??1?-°?°2?-0.01?-0.02?-0.01?0.0i?.0?Q3??图1-2模型压缩??第三步,针对量化后的模型使用变长的huffman编码进一步压缩。根据论文??数据,在不降低准确率的情况下,压缩后模型的参数量降低到原来的1/49?1/35。??2014年,Hinton[4]等人在NIPS发表论文首次提出运用知识蒸馏的方法进行??模型压缩。该方法首先在较大的训练集上训练得到一个教师网络(teacher??network:复杂、但推理性能优越),然后将教师网络的输出作为总的损失函数的一??部分去诱导学生网络的训练。得到学生网络作为最终推理使用的模型。Adriana??R〇mer〇[5]等人提出一种更加有效利用教师网络信息的方法,文章认为原始的知识??蒸馏仅仅利用教师网络最终的输出做知识迁移不能充分利用其有效信息,因此将??教师网络中间层的特征图作为指导信息去诱导学生网络的训练,得到了效果更好??的模型。??Sergey^等人对知识蒸馏方法做了进一步改进,指出将教师网络的特征图输??.?出做为总的损失函数的一部分去诱导学生网络的训练太过生硬,效果不好,因此??将注意力图作为知识从教师网络转移到到学生网络,利
?山东大学硕士学位论文???Feature?map?Filter?Output??叫丨2判??6.__?|?小?h??A????????11?12?13?2^2?4?5?6??^??7?8?9??2?3?1??7?8?9??Wlr^i?:W?'?????1?2?3??12?13?14??????2^2?4?5?6???????7?8.9.??图2-1卷积运算??2.1.2池化层??池化又称为欠采样或下采样,其主要目的是特征降维,可以有效减少特征图??尺寸。按照池化的方法不同,可以分为最大池化、平均池化和随机池化3种。其??中最大池化操作最为简单,是当前使用的最多的池化层。图2-7是3种池化操作??的示意图。从图中可以看出,通过池化操作不仅可以减小特征图的尺寸,同时可??以增强特征的平移、旋转、缩放不变性,增强了网络的抗干扰能力。??10??
【参考文献】:
期刊论文
[1]基于车前脸HOG特征的车型识别方法研究与实现[J]. 张红兵,李海林,黄晓婷,马守磊. 计算机仿真. 2015(12)
[2]基于视频图像Harris角点检测的车型识别[J]. 周爱军,杜宇人. 扬州大学学报(自然科学版). 2008(01)
硕士论文
[1]基于深度卷积神经网络的车型识别[D]. 邓柳.西南交通大学 2015
本文编号:3459871
【文章来源】:山东大学山东省 211工程院校 985工程院校 教育部直属院校
【文章页数】:80 页
【学位级别】:硕士
【部分图文】:
图1-1算法性能对比??鉴于神经网络在计算机视觉领域的巨大优势,研宄运用神经网络实现车型识??别的方法对构建智能交通系统,实现国家建设智慧型新城市的目标具有重大的意??
ter?!?〇?7 ̄?2:?L5〇??M?^???!?V-?^?.1M|:-i.?〇3?0?3?1?0?1?:■■?LK04j??1.49?3?1?2?2?0:;-!.00?-0-97:??gradient?xIr??3[?m??02?Bi?Group?by?0.03?0?01?_0.02?:?0.02??一?響二]1002?|??__?—?—?i ̄_??1?-°?°2?-0.01?-0.02?-0.01?0.0i?.0?Q3??图1-2模型压缩??第三步,针对量化后的模型使用变长的huffman编码进一步压缩。根据论文??数据,在不降低准确率的情况下,压缩后模型的参数量降低到原来的1/49?1/35。??2014年,Hinton[4]等人在NIPS发表论文首次提出运用知识蒸馏的方法进行??模型压缩。该方法首先在较大的训练集上训练得到一个教师网络(teacher??network:复杂、但推理性能优越),然后将教师网络的输出作为总的损失函数的一??部分去诱导学生网络的训练。得到学生网络作为最终推理使用的模型。Adriana??R〇mer〇[5]等人提出一种更加有效利用教师网络信息的方法,文章认为原始的知识??蒸馏仅仅利用教师网络最终的输出做知识迁移不能充分利用其有效信息,因此将??教师网络中间层的特征图作为指导信息去诱导学生网络的训练,得到了效果更好??的模型。??Sergey^等人对知识蒸馏方法做了进一步改进,指出将教师网络的特征图输??.?出做为总的损失函数的一部分去诱导学生网络的训练太过生硬,效果不好,因此??将注意力图作为知识从教师网络转移到到学生网络,利
?山东大学硕士学位论文???Feature?map?Filter?Output??叫丨2判??6.__?|?小?h??A????????11?12?13?2^2?4?5?6??^??7?8?9??2?3?1??7?8?9??Wlr^i?:W?'?????1?2?3??12?13?14??????2^2?4?5?6???????7?8.9.??图2-1卷积运算??2.1.2池化层??池化又称为欠采样或下采样,其主要目的是特征降维,可以有效减少特征图??尺寸。按照池化的方法不同,可以分为最大池化、平均池化和随机池化3种。其??中最大池化操作最为简单,是当前使用的最多的池化层。图2-7是3种池化操作??的示意图。从图中可以看出,通过池化操作不仅可以减小特征图的尺寸,同时可??以增强特征的平移、旋转、缩放不变性,增强了网络的抗干扰能力。??10??
【参考文献】:
期刊论文
[1]基于车前脸HOG特征的车型识别方法研究与实现[J]. 张红兵,李海林,黄晓婷,马守磊. 计算机仿真. 2015(12)
[2]基于视频图像Harris角点检测的车型识别[J]. 周爱军,杜宇人. 扬州大学学报(自然科学版). 2008(01)
硕士论文
[1]基于深度卷积神经网络的车型识别[D]. 邓柳.西南交通大学 2015
本文编号:3459871
本文链接:https://www.wllwen.com/shoufeilunwen/xixikjs/3459871.html