深度学习模型加速与嵌入式实现
发布时间：2022-01-22 14:46
深度学习图像处理技术是如今最受学术界、工业界关注的技术之一,对各种复杂的图像任务都有良好表现。但是一般的深度学习模型因为计算耗时长的特点,无法直接部署到嵌入式终端设备中,尤其无法应用在需要实时响应的场景中。如何在保证精度可靠性的情况下提高模型推理速度对促进深度学习图像处理技术的广泛应用具有重要意义。本文针对模型推理加速方法展开了详细深入的研究。针对深度学习模型在嵌入式设备上推理过程耗时过长的问题,在传统数据驱动型通道重要性评价方式的基础上,提出了基于灰色关联分析的深度学习模型通道裁剪方法。基于灰色关联分析法依次将每个通道作为参考序列计算获得各通道相对于该层其他通道的平均关联程度的量化值,通道的重要程度与该值的大小成反比,即量化值越大,参考序列提取的特征与其他通道越相似,参考序列对应的卷积核通道重要程度越低,在裁剪过程中可优先裁剪。实验表明,该方法将VGG模型在嵌入式设备上的单次推理时间从266ms降低为95ms,且精度只降低1.9%。针对单精度模型推理存在加速上限的问题,在传统线性量化的基础之上,提出了一种基于KL散度的最佳量化边界选取方法,并使用ADMM对模型权值参数进行量化。利用K...
【文章来源】：江南大学江苏省 211工程院校 教育部直属院校
【文章页数】：64 页
【学位级别】：硕士
【部分图文】：
FasterRCNN网络
真实框、预测框、回归框
第二章目标检测算法原理9图2-3YOLOV3网络示意图在训练集上使用聚类选择9个尺度不同的anchor框来回归检测框。回归框示意如图2-4，每个单元格上的预测结果包括tx,ty,tw,th，当单元格向图像左上偏移(cx,cy)时，且对应的anchor框长宽为(Pw,Ph)时，最终回归框的计算公式为(2-5)by=σ(ty)+cy(2-6)bw=pwetw(2-7)bh=pheth(2-8)图2-4回归框示意图训练时的损失函数如式(2-9)所示(2-9)其中表示根据最大的交并比选择预选框的原则判断目标框是否属于网格i中的第j个预选框。(x,y,w,h)表示检测目标框的位置信息和宽高信息，表示人工标注框bx=σ(tx)+cxLoss=λcoord1ijobjj=0B∑i=0s2∑[(xixi)2+(yiyi)2+(wiwi)2+(hihi)2]+1ijobjj=0B∑i=0s2∑(CiCi)2+λnoobj1ijnoobjj=0B∑i=0s2∑(CiCi)2+1ijobj1ijnoobjj=0B∑i=0s2∑(pi(c)pi(c))21ijobj(x,y,w,h)
【参考文献】：
期刊论文
[1]基于AHP和灰色关联分析的电能替代效果评估[J]. 苗常海,梁佳丽,郭艳飞,罗艳红,成岭. 控制工程. 2018(05)
[2]基于DEMATEL-相关性分析和VIKOR-灰色关联分析的供应链绩效评价模型研究[J]. 董文心,王英,张悦,陈燕燕,苏柏林. 科技管理研究. 2018(09)
[3]基于改进灰色关联分析的配电网低电压贡献度评价方法[J]. 胡斌,任曦骏,叶斌,王绪利,代磊. 电力电容器与无功补偿. 2018(02)
[4]一种基于深度学习的多聚焦图像融合算法[J]. 陈清江,李毅,柴昱洲. 激光与光电子学进展. 2018(07)
[5]基于灰色关联度分析的数控机床性能模糊综合评判[J]. 刘亮辉,汪永超,白飞先,王东升. 组合机床与自动化加工技术. 2018(02)
[6]基于分布函数的潜艇目标强度统计建模[J]. 孙乃葳,李建辰,万亚民. 水下无人系统学报. 2017(04)
博士论文
[1]含连续/离散控制的多区域电力系统分布式优化调度方法研究[D]. 陆文甜.华南理工大学 2018
硕士论文
[1]基于机器视觉的木板实时检测算法[D]. 吴佳宁.沈阳工业大学 2019
[2]基于嵌入式平台的目标跟踪算法与应用[D]. 余忠艺.山东大学 2019
[3]数字乳腺断层成像的快速迭代重建算法研究[D]. 黄杰星.南方医科大学 2019
[4]轻量级深度学习目标检测算法研究及系统设计[D]. 李小伟.安徽大学 2019
[5]东北地区五个常见树种全树木材性质的研究[D]. 张昭林.河南科技大学 2019
[6]基于ADMM的大规模阵列方向图综合算法研究[D]. 杨金泰.电子科技大学 2019
[7]基于度量学习的行人重识别若干算法研究[D]. 丁宗元.常州大学 2018
[8]基于KL散度的协同过滤推荐算法研究[D]. 邓江洲.重庆邮电大学 2018
[9]吸扫车吸嘴卷吸尘粒流动数值模拟及模糊灰色关联分析[D]. 高俊旭.湖南大学 2016
本文编号：3602389
【文章来源】：江南大学江苏省 211工程院校 教育部直属院校
【文章页数】：64 页
【学位级别】：硕士
【部分图文】：
FasterRCNN网络
真实框、预测框、回归框
第二章目标检测算法原理9图2-3YOLOV3网络示意图在训练集上使用聚类选择9个尺度不同的anchor框来回归检测框。回归框示意如图2-4，每个单元格上的预测结果包括tx,ty,tw,th，当单元格向图像左上偏移(cx,cy)时，且对应的anchor框长宽为(Pw,Ph)时，最终回归框的计算公式为(2-5)by=σ(ty)+cy(2-6)bw=pwetw(2-7)bh=pheth(2-8)图2-4回归框示意图训练时的损失函数如式(2-9)所示(2-9)其中表示根据最大的交并比选择预选框的原则判断目标框是否属于网格i中的第j个预选框。(x,y,w,h)表示检测目标框的位置信息和宽高信息，表示人工标注框bx=σ(tx)+cxLoss=λcoord1ijobjj=0B∑i=0s2∑[(xixi)2+(yiyi)2+(wiwi)2+(hihi)2]+1ijobjj=0B∑i=0s2∑(CiCi)2+λnoobj1ijnoobjj=0B∑i=0s2∑(CiCi)2+1ijobj1ijnoobjj=0B∑i=0s2∑(pi(c)pi(c))21ijobj(x,y,w,h)
【参考文献】：
期刊论文
[1]基于AHP和灰色关联分析的电能替代效果评估[J]. 苗常海,梁佳丽,郭艳飞,罗艳红,成岭. 控制工程. 2018(05)
[2]基于DEMATEL-相关性分析和VIKOR-灰色关联分析的供应链绩效评价模型研究[J]. 董文心,王英,张悦,陈燕燕,苏柏林. 科技管理研究. 2018(09)
[3]基于改进灰色关联分析的配电网低电压贡献度评价方法[J]. 胡斌,任曦骏,叶斌,王绪利,代磊. 电力电容器与无功补偿. 2018(02)
[4]一种基于深度学习的多聚焦图像融合算法[J]. 陈清江,李毅,柴昱洲. 激光与光电子学进展. 2018(07)
[5]基于灰色关联度分析的数控机床性能模糊综合评判[J]. 刘亮辉,汪永超,白飞先,王东升. 组合机床与自动化加工技术. 2018(02)
[6]基于分布函数的潜艇目标强度统计建模[J]. 孙乃葳,李建辰,万亚民. 水下无人系统学报. 2017(04)
博士论文
[1]含连续/离散控制的多区域电力系统分布式优化调度方法研究[D]. 陆文甜.华南理工大学 2018
硕士论文
[1]基于机器视觉的木板实时检测算法[D]. 吴佳宁.沈阳工业大学 2019
[2]基于嵌入式平台的目标跟踪算法与应用[D]. 余忠艺.山东大学 2019
[3]数字乳腺断层成像的快速迭代重建算法研究[D]. 黄杰星.南方医科大学 2019
[4]轻量级深度学习目标检测算法研究及系统设计[D]. 李小伟.安徽大学 2019
[5]东北地区五个常见树种全树木材性质的研究[D]. 张昭林.河南科技大学 2019
[6]基于ADMM的大规模阵列方向图综合算法研究[D]. 杨金泰.电子科技大学 2019
[7]基于度量学习的行人重识别若干算法研究[D]. 丁宗元.常州大学 2018
[8]基于KL散度的协同过滤推荐算法研究[D]. 邓江洲.重庆邮电大学 2018
[9]吸扫车吸嘴卷吸尘粒流动数值模拟及模糊灰色关联分析[D]. 高俊旭.湖南大学 2016
本文编号：3602389
本文链接：https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3602389.html
