卷积神经网络压缩与加速技术研究进展
发布时间:2021-06-09 21:56
神经网络压缩技术的出现缓解了深度神经网络模型在资源受限设备中的应用难题,如移动端或嵌入式设备.但神经网络压缩技术在压缩处理的自动化、稀疏度与硬件部署之间的矛盾、避免压缩后模型重训练等方面存在困难.本文在回顾经典神经网络模型和现有神经网络压缩工具的基础上,总结参数剪枝、参数量化、低秩分解和知识蒸馏四类压缩方法的代表性压缩算法的优缺点,概述压缩方法的评测指标和常用数据集,并分析各种压缩方法在不同任务和硬件资源约束中的性能表现,展望神经网络压缩技术具有前景的研究方向.
【文章来源】:计算机系统应用. 2020,29(09)
【文章页数】:10 页
【参考文献】:
期刊论文
[1]Deep Model Compression for Mobile Platforms:A Survey[J]. Kaiming Nan,Sicong Liu,Junzhao Du,Hui Liu. Tsinghua Science and Technology. 2019(06)
[2]深度神经网络压缩与加速综述[J]. 纪荣嵘,林绍辉,晁飞,吴永坚,黄飞跃. 计算机研究与发展. 2018(09)
本文编号:3221383
【文章来源】:计算机系统应用. 2020,29(09)
【文章页数】:10 页
【参考文献】:
期刊论文
[1]Deep Model Compression for Mobile Platforms:A Survey[J]. Kaiming Nan,Sicong Liu,Junzhao Du,Hui Liu. Tsinghua Science and Technology. 2019(06)
[2]深度神经网络压缩与加速综述[J]. 纪荣嵘,林绍辉,晁飞,吴永坚,黄飞跃. 计算机研究与发展. 2018(09)
本文编号:3221383
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/3221383.html