深度学习中的内存管理问题研究综述

发布时间：2023-05-11 05:12

　　近年来,深度学习已经在多个领域取得了巨大的成功。深度神经网络向着更深更广的方向发展,训练和部署深度神经网络模型都将面对巨大的内存压力。加速设备有限的内存空间已经成为限制神经网络模型快速发展的重要因素,如何在深度学习中实现高效的内存管理成为深度学习发展的关键问题。为此,介绍了深度神经网络的基本特征;分析了深度学习训练过程中的内存瓶颈;对一些代表性的研究工作进行了分类阐述,并对其优缺点进行了分析;对深度学习中内存管理技术的未来发展趋势进行了探索。

【文章页数】：13 页

【文章目录】：
1 引言
2 背景介绍
    2.1 DNN的结构及训练过程
    2.2 深度学习中的内存管理问题
3 深度学习中内存管理的关键技术
    3.1 内存交换
    3.2 重计算
    3.3 内存共享
    3.4 压缩
4 结束语



本文编号：3814228