基于区域分解的卷积神经网络的算法研究

发布时间：2021-09-07 02:57

　　卷积神经网络（CNN）的快速发展,使得计算机视觉领域取得重大的突破,并在图像识别、图像分割及目标检测等方向取得了令人瞩目的成绩。卷积神经网络具有丰富的表示功能,能够处理计算机视觉领域中很多的复杂问题。如自动驾驶、目标检测和医学图像成像等问题。随着数据规模的扩大,导致处理问题的卷积神经网络层数加深。深度卷积神经网络训练大规模数据集需要耗费很多的时间和占用大量的GPU计算资源。在实际中,往往没有足够的计算资源去处理大数据集,如何在小机器上处理大数据问题是在实际中是十分重要的。本文以卷积神经网络为研究对象,提出了一种区域分解和组合的迁移学习算法来解决这个问题。本文主要是围绕卷积网络的分解和组合两个方面进行深入研究。该算法是是受到域分解思想的启发,提出了一种分解和组合的迁移学习算法。首先,对卷积网络的如何分解和组合过程进行了详细的介绍。其次是研究如何划分卷积网络,即卷积网络划分成多少个子网络。最后通过实验验证了分解和组合迁移学习算法的有效性。实验验证部分采用计算机视觉中图像分类和图像分割两个常见的任务进行验证,这体现了该算法的广泛适用性。对于图像分类任务,本文采用CIFAR₁

【文章来源】：中国科学院大学(中国科学院深圳先进技术研究院)广东省

【文章页数】：59 页

【学位级别】：硕士

【部分图文】：

三层神经网络结构

基于区域分解的卷积神经网络的算法研究10特征信息。卷积层数越靠前，提取的特征级别越低，卷积层数越靠后，提取的特征级别越高。即前面几个卷积层都是图片的低级别特征，如图像的颜色、边缘信息等[6]。后几个卷积层的特征都是高级别特征,如图像的形状和轮廓等。卷积层具有局部连接和权重共享的特点。局部连接的目的时学习到图像的局部特征，就是卷积层的节点仅与上一层的部分节点相连接。在一张图片中，像素点离得越近，相关性就越高，离得越远，相关性越低。由此可以看出，卷积层的局部连接非常适用于处理图片数据。局部连接大大减少了神经网络参数的计算量，据统计，卷积层的参数量仅占卷积神经网络参数的5%左右，全连接层占了95%。由此可以见，相较于全连接神经网络，卷积神经网络的局部连接能够加快网络的学习速率，并在一定程度上减少网络过拟合的可能。权重共享是卷积层的另一特点。每个卷积核会以固定步长的方式从左向右、从上至下依次和图像的局部区域进行运算。同一个卷积核处理图片相同的特征，这就是权重共享。不用图像特征需要使用不同卷积核来处理。卷积操作过程如下图2.2所示。图2.2卷积操作过程2.2.2池化层池化又称为下采样，它是卷积神经网络的重要部分。池化分为最大池化和平均池化两种操作，其中使用最多的是最大池化。池化层操作过程是将上一个卷积层的输出分解成若干个子区域，并对每个子区域求最大值(最大池化)或平均值(平均池化)。这种操作会让特征失去在图片上的位置信息，但特征在图片上的位置信息远远没有特征本身和其他特征的相对位置。最大池化通常能找到每个子区域最显著的特征，这非常适合于图像识别任务。池化操作有三个作用：1)池化操

池化操作


本文编号：3388705