无监督学习和多重采样对卷积神经网络的优化研究

发布时间：2020-08-23 17:03

【摘要】：图像分类对于人工智能和计算机视觉等研究领域的发展都是十分重要的,近年来,卷积神经网络在图像分类研究上占据着主导地位。但卷积神经网络仍然面临着几大问题,主要表现在两方面:其一,卷积操作提取的特征在网络中传递的时候容易在池化操作过程中丢失;其二,网络参数的初始化值状态以及网络结构的设计会对网络性能造成较大影响。本文围绕图像分类算法精度不高,速度不快等问题,对卷积神经网络展开系统的研究并对其进行优化,主要贡献包括:1.多重采样池化对卷积神经网络的优化研究。针对传统的池化方法容易忽略特征图中有效信息的问题,本文研究了如何在采样过程中减少训练参数的同时能够保留细节特征的方法,并提出了多重采样池化对卷积神经网络的优化方案。方案通过构建基函数能够提取到全面有效的图像特征从而达到提高网络识别率的效果。2.自动编码器优化卷积神经网络参数。针对卷积神经网络参数的初始值状态会对网络性能造成较大影响的问题,在前人的研究基础上,运用栈式卷积自动编码器来初始化网络参数。通过栈式卷积自动编码器预先训练数据集从而提取到有用的特征,由于提取到的特征是栈式卷积自动编码器的隐式表现,因此将该特征作为卷积神经网络参数的初始化值,能使得网络朝着更好的方向训练。3.多尺度深度可分离卷积学习网络。受到MobileNet的启发,针对卷积神经网络参数多、计算量大的问题,我们提出了多尺度学习网络并将其用于图像分类。该方法有两个优点:(1)它使用具有深度可分离卷积的多尺度块,该网络允许在同一模型内形成多个子网络;(2)它将多尺度块与残差结构相结合,显著加速网络的训练。三种优化方法从不同的角度出发,针对相应的问题寻找了不同的解决方法,以提高网络性能为根本出发点。提出的卷积神经网络优化方法在图像分类领域公开数据集上进行了测试。实验结果表明:多重采样池化对卷积神经网络的优化加快了卷积神经网络的训练速度并提高了其测试精度;通过卷积自动编码器初始化卷积神经网络的参数方法能够增强网络模型的稳定性,其测试精度优于常用的Xavier算法和MSRA算法;多尺度深度可分离卷积学习网络在网络性能和训练量之间能够找到合适的平衡点,使得卷积神经网络能够适应更多的应用场景。
【学位授予单位】：湖北工业大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：TP391.41;TP183
【图文】：

卷积操作示意图

阈值型激活函数图像

sigmoid型激活函数图像

【参考文献】

相关期刊论文 前4条

1 王丽萍;张新明;李继伟;张验科;李克飞;;BP网络激活函数选择及在径流预报模型中的应用[J];水力发电学报;2014年01期

2 杨杰;陈晓云;;图像分类方法比较研究[J];微计算机应用;2007年06期

3 王晓晔,王正欧;K-最近邻分类技术的改进算法[J];电子与信息学报;2005年03期

4 栾丽华,吉根林;决策树分类技术研究[J];计算机工程;2004年09期

本文编号：2801784