神经网络算法的一种自适应卷积核

发布时间：2023-04-10 01:50

　　随着计算机的发展以及大数据时代的到来,深度学习技术广泛应用于图像识别、目标检测和自动驾驶等众多人工智能的相关领域。卷积神经网络作为最重要的深度学习模型,能够自动提取二维数据当中的特征,取代传统方法的繁杂人工特征设计,相比传统的全连接极大的减少模型的参数。本文针对卷积神经网络,主要研究一种自适应卷积核。首先,设计了一种新的自适应卷积核。传统卷积核的参数由全局特征信息决定,较难提取局部特征信息,从而导致一定程度的特征图的信息模糊化等问题。为此,本文提出一种新的自适应卷积核,其核参数自适应依赖特征图的局部信息,能够很好地提高卷积核提取局部细节特征的能力,从而有效地克服了传统卷积核的不足。其次,推导了基于自适应卷积核的网络层的反向传播算法。我们考虑5×5的灰度图作为输入,以大小为3×3的自适应卷积核为例,给出了其核参数的梯度计算公式,并详细推导了自适应卷积层的误差反向传播公式。最后,基于mnist手写数据集,通过与传统卷积网络模型的比较,验证了基于自适应卷积核的卷积神经网络模型的有效性。我们研究了卷积核大小、卷积步长、卷积核个数、卷积核参数的影响,结果表明其在精度上优于传统卷积神经网络模型。进...

【文章页数】：65 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
第1章 绪论
    1.1 研究背景
    1.2 研究现状
    1.3 主要工作和内容结构
        1.3.1 主要工作
        1.3.2 内容结构
第2章 预备知识
    2.1 神经网络
        2.1.1 神经网络的基本概念
        2.1.2 神经网络的反向传播算法
    2.2 卷积神经网络
        2.2.1 卷积神经网络基本概念
        2.2.2 卷积神经网络的反向传播算法
    2.3 数据集介绍
        2.3.1 数据集简介
        2.3.2 数据预处理
    2.4 本章小结
第3章 自适应卷积核
    3.1 自适应卷积核的设计
    3.2 自适应卷积层的前向传播算法
    3.3 自适应卷积层的反向传播算法
        3.3.1 自适应卷积核参数的梯度计算
        3.3.2 自适应卷积层的误差反向传播
    3.4 本章小结
第4章 数值实验
    4.1 实验1:不同卷积核大小对比实验
    4.2 实验2:较大卷积步长对比实验
    4.3 实验3:多核卷积对比实验
    4.4 实验4:同卷积核参数对比实验
    4.5 实验5:卷积特征图对比实验
    4.6 实验6:经典网络LeNet对比实验
    4.7 本章小结
第5章 总结与展望
    5.1 总结
    5.2 展望
参考文献
致谢



本文编号：3788110