基于感受野集成的卷积神经网络训练方法研究

发布时间：2023-06-16 18:49

　　平移变换是一种在卷积神经网络训练过程当中广泛使用的数据增强方法。本文用数学方法分析了平移变换的物理含义,发现了平移变换的方法会使卷积神经网络在训练过程当中关注于训练图片中心区域的特征,从而使得卷积神经网络的感受野变得不均匀。如果用厚度表示感受野各区域被关注的程度,则平移变换使卷积神经网络在训练过程当中的感受野呈现出中间高、四周低的“金字塔”型分布。人类的视网膜的感受野各区域的分辨率是不相同的:中心的中央黄斑区提供了整个视网膜最高的分辨率,而其它区域的分辨率显著地低于中央黄斑区。本文对普遍意义上的图像各区域所包含的特征的关键性进行了分析,并提出了如下假设:相比于边缘区域,图像的中心区域更有可能包含关键性的特征。本文通过较为完备的实验验证了这个假设。以这个假设为基础,通过运用平移变换的方法,本文设计了一种新的针对卷积神经网络图像分类器的感受野集成训练方法。这种训练方法将整个训练过程划分为若干阶段,每个阶段对应于不同的感受野和学习率。具体地说,在训练的开始阶段,卷积神经网络关注于图像最中心区域的特征,此时学习率最高;随着训练的进行,卷积神经网络关注的区域由中心向其它区域扩散,此时学习率逐渐降...

【文章页数】：54 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第一章 绪论
    1.1 研究背景与意义
        1.1.1 研究背景
        1.1.2 研究意义
    1.2 国内外研究现状
        1.2.1 研究现状
        1.2.2 存在的问题
    1.3 主要研究内容与创新点
    1.4 论文组织结构
第二章 平移变换的数据增强方法及其对感受野的影响
    2.1 平移变换的数据增强方法
    2.2 平移变换的实现方式
    2.3 平移变换对感受野的影响
    2.4 本章小结
第三章 图像不同区域信息关键性分析
    3.1 视网膜与感受野
    3.2 验证假设的方式
    3.3 两种不同结构的卷积神经网络
    3.4 实验设计
    3.5 实验结果及其分析
    3.6 本章小结
第四章 感受野集成的训练方法
    4.1 神经网络训练的不同阶段
    4.2 方法提出的动机
    4.3 方法的实现
    4.4 实验设计
    4.5 实验结果及其分析
    4.6 感受野集成的训练方法的实质
    4.7 本章小结
第五章 总结与展望
    5.1 论文总结
    5.2 研究展望
参考文献
攻读硕士学位期间完成的科研成果
致谢



本文编号：3833777