注意力引导的深度学习算法在胸部X光肺结核检测中的应用研究
发布时间：2021-08-08 00:30
肺结核病是世界上死亡率最高的传染病之一,早期的发现和诊断是治疗结核病的关键步骤。为了使快速准确的自动诊断成为可能,大量研究人员致力于开发智能化的计算机辅助检测系统帮助医生进行胸部X光片对肺结核病的诊断工作。这深度学习中的注意力机制仿照人类获取信息的原理,对无关信息进行了过滤,能够很好地提升网络的性能。本文针对胸部X光片,提出了改进的深度卷积神经网络,引入了注意力机制并研究了肺结核病的病灶检测及分类算法。主要工作如下:（1）收集了来自吉林、广州以及上海三家不同医院门诊的4990张胸部正位X光片肺结核数据集,其中不包含疾病的健康对照者图像有1500张,感染肺结核病的图像有2506张,非肺结核但可能患有其他肺部疾病的图像有984张。预处理时进行图像通道改变、医学图像的格式转换等操作以适应后续运算的输入要求,最后采用双线性插值算法统一图像尺寸,以方便实验和对照。（2）对CNN的结构、注意力机制的原理以及基准网络ResNet进行了研究,针对肺结核检测任务,构建了一种基于注意力机制的深度学习卷积神经网络模型,并对注意力模块进行改进,使得模块能够很好地融合空间和通道间的特征。（3）将基于注意力机制的...
【文章来源】：山东师范大学山东省
【文章页数】：47 页
【学位级别】：硕士
【部分图文】：
人工智能概念中的卷积神经网络的维恩图表示
山东师范大学硕士学位论文8构有利于分层提取特征。即图像经过第一层卷积后可以提取到某些边缘或颜色特征，经过第二层卷积后可以得到某些形状特征图，不同层的卷积可以学习一部分图像特征，最后一层卷积可输出一定的概率或分数。由于卷积神经网络可将网络结构堆叠的很深、结构设计上更复杂，近年来的研究主要集中在提升模型的泛化性能和计算速度上，致力于设计能够保证模型性能的轻量级的网络。2.1.1卷积神经网络的结构卷积神经网络是一种前馈神经网络[27]，包括一系列将图像转换为输出类别分数的层序列（图2-2）。在计算时，两层相邻的神经元以一定的方式相连接进行信息的传递，而在同一层神经元之间则是各自独立的不存在连接途径。构建CNN层的主要类型有四种：卷积（Conv）层，池化（Pool）层，非线性层（ReLU）和完全连接（FC）层[28]。图2-2用于图像分类的典型卷积神经网络（CNN）架构（1）卷积层。卷积层是卷积神经网络的基本组成单位，是由一系列神经元排列组合而成的，它可以通过卷积运算对输入信息进行一系列操作。卷积操作主要有三个独特性质帮助网络进行分析计算，即稀疏交互（sparseinteractions）、参数共享（parametersharing）和平移等变表示（equivariance）[29]。在深度卷积网络中，输入的信息可能通过多个传播路径、以不同的特征图形式传播到网络深处的神经元中，而稀疏连接体系结构能够有效地描述这种间接的多变量复杂交互。权重共享是卷积神经网络与常规人工神经网络的主要区别[30]。图像是非常大的像素矩阵，如果参数共享的，那么网络就只需学习一套参数集就可以将其用于图像中的每一个像素的卷积运算，从而减小网络的计算量。从卷积层的角度出发，共享权重和偏置使得卷积计算的结果不受卷积层平移的影响。
山东师范大学硕士学位论文9网络中的每一层卷积都由权重矩阵组成，也称为滤波器[31]。在前向传播期间，每个过滤器都沿着图像系统地移动，以便在图像的每个区域中，在像素和权重之间形成点积（图2-3）。CNN可以快速学习这些滤波器，当过滤器观察到输入的某些空间位置处的特定类型的要素时会激活。图2-3从输入到输出的卷积示意图（2）池化层。池化层也称为下采样层，它利用卷积层的特征进行采样，可帮助最小化网络中的参数和计算量，保留图像的整体结构信息并控制过度拟合。一些常见的池化操作是最大池化、平均池化、随机池化[32]、频谱池化[33]、空间金字塔池化[34]和多尺度无序池化[35]等。对于随机池化来说，需要先对各合并区域进行概率计算：jRkkiiaaP（2-1）然后我们从基于P的多项式分布中抽样，以确认j内的位置l。然后，合并的激活就是la：),...,(~where1jRljslppPa（2-2）图2-4具有空间金字塔池化层的网络结构
【参考文献】：
期刊论文
[1]大数据技术进展与发展趋势[J]. 宋雪丰,唐国宇,孙戌杰. 电子技术与软件工程. 2018(21)
[2]大数据技术进展与发展趋势[J]. 程学旗,靳小龙,杨婧,徐君. 科技导报. 2016(14)
[3]大数据技术研究综述[J]. 刘智慧,张泉灵. 浙江大学学报(工学版). 2014(06)
硕士论文
[1]基于深度卷积神经网络的X光片肺结核检测和分类[D]. 毋一帆.西北大学 2019
[2]基于注意力机制的图像分类深度学习方法研究[D]. 王培森.中国科学技术大学 2018
本文编号：3328839
【文章来源】：山东师范大学山东省
【文章页数】：47 页
【学位级别】：硕士
【部分图文】：
人工智能概念中的卷积神经网络的维恩图表示
山东师范大学硕士学位论文8构有利于分层提取特征。即图像经过第一层卷积后可以提取到某些边缘或颜色特征，经过第二层卷积后可以得到某些形状特征图，不同层的卷积可以学习一部分图像特征，最后一层卷积可输出一定的概率或分数。由于卷积神经网络可将网络结构堆叠的很深、结构设计上更复杂，近年来的研究主要集中在提升模型的泛化性能和计算速度上，致力于设计能够保证模型性能的轻量级的网络。2.1.1卷积神经网络的结构卷积神经网络是一种前馈神经网络[27]，包括一系列将图像转换为输出类别分数的层序列（图2-2）。在计算时，两层相邻的神经元以一定的方式相连接进行信息的传递，而在同一层神经元之间则是各自独立的不存在连接途径。构建CNN层的主要类型有四种：卷积（Conv）层，池化（Pool）层，非线性层（ReLU）和完全连接（FC）层[28]。图2-2用于图像分类的典型卷积神经网络（CNN）架构（1）卷积层。卷积层是卷积神经网络的基本组成单位，是由一系列神经元排列组合而成的，它可以通过卷积运算对输入信息进行一系列操作。卷积操作主要有三个独特性质帮助网络进行分析计算，即稀疏交互（sparseinteractions）、参数共享（parametersharing）和平移等变表示（equivariance）[29]。在深度卷积网络中，输入的信息可能通过多个传播路径、以不同的特征图形式传播到网络深处的神经元中，而稀疏连接体系结构能够有效地描述这种间接的多变量复杂交互。权重共享是卷积神经网络与常规人工神经网络的主要区别[30]。图像是非常大的像素矩阵，如果参数共享的，那么网络就只需学习一套参数集就可以将其用于图像中的每一个像素的卷积运算，从而减小网络的计算量。从卷积层的角度出发，共享权重和偏置使得卷积计算的结果不受卷积层平移的影响。
山东师范大学硕士学位论文9网络中的每一层卷积都由权重矩阵组成，也称为滤波器[31]。在前向传播期间，每个过滤器都沿着图像系统地移动，以便在图像的每个区域中，在像素和权重之间形成点积（图2-3）。CNN可以快速学习这些滤波器，当过滤器观察到输入的某些空间位置处的特定类型的要素时会激活。图2-3从输入到输出的卷积示意图（2）池化层。池化层也称为下采样层，它利用卷积层的特征进行采样，可帮助最小化网络中的参数和计算量，保留图像的整体结构信息并控制过度拟合。一些常见的池化操作是最大池化、平均池化、随机池化[32]、频谱池化[33]、空间金字塔池化[34]和多尺度无序池化[35]等。对于随机池化来说，需要先对各合并区域进行概率计算：jRkkiiaaP（2-1）然后我们从基于P的多项式分布中抽样，以确认j内的位置l。然后，合并的激活就是la：),...,(~where1jRljslppPa（2-2）图2-4具有空间金字塔池化层的网络结构
【参考文献】：
期刊论文
[1]大数据技术进展与发展趋势[J]. 宋雪丰,唐国宇,孙戌杰. 电子技术与软件工程. 2018(21)
[2]大数据技术进展与发展趋势[J]. 程学旗,靳小龙,杨婧,徐君. 科技导报. 2016(14)
[3]大数据技术研究综述[J]. 刘智慧,张泉灵. 浙江大学学报(工学版). 2014(06)
硕士论文
[1]基于深度卷积神经网络的X光片肺结核检测和分类[D]. 毋一帆.西北大学 2019
[2]基于注意力机制的图像分类深度学习方法研究[D]. 王培森.中国科学技术大学 2018
本文编号：3328839
本文链接：https://www.wllwen.com/yixuelunwen/chuanranbingxuelunwen/3328839.html
最近更新
教材专著
