针对卷积神经网络的差异化可视分析研究与应用

发布时间：2021-01-15 00:59

　　卷积神经网络作为神经网络模型中的一个重要分支,由于其良好的性能而被广泛的应用在图像识别、自动驾驶、癌症检测以及语义分析等领域。然而由于当前对于网络内部的运行机理并没有完善的解释,使用者利用神经网络进行数据分析时普遍将模型视为一个“黑箱”,这会导致当实际需求发生变化时,使用者难以对模型做出相应的修改以达到满意的效果。常用的提高模型性能的方法之一是对模型的相关参数值进行修改,该方法操作简单,可行性较高,然而目前关于参数对于网络的影响方式并没有完善的解释,因此修改参数的工作大部分时候都处于一种“试错”的状态。为了解决上述问题,本文设计并实现了一种基于差异分析的卷积神经网络可视化分析系统DiffCNNVis,旨在帮助用户理解卷积网络的各种参数是通过何种形式来影响网络的。本文的核心思想在于通过单一变量实验对比两个参数不同的卷积神经网络的内部信息,并对相应信息差异进行可视化展示来反映该参数对网络的作用方式。本文设计了用于对照的基准网络,并且在此网络的基础上对例如激活函数、卷积层结构、学习率、丢弃率等参数进行修改,以此获取实验对照网络,之后在实验中提取网络内部例如卷积核张量以及卷积层输出特征等隐藏信... 

【文章来源】：浙江工业大学浙江省

【文章页数】：59 页

【学位级别】：硕士

【部分图文】：

CNNVis界面图

图 1-2 RNNVis 界面图[48]Figure 1-2 .RNNVis interface diagram[48]Wongsuphasawat 等设计实现了 TensorFlow 机器学习框架[51]中的可视化插件TesnsorFlow Graph Visualizer。他们通过一系列的图形转换，使得标准布局技术能够生成清晰的可交互图形，包括将网络中的关键节点与非关键节点进行分离以分解网络，使用原代码中的注释层次结构来构建集群图表以提供概览，使用边捆绑实现高稳定且响应灵敏的聚类扩展方式以支持层次化的探索需求，对重复结构进行检测和高亮展示以强调网络的模块组成结构等。该工作能够帮助使用者调试和理解网络模型结构。Strobelt 等[52]设计实现了 LSTM 网络的可视化分析工具 LSTMVis。他们给出了 RNN 中域的相关描述并且分析了网络中各个模块的任务和职责，在这些概念的基础上，该工具允许使用者设置假设的输入范围以获取局部特征值的变化，并对这些状态的变化情况与大数据集中的类似模式相匹配以进行更进一步的分析。上述提到的深度神经网络可视分析相关工作从各个角度对网络的内部运行机理进行了解释，包括展示网络的运行结构图、给出网络的隐藏层信息、对提取

浙江工业大学硕士学位论文第二章 卷积神经网络可视分析相关技术2.1 卷积神经网络相关原理2.1.1 神经网络的定义和运行原理神经网络是一种受到生物神经系统的启发可以自主进行参数拟合调整的函数模型，神经网络模型由多个神经元组成，神经元是网络的基本计算单元，外部的输入信号进入神经元后会产生相应的输出，两个神经元之间的连接都表示通过该连接的信号的加权值。当信号加权传入到神经元内部后，神经元会对其进行计算，过程如图 2-1 所示。


本文编号：2977897