基于注意力机制的对抗样本检测方法研究

发布时间：2024-04-27 00:10

　　近年来,机器学习极大地提升了图像识别能力。然而研究表明即使决策可靠的深度神经网络模型也容易受到对抗性攻击的影响。通过向合法样本添加微小扰动形成的对抗样本使模型产生缺乏可解释性的错误输出对系统的安全性造成严重地威胁。因此,本文利用注意力机制理解模型针对样本的决策依据,并从样本注意力图特征和注意力特征距离空间两个角度实现对抗样本检测方法研究。这对于解释对抗样本使模型出错的原因和实现对抗性防御具有实际意义。由于注意力机制针对合法样本与对抗样本的注意力图展现出特征信息差异。因此,本文进行基于注意力图特征的对抗样本检测方法研究。在利用样本单特征方面,本文设计基于注意力图纹理特征的检测方法。通过提取合法样本与对抗样本注意力图的基于灰度共生矩阵的纹理特征绘制特征统计直方图,并采用阈值策略。为了充分利用样本注意力图的特征信息,在利用样本多特征方面,本文又设计基于注意力图统计特征的检测方法。从合法样本与对抗样本的注意力图提取多种统计特征,包括均值、标准差、峰度,以及基于灰度共生矩阵的对比度、能量、相关性、熵,训练基于支持向量机的检测器。在卷积神经网络多个隐藏层的前向传递过程中,由于对抗样本具有不同于合法...

【文章页数】：74 页

【学位级别】：硕士

【部分图文】：

图1-1合法样本（左）添加扰动（中）生成对抗样本（右）

窬??纾―eepNeuralNetwork，DNN）被应用于许多环境，如图像和视频理解[1,2]、关系推理[3]、恶意软件检测[4]、自动内容过滤[5]等，其中一些应用环境对安全性要求较高。最近在深度学习和安全领域的研究表明，在图像识别任务中，攻击者可以通过对抗性攻击制作对抗样本....

图2-1深度神经网络体系结构

哈尔滨工业大学工学硕士学位论文-7-第2章对抗样本检测理论基础本章主要介绍对抗样本检测的理论基矗首先，从对抗样本的原理入手，介绍几种主流的基于梯度的无目标和有目标对抗性攻击方法；然后，论述多种对抗样本检测方法的检测思路。并且，阐述了多种注意力机制方法，展示了合法样本与基于梯度的对....

图2-2对抗样本生成框架图

哈尔滨工业大学工学硕士学位论文-9-类似的DNN体系结构访问其参数值。定义一个范数||，用于描述DNN模型F的输入域中各点间的差异，形式化对抗样本的优化问题如公式（2-1）所示。argmin|X|s.t.F(XX)Y*（2-1）图2-2对抗样本生成框架图上述对抗样本生成框架是通过....

图2-3基于梯度的无目标和有目标攻击的对抗样本

哈尔滨工业大学工学硕士学位论文-11-积损失函数在梯度方向上的速度矢量加速梯度下降算法。为了在距离合法样本的最大扰动附近找到对抗样本，迭代的快速梯度符号法的动量变体可以表示为公式（2-8）。其中，GN使用衰减因子收集前N次迭代的梯度。对抗样本XN1adv在GN1符号方向上，进行步....

本文编号：3965066