基于结构保持攻击的对抗样本生成方法研究

发布时间：2021-02-27 05:43

　　深度神经网络在计算机视觉领域等诸多任务上已取得远超传统方法的性能。然而最近研究表明机器学习模型,尤其是深度神经网络容易遭受对抗样本的攻击。因此,对抗样本的存在,给现有深度神经网络在安全敏感任务上的应用带来了巨大挑战。目前图像领域对抗样本的生成,主要是通过在原始图像上叠加人眼难以察觉的微小扰动而得到,以下简称微小扰动对抗样本。这些微小扰动用以确保生成对抗样本的自然真实性,但同时限制了其迁移能力,这使得在黑盒攻击场景下,该方法所产生的对抗样本攻击能力偏弱,特别是当目标模型具有一定防御机制的情况下。针对这一情况,本文提出了结构模式和结构保持扰动的概念,并且基于这些概念,本文提出了一种基于结构保持的对抗攻击,称为结构保持攻击（Structure-Preserving Attack,缩写为SPA）,以产生强攻击能力和高迁移能力的对抗样本。SPA试图产生和原始图像保持相同结构的结构化对抗扰动。具体地,该方法限定图像中位于同一结构的像素只能被施加以相同量的扰动,从而产生结构保持、自然的对抗样本。通过考虑图像的内在结构,SPA放松了传统攻击中的微小扰动限制,因而产生的对抗样本具有更强的迁移能力,进而在... 

【文章来源】：哈尔滨工业大学黑龙江省 211工程院校 985工程院校

【文章页数】：58 页

【学位级别】：硕士

【文章目录】：
摘要
ABSTRACT
第1章 绪论
    1.1 课题研究背景及意义
    1.2 国内外研究现状
        1.2.1 对抗攻击的研究现状
        1.2.2 对抗防御的研究现状
    1.3 主要研究内容
    1.4 本文组织结构
第2章 相关研究综述
    2.1 背景知识
        2.1.1 神经网络的一般表达形式
        2.1.2 对抗样本定义
        2.1.3 对抗样本攻击类型
        2.1.4 对抗样本的威胁模型
    2.2 白盒攻击方法综述
        2.2.1 基于微小扰动的白盒攻击
        2.2.2 非微小扰动的白盒攻击
    2.3 黑盒攻击方法综述
    2.4 对抗防御方法综述
        2.4.1 基于对抗训练的防御
        2.4.2 基于移除扰动的防御
        2.4.3 基于网络本身的防御
        2.4.4 基于随机化机制的防御
        2.4.5 基于对抗样本检测的防御
    2.5 本章小结
第3章 基于结构保持的对抗攻击
    3.1 引言
    3.2 基于结构保持的对抗攻击
        3.2.1 结构保持对抗攻击的动机
        3.2.2 结构保持对抗攻击的原理
        3.2.3 基于结构保持攻击的对抗样本生成算法
    3.3 对抗攻击的攻击空间分析
    3.4 本章小结
第4章 实验结果与分析
    4.1 实验环境和实验数据介绍
        4.1.1 实验环境
        4.1.2 实验数据
    4.2 实验设计
        4.2.1 评价指标
        4.2.2 基准攻击和防御
        4.2.3 目标模型
    4.3 参数设置
        4.3.1 基准攻击和防御的参数设置
        4.3.2 结构保持攻击的参数设置
    4.4 结构保持攻击的有效性验证及分析
        4.4.1 白盒攻击实验结果
        4.4.2 黑盒攻击和迁移能力实验结果
        4.4.3 攻击空间对攻击能力影响的分析
        4.4.4 对抗样本的示例
        4.4.5 基于结构保持攻击的对抗训练
    4.5 本章小结
结论
参考文献
攻读硕士学位期间发表的论文及其它成果
致谢


【参考文献】：
期刊论文
[1]深度学习中的对抗性攻击和防御[J]. 任奎,Tianhang Zheng,秦湛,Xue Liu.  Engineering. 2020(03)
[2]聚焦图像对抗攻击算法PS-MIFGSM[J]. 吴立人,刘政浩,张浩,岑悦亮,周维.  计算机应用. 2020(05)
[3]基于迭代自编码器的深度学习对抗样本防御方案[J]. 杨浚宇.  信息安全学报. 2019(06)
[4]人工智能系统安全与隐私风险[J]. 陈宇飞,沈超,王骞,李琦,王聪,纪守领,李康,管晓宏.  计算机研究与发展. 2019(10)
[5]基于GAN的对抗样本生成研究[J]. 孙曦音,封化民,刘飚,张健毅.  计算机应用与软件. 2019(07)



本文编号：3053779