基于PCA的对抗样本攻击防御研究

发布时间：2022-08-29 19:41

　　目前,深度学习成为计算机领域研究与应用最广泛的技术之一,但随着对抗样本的提出,其算法、模型以及训练数据面临许多安全威胁,进而影响到基于深度学习实际应用系统的安全性。针对机器学习安全、防御对抗样本攻击问题,提出了基于PCA的对抗样本攻击防御方法,利用快速梯度符号（FGSM）非针对性攻击方式,敌手为白盒攻击,通过在MNIST数据集上进行PCA来防御深度神经网络模型的逃逸攻击。实验结果表明,PCA能够防御对抗样本攻击,在维度降至50维时防御效果达到最好。本文在阅读和研究了大量的相关文献和资料的基础上,在防御对抗样本攻击的研究中重点进行的工作有以下四个方面:（1）讲述了课题背景的研究意义,分析了国内外的研究现状,介绍了对抗样本及防御对抗样本攻击的产生与发展,提出研究防御对抗样本攻击对深度学习安全的重要意义,防御对抗样本攻击是目前机器学习的重要研究方向也是急需解决的问题。（2）介绍了深度学习相关知识,重点讲解了卷积神经网络,为后面的工作奠定基础。讲述了对抗样本相关知识,列举了几种经典的对抗样本产生的方法。通过对比几种生成对抗样本的方法,由于FGSM方法只需要计算一次梯度,并且不具有针对性,生成对... 

【文章页数】：51 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
1.绪论
    1.1 课题研究背景及意义
    1.2 国内外研究现状
    1.3 论文结构
2.深度学习以及对抗样本概述
    2.1 深度学习概述
        2.1.1 神经网络介绍
        2.1.2 神经网络中的激活函数
        2.1.3 卷积神经网络的结构
        2.1.4 卷积神经网络的特性
    2.2 对抗样本相关概念
    2.3 白盒攻击算法
        2.3.1 L-BFGS方式
        2.3.2 FGSM算法
        2.3.3 DeepFool算法
        2.3.4 JSMA算法
        2.3.5 C&W算法
    2.4 黑盒攻击算法
        2.4.1 单像素攻击算法
        2.4.2 迁移学习攻击算法
        2.4.3 MalGAN攻击算法
    2.5 总结
3.防御对抗样本攻击
    3.1 常见的对抗样本攻击防御方法
        3.1.1 对抗训练
        3.1.2 高斯数据增强
        3.1.3 自编码去噪
        3.1.4 蒸馏防御
    3.2 基于PCA的对抗样本攻击防御
        3.2.1 主成分分析(PCA)介绍
        3.2.2 PCA最大可分性的思想
        3.2.3 PCA算法基本原理
        3.2.4 利用PCA进行防御
    3.3 本章小结
4.基于PCA的对抗样本攻击防御
    4.1 实验数据集
    4.2 实验环境
    4.3 PCA防御对抗样本攻击的评估标准
    4.4 实验结果分析
    4.5 本章小结
5.总结与展望
    5.1 总结
    5.2 展望
参考文献
硕士期间发表论文
致谢


【参考文献】：
期刊论文
[1]基于迭代自编码器的深度学习对抗样本防御方案[J]. 杨浚宇.  信息安全学报. 2019(06)
[2]Deep Learning Based Single Image Super-resolution:A Survey[J]. Viet Khanh Ha,Jin-Chang Ren,Xin-Ying Xu,Sophia Zhao,Gang Xie,Valentin Masero,Amir Hussain.  International Journal of Automation and Computing. 2019(04)
[3]前馈神经网络中的反向传播算法及其改进:进展与展望[J]. 刘曙光,郑崇勋,刘明远.  计算机科学. 1996(01)

硕士论文
[1]机器学习中的对抗样本防御和隐私保护[D]. 朱强.西安电子科技大学 2019
[2]基于DCT变换的对抗样本防御方法研究[D]. 闫明.哈尔滨工业大学 2018
[3]基于深度残差学习去噪的D-D模型对抗样本防御的研究[D]. 胡育铭.兰州大学 2018



本文编号：3678896