深度学习对抗攻击防御策略的研究与实现

发布时间：2023-11-24 21:35

　　近年来,深度学习技术在多个领域取得十分优异的成就,如计算机视觉、自然语言处理和语音处理等,越来越多的相关应用出现,这给人们的生活带来了很多便利。然而,深度学习在表现优异的同时,还存在易受攻击的缺陷。攻击方法通过在输入样本中增加一些微小的扰动,便可以让深度学习模型做出错误判断。这给深度学习应用带来了巨大的安全问题。当前,已有很多关于防御对抗攻击的研究成果出现。然而,多数防御策略只能应对特定的攻击方法,普适性比较低,另外这些防御策略多为全局过滤扰动,浪费了大量算力。因此,本文针对上述缺点,试图提出一种高效且普适性高的防御策略。本文主要从以下三个方面展开详细研究:(1)首先详细分析了多种经典对抗攻击方法,并对这些攻击方法按照攻击范围分类。从分类中抽象出不同点与共同点,发现对抗扰动中存在敏感点,敏感点的波动影响深度学习模型的分类。受此启发,我们提出一种仅过滤对抗样本中敏感点的防御策略,避免了对非敏感点的处理,减少了计算,提高了效率。(2)详细研究了寻找敏感点与过滤敏感点的方法。为了提高防御策略的普适性,我们提出了一种基于差分进化算法寻找敏感点的方法,采用黑盒的方式去寻找对抗样本中的敏感点,避免...

【文章页数】：63 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第1章 绪论
    1.1 研究背景和意义
    1.2 研究现状
        1.2.1 数据层面防御
        1.2.2 模型层面防御
    1.3 主要研究内容与组织结构
第2章 背景知识介绍
    2.1 深度学习
        2.1.1 卷积神经网络简介
        2.1.2 深度学习经典模型
    2.2 对抗攻击
        2.2.1 对抗攻击相关概念
        2.2.2 距离度量
        2.2.3 对抗攻击方法介绍
    2.3 本章小结
第3章 基于对抗攻击的防御策略
    3.1 全局攻击
    3.2 局部攻击
    3.3 防御策略
    3.4 本章小结
第4章 防御策略的设计与实现
    4.1 基于差分进化算法寻找敏感点
        4.1.1 引言
        4.1.2 问题描述
        4.1.3 问题求解
        4.1.4 实验结果
    4.2 过滤敏感点
    4.3 实现防御策略
        4.3.1 配置实验环境
        4.3.2 训练网络模型
        4.3.3 生成对抗样本
        4.3.4 实验结果与分析
    4.4 本章小结
结论
参考文献
攻读硕士学位期间发表的论文及其它成果
致谢



本文编号：3866639