面向深度学习安全的对抗样本研究及其利用

发布时间：2023-03-11 17:35

　　伴随数据量和硬件水平的提升,深度学习凭借端到端的高效推理方式,在图像分类、目标检测和人机对话等任务上取得了突破,同时也在无人驾驶、人脸识别和入侵检测等高安全性需求任务中广泛应用。因此,深度学习的深入研究和相关的丰富应用极大地推动了计算机视觉、自然语言处理等领域的发展。然而尽管深度学习被应用于众多高安全性需求场景中(Deep Learning for Security),但是深度学习依然是一把双刃剑,其技术本身带来的安全性问题(Security of Deep Learning)也需要重视。因此,AI安全就成为了与深度学习伴生的热门研究领域。研究对抗样本就是研究如何增强模型甚至整个系统的鲁棒性,实现更高的安全性。现阶段对抗样本的研究基本上集中在计算机视觉领域,且可以将相关研究分为对抗样本攻击、防御和应用三个方面。对抗样本的攻击通过生成对抗样本完成对目标模型的攻击,使其作出错误推理;对抗样本的防御通过各种安全技术消除对抗样本对目标模型造成的负面影响。以上研究从攻防两个对立的角度提升深度学习的安全性,同时也对深度学习这种黑盒技术的可解释性做出贡献。此外,如何合理利用对抗样本特性实现图像加密和...

【文章页数】：71 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
专用术语注释表
第一章 绪论
    1.1 研究背景
    1.2 国内外研究现状
    1.3 对抗样本研究路线
        1.3.1 基于白灰黑盒攻击的对抗样本攻击
        1.3.2 基于已知攻击的对抗样本防御
        1.3.3 基于深度模型的对抗样本实际应用
    1.4 论文的主要工作
    1.5 论文的组织结构
第二章 对抗样本及相关知识介绍
    2.1 对抗样本
        2.1.1 定义及相关概念
        2.1.2 相关类型
        2.1.3 防御类型
        2.1.4 性能度量
    2.2 相关技术
        2.2.1 对抗样本攻击算法
        2.2.2 对抗样本防御算法
    2.3 数据流形
        2.3.1 数据流形定义
        2.3.2 图像特征提取
        2.3.3 图像特征表达
    2.4 本章小结
第三章 隐层编码定向迁移算法LETT
    3.1 AE-WGAN
    3.2 LETT算法
    3.3 实验设置
    3.4 实验结果
        3.4.1 维度选择
        3.4.2 迁移过程
        3.4.3 实验验证
        3.4.4 对比实验
        3.4.5 转移性
        3.4.6 对抗训练
    3.5 本章小结
第四章 隐层编码异常检测算法LEAD
    4.1 相关介绍
        4.1.1 检测样本
        4.1.2 隐层编码特征降维
    4.2 LEAD算法
    4.3 实验设置
    4.4 检测性能分析
        4.4.1 超参选择
        4.4.2 对比实验
        4.4.3 检测时间
    4.5 本章小结
第五章 隐层编码无痕嵌入算法LETE
    5.1 相关介绍
        5.1.1 图像隐写
        5.1.2 数字水印
    5.2 LETE模型
        5.2.1 模型结构
        5.2.2 图像处理
    5.3 实验结果
        5.3.1 模型训练
        5.3.2 隐写效果
    5.4 本章小结
第六章 总结与展望
    6.1 本文工作总结
    6.2 未来工作展望
    6.3 本章小结
参考文献
附录1 攻读硕士学位期间撰写的论文
附录2 攻读硕士学位期间申请的专利
附录3 攻读硕士学位期间参加的科研项目
致谢



本文编号：3759953