对抗黑盒攻击的混合对抗性训练防御策略研究

发布时间：2021-09-08 07:35

　　随着深度学习模型在无人驾驶等安全敏感性任务中的广泛应用,围绕深度模型展开的攻防逐渐成为机器学习研究的热点。黑盒攻击是一种典型的攻击场景,在攻击者不知道模型具体使用结构和参数等情况下仍能进行有效攻击,是现实场景中最常用的攻击方法。因此,分析深度学习模型的脆弱性并设计出更加鲁棒的模型来对抗黑盒攻击成为迫切需要。而传统基于单模型的单强度和多强度对抗性训练方法,在抵御黑盒攻击时性能十分有限;基于多模型的集成对抗性训练方法在抵御高强度、多样化攻击样本效果也不理想。本文提出一种基于贪婪强度搜索的混合对抗性训练方法,实验结果表明,所提出的混合对抗性训练能够有效抵御多样化的黑盒攻击,性能优于传统的集成对抗性训练。 

【文章来源】：南京航空航天大学学报. 2019,51(05)北大核心CSCD

【文章页数】：9 页

【文章目录】：
1 相关工作
    1.1 黑盒攻击过程
    1.2 攻击算法
    1.3 对抗性训练防御策略
        1.3.1 单模型对抗性训练
        1.3.2 多模型集成对抗性训练
2 基于贪婪搜索强度的混合对抗性训练
3 实验
    3.1 数据集
    3.2 实验设置与结果分析
        3.2.1 实验设置
        3.2.2 实验过程及分析
        3.2.3 多样化攻击及模型精度
        3.2.4 算法性能分析
4 结论



本文编号：3390394