人工智能对抗攻击研究综述

发布时间：2021-11-03 15:27

　　随着人工智能的广泛应用,人工智能安全也开始引起人们的关注,其中人工智能对抗攻击已经成为人工智能安全研究热点.为此,介绍了对抗攻击的概念和产生对抗样本的原因,主要因为模型判断边界与真实系统边界的不一致导致对抗空间的存在;论述了几种经典生成对抗样本的方法,包括快速梯度和雅克比映射攻击,对抗攻击的主要思路是寻找模型梯度变化最快方向,按这个方向加入扰动从而导致模型误判;论述了检测对抗攻击的方法和对抗攻击的防御方法,并提出未来的一些研究方向. 

【文章来源】：上海交通大学学报. 2018,52(10)北大核心EICSCD

【文章页数】：9 页

【文章目录】：
1 对抗攻击简介
    1.1 对抗攻击概念
    1.2 对抗攻击的分类
        1.2.1 对抗攻击的目标
        1.2.2 对抗攻击的能力
2 对抗攻击的方法
    2.1 快速梯度攻击
    2.2 雅克比映射攻击
    2.3 深度欺骗攻击
    2.4 边界攻击
3 对抗攻击的检测
    3.1 基于鲁棒性的检测
    3.2 基于对抗样本空间的检测
    3.3 基于边界倾斜的检测
    3.4 基于线性对抗的检测
    3.5 通用扰动与检测
4 对抗攻击的防御方法
    4.1 修改训练数据/测试输入
        4.1.1 对抗训练
        4.1.2 数据压缩防御
        4.1.3 数据随机化处理
    4.2 修改网络模型结构
        4.2.1 深度收缩网络 (DCN)
        4.2.2 梯度正则化与梯度遮蔽
        4.2.3 防御性蒸馏
        4.2.4 遮罩防御
    4.3 网络附加工具
        4.3.1 针对全局扰动的防御
        4.3.2 基于对抗网络的防御
5 结语



本文编号：3473926