黑盒环境下语音识别模型的普适性对抗样本生成方法研究

发布时间：2023-06-01 05:11

　　近年来,深度神经网络在音频识别中的应用使自动语音识别(Automatic Speech Recognition,ASR)系统取得了令人瞩目的进步。目前的ASR系统已经具有高准确性和便利性,各种智能终端配备的语音识别接口使其开始为人们提供广泛的服务。然而,近年来大量实验已经证明,微小的对抗性扰动可以欺骗深度神经网络,使其错误地输出攻击者所指定的目标。目前对抗ASR系统的工作主要集中于白盒攻击,而在黑盒环境下针对语音识别系统生成对抗样本的方法很少。在黑盒环境中模型架构和参数是未知的,这使得生成对抗样本相对困难,但黑盒攻击方法的优势在于其不依赖于模型结构,因此这类方法对语音识别系统具有更大威胁。本文将遗传算法和梯度估计相结合,提出了一种有效的黑盒攻击方法。该方法通过对每个输入音频样本进行迭代训练,实现了86.5%的定向攻击成功率,同时保持了94.6%的音频文件相似度。在此基础上,本文继续探究了对输入普适的语音对抗样本生成方法。最新研究证实了针对用于图像识别的神经网络模型存在输入普适的对抗性样本,即对任意的原始图像添加相同的对抗性扰动可以高概率地欺骗神经网络分类器,使其分类出错。本文在此基础上...

【文章页数】：64 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第1章 绪论
    1.1 课题背景及研究的目的和意义
    1.2 国内外研究现状及分析
        1.2.1 语音识别模型研究现状
        1.2.2 神经网络对抗样本研究现状
    1.3 本文的研究内容及章节安排
        1.3.1 主要研究内容
        1.3.2 论文组织结构
第2章 语音识别对抗样本理论基础
    2.1 DNN基本原理
    2.2 现代语音识别模型框架
        2.2.1 语音声学特征提取
        2.2.2 循环神经网络
        2.2.3 CTC损失函数
    2.3 对抗样本基本理论与生成方法
    2.4 本章小结
第3章 黑盒环境下的语音对抗样本生成方法
    3.1 基于遗传算法的对抗样本生成方法
        3.1.1 贪心CTC评分函数
        3.1.2 交叉变异算法
        3.1.3 基于线搜索的优化算法
    3.2 结合梯度估计的对抗样本生成方法
        3.2.1 梯度估计算法
        3.2.2 黑盒语音对抗样本损失函数
        3.2.3 基于对目标函数一阶展开的自适应学习率算法
    3.3 实验结果及分析
    3.4 本章小结
第4章 普适性语音对抗样本生成方法
    4.1 普适性对抗样本生成方法相关理论
    4.2 基于单步梯度更新的普适性对抗样本生成算法
        4.2.1 普适性对抗样本目标函数
        4.2.2 单步梯度更新优化算法
    4.3 实验结果与分析
    4.4 本章小结
结论
参考文献
攻读硕士学位期间发表的论文及其他成果
致谢



本文编号：3826686