基于遗传算法的对抗文本生成方法研究

发布时间：2021-07-20 19:10

　　近年来,人工智能技术的飞速发展,在计算机视觉、自然语言处理、语音识别等多个领域展现出其强大的应用价值,人工智能技术的安全性问题也随着这些应用的推广变得越来越受到重视,对抗样本的存在也越来越引起相关研究者们的关注。通过对对抗样本相关问题的研究,可以更好地思考人工智能技术,了解以深度学习为代表的第三次基于连接主义的人工智能浪潮中各种算法模型的本质。通过对抗样本的产生和防御等方面的研究,以更好地掌控人工智能技术,在未来的人工智能技术进一步落地时,有更多的可能去尽力避免一些潜在的安全性问题。自从2014年对抗样本被发现以来,国内外研究者们提出了一系列的对抗样本生成方法和防御方法,使得对抗样本问题的研究越来越深入。本文主要研究对抗文本的生成方法,通过借鉴传统算法思想设计算法去攻击一个表现良好的用于情感分析任务的卷积神经网络,探寻在最短的时间内找到最不容易被人类感知的对抗样本。通过借鉴遗传算法的思想,对遗传算法的整个迭代过程,诸如种子种群生成、种群选择、种群交叉、种群变异等阶段针对生成对抗样本这个问题进行针对性的设计。对适应度函数的设计立足于被攻击模型得分和改动比例得分两项,尽力做到尽快找到好的对... 

【文章来源】：华中科技大学湖北省 211工程院校 985工程院校 教育部直属院校

【文章页数】：49 页

【学位级别】：硕士

【部分图文】：

遗传算法流程图

华 中 科 技 大 学 硕 士 学 位 论 文区分，并通过卷积的权值共享和池化操作来减少网络参数[48]，是一类非常高效的神经网络结构。2.2.2 卷积神经网络在文本分类上的应用卷积神经网络不仅在图像处理领域取得丰富的成果，也在自然语言处理领域取得了一些成果[49]。卷积神经网络通过先将包含每个句子的单词转化为向量表示再进行输入，从而形成输入矩阵。在句子分类领域，卷积神经网络不需要特别复杂的结构，便能取得相对传统算法来说非常不错的分类效果。甚至只用简单的单层卷积神经网络，便能在多个数据集上面取得最优的结果[49]。用于句子分类任务的单层卷积神经网络如图 2-2：

图 2-3 对抗图像的产生对抗样本问题不是深度学习模型所特有的，也不是特定模型所特有。甚至，已几乎所有的机器学习模型的高维数据的输入都广泛地受到了对抗样本的影响样本不仅存在广泛性，还存在迁移性，也就是在一个模型上面产生的对抗样本击另外一个模型，另外一个模型有可能仍会以一个很大的概率去产生错误的分果。对抗样本被发现以后，越来越多的研究开始进入该领域，对抗样本问题方研究也开始变得逐渐深入。2 对抗图像对抗样本最先在图像领域被发现，研究者们在对抗图像领域已经取得了一系究成果。研究者们已经在图像领域提出了一系列的对抗样本产生方法，包括-constrained L-BFGS[16]、Fast Gradient Sign Method(FGSM)[17][18]、Jacobian-basncy Map Attack(JSMA)[20]、One Pixel Attack[7][21]等。同时，研究者们不仅在图

【参考文献】：
期刊论文
[1]遗传算法研究综述[J]. 葛继科,邱玉辉,吴春明,蒲国林.  计算机应用研究. 2008(10)
[2]遗传算法研究综述[J]. 吉根林.  计算机应用与软件. 2004(02)
[3]多维实数编码遗传算法[J]. 雷德明.  控制与决策. 2000(02)



本文编号：3293411