面向深度学习模型的安全测试平台的研究与实现

发布时间：2024-03-06 04:11

　　随着深度学习的不断发展,深度学习已经在图像、语言、文本各方面得到比较广泛的应用。在如今的社会中,深度学习也利用在许多对安全严苛的环境中,在个人的财产和隐私方面也已经广泛的利用到深度学习。目前的研究发现对抗样例能够比较容易欺骗深度学习网络,能够使深度学习网络出现错误的分类结果,甚至能够产生攻击者想要的分类结果,同时人们对对抗样例的分辨是非常困难的,很多攻击者产生的对抗样例是人眼很难分辨的。对抗样本的脆弱性成为在安全关键的情况下应用深度神经网络的主要风险之一。本文以此为前提背景,设计了面向深度学习模型的安全测试平台,充分解决了人们对深度学习安全问题的知识的不足。本文主要对整个平台做出仔细的分析,对系统的整体架构做出总结,并总结了目前比较流行的深度学习模型攻击算法,在此基础上开发面向深度学习模型的安全测试平台。面向深度学习模型的安全测试平台主要包括用户登陆注册模块、深度学习攻击模块、防御模块、以及评估模块,攻击模块和防御模块使用当今比较流行的算法。其中利用深度学习模型进行图片预测产生预测正确的图片,利用攻击算法产生对抗样例,并提供用户下载。防御模块利用防御算法产生防御增强模型,使模型能够更加...

【文章页数】：90 页

【学位级别】：硕士

【部分图文】：

图２－１所示：??用???????，???Ｓ?卜型上＃?Ｉ?丨模型防御１丨模型评佔１??面???．．个?

?山东大学硕士学位论文???２．２面向深度学习模型的安全测试平台描述??２．２．１业务流程分析??为了方便用户使用该系统，本节主要对各个模快进行流程分析，并利用流程??图的方式详细的描述。首先是系统整体描述，系统主要包括数据集层，深度学习??模型的利用以及评估的方法的指标，评估的....

图２－２攻击流程图??攻击模块主要是使用深度学习模型预测正确的数据集，利用现有的攻击算法??生成对抗样例，然后通过这些对抗样例进行评估，系统设计了对于攻击的衡量标??

就是用户的界??面进行各种的操作，操作易上手。??（２）攻击模块流程图??用户需要登陆系统后才能使用系统所提供的该模块的功能。用户可以选择上??传自己的深度学习模型，选择使用攻击的算法。使用攻击算法时，主要是利用用??户上传的深度学习模型保存文件，系统支持ｐｙｔｏｒｃｈ保存的模型....

图２－３防御流程图??用户登陆后才能够使用防御模块的功能，防御模块主要是实现对模型的防御

影响深度学习模型的预测结果，展示??出深度学习模型的脆弱性。??在预测完成后，系统设置评估的标准主要包括：ＭＲ：?错误分类的概率、??ＡＣＡＣ：对错误类的平均预测置信度、ＡＣＴＣ：对正确类的平均预测置信度、ＡＬＤ：??平均Ｌ１或者Ｌ２或者Ｌ无穷范式的失真度量、ＡＳＳ：平均结构的相....

图２￣４评估流程图??２．２．２功能性需求??根据上节所述，该平台主要包括普通用户和管理员两种角色

?山东大学硕士学位论文???（’开始?１?（?Ｓｉ?、）????．、、?－Ｊ??＜????Ｊ??????????用户登陆?否?生成对抗样例——？?——？查看评估效果??：?ｆ￣￣?￣ｆ＾?＾Ｔ￣??否否是??上传深度学习模?Ｌ?不???型图片?口??图２￣４评估流程图??２．２．....

本文编号：3920532