基于CUDA和布谷鸟算法的SVM在工控入侵检测中的应用
发布时间：2021-04-10 07:00
为了提升SVM算法的分类速度和精度,提出了一种基于CUDA和布谷鸟搜索算法（CSA）的CCS-SVM （CUDA and Cuckoo Search based Support Vector Machine）算法。考虑到SVM算法在大规模数据下训练速度慢的缺点,利用基于CUDA的并行技术对SVM进行并行化。针对布谷鸟搜索算法寻优精度低和收敛速度慢的问题,提出了两点改进:第一,考虑了寻优过程中个体适应度对莱维飞行步长因子α的影响;第二,在偏好随机游动环节引入惯性权重。最后利用CCS-SVM算法对工控网络标准数据集进行入侵检测仿真实验,结果表明:该算法在保证入侵检测准确率的同时,检测速度提升了近3倍。
【文章来源】：华东理工大学学报(自然科学版). 2019,45(01)北大核心CSCD
【文章页数】：9 页
【部分图文】：
图１ＣＵＤＡ编程模型Ｆｉｇ．１ＰｒｏｇｒａｍｍｉｎｇｍｏｄｅｌｏｆＣＵＤＡ
第１期陈汉宇，等：基于ＣＵＤＡ和布谷鸟算法的ＳＶＭ在工控入侵检测中的应用图１ＣＵＤＡ编程模型Ｆｉｇ．１ＰｒｏｇｒａｍｍｉｎｇｍｏｄｅｌｏｆＣＵＤＡ式（１）。原理是将二次规划问题分解为一系列子问题，每次迭代只更新两个拉格朗日乘子，即只处理两个样本的优化问题，从而高效求解了二次规划问题。图２并行ＳＶＭ流程图Ｆｉｇ．２ＦｌｏｗｃｈａｒｔｏｆｐａｒａｌｌｅｌＳＶＭＳＶＭ算法并行化的关键在于找出哪些流程更适合ＧＰＵ计算，把串行过程简单地移植到ＧＰＵ上并不能充分发挥其性能。分析ＳＶＭ训练过程可知，大量的矩阵运算是主要的时间开销之一，以计算高斯核函数为例，其伪代码如下：Ａｌｇｏｒｉｔｈｍ１ＲａｄｉａｌｂａｓｉｓｆｕｎｃｔｉｏｎＩｎｐｕｔｔｗｏｖｅｃｔｏｒｓ：Ｘ１，Ｘ２ＯｕｔｐｕｔｔｈｅｖａｌｕｅｏｆＲＢＦｋｅｒｎｅｌｆｕｎｃｔｉｏｎ（１）ＩｎｉｔｉａｌｉｚｅｆｅａｔｕｒｅＣｎｔｆｒｏｍＸ１，Ｘ２（２）ＩｎｉｔｉａｌｉｚｅｄｏｔＰｄｔＸ１＝ｄｏｔＰｄｔＸ２＝ｄｏｔＰｄｔＸ１Ｘ２＝０（３）Ｆｏｒｉ＝１ｔｏｆｅａｔｕｒｅＣｎｔＤｏ（４）ｄｏｔＰｄｔＸ１＋＝Ｘ１［ｉ］＊Ｘ１［ｉ］（５）ｄｏｔＰｄｔＸ２＋＝Ｘ２［ｉ］＊Ｘ２［ｉ］（６）ｄｏｔＰｄｔＸ１Ｘ２＋＝Ｘ１［ｉ］＊Ｘ２［ｉ］（７）ＥｎｄＦｏｒ（８）ＲｅｔｕｒｎｋｅｒｎｅｌｖａｌｕｅｕｓｉｎｇｄｏｔＰｄｔＸ１，ｄｏｔＰｄｔＸ２ａｎｄｄｏｔＰｄｔＸ１Ｘ２其中Ｘ１，Ｘ２表示两个输入样
取ＳＶＭ分类器在５折交叉验证下得到的准确率作为算法的适应度值，并利用ＡＷＣＳＡ对训练集进行参数寻优；最后选取适应度最优的（Ｃ，ｇ）来构建ＣＣＳ－ＳＶＭ入侵检测模型，对测试集进行分类。为了验证ＣＣＳ－ＳＶＭ算法的优越性，本文同时对ＣＳ－ＬＩＢＳＶＭ、ＩＣＳ－ＬＩＢＳＶＭ进行了实验，各算法均迭代５０次，鸟巢数量都为２０，参数寻优空间为［０．０１，１０００］，其他参数同２．３节。３．３仿真结果分析图４示出了３种算法的收敛曲线，该图反映了算法的收敛速度和分类精度。可以看出，ＣＣＳ－ＳＶＭ在第６次迭代时收敛到最优解，ＩＣＳ－ＬＩＢＳＶＭ在第８代开始收敛，而ＣＳ－ＬＩＢＳＶＭ在２５代以后才能完全收敛；在分类精度上ＣＣＳ－ＳＶＭ也优于ＩＣＳ－ＬＩＢＳＶＭ和ＣＳ－ＬＩＢＳＶＭ。图４各算法收敛曲线Ｆｉｇ．４Ｃｏｎｖｅｒｇｅｎｃｅｃｕｒｖｅｓｏｆｄｉｆｆｅｒｅｎｔａｌｇｏｒｉｔｈｍｓ表５列出了各算法的检测率、误报率以及漏报率，这３个指标是评价入侵检测系统性能的主要标准［２１］。为了证明并行化改进的有效性，表中还列出了各算法每次迭代的平均时间。表５入侵检测关键指标值Ｔａｂｌｅ５ＫｅｙｐａｒａｍｅｔｅｒｖａｌｕｅｓｏｆｉｎｔｒｕｓｉｏｎｄｅｔｅｃｔｉｏｎＡｌｇｏｒｉｔｈｍＤｅｔｅｃｔｉｏｎｒａｔｅ／％Ｆａｌｓｅｐｏｓｉｔｉｖｅｓ／％Ｆａｌｓｅｎｅｇａｔｉｖｅｓ／％Ａｖｅｒａｇｅｒｕｎｎｉｎｇｔｉｍｅ／ｓＣＳ－ＬＩＢＳＶＭ９
【参考文献】：
期刊论文
[1]基于改进蝙蝠算法的工业控制系统入侵检测[J]. 李金乐,王华忠,陈冬青. 华东理工大学学报(自然科学版). 2017(05)
硕士论文
[1]数据挖掘在入侵检测中的应用研究[D]. 张楠.电子科技大学 2015
[2]基于CUDA的车牌字符识别[D]. 王世春.复旦大学 2012
本文编号：3129192
【文章来源】：华东理工大学学报(自然科学版). 2019,45(01)北大核心CSCD
【文章页数】：9 页
【部分图文】：
图１ＣＵＤＡ编程模型Ｆｉｇ．１ＰｒｏｇｒａｍｍｉｎｇｍｏｄｅｌｏｆＣＵＤＡ
第１期陈汉宇，等：基于ＣＵＤＡ和布谷鸟算法的ＳＶＭ在工控入侵检测中的应用图１ＣＵＤＡ编程模型Ｆｉｇ．１ＰｒｏｇｒａｍｍｉｎｇｍｏｄｅｌｏｆＣＵＤＡ式（１）。原理是将二次规划问题分解为一系列子问题，每次迭代只更新两个拉格朗日乘子，即只处理两个样本的优化问题，从而高效求解了二次规划问题。图２并行ＳＶＭ流程图Ｆｉｇ．２ＦｌｏｗｃｈａｒｔｏｆｐａｒａｌｌｅｌＳＶＭＳＶＭ算法并行化的关键在于找出哪些流程更适合ＧＰＵ计算，把串行过程简单地移植到ＧＰＵ上并不能充分发挥其性能。分析ＳＶＭ训练过程可知，大量的矩阵运算是主要的时间开销之一，以计算高斯核函数为例，其伪代码如下：Ａｌｇｏｒｉｔｈｍ１ＲａｄｉａｌｂａｓｉｓｆｕｎｃｔｉｏｎＩｎｐｕｔｔｗｏｖｅｃｔｏｒｓ：Ｘ１，Ｘ２ＯｕｔｐｕｔｔｈｅｖａｌｕｅｏｆＲＢＦｋｅｒｎｅｌｆｕｎｃｔｉｏｎ（１）ＩｎｉｔｉａｌｉｚｅｆｅａｔｕｒｅＣｎｔｆｒｏｍＸ１，Ｘ２（２）ＩｎｉｔｉａｌｉｚｅｄｏｔＰｄｔＸ１＝ｄｏｔＰｄｔＸ２＝ｄｏｔＰｄｔＸ１Ｘ２＝０（３）Ｆｏｒｉ＝１ｔｏｆｅａｔｕｒｅＣｎｔＤｏ（４）ｄｏｔＰｄｔＸ１＋＝Ｘ１［ｉ］＊Ｘ１［ｉ］（５）ｄｏｔＰｄｔＸ２＋＝Ｘ２［ｉ］＊Ｘ２［ｉ］（６）ｄｏｔＰｄｔＸ１Ｘ２＋＝Ｘ１［ｉ］＊Ｘ２［ｉ］（７）ＥｎｄＦｏｒ（８）ＲｅｔｕｒｎｋｅｒｎｅｌｖａｌｕｅｕｓｉｎｇｄｏｔＰｄｔＸ１，ｄｏｔＰｄｔＸ２ａｎｄｄｏｔＰｄｔＸ１Ｘ２其中Ｘ１，Ｘ２表示两个输入样
取ＳＶＭ分类器在５折交叉验证下得到的准确率作为算法的适应度值，并利用ＡＷＣＳＡ对训练集进行参数寻优；最后选取适应度最优的（Ｃ，ｇ）来构建ＣＣＳ－ＳＶＭ入侵检测模型，对测试集进行分类。为了验证ＣＣＳ－ＳＶＭ算法的优越性，本文同时对ＣＳ－ＬＩＢＳＶＭ、ＩＣＳ－ＬＩＢＳＶＭ进行了实验，各算法均迭代５０次，鸟巢数量都为２０，参数寻优空间为［０．０１，１０００］，其他参数同２．３节。３．３仿真结果分析图４示出了３种算法的收敛曲线，该图反映了算法的收敛速度和分类精度。可以看出，ＣＣＳ－ＳＶＭ在第６次迭代时收敛到最优解，ＩＣＳ－ＬＩＢＳＶＭ在第８代开始收敛，而ＣＳ－ＬＩＢＳＶＭ在２５代以后才能完全收敛；在分类精度上ＣＣＳ－ＳＶＭ也优于ＩＣＳ－ＬＩＢＳＶＭ和ＣＳ－ＬＩＢＳＶＭ。图４各算法收敛曲线Ｆｉｇ．４Ｃｏｎｖｅｒｇｅｎｃｅｃｕｒｖｅｓｏｆｄｉｆｆｅｒｅｎｔａｌｇｏｒｉｔｈｍｓ表５列出了各算法的检测率、误报率以及漏报率，这３个指标是评价入侵检测系统性能的主要标准［２１］。为了证明并行化改进的有效性，表中还列出了各算法每次迭代的平均时间。表５入侵检测关键指标值Ｔａｂｌｅ５ＫｅｙｐａｒａｍｅｔｅｒｖａｌｕｅｓｏｆｉｎｔｒｕｓｉｏｎｄｅｔｅｃｔｉｏｎＡｌｇｏｒｉｔｈｍＤｅｔｅｃｔｉｏｎｒａｔｅ／％Ｆａｌｓｅｐｏｓｉｔｉｖｅｓ／％Ｆａｌｓｅｎｅｇａｔｉｖｅｓ／％Ａｖｅｒａｇｅｒｕｎｎｉｎｇｔｉｍｅ／ｓＣＳ－ＬＩＢＳＶＭ９
【参考文献】：
期刊论文
[1]基于改进蝙蝠算法的工业控制系统入侵检测[J]. 李金乐,王华忠,陈冬青. 华东理工大学学报(自然科学版). 2017(05)
硕士论文
[1]数据挖掘在入侵检测中的应用研究[D]. 张楠.电子科技大学 2015
[2]基于CUDA的车牌字符识别[D]. 王世春.复旦大学 2012
本文编号：3129192
本文链接：https://www.wllwen.com/kejilunwen/sousuoyinqinglunwen/3129192.html
