虚拟化环境下Rootkit检测系统关键技术研究

发布时间：2020-02-08 23:34

【摘要】：云计算因具有动态扩展、按需服务、按量计费等优势而成为继互联网之后又一次信息技术革命,但随着越来越多的用户将数据和服务迁移至云中,云计算的安全问题成为用户关注的焦点。虚拟化技术是云计算的基础,虚拟化环境的安全性直接影响用户数据和服务的安全。虚拟化环境下的Rootkit检测技术是增强虚拟化平台安全性的一个重要的有效手段,现有的虚拟化环境下Rootkit检测技术主要存在以下问题：(1)检测系统存在被恶意代码绕过的风险,即不具备透明性；(2)性能开销较大；(3)对未知Rootkit的检测能力不足。本文基于职能分离的检测系统架构和智能优化算法针对上述问题对现有检测技术进行了改进和优化,具体工作包括以下四个方面。1.针对现有的虚拟化环境下Rootkit检测技术易被绕过、性能开销较大的问题,提出了基于职能分离的检测系统架构XenMatrix,实现了检测系统对恶意代码的透明性,确保自身不被绕过；在该架构下设计了检测频率的自适应调整策略,实现了Rootkit检测频率的动态调整,有效降低了检测系统的性能开销。2.针对现有检测技术对未知Rootkit检测能力不足的问题,本文在XenMatrix系统架构下基于BP神经网络设计了NNDRM (The Detecting Rootkit Model Based on Neural Network)检测模型,提出了检测模型中的量化算法、Rootkit检测算法和解码算法,通过仿真实验证明该检测模型提高了对未知Rootkit的检测能力。3.针对NNDRM检测模型中Rootkit检测算法的学习速率和泛化能力问题,基于改进量子粒子群优化算法提出一种新的Rootkit检测算法XenMDRA(The Modified Algorithm for Detection Rootkit in Xen),通过仿真实验证明了新的检测算法具有更快的学习速率和更强的泛化能力,进一步提高了对未知Rootkit的检测能力。4.为进一步验证本文提出的XenMatrix系统架构、NNDRM检测模型和XenMDRA检测算法在虚拟化环境下的有效性,基于Xen虚拟化设计了Rootkit检测原型系统,并进行了功能验证和性能指标评估实验。通过对实验结果的分析表明,相比目前现有检测技术,本文提出的系统架构、检测模型和检测算法能够有效检测未知Rook it,具有较高的检测率和较低的性能开销。
【学位授予单位】：解放军信息工程大学
【学位级别】：硕士
【学位授予年份】：2015
【分类号】：TP309

【参考文献】

相关期刊论文 前10条

1 冯帆;罗森林;;基于VMM的Rootkit检测技术及模型分析[J];信息网络安全;2013年06期

2 姜秋生;容晓峰;;VMI技术研究综述[J];电子设计工程;2013年01期

3 陈威;王晖;;基于VMM的文件完整性监控系统的设计与实现[J];计算机科学;2012年09期

4 姜辉;杨峰;段海新;;Rootkit隐藏技术与检测方法研究[J];小型微型计算机系统;2012年05期

5 高刃;唐龙;伍爵博;;基于神经网络的无线传感器网络数据预测应用研究[J];计算机科学;2012年05期

6 李博;李建欣;胡春明;沃天宇;怀进鹏;;基于VMM层系统调用分析的软件完整性验证[J];计算机研究与发展;2011年08期

7 王丽娜;高汉军;刘炜;彭洋;;利用虚拟机监视器检测及管理隐藏进程[J];计算机研究与发展;2011年08期

8 唐菀;马杰;曾广平;;评测智能化入侵检测方法的样本库分析[J];中南民族大学学报(自然科学版);2010年02期

9 陈友;程学旗;李洋;戴磊;;基于特征选择的轻量级入侵检测系统[J];软件学报;2007年07期

10 蒋少华;胡华平;;入侵检测系统的评估指标体系[J];计算机应用研究;2006年11期

，

本文编号：2577641