海量规模下高性能对象存储服务技术的研究
本文选题:对象存储 切入点:基准测试 出处:《上海交通大学》2013年硕士论文 论文类型:学位论文
【摘要】:随着对象存储技术的不断深入人心,目前已经涌现出一大批功能相近接口相似的对象存储系统。然而,由于对象存储系统实现的多样性以及每个系统本身的复杂性,外加缺乏模拟对象存储应用的通用负载工具,导致人们不仅难以在众多的系统中选出最适合当前应用场景的解决方案,同时也无法有效对这些解决方案进行系统调优以及性能优化。 为了应对上述问题,本文提出了对象存储的应用模型,并在此基础上设计并实现了对象存储性能基准测试工具:COSBench。COSBench具有很好的可扩展性、可伸缩性、灵活性,以及易用性,从而使得人们能够方便地将COSBench适配至异构的存储系统,并模拟出各类不同的测试场景,包括那些极端的使用模式。目前,COSBench用于支持Intel内部多个对象存储系统的性能评估以及系统调优工作。此外,COSBench也成功地得到了10多个企业客户的使用以及认可。在未来,COSBench将转为开源软件,从而使得更多的人能够接触到这款工具。 在系统调优以及性能优化方面,本文以Openstack Swift为案例,探讨了该系统在4种不同使用场景下的性能瓶颈以及硬件资源使用模式,并在此基础上提出了相应的系统调优方案以及性能优化方案。此外,本文还对Swift系统的源代码进行了剖析、对实验经验进行了总结,并对除性能外的其他重要系统属性进行了相关的介绍以及说明。结合本文的成果,人们可以针对不同的使用场景以及性能瓶颈来更加合理地部署Swift系统,从而能够在给定的性能要求下,尽可能地降低构建系统所需的成本。于此同时,,本文的实验数据也可帮助人们更好地挖掘系统潜在的性能优化机遇,并更有针对性地改进现有的系统架构以及算法设计,从而能够在给定的预算条件下,尽可能地提高系统的总体性能。
[Abstract]:With the deepening of the object storage technology, has emerged a large number of similar functional interface similar to the object storage system. However, due to the complexity of implementation of the object storage system and the diversity of each system itself, and general lack of simulation object storage load application tool, resulting in many people not only to choose the solution system for the current application scenarios, but also not effective against these solutions for system optimization and performance optimization.
In order to deal with these problems, this paper puts forward the applied model of object storage, and on the basis of the design and implementation of the object storage performance benchmark tools: COSBench.COSBench has good scalability, scalability, flexibility, and ease of use, so that people can easily be adapted to heterogeneous storage system COSBench, and simulate various test scenarios, including those with extreme mode. At present, COSBench was used to evaluate the performance of Intel internal support multiple object storage system and system optimization. In addition, COSBench also successfully obtained more than 10 corporate customers and recognition. In the future, COSBench will be converted to open source software thus, more people can come into contact with this tool.
In the aspect of system optimization and performance optimization, this paper takes Openstack Swift as a case, discusses the system in 4 different scenarios of the performance bottleneck and hardware resource usage patterns, and put forward the corresponding scheme of system tuning and performance optimization scheme. In addition, the source code of the Swift system. Analysis on the experimental experience were summarized, and the other important system properties besides high-performance are introduced and illustrated. According to the results, people can according to different usage scenarios and performance bottlenecks to more reasonable deployment of Swift system, which can in the given performance requirements, as far as possible to reduce construction for the cost of the system. At the same time, the experimental data can also help people to better exploit the potential opportunities for system performance optimization, and more targeted to the Some system architecture and algorithms are designed to improve the overall performance of the system as much as possible in a given budget.
【学位授予单位】:上海交通大学
【学位级别】:硕士
【学位授予年份】:2013
【分类号】:TP333
【相似文献】
相关期刊论文 前10条
1 陆华,张世永,钟亦平;一个基于单密钥的对象存储安全机制设计[J];计算机工程;2005年07期
2 唐沙;唐慧佳;李东琦;;电子商务系统的性能优化方案研究[J];微计算机信息;2007年27期
3 李娜;;对数据库应用系统性能优化过程的探讨[J];才智;2010年32期
4 王锐;陈丽;;应用性能管理的设计方法研究[J];计算机应用与软件;2009年09期
5 王卫;唐巍;;ORACLE 10G自动化特性在联通BSS系统性能优化工作中的应用[J];软件导刊;2011年01期
6 黄筱燕;白光伟;;无线流媒体通信性能瓶颈的仿真研究[J];微计算机信息;2009年10期
7 钱丽萍;汪立东;;一种评测应用程序实际性能开销的方法[J];计算机应用;2006年05期
8 丁伟;黄本雄;;一种基于表单的性能良好的认证系统[J];网络安全技术与应用;2007年06期
9 文俊浩;桑春艳;何盼;;电子政务系统性能测试应用研究[J];计算机科学;2009年04期
10 孙玉霞;陈火炎;;RAID技术在iSCSI环境中的应用研究[J];计算机工程与设计;2006年24期
相关会议论文 前10条
1 江雯;郑振楣;石树刚;;复杂对象存储的缓冲技术[A];第十一届全国数据库学术会议论文集[C];1993年
2 朱立谷;孙志伟;任勇;张雷;彭建峰;杨柳;阳小珊;李强;;基于内容的对象存储技术的研究[A];第15届全国信息存储技术学术会议论文集[C];2008年
3 单颖;姚念民;赵建明;;基于对象存储系统体系结构的研究[A];第15届全国信息存储技术学术会议论文集[C];2008年
4 汪黎;章文嵩;杨学军;;Cfslight:一个新型的轻量级对象存储集群文件系统[A];2006年全国开放式分布与并行计算学术会议论文集(一)[C];2006年
5 郭宁;;嵌入式系统存储机制的设计与实现[A];全国第十届企业信息化与工业工程学术年会论文集[C];2006年
6 冯振乾;苏金树;张晓哲;;对象存储研究[A];计算机技术与应用进展·2007——全国第18届计算机技术与应用(CACIS)学术会议论文集[C];2007年
7 肖亮;谢长生;魏沁祺;李馨;;基于属性控制的对象存储系统[A];2008'中国信息技术与应用学术论坛论文集(二)[C];2008年
8 刘景宁;王晓静;童薇;时洋;冯丹;;对象存储器中光纤通道驱动程序设计与优化[A];第15届全国信息存储技术学术会议论文集[C];2008年
9 宋晔;张元;于秋;郑伟芳;;SMS通信服务器的性能优化[A];全国第三届信号和智能信息处理与应用学术交流会专刊[C];2009年
10 王琦;;WEB应用系统性能测试及优化[A];2011年通信与信息技术新进展——第八届中国通信学会学术年会论文集[C];2011年
相关重要报纸文章 前10条
1 ;保证高伸缩性的对象存储[N];网络世界;2003年
2 国防科学技术大学计算机学院 吴庆波 董勇 周恩强;对象存储不给高性能计算添堵[N];中国计算机报;2005年
3 北京捷华润公司 郝常杰;对象存储:块和文件之外的存储形式[N];中国计算机报;2006年
4 Henry Newman邋沈建苗 编译;存储市场将“软硬兼施”[N];计算机世界;2008年
5 评测实验室 秦刚;寻找网络性能瓶颈[N];计算机世界;2004年
6 李勇;消除路由交换性能瓶颈[N];中国计算机报;2002年
7 本报记者 胡英;多核使UTM突破性能瓶颈[N];计算机世界;2008年
8 凡妮;惠普ProLiant BL495c突破虚拟机托管性能瓶颈[N];电脑商报;2008年
9 公安部第一研究所 吕诚昭 宋伟航 郝文江;云计算的三大问题和两个瓶颈[N];中国计算机报;2011年
10 中国传媒大学计算机学院 朱立谷邋柳昊 孙志伟 郅斌;非结构化数据的归档术[N];中国计算机报;2007年
相关博士学位论文 前10条
1 余利华;分布式数据存储和处理的若干技术研究[D];浙江大学;2008年
2 姚荻;对象存储安全关键技术研究[D];华中科技大学;2011年
3 刘仲;基于对象存储结构的可伸缩集群存储系统研究[D];国防科学技术大学;2005年
4 谭支鹏;对象存储系统副本管理研究[D];华中科技大学;2008年
5 罗益辉;海量对象存储系统数据组织算法的研究[D];华中科技大学;2006年
6 高路;混合式P2P系统资源搜索优化方法研究[D];武汉大学;2010年
7 吕海;多核处理器芯片计算平台中并行程序性能优化的研究[D];北京工业大学;2012年
8 高蕾;面向多核多线程的BGP协议并行技术研究[D];国防科学技术大学;2009年
9 杨帆;基于多核平台的网络流量监测研究与优化[D];北京邮电大学;2011年
10 杨帆;基于多核平台的网络流量监测研究与优化[D];北京邮电大学;2011年
相关硕士学位论文 前10条
1 郑庆;海量规模下高性能对象存储服务技术的研究[D];上海交通大学;2013年
2 黎明;基于对等网的广域对象存储系统研究[D];清华大学;2004年
3 张慧;IP网络监测系统中Oracle数据库性能优化研究与实现[D];北京邮电大学;2006年
4 陈琪;WEB服务器性能跟踪框架的设计与实现[D];北京邮电大学;2012年
5 李相娜;基于LDAP的元数据服务器集群的研究与实现[D];华中科技大学;2007年
6 李柱;分布式文件系统小文件性能优化技术研究与实现[D];国防科学技术大学;2008年
7 林树新;SmartOSEK的系统设计和时间性能优化[D];浙江大学;2005年
8 连志刚;Web系统性能测试过程模型研究[D];西北大学;2012年
9 熊远生;网络控制系统的滑模预估变结构控制器设计及性能优化[D];浙江工业大学;2004年
10 徐慧君;基于JSP平台的信息发布系统的设计与实现[D];北京工业大学;2004年
本文编号:1620344
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/1620344.html