基于云计算的分布式缓存系统的研究和实现
本文关键词:基于云计算的分布式缓存系统的研究和实现 出处:《重庆大学》2012年硕士论文 论文类型:学位论文
更多相关文章: 云计算 分布式缓存 数据缓存 海量数据 测试
【摘要】:互联网的高速发展以及全球网民数量的快速增长,让网络服务的数据量以指数级增长。云计算作为一个新型的面向服务的计算模式,它具有资源高扩展、强大的计算和存储能力等特点。因此,本文基于目前云计算IaaS,Paas以及SaaS的三层基础框架的思想来构建和部署分布式缓存系统。 本文首先介绍了该系统研究的背景及意义,国内外研究成果及现状。随后分析及介绍了云计算的特点及架构、云计算的典型应用及关键技术。在以上基础之上形成了以下本文的主要内容: 1.基于Dynamo系统框架的基础上提出了DCache分布式缓存系统,并结合当下传统关系数据库的局限性进行需求分析,提出了分布式系统所需支持的三个需求:高并发读写、海量数据的高效率存储和访问、对数据库的高可扩展性和高可用性。 2.对DCache分布式缓存系统的数据缓存层进行设计实现。本系统的数据缓存层技术采用memcached协议的内存分配和数据删除方式,并设计出多种存储模式以满足各种应用场景。基于该技术设计并详细介绍了缓存层与数据层的功能框架。 3.本系统采用BDB嵌入式数据库作为本系统的持久化存储,并采用基于内存索引的顺序持久化模式(IFS)来解决BDB数据库面临海量数据存储与读取时的效率低下问题。IFS模式可以将随机写变成顺序写,将创建、修改、删除都演化为文件的追加。而内存中存放数据的索引,,永远指向最新的数据,因此大大提高了海量数据的存储及读取速度。 4.本文针对高性能分布式缓存系统DCache的海量数据应用场景,分别在JAVA和.net环境下设计、编写测试用例。并用每秒响应次数(IOPS)、带宽(throughput)这两个指标来评估数据访问能力,成功率来评估系统的可靠性。 最后的测试结果证明了DCache系统在并发量和数据处理方面的优势,已经满足了预期的面对海量数据时所需要达到的需求。
[Abstract]:The rapid development of the Internet and the rapid growth in the number of Internet users worldwide, so the amount of data network services to increase exponentially. Cloud computing as a new service-oriented computing model, it has the characteristics of highly scalable, powerful computing and storage capacity. Therefore, this paper based on the cloud computing IaaS, Paas and SaaS the three layer based framework to build and deploy a distributed cache system.
This paper first introduces the background and significance of the system, the research results and the current situation at home and abroad. Then it analyzes and introduces the characteristics and architecture of cloud computing, the typical applications and key technologies of cloud computing.
1. based on the Dynamo system framework is put forward on the DCache distributed cache system, and combined with the current limitations of the traditional relational database needs analysis, put forward three requirements needed to support distributed systems: high concurrent read and write, high efficiency of mass data storage and access to the database, high scalability and high availability.
The data cache layer 2. of the DCache distributed cache system was designed and implemented. The system data cache layer using memcached protocol memory allocation and data deletion, and a variety of storage modes are designed to meet a variety of application scenarios. This design and introduces the function of frame buffer layer and data layer based on.
3. this system adopts BDB embedded database as the persistence of the system, and uses the memory indexed sequential persistence model based on (IFS) to solve the BDB database facing massive data storage and read the problem of low efficiency of.IFS mode can be written into a sequence of random write, modify, delete all will be created for the evolution of the file append. While the memory index of the data is stored, always pointing to the new data, thus greatly improving the massive data storage and reading speed.
The application of massive data scene 4. according to the high performance distributed cache system of DCache, JAVA and.Net respectively in the design environment, write test cases. And the second response times (IOPS), bandwidth (throughput) of the two indicators to evaluate the ability of data access, the success rate to assess the reliability of the system.
The final test results prove the advantages of DCache system in concurrency and data processing, and have already met the expected needs of massive data.
【学位授予单位】:重庆大学
【学位级别】:硕士
【学位授予年份】:2012
【分类号】:TP333
【相似文献】
相关期刊论文 前10条
1 张驰;李安波;;房产产权产籍系统中数据缓存的应用[J];测绘科学;2009年03期
2 杨伟伟;胡黎玮;孟利民;胡海勇;;基于H.264的无线视频监控系统设计与实现[J];杭州电子科技大学学报;2010年05期
3 黄世能,奚建清;分布数据缓存体系[J];软件学报;2001年07期
4 马腾;罗军舟;王小鹏;;AMS实验中的副本管理研究[J];华中科技大学学报(自然科学版);2005年S1期
5 郭天杰;曹强;谢长生;;基于iSCSI的远程镜像系统设计与实现[J];小型微型计算机系统;2006年01期
6 谢强;于雅丽;丁秋林;;基于对象池和数据缓存技术的Web-OLAP系统[J];应用科学学报;2007年02期
7 程明君;赵锐;;基于ASP.NET的缓存机制提升数据访问性能的分析与实现[J];华南金融电脑;2007年10期
8 汤迪斌;王劲林;倪宏;;一种CDN中的动态数据存储方案——UbDP[J];计算机应用;2008年08期
9 赵婉芳;王梅;赵妍;;基于校园网学习系统实时响应能力研究[J];科技创新导报;2009年22期
10 姚金武;霍剑青;杨旭;袁泉;王晓蒲;;基于C/S的RBI专家系统的设计与实现[J];中国科学技术大学学报;2010年06期
相关会议论文 前10条
1 邓可学;;队列管理和SDRAM控制器的FPGA设计[A];全国第十三次光纤通信暨第十四届集成光学学术会议论文集[C];2007年
2 任淑琴;周柏涛;;基于Web的数据库应用程序的优化技术[A];探索创新交流--中国航空学会青年科技论坛文集[C];2004年
3 卢珞先;罗婷;;基于LabView的汽车故障诊断系统的软件设计[A];中国汽车工程学会汽车电子技术分会第七届(2006)年会暨学术研讨会论文集[C];2006年
4 石磊;陈晓敏;朱岩;李昆;;基于SDRAM的高速数据缓存的FPGA控制实现[A];第二十三届全国空间探测学术交流会论文摘要集[C];2010年
5 卢朝霞;王家华;;一个大型分布式数据库应用系统的设计和实现[A];第九届全国数据库学术会议论文集(下)[C];1990年
6 匡可;;EPON带宽管理在ONU侧的FPGA实现[A];2008年中国高校通信类院系学术研讨会论文集(下册)[C];2009年
7 涂征;徐洁磐;;简述Softbase Internet平台体系结构[A];第十七届全国数据库学术会议论文集(研究报告篇)[C];2000年
8 周万军;胡钢;郭立新;王之昊;;基于NIOSⅡ的ARINC429通信板设计[A];2006中国西部青年通信学术会议论文集[C];2006年
9 王振华;李楠;刘以农;邓智;;800MSPS FADC数据采样系统[A];第十三届全国核电子学与核探测技术学术年会论文集(上册)[C];2006年
10 姜大龙;曾东;王月忠;李少洪;;SAR数据记录和回放接口的设计与实现[A];第十届全国信号处理学术年会(CCSP-2001)论文集[C];2001年
相关重要报纸文章 前10条
1 大锋;性能、服务还是价格[N];中国电脑教育报;2003年
2 张宝;选购COMBO还得看品牌[N];中国企业报;2003年
3 北京 卡拉赞馕;四核“大锤”砸向“扣肉”[N];中国电脑教育报;2007年
4 边月;畅快网游 锋速体验[N];计算机世界;2005年
5 小子;光驱助读器[N];电脑报;2001年
6 安烨;新一代32位CPU群像[N];计算机世界;2001年
7 重庆 双杰;深入解析Xbox(中)[N];电脑报;2001年
8 董冬;硬盘发展 各领风骚[N];中国计算机报;2002年
9 江南计算技术研究所 董立平 胡苏太;创新型多核处理器的发展[N];计算机世界;2006年
10 ;硬盘小常识[N];电脑报;2002年
相关博士学位论文 前10条
1 叶凡;无线网络中移动数据缓存若干问题的研究[D];中国科学技术大学;2010年
2 陈静;分布式虚拟GIS关键技术研究[D];武汉大学;2004年
3 李洪亮;支持Live迁移机制的动态虚拟集群研究[D];吉林大学;2012年
4 陈秀忠;面向云计算的基础网络提供技术研究[D];北京邮电大学;2011年
5 裴科;PRSoC三层服务架构及其URAP协议研究[D];太原理工大学;2010年
6 高红莉;面向数字视频解码器的存储管理方法研究[D];清华大学;2010年
7 张伟华;基于千兆以太网的光电经纬仪分布式实时通讯系统的研究[D];中国科学院研究生院(长春光学精密机械与物理研究所);2011年
8 朱勇;基于SoC的实时红外图像高速通道设计与研究[D];华中科技大学;2007年
9 魏建生;高性能重复数据检测与删除技术研究[D];华中科技大学;2012年
10 彭博;大范围交通控制与交通流诱导协同关键技术研究[D];吉林大学;2011年
相关硕士学位论文 前10条
1 郑伟;基于云计算的分布式缓存系统的研究和实现[D];重庆大学;2012年
2 王俊;基于数据传输的网络架构仿真与性能评估技术研究[D];上海交通大学;2008年
3 王志刚;基于FPGA的高速数字化接收与处理技术[D];南京信息工程大学;2009年
4 林帆;下一代网络安全态势评估系统中数据缓存子系统的设计与实现[D];北京邮电大学;2010年
5 谢鹏;空间数据库数据缓存与调度技术研究[D];解放军信息工程大学;2009年
6 关海生;数据缓存实现快速数据访问的设计[D];上海交通大学;2012年
7 乔稳;数据集中化管理技术在融合计费系统中的应用研究与设计[D];浙江工业大学;2011年
8 李伟宏;面向医疗信息管理系统的云存储技术研究与实现[D];华南理工大学;2012年
9 马骁威;分布式缓存在普招网报系统的应用研究[D];河南大学;2010年
10 贺燕;论文分享系统缓存管理关键技术研究[D];华中科技大学;2012年
本文编号:1393052
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/1393052.html