一种基于裸闪存的Key-Value数据库优化方法
本文关键词:一种基于裸闪存的Key-Value数据库优化方法 出处:《计算机研究与发展》2017年06期 论文类型:期刊论文
更多相关文章: key-value数据库 闪存 裸设备 数据存储 使用寿命
【摘要】:近年来,非关系型的key-value数据库得到越来越广泛的应用.然而,目前主流的key-value数据库或者是基于磁盘设计的,或者是传统的基于文件系统和闪存转换层FTL来构建的,难以发挥闪存存储设备的特性,限制了I/O的并发性能,且垃圾回收过程复杂.设计并实现了一种基于裸闪存的keyvalue数据管理架构Flashkv,通过用户态下的管理单元进行空间管理和垃圾回收,充分利用了闪存设备内部的并发特性,并简化了垃圾回收过程,去除了传统文件系统和FTL中的冗余功能,缩短了I/O路径.提出了基于闪存特点的I/O调度技术,优化了闪存的读写延迟,提高了吞吐率;提出了用户态缓存管理技术,降低了数据写入量和频繁系统调用所带来的开销.测试结果表明,Flashkv性能是levelDB的1.9~2.2倍,写入量减少60%~65%.
[Abstract]:In recent years, non-relational key-value database has been more and more widely used. However, the mainstream key-value database is based on disk design. Or the traditional FTL based on file system and flash memory conversion layer, it is difficult to play the characteristics of flash storage device, which limits the concurrent performance of I / O. And the garbage collection process is complex. This paper designs and implements a keyvalue data management architecture based on bare flash memory, Flashkv. it manages the space and garbage collection through the management unit in the user state. It makes full use of the concurrency characteristics of flash memory devices, simplifies the garbage collection process, and removes the redundant functions in traditional file systems and FTL. The I / O path is shortened. I / O scheduling technology based on flash memory is proposed to optimize the read / write delay of flash memory and improve the throughput. The user state cache management technology is proposed to reduce the overhead caused by data writing and frequent system calls. The test results show that the performance of Flashkv is 1.9 or 2.2 times higher than that of levelDB. The amount of writing is reduced by 60 and 65.
【作者单位】: 清华大学计算机科学与技术系;
【基金】:国家自然科学基金项目(61327902,61433008) 北京市科委课题(D151100000815003)~~
【分类号】:TP311.13;TP333
【正文快照】: This work was supported by the National Natural Science Foundation of China(61327902,61433008)and Beijing MunicipalScience and Technology Commission of China(D151100000815003).(qinxiongjun2010@163.com)基于键值对(key-value)的key-value数据库是一种非关系型
【相似文献】
相关期刊论文 前10条
1 程振东;栾钟治;孟由;李亮淑;和荣;杨婷婷;钱德沛;管刚;陈伟;;云文件系统中纠删码技术的研究与实现[J];计算机科学与探索;2013年04期
2 李舜莉,阮玉;迅速发展的大规模光盘文件系统[J];激光杂志;1988年05期
3 王江;;一种可靠高效的闪存文件系统[J];单片机与嵌入式系统应用;2013年12期
4 鲁智深;;Kingmax microSDHC 4GB存储卡评测[J];大众数码;2007年06期
5 钟忻,慕春棣;基于闪存的文件系统的实现[J];计算机工程与应用;2003年24期
6 刘明;张军平;;并行文件系统的应用探讨[J];软件;2010年11期
7 张在贵;张立强;李瑞东;文中领;张海涛;;一种适用于集群文件系统分级存储的分布式锁设计与分析[J];计算机研究与发展;2012年S1期
8 周恩强;董勇;张伟;卢宇彤;;对象存储并行文件系统小文件性能优化研究[J];计算机工程与科学;2013年12期
9 陈禹;;用户心中的误区[J];中国计算机用户;2007年10期
10 萌萌;;老命令新用 让闪存支持单个大容量文件[J];电脑迷;2010年03期
相关会议论文 前3条
1 王永瑞;熊剑平;;基于CF卡的特定FAT文件系统的软硬件设计与实现[A];2008中国仪器仪表与测控技术进展大会论文集(Ⅲ)[C];2008年
2 王雪娇;钱军;温东新;张展;崔忠强;;基于Linux虚拟文件系统故障注入器的设计与实现[A];第六届中国测试学术会议论文集[C];2010年
3 钱迎进;金士尧;肖侬;;大规模集群文件系统中的I/O拥塞控制机制[A];2010年第16届全国信息存储技术大会(IST2010)论文集[C];2010年
相关重要报纸文章 前10条
1 李柠 许冰;Linux的“心”事[N];中国计算机报;2000年
2 河北 廉育功;Linux技巧[N];中国电脑教育报;2001年
3 阳光;一台PC机上安装Win98、NT、Linux[N];中国矿业报;2000年
4 小雨;FAT享年25岁——触摸未来文件系统[N];电脑报;2003年
5 北京捷华润公司 郝常杰;对象存储:块和文件之外的存储形式[N];中国计算机报;2006年
6 门宣;走进Linux2.4的精彩世界[N];中国计算机报;2001年
7 ;驱动器与DOS兼容文件系统[N];电脑报;2002年
8 任勇;在Linux中访问DOS的方法[N];大众科技报;2000年
9 ;Veritas展示用于Oracle9i RAC的群集系统[N];计算机世界;2003年
10 赵宇明;建设完美的存储世界[N];网络世界;2008年
相关博士学位论文 前3条
1 陈杰;本地文件系统数据更新模式研究[D];华中科技大学;2014年
2 孙凝晖;可扩展I/O的研究和参考实现[D];中国科学院研究生院(计算技术研究所);1999年
3 钱迎进;大规模Lustre集群文件系统关键技术的研究[D];国防科学技术大学;2011年
相关硕士学位论文 前10条
1 刘佩;基于纠删码技术的HD_EC文件系统的设计与实现[D];曲阜师范大学;2015年
2 丘文未;基于软硬件协同设计的闪存存储系统关键技术研究与实现[D];国防科学技术大学;2013年
3 赖尚校;基于ARM的嵌入式闪存驱动与UBIFS文件系统的分析与实现[D];浙江工业大学;2014年
4 刘剑;用FPGA实现文件系统及其应用[D];太原理工大学;2013年
5 冯子陵;闪存文件系统UBIFS的分析与优化[D];南京大学;2013年
6 何耀;面向大容量SCM的融合式文件系统[D];江苏大学;2016年
7 房s,
本文编号:1394474
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/1394474.html