通过非易失存储和检查点优化缓解日志开销
本文选题:文件系统 + 非易失存储 ; 参考:《计算机研究与发展》2015年06期
【摘要】:在文件系统进行用户数据和元数据的持久化过程中,如果出现异常掉电或系统崩溃,可能导致文件系统出现数据的不一致性问题.现有的Ext4文件系统通过写前日志(write-ahead logging,WAL)技术结合事务机制来保证持久化操作的一致性.写前日志技术将文件系统元数据写入磁盘2次,元数据的粒度小、数量大、重复度高,影响了程序的性能,也缩短了Flash存储介质的使用寿命.针对这一问题,提出了使用新型非易失存储(non-volatile memory,NVM)作为存放日志的独立外部设备,并通过存取指令(load/store)接口直接访问;同时使用倒序扫描(reverse scan)技术对检查点(checkpoint)流程进行优化,减少同一数据块的重复写操作.实验结果表明,使用NVM作为外部日志分区,对于写操作比重较大的程序,在HDD上带宽提升接近50%;在SSD上带宽提升达到23%;在checkpoint时使用倒序扫描之后,写入次数降低明显,带宽提升接近20%.
[Abstract]:In the process of file system persistence of user data and metadata, if there is abnormal power failure or system crash, it may lead to the problem of data inconsistency in the file system. The existing Ext4 file system combines the transaction mechanism with the write-ahead logging technique to ensure the consistency of the persistence operation. The file system metadata is written to disk twice by the pre-write log technology. The metadata is small in granularity, large in quantity and high in repetition, which affects the performance of the program and shortens the service life of the Flash storage medium. In order to solve this problem, a new non-volatile memory NVM is proposed as an independent external device for storing logs, which can be accessed directly through the load-store interface of access instructions, and the checkpoint flow is optimized by using reverse scan technique. Reduce the repeat write operation of the same data block. The experimental results show that using NVM as an external log partition, for programs with a large proportion of write operations, the bandwidth increase is close to 50 on HDD, the bandwidth increase on SSD reaches 23 percent, and the number of writes decreases obviously after the use of inverted order scanning in checkpoint. Bandwidth gain is close to 20.
【作者单位】: 首都师范大学信息工程学院;计算机体系结构国家重点实验室(中国科学院计算技术研究所);高可靠嵌入式系统技术北京市工程研究中心(首都师范大学);
【基金】:国家自然科学基金项目(61472260,61402302) 北京市自然科学基金项目(4143060) 计算机体系结构国家重点实验室开放课题(CARCH201203) 北京市属高等学校人才强教项目-国外访学(067135300100) 北京市属高等学校创新团队建设与教师职业发展计划基金项目(IDHT20150507)
【分类号】:TP333
【参考文献】
相关期刊论文 前1条
1 蔡涛;牛德姣;刘扬宽;李帅;鞠时光;;NVMMDS——一种面向非易失存储器的元数据管理方法[J];计算机研究与发展;2013年01期
【共引文献】
相关期刊论文 前10条
1 孙志卓;李元章;左伟欢;万军;何翔;谭毓安;;LSF:一种面向S-RAID 5的能量管理算法[J];北京理工大学学报;2014年02期
2 陈利跃;陶涛;叶海明;卢冰;宓群超;;基于Md-tree的电力调度自动化黑匣子系统技术研究[J];电信技术;2015年06期
3 王振;王雷;王宇;;基于虚拟磁盘块存储的分布式文件系统研究[J];华中科技大学学报(自然科学版);2013年S2期
4 房俊华;王翰虎;陈梅;马丹;;DB-Tree:一种高性能的闪存数据库索引结构[J];计算机应用与软件;2013年11期
5 Hong-yan LI;Nai-xue XIONG;Ping HUANG;Chao GUI;;PASS: a simple, efficient parallelism-aware solid state drive I/O scheduler[J];Journal of Zhejiang University-Science C(Computers & Electronics);2014年05期
6 鲁亮;于炯;英昌甜;王政英;刘建矿;;内存云架构的磁盘节能策略[J];计算机应用;2014年09期
7 Hui SUN;Xiao QIN;Chang-sheng XIE;;Exploring optimal combination of a file system and an I/O scheduler for underlying solid state disks[J];Journal of Zhejiang University-Science C(Computers & Electronics);2014年08期
8 黄岚;孙珂;陈晓竹;周敏奇;;内存集群计算:交互式数据分析[J];华东师范大学学报(自然科学版);2014年05期
9 程付超;苗放;陈垦;;自适应的分布式文件系统元数据管理模型[J];计算机工程与设计;2014年03期
10 黄健;冯暄;翁凯;卢军;郭本俊;;DCQD:一种物联网高性能数据采集平台的设计与实现[J];四川大学学报(自然科学版);2014年04期
相关博士学位论文 前3条
1 刘洋;层次混合存储系统中缓存和预取技术研究[D];华中科技大学;2013年
2 谢雨来;溯源的高效存储管理及在安全方面的应用研究[D];华中科技大学;2013年
3 孙辉;NAND固态盘有限编程/擦除次数的评测模型及优化方法[D];华中科技大学;2014年
相关硕士学位论文 前10条
1 陈席林;分布式持久化缓存系统的研究与实现[D];重庆大学;2013年
2 何小春;Web信息挖掘服务平台及数据备份技术研究[D];哈尔滨工业大学;2012年
3 牛琪锴;基于闪存的海量非关系存储方法研究[D];哈尔滨工业大学;2012年
4 慎涵;一种基于PCM的文件系统设计与实现[D];华中科技大学;2013年
5 杨丽丽;云存储网关的研究与实现[D];华中科技大学;2013年
6 陈起;高性能计算中并行文件系统可扩展元数据服务的研究[D];华中科技大学;2013年
7 汪红敏;基于固态硬盘的倒排索引动态更新策略及其优化研究[D];华中科技大学;2013年
8 陈华;面向多媒体存储的FAT文件系统研究与应用[D];华中科技大学;2013年
9 肖飞;分布式文件系统Cappella日志设计与实现[D];华中科技大学;2013年
10 常诚;基于PaaS云存储服务的文件系统设计与实现[D];湖南大学;2013年
【二级参考文献】
相关期刊论文 前2条
1 陈卓;熊劲;马灿;;基于SSD的机群文件系统元数据存储系统[J];计算机研究与发展;2012年S1期
2 穆飞;薛巍;舒继武;郑纬民;;基于定位目录的元数据管理方法[J];清华大学学报(自然科学版)网络.预览;2009年08期
【相似文献】
相关期刊论文 前10条
1 姜良华;崔建明;;Serv-U FTP服务器日志分析系统设计与实现[J];电脑知识与技术;2010年28期
2 李玉荣;杨树强;贾焰;周斌;樊宇;;分布式日志服务关键技术研究[J];计算机工程与应用;2006年07期
3 李哲;李先国;;基于关联规则的日志分析系统的研究与设计[J];微型电脑应用;2009年03期
4 陈文;邓韵东;钏涛;;电网网络系统运行日志分析[J];云南电力技术;2011年05期
5 李燕南;刘新;蒋伟宏;赵群;;主机日志分析与研究[J];中国高新技术企业;2010年04期
6 李先捷;汤艳君;;基于日志的提取已修改计算机系统时间的方法[J];信息网络安全;2013年05期
7 刘虎球;马超;白家驹;;面向驱动配置的自动日志插入方法研究[J];计算机学报;2013年10期
8 方航锋,汪海航;日志提取分析系统的设计和实现[J];计算机工程;2004年14期
9 陈海宇;曾德胜;;基于日志的异常软件使用模式检测[J];淮海工学院学报(自然科学版);2011年01期
10 袁佳;郭燕慧;;基于rabbitmq的海量日志的分布式处理[J];软件;2013年07期
相关会议论文 前10条
1 马辰;武斌;;一种基于攻击事件图的蜜网日志分析方法[A];虚拟运营与云计算——第十八届全国青年通信学术年会论文集(下册)[C];2013年
2 周涛;;基于数据挖掘的入侵检测日志分析技术研究[A];第二届中国科学院博士后学术年会暨高新技术前沿与发展学术会议程序册[C];2010年
3 陈晨;郑康锋;;一种基于支持向量机的蜜网系统日志分析方法[A];2011年通信与信息技术新进展——第八届中国通信学会学术年会论文集[C];2011年
4 刘莉;;基于多协议技术的日志集中管理安全方案[A];2008年中国通信学会无线及移动通信委员会学术年会论文集[C];2008年
5 耿涛;;Web日志分析在电子数据取证中的应用[A];第二十一次全国计算机安全学术交流会论文集[C];2006年
6 闫龙川;王怀宇;李枫;毛一凡;;基于Hadoop的邮件日志分析与研究[A];2012电力行业信息化年会论文集[C];2012年
7 陈庆章;王磊;毛科技;戴国勇;;基于防火墙日志的在线攻击侦查系统的设计与实现(英文)[A];全国第19届计算机技术与应用(CACIS)学术会议论文集(下册)[C];2008年
8 王振亚;武斌;;基于MFI-WT算法的蜜网日志分析方法[A];第十七届全国青年通信学术年会论文集[C];2012年
9 金松昌;方滨兴;杨树强;贾焰;;基于Hadoop的网络安全日志分析系统的设计与实现[A];全国计算机安全学术交流会论文集·第二十五卷[C];2010年
10 朱金清;王建新;陈志泊;;基于APRIORI的层次化聚类算法及其在IDS日志分析中的应用[A];第二十四届中国数据库学术会议论文集(研究报告篇)[C];2007年
相关重要报纸文章 前10条
1 中航工业南方航空工业集团(有限)公司科技与信息部 邹沪湘;分析日志识别暴力破解[N];计算机世界;2013年
2 ;日志分析中的五个误区[N];网络世界;2004年
3 陈代寿;网管的四两拨千斤[N];中国计算机报;2004年
4 IBM大数据专家 James Kobielus 范范 编译;大数据日志分析借机器学习腾飞[N];网络世界;2014年
5 《网络世界》评测实验室 于洋;用好Web日志[N];网络世界;2004年
6 重庆 航行者;IIS的安全[N];电脑报;2002年
7 河南工业职业技术学院 邱建新;监测Squid日志的五种方法[N];计算机世界;2005年
8 shotgun;入侵检测初步(上)[N];电脑报;2001年
9 朱闵;浅谈企业核心应用的安全审计(下)[N];网络世界;2008年
10 覃进文;在Windows 2000&&2003下快速安装Webalizer[N];中国电脑教育报;2003年
相关博士学位论文 前3条
1 饶翔;基于日志的大规模分布式软件系统可信保障技术研究[D];国防科学技术大学;2011年
2 曹志波;基于日志的任务建模及调度优化的研究[D];华南理工大学;2014年
3 胡蓉;WEB日志和子空间聚类挖掘算法研究[D];华中科技大学;2008年
相关硕士学位论文 前10条
1 王潇博;基于挖掘算法的日志分析系统设计与实现[D];北京交通大学;2008年
2 孙寅林;基于分布式计算平台的海量日志分析系统的设计与实现[D];西安电子科技大学;2012年
3 邓海川;日志分析系统的任务调度方法研究[D];南京航空航天大学;2013年
4 宋浩;综合审计平台之后台日志处理服务的设计与实现[D];山东大学;2008年
5 冯绿音;网络信息系统日志分析与审计技术研究[D];上海交通大学;2007年
6 杨书思;一种可配置的网络报警日志匿名工具的设计与实现[D];广州大学;2009年
7 吴静;面向异构数据源的内网综合日志审计技术研究[D];中国工程物理研究院;2010年
8 黄静宾;面向增量数据检测的日志分析技术的研究[D];暨南大学;2011年
9 李海峰;网络日志分析技术研究与实现[D];北京化工大学;2005年
10 朱宝金;面向云计算系统的日志过滤系统的设计与实现[D];杭州电子科技大学;2014年
,本文编号:1815523
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/1815523.html