BDSim:面向大数据应用的组件化高可配并行模拟框架
本文关键词:BDSim:面向大数据应用的组件化高可配并行模拟框架 出处:《计算机学报》2015年10期 论文类型:期刊论文
更多相关文章: 组件化并行模拟框架 并行离散事件模拟 非阻塞无锁通信 CMB算法 高可配 大数据
【摘要】:大规模并行模拟是研究大数据体系结构的重要方法,对大数据应用及众核体系结构的发展有着不可替代的推动作用.然而,目前的模拟技术不能满足大数据体系结构研究的需求,主要体现在模拟速度慢、配置过程复杂以及可扩展性差等方面.为了解决此问题,评估面向大数据应用的高通量众核体系结构的性能与功耗,该文提出了面向大数据应用的并行模拟框架——BDSim.该框架基于组件化思想,将功能组件与框架服务单元组成并行功能单元,并可根据负载情况,自由配置组件与框架服务单元之间的映射关系.为了提高组件之间的通信和同步效率,该文提出了一种非阻塞无锁通信优化方法,和一种CMB保守同步算法的优化算法——NMTRT-CMB同步算法.模拟不同并发规模的基于2D-Mesh网络的众核系统的实验结果表明,与基于锁的并行通信方法相比,框架采用的非阻塞无锁通信优化方法可以提高并行模拟速度约10%,该算法与CMB同步算法相比,NMTRT-CMB同步算法可以减少空消息数量达90%以上.
[Abstract]:Large-scale parallel simulation is an important method to study big data architecture, which can not be substituted for the application of big data and the development of multi-core architecture. The current simulation technology can not meet the needs of big data architecture research, mainly reflected in the slow simulation speed, complex configuration process and poor scalability. In order to solve this problem. To evaluate the performance and power consumption of high-throughput multi-core architecture for big data application, a parallel simulation framework for big data application, BDSim-based, is proposed in this paper. The functional components and the frame service unit are composed of parallel function units, and the mapping relationship between the components and the framework service units can be freely configured according to the load situation. In order to improve the communication and synchronization efficiency between the components. In this paper, a non-blocking and lock-free communication optimization method is proposed. And an optimization algorithm of CMB conservative synchronization algorithm, NMTRT-CMB synchronization algorithm. The experimental results show that the multi-kernel system based on 2D-Mesh network with different concurrency scale is simulated. Compared with the Lock based parallel communication method, the non-blocking and lock-free communication optimization method used in the framework can improve the parallel simulation speed by about 10%, which is compared with the CMB synchronization algorithm. NMTRT-CMB synchronization algorithm can reduce the number of empty messages to more than 90%.
【作者单位】: 中国科学院计算技术研究所计算机体系结构国家重点实验室;中国科学院大学;华为技术有限公司中央研究院;高效能服务器和存储技术国家重点实验室;数学工程与先进计算国家重点实验室;
【基金】:国家“九七三”重点基础研究发展规划项目基金(2011CB302501) 国家“八六三”高技术研究发展计划项目基金(2012AA010901,2015AA011204) “核高基”国家科技重大专项基金项目(2013ZX0102-8001-001-001) 国家自然科学基金(61173007,61204047,61332009)资助~~
【分类号】:TP332
【正文快照】: 李文明1),2)叶笑春1)张洋1),2)宋风龙3)王达1)唐士斌4)范东睿1)谢向辉5)1)(中国科学院计算技术研究所计算机体系结构国家重点实验室北京100190)2)(中国科学院大学北京100049)3)(华为技术有限公司中央研究院北京100085)4)(高效能服务器和存储技术国家重点实验室北京100085)5)(
【参考文献】
相关期刊论文 前3条
1 刘轶;支予哲;张昕;李鹤;焦林;张鹏;苏阳明;倪泽辉;钱德沛;;SimHPC:一种基于执行驱动的大规模并行系统模拟器[J];计算机学报;2013年04期
2 王元卓;靳小龙;程学旗;;网络大数据:现状与展望[J];计算机学报;2013年06期
3 焦帅;徐卫志;唐士斌;范东睿;孙凝晖;;PartitionSim:一个面向众核结构的并行模拟器[J];计算机学报;2011年11期
【共引文献】
相关期刊论文 前10条
1 刘琼;;大数据背景下图书馆服务体系创新与重构[J];科技创新与应用;2014年06期
2 陈为;李健;胡康;;食品药品检验行业大数据应用探讨[J];中国医药导刊;2014年02期
3 王小平;王建勇;杨埙;;采用云计算技术的网络流量检测[J];电讯技术;2014年05期
4 邵泽云;刘正岐;;云计算关键技术研究[J];信息安全与技术;2014年04期
5 李业志;陈艳;胡悦;;大数据在互联网经济发展中的应用[J];计算机光盘软件与应用;2014年08期
6 唐云善;魏勇;;基于分布式对象缓存的电力信息系统任务调度方法[J];电力信息与通信技术;2014年04期
7 宣恒农;赵冬;苗春玲;刘田田;张润驰;;系统级故障诊断综述[J];电脑知识与技术;2014年17期
8 张福利;;大数据研究中需要关注的几个问题[J];鞍山师范学院学报;2014年04期
9 马杰;邢影;;浅谈大数据信息安全[J];河南财政税务高等专科学校学报;2014年04期
10 刘兰;林军;蔡君;;面向大数据的异构网络安全监控及关联算法研究[J];电信科学;2014年07期
相关会议论文 前1条
1 高露雄;肖志远;王立海;;基于大数据环境的水文GIS应用发展初探[A];大数据时代的信息化建设——2015(第三届)中国水利信息化与数字水利技术论坛论文集[C];2015年
相关博士学位论文 前10条
1 王金宝;云计算系统中索引与查询处理技术研究[D];哈尔滨工业大学;2013年
2 韩海雯;MapReduce计算任务调度的资源配置优化研究[D];华南理工大学;2013年
3 章铁飞;基于程序访存模式的存储系统节能技术研究[D];浙江大学;2013年
4 陈红梅;粗糙集中基于粒计算的动态知识更新方法研究[D];西南交通大学;2013年
5 王俊昌;基于通用多核平台的高速网络处理系统关键技术研究[D];中国科学技术大学;2014年
6 林宇斐;大规模并行计算通信可扩展性—分析、优化与模拟[D];国防科学技术大学;2013年
7 张兰廷;大数据的社会价值与战略选择[D];中共中央党校;2014年
8 苑卫国;微博用户行为分析和网络结构演化的研究[D];北京交通大学;2014年
9 李春山;面向社会化媒体内容的若干聚类算法研究[D];哈尔滨工业大学;2014年
10 刘晓东;虚拟计算环境下性能可预测编程模型及其支撑技术研究[D];上海大学;2014年
相关硕士学位论文 前10条
1 杨敏龙;基于RBF神经网络的多核设计空间探索预测模型[D];武汉理工大学;2013年
2 刘恒;并发数据结构及其在动态内存管理中的应用[D];重庆大学;2013年
3 高军;EDGE体系结构指令动态映射算法研究[D];哈尔滨工业大学;2012年
4 孟伟;企业即时通讯系统服务器的设计与实现[D];浙江工业大学;2013年
5 王勋;面向非易失存储器PCM的节能技术研究[D];浙江工业大学;2013年
6 陈浩;基于Hadoop的微博用户影响力排名算法研究[D];华东理工大学;2014年
7 辛愿;面向嵌入式系统的自调数据预取[D];浙江大学;2013年
8 胡妍;结合结构级和门级的多核处理器功耗评估方法[D];湖南大学;2013年
9 刘鹏举;鲁花公司发展互联网营销的分析与策略[D];浙江海洋学院;2014年
10 崔路云;基于大数据时代背景对统计学教育的几点思考[D];首都经济贸易大学;2014年
【二级参考文献】
相关期刊论文 前8条
1 周傲英;金澈清;王国仁;李建中;;不确定性数据管理技术研究综述[J];计算机学报;2009年01期
2 高明;金澈清;王晓玲;田秀霞;周傲英;;数据世系管理技术研究综述[J];计算机学报;2010年03期
3 程学旗;郭嘉丰;靳小龙;;网络信息的检索与挖掘回顾[J];中文信息学报;2011年06期
4 宫学庆;金澈清;王晓玲;张蓉;周傲英;;数据密集型科学与工程:需求和挑战[J];计算机学报;2012年08期
5 李国杰;程学旗;;大数据研究:未来科技及经济社会发展的重大战略领域——大数据的研究现状与科学思考[J];中国科学院院刊;2012年06期
6 郭志懋,周傲英;数据质量和数据清洗研究综述[J];软件学报;2002年11期
7 刘伟;孟小峰;凌妍妍;;一种基于图模型的Web数据库采样方法[J];软件学报;2008年02期
8 许建卫;陈明宇;刘涛;杨伟;郑规;孙凝晖;;一种基于超步执行的并行模拟平台研究与实现[J];系统仿真学报;2009年15期
【相似文献】
相关期刊论文 前10条
1 许建卫;陈明宇;刘涛;杨伟;郑规;孙凝晖;;一种基于超步执行的并行模拟平台研究与实现[J];系统仿真学报;2009年15期
2 成际镇,张金良,袁伟巍;面向事件的离散时间的网络并行模拟方法[J];南京邮电学院学报;1996年04期
3 严历;郭力;;二维宏观拟颗粒并行模拟程序通信性能优化策略[J];计算机与应用化学;2009年07期
4 郑义;徐炜遐;汪审权;;分布并行模拟平台DPSIM的设计与实现[J];计算机工程与科学;2009年S1期
5 吴志敏;吕慧伟;陈明宇;;一个针对并行模拟引擎的性能评测实例[J];计算机科学;2013年03期
6 计卫星;王永辉;宋红;;一种面向M5的图形化并行模拟技术研究[J];微电子学与计算机;2010年08期
7 高德远,程贵鑫,康继昌;面向并行模拟机的path-CSA MOS开关模型及评价算法[J];航空学报;1993年09期
8 杨廉峰,吴金,夏君,刘其贵,魏同立;半导体器件模拟软件的系统设计分析(英文)[J];Journal of Southeast University(English Edition);1999年02期
9 陈军;董烨;杨温渊;董志伟;;高功率微波三维全电磁PIC并行模拟[J];电子学报;2009年12期
10 李暾,李思昆,郭阳,刘功杰;支持并行模拟的Verilog编译技术研究与实现[J];计算机工程与应用;2002年16期
相关会议论文 前4条
1 郑耀;张文普;张继发;;并行模拟与可视化平台的原理和设计[A];计算流体力学研究进展——第十二届全国计算流体力学会议论文集[C];2004年
2 方晓健;何险峰;葛蔚;;颗粒大规模并行模拟的实时可视化[A];中国颗粒学会第七届学术年会暨海峡两岸颗粒技术研讨会论文集[C];2010年
3 计卫星;王永辉;宋红;;一种面向M5的图形化并行模拟技术研究[A];2010年全国开放式分布与并行计算机学术会议论文集[C];2010年
4 江涛;隋秀峰;张立新;侯锐;李龙;霍志刚;赵晓芳;孙凝晖;;并行模拟技术研究[A];第十五届计算机工程与工艺年会暨第一届微处理器技术论坛论文集(A辑)[C];2011年
相关硕士学位论文 前3条
1 石道鹏;分布并行模拟验证平台同步技术研究[D];国防科学技术大学;2008年
2 单磊;大规模并行片上系统的分布式并行模拟关键技术研究[D];国防科学技术大学;2012年
3 李劲明;EHDL并行模拟在PVM环境下的设计与实现[D];太原理工大学;2003年
,本文编号:1403471
本文链接:https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/1403471.html