基于云平台下的数据挖掘研究

发布时间：2017-10-13 15:17

  本文关键词：基于云平台下的数据挖掘研究

  更多相关文章： 云计算 数据挖掘 MapReduce HDFS 集群 K-Means

【摘要】：生活在信息大爆炸的时代,社会网络产生数字图像、视频、网络博客,网络社区等形形色色的数据。但是随着数据的数据源种类越来越多样化,数据的爆炸式增长,传统的数据挖掘技术已经不能满足我们的要求,需要建立一种新的有效机制来实现海量数据的分析处理。而云计算平台下的数据挖掘的出现是由于其能提供大规模的存储空间,便于海量数据的存储,同时具有很高的可扩展性,编程人员能够在它们的服务之上构建无缝可扩展的应用。因此,如果能够优化传统的数据挖掘算法将其部署到云计算平台之上,便可解决海量数据处理难的问题。但是,将传统经典算法部署到云计算平台架构之上,也会遇到很多问题。(1)处理大数据中的算法重复迭代是不可避免的难题;(2)数据循环遍历产生的通信成本负荷重;(3)传统算法分析处理海量数据的时间慢,产生的I/O成本和网络成本大。针对传统数据挖掘技术在云计算平台上遇到的问题,本文首先从云计算平台和数据挖掘的基本原理[35]出发,分析云计算中的相关技术、讨论并行编程模型MapReduce的编程原理、分布式系统HDFS的存储方式以及基于云计算的Hadoop平台的数据挖掘架构,提出使用云计算下的数据挖掘处理机制来解决处理大规模数据难的问题,并获得较高的性能;其次针对大数据的数据类型多样化和数据量的倍增,提出对基于云计算平台下的传统数据挖掘算法K-Means算法进行优化的方案,消除迭代算法的依赖性和减少计算成本;最后将优化后的K-Means算法移植到Hadoop平台进行试验,通过Hadoop集群下的MapReduce的编程计算模式调用优化后的K-Means算法,验证优化后的算法的有效性和可靠性。
【关键词】：云计算 数据挖掘 MapReduce HDFS 集群 K-Means
【学位授予单位】：华东交通大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP393.09;TP311.13
【目录】：

• 摘要3-4
• ABSTRACT4-7
• 第一章 绪论7-10
• 1.1 前言7-8
• 1.2 国内外研究现状8-9
• 1.3 本文研究内容与创新9
• 1.4 本文组织结构9-10
• 第二章 云计算和海量数据挖掘技术的概述10-17
• 2.1 云计算10-12
• 2.1.1 云计算的概念10
• 2.1.2 云计算的基本原理10
• 2.1.3 云计算的体系架构10-11
• 2.1.4 云计算的关键技术11-12
• 2.2 数据挖掘12-16
• 2.2.1 数据挖掘的现状及前景12-13
• 2.2.2 数据挖掘的经典算法13-15
• 2.2.3 数据挖掘的应用15-16
• 2.3 本章小结16-17
• 第三章 基于云计算的数据挖掘算法17-25
• 3.1 云计算支持下的数据挖掘算法的来源17
• 3.2 MapReduce为基础的传统K-Means算法17-21
• 3.3 HADOOP MapRuduce编程模型21-24
• 3.3.1 MapRuduce编程模型原理21
• 3.3.2 MapReduce执行过程21-22
• 3.3.3 Hadoop MapRduce模式22-24
• 3.4 本章小结24-25
• 第四章 基于云计算的Hadoop平台下的数据挖掘的优化25-36
• 4.1 Hadoop的背景及处理海量数据的优势25-26
• 4.2 分布式文件系统HDFS26-27
• 4.3 并行计算模型MapRuduce27-28
• 4.4 基于HADOOP平台下的挖掘算法的优化28-35
• 4.4.1 系统架构介绍28-29
• 4.4.2 系统设计原则29-30
• 4.4.3 基于K-Means算法在云计算平台上的优化设计30-35
• 4.4.3.1 Map函数的设计31-33
• 4.4.3.2 Combine函数的设计33
• 4.4.3.3 Reduce函数的设计33-34
• 4.4.3.4 基于K-Means算法的优化设计34-35
• 4.5 传统的K-Means算法与优化后的K-Means算法的对比分析35
• 4.6 本章小结35-36
• 第五章 实验结果评测及分析36-43
• 5.1 测试环境36-39
• 5.1.1 JDK配置36-37
• 5.1.2 SSH配置37
• 5.1.3 Hadoop的安装和配置37-39
• 5.2 试验分析39-42
• 5.2.1 试验数据39-41
• 5.2.2 实验结果41-42
• 5.3 本章小结42-43
• 第六章 总结与展望43-44
• 6.1 本文总结43
• 6.2 工作展望43-44
• 参考文献44-46
• 个人简历 在读期间发表的学术论文46-47
• 致谢47

【相似文献】

中国期刊全文数据库 前10条

1 香丽芸;浅谈数据挖掘及其应用[J];昌吉师专学报;2001年02期

2 郑雪燕,张杰明,岳洋;数据挖掘语言[J];计算机时代;2001年11期

3 刘明晶;数据挖掘[J];华南金融电脑;2001年04期

4 张伟;刘勇国;彭军;廖晓峰;吴中福;;数据挖掘发展研究[J];计算机科学;2001年07期

5 钟晓;马少平;张钹;俞瑞钊;;数据挖掘综述[J];模式识别与人工智能;2001年01期

6 朱建平,张润楚;数据挖掘的发展及其特点[J];统计与决策;2002年07期

7 傅岚;在数据海洋中打捞信息数据挖掘[J];科技广场;2002年11期

8 李峻;数据挖掘,企业洞察先机的“慧眼”[J];中国计算机用户;2002年48期

9 罗可,蔡碧野,卜胜贤,谢中科;数据挖掘及其发展研究[J];计算机工程与应用;2002年14期

10 ;2002数据挖掘研讨班[J];计算机工程;2002年06期

中国重要会议论文全文数据库 前10条

1 史东辉;蔡庆生;张春阳;;一种新的数据挖掘多策略方法研究[A];第十七届全国数据库学术会议论文集（研究报告篇）[C];2000年

2 张弦;;数据挖掘在农业中的应用[A];纪念中国农业工程学会成立30周年暨中国农业工程学会2009年学术年会（CSAE 2009）论文集[C];2009年

3 魏顺平;;教育数据挖掘:现状与趋势[A];信息化、工业化融合与服务创新——第十三届计算机模拟与信息技术学术会议论文集[C];2011年

4 关清平;沉培辉;;概率网络在数据挖掘上的应用[A];科技、工程与经济社会协调发展——中国科协第五届青年学术年会论文集[C];2004年

5 丁瑾;;基于Web数据挖掘的综述[A];山西省科学技术情报学会学术年会论文集[C];2004年

6 聂茹;田森平;;Web数据挖掘及其在电子商务中的应用[A];中南六省（区）自动化学会第24届学术年会会议论文集[C];2006年

7 李菊;王军;;数据挖掘在客户关系管理的应用[A];计算机技术与应用进展·2007——全国第18届计算机技术与应用（CACIS）学术会议论文集[C];2007年

8 肖阳;李启贤;;数据挖掘在中国钢铁行业中的应用[A];中国计量协会冶金分会2012年会暨能源计量与节能降耗经验交流会论文集[C];2012年

9 杨磊;王贵成;汪勇;张占胜;;SQL Server 2005在数据挖掘中的应用[A];2009年中国智能自动化会议论文集（第二分册）[C];2009年

10 谢中;邱玉辉;;面向商务网站有效性的数据挖掘方法[A];第十八届全国数据库学术会议论文集（技术报告篇）[C];2001年

中国重要报纸全文数据库 前10条

1 本报记者褚宁;数据挖掘如“挖金”[N];解放日报;2002年

2 周蓉蓉;数据挖掘需要点想像力[N];计算机世界;2004年

3 □中国电信股份有限公司北京研究院 张舒博 □北京邮电大学计算机科学与技术学院 牛琨;走出数据挖掘的误区[N];人民邮电;2006年

4 《网络世界》记者 王莹;数据挖掘保险业的新蓝海[N];网络世界;2012年

5 刘俊丽;基于地理化的网络数据挖掘与分析提升投资有效性[N];人民邮电;2014年

6 本报记者 连晓东;数据挖掘：金融信息化新热点[N];中国电子报;2002年

7 本报记者 凤小华 朱仁康;“数字挖掘软件”引领中国信息化新浪潮[N];中国电子报;2003年

8 本报记者　史延廷;“成功企业数据挖掘暨数量化管理论坛”在京举办[N];中国旅游报;2002年

9 朱小宁;数据挖掘：信息化战争的基础工程[N];解放军报;2005年

10 本报记者 王小平;从“大集中”走向数据挖掘[N];金融时报;2002年

中国博士学位论文全文数据库 前10条

1 于自强;海量流数据挖掘相关问题研究[D];山东大学;2015年

2 张馨;全基因组SNP芯片应用于CNV和L0H分析的软件比对与数据挖掘[D];复旦大学;2011年

3 彭计红;基于数据挖掘的痴呆中医证的研究[D];南京中医药大学;2015年

4 李秋虹;基于MapReduce的大规模数据挖掘技术研究[D];复旦大学;2013年

5 邬文帅;基于多目标决策的数据挖掘方法评估与应用[D];电子科技大学;2015年

6 谢邦彦;整合数据挖掘与TRIZ理论的质量管理方法研究[D];首都经济贸易大学;2010年

7 何伟全;云南高校学生意外伤害因素关联规则挖掘及风险管控体系研究[D];昆明理工大学;2015年

8 段功豪;基于多结构数据挖掘的滑坡灾害预测模型研究[D];中国地质大学;2016年

9 白晓明;基于数据挖掘的复合材料宏—细观力学模型研究[D];哈尔滨工业大学;2016年

10 蓝永豪（LAM Wing Ho）;基于数据挖掘技术分析当代中医名家痤疮验方经验研究[D];南京中医药大学;2016年

中国硕士学位论文全文数据库 前10条

1 林仁红;基于数据挖掘的机遇识别与评价研究[D];首都经济贸易大学;2007年

2 张彦俊;游戏运营中的数据挖掘[D];复旦大学;2011年

3 王杰锋;物联网能耗数据智能分析及其应用平台设计[D];江南大学;2015年

4 刘学建;数据挖掘在电子商务推荐系统中的应用研究[D];昆明理工大学;2015年

5 戴阳阳;基于数据挖掘的金融时间序列预测研究与应用[D];江南大学;2015年

6 石思优;基于主题模型的医疗数据挖掘研究[D];广东技术师范学院;2015年

7 陈丹;移动互联网信令挖掘实现智慧营销的设计与实现应用研究[D];华南理工大学;2015年

8 陈思;基于数据挖掘的大学生客户识别模型的研究[D];昆明理工大学;2015年

9 位长帅;基于客户数据挖掘的电信客户关系管理研究[D];西南交通大学;2015年

10 安康;基于数据挖掘的商业银行客户关系管理研究[D];兰州交通大学;2014年

，

本文编号：1025562