基于云计算技术的电力大数据预处理属性约简方法
本文选题:电力大数据 + MapReduce ; 参考:《电力系统自动化》2014年08期
【摘要】:针对大数据时代下电网数据体量大、类型多、速度快的特点,传统的属性约简方法已经无法完成对电力大数据的预处理,为此提出一种基于云计算技术的电力大数据预处理属性约简方法。该方法剖析了粗糙集中相对正域理论的特性,利用MapReduce模型设计了可以并行计算正域中元素个数的属性约简算法MP_POSRS。最后,在Hadoop平台上对电网故障诊断表和风电实测数据进行属性约简,实验结果表明,该方法有效可行,并具有较好的加速比和可扩展性,适用于电力大数据预处理属性约简。
[Abstract]:According to the grid data volume under the era of big data, multi type, high speed, the traditional attribute reduction method has been unable to complete the pretreatment of the power of big data, therefore a large power data based on cloud computing technology of the pretreatment method of attribute reduction is proposed. The method analyzes the relative positive region characteristics of rough set theory using the MapReduce model, design a parallel MP_POSRS. algorithm for attribute reduction in the number of domain elements are calculated. Finally, in the Hadoop platform for power system fault diagnosis table and wind data measured by attribute reduction, the experimental results show that this method is effective and feasible, and has good speedup and scalability, suitable for large power data preprocessing, attribute reduction.
【作者单位】: 东北电力大学信息工程学院;
【基金】:国家自然科学基金资助项目(51077010,51277023)~~
【分类号】:TP18;TM769
【参考文献】
相关期刊论文 前10条
1 赵冬梅,韩月,高曙;电网故障诊断的决策表约简新算法[J];电力系统自动化;2004年04期
2 曲朝阳;朱莉;张士林;;基于Hadoop的广域测量系统数据处理[J];电力系统自动化;2013年04期
3 孙大烈;李建中;;基于MapReduce的Skyline-join查询算法[J];哈尔滨工业大学学报;2012年01期
4 姜伟;徐章艳;杨炳儒;;基于数据库的属性约简模型的快速求核算法[J];计算机工程与应用;2007年16期
5 姜广;曹付元;张倚弛;高嘉伟;;基于SQL的粗糙集属性约简方法[J];计算机工程;2008年11期
6 胡峰;王国胤;;属性序下的快速约简算法[J];计算机学报;2007年08期
7 钱进;苗夺谦;张泽华;;云计算环境下知识约简算法[J];计算机学报;2011年12期
8 葛浩;李龙澍;杨传健;;基于冲突域的高效属性约简算法[J];计算机学报;2012年02期
9 陈昊;杨俊安;庄镇泉;;变精度粗糙集的属性核和最小属性约简算法[J];计算机学报;2012年05期
10 王熙照;王婷婷;翟俊海;;基于样例选取的属性约简算法[J];计算机研究与发展;2012年11期
【共引文献】
相关期刊论文 前10条
1 刘韶峰;廖力清;;基于粗糙集理论的馈线自动化技术[J];安徽电力;2010年01期
2 刘韶峰;廖力清;;基于粗糙集理论的馈线自动化技术[J];传感器世界;2009年06期
3 陈星莺;张晓花;瞿峰;刘皓明;赵波;;数据挖掘在电力系统中的应用综述[J];电力科学与技术学报;2007年03期
4 张志毅;袁荣湘;杨同忠;刘敏忠;;基于粗糙集和小生境遗传算法的电网故障诊断规则提取[J];电工技术学报;2009年01期
5 孟凡奇;曲朝阳;刘晶敏;;基于SQL的电网海量数据属性约简方法[J];电气应用;2012年13期
6 莫娟,严璋,李华,周孟戈;基于多种智能方法的变压器故障综合诊断模型[J];电力系统自动化;2005年18期
7 郭创新;朱传柏;曹一家;吴欣;;电力系统故障诊断的研究现状与发展趋势[J];电力系统自动化;2006年08期
8 吴迎新;刘沛;;基于家族优生学的电力系统故障诊断[J];电力系统自动化;2006年16期
9 梅念;石东源;谢俊;段献忠;;基于编码理论的电网故障诊断及监测信号校正[J];电力系统自动化;2007年12期
10 李强;徐建政;;基于主观贝叶斯方法的电力系统故障诊断[J];电力系统自动化;2007年15期
【二级参考文献】
相关期刊论文 前10条
1 王丽婕;廖晓钟;高爽;冬雷;;并网型大型风电场风力发电功率-时间序列的混沌属性分析[J];北京理工大学学报;2007年12期
2 王景燕;;基于云计算的电力调度信息化研究[J];电工技术;2011年12期
3 廖志伟,孙雅明;基于数据挖掘模型的高压输电线系统故障诊断[J];电力系统自动化;2001年15期
4 孙雅明,廖志伟;基于不同RS与NN组合的数据挖掘配电网故障诊断模型[J];电力系统自动化;2003年06期
5 罗建裕,王小英,鲁庭瑞,刘华伟,徐春雷,谢小荣,肖晋宇,李建,吴京涛,王立鼎,胡炯,张涛;基于广域测量技术的电网实时动态监测系统应用[J];电力系统自动化;2003年24期
6 赵俊华;文福拴;薛禹胜;林振智;;云计算:构建未来电力系统的核心计算平台[J];电力系统自动化;2010年15期
7 王德文;宋亚奇;朱永利;;基于云计算的智能电网信息平台[J];电力系统自动化;2010年22期
8 牛东晓;王建军;李莉;李存斌;;基于粗糙集和决策树的自适应神经网络短期负荷预测方法[J];电力自动化设备;2009年10期
9 沐连顺;崔立忠;安宁;;电力系统云计算中心的研究与实践[J];电网技术;2011年06期
10 叶东毅;Jelonek属性约简算法的一个改进[J];电子学报;2000年12期
【相似文献】
相关期刊论文 前10条
1 钟新辉,费逸伟,李华强,姜旭峰;粗糙集和证据理论在磨粒识别中的应用[J];润滑与密封;2005年05期
2 冯惊雷;张喜斌;张恒喜;;基于粗糙集理论的飞机燃油系统故障分类[J];装备指挥技术学院学报;2006年01期
3 张赢;李琛;;基于粗糙Multilayer Perceptron网络的规则提取及生成方法研究[J];华中科技大学学报(自然科学版);2007年02期
4 卫寒梅;郑应文;;基于粗糙集和D-S证据理论的交通拥堵预警[J];福州大学学报(自然科学版);2008年01期
5 申锦标;邓春燕;吕跃进;;一种基于差别矩阵的新的属性约简方法[J];重庆工学院学报(自然科学版);2009年09期
6 王国才;张聪;;一种基于粗糙集的特征加权朴素贝叶斯分类器[J];重庆理工大学学报(自然科学版);2010年07期
7 谢丹;刘幺和;;基于隐式性能指标的机械振动优化设计研究[J];计算机与数字工程;2010年09期
8 何明;马国亮;孙立峰;;蚁群算法融合粗糙集理论的属性约简算法[J];北京工业大学学报;2010年09期
9 李利娟;肖赞;;基于融合面积谱和粗糙集理论的旋转机械故障诊断[J];科技信息;2011年08期
10 朱兴统;许波;;一种基于粗糙集理论的XML数据挖掘模型[J];科学技术与工程;2011年20期
相关会议论文 前10条
1 马玉良;赵光宙;;粗糙集理论及其在工程中的应用研究[A];第11届全国电气自动化电控系统学术年会论文集[C];2002年
2 刘碧森;姚宇;;粗SVM理论及其在税收预测中的应用[A];第三届全国信息获取与处理学术会议论文集[C];2005年
3 杨斌;闫桦;;基于粗糙集理论的农业水价承受能力研究[A];第十一届中国管理科学学术年会论文集[C];2009年
4 朱江华;潘丰;;基于蚁群算法的粗糙集知识约简[A];2005年全国自动化新技术学术交流会论文集[C];2005年
5 盛立;刘希玉;高明;;基于粗糙集理论的数据挖掘算法研究[A];山东省计算机学会2005年信息技术与信息化研讨会论文集(二)[C];2005年
6 朱江华;潘丰;;基于蚁群算法的粗糙集知识约简[A];2005全国自动化新技术学术交流会论文集(二)[C];2005年
7 田库;王俊松;刘玉敏;刘玉亮;李建国;;基于粗糙集理论的神经网络优化设计及网络拥赛控制[A];第25届中国控制会议论文集(中册)[C];2006年
8 王刚;张志禹;;数据融合中粗糙集的应用技术研究[A];2006中国控制与决策学术年会论文集[C];2006年
9 张辉;钱宗才;屈景辉;刘敬华;;基于粗糙集理论的知识获取研究及应用[A];全面建设小康社会:中国科技工作者的历史责任——中国科协2003年学术年会论文集(上)[C];2003年
10 张鹏;崔文利;;基于粗糙集与BP网络的民航飞机故障诊断研究[A];2007'仪表,,自动化及先进集成技术大会论文集(一)[C];2007年
相关重要报纸文章 前4条
1 刘琦;MapReduce:亚马逊云服务再添新援[N];中国计算机报;2009年
2 《网络世界》记者 周源;Platform MapReduce:专注企业级用户[N];网络世界;2011年
3 本报记者 李智 通讯员 梁宪生;零的突破[N];山西经济日报;2001年
4 王玮 蔡莲红;数据挖掘走入语音处理[N];计算机世界;2001年
相关博士学位论文 前10条
1 赵晨;过程控制中的数据挖掘技术研究及其智能控制策略探讨[D];浙江大学;2005年
2 张勇;粗糙集—神经网络智能系统在浮选过程中的应用研究[D];大连理工大学;2006年
3 刘永阔;核动力装置故障诊断智能技术的研究[D];哈尔滨工程大学;2006年
4 邱道宏;括苍山高速公路隧道岩爆非线性预测研究[D];吉林大学;2008年
5 吴正江;L模糊粗糙集研究[D];西南交通大学;2009年
6 丁泽柳;一体化信息基础设施中面向MapReduce的递归层次结构数据中心网络研究[D];国防科学技术大学;2012年
7 许琦;粗糙集理论在旋转机械故障诊断技术上应用的研究[D];南京工业大学;2003年
8 陈万里;基于商空间理论和粗糙集理论的粒计算模型研究[D];安徽大学;2005年
9 郝成;城市轨道交通项目效益分析与应用研究[D];北京交通大学;2008年
10 高峗;基于粗糙集的故障诊断和容错控制理论和方法研究[D];西安科技大学;2005年
相关硕士学位论文 前10条
1 张青枝;基于粗糙集的专家系统研究[D];武汉理工大学;2003年
2 张腾飞;基于粗糙集和RBF网络的动态建模方法研究[D];上海海事大学;2004年
3 陈鑫影;基于粗糙集理论的约简算法研究[D];吉林大学;2005年
4 吴习宇;粗糙集理论在农业决策支持系统知识发现中的应用[D];西南农业大学;2005年
5 黄文涛;在数据挖掘中概念格的理论研究[D];兰州理工大学;2007年
6 代文征;基于粗糙集的不完备信息系统的属性约简研究[D];西北师范大学;2006年
7 高朋;基于Multi-agent的虚拟企业集成关键问题研究[D];安徽农业大学;2006年
8 姜林;基于Rough Set模型的上市公司资产重组绩效研究[D];成都理工大学;2008年
9 刘芳;粗糙集理论在启动子识别中的应用研究[D];中南大学;2008年
10 梁美莲;不完备信息系统中数据挖掘的粗糙集方法[D];广西大学;2005年
本文编号:1737745
本文链接:https://www.wllwen.com/kejilunwen/dianlilw/1737745.html