深度学习与主成分分析融合的研究与应用
本文关键词:深度学习与主成分分析融合的研究与应用
【摘要】:随着大数据时代的来临,数据量与日俱增,数据模式越来越复杂,数据间关联性大,分类和预测任务的难度越来越高,导致在某些领域传统的浅层机器学习算法难以表现出良好的性能。深度学习是在传统的浅层结构上通过增加隐藏层数而发展起来的一种更为接近人脑模式的网络结构。2006年Hinton提出通过贪婪层叠方式构建深信度网络,其训练测试结果取得了令人鼓舞的效果,从而引起了各界人士的广泛关注。深度学习虽然在许多领域被广泛使用,但是它的最终结果却不是最优的,需要融合传统方法,因此算法融合是当前深度学习的一个方向,它可以增加准确率,提高速度,降低时间和空间的复杂度。主成分分析能保留原始数据的信息特性,是降维一种常用方法,它通过对原始数据的映射变换,将数据转化到一个维度相对低的空间中,从而达到降维目的。考虑到深度学习的不足以及主成分分析的优势,本文将深度学习和主成分分析有机融合,改善深度学习的性能并提高其准确率。本文主要研究内容有以下两个方面:深度学习和主成分分析方法的融合算法的分析和测试以及深度学习在地球化学分析中的应用。利用主成分分析算法对原始数据进行降维预处理,达到降低输入层输入维度的目的;深信度网络输出高级抽象特征后,利用主成分分析算法降低特征维度,为后面的有监督学习方法提供低维度输入,降低整体时间复杂度;勘探地球化学找矿是矿产资源勘查的重要手段,混沌、分形和神经网络等方法被广泛使用,然而深度学习在该学科的使用还很少,因此将深度学习应用在地球化学中,识别出与成矿有关的矿化信息并构建合理的块体模型。本文首先根据深度学习和主成分分析方法,通过对二者的有机融合,设定网络初始化参数,并通过多次试验平均的结果,最终确定各个网络参数,并利用公开数据库MNIST数据集测试本文的融合算法。最后,本文将这种方法应用在地球化学中,得到最终结果。通过本文分析,结合主成分分析和深度学习的优势,将二者有机地融合起来,利用该方法在MNIST手写数据库上做测试,在网络层数为3层,学习率为0.5,动量项0.1得到错误率为1.1%以及训练时间4.01s的结果,相比传统网络在相同参数下得到错误率为1.2%,训练时间为4.3s,得到了比传统深信度网络算法更快更准的结果。本文利用该融合算法,通过对攀枝花某矿区的土壤地球化学测量数据的分析,将得到的结果利用硕士期间自主开发的软件平台,显示了当地的矿床分布,说明本文这种融合方式可以处理地球化学数据,并能建立出合理的体模型,说明了本文改进方法可以在地球化学分析中得到使用。
【关键词】:深度学习 主成分分析 算法融合 地球化学
【学位授予单位】:成都理工大学
【学位级别】:硕士
【学位授予年份】:2016
【分类号】:P628
【目录】:
- 摘要4-6
- Abstract6-10
- 第1章 绪论10-18
- 1.1 研究背景10-11
- 1.2 国内外研究现状11-13
- 1.2.1 国外研究现状11-12
- 1.2.2 国内研究现状12-13
- 1.3 研究目的和意义13-14
- 1.4 主要研究内容、创新点及技术路线14-15
- 1.4.1 主要研究内容14-15
- 1.4.2 主要创新点15
- 1.4.3 研究技术路线15
- 1.5 论文章节安排15-17
- 1.6 本章总结17-18
- 第2章 深度学习和主成分分析18-27
- 2.1 深度学习概述18-24
- 2.1.1 深度学习优缺点及其分类18-19
- 2.1.2 受限玻尔兹曼机(RBM)19-23
- 2.1.3 深信度网络23-24
- 2.2 主成分分析24-25
- 2.3 本章总结25-27
- 第3章 深信度网络的设计和测试27-41
- 3.1 网络输入层节点的确定27
- 3.2 网络深度的确定27-28
- 3.3 网络参数设置28-30
- 3.3.1 学习率和动量项28-29
- 3.3.2 权重初始权值和偏置设置29-30
- 3.3.3 隐藏层节点数确定30
- 3.4 分类预测模型30-32
- 3.4.1 PCA对特征降维处理30-31
- 3.4.2 用于分类预测的神经网络31-32
- 3.5 DBN网络的最终结构32-34
- 3.6 改进算法的测试34-40
- 3.6.1 原始DBN算法的测试结果34-36
- 3.6.2 融合算法的测试结果36-39
- 3.6.3 结果比较39-40
- 3.7 本章总结40-41
- 第4章 改进算法在攀枝花某矿区的应用41-50
- 4.1 地质区简介41-42
- 4.2 地质区数据处理42-44
- 4.3 算法应用44-47
- 4.4 结果分析47-48
- 4.5 展望48-49
- 4.6 本章总结49-50
- 结论50-51
- 致谢51-52
- 参考文献52-55
- 攻读学位期间取得学术成果55
【相似文献】
中国期刊全文数据库 前10条
1 姚泽清,王衍波;江苏省国民经济主要指标的主成分分析[J];运筹与管理;2003年03期
2 尉雪波,张辉;灰色主成分分析及其应用[J];山东财政学院学报;2004年05期
3 夏国恩;金炜东;张葛祥;;非线性主成分分析新方法[J];统计与决策;2006年05期
4 马翔宇;陈志华;邹飒枫;赵力;;基于主成分分析的音乐事件相关脑电变化研究[J];现代生物医学进展;2009年03期
5 张维铭;陈文兴;;运用主成分分析制定服装标准的探讨[J];浙江丝绸工学院学报;1986年02期
6 李永福,孙文爽 ,王元平;广义主成分分析[J];云南大学学报(自然科学版);1988年01期
7 王宏健,,易柱新;主成分方法用于聚类分析[J];经济数学;1996年01期
8 李汶华;城市综合实力增长的比较[J];数理统计与管理;2000年01期
9 高长元,丁雪伟,綦良群;高新技术产品的主成分分析评价法[J];哈尔滨理工大学学报;2000年01期
10 DelValls T A ,丁海燕;确定海洋沉积物中污染物来源的方法——多变量主成分分析方法[J];海洋地质动态;2003年11期
中国重要会议论文全文数据库 前10条
1 么彩莲;魏宁;;关于主成分分析的改进方法探讨[A];中国现场统计研究会第12届学术年会论文集[C];2005年
2 陈明星;缪柏其;靳韬;;利率影响因素的主成分分析与因子分析[A];中国现场统计研究会第12届学术年会论文集[C];2005年
3 孙晓东;胡劲松;焦s
本文编号:1000739
本文链接:https://www.wllwen.com/kejilunwen/diqiudizhi/1000739.html