基于GPU的并行线性判别分析算法研究

发布时间：2017-08-13 04:26

  本文关键词：基于GPU的并行线性判别分析算法研究

  更多相关文章： 线性判别分析算法 CPU-GPU异构计算 广义特征问题

【摘要】：线性判别分析(Linear Discriminant Analysis,LDA)是模式识别中经典的算法之一,在对数据进行特征提取的同时,能够最大程度的保留原始数据的分类信息。随着互联网数据维度的增高和数据量的加大,LDA算法对计算速度、精度等方面有着更高的要求,传统的基于单机多核CPU的并行计算模型已经不能满足计算速度方面的要求,并且计算代价过高。而近些年出现的GPU通用计算相比于传统计算,拥有高并发、低功耗等优点,本文结合GPU高性能硬件,提出了一种基于CPU-GPU异构计算的改进LDA算法,主要完成的工作如下:(1)本文提出了一种基于CPU-GPU异构计算的矩阵块Hessenberg归约算法。LDA算法的计算瓶颈之一是求解散度矩阵的广义特征问题,而求解广义特征问题的Hessenberg归约算法步骤时间复杂度高,计算时间长;此外,Hessenberg归约算法在矩阵分解与矩阵特征问题领域有着重要的意义,因此本文将该问题作为研究重点之一。本文将基于矩阵块的Hessenberg归约算法进行任务分解,采用CPU-GPU异构计算的方式,加速了LDA算法的广义特征值求解过程。(2)本文针对广义特征向量求解问题,提出了一种基于CPU-GPU异构计算的特征向量回溯算法。该算法包括两个部分,一是由Hessenberg矩阵的特征向量回溯对称矩阵的特征向量,而是由对称矩阵特征向量回溯广义特征向量,本文分别对这两个部分进行了加速算法的设计。(3)除广义特征值问题外,构建类间和类间散度矩阵也是LDA算法的计算瓶颈之一,本文针对该求解步骤,设计了基于CPU-GPU异构计算的加速算法。实验表明,相比于单核CPU,本文提出的基于异构计算的改进算法有着最多102倍的加速比,而相比于八核CPU,该算法有着最多20倍的加速比。
【关键词】：线性判别分析算法 CPU-GPU异构计算 广义特征问题
【学位授予单位】：哈尔滨工业大学
【学位级别】：硕士
【学位授予年份】：2014
【分类号】：TP391.4;TP332
【目录】：

• 摘要4-5
• ABSTRACT5-8
• 第1章 绪论8-15
• 1.1 研究背景和意义8-9
• 1.2 国内外相关研究和综述9-13
• 1.2.1 LDA算法的研究现状10-12
• 1.2.2 广义特征值并行化求解算法的研究现状12-13
• 1.2.3 基于GPU高性能硬件并行计算的研究现状13
• 1.3 本文的主要工作13-14
• 1.4 本文的组织结构14-15
• 第2章LDA算法及GPU相关技术15-27
• 2.1 引言15
• 2.2 LDA算法相关知识15-18
• 2.2.1 两类线性判别分析15-17
• 2.2.2 多类线性判别分析17-18
• 2.3 求解对称广义特征值的QR算法18-23
• 2.3.1 广义特征值的求解算法18-19
• 2.3.2 Hessenberg归约算法与豪斯霍尔德变换19-21
• 2.3.3 Hessenberg矩阵特征值求解的QR算法21-23
• 2.4 GPU和CUDA相关技术23-26
• 2.5 本章小结26-27
• 第3章 基于CPU-GPU异构计算的广义特征值及特征向量问题求解方法27-42
• 3.1 引言27
• 3.2 基于CPU-GPU异构计算的矩阵块Hessenberg归约算法27-33
• 3.2.1 基于矩阵块的Hessenberg归约算法27-30
• 3.2.2 算法的任务分解与分析30-31
• 3.2.3 基于CPU-GPU异构计算的异构调度算法的设计31-33
• 3.3 基于CPU-GPU异构计算的矩阵广义特征向量算法设计33-36
• 3.4 实验与分析36-41
• 3.4.1 实验环境及实验设计37-38
• 3.4.2 实验结果及分析38-41
• 3.5 本章小结41-42
• 第4章 基于CPU-GPU异构计算的LDA算法实现42-53
• 4.1 引言42
• 4.2 基于CPU-GPU异构计算的LDA算法设计42-46
• 4.2.1 基于CPU-GPU异构计算的类内和类间散度矩阵的构建42-44
• 4.2.2 基于CPU-GPU异构计算的LDA算法实现44-46
• 4.3 实验与分析46-52
• 4.3.1 实验环境与实验设计46-47
• 4.3.2 实验数据集描述47
• 4.3.3 实验结果与分析47-52
• 4.4 本章小结52-53
• 结论53-54
• 参考文献54-59
• 致谢59

【相似文献】

中国期刊全文数据库 前10条

1 陈晓红;陈松灿;;类依赖的线性判别分析[J];小型微型计算机系统;2008年05期

2 刘忠宝;王士同;;改进的线性判别分析算法[J];计算机应用;2011年01期

3 高建强;范丽亚;;模糊线性判别分析中距离对面部识别的影响[J];井冈山大学学报(自然科学版);2012年03期

4 葛熠;王亭亭;韩月;李峰;;基于核双子空间线性判别分析人脸识别方法[J];科技视界;2012年23期

5 任获荣;李春晓;孙建维;秦红波;何培培;高敏;;类依赖增强线性判别分析算法[J];西安电子科技大学学报;2012年05期

6 温凤文;王洪春;;改进的张量线性判别分析[J];黑龙江科技信息;2013年24期

7 赵越;徐鑫;乔利强;;张量线性判别分析算法研究[J];计算机技术与发展;2014年01期

8 赵芳;马玉磊;;基于概率线性判别分析的可扩展似然公式化人脸识别[J];科学技术与工程;2014年06期

9 周大可,杨新,彭宁嵩;改进的线性判别分析算法及其在人脸识别中的应用[J];上海交通大学学报;2005年04期

10 成忠;诸爱士;;一种适于高维小样本数据的线性判别分析方法[J];浙江科技学院学报;2008年02期

中国重要会议论文全文数据库 前2条

1 欧阳梅兰;张志敏;陈晨;刘鑫波;梁逸曾;;稀疏线性判别分析法在代谢组学数据研究中的应用[A];中国化学会第29届学术年会摘要集——第19分会：化学信息学与化学计量学[C];2014年

2 张明锦;杜一平;童佩瑾;;基于非相关线性判别分析的分层特征选择方法及其在蛋白质组数据分析中的应用[A];第十届全国计算(机)化学学术会议论文摘要集[C];2009年

中国博士学位论文全文数据库 前3条

1 任忠国;基于γ特征谱的对象相似性识别技术研究[D];兰州大学;2015年

2 刘忠宝;基于核的降维和分类方法及其应用研究[D];江南大学;2012年

3 潘志斌;半监督排序的若干关键问题研究[D];华中科技大学;2014年

中国硕士学位论文全文数据库 前10条

1 王金贝;基于奇异值分解的不相关线性判别分析的通解与性质[D];郑州大学;2015年

2 林轩;几种分类问题的研究[D];吉林大学;2015年

3 孔昭阳;基于GPU的并行线性判别分析算法研究[D];哈尔滨工业大学;2014年

4 李道红;线性判别分析新方法研究及其应用[D];南京航空航天大学;2005年

5 曾丽辉;稀疏线性判别分析在文本分类中的应用研究[D];华东交通大学;2011年

6 姜园媛;人脸识别中关于线性判别分析算法的若干研究[D];吉林大学;2012年

7 王东;改进的二维直接线性判别分析方法及在人脸识别中的应用[D];云南大学;2015年

8 苗春玉;线性判别分析改进算法的分析与研究[D];辽宁师范大学;2012年

9 王增锋;线性判别分析子空间方法人脸识别研究[D];山东大学;2006年

10 刘杰;基于集成局部分块线性判别分析的人脸识别[D];南昌大学;2012年

，

本文编号：665384