基于异构集群的SVM并行计算研究
发布时间：2021-06-02 21:32
支持向量机（support vector machine,简称SVM）由于其完整的理论框架和在实际应用中取得的良好效果,特别是在多分类问题上显示其突出的能力以及作为运用核函数的成功范例,在人脸检测、时间序列预测、自适应信号处理、模式识别和图像识别等方面都得到广泛的应用。SVM训练阶段实质是求解二次规划（QP,Quadratic Programming）问题得到支持向量,求解QP问题过程中须计算出N阶矩阵（N为样本数量）。随着大数据时代的到来,在样本类别多,样本数量大、样本特征多情况下,存在计算量大,支持向量机内存使用过多,训练速度慢等问题。针对这些问题,本文就并行化SVM展开了相关工作,研究并行技术分散SVM内存依赖,加速训练过程,Lib SVM训练过程默认设置核函数Gamma参数和容错惩罚C参数,不利于提升训练精度和训练模型的泛化能力。国内外学者多基于二分类SVM采用混合编程（例如MPI+CUDA）并行加速SVM训练过程,而实际大概率需要处理多类样本,并且混合编程提升了开发者开发难度。论文主要工作如下:1.为提升分类精确度和支持向量机的模型泛化能力,基于Lib SVM增添参数优选功能...
【文章来源】：电子科技大学四川省 211工程院校 985工程院校 教育部直属院校
【文章页数】：73 页
【学位级别】：硕士
【文章目录】：
摘要
abstract
第一章 绪论
1.1 研究背景
1.2 高性能计算技术发展现状
1.3 并行化SVM国内外研究
1.4 课题研究内容及组织结构
第二章 异构集群并行计算框架
2.1 分布式并行技术比较
2.1.1 MPI
2.1.2 MapReduce并行架构
2.1.3 Spark并行架构
2.1.4 小结
2.2 异构集群并行计算框架软件
2.2.1 软件部署
2.2.2 工作流程
2.2.3 资源管理软件
2.2.4 节点管理软件
2.2.5 任务计算软件
2.2.6 应用程序
2.3 集群框架平台特点
第三章 支持向量机基本理论
3.1 经验风险最小化准则
3.2 结构风险最小化准则
3.3 线性支持向量机
3.4 非线性支持向量机
第四章 LIBSVM并行化
4.1 LIBSVM源码分析
4.1.1 类结构图
4.1.2 头文件SVM.h
4.1.2.1 structsvm_node
4.1.2.2 structsvm_problem
4.1.2.3 structsvm_model
4.1.3 SVM.cpp文件
4.1.3.1 类Cache
4.1.3.2 类Kernel
4.1.3.3 类Solver
4.1.4 多分类、交叉验证
4.2 SVM并行化方案比较
4.2.1 层级式并行
4.2.2 数据分块并行
4.2.3 svm_train_one并行
4.2.4 Q值计算并行
4.2.5 比较小结
4.3 LIBSVM并行化实现
4.3.1 框架接口
4.3.2 模型训练并行化改造
4.3.2.1 主流程并行化改造
4.3.2.2 svm_train_one函数并行化改造
4.3.3 交叉验证并行化改造
4.3.3.1 主流程并行化改造
4.3.3.2 svm_predict函数并行化改造
4.3.4 CPU多核并行计算
4.3.5 GPU版本并行算法
第五章 异构集群下的SVM并行计算性能分析
5.1 实验环境的建立
5.2 单节点测试结果
5.3 多节点测试结果
5.4 本章小结
第六章 总结与展望
6.1 全文总结
6.2 工作展望
致谢
参考文献
【参考文献】：
期刊论文
[1]FPGA异构计算平台及其应用[J]. 胡雷钧,陈乃刚,李健,韩峰,赵雅倩. 电力信息与通信技术. 2016(07)
[2]基于Spark的LIBSVM参数优选并行化算法[J]. 李坤,刘鹏,吕雅洁,张国鹏,黄宜华. 南京大学学报(自然科学). 2016(02)
[3]采用半定规划多核SVM的语音情感识别[J]. 姜晓庆,夏克文,夏莘媛,祖宝开. 北京邮电大学学报. 2015(S1)
[4]基于直方图均衡化、PCA和SVM算法的人脸识别[J]. 孙文荣,周先春,嵇亚婷. 软件. 2014(08)
[5]基于KKT条件的SVM增量学习算法[J]. 曹健,孙世宇,段修生,张泽建. 火力与指挥控制. 2014(07)
[6]基于自适应支持向量机的磨粒识别技术研究[J]. 石宏,张帅,李昂. 科学技术与工程. 2012(32)
[7]核函数的选择研究综述[J]. 汪廷华,陈峻婷. 计算机工程与设计. 2012(03)
[8]MapReduce并行编程模型研究综述[J]. 李建江,崔健,王聃,严林,黄义双. 电子学报. 2011(11)
[9]SVM分类核函数及参数选择比较[J]. 奉国和. 计算机工程与应用. 2011(03)
[10]支持向量机的SMO算法及其自适应改进研究[J]. 王伟,刘梅,段爱玲. 河南科学. 2010(04)
博士论文
[1]基于GPU的高性能并行优化算法研究[D]. 李繁.大连理工大学 2014
[2]基于多核DSP的实时图像处理平台研究[D]. 孙科林.电子科技大学 2012
[3]支持向量机加速方法及应用研究[D]. 曹葵康.浙江大学 2010
[4]支持向量机算法及其应用研究[D]. 张国云.湖南大学 2006
[5]支持向量机分类与回归方法研究[D]. 孙德山.中南大学 2004
[6]支持向量机算法的研究及其应用[D]. 范昕炜.浙江大学 2003
硕士论文
[1]求解大规模支持向量机问题的并行算法研究[D]. 李晓蕊.山东科技大学 2011
[2]基于二分类SVM的多分类方法比较研究[D]. 焦春鹏.西安电子科技大学 2011
本文编号：3210788
【文章来源】：电子科技大学四川省 211工程院校 985工程院校 教育部直属院校
【文章页数】：73 页
【学位级别】：硕士
【文章目录】：
摘要
abstract
第一章 绪论
1.1 研究背景
1.2 高性能计算技术发展现状
1.3 并行化SVM国内外研究
1.4 课题研究内容及组织结构
第二章 异构集群并行计算框架
2.1 分布式并行技术比较
2.1.1 MPI
2.1.2 MapReduce并行架构
2.1.3 Spark并行架构
2.1.4 小结
2.2 异构集群并行计算框架软件
2.2.1 软件部署
2.2.2 工作流程
2.2.3 资源管理软件
2.2.4 节点管理软件
2.2.5 任务计算软件
2.2.6 应用程序
2.3 集群框架平台特点
第三章 支持向量机基本理论
3.1 经验风险最小化准则
3.2 结构风险最小化准则
3.3 线性支持向量机
3.4 非线性支持向量机
第四章 LIBSVM并行化
4.1 LIBSVM源码分析
4.1.1 类结构图
4.1.2 头文件SVM.h
4.1.2.1 structsvm_node
4.1.2.2 structsvm_problem
4.1.2.3 structsvm_model
4.1.3 SVM.cpp文件
4.1.3.1 类Cache
4.1.3.2 类Kernel
4.1.3.3 类Solver
4.1.4 多分类、交叉验证
4.2 SVM并行化方案比较
4.2.1 层级式并行
4.2.2 数据分块并行
4.2.3 svm_train_one并行
4.2.4 Q值计算并行
4.2.5 比较小结
4.3 LIBSVM并行化实现
4.3.1 框架接口
4.3.2 模型训练并行化改造
4.3.2.1 主流程并行化改造
4.3.2.2 svm_train_one函数并行化改造
4.3.3 交叉验证并行化改造
4.3.3.1 主流程并行化改造
4.3.3.2 svm_predict函数并行化改造
4.3.4 CPU多核并行计算
4.3.5 GPU版本并行算法
第五章 异构集群下的SVM并行计算性能分析
5.1 实验环境的建立
5.2 单节点测试结果
5.3 多节点测试结果
5.4 本章小结
第六章 总结与展望
6.1 全文总结
6.2 工作展望
致谢
参考文献
【参考文献】：
期刊论文
[1]FPGA异构计算平台及其应用[J]. 胡雷钧,陈乃刚,李健,韩峰,赵雅倩. 电力信息与通信技术. 2016(07)
[2]基于Spark的LIBSVM参数优选并行化算法[J]. 李坤,刘鹏,吕雅洁,张国鹏,黄宜华. 南京大学学报(自然科学). 2016(02)
[3]采用半定规划多核SVM的语音情感识别[J]. 姜晓庆,夏克文,夏莘媛,祖宝开. 北京邮电大学学报. 2015(S1)
[4]基于直方图均衡化、PCA和SVM算法的人脸识别[J]. 孙文荣,周先春,嵇亚婷. 软件. 2014(08)
[5]基于KKT条件的SVM增量学习算法[J]. 曹健,孙世宇,段修生,张泽建. 火力与指挥控制. 2014(07)
[6]基于自适应支持向量机的磨粒识别技术研究[J]. 石宏,张帅,李昂. 科学技术与工程. 2012(32)
[7]核函数的选择研究综述[J]. 汪廷华,陈峻婷. 计算机工程与设计. 2012(03)
[8]MapReduce并行编程模型研究综述[J]. 李建江,崔健,王聃,严林,黄义双. 电子学报. 2011(11)
[9]SVM分类核函数及参数选择比较[J]. 奉国和. 计算机工程与应用. 2011(03)
[10]支持向量机的SMO算法及其自适应改进研究[J]. 王伟,刘梅,段爱玲. 河南科学. 2010(04)
博士论文
[1]基于GPU的高性能并行优化算法研究[D]. 李繁.大连理工大学 2014
[2]基于多核DSP的实时图像处理平台研究[D]. 孙科林.电子科技大学 2012
[3]支持向量机加速方法及应用研究[D]. 曹葵康.浙江大学 2010
[4]支持向量机算法及其应用研究[D]. 张国云.湖南大学 2006
[5]支持向量机分类与回归方法研究[D]. 孙德山.中南大学 2004
[6]支持向量机算法的研究及其应用[D]. 范昕炜.浙江大学 2003
硕士论文
[1]求解大规模支持向量机问题的并行算法研究[D]. 李晓蕊.山东科技大学 2011
[2]基于二分类SVM的多分类方法比较研究[D]. 焦春鹏.西安电子科技大学 2011
本文编号：3210788
本文链接：https://www.wllwen.com/kejilunwen/jisuanjikexuelunwen/3210788.html
