基于变分不等式的支持向量机算法研究

发布时间：2017-05-01 14:08

  本文关键词：基于变分不等式的支持向量机算法研究，由笔耕文化传播整理发布。

【摘要】：支持向量机算法是当下机器学习的研究热点之一,它在处理数据分类问题时具有其独到的优势,并且能够推广应用到其他的机器学习问题中。传统的支持向量机算法在处理大规模数据分类问题时,有时会出现训练时间过长或是运算量过大等问题,这也是算法需要进行优化的原因之一。本文将支持向量机中的凸优化问题转化成等价的变分不等式问题进行求解,并基于定制邻近点算法、交替方向法、惯性临近点算法以及带交替步长的惯性邻近点算法这四种算法的思想,分别构造了四种新的优化迭代算法对等价的变分不等式进行求解。本文证明了这四种算法均能够收敛到变分不等式的解,并且都具有稳定的o(1/k)的收敛速度。文章最后采用了UCI上的多组数据集进行数值实验,选择了广泛被使用的支持向量机序列最小化(SMO)算法进行对比实验,证明了这四种改进的算法具有更好的实际效果。
【关键词】：变分不等式 支持向量机 邻近点算法 交替方向法 惯性邻近点算法
【学位授予单位】：南京大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP181
【目录】：

• 摘要6-7
• Abstract7-8
• 第一章 引言8-12
• 1.1 支持向量机问题介绍8-10
• 1.2 支持向量机研究现状10
• 1.3 序列最小化算法10-11
• 1.4 本文工作11-12
• 第二章 变分不等式问题12-14
• 2.1 零空间法简化优化问题12-13
• 2.2 支持向量机中的变分不等式问题13-14
• 第三章 算法描述及收敛性分析14-25
• 3.1 定制邻近点算法14-17
• 3.2 交替方向乘子算法17-19
• 3.3 惯性邻近点算法19-25
• 3.3.1 一般的惯性邻近点算法19-20
• 3.3.2 交替步长的惯性邻近点算法20-21
• 3.3.3 惯性邻近点算法解变分不等式21-25
• 第四章 算法实现25-30
• 4.1 基于CPPA的SVM算法25-26
• 4.2 基于ADMM的SVM算法26-27
• 4.3 基于IPPA的SVM算法27-28
• 4.4 基于交替步长IPPA的SVM算法28-30
• 第五章 数值实验30-37
• 5.1 二维数据分类效果30-34
• 5.2 高维数据分类效果34-37
• 第六章 总结与展望37-38
• 参考文献38-41
• 致谢41-42

【参考文献】

中国期刊全文数据库 前4条

1 冯昌;李子达;廖士中;;一种大规模支持向量机的高效求解算法[J];计算机科学;2015年09期

2 姚程宽;许建华;;双正则化参数的L_2-SVM参数选择[J];计算机工程与应用;2014年08期

3 CAI XingJu;GU GuoYong;HE BingSheng;YUAN XiaoMing;;A proximal point algorithm revisit on the alternating direction method of multipliers[J];Science China(Mathematics);2013年10期

4 ;Online LS-SVM for function estimation and classification[J];Journal of University of Science and Technology Beijing(English Edition);2003年05期

  本文关键词：基于变分不等式的支持向量机算法研究，，由笔耕文化传播整理发布。

本文编号：339088