支持向量机中最优化问题的研究

发布时间：2020-03-25 17:36

【摘要】： 支持向量机是基于统计学习理论，借助最优化方法来解决机器学习问题的新工具。它将机器学习问题转化为求解最优化问题，并应用最优化理论构造算法来解决问题，本文主要是从最优化理论和算法的角度对支持向量机中的最优化问题进行研究。 在理论上，本文首先详细地论述了支持向量机的基本思想和各种常用的支持向量机方法，然后通过深入分析，指出现有方法中存在的问题。针对这些问题，应用最优化理论进行深入研究，主要工作如下： 1．在作为支持向量机基础的原始问题解和对偶问题解的关系上，当时研究存在逻辑缺陷。本文发现并弥补了这一缺陷，第一次在完整严密的逻辑基础上完善了各种支持向量机中最优化问题的理论体系。 2．在部分情况下，支持向量机无法利用现有的公式计算决策函数的阈值。本文给出了所有可能情况下，支持向量机中决策函数阈值的求解公式。 3．Mangasarian提出广义支持向量机，但不包含标准的支持向量机：前者研究一般的严格凸规划问题，而后者针对的是特定的凸规划问题。本文推广了Mangasarian提出的广义支持向量机，使之适用于标准的支持向量机，从而完善了广义支持向量机的理论体系。 4．支持向量机中有一类重要的变形方法，虽然很有效，但缺乏相应的统计学习理论基础。本文从统计学习理论出发，对其进行深入研究。 在算法方面，本文在将支持向量机中的最优化问题转化为无约束问题的前提下，研究了Newton-PCG算法。Newton-PCG算法是解决无约束问题的有效方法，在该算法中需要求解一个一维整数最优化问题，并且算法的效率也依赖于它的最优值。本文建立了简单有效的算法来求解该问题，并通过估计它的最优值，对Newton-PcG算法的有效性给出数量上的估计。 目前，对支持向量机的研究主要是针对统计学习理论以及各种应用领域的研究，而从最优化理论的角度出发的研究工作甚少。因此本文的研究无论对支持向量机的理论还是实践应用，，都具有很重要的意义。
【学位授予单位】：中国农业大学
【学位级别】：博士
【学位授予年份】：2004
【分类号】：F224

【引证文献】

相关期刊论文 前3条

1 阎满富,田英杰;改进的支持向量回归机[J];系统工程;2004年10期

2 宋召青;崔和;胡云安;;支持向量机理论的研究与进展[J];海军航空工程学院学报;2008年02期

3 蔡春,万潇楠,逯燕玲;基于支持向量机的DNA序列分类系统的设计与实现[J];中国农业大学学报;2005年02期

相关博士学位论文 前4条

1 金珠;改进的支持向量机分类算法及其在煤矿人因事故安全评价中的应用[D];中国矿业大学;2011年

2 业宁;支持向量机若干基础研究及其在图像识别中的应用[D];东南大学;2006年

3 钟仪华;特高含水油田开发规划动态预测方法研究[D];西南石油大学;2008年

4 于晓明;支持向量机及其在制浆过程重要参数软测量中的应用研究[D];陕西科技大学;2012年

相关硕士学位论文 前8条

1 张艳杰;基于支持向量机的人力资源管理风险预测研究[D];河北工程大学;2010年

2 黄巧英;基于时变系统的支持向量机预测模型及其应用[D];西南石油大学;2011年

3 刘翠红;上海港水域船舶溢油事故分析及发展趋势预测[D];上海海事大学;2007年

4 李海涛;基于支持向量机的房地产投资风险预测方法研究[D];河北工程大学;2008年

5 蒋丽娜;基于支持向量机的建筑工程造价预测研究[D];河北工程大学;2009年

6 王丽伟;风电场风速及发电功率预测与经济效益研究[D];华北电力大学（北京）;2010年

7 吴静;基于支持向量机与图斑的高光谱分类方法研究[D];长安大学;2010年

8 叶琳;基于SVM的网络流量异常检测系统研究[D];云南大学;2010年

本文编号：2600197