支持向量机增量学习研究

发布时间：2024-11-02 08:22

　　传统的机器学习方法是静态的学习模式,即基于大量已有样本进行训练,然后利用训练好的模型来完成特定的预测、分类或回归等学习目标。然而,现实生活中数据不断到来,导致旧模型需要不断更新;而且,人类的学习也是逐渐累积、不断成长的过程,随着新知识的不断涌现,学习过程也需要同步更新。这样,静态的学习模式不能满足持续学习的需要,如何在历史学习成果的基础上,采用增量学习的模式,更新、改进旧知识,而不必完全推倒所有历史成果重新学习,是人工智能及机器学习理论中一个非常重要的问题。支持向量机(Support Vector Machine,SVM)是统计学习理论中非常重要的一种机器学习方法,它基于统计学习理论中结构风险最小化的思想,通过解凸二次规划问题,来得到最优的分类超平面。本文基于学习样本以数据流形式出现,从极少样本开始学习,以及学习过程需要不断调整与改进等实际情况,以在线式增量学习的角度,对SVM增量学习(ISVM)的相关理论、SVM增量学习的在线式过程以及如何提高SVM增量学习的效率与性能等进行了重点的研究。本文的主要工作和成果如下:1.传统的SVM增量学习在每当遇到违背Karush-Kuhn-Tucke...

【文章页数】：110 页

【学位级别】：博士

【部分图文】：

第四章支持向量机的增量学习算法的研究p1=100,p2=6;pt为分类器的测试正确率（分类器在测试集上的分类正确率）sum(d)为所有样本与分类超平面的距离之和。则每次增量学习之后，就可以抛弃那些与分类超平面距离大于β的样本，保留其它样本作为进一步增量学习的初始样本。这里β为....

因而是完全可行的。根据相关向量机理论，建立的预测模型可表示为1,NiiifxwKxxb(5.3)从式(5.3)可知，并不是所有的样本都在预测模型构建中发挥同样重要的作用，只有很少的一部分被称为相关向量的样本对相关向量机性能起决定性作用。相关....

(2-2)如图所示：图2-1支持向量机及分类超平面示意图其中，A，B，C三点表示当前模型对上述样本未能最优分类的情况。与b可通过解以下优化问题得到：2,1min2..()11,...,bTistyxbil(2-3)其中，与b分别为最优分....

浙江工业大学博士学位论文22图2-2概念漂移问题[8]即类别的先验概率发生了变化（图2-2a）、类别本身的分布发生变化（图2-2b）和类别中样本的后验概率发生变化（图2-2c）[8]。针对概念漂移问题，一般采用如下几种方法：（1）基本学习器的自适应方法，如自适应的决策树方法、k....

本文编号：4009300