基于特征选择和任务相关性的多任务最小二乘支持向量机

发布时间：2022-07-03 12:21

　　多任务学习作为机器学习的一个重要分支,在处理多个小样本相关联任务和挖掘相关任务之间的内在联系与共享信息等方面发挥了重大的作用。其中多任务支持向量机（Multi-task Support Vector Machine,MTSVM）是多任务学习中的一个重要的发展方向。然而现有的多任务支持向量机大多并不具备特征选择的功能,在面对高维度任务或者高噪声任务并不能达到很好的效果。此外,多任务支持向量机通常假设任务彼此相似且接近同一个均值超平面,但实际情况往往更加复杂。本文针对多任务支持向量机中的特征选择和任务相关性两个问题进行研究,主要工作包括:（1）从特征选择的角度出发,本文提出稀疏最小二乘多任务支持向量机-SMTLS-SVM和SMTLS-SVR,分别解决分类问题和回归问题。算法引入一个0-1向量来控制特征稀疏性,通过交替最小化算法迭代地进行特征选择和子问题求解。在算法的每次迭代中应用了最优特征排序方法来选择所有任务之间的共享特征。在模拟和现实数据集的实验中,SMTLS-SVM和SMTLS-SVR都表现出更好的性能,尤其是在含大量噪声的情况下,本文提出的算法较其它算法的具有更强的鲁棒性。（2）进... 

【文章页数】：69 页

【学位级别】：硕士

【部分图文】：

基于反向传播网络的单任务与多任务对比

多任务学习与单任务学习在车辆分类上的对比图示

关于多任务学习的公共特征共享上述多任务学习算法是基于各个任务之间存在着公共特征共享的假设，即所有任务

【参考文献】：
期刊论文
[1]An overview of multi-task learning[J]. Yu Zhang,Qiang Yang.  National Science Review. 2018(01)
[2]多因变量LS-SVM回归算法及其在近红外光谱定量分析中的应用[J]. 安欣,徐硕,张录达,苏时光.  光谱学与光谱分析. 2009(01)

硕士论文
[1]组稀疏多任务学习方法及其应用研究[D]. 孙怡.南京邮电大学 2019



本文编号：3654832