线性判别分析与多平面支持向量机鲁棒模型研究
发布时间:2023-05-31 21:18
线性判别分析(Linear Discriminant Analysis,LDA)和多平面支持向量机(Multisurface Support Vector Machine,MSVM)作为最有效的特征提取与支持向量机分类器之一,已经取得了长足的发展。然而不论是LDA还是MSVM,其目标函数均采用平方L2-范数作为距离度量。由于平方操作容易夸大异常值的影响,会使得投影偏离于理想的方向,进而降低了模型的分类性能。近几年,虽然有研究人员提出了许多鲁棒的LDA和MSVM方法,但仍然无法保证模型足够的鲁棒判别能力。为了缓解此问题,本文重点研究几种经典的鲁棒LDA和MSVM方法的工作机理,并通过分析它们的不足,提出了三种新颖的LDA和MSVM方法,旨在进一步提高模型的鲁棒性与泛化能力。本文主要工作概括如下:1)鉴于L1-范数非贪婪线性判别分析(NLDA-L1)算法的优异表现,在其基础上进一步提出了一种灵活非贪婪鲁棒判别分析(NLDA-Lp)算法。具体来说,它不仅保持了NLDAL1非贪婪求解的优点,而且利用Lp与Lq-范数分别对类内距离与类间距离进行度量,改善了算法的鲁棒性和灵活性。同时,还设计了一个...
【文章页数】:73 页
【学位级别】:硕士
【文章目录】:
致谢
摘要
abstract
第一章 绪论
1.1 研究背景与意义
1.2 国内外研究现状
1.2.1 特征提取
1.2.2 多平面支持向量机
1.3 本文主要工作及创新点
1.4 本文结构安排
第二章 相关工作简述
2.1 特征提取
2.1.1 主成分分析(PCA)
2.1.2 线性判别分析(LDA)
2.1.3 基于L1-范数的线性判别分析(LDA-L1)
2.1.4 基于L1-范数的非贪婪线性判别分析(NLDA-L1)
2.2 多平面支持向量机
2.2.1 基于广义特征值的近似支持向量机(GEPSVM)
2.2.2 对支持向量机(TSVM)
2.2.3 增强型多投影支持向量机(EMVSVM)
2.2.4 基于L1-范数的投影对支持向量机(TPSVM-L1)
2.3 本章小结
第三章 灵活非贪婪鲁棒线性判别分析
3.1 NLDA-Lp的目标函数及求解过程
3.2 收敛性证明
3.3 实验与结果分析
3.4 本章小结
第四章 基于L2,1-范数的多权向量投影支持向量机
4.1 范数定义
4.2 L2,1-EMVSVM的目标函数及求解过程
4.3 收敛性证明
4.4 实验与结果分析
4.5 本章小结
第五章 灵活鲁棒双边对支持向量机
5.1 基于Pinball损失的对支持向量机(Pin-TSVM)
5.2 非平行支持向量机(NSVM)
5.3 最佳拟合超平面分类器(BFHC)
5.4 FRTSVM的目标函数及求解过程
5.5 收敛性证明
5.6 实验与结果分析
5.7 本章小结
第六章 结束语
6.1 总结
6.2 未来工作展望
攻读学位期间研究成果及发表的学术论文
参考文献
本文编号:3826019
【文章页数】:73 页
【学位级别】:硕士
【文章目录】:
致谢
摘要
abstract
第一章 绪论
1.1 研究背景与意义
1.2 国内外研究现状
1.2.1 特征提取
1.2.2 多平面支持向量机
1.3 本文主要工作及创新点
1.4 本文结构安排
第二章 相关工作简述
2.1 特征提取
2.1.1 主成分分析(PCA)
2.1.2 线性判别分析(LDA)
2.1.3 基于L1-范数的线性判别分析(LDA-L1)
2.1.4 基于L1-范数的非贪婪线性判别分析(NLDA-L1)
2.2 多平面支持向量机
2.2.1 基于广义特征值的近似支持向量机(GEPSVM)
2.2.2 对支持向量机(TSVM)
2.2.3 增强型多投影支持向量机(EMVSVM)
2.2.4 基于L1-范数的投影对支持向量机(TPSVM-L1)
2.3 本章小结
第三章 灵活非贪婪鲁棒线性判别分析
3.1 NLDA-Lp的目标函数及求解过程
3.2 收敛性证明
3.3 实验与结果分析
3.4 本章小结
第四章 基于L2,1-范数的多权向量投影支持向量机
4.1 范数定义
4.2 L2,1-EMVSVM的目标函数及求解过程
4.3 收敛性证明
4.4 实验与结果分析
4.5 本章小结
第五章 灵活鲁棒双边对支持向量机
5.1 基于Pinball损失的对支持向量机(Pin-TSVM)
5.2 非平行支持向量机(NSVM)
5.3 最佳拟合超平面分类器(BFHC)
5.4 FRTSVM的目标函数及求解过程
5.5 收敛性证明
5.6 实验与结果分析
5.7 本章小结
第六章 结束语
6.1 总结
6.2 未来工作展望
攻读学位期间研究成果及发表的学术论文
参考文献
本文编号:3826019
本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3826019.html