基于结构信息的多生支持向量机模型与算法研究
发布时间：2020-12-08 20:59
孪生支持向量机在机器学习领域有着广泛的应用,其主要目的是用来解决二分类问题,是多分类问题在现实生活中是最为常见的。因此研究人员对孪生支持向量机进行改进,提出了许多不同策略的多分类孪生支持向量机用于解决多分类问题。多生支持向量机作为一种新型的改进方法,其每一个二次规划问题的大小只受到相应类的数据规模的限制,相比于其他的多分类孪生支持向量机具有计算复杂度低、训练速度快等优点。因此倍受研究者们的青睐。然而,多生支持向量机在建立模型时忽略了样本数据的结构信息,这些信息可能包含一些重要的先验知识。同时多生支持向量机经常凭借经验值或网格搜索法进行参数选择,使得算法容易陷入局部最优解。本文结合样本数据的结构化信息来改进多生支持向量机,同时在多生支持向量机的参数选择方面,利用群智能优化算法对其进行优化,以提高算法的分类准确率。其主要研究内容如下:首先,本文研究了基于能量的结构化最小二乘多生支持向量机。对结构最小二乘孪生支持向量机进行改进,提出了基于能量的结构最小二乘孪生支持向量机。它通过为每个超平面引入能量因子,将结构最小二乘孪生支持向量机二次规划问题中的不等式约束转化为基于能量因子的等式约束,该算法...
【文章来源】：中国矿业大学江苏省 211工程院校 教育部直属院校
【文章页数】：85 页
【学位级别】：硕士
【部分图文】：
在拐点选择最佳簇类个数Figure3-1Choosingthekneepointastheoptimalnumberofclusters线性ES-LSTWSVM的数学模型
硕士学位论文36示了分类性能在Heart，Liver，Breast和Ionosphere数据集上随能量参数E+和E的变化而变化。从Heart中可以看出当E0.7,E1.0+==时，算法在Heart数据集上的分类准确率高达86.96%。从Liver中可以看出当E:E4:3+=时，算法在Liver数据集上的分类准确率高达71.15%。从Breast中可以看出当E0.8,E0.7+==时，算法在Breast数据集上的分类准确率高达77.38%。从Ionosphere可以看出当E:E1:1+=时，算法在Ionosphere数据集上的分类准确率高达88.68%。由此可知，我们可以通过寻找最优能量参数来确定最优超平面。图3-4能量参数E+和E对ESLS-TWSVM性能的影响Figure3-4Theeffectofenergyparameters(E+andE)ontheperformanceoftheESLS-TWSVM统计分析为了更好地说明实验结果，我们使用Friedman检验。假设我们使用不同的数据集来比较这些算法。首先，在每个数据集上获取各个算法相应的测试结果。然后，根据在每个数据集上的分类准确率，对每个算法从高到低进行排序。例如，分类准确率最高的算法排名为1，次高的算法排名为2，依此类推。如果算法的分类准确率相同，则算法的得分值相同。表3-5给出了上述算法在线性情况下准确度的平均等级。
硕士学位论文40图3-5宏观平均ROC曲线和AUC值Figure3-5Macro-averageROCcurvesandAUC表3-7非线性情况下各个算法的AUC值Table3-7TheAUCofeachalgorithmusingtheRBFkernel数据集OVOTWSVMOVRTWSVMILST-KSVCMBSVMIMBSVMMBLSSVMESLS-MBSVMIris0.950.960.800.960.970.950.98Wine0.750.850.930.720.580.790.84Glass0.870.750.740.750.790.740.81Vowel0.990.990.980.990.980.960.99Balance0.800.800.810.770.820.760.88Vehicle0.920.770.740.800.560.850.86CMC0.630.660.590.660.610.670.72Zoo0.970.970.960.960.960.950.98DNA0.600.570.510.570.590.730.63Segment0.910.940.880.970.940.960.98平均值0.840.830.790.820.780.840.87
【参考文献】：
期刊论文
[1]基于改进QPSO算法的电动汽车模糊控制器参数优化[J]. 袁小平,金鹏,周国鹏. 计算机应用研究. 2019(12)
[2]量子粒子群优化算法的收缩—扩张系数控制策略研究[J]. 黄为勇,徐晓菊,潘晓博,孙彦景,李松. 计算机应用研究. 2016(09)
[3]量子粒子群优化算法的收敛性分析及控制参数研究[J]. 方伟,孙俊,谢振平,须文波. 物理学报. 2010(06)
[4]具有量子行为的粒子群优化算法的参数选择[J]. 康燕,孙俊,须文波. 计算机工程与应用. 2007(23)
[5]具有向量凸性的多目标规划的Wolf对偶[J]. 周厚春. 洛阳大学学报. 2000(04)
博士论文
[1]量子行为粒子群优化算法研究[D]. 孙俊.江南大学 2009
本文编号：2905676
【文章来源】：中国矿业大学江苏省 211工程院校 教育部直属院校
【文章页数】：85 页
【学位级别】：硕士
【部分图文】：
在拐点选择最佳簇类个数Figure3-1Choosingthekneepointastheoptimalnumberofclusters线性ES-LSTWSVM的数学模型
硕士学位论文36示了分类性能在Heart，Liver，Breast和Ionosphere数据集上随能量参数E+和E的变化而变化。从Heart中可以看出当E0.7,E1.0+==时，算法在Heart数据集上的分类准确率高达86.96%。从Liver中可以看出当E:E4:3+=时，算法在Liver数据集上的分类准确率高达71.15%。从Breast中可以看出当E0.8,E0.7+==时，算法在Breast数据集上的分类准确率高达77.38%。从Ionosphere可以看出当E:E1:1+=时，算法在Ionosphere数据集上的分类准确率高达88.68%。由此可知，我们可以通过寻找最优能量参数来确定最优超平面。图3-4能量参数E+和E对ESLS-TWSVM性能的影响Figure3-4Theeffectofenergyparameters(E+andE)ontheperformanceoftheESLS-TWSVM统计分析为了更好地说明实验结果，我们使用Friedman检验。假设我们使用不同的数据集来比较这些算法。首先，在每个数据集上获取各个算法相应的测试结果。然后，根据在每个数据集上的分类准确率，对每个算法从高到低进行排序。例如，分类准确率最高的算法排名为1，次高的算法排名为2，依此类推。如果算法的分类准确率相同，则算法的得分值相同。表3-5给出了上述算法在线性情况下准确度的平均等级。
硕士学位论文40图3-5宏观平均ROC曲线和AUC值Figure3-5Macro-averageROCcurvesandAUC表3-7非线性情况下各个算法的AUC值Table3-7TheAUCofeachalgorithmusingtheRBFkernel数据集OVOTWSVMOVRTWSVMILST-KSVCMBSVMIMBSVMMBLSSVMESLS-MBSVMIris0.950.960.800.960.970.950.98Wine0.750.850.930.720.580.790.84Glass0.870.750.740.750.790.740.81Vowel0.990.990.980.990.980.960.99Balance0.800.800.810.770.820.760.88Vehicle0.920.770.740.800.560.850.86CMC0.630.660.590.660.610.670.72Zoo0.970.970.960.960.960.950.98DNA0.600.570.510.570.590.730.63Segment0.910.940.880.970.940.960.98平均值0.840.830.790.820.780.840.87
【参考文献】：
期刊论文
[1]基于改进QPSO算法的电动汽车模糊控制器参数优化[J]. 袁小平,金鹏,周国鹏. 计算机应用研究. 2019(12)
[2]量子粒子群优化算法的收缩—扩张系数控制策略研究[J]. 黄为勇,徐晓菊,潘晓博,孙彦景,李松. 计算机应用研究. 2016(09)
[3]量子粒子群优化算法的收敛性分析及控制参数研究[J]. 方伟,孙俊,谢振平,须文波. 物理学报. 2010(06)
[4]具有量子行为的粒子群优化算法的参数选择[J]. 康燕,孙俊,须文波. 计算机工程与应用. 2007(23)
[5]具有向量凸性的多目标规划的Wolf对偶[J]. 周厚春. 洛阳大学学报. 2000(04)
博士论文
[1]量子行为粒子群优化算法研究[D]. 孙俊.江南大学 2009
本文编号：2905676
本文链接：https://www.wllwen.com/shoufeilunwen/xixikjs/2905676.html
