多分类代价敏感支持向量机的拓展与研究
发布时间：2020-12-14 07:23
随着数据时代的发展,代价敏感的多分类问题受到越来越多的重视。现有的基于支持向量机模型的多分类算法可以大致分为两类,其一是组合多个二分类器,但是这类方法将每一类样本和其他类的样本独立开来,忽略了不同类别样本之间的联系,在一些情境中效果不佳。其二即多分类支持向量机,将多个分类面的参数求解合并到一个最优化问题中,一次性实现多分类。相较与前者,其增加了所需求解的参数个数,但能较好掌握数据类别分布。多分类代价敏感支持向量机即为旨在解决代价敏感问题的第二类算法的代表。本文着重在多分类代价敏感支持向量机的基础上,将原始模型正则项进行拓展,通过引入参数将目标函数转化为二次规划问题,并研究正则项对模型的影响。本文利用高效块坐标下降法对模型参数进行求解,并针对大规模样本,详细给出模型高效计算的方法。通过实例将模型与现有较为成熟的多分类方法进行对比,展现新的模型在一般分类和代价敏感学习上的优势。同时,本文对已有Rademacher结构引理进行拓展,利用该引理计算多分类模型的泛化边界,将其与Gaussian泛化边界进行对比。最后,本文给出拓展后的多分类代价敏感支持向量机的泛化边界,研究泛化边界与分类问题的类别...
【文章来源】：华东师范大学上海市 211工程院校 985工程院校 教育部直属院校
【文章页数】：57 页
【学位级别】：硕士
【部分图文】：
Gu(c,q,k)和Ra(c,q,k)在不同k,c下关于q的变化趋势对比
图像集包含 40 个不同的实验对象在同一背景，不同的时间、光线、面部表情 (睁开/闭上眼睛，微笑/不微笑) 和面部表情细节 (眼镜/不戴眼镜) 下的 10 张正面照片（人脸图像的样本总数为 400 张），部分图像如图4-1 所示。为了在不同类别的代价敏感学习中对比 p-mcSVM 模型和 mcSVM 模型的表现，需要依据每对人脸图像集进行二次处理，处理步骤如下：[1.] 确定 N(N=2,3,4,5)[2.] 随机固定 15 人作为入侵者, 计为 I 类。[3.] 剩下的 25 人作为集体内部人员, 计为 G 类。将集体内部人员 (G) 随机分成 N 小类。[4.] 设定误分类代价比为 CIG: CGI: CGG。-27-
§4.2 p-mcSVM 模型的参数模拟(3) p-mcSVM 模型的 err 和总损失 cost 大于 mcSVM，即 p-mcSVM 模型对集体内部人员的分类不敏感，这部分的误分类代价较小。因此， p-mcSVM 能减少代价较大的误分类事件，但同时也会增加代价较小的误分类事件发生的次数。§4.2 p-mcSVM 模型的参数模拟本节研究无代价敏感下采用高斯核时，模型参数与高斯核参数 σ 之间的关系。模拟实验采用 k = 2,5,10 的三组数据，分别研究模型在不同参数组合下根据三组数据拟合出的 β 变化路径，固定模型参数 λ = 0.1。
本文编号：2916061
【文章来源】：华东师范大学上海市 211工程院校 985工程院校 教育部直属院校
【文章页数】：57 页
【学位级别】：硕士
【部分图文】：
Gu(c,q,k)和Ra(c,q,k)在不同k,c下关于q的变化趋势对比
图像集包含 40 个不同的实验对象在同一背景，不同的时间、光线、面部表情 (睁开/闭上眼睛，微笑/不微笑) 和面部表情细节 (眼镜/不戴眼镜) 下的 10 张正面照片（人脸图像的样本总数为 400 张），部分图像如图4-1 所示。为了在不同类别的代价敏感学习中对比 p-mcSVM 模型和 mcSVM 模型的表现，需要依据每对人脸图像集进行二次处理，处理步骤如下：[1.] 确定 N(N=2,3,4,5)[2.] 随机固定 15 人作为入侵者, 计为 I 类。[3.] 剩下的 25 人作为集体内部人员, 计为 G 类。将集体内部人员 (G) 随机分成 N 小类。[4.] 设定误分类代价比为 CIG: CGI: CGG。-27-
§4.2 p-mcSVM 模型的参数模拟(3) p-mcSVM 模型的 err 和总损失 cost 大于 mcSVM，即 p-mcSVM 模型对集体内部人员的分类不敏感，这部分的误分类代价较小。因此， p-mcSVM 能减少代价较大的误分类事件，但同时也会增加代价较小的误分类事件发生的次数。§4.2 p-mcSVM 模型的参数模拟本节研究无代价敏感下采用高斯核时，模型参数与高斯核参数 σ 之间的关系。模拟实验采用 k = 2,5,10 的三组数据，分别研究模型在不同参数组合下根据三组数据拟合出的 β 变化路径，固定模型参数 λ = 0.1。
本文编号：2916061
本文链接：https://www.wllwen.com/guanlilunwen/tongjijuecelunwen/2916061.html
