基于正则化最小二乘的安全半监督学习算法研究

发布时间：2024-04-24 21:58

　　半监督学习是同时利用标记和未标记数据进行学习的一种机器学习方法,其希望挖掘未标记样本的信息提升学习性能。但在某些场景中,由于未标记样本的引入,半监督学习的性能甚至不如相应监督学习的性能,因此如何安全挖掘未标记样本的信息,成为了一个研究热点。文章在总结现有安全半监督学习基础上,结合正则化最小二乘算法(RLS)和拉普拉斯正则化最小二乘算法(Lap RLS),采用对偶学习机制和风险度自适应估计策略,提出了两种安全半监督学习算法。文章具体研究内容如下:(1)提出了一种基于对偶学习的安全半监督学习算法(DALLAS)。该算法采用RLS和协同表示分类算法(CRC)分别作为原模型和对偶模型,来预测和重构未标记样本,根据重构误差计算风险度,构建基于风险度的安全半监督学习算法。对于每个未标记样本,若重构误差大,则其风险度大且其预测应该接近监督学习预测。否则,未标记样本的风险度小。最后,在医疗疾病和数字识别等标准数据集上的实验表明,DALLAS能较好地降低未标记样本的风险程度,特别是在标记样本较少的情况下,从而降低了半监督学习错误分类的风险,提升了算法的安全性。(2)提出了一种基于l₁

【文章页数】：74 页

【学位级别】：硕士

【部分图文】：

图2.2泛化误差与偏差、方差的关系示意图

杭州电子科技大学硕士学位论文22的计算或模型参数增加等代价，在此时的各种解其实大致也能符合需求，故需要施加一种约束Ω()，使得在满足的假设空间内找到按照约束偏好的解。按照如上描述，加入正则项的目标函数形式如下：min(,())+()(2.24)(,())可以选取最小二乘形式、0/....

本文编号：3963564