基于多尺度高斯核的分布式正则化回归学习算法

发布时间：2024-03-31 20:01

　　针对工业、信息等领域出现的基于较大规模、非平稳变化复杂数据的回归问题,已有算法在计算成本及拟合效果方面无法同时满足要求.因此,文中提出基于多尺度高斯核的分布式正则化回归学习算法.算法中的假设空间为多个具有不同尺度的高斯核生成的再生核Hilbert空间的和空间.考虑到整个数据集划分的不同互斥子集波动程度不同,建立不同组合系数核函数逼近模型.利用最小二乘正则化方法同时独立求解各逼近模型.最后,通过对所得的各个局部估计子加权合成得到整体逼近模型.在2个模拟数据集和4个真实数据集上的实验表明,文中算法既能保证较优的拟合性能,又能降低运行时间.

【文章页数】：11 页

【部分图文】：

图1分布式学习方法流程图Fig．1Flowchartofdistributedlearningmethod

参数记为σt(t=1，2，…，l)，并假设σ1＜σ2＜…＜σl，其对应的核函数为Kt(x，x')=exp(－x－x'22σ2t)．1．3基于分布式学习的正则化回归学习算法Zhang等［10］提出基于分布式学习的正则化回归学习算法(DivideandConquerKernelＲid....

图2模拟数据集1的分布Fig．2Distributionofsimulateddataset1

t∈{2i，i=－6，－5，…，6}，m∈{4i，i=1，1．5，…，4}，λk∈{10i，i=－7，－6，…，3}．将优化问题中正则化项λ∑lt=1(vt，s)2fts2Kt的参数合并，记为正则化组合系数{λk}l×mk=1．对于模拟数据1，选取不同大小的样本，对LSＲＲ、LS....

本文编号：3944431