分布式系数正则化回归学习

发布时间：2021-04-17 12:09

　　近些年来,有关大数据分析的研究热度居高不下,已经成为了统计、数学、计算机科学等多个学科领域中的热点研究课题之一。大数据其实有两层含义,一是数据的数量大;二是无标号的、杂乱的数据多。针对数据的数量大的特点,并行计算与分布式学习的思想在学习理论中得到了广泛的关注。分布式学习的基本思想是把一个超大的数据集{z _i}^N_i（28）1以某种方式分拆成m个不相交的部分送到m个数据处理单位,每个部分先被单独并行处理分析,然后处理结果再被聚合在一起。由于数据分析的目的不同,分布式学习的算法也多种多样。本文将主要致力于分布式学习和基于系数的正则化回归学习的数学基础的研究,通过样本算子、积分算子和算子差的分解技巧和关于误差分解的一些新的想法,推导出令人满意的误差界和学习速率。我们的研究结果表明当m不超过一定的阈值时,分布式学习和对整个数据进行一次性学习得到的学习速率是一致的。本文的内容主要分为:第一章介绍统计学习理论的发展历史与基本框架。第二章介绍正则化学习算法的研究现状和预备知识,重点介绍系数正则化算法。第三章介绍分布式学习问题的研究现状,... 

【文章来源】：济南大学山东省

【文章页数】：60 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
第一章 绪论
    1.1 统计学习理论
    1.2 统计学习理论的基本框架
第二章 正则化学习算法
    2.1 再生核Hilbert空间与算子
    2.2 正则化最小二乘算法
    2.3 系数正则化算法
第三章 分布式核岭回归学习算法
    3.1 分布式学习
    3.2 分布式核岭回归学习
第四章 分布式系数正则化回归学习算法
    4.1 基本假设
    4.2 主要引理
    4.3 分布式系数正则化回归学习算法的一致性分析
    4.4 分布式部分系数正则化学习算法的一致性分析
第五章 结论与展望
参考文献
致谢
附录


【参考文献】：
期刊论文
[1]Sharp learning rates of coefficient-based lq-regularized regression with indefinite kernels[J]. LV ShaoGao,SHI DaiMin,XIAO QuanWu,ZHANG MingShan.  Science China（Mathematics）. 2013(08)

硕士论文
[1]非同分布抽样回归学习算法[D]. 张美建.济南大学 2017
[2]分位点学习及其相关问题[D]. 李朦.济南大学 2016



本文编号：3143429