异构多任务学习以及任务分组效率研究

发布时间：2021-04-26 18:04

　　多任务学习（Multi-task Learning,MTL）是一种很有前景机器学习方法,通过利用多个相关任务的共享信息来提高每个任务的表现。在大数据时代下,存在许多相关的学习任务,而通常我们只会对单个任务进行处理,忽略了任务之间的共享信息,MTL算法致力于解决相关任务的信息共享问题。本文中针对两个问题研究。第一,已有的MTL算法大部分针对的是同构多任务学习,即假设多个任务具有相同的特征表示,然而,该假设并不适用大多数实际问题。第二,不同的任务一起训练会有不同的效果,任务分组问题是多任务学习中的一个研究热点,CFSFDP聚类算法可以用于解决任务分组问题,但该算法复杂度过高,很难应用于实际。具体研究内容如下所示:首先,针对异构多任务学习问题,提出MTNMF算法的改进算法IMTNMF。MTNMF算法假设多个任务具有相同语义输出空间,即每个任务的类别标签相同或者大部分重合。对于每个任务构造二部图来描述样本和类别之间的关联,通过标签层构建多个任务之间的联系。然后,通过多任务非负矩阵分解的方法（MTNMF）来学习多任务共享的隐含语义空间,并在训练过程中加入无标签样本信息,最终将问题转化为多任务多视... 

【文章来源】：燕山大学河北省

【文章页数】：58 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第1章 绪论
    1.1 研究背景和意义
    1.2 研究的主要问题
    1.3 本文的主要贡献
    1.4 论文的组织结构
第2章 多任务学习相关研究现状
    2.1 多任务学习概述
    2.2 基于特征多任务学习算法
        2.2.1 特征变换多任务学习算法
        2.2.2 特征选择多任务学习算法
        2.2.3 基于深度学习多任务学习算法
    2.3 基于参数多任务学习算法
        2.3.1 低维空间多任务学习算法
        2.3.2 任务聚类学习算法
    2.4 本章小结
第3章 基于语义的异构空间多任务学习
    3.1 引言
    3.2 问题定义和相关理论基础
        3.2.1 问题定义
        3.2.2 多任务多视图学习
        3.2.3 NMF矩阵分解算法
    3.3 异构空间多任务语义学习
        3.3.1 构建任务之间的联系
        3.3.2 共享语义特征空间提取
        3.3.3 共享语义特征空间提取算法优化
        3.3.4 学习分类器
        3.3.5 算法复杂度分析
    3.4 本章小结
第4章 基于密度峰值的聚类算法并行化
    4.1 引言
    4.2 研究内容和相关理论基础
        4.2.1 研究内容
        4.2.2 CFSFDP聚类算法
        4.2.3 Spark分布式计算框架
    4.3 CFSFDP聚类算法并行化
    4.4 本章小结
第5章 实验分析
    5.1 引言
    5.2 异构多任务学习实验
        5.2.1 数据集说明
        5.2.2 异构多任务实验结果分析
        5.2.3 同构多任务实验结果分析
        5.2.4 学习到的语义空间分析
    5.3 聚类算法并行化实验
        5.3.1 实验数据说明
        5.3.2 实验评价指标
        5.3.3 实验环境配置
        5.3.4 实验结果分析
    5.4 本章小结
结论
参考文献
攻读硕士学位期间承担的科研任务与主要成果
致谢


【参考文献】：
期刊论文
[1]多视角学习综述[J]. 唐静静,田英杰.  数学建模及其应用. 2017(03)



本文编号：3161866