基于注意力的对抗多任务评论文本分类

发布时间：2022-01-26 06:35

　　在当今社会生活中,机器学习已经成为一个重要的研究话题和应用趋势。而在机器学习领域内,对于文本进行分类处理与分析是重要的研究方向并且具有实际应用价值。多任务学习通过利用多学习任务中所有有效的信息来缓解数据稀疏性问题,从而帮助每个任务提升学习能力,得到更为准确的结果。同时,通过学习任务之间可以互相利用的信息,分析未来数据,来帮助缓解数据稀疏性问题。从理论分析和实际应用中,多任务学习都要比单独学习这些任务表现的更具优势。目前,针对现有的传统多任务文本分类学习模型不能够对文本特征进行有效提取的问题,以及容易忽略输入信息重要程度的问题,本文将注意力机制与对抗多任务学习相结合,从评论文本数据输入处入手,引入注意力机制,提出基于注意力的对抗多任务文本分类模型。注意力机制是依靠权重对文本数据中能够反映文本特征的重要的文本信息进行重点关注,并达到对文本数据特征有效提取的目的。以往的注意力机制较为普遍地应用于图像处理任务上,近几年才开始在文本处理等任务上引入。注意力机制通过训练权值,加权计算,合理表示文本数据信息,按照重要程度学习文本信息,对后续学习任务有显著帮助。通过对比四种多任务文本分类学习模型的最高... 

【文章来源】：大连理工大学辽宁省 211工程院校 985工程院校 教育部直属院校

【文章页数】：58 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
1 绪论
    1.1 研究背景及意义
        1.1.1 文本分类的应用和挑战
        1.1.2 多任务文本分类的意义
        1.1.3 本文的研究问题
    1.2 国内外研究现状
        1.2.1 文本分类问题的研究
        1.2.2 多任务文本分类的研究
    1.3 本文研究内容及文章结构
2 相关理论基础和技术
    2.1 循环神经网络
        2.1.1 基本结构和原理
        2.1.2 长短期记忆单元
        2.1.3 门循环单元
    2.2 多任务学习模型
    2.3 本章小结
3 基于注意力机制的对抗多任务学习
    3.1 用于文本分类的多任务学习
    3.2 对抗多任务学习
    3.3 基于注意力的对抗多任务文本分类
        3.3.1 用于文本处理的注意力机制
        3.3.2 基于注意力的对抗多任务文本分类学习
    3.4 实验及分析
        3.4.1 实验数据及处理
        3.4.2 实验结果及分析
    3.5 本章小结
结论
参考文献
附录 A 附录内容名称
攻读硕士学位期间发表学术论文情况
致谢



本文编号：3609999