基于注意力机制的中文情感分析

发布时间：2023-01-30 19:07

　　情感分析,也称意见挖掘,是指对一段文本的感情进行分类,并在此基础上对文义进行归纳和推理的过程,例如对某一电影评论或某一商品评价在感情上如积极、消极或中立等进行分类,以此对电影或商品的受欢迎程度进行分析。研究情感分析,对于个人,企业甚至是国家来说,都有着非常重要的意义。情感分析是一个有监督学习中的分类问题,同时也是一个序列建模的问题。但值得注意的是,目前国内外大部分情感分析方法在英文文本的应用上较为成熟和有效,而对于中文文本分析的相关应用研究相对较少。究其原因主要是中文文本的测评资源比较匮乏且杂乱;同时相较英文而言,中文因分词的复杂度高因而在处理上存在着巨大的挑战。因此,本课题将基于注意力机制建立一个针对中文情感分析的有效模型,着重研究中文文本的情感分析。本文通过对中文的情感分析数据集进行测试,探索并提出了一种不同于卷积神经网络或者循环神经网络的神经网络模块—SAE（自我注意力网络）。论文将介绍两种自我注意力的网络架构,称为SAE和SAE2。SAE是在SAN的工作上进行开发的,SAN的目标是创建最简单的SAN架构,使其可以与基本的循环神经网络和卷积神经网络架构进行比较。SAE2是我们SA... 

【文章页数】：69 页

【学位级别】：硕士

【文章目录】：
摘要
ABSTRACT
第1章 绪论
    1.1 课题背景及研究的目的和意义
    1.2 国内外研究现状
    1.3 本文贡献
    1.4 本文结构
    1.5 本章小结
第2章 神经网络基础
    2.1 前馈神经网络
    2.2 循环神经网络
    2.3 注意力机制
        2.3.1 模型集成应用
        2.3.2 门控应用
        2.3.3 预训练模型应用
    2.4 卷积神经网络
    2.5 本章小结
第3章 注意力机制模型
    3.1 自我注意力机制
    3.2 Transformer架构
    3.3 BERT模型
    3.4 Universal Transformer模型
    3.5 Transformer-XL模型
    3.6 本章小结
第4章 自我注意力网络
    4.1 自我注意力网络编码(SAE)
    4.2 拓展的自我注意力网络编码(SAE2)
    4.3 本文创新点
    4.4 本章小结
第5章 情感分析
    5.1 构建模块的比较
        5.1.1 实验细节
        5.1.2 结果分析
        5.1.3 模型特征
        5.1.4 讨论
    5.2 数据集的最新结果
        5.2.1 实验细节
        5.2.2 结果与讨论
        5.2.3 模型特征
    5.3 本章小结
结论
参考文献
致谢


【参考文献】：
期刊论文
[1]基于深层注意力的LSTM的特定主题情感分析[J]. 胡朝举,梁宁.  计算机应用研究. 2019(04)
[2]基于双重注意力模型的微博情感分析方法[J]. 张仰森,郑佳,黄改娟,蒋玉茹.  清华大学学报(自然科学版). 2018(02)
[3]基于卷积神经网络和注意力模型的文本情感分析[J]. 冯兴杰,张志伟,史金钏.  计算机应用研究. 2018(05)



本文编号：3733364