基于预训练语言模型自注意力机制的情感分析研究

发布时间：2021-03-12 22:53

　　随着网络的盛行与网络技术的发展,用户可在网络中发表自己对事物的观点,这些观点中含有用户想要表达的情感因素。这些含有明显情感的评论可以直接反映用户或网民对该事物的看法,随着大数据技术的进步以及硬件设施的提高,各个平台都会建立自己的评论板块,这使得网络平台上的信息文本数据量呈现急剧增长得趋势,如何更高效的得到文本中的有效信息,并且更加准确地发掘评论中的情感因素已成为当前工业界和学术界的迫切要求。情感分析又称为意见挖掘、主观因素挖掘等,通过计算机处理大量网络评论,对具有情感因素的文本进行分析的过程,该研究可以有效的通过评论等信息掌握大众对一些事物的舆论倾向。本文主要研究内容如下:（1）针对于传统情感分类模型的分类效果不足以及无法准确的捕捉词语之间关系的问题,本文提出一种基于预训练语言模型词向量融合的GE-Bi LSTM（Glove-ELMO-Bi LSTM）情感分析算法,先通过预训练语言模型ELMO以语言模型为目的训练词向量,再与传统的Glove模型的训练结果进行运算融合,结合了全局信息以及局部上下文信息,增加了词向量矩阵的稠密度,词语之间的特征得到更好的表达,结合Bi LSTM神经网络可以... 

【文章来源】：河南大学河南省

【文章页数】：59 页

【学位级别】：硕士

【部分图文】：

LSTM单元细节图

RNN构建语言模型图

GE-BiLSTM情感分析模型流程图

【参考文献】：
期刊论文
[1]基于多通道双向长短期记忆网络的情感分析[J]. 李卫疆,漆芳.  中文信息学报. 2019(12)
[2]基于关键词和关键句抽取的用户评论情感分析[J]. 喻影,陈珂,寿黎但,陈刚,吴晓凡.  计算机科学. 2019(10)
[3]用于基于方面情感分析的RCNN-BGRU-HN网络模型[J]. 孙中锋,王静.  计算机科学. 2019(09)
[4]基于自动提取句法模板的情感分析[J]. 潘浩,卫宇杰,潘尔顺.  中文信息学报. 2019(09)
[5]基于BiLSTM并结合自注意力机制和句法信息的隐式篇章关系分类[J]. 凡子威,张民,李正华.  计算机科学. 2019(05)
[6]融合词向量及BTM模型的问题分类方法[J]. 黄贤英,谢晋,龙姝言.  计算机工程与设计. 2019(02)
[7]基于BiLSTM神经网络的特征融合短文本分类算法[J]. 和志强,杨建,罗长玲.  智能计算机与应用. 2019(02)
[8]基于GloVe模型的词向量改进方法[J]. 陈珍锐,丁治明.  计算机系统应用. 2019(01)
[9]融合卷积神经网络与层次化注意力网络的中文文本情感倾向性分析[J]. 程艳,叶子铭,王明文,张强,张光河.  中文信息学报. 2019(01)
[10]基于深度神经网络的微博文本情感倾向性分析[J]. 钮成明,詹国华,李志华.  计算机系统应用. 2018(11)



本文编号：3079126