基于混合神经网络和BERT的文本方面级情感分析研究
发布时间：2021-12-09 22:58
随着互联网技术的发展,人类社会正迈进高度智能化和信息化阶段。文本作为凝练的信息载体,一直都是人们信息交流的主要媒介。目前互联网上积累了海量文本数据,其中包含了人们对商品、服务各方面的情感倾向。研究文本中的情感倾向能够帮助商户或服务提供方做出相关决策,具有重要商业价值和学术研究意义。近年来,文本方面级情感分析（Aspect-based Sentiment Analysis,ABSA）备受学者们的关注,其旨在分类出文本在不同方面上表达的情感倾向,更加贴近实际应用。根据方面的表述方式,ABSA可分为:方面词情感分析（Aspect-term Sentiment Analysis,ATSA）和方面类别情感分析（Aspect-category Sentiment Analysis,ACSA）。ABSA的传统解决方法通常为基于情感词典方法和基于特征提取的机器学习方法。基于情感词典方法的性能非常依赖于词典的质量,基于特征提取的机器学习方法需要繁重的特征工程。针对传统方法中的问题,深度学习方法可通过设计良好的模型来自动学习、提取与任务相关的特征,并突破传统方法的性能瓶颈。因此,本文主要研究基于深度学习相...
【文章来源】：华中师范大学湖北省 211工程院校 教育部直属院校
【文章页数】：82 页
【学位级别】：硕士
【部分图文】：
图１．１基于神经网络的语言模型??Ｐｅｔｅｒｓ等［６丨提出越于多层双向ＬＳＴＭ的深层语言模沏ＥＬＭｏ?（Ｅｍｂｅｄｄｉｎｇｓ?ｆｒｏｍ??
量化技术的相关理论；其次介绍深度学习中常见的祌经网络结构和原理，为后??面泥合祌经网络的提出做准备；然后介绍祌经Ｈ络的相关优化方法和防止过拟合的??Ｄｒｏｐｏｕｔ策略的原理；最后介绍应用在ＮＬＰ任务上的两类常用注意力机制，为后而??的ＢＥＲＴ模型介绍和改进内容做准备。??２．１文本情感分析??文本情感分析实质是实现文本分类，旨在分类出文本屮的情感倾向。本文所要??研宄的方面级情感分析是其中的一类重要任务，根据Ｍｅｄｈａｔ等Ｈ和Ｘｕｅ等［２］对文本??情感分析的分级，可以大致总结为如图２．１所示的几类。??Ｃ?＼??＾?文档级??ｒ—??交本丨Ｉ?ｉ感分析＾?？句子级??Ｎ．?／?＾?方面词情感分析１??、?方面级?＾＾??ｖ．?；?＼??￣方面类别情感分析?????ｙ??图２．１文本情感分析分类??文档级情感分析旨在分类出主题文档中的积极或者消极情感。句子级情感分析??分为两步，首先确定句子中是否包含主观观点，如果包含则对其情感态度进行分析。??因为句子与短文档具有等价关系，所以文捫级和切ｆ级怙感分析本质相同，可以将??句子当作短文档来进行文档级情感分析。但是两者都是将文本看作为一个整体来进??行分析，即一段文本对应一个情感倾向。??方面级情感分析旨在分类出文本在某些方面上的情感，并分为两种情况。例如??在文本“这家店的食物虽然好吃，但是地段不行，找不到停车的地方”小，ｍ明显??其中既包含了积极情感又包含消极情感，所以文挡级和句子级情感分析相关方法不??适用于该文本。一种情况，方面类別情感分析通过赋予例如“菜品”、“位置”等情??感类别来对文本中不同类别进行细粒度的情感分类，使文本可以分
比于分词更加直??接，一般情况下利用特定的标点符号来对段落进行切割。但是对于复杂的段落文本，??其中还有很多未考虑到的断句模式，所以还需要设计正则表达式来对句子中需要被??断句的部分进行精准分句。正则表达式描述的是一种字符串匹配的模式，如式２．１??所示，该表达式匹配的是常见的句子结尾标点符号。??［〇?？?！?＼．？！￣￣］｜（／．｛３｝）?（２．１）??２．３文本词向置化技术??在ＮＬＰ领域中很多深度学习模型都需要词向量作为输入。词向量化是一类语??言建模和特征学习技术，如图２．２所示，将词汇表中的每个单词映射至包含语义的??向量空间，相似的词之间距离更近。这类技术通过转置矩阵将高维度稀疏的词向量??空间转化为一个低维度稠密的词向量空间。高维度的同向量为词的独热编（Ｏｎｅ－??ｈｏｔ?Ｅｎｃｏｄｉｎｇ），?即每个词独占一个维度，所以随着词汇表的扩大，每个词向景呈现??高维度稀疏特性，不利于作为深度学习模型的输入特征。??ｙ?＾??？榨汁机??．ｚ橙〒橘？子??水果７＾／＾?苹果??Ｚ—＼果肉＿，??图２．２三维词向量示意??１１??
【参考文献】：
期刊论文
[1]基于方面级的餐厅用户评论细粒度情感分析[J]. 袁丁,章剑林,吴广建. 软件. 2019(08)
[2]一种用于基于方面情感分析的深度分层网络模型[J]. 刘全,梁斌,徐进,周倩. 计算机学报. 2018(12)
硕士论文
[1]基于深度学习的文本情感分析研究及应用[D]. 杨腾佼.电子科技大学 2019
本文编号：3531461
【文章来源】：华中师范大学湖北省 211工程院校 教育部直属院校
【文章页数】：82 页
【学位级别】：硕士
【部分图文】：
图１．１基于神经网络的语言模型??Ｐｅｔｅｒｓ等［６丨提出越于多层双向ＬＳＴＭ的深层语言模沏ＥＬＭｏ?（Ｅｍｂｅｄｄｉｎｇｓ?ｆｒｏｍ??
量化技术的相关理论；其次介绍深度学习中常见的祌经网络结构和原理，为后??面泥合祌经网络的提出做准备；然后介绍祌经Ｈ络的相关优化方法和防止过拟合的??Ｄｒｏｐｏｕｔ策略的原理；最后介绍应用在ＮＬＰ任务上的两类常用注意力机制，为后而??的ＢＥＲＴ模型介绍和改进内容做准备。??２．１文本情感分析??文本情感分析实质是实现文本分类，旨在分类出文本屮的情感倾向。本文所要??研宄的方面级情感分析是其中的一类重要任务，根据Ｍｅｄｈａｔ等Ｈ和Ｘｕｅ等［２］对文本??情感分析的分级，可以大致总结为如图２．１所示的几类。??Ｃ?＼??＾?文档级??ｒ—??交本丨Ｉ?ｉ感分析＾?？句子级??Ｎ．?／?＾?方面词情感分析１??、?方面级?＾＾??ｖ．?；?＼??￣方面类别情感分析?????ｙ??图２．１文本情感分析分类??文档级情感分析旨在分类出主题文档中的积极或者消极情感。句子级情感分析??分为两步，首先确定句子中是否包含主观观点，如果包含则对其情感态度进行分析。??因为句子与短文档具有等价关系，所以文捫级和切ｆ级怙感分析本质相同，可以将??句子当作短文档来进行文档级情感分析。但是两者都是将文本看作为一个整体来进??行分析，即一段文本对应一个情感倾向。??方面级情感分析旨在分类出文本在某些方面上的情感，并分为两种情况。例如??在文本“这家店的食物虽然好吃，但是地段不行，找不到停车的地方”小，ｍ明显??其中既包含了积极情感又包含消极情感，所以文挡级和句子级情感分析相关方法不??适用于该文本。一种情况，方面类別情感分析通过赋予例如“菜品”、“位置”等情??感类别来对文本中不同类别进行细粒度的情感分类，使文本可以分
比于分词更加直??接，一般情况下利用特定的标点符号来对段落进行切割。但是对于复杂的段落文本，??其中还有很多未考虑到的断句模式，所以还需要设计正则表达式来对句子中需要被??断句的部分进行精准分句。正则表达式描述的是一种字符串匹配的模式，如式２．１??所示，该表达式匹配的是常见的句子结尾标点符号。??［〇?？?！?＼．？！￣￣］｜（／．｛３｝）?（２．１）??２．３文本词向置化技术??在ＮＬＰ领域中很多深度学习模型都需要词向量作为输入。词向量化是一类语??言建模和特征学习技术，如图２．２所示，将词汇表中的每个单词映射至包含语义的??向量空间，相似的词之间距离更近。这类技术通过转置矩阵将高维度稀疏的词向量??空间转化为一个低维度稠密的词向量空间。高维度的同向量为词的独热编（Ｏｎｅ－??ｈｏｔ?Ｅｎｃｏｄｉｎｇ），?即每个词独占一个维度，所以随着词汇表的扩大，每个词向景呈现??高维度稀疏特性，不利于作为深度学习模型的输入特征。??ｙ?＾??？榨汁机??．ｚ橙〒橘？子??水果７＾／＾?苹果??Ｚ—＼果肉＿，??图２．２三维词向量示意??１１??
【参考文献】：
期刊论文
[1]基于方面级的餐厅用户评论细粒度情感分析[J]. 袁丁,章剑林,吴广建. 软件. 2019(08)
[2]一种用于基于方面情感分析的深度分层网络模型[J]. 刘全,梁斌,徐进,周倩. 计算机学报. 2018(12)
硕士论文
[1]基于深度学习的文本情感分析研究及应用[D]. 杨腾佼.电子科技大学 2019
本文编号：3531461
本文链接：https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3531461.html
