基于深度学习的主题分类及细粒度情感分析方法研究
发布时间：2021-07-03 19:19
随着微信、微博、电商等网络平台的发展,民众、企业以及政府越来越倾向于将重要的文本信息发表在互联网上,挖掘这些文本蕴含的信息,无论对商家还是学者都有重要的意义。细粒度情感作为文本内容的一种隐含信息,反映出用户自身情绪和特定主题喜好程度,也包含热门话题和社会情况。该应用领域在建立评价体系、获取实时热点、控制网络舆论等方面上存在巨大的研究价值。细粒度情感分析是一种多标签主题预测与多分类情感预测相结合的多任务问题,它需要对研究的文本先建立主题,再为主题建立多个情感属性。深度学习技术在文本细粒度分析上存在样本数量少,多任务计算量大,语义信息不全等问题。对此,本课题以经典神经网络模型为基础,从多权值输入、组合网络模型和优化手段三个方面改进研究方案,实现深度学习技术在细粒度情感分析上的应用。主要工作如下:针对汽车数据集,提出一种基于Softmax回归的多权值模型。该模型中从文本和数据的特殊性分析了文本特征及组合方式对主题分类产生的影响,通过扩充文本内容、修改TF-IDF公式和添加方差加权获得增强后的文本信息,最后使用构建的浅层神经网络来识别文本的主题。实验结果表明模型分类的准确性优于传统的加权Wor...
【文章来源】：重庆大学重庆市 211工程院校 985工程院校 教育部直属院校
【文章页数】：60 页
【学位级别】：硕士
【部分图文】：
CBOW模型示例
重庆大学硕士学位论文2研究方法和相关分析13图2.2Skip-gram模型示例Figure2.2Skip-grammodelCBOW和Skip-gram的网络结构镜像对称，在求解和学习权重的过程，均使用了反向传播算法（BP）及梯度下降算法，CBOW和Skip-gram优化的对数似然函数如(2.6)、(2.7)所示L=∑log(())∈(2.6)=∑(()|)∈(2.7)其中，()为单词的上下文，为语料库。Skip-gram由于在大语料库下更新权重的计算复杂度过高，Mikolov等[36]在之后提出了分层Softmax及负采样改进方案降低了计算复杂度。Word2vec获取的单词向量，虽然扩充了单词的表达能力，但是仍没有办法表达一篇文档，因为每一个文档的长度不同，包含的单词数目不同，需要有一种方法将单词向量转换为文档向量。自Word2vec提出后，有诸多学者将Word2vec应用于文本分类，将不同长度的文本映射到向量空间的方法一般有两个。一是将单词的词向量求和平均，这样做的根据是Word2vec表示的词向量不会因为线性变换影响其隐含的信息，即将文档当做一个大型单词来看待；另一种是结合tf-idf等词信息表达方法做加权平均，本质上与求和平均相同，但是将单词的影响权重加入了考量。假设V为第i个文档的文档向量，L为第i个文档的长度，,表示第i个文档的第j个单词的词向量，,为第i个文档的第j个单词的影响权重，则上述两种文档表示法如公式(2.8)、(2.9)所示。V=∑,L=0(2.8)
RNN展开结构
【参考文献】：
期刊论文
[1]基于word2vec的网站主题分类研究[J]. 程元堃,蒋言,程光. 计算机与数字工程. 2019(01)
[2]融合社交因素和评论文本卷积网络模型的汽车推荐研究[J]. 冯永,陈以刚,强保华. 自动化学报. 2019(03)
[3]基于Word2vec的句子语义相似度计算研究[J]. 李晓,解辉,李立杰. 计算机科学. 2017(09)
[4]面向汽车评论的细粒度情感分析方法研究[J]. 陈炳丰,郝志峰,蔡瑞初,温雯,王丽娟,黄浩,蔡晓凤. 广东工业大学学报. 2017(03)
[5]基于Word2vec的微博短文本分类研究[J]. 张谦,高章敏,刘嘉勇. 信息网络安全. 2017(01)
[6]基于概率语义分布的短文本分类[J]. 马成龙,颜永红. 自动化学报. 2016(11)
[7]深度学习的维吾尔语语句隐式情感分类[J]. 李冬白,田生伟,禹龙,艾斯卡尔·艾木都拉,吐尔根·依布拉音. 计算机工程与设计. 2016(09)
[8]基于观点袋模型的汽车评论情感极性分类[J]. 廖健,王素格,李德玉,张鹏. 中文信息学报. 2015(03)
[9]微博汽车领域中用户观点句识别方法的研究[J]. 潘艳茜,姚天昉. 中文信息学报. 2014(05)
[10]基于LDA特征扩展的短文本分类[J]. 吕超镇,姬东鸿,吴飞飞. 计算机工程与应用. 2015(04)
硕士论文
[1]面向需求分析的汽车论坛虚假评论识别方法研究[D]. 倪鑫.合肥工业大学 2018
[2]基于汽车品牌评论的情感分类系统研究[D]. 张连彬.合肥工业大学 2017
[3]面向汽车在线评论的情感分类研究与应用[D]. 黄鹤.哈尔滨工业大学 2013
本文编号：3263192
【文章来源】：重庆大学重庆市 211工程院校 985工程院校 教育部直属院校
【文章页数】：60 页
【学位级别】：硕士
【部分图文】：
CBOW模型示例
重庆大学硕士学位论文2研究方法和相关分析13图2.2Skip-gram模型示例Figure2.2Skip-grammodelCBOW和Skip-gram的网络结构镜像对称，在求解和学习权重的过程，均使用了反向传播算法（BP）及梯度下降算法，CBOW和Skip-gram优化的对数似然函数如(2.6)、(2.7)所示L=∑log(())∈(2.6)=∑(()|)∈(2.7)其中，()为单词的上下文，为语料库。Skip-gram由于在大语料库下更新权重的计算复杂度过高，Mikolov等[36]在之后提出了分层Softmax及负采样改进方案降低了计算复杂度。Word2vec获取的单词向量，虽然扩充了单词的表达能力，但是仍没有办法表达一篇文档，因为每一个文档的长度不同，包含的单词数目不同，需要有一种方法将单词向量转换为文档向量。自Word2vec提出后，有诸多学者将Word2vec应用于文本分类，将不同长度的文本映射到向量空间的方法一般有两个。一是将单词的词向量求和平均，这样做的根据是Word2vec表示的词向量不会因为线性变换影响其隐含的信息，即将文档当做一个大型单词来看待；另一种是结合tf-idf等词信息表达方法做加权平均，本质上与求和平均相同，但是将单词的影响权重加入了考量。假设V为第i个文档的文档向量，L为第i个文档的长度，,表示第i个文档的第j个单词的词向量，,为第i个文档的第j个单词的影响权重，则上述两种文档表示法如公式(2.8)、(2.9)所示。V=∑,L=0(2.8)
RNN展开结构
【参考文献】：
期刊论文
[1]基于word2vec的网站主题分类研究[J]. 程元堃,蒋言,程光. 计算机与数字工程. 2019(01)
[2]融合社交因素和评论文本卷积网络模型的汽车推荐研究[J]. 冯永,陈以刚,强保华. 自动化学报. 2019(03)
[3]基于Word2vec的句子语义相似度计算研究[J]. 李晓,解辉,李立杰. 计算机科学. 2017(09)
[4]面向汽车评论的细粒度情感分析方法研究[J]. 陈炳丰,郝志峰,蔡瑞初,温雯,王丽娟,黄浩,蔡晓凤. 广东工业大学学报. 2017(03)
[5]基于Word2vec的微博短文本分类研究[J]. 张谦,高章敏,刘嘉勇. 信息网络安全. 2017(01)
[6]基于概率语义分布的短文本分类[J]. 马成龙,颜永红. 自动化学报. 2016(11)
[7]深度学习的维吾尔语语句隐式情感分类[J]. 李冬白,田生伟,禹龙,艾斯卡尔·艾木都拉,吐尔根·依布拉音. 计算机工程与设计. 2016(09)
[8]基于观点袋模型的汽车评论情感极性分类[J]. 廖健,王素格,李德玉,张鹏. 中文信息学报. 2015(03)
[9]微博汽车领域中用户观点句识别方法的研究[J]. 潘艳茜,姚天昉. 中文信息学报. 2014(05)
[10]基于LDA特征扩展的短文本分类[J]. 吕超镇,姬东鸿,吴飞飞. 计算机工程与应用. 2015(04)
硕士论文
[1]面向需求分析的汽车论坛虚假评论识别方法研究[D]. 倪鑫.合肥工业大学 2018
[2]基于汽车品牌评论的情感分类系统研究[D]. 张连彬.合肥工业大学 2017
[3]面向汽车在线评论的情感分类研究与应用[D]. 黄鹤.哈尔滨工业大学 2013
本文编号：3263192
本文链接：https://www.wllwen.com/kejilunwen/ruanjiangongchenglunwen/3263192.html
