基于深度学习的领域问答系统的研究与实现
发布时间：2021-08-20 21:38
随着大数据时代的到来,传统的基于关键字并返回一系列网页的搜索方式渐渐不能满足人们获取信息的需求。问答系统在一定程度上弥补了搜索引擎的不足,是目前自然语言处理领域的研究热点。近年来,深度学习技术的不断发展,又为智能问答领域带来了诸多突破。由此,基于深度学习的问答系统成为了自然语言处理中最热门的研究方向。本文旨在运用深度学习技术构建基于深度学习模型的限定领域问答系统。首先利用深度学习模型完成问句理解中的意图识别和槽位提取,进而将问句转为知识库可理解的结构化查询语句,最终从构建的电影领域知识图谱中进行答案检索。具体的研究内容如下:本文首先介绍了本课题的研究背景与意义,对问答系统的分类进行了简要阐述,提出了本文要研究的基于知识图谱的限定领域问答系统,同时介绍了问答系统的国内外发展现状以及基于知识图谱的问答系统的几种实现方式。在接下来的两章,本文开始研究基于深度学习方式的问答系统中的问句理解部分。在第二章,本文采用基于Word2Vec的卷积神经网络模型实现问句的意图识别,首先训练词向量模型完成词的分布式表示,接着搭建CNN模型提取问句特征并完成问句的意图分类,最后通过与其它分类模型的对比实验证明...
【文章来源】：西南交通大学四川省 211工程院校 教育部直属院校
【文章页数】：75 页
【学位级别】：硕士
【部分图文】：
CBoW与Skip-Gram模型结构示意图
西南交通大学硕士研究生学位论文 第 10页CBoW 和 Skip-Gram 模型都含有三层结构：输入层、投影层（中间层）和输出层。CBow 模型主要是根据上下文词语来预测当前词语的概率[44]。而 Skip-Gram 与之相反，主要是根据当前词语来推测上下文词语出现的概率[45]。在 CBoW 模型的输入层，输入的是主题词附近的词的 one-hot 编码，投影层只对输出值进行简单的权值加法，最终输出值与输入值维度相同。而 Skip-Gram 模型的输入层，输入内容为中心词的 one-hot 编码，投影层只做简单的线性变换，最终输出内容是经 softmax 转换后的概率。以Skip-Gram 模型为例，其神经网络结构如图 2-2 所示。
图 2-2 Skip-Gram 神经网络结构Word2vec 是一种简单的神经网络模型，通过给定的输入输出训练网络，最终目是得到隐藏层的权重矩阵，即词向量矩阵。有了词向量矩阵，便可以通过词的 one-h编码在隐藏层进行词嵌入，即取得相应词向量。如图2-3所示，词嵌入时直接根据one-h编码中 1 的位置寻找词向量矩阵的相应行，无需进行矩阵乘法运算。
【参考文献】：
期刊论文
[1]基于Bi-LSTM和CRF的中文网购评论中商品属性提取[J]. 张诗林. 计算机与现代化. 2019(02)
[2]文本向量化表示方法的总结与分析[J]. 冀宇轩. 电子世界. 2018(22)
[3]深度学习算法在问句意图分类中的应用研究[J]. 杨志明,王来奇,王泳. 计算机工程与应用. 2019(10)
[4]基于BI-LSTM-CRF模型的限定领域知识库问答系统[J]. 程树东,胡鹰. 计算机与现代化. 2018(07)
[5]基于BiLSTM-CRF的关键词自动抽取[J]. 陈伟,吴友政,陈文亮,张民. 计算机科学. 2018(S1)
[6]专业领域智能问答系统设计与实现[J]. 陶永芹. 计算机应用与软件. 2018(05)
[7]基于Bi-LSTM-CRF网络的语义槽识别[J]. 徐梓翔,车万翔,刘挺. 智能计算机与应用. 2017(06)
[8]基于深度神经网络的命名实体识别方法研究[J]. GUL Khan Safi Qamas,尹继泽,潘丽敏,罗森林. 信息网络安全. 2017(10)
[9]面向限定领域问答系统的自然语言理解方法综述[J]. 王东升,王卫民,王石,符建辉,诸峰. 计算机科学. 2017(08)
[10]基于Web的问答系统综述[J]. 李舟军,李水华. 计算机科学. 2017(06)
硕士论文
[1]基于Word2vec的中文Web智能问答系统的研究与设计[D]. 徐成章.电子科技大学 2018
[2]基于中文知识图谱的智能问答系统设计与实现[D]. 张淼.华中师范大学 2018
[3]基于细粒度词表示的序列标注模型研究[D]. 林广和.大连理工大学 2018
[4]社交媒体短文本分类方法研究[D]. 文永.电子科技大学 2018
[5]基于分布式的智能问答系统的设计与实现[D]. 刘明博.北京邮电大学 2018
[6]基于深度学习的智能问答系统的研究与实现[D]. 卓越.沈阳师范大学 2018
[7]基于卷积神经网络的问句分类研究[D]. 谢文杰.安徽大学 2018
[8]卷积神经网络在问句分类中的研究与应用[D]. 籍祥.昆明理工大学 2018
[9]基于深度学习和知识表示的问答系统的研究与实现[D]. 张为明.北京邮电大学 2018
[10]基于深度学习的智能聊天机器人的研究[D]. 梁苗苗.浙江理工大学 2018
本文编号：3354273
【文章来源】：西南交通大学四川省 211工程院校 教育部直属院校
【文章页数】：75 页
【学位级别】：硕士
【部分图文】：
CBoW与Skip-Gram模型结构示意图
西南交通大学硕士研究生学位论文 第 10页CBoW 和 Skip-Gram 模型都含有三层结构：输入层、投影层（中间层）和输出层。CBow 模型主要是根据上下文词语来预测当前词语的概率[44]。而 Skip-Gram 与之相反，主要是根据当前词语来推测上下文词语出现的概率[45]。在 CBoW 模型的输入层，输入的是主题词附近的词的 one-hot 编码，投影层只对输出值进行简单的权值加法，最终输出值与输入值维度相同。而 Skip-Gram 模型的输入层，输入内容为中心词的 one-hot 编码，投影层只做简单的线性变换，最终输出内容是经 softmax 转换后的概率。以Skip-Gram 模型为例，其神经网络结构如图 2-2 所示。
图 2-2 Skip-Gram 神经网络结构Word2vec 是一种简单的神经网络模型，通过给定的输入输出训练网络，最终目是得到隐藏层的权重矩阵，即词向量矩阵。有了词向量矩阵，便可以通过词的 one-h编码在隐藏层进行词嵌入，即取得相应词向量。如图2-3所示，词嵌入时直接根据one-h编码中 1 的位置寻找词向量矩阵的相应行，无需进行矩阵乘法运算。
【参考文献】：
期刊论文
[1]基于Bi-LSTM和CRF的中文网购评论中商品属性提取[J]. 张诗林. 计算机与现代化. 2019(02)
[2]文本向量化表示方法的总结与分析[J]. 冀宇轩. 电子世界. 2018(22)
[3]深度学习算法在问句意图分类中的应用研究[J]. 杨志明,王来奇,王泳. 计算机工程与应用. 2019(10)
[4]基于BI-LSTM-CRF模型的限定领域知识库问答系统[J]. 程树东,胡鹰. 计算机与现代化. 2018(07)
[5]基于BiLSTM-CRF的关键词自动抽取[J]. 陈伟,吴友政,陈文亮,张民. 计算机科学. 2018(S1)
[6]专业领域智能问答系统设计与实现[J]. 陶永芹. 计算机应用与软件. 2018(05)
[7]基于Bi-LSTM-CRF网络的语义槽识别[J]. 徐梓翔,车万翔,刘挺. 智能计算机与应用. 2017(06)
[8]基于深度神经网络的命名实体识别方法研究[J]. GUL Khan Safi Qamas,尹继泽,潘丽敏,罗森林. 信息网络安全. 2017(10)
[9]面向限定领域问答系统的自然语言理解方法综述[J]. 王东升,王卫民,王石,符建辉,诸峰. 计算机科学. 2017(08)
[10]基于Web的问答系统综述[J]. 李舟军,李水华. 计算机科学. 2017(06)
硕士论文
[1]基于Word2vec的中文Web智能问答系统的研究与设计[D]. 徐成章.电子科技大学 2018
[2]基于中文知识图谱的智能问答系统设计与实现[D]. 张淼.华中师范大学 2018
[3]基于细粒度词表示的序列标注模型研究[D]. 林广和.大连理工大学 2018
[4]社交媒体短文本分类方法研究[D]. 文永.电子科技大学 2018
[5]基于分布式的智能问答系统的设计与实现[D]. 刘明博.北京邮电大学 2018
[6]基于深度学习的智能问答系统的研究与实现[D]. 卓越.沈阳师范大学 2018
[7]基于卷积神经网络的问句分类研究[D]. 谢文杰.安徽大学 2018
[8]卷积神经网络在问句分类中的研究与应用[D]. 籍祥.昆明理工大学 2018
[9]基于深度学习和知识表示的问答系统的研究与实现[D]. 张为明.北京邮电大学 2018
[10]基于深度学习的智能聊天机器人的研究[D]. 梁苗苗.浙江理工大学 2018
本文编号：3354273
本文链接：https://www.wllwen.com/kejilunwen/shengwushengchang/3354273.html
最近更新
教材专著
