问答系统中答案选择算法研究
发布时间:2023-01-15 09:50
问答系统是自然语言处理中一项十分重要而具有挑战性的任务,其中的答案选择任务是问答系统的关键环节。答案选择任务为给定一个问题和一系列候选答案,从中选择出其中最匹配的答案。当前对于答案选择任务的大部分工作,都将其建模成问题和答案的语义匹配,比较两个句子之间的语义相关程度来决定正确问题。本文主要研究基于语义匹配式的答案选择算法,针对当前基于注意力机制的工作,对于语义匹配部分提出了一些存在的问题,并且设计实现了解决的方案,并在答案选择数据集上通过实验来证明其有效性。本文的工作可以总结为两点:1、设计实现了局部语义和词的联合语义匹配对齐模型。针对当前答案选择任务的模型中,对于语义信息匹配对象的不足,仅仅通过词级别的信息无法对句子语义进行充分比较的问题,提出了抽取语句的局部语义信息并且与词级别信息进行联合对齐的模型。设计并实现了多种抽取局部语义信息的方式和不同的局部语义信息与词对齐的方法。2、设计实现了基于传统注意力机制的动态语义阈值网络。针对传统注意力机制在两个句子间语义对齐时,由于归一化权重再加权的方式,引入不相关甚至负相关语义信息带来的噪声问题,并且指出一些静态语义阈值方法存在的不足,实现了...
【文章页数】:70 页
【学位级别】:硕士
【文章目录】:
摘要
ABSTRACT
第一章 绪论
1.1 课题研究背景及意义
1.2 主要研究内容
1.3 论文主要结构
第二章 答案选择相关技术
2.1 词向量及词向量模型
2.1.1 基于词嵌入的词向量模型
2.1.2 基于矩阵的词向量模型
2.2 神经网络
2.3 注意力机制
2.3.1 注意力机制在NLP任务中的应用
2.4 答案选择任务中的语义匹配方式
2.5 答案选择中的评价指标
2.6 本章小结
第三章 词与局部语义信息联合对齐的语义匹配模型
3.1 语义对齐模型中词信息单独对齐的问题
3.2 局部语义信息的建模方式
3.3 答案选择中的Compare-Aggregate语义对齐框架
3.3.1 基于语义的答案选择的发展
3.3.2 语义对齐框架Compare-Aggregate
3.4 联合词和局部语义信息对齐的答案选择模型
3.4.1 局部语义信息的抽取
3.4.2 词级别信息和局部语义信息的对齐
3.5 实验和结果分析
3.5.1 实验数据集
3.5.2 实验设置
3.5.3 实验结果和样例分析
3.6 本章小结
第四章 基于注意力的动态语义阈值机制
4.1 答案选择中的传统注意力机制存在的问题
4.2 引入动态语义阈值的注意力机制
4.2.1 动态阈值网络
4.2.2 动态阈值在注意力机制中的使用
4.3 实验和结果分析
4.3.1 实验数据集
4.3.2 实验设置
4.3.3 实验结果
4.3.4 样例分析
4.4 本章小结
第五章 总结和展望
5.1 总结
5.2 展望
参考文献
致谢
攻读学位期间取得的研究成果
【参考文献】:
硕士论文
[1]基于字词对齐的中文字词向量表示方法[D]. 徐健.中国科学技术大学 2017
本文编号:3730916
【文章页数】:70 页
【学位级别】:硕士
【文章目录】:
摘要
ABSTRACT
第一章 绪论
1.1 课题研究背景及意义
1.2 主要研究内容
1.3 论文主要结构
第二章 答案选择相关技术
2.1 词向量及词向量模型
2.1.1 基于词嵌入的词向量模型
2.1.2 基于矩阵的词向量模型
2.2 神经网络
2.3 注意力机制
2.3.1 注意力机制在NLP任务中的应用
2.4 答案选择任务中的语义匹配方式
2.5 答案选择中的评价指标
2.6 本章小结
第三章 词与局部语义信息联合对齐的语义匹配模型
3.1 语义对齐模型中词信息单独对齐的问题
3.2 局部语义信息的建模方式
3.3 答案选择中的Compare-Aggregate语义对齐框架
3.3.1 基于语义的答案选择的发展
3.3.2 语义对齐框架Compare-Aggregate
3.4 联合词和局部语义信息对齐的答案选择模型
3.4.1 局部语义信息的抽取
3.4.2 词级别信息和局部语义信息的对齐
3.5 实验和结果分析
3.5.1 实验数据集
3.5.2 实验设置
3.5.3 实验结果和样例分析
3.6 本章小结
第四章 基于注意力的动态语义阈值机制
4.1 答案选择中的传统注意力机制存在的问题
4.2 引入动态语义阈值的注意力机制
4.2.1 动态阈值网络
4.2.2 动态阈值在注意力机制中的使用
4.3 实验和结果分析
4.3.1 实验数据集
4.3.2 实验设置
4.3.3 实验结果
4.3.4 样例分析
4.4 本章小结
第五章 总结和展望
5.1 总结
5.2 展望
参考文献
致谢
攻读学位期间取得的研究成果
【参考文献】:
硕士论文
[1]基于字词对齐的中文字词向量表示方法[D]. 徐健.中国科学技术大学 2017
本文编号:3730916
本文链接:https://www.wllwen.com/kejilunwen/ruanjiangongchenglunwen/3730916.html