检索式问答系统中语义关系的计算与评价

发布时间：2022-12-23 19:10

　　智能问答系统是当前自然语言处理研究中的难点和热点。基于深度学习的端到端问答系统使用自然语言句子作为输入,无需词法句法处理就可以自动提取句子间的语义特征,并在候选答案中挑选出符合问题要求的正确答案。理解自然语言句子之间的语义关系是问答系统中最困难的环节,也是目前自然语言处理任务所面临的核心问题。本课题研究端到端的检索式问答系统中如何计算和评价自然语言句子之间的语义关系,如何将计算过程与评价过程结合起来,提高检索的效率。本课题的创新点如下:一是针对以往问答模型中单向分配权重的缺陷设计了一种双向权重分配机制,在计算问题的表达时动态地加入答案的影响;二是针对以往问答系统只对词进行特征强化的缺陷设计了句子层面的特征强化机制;三是设计了同时在多个角度对句子和词的特征进行强化的算法和模型;四是设计了一种新的只针对词的特征强化算法并将特征分层次添加到网络中。多个公开数据集的实验结果表明,本课题的四项创新分别提高了基准模型的性能,达到了目前最好的准确率水平。针对创新点撰写的四篇论文分别被国际会议发表或录用。 

【文章页数】：76 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
符号说明
第一章 绪论
    1.1 选题背景
    1.2 QA系统的分类
    1.3 检索式问答系统研究现状
        1.3.1 检索式问答系统中的匹配和排序学习
        1.3.2 注意力机制在答案选择中的发展
    1.4 主要研究内容
        1.4.1 基于双向权重分配的pair-wise算法和模型研究
        1.4.2 基于句子维度特征增强的list-wise算法和模型研究
        1.4.3 基于多维度文本特征增强的算法和模型研究
        1.4.4 基于词注意力机制的特征增强研究
第二章 关键技术
    2.1 深度学习
        2.1.1 人工神经网络简介
        2.1.2 答案选择任务常用模型结构
    2.2 注意力机制
        2.2.1 注意力机制原理
        2.2.2 注意力机制分类
    2.3 性能评价指标
        2.3.1 排序学习分类
        2.3.2 算法评价指标
第三章 基于双向权重分配的pair-wise算法和模型研究
    3.1 创新点
    3.2 模型和算法
    3.3 公开数据集
        3.3.1 数据集分类
        3.3.2 使用数据集介绍
    3.4 实验结果和分析
        3.4.1 实验结果
        3.4.2 案例分析
        3.4.3 模型拆解分析和参数规模对比分析
第四章 基于句子维度特征增强的list-wise算法和模型研究
    4.1 创新点
    4.2 模型和算法
        4.2.1 多注意力机制
        4.2.2 编码层
        4.2.3 第二层注意力机制
        4.2.4 对比集成和评分层
    4.3 实验结果
    4.4 实验分析
        4.4.1 问题类型分析
        4.4.2 案例分析
        4.4.3 模型拆解分析和参数规模分析
第五章 基于多维度文本特征增强的算法和模型研究
    5.1 创新点
    5.2 模型和算法
        5.2.1 句子维度特征增强
        5.2.2 编码层
        5.2.3 双重交互确认层
    5.3 实验结果
    5.4 实验分析
        5.4.1 各部分功能分析
        5.4.2 案例分析
        5.4.3 问题类型分析
第六章 基于词注意力机制的特征增强研究
    6.1 创新点
    6.2 模型和算法
        6.2.1 词注意力和局部特征
        6.2.2 词注意力和全局特征
    6.3 实验结果
    6.4 实验分析
        6.4.1 模型拆解实验
        6.4.2 案例分析
第七章 总结和展望
参考文献
致谢
攻读硕士期间发表的学术论文和专利



本文编号：3725270