基于深度学习的语义推理技术

发布时间：2020-12-17 16:25

　　语义推理技术是自然语言处理中的一项基础而重要的技术,能够帮助我们更好地理解文章的内容及上下文的语义推理关系。语义推理一般分为论据和论点两部分,论据是从文章内容中提取的支撑文章论点的材料,是用来证明论点的理由和根据;论点是对所论述的论据的正确理解,是对文章中所提出的某一个主要的思想观点的概括。语义推理技术是判断论点和论据之间的语义信息是否存在蕴含关系。提高语义推理的准确率有助于增强人工智能对自然语言的理解能力。在自然语言发展的初期,人们通常使用词典、语法树或逻辑表达式的方式获取文本之间的浅在的语义推理关系。随着神经网络在自然语言处理上的应用以及注意力机制和迁移学习的快速发展,人们开始侧重于挖掘文本之间更深层的语义推理关系。并且希望通过相似任务之间的知识共享,从而加快并优化模型的学习效率。在此基础上,本文主要从以下三个方面进行语义推理技术的研究:1.基于长短期记忆网络的语义推理技术。主要使用长短期记忆网络对论点和论据进行语义向量编码,使用双线性或者全连接计算论点和论据的语义推理关系。2.基于长短期网络和注意力机制的语义推理技术。首先使用长短期记忆网络对论点和论据进行语义向量编码。之后使用注... 

【文章来源】：哈尔滨工业大学黑龙江省 211工程院校 985工程院校

【文章页数】：71 页

【学位级别】：硕士

【文章目录】：
摘要
ABSTRACT
第1章 绪论
    1.1 课题研究的背景和意义
    1.2 国内外研究现状
        1.2.1 基于特征工程的国内外研究现状
        1.2.2 基于深度学习的国内外研究现状
        1.2.3 基于迁移学习的国内外研究现状
    1.3 实验数据简介
        1.3.2 数据集简介
        1.3.3 评价标准
        1.3.4 系统基线选择
    1.4 本文的主要研究内容
        1.4.1 问题定义
        1.4.2 本文主要研究思路
    1.5 本文的内容安排
第2章 基于长短期记忆网络的语义推理技术
    2.1 引言
    2.2 语义向量表示模型
        2.2.1 循环神经网络
        2.2.2 长短期记忆神经网络
        2.2.3 基于长短期记忆神经网络的语义表示模型
    2.3 语义推理关系模型
        2.3.3 基于全连接的语义推理模型
        2.3.4 基于双线性的语义推理模型
    2.4 实验结果与分析
        2.4.1 数据预处理
        2.4.2 损失函数
        2.4.3 模型优化及参数设置
        2.4.4 模型实验结果与分析
    2.5 本章小结
第3章 基于注意力机制的语义推理技术
    3.1 引言
    3.2 基于注意力机制的语义推理模型
        3.2.1 注意力机制
        3.2.2 基于序列注意力机制的语义推理模型
        3.2.3 基于逐字注意力机制的语义推理模型
        3.2.4 基于自身注意力机制的语义推理模型
    3.3 实验结果与分析
    3.4 本章小结
第4章 基于迁移学习与模型融合的语义推理技术
    4.1 引言
    4.2 基于残差的语义推理网络
        4.2.1 残差网络相关技术
        4.2.2 融合残差网络语义推理模型
    4.3 基于迁移学习的语义推理网络
        4.3.1 迁移学习相关技术
        4.3.2 融合迁移学习的语义推理模型
    4.4 基于集成的语义推理网络
        4.4.1 特征工程
        4.4.3 集成的语义推理模型
    4.5 实验结果与分析
        4.5.1 模型实验结果与分析
        4.5.2 迁移学习实验分析
    4.6 本章小结
结论
参考文献
攻读博士学位期间发表的论文及其它成果
致谢



本文编号：2922335