融合句法信息的句子嵌入表示学习方法及应用研究

发布时间：2024-02-20 08:12

　　语言理解是当前学术界和工业界关注的热点问题,也是当前人工智能研究领域面临的最大难题之一。实现语言理解的关键是自然语言的语义表示,它是进行自然语言理解和推理的基础。自然语言有词、句子、段落及篇章等四个层级,词语是最基本的语言单元,而句子则是由词语有机组成的、合符语法的、线性连接的、具有相对完整语义的语言单元,是组成段落和篇章的重要语言单位。与词语有限的语义空间不同,句子的语义并不是词语语义的简单相加,它是在词语语义基础上结合句法作用进行耦合得到,句子语义比词语语义复杂得多、灵活得多。随着当前分布式词嵌入表示在很多任务上的成功应用,人们很自然地想到能否将向量表示法扩展到句子或长文本,即将句子的语义表示映射至低维的连续空间。由于句子语义表达与句法结构密切相关,现有句子嵌入表示学习方法虽能够一定程度上保留句子中词序信息,但不能避免句法结构信息的丢失,难以准确地学习到句子的嵌入表示。针对当前句子嵌入表示学习中由于句法信息缺失导致句子嵌入表示学习精度不足的问题,本文提出融合句法结构信息进行句子嵌入表示学习。论文主要工作包括:(1)提出融合句法信息的句子嵌入表示学习方法,即:对句子进行句法结构分析,...

【文章页数】：65 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
第一章 绪论
    1.1 研究背景及意义
    1.2 国内外研究现状
        1.2.1 无监督预测学习方法
        1.2.2 组合函数方法
        1.2.3 神经网络方法
        1.2.4 混合方法
    1.3 本文主要工作
        1.3.1 主要研究内容
        1.3.2 论文创新点
    1.4 论文组织结构
第二章 相关理论与技术
    2.1 文本预处理
        2.1.1 中文文本预处理
        2.1.2 英文文本预处理
    2.2 词嵌入表示与学习
        2.2.1 独热表示
        2.2.2 分布表示
        2.2.3 词嵌入学习算法
    2.3 句法分析
    2.4 句子嵌入表示评价方法
第三章 融合句法信息的句子嵌入表示学习方法
    3.1 句子嵌入表示学习方法
        3.1.1 主要思路
        3.1.2 SynTree-WordVec融合原理
        3.1.3 SynTree-WordVec融合框架
    3.2 实验设置
        3.2.1 参数说明
        3.2.2 参数调节
        3.2.3 数据集
        3.2.4 词向量
        3.2.5 评价方法
    3.3 参数分析
        3.3.1 英文参数分析
        3.3.2 中文参数分析
    3.4 实验结果分析
        3.4.1 对比实验说明
        3.4.2 英文文本实验结果分析
        3.4.3 中文文本实验结果分析
        3.4.4 实验总结
第四章 基于句子嵌入表示的科技奖励申报文本重复性检测方法
    4.1 引言
    4.2 科技奖励申报文本重复性检测方法
    4.3 科技奖励申报文本重复性检测系统设计
        4.3.1 数据预处理模块
        4.3.2 句子嵌入计算模块
    4.4 系统实现及结果分析
        4.4.1 系统界面
        4.4.2 结果分析
第五章 总结与展望
    5.1 工作总结
    5.2 工作展望
参考文献
个人简历读研期间参与的科研工作与取得的科研成果
致谢



本文编号：3904089