基于深度学习的依存句法分析研究模型
发布时间：2021-05-31 23:02
随着互联网技术的高速发展和全球化普及,大量语料呈爆炸式的涌现在网络上,从语料中提取出有价值的信息并进行相应的处理已成为当前计算机领域中的一项重要研究内容,由此自然语言处理技术应运而生。句法分析是自然语言处理领域中的一项关键技术,而依存句法因其简洁明了的表现形式以及对词语之间修饰关系的展现而使得该方法在多个领域都取得了广泛的应用。随着近年来深度学习在计算机各个领域所取得的突破性进展,基于深度学习的依存句法分析模型也为处理句法分析中出现的问题带来了新的解决思路。针对当前依存句法的发展趋势,本文提出设计并实现一种基于深度学习的依存句法联合分析模型。首先,使用基于双向长短期记忆网络对句法结构及序列标注进行统一建模;然后,通过词性标注和深度图相结合来处理依存句法分析问题,可以在较大程度上减少在提取特征时因为词性标注所带来的错误蔓延并解决多层次特征无法获取的问题;最后,使用多个多层感知机分别预测依存弧和依存标签。本文在依存句法分析模型基础上设计的句法分析系统利用React、ES6和SVG等技术实现前端用户界面的显示及用户登录、文本训练、文本预测、依存图的展示等功能,并实现服务器端与客户端数据的交互...
【文章来源】：沈阳工业大学辽宁省
【文章页数】：60 页
【学位级别】：硕士
【部分图文】：
依存图
语、句子之中是普遍存在的，这就说明了依存句法的关系存在于各种语言系依存句法舍弃了乔姆斯基[18]（Chomsky）所提出的形式化重写规则，在词典中出近乎所有的语言知识，它所表现的是句子中词语之间的修饰关系，由此就句子中每个词语的距离搭配信息。 依存句法分析方法1 基于移进-规约的依存分析方法依存分析就是通过语言模型来自动分析出给定的句子结构，并将分析好的句对应的依存树的过程[19]。目前主流的依存句法研究主要集中在数据驱动的依析方法上，即在训练数据集上进行迭代学习，从而得到依存句法分析器，但不针对依存句法相关理论的研究[20]，该方法的分析过程如下图 2.2 所示。McDoiver[22]所建立的基于数据驱动的依存分析方法中主要包括以下两种：基于移依存分析方法[23]（Transition-based Dependency Parsing）和基于图的依存分析Graph-based Dependency Parsing）。
第 2 章 依存句法分析概述, ,( , ) ( , , )h mh mw w lb yScore x y Score w w lb （在上面的式子中，hw 为核心词，mw 为修饰词， lb 为前两者之间有指向的依式就表示上述三者所构成的依存关系。一阶分解模型也被称为边分解模型[26]ored model），在一般情况下想获得最优依存树通常采用动态规划的方法。一阶分解模型表示简单，但只能针对依存边进行特征的选取，这就导致了评分取与分析过程中有所限制。为解决这一问题，在一阶分解模型的基础上，研究究出了二阶、三阶分解模型[27]，分别对应在图 2.3 的（a）、（b）、（c）。于一阶分解模型中各个依存边是相互独立的这一特点，二阶分解模型中同一兄弟结点存在着某种特定关联，失去了依存边的部分独立性，三阶分解模型的关联较二阶模型更近一步，但在更好的进行特征选取与处理远距离依存关，也会以牺牲算法的时空复杂度为代价。所以在实际应用过程当中，要具体情析，在模型的精确度与复杂度之间取得一个平衡。
【参考文献】：
期刊论文
[1]基于Word2Vec技术隐性特征挖掘及潜在升级投诉用户识别研究[J]. 苏良良,雷蕾,李景文,黄敏杰. 电信技术. 2018(12)
[2]循环神经网络研究综述[J]. 杨丽,吴雨茜,王俊丽,刘义理. 计算机应用. 2018(S2)
[3]基于Bi-LSTM和分布式表示的网页主题相关度计算[J]. 王锋,白宇,蔡东风,王铁铮. 计算机应用与软件. 2018(07)
[4]基于注意力长短时记忆网络的中文词性标注模型[J]. 司念文,王衡军,李伟,单义栋,谢鹏程. 计算机科学. 2018(04)
[5]Syntactic word embedding based on dependency syntax and polysemous analysis[J]. Zhong-lin YE,Hai-xing ZHAO. Frontiers of Information Technology & Electronic Engineering. 2018(04)
[6]基于双向LSTM的图结构依存句法分析[J]. 谌志群,王冰,王荣波,黄孝喜. 杭州电子科技大学学报(自然科学版). 2018(01)
[7]基于深度学习的图解码依存分析研究进展[J]. 常宝宝. 山西大学学报(自然科学版). 2017(03)
[8]基于语言学的依存分析结果动宾关系补全研究[J]. 张丹,周俏丽,张桂平. 计算机应用研究. 2018(04)
[9]基于依存句法分析的病理报告结构化处理方法[J]. 田驰远,陈德华,王梅,乐嘉锦. 计算机研究与发展. 2016(12)
[10]用于微博情感分析的一种情感语义增强的深度学习模型[J]. 何炎祥,孙松涛,牛菲菲,李飞. 计算机学报. 2017(04)
博士论文
[1]中文词法句法语义联合分析模型研究[D]. 张梅山.哈尔滨工业大学 2014
硕士论文
[1]基于句法结构的术语关系抽取方法研究[D]. 周雯.北京交通大学 2017
[2]高性能汉语依存句法分析方法的研究[D]. 罗特.北京交通大学 2017
[3]基于循环神经网络的依存句法分析模型研究[D]. 张俊驰.湖北大学 2016
[4]汉语依存句法分析技术研究[D]. 郭振.北京交通大学 2015
本文编号：3209143
【文章来源】：沈阳工业大学辽宁省
【文章页数】：60 页
【学位级别】：硕士
【部分图文】：
依存图
语、句子之中是普遍存在的，这就说明了依存句法的关系存在于各种语言系依存句法舍弃了乔姆斯基[18]（Chomsky）所提出的形式化重写规则，在词典中出近乎所有的语言知识，它所表现的是句子中词语之间的修饰关系，由此就句子中每个词语的距离搭配信息。 依存句法分析方法1 基于移进-规约的依存分析方法依存分析就是通过语言模型来自动分析出给定的句子结构，并将分析好的句对应的依存树的过程[19]。目前主流的依存句法研究主要集中在数据驱动的依析方法上，即在训练数据集上进行迭代学习，从而得到依存句法分析器，但不针对依存句法相关理论的研究[20]，该方法的分析过程如下图 2.2 所示。McDoiver[22]所建立的基于数据驱动的依存分析方法中主要包括以下两种：基于移依存分析方法[23]（Transition-based Dependency Parsing）和基于图的依存分析Graph-based Dependency Parsing）。
第 2 章 依存句法分析概述, ,( , ) ( , , )h mh mw w lb yScore x y Score w w lb （在上面的式子中，hw 为核心词，mw 为修饰词， lb 为前两者之间有指向的依式就表示上述三者所构成的依存关系。一阶分解模型也被称为边分解模型[26]ored model），在一般情况下想获得最优依存树通常采用动态规划的方法。一阶分解模型表示简单，但只能针对依存边进行特征的选取，这就导致了评分取与分析过程中有所限制。为解决这一问题，在一阶分解模型的基础上，研究究出了二阶、三阶分解模型[27]，分别对应在图 2.3 的（a）、（b）、（c）。于一阶分解模型中各个依存边是相互独立的这一特点，二阶分解模型中同一兄弟结点存在着某种特定关联，失去了依存边的部分独立性，三阶分解模型的关联较二阶模型更近一步，但在更好的进行特征选取与处理远距离依存关，也会以牺牲算法的时空复杂度为代价。所以在实际应用过程当中，要具体情析，在模型的精确度与复杂度之间取得一个平衡。
【参考文献】：
期刊论文
[1]基于Word2Vec技术隐性特征挖掘及潜在升级投诉用户识别研究[J]. 苏良良,雷蕾,李景文,黄敏杰. 电信技术. 2018(12)
[2]循环神经网络研究综述[J]. 杨丽,吴雨茜,王俊丽,刘义理. 计算机应用. 2018(S2)
[3]基于Bi-LSTM和分布式表示的网页主题相关度计算[J]. 王锋,白宇,蔡东风,王铁铮. 计算机应用与软件. 2018(07)
[4]基于注意力长短时记忆网络的中文词性标注模型[J]. 司念文,王衡军,李伟,单义栋,谢鹏程. 计算机科学. 2018(04)
[5]Syntactic word embedding based on dependency syntax and polysemous analysis[J]. Zhong-lin YE,Hai-xing ZHAO. Frontiers of Information Technology & Electronic Engineering. 2018(04)
[6]基于双向LSTM的图结构依存句法分析[J]. 谌志群,王冰,王荣波,黄孝喜. 杭州电子科技大学学报(自然科学版). 2018(01)
[7]基于深度学习的图解码依存分析研究进展[J]. 常宝宝. 山西大学学报(自然科学版). 2017(03)
[8]基于语言学的依存分析结果动宾关系补全研究[J]. 张丹,周俏丽,张桂平. 计算机应用研究. 2018(04)
[9]基于依存句法分析的病理报告结构化处理方法[J]. 田驰远,陈德华,王梅,乐嘉锦. 计算机研究与发展. 2016(12)
[10]用于微博情感分析的一种情感语义增强的深度学习模型[J]. 何炎祥,孙松涛,牛菲菲,李飞. 计算机学报. 2017(04)
博士论文
[1]中文词法句法语义联合分析模型研究[D]. 张梅山.哈尔滨工业大学 2014
硕士论文
[1]基于句法结构的术语关系抽取方法研究[D]. 周雯.北京交通大学 2017
[2]高性能汉语依存句法分析方法的研究[D]. 罗特.北京交通大学 2017
[3]基于循环神经网络的依存句法分析模型研究[D]. 张俊驰.湖北大学 2016
[4]汉语依存句法分析技术研究[D]. 郭振.北京交通大学 2015
本文编号：3209143
本文链接：https://www.wllwen.com/kejilunwen/ruanjiangongchenglunwen/3209143.html
