基于转移的神经网络哈萨克语句法分析研究

发布时间：2020-08-31 12:30

　　句法分析作为自然语言处理中的重要部分,开展有关哈萨克语句法分析的研究工作是十分必要的。句法分析一般采用基于图的方法或者基于转移的方法,本文采用基于转移的方法对哈萨克语句法分析进行研究,基于转移的方法都需要使用缓冲区存储句子信息,使用堆栈区存储分析过后的句子信息,然后根据转移方法生成相应的动作序列,并存储在历史动作区。基于转移的方法一般包括自底向上的方法和自顶向下的方法,该方法的本质是将待分析的句法树输入后,按照一定的规则,将其转化为相应的动作序列,那么句法分析问题变成了如何预测出最佳动作序列的序列化问题。自顶向下的方法从句子的顶端开始分析,首先打开非终结符,在句子不断的分析中,将单词移入堆栈中,满足形成子树的条件后,关闭当前的非终结符,形成子树,如果打开的非终结符有误,那么不仅当前子树会出现错误,也会影响其他子树的形成。自底向上的方法分析过程中首先将终结符移入堆栈,当满足子树形成的条件后进行规约,此时对非终结符进行预测,但是自底向上的方法在捕捉句子的整体上仍有不足。针对这些不足,本文在哈萨克语句法分析研究中进行了以下三个方面的工作:1.在目前哈萨克语的句法分析研究中,基于转移的方法一般都是采用自底向上或者自顶向下的方法,本文采用基于中序遍历的转移方法,在一定程度上能够弥补自底向上和自顶向下方法的不足。2.本文将基于转移的方法与神经网络进行结合,采用三个LSTM构成的句法分析器进行句法分析。三个LSTM对应转移方法中使用到的堆栈区、缓冲区和历史动作区,在进行REDUCE动作时使用Bi-LSTM提取构建子树时的特征,三个LSTM传入一个softmax层,从而得到下一个动作的概率。3.本文采用判别模型与生成模型结合的重排序方法,通过抽样算法首先由判别模型生成一定数量的候选树,再由生成模型对候选树重新进行打分,从新的分数中选择出分数最高的句法树作为最佳结果输出。
【学位单位】：新疆大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：TP391.1;TP183
【部分图文】：

哈萨克语,句法树

法在实现时需要设定三个区域[19][20]，缓冲句子放入相应的缓冲区之中，然后按照照一定的转移操作进行相应的操作，例如的内容弹出，进行操作后再推入堆栈，记相应的句法标记，然后生成以一定规则提出了 arc-standard 的基于转移的方法[21]栈来存储部分构建的语法结构和一个缓法通过分数在每个配置中选择一个动作。底向上构建的，因为头的右依赖关系仅附加，只有当所有的单词都处理完毕，并句法分析才完全结束。

句法树,自底向上,遍历,栈顶

子树将推入到堆栈 S 中成为新的栈顶中 XX 是非终端符号，例如 NP，VPXX：采用二元文法对堆栈 S 栈顶的两树将推入到堆栈 S 中成为新的栈顶元T 表示选择左侧的孩子为中心词。T-XX：采用二元文法对堆栈 S 栈顶的树将推入到堆栈 S 中成为新的栈顶元T 表示选择右侧孩子为中心词。分析方法可以看作是对句法树进行后由于哈萨克语的书写方式为从右往左采用自底向上的方法，对句法树进行头所示。

句法树,自顶向下,遍历,非终结符

吴昊[17]与陈雪[18]都采用了 Shift-Reduce 方法，是后序遍历句法树分析自顶向下的方法可以看作对句法树进行所示。其动作序列生产规则如下[23]：冲区中弹出最前面的单词，并将其压入顶部打开一个标签为 X 的非终结符。遇到一个开放的非终结符，从堆栈中弹的非终结符的标签 X 将作为构成新短语中弹出根节点并结束分析。

【相似文献】