政务公文命名实体识别方法研究及应用

发布时间：2024-12-21 20:59

　　目前每年政务公文的数量成倍增加,能从中批量的自动的识别、处理和抽取相应的对象并对所有的公文中的人员、组织、机构、职级、职务等属性完成系统的分析和管理。要完成系统的分析和管理其基础是对公文命名实体的识别,因此对于研究命名实体识别有着重大意义。命名实体识别的主要任务是识别出文本具有特殊意义的词或者短文本,包括人名、地方名等,当前命名实体识别问题已经有很多的关注。命名实体识别主流的方法基于机器学习、基于深度学习的方法。本文只针对机器学习方法和深度学习方法进行研究。本文首先详细研究了机器学习的条件随机场方法,通过CRF模型识别出政务公文中的命名实体,并进行了验证实验。之后,用深度学习的循环神经网络(RNN,Recurrent Neural Network)的一个 Bi-LSTM(Bi-directional Long-Short Term Memory)双向长短记忆法进行命名实体识别。其中对Bi-LSTM模型进行命名实体识别,通过在政务公文领域的语料进行大量的实验,实验结果发现在命名实体识别中,双向LSTM模型能够达到比CRF模型更佳的效果。此外本章最主要的研究是将Bi-LSTM和CRF两种方法...

【文章页数】：84 页

【学位级别】：硕士

【部分图文】：

图２－１链式结构??Ｆｉｇ．２－１?Ｃｈａｉｎ?Ｓｔｒｕｃｔｕｒｅｓ??

?北京化工大学硕士学位论文???ｘ?＝?ｘｌ７ｘ２，．．．，ｘ？??图２－１链式结构??Ｆｉｇ．２－１?Ｃｈａｉｎ?Ｓｔｒｕｃｔｕｒｅｓ??就是Ｘ，?Ｙ，，Ｙ２，那么对应的条件概率（这里以Ｙ２为例求解）那么应该写成如公式（２??－２）下：??Ｐ?（Ｙ２｜Ｘ，Ｙ，，Ｙ２，Ｙ３．．．....

图２－２长短记忆模块??Ｆｉｇ．２－２?Ｌｏｎｇ－Ｓｈｏｒｔ?Ｔｅｒｍ?Ｍｅｍｏｒｙ?Ｍｏｄｕｌｅ??

法介绍??ＬＳＴＭ可以在匹配输入和输出序列时使用与上下文相关的信息，并且标准递归祌??经网络（ＲＮＮ）可访问的上下文信息的范围是有限的。该问题导致隐藏层的输入对??网络输出的影响随着网络循环的重现而降低。因此，为了解决这个问题，长期和短??期记忆结构（ＬＳＴＭ）诞生了。长期和短期....

图２－３长双向长短时记忆模块??Ｆｉｇ．２－３?Ｂｉ?Ｌｏｎｇ－Ｓｈｏｒｔ?Ｔｅｒｍ?Ｍｅｍｏｒｙ?Ｍｏｄｕｌｅ??在Ｆｏｒｗａｒｄ层从１时刻到ｔ时刻正向计算一遍，得到并保存每个时刻向前隐含层??

若干输入和后面若干输入共同决定，这样会更加准确。因此提出了双??向循环神经网络，网络结构如下图。可以看到Ｆｏｒｗａｒｄ层和Ｂａｃｋｗａｒｄ层同连接着输??出层，其中包含了?６个共享权值ｗｌ－ｗ６。??Ｏｕｔｐｕｔ?Ｌａｙｅｒ??ｔ＼?Ｔ＼?ｔ＼??ｗ６?＼?ｗ６?＼?ｗ６??Ｂａ....

图２－４（ａ）公文示例??Ｆｉｇ．２－４（ａ）?ｇｏｖｅｒｎｍｅｎｔ?ｏｆｆｉｃｉａｌ?ｄｏｃｕｍｅｎｔ?ｅｘａｍｐｌｅ??１４??

构比较复杂，??并且有很多新的名词和设定。??第二，岗位和职级中相互的指代和设定。并且其的命名实体指代不清晰，所有的??命名实体的相互影响识别，制约了岗位的识别，如“副局级”，“副局长”??第四，命名实体的在政务公文中没有固定的长度和格式。两个字（“纪委”、“网信??办”），（“....

本文编号：4018900