基于神经网络的实体识别和关系抽取的联合模型研究

发布时间：2021-02-06 12:02

　　随着信息时代的到来,网络上的信息越来越呈现出指数形式爆发增长的态势,在这其中,文本信息占据了相当重要的组成部分,如何准确高效的获取知识成为亟待解决的问题。实体识别和关系抽取的联合模型的主要目标是同时从非结构化的文本中抽取实体类别和它们之间的语义关系。作为自然语言处理技术的底层技术,对于上层的应用有着显著的意义。本文围绕着实体识别和关系抽取的联合模型进行了深入的研究,主要工作内容和阶段成果如下:（1）复现了基于神经网络的实体识别和关系抽取的联合模型基线系统,并对当前模型可能存在的问题进行了讨论。（2）提出了一种基于参数共享的双向长短期记忆网络-图卷积神经网络的混合神经网络结构。模型通过引入句法的图卷积神经网络,用于更好的抽取句子中的关系。在公开数据集上,这个联合模型取得了相较之前工作更好的性能。（3）提出了一种基于特殊标注策略的融合自注意力机制的联合模型,将信息抽取任务转化为序列标注任务,通过自注意力子层学习句子内部的词依赖关系,在公开数据集上也取得了较好的表现。（4）初步搭建了基于实体识别关系抽取联合模型的知识图谱构建系统,实现了从非结构化文本中抽取三元组的解决方案。 

【文章来源】：北京邮电大学北京市 211工程院校 教育部直属院校

【文章页数】：76 页

【学位级别】：硕士

【部分图文】：

图３－２加入窥孔机制的ＬＳＴＭ变体??２４??

?Ｓ３??图３－３抽取样本中预测错误样本统计??由图３－３可以发现，相对来说找到配的实体对是目前需要解决的问题，在实??体对预测正确关系预测错误的样本较少，这和前面的实验结果是相一致的。???表３－４?实例分析???［Ｐａｎａｍａ?Ｃｉｔｙ?Ｂｅａｃｈ］?Ｅｌｃｏｎｔａｉｎ?ｈａｓ?ｃｏｎｄｏｓ，?ｂｕｔ?ｔｈｅ?ａｒｅａ?ｗａｓ?ｏｎｅ?ｏｆ?ｏｎｌｙ??ｔｗｏ?ｉｎ?［Ｆｌｏｒｉｄａ］?Ｅｌｃｏｎｔａｉｎ?ｗｈｅｒｅ?ｓａｌｅｓ?ｒｏｓｅ?ｉｎ?Ｍａｒｃｈ?，?ｃｏｍｐａｒｅｄ?ｗｉｔｈ?ａ??ｙｅａｒ?ｅａｒｌｉｅｒ．??［Ｐａｎａｍａ?Ｃｉｔｙ?Ｂｅａｃｈ］?Ｅ２?ｈａｓ?ｃｏｎｄｏｓ?，?ｂｕｔ?ｔｈｅ?ａｒｅａ?ｗａｓ?ｏｎｅ?ｏｆ?ｏｎｌｙ?ｔｗｏ?ｉｎ??ＳＰＴｉ．ｅｅ??［Ｆｌｏｒｉｄａ］?Ｅｌ?ｗｈｅｒｅ?ｓａｌｅｓ?ｒｏｓｅ?ｉｎ?Ｍａｒｃｈ?，?ｃｏｍｐａｉ＊ｅｄ?ｗｉｔｈ?ａ?ｙｅａｒ?ｅａｒｌｉｅｒ．??［Ｐａｎａｍａ?Ｃｉｔｙ?Ｂｅａｃｈ］?Ｅ２?ｈａｓ?ｃｏｎｄｏｓ?，?ｂｕｔ?ｔｈｅ?ａｒｅａ?ｗａｓ?ｏｎｅ?ｏｆ?ｏｎｌｙ?ｔｗｏ?ｉｎ??ＢｉＬＳＴＭ＋ＣＮＮｓ??［Ｆｌｏｒｉｄａ］?Ｅ＼?ｗｈｅｒｅ?ｓａｌｅｓ?ｒｏｓｅ?ｉｎ?Ｍａｒｃｈ?，?ｃｏｍｐａｒｅｄ?ｗｉｔｈ?ａ?ｙｅａｒ?ｅａｒｌｉｅｒ．??［Ｐａｎａｍａ?Ｃｉｔｙ?Ｂｅａｃｈ］?Ｅｌｃｏｎｔａｉｎ?ｈａｓ?ｃｏｎｄｏｓ

图４－１当前标注策略下的黄金标注??现在己经解决了训练数据标注的问题，下面将介绍如何从预测的标签得到最??终的结果。从图４－１中可以看出，“Ｔｒｕｍｐ”和“Ｕｎｉｔｅｄ?Ｓｔａｔｅｓ”在相同的关系类??别“０卩”中，“人？咖１加”和“３１６＼他１？＆１１１＿１（＾”在相同的关系类别“＃俊敝小Ｍǎ崳?过连接相同关系类别的实体得到最终的结果。“Ｔｍｍｐ”和“Ｕｎｉｔｅｄ?Ｓｔａｔｅｓ”可以??连接为一个关系为“Ｃｏｕｎｔｒｙ－Ｐｒｅｓｉｄｅｎｔ”的三元组。因为“Ｔｒｕｍｐ”在关系角色??中的标签为“２”，而“ＵｎｉｔｅｄＳｔａｔｅｓ”在关系角色中的标签为“１”，因此得到最终??白勺三元组｛Ｕｎｉｔｅｄ?Ｓｔａｔｅｓ，?Ｃｏｕｎｔｒｙ－Ｐｒｅｓｉｄｅｎｔ，?Ｔｒｕｍｐ｝?〇??如果一个句子中包含相同关系类别两个或多个三元组，本文按照最近准则将??每两个实体转成一个三元组。“Ｕｎｉｔｅｄ?Ｓｔａｔｅｓ”最接近实体“Ｔｒｕｍｐ”，“ＡｐｐｌｅＩｎｃ”??最接近“Ｊｏｂｓ＇?所以结果将是｛Ｕｎｉｔｅｄ?Ｓｔａｔｅｓ，Ｃｏｍｐａｎｙ－Ｆｏｕｎｄｅｒ，Ｔｒｕｍｐ｝和｛Ａｐｐｌｅ??Ｉｎｃ，?Ｃｏｍｐａｎｙ?－?Ｆｏｕｎｄｅｒ，?Ｓｔｅｖｅｎ?Ｐａｕｌ?Ｊｏｂｓ｝。??在本文中

【参考文献】：
期刊论文
[1]知识图谱构建技术综述[J]. 刘峤,李杨,段宏,刘瑶,秦志光.  计算机研究与发展. 2016(03)

博士论文
[1]短文本信息抽取若干技术研究[D]. 郑立洲.中国科学技术大学 2016
[2]汉语命名实体识别研究[D]. 江会星.北京邮电大学 2012



本文编号：3020580