基于深度学习的联合实体识别和关系抽取模型研究

发布时间：2021-10-17 18:21

　　实体识别和关系抽取是自然语言处理领域中两个十分经典的问题。能够快速准确的识别出实体对及其之间的语义关系,对于信息抽取有着必不可少的作用,同时在进行知识图谱的创建过程以及信息搜索等领域都有着至关重要的意义。随着互联网的快速发展,数据量暴增,对知识服务的要求越来越高。因此实体关系抽取技术也成为了近年来学术界和工业界的研究热点之一,并在信息检索、问答系统、知识库创建、知识图谱等众多领域发挥着极大的作用。随着深度学习的发展,基于神经网络的实体识别和关系抽取技术的优势得到充分的显现,逐渐成为了当前使用主流的方法之一。本文研究了基于深度学习的联合实体识别和关系抽取模型,文章所做的主要工作内容和创新点包含如下的几个方面:1.总结了实体识别和关系抽取作为自然语言处理领域的两大热点任务的研究背景和研究意义,介绍了实体识别和关系抽取任务的原理、质量评价指标并回顾了实体识别和关系抽取的发展历史和国内外研究现状。概括介绍了深度学习和神经网络相关的基础理论如基于神经网络的词向量技术、卷积神经网络结构、循环神经网络、长短期记忆网络和优化算法等。2.提出了一种基于双向长短期记忆网络的深度学习实体关系抽取联合模型。该... 

【文章来源】：合肥工业大学安徽省 211工程院校 教育部直属院校

【文章页数】：62 页

【学位级别】：硕士

【部分图文】：

实体识别样例

关系抽取样例

合肥工业大学硕士学位论文10够获得词序信息，FastText方法在输入层中增加了n-gram特征，其输入为n-gram特征和句子中的每个词，输出为文本的标签。图2.3Skip-gram模型和CBOW模型逻辑框图Fig2.3LogicblockdiagramofSkip-grammodelandCBOWmodel2.3.2卷积神经网络结构最早在上个世纪八十年代诞生了卷积神经网络的雏形，卷积神经网络（CNN）是一种典型的人工神经网络算法，之后神经延迟网络和LeNet-5随之被人们开发出来，近些年由于深度学习中持续的理论研究，卷积神经网络也迅速发展，被应用于众多领域[52-53]。1989年，LeCun在自己的论文中第一次提到了卷积神经网络这个概念，这种比较简单的全连接网络有着训练容易、泛化能力强等好处。卷积神经网络的结构种类繁多，可以包括很多层，当前层以上一层学习获得特征为样本，进行新的特征获取工作，最后完成各自的学习，卷积神经网络通过随着网络层数的增加，提出的图像特征将更为抽象，并且输入的全局特征也可以被网络学习到。卷积神经网络的优点在于网络本身设计时所存在的两个特点，权值共享和局部连接。卷积神经网络依靠局部连接将复杂度显著降低。权值共享可以使输入共用一样的参数矩阵来特征提取，这样使神经网络能够无需学习输入的所有卷积核参数，只用一组的卷积核参数就能完成整个网络的特征提取，显著降低了网络中计算的参数量，就可以通过共享同一组卷积核的参数再来生成一副完整的特征图。卷积神经网络的网络结构一般会采用卷积层、池化层和激活函数层相互交替堆叠，以下部分对卷积层、激活函数分别进行介绍，并对批归一化以进行简单的概述。1）卷积层卷积的运算能够简化成使用了一个滑窗滤波器，在完整的一幅输入图像上按

【参考文献】：
期刊论文
[1]基于COAE2016数据集的中文实体关系抽取算法研究[J]. 孙建东,顾秀森,李彦,徐蔚然.  山东大学学报(理学版). 2017(09)
[2]基于维基百科和模式聚类的实体关系抽取方法[J]. 张苇如,孙乐,韩先培.  中文信息学报. 2012(02)
[3]命名实体识别研究[J]. 张晓艳,王挺,陈火旺.  计算机科学. 2005(04)

硕士论文
[1]基于深度学习的中文命名实体识别研究[D]. 王国昱.北京工业大学 2015
[2]音乐领域中文实体关系抽取研究[D]. 周蓝珺.哈尔滨工业大学 2009



本文编号：3442211