基于语义权重和注意力的实体关系抽取研究

发布时间：2021-09-03 11:15

　　实体关系抽取是信息抽取的一个子任务,能够判别给定文本中实体对之间存在的关系,在自然语言处理领域有着非常重要的地位。完全依赖人工建立实体关系抽取语料费时费力,而利用远程监督可以便捷地建立大型的语料,但是远程监督无法避免的标注错误带来了严重的数据噪声。为了解决这一问题,很多方法应运而生,其中表现最突出的就是基于多示例学习的注意力网络模型。但是目前的大多数方法将所有的实体关系独立看待,无法利用实体关系的内部联系,以及实体关系定义中丰富的语义信息,严重限制了模型的整体性能,特别是对其中缺乏训练数据的长尾实体关系的抽取性能。本文针对当前注意力机制在远程监督实体关系抽取任务的应用中,包级别的注意力计算中的查询向量中缺乏实体关系的层级结构信息与语义信息,导致模型无法学习到合理的注意力权重的问题,提出了实体关系注意力网络（Entity Relation Attention Networks,ERAN）模型。ERAN模型使用双向GRU（Gated Recurrent Unit,GRU）编码实体关系定义生成实体关系的上下文表示,使用自定义的点积注意力机制计算注意力分数,能够充分利用GRU编码得到的所有隐藏... 

【文章来源】：华南理工大学广东省 211工程院校 985工程院校 教育部直属院校

【文章页数】：76 页

【学位级别】：硕士

【部分图文】：

卷积操作

最大池化

平均池化

【参考文献】：
期刊论文
[1]卷积神经网络研究综述[J]. 周飞燕,金林鹏,董军.  计算机学报. 2017(06)
[2]基于多通道卷积神经网的实体关系抽取[J]. 肜博辉,付琨,黄宇,王洋.  计算机应用研究. 2017(03)
[3]依存句法分析研究综述[J]. 石翠.  智能计算机与应用. 2013(06)
[4]基于Deep Belief Nets的中文名实体关系抽取[J]. 陈宇,郑德权,赵铁军.  软件学报. 2012(10)
[5]基于树核函数的实体语义关系抽取方法研究[J]. 庄成龙,钱龙华,周国栋.  中文信息学报. 2009(01)



本文编号：3381009