基于可信度向量和文本信息的知识图谱表示学习

发布时间：2020-07-28 08:01

【摘要】：知识图谱是智能问答、语义搜索等信息服务应用的重要基础技术,知识图谱覆盖的知识越全面,越能更好地提供所需答案。尽管目前已经有多个大规模、开放领域的知识图谱,但它们距离完备仍然相差甚远,例如Freebase中有大约30%的人物实体缺少其父母亲信息。在传统的网络表示形式下利用知识图谱进行推理、补全,需要设计专门的图算法,其计算效率极低。而利用知识表示学习模型,能在低维空间中挖掘出实体和关系之间的语义关系,提高知识理解和推理能力。目前知识表示学习的代表模型是平移模型,该模型虽然简单高效,但其无法很好地处理知识图谱中的复杂关系,同时该模型仅仅利用了知识图谱中的三元组信息,并没有利用其他多源异质信息。针对上述问题,本文提出了一个基于可信度向量和文本信息的知识图谱表示学习模型,该模型能对知识图谱中的复杂关系进行建模,并引入了与知识图谱中实体相关的文本信息。论文依托863项目“面向基础教育的类人智能知识理解与推理关键技术”(2015AA015403),为更好的利用已构建的知识图谱,对知识图谱中的知识表示学习进行了研究。本文的主要工作包括以下几个方面:(1)针对平移模型在处理知识图谱中的一对多、多对一以及多对多这种复杂关系时,无法区分在某一方面具有相同语义的实体。本文构建了一种可信度向量,不同的关系关注实体不同的属性信息,在此基础上,本文构建了一种基于可信度向量的知识图谱表示学习模型,提高模型对实体的区分能力。在该模型中,为每一个关系都构建了一个可信度向量,基于可信度向量,实体在不同关系下具有不同表达形式,不同的关系关注实体不同的属性信息,从而达到对实体进行区分的目的。本文并利用类似信息素的思想对可信度向量进行优化。在较低的模型复杂度的情况下,本文提出的基于可信度向量的知识图谱表示学习模型能够提升知识表示学习在复杂关系下的区分能力。(2)除了知识图谱中的三元组信息外,非结构化的文本中包含了丰富的语义信息,能够丰富知识表示学习模型的表达能力。本文利用与实体相关的文本信息,构建了一种融合文本信息的基于可信度向量的知识图谱表示学习模型。在该模型中,实体的向量表示分为两个部分:基于三元组信息的表示和基于文本的表示。为得到实体的文本表示,本文构建一个五层的卷积神经网络,用于实体文本语义信息抽取。最后将实体的三元组表示与文本表示嵌入到模型的损失函数中,使得这两种表示能相互影响、相互融合。本文的主要贡献在于针对平移模型难以处理复杂关系和仅仅利用知识图谱中的三元组信息这两个不足,提出了相应的知识图谱表示学习模型,能够为知识图谱的应用提供一定的理论和技术支持。
【学位授予单位】：武汉理工大学
【学位级别】：硕士
【学位授予年份】：2018
【分类号】：TP391.1;G353.1
【图文】：

知识图,知识表示,知识库,实体

图 1-2 知识图谱的应用1表示学习是面向知识图谱（知识库）中实体和关系的表示学习的方法，将实体和关系投影到低维向量空间，也就是将信息表示为稠密、连续、低维的实值向量，这种表示方法学、低维的实值向量表示也被称为分布式表示[34]（tion）。示学习之前，是可以通过独热表示[34]（one-hot representatio。在独热表示中，也是将研究对象映射到向量空间，其每一都是二值化的，其取值只有 0 和 1 两种，通常情况下，该向为 1，其他维度上的值都是为 0。这种表示方法十分简单，但区分开来，独热表示中的向量的长度必须大于或者等于不同然语言处理中得到广泛应用的词袋模型[35]（bag-of-words m示为基础的。与表示学习比较而言，独热表示不需要学习这，因而在自然语言处理和信息检索中被广泛使用。但独热表提就是所有对象都是相互独立的，基于独热表示来通过欧氏

技术路线图,技术路线,论文

论文技术路线

谱表示,知识图

在 TransE 模型中，模型希望：头实体加上关系约等于尾实体，即 h+r ≈t ，为此 TransE 模型定义了相应的损失函数，见公式（1-7），该损失函数表示的是头实体向量加上关系向量(h+r)和尾实体向量(t)的距离。TransE 模型参数少、复杂度低并且在大规模知识图谱中表现出了简单、高效的特点。但是，也正是由于 TransE 模型的简单，导致了它在复杂关系建模、多源信息融合、关系路径建模等方面的局限性。

【相似文献】