翻译模型的负样生成方法研究

发布时间：2020-06-17 03:29

【摘要】：知识表示学习的目标是将知识图谱中的实体和关系表示成稠密低维的向量。目前翻译模型是知识表示学习的代表性模型。基于翻译规则的模型通过优化成对排序函数使得正样本与负样本尽量分离。优化目标决定了翻译模型的训练过程离不开负样本参与,因此负样本的质量对模型训练起到非常重要的作用。然而已有的工作很少考虑负样本的生成策略,大部分基于翻译规则的模型在训练时采用随机替换事实三元组的头尾实体得到负样本,这种负样本生成方法会得很多到低质量的负样本,导致模型收敛速度变慢;并且现有的负样本生成策略均未考虑知识图谱中潜在的噪音和知识图谱本身所具有的社区结构信息。为解决上述问题,本文主要做了如下工作:(1)提出一种基于置信度的负样本生成策略。在带有噪音的知识图谱中提出了负样本置信度概念,在此基础上,进一步提出了一种考虑置信度的负样本生成方法,然后将这种负样本生成策略用于知识图谱中的噪音检测,在带有不同噪音比率的标准数据集中取得了较高的表示模型精度。(2)提出基于社区结构的负样本生成策略。即针对实体稠密的社区与实体稀疏的社区,分别设计不同的负样本选择策略,实验验证了该策略的有效性。
【学位授予单位】：合肥工业大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：TP391.2;TP18
【图文】：

(a) The effect of the parameter learning rate on the metric MRR. (b) The effect of the parameter learning rate on the metric Hits@10.图 3.2 对学习速率 λ 的参数分析Fig. 3.2 Parameter analysis on the learning rate (λ), where γ and NG were fixed at 1 and 20,respectively.(a) The effect of the parameter margin on the metric MRR. (b) The effect of the parameter margin on the metric Hits@10.图 3.3 对边界 λ 的参数分析

合肥工业大学专业硕士研究生学位论文(a) The effect of the parameter learning rate on the metric MRR. (b) The effect of the parameter learning rate on the metric Hits@10.图 3.2 对学习速率 λ 的参数分析Fig. 3.2 Parameter analysis on the learning rate (λ), where γ and NG were fixed at 1 and 20,respectively.

【相似文献】

相关期刊论文 前10条

1 赵强;;基于直觉模糊Petri网的知识表示与推理[J];信息与电脑(理论版);2018年21期

2 李娟;吴想;;谓词逻辑在人工智能知识表示中的应用[J];数码世界;2017年06期

3 顾永跟;决策表知识表示的应用探讨[J];湖州师专学报;1996年06期

4 刘群,刘杰,陈述;基于集成式知识表示的专家系统开发工具[J];小型微型计算机系统;1997年05期

5 郑士贵;知识表示图的比较分析和评价的基础[J];管理科学文摘;1997年01期

6 刘群,陈述,刘杰;一种集成式知识表示及相应推理方法[J];哈尔滨工程大学学报;1997年01期

7 石祥滨，鲜宏，逯越;一种用于医学诊断的知识表示模型[J];沈阳工业大学学报;1994年03期

8 徐峻;张懋森;;关系矩阵法——一种新的化学结构表示法[J];计算机与应用化学;1987年02期

9 管纪文;邱涤虹;;关于知识表示[J];计算机科学;1987年01期

10 吴信东;;论知识表示[J];计算机工程与应用;1988年06期

相关会议论文 前10条

1 苏俊;颜宗福;;一种基于数据库技术的不同知识表示之间的转换方法[A];第十届全国数据库学术会议论文集[C];1992年

2 刘永清;刘泉宝;;关于知识表示的思考[A];1995年中国智能自动化学术会议暨智能自动化专业委员会成立大会论文集（上册）[C];1995年

3 施平安;吴f^;;数字化海事案例特征提取与知识表示初探[A];第二届广东海事高级论坛论文集[C];2008年

4 张龙祥;汤庸;;面向对象的知识表示和知识库组织[A];第九届全国数据库学术会议论文集(上)[C];1990年

5 刘邦凡;;一个知识表示的广义模态逻辑方案[A];2007年全国现代逻辑学术研讨会论文集[C];2007年

6 吴金平;李加祥;缪旭东;;防空威胁判断中对目标信息的模糊知识表示[A];2001年中国智能自动化会议论文集（上册）[C];2001年

7 朱斌;张丽萍;李延珩;;知识工程基本技术[A];计算机与教育——全国计算机辅助教育学会第十届学术年会论文集[C];2001年

8 潘久辉;;多媒介信息:面向对象的数据与知识表示[A];第九届全国数据库学术会议论文集(上)[C];1990年

9 郑德玲;李育晖;李擎;;基于模式识别及神经网络的专家系统的知识表示的推理策略[A];1995年中国控制会议论文集（下）[C];1995年

10 刘适;;航空结构件数控程编知识获取与知识表示研究[A];2017年（第三届）中国航空科学技术大会论文集（下册）[C];2017年

相关重要报纸文章 前1条

1 CF40理事 资配易董事长 创始人 张家林;人工智能投顾，需要从业资格考试吗[N];华夏时报;2016年

相关博士学位论文 前10条

1 肖寒;基于几何变换的知识表示研究[D];清华大学;2017年

2 徐焕良;企业知识资源计划及其关键技术研究[D];南京航空航天大学;2003年

3 郑骁庆;语义万维网的不确定知识表示与信任计算[D];浙江大学;2007年

4 秦忠宝;基于混合知识表示的设计创新及知识获取研究[D];西北工业大学;2006年

5 赵昌葆;工程知识粒度化技术及其应用研究[D];西北工业大学;2006年

6 周文;基于概念的若干知识表示模型及相关方法研究[D];上海大学;2007年

7 肖文洁;知识表示与推理的若干问题研究[D];南京航空航天大学;2010年

8 孙丽君;物流配送干扰管理问题的知识表示与建模方法[D];大连理工大学;2011年

9 郭晓黎;煤矿安全事件本体及其在查询扩展中的应用研究[D];中国矿业大学(北京);2016年

10 仲兆满;事件本体及其在查询扩展中的应用[D];上海大学;2011年

相关硕士学位论文 前10条

1 王权威;初等数学问题自动求解中的分支推理架构及实现[D];电子科技大学;2019年

2 单迎春;翻译模型的负样生成方法研究[D];合肥工业大学;2019年

3 罗义琴;基于关系路径建模的知识表示学习研究[D];桂林电子科技大学;2019年

4 沈杰;数据驱动的知识图谱补全[D];云南大学;2018年

5 王琦;基于多源信息的知识表示学习方法研究[D];华中师范大学;2019年

6 黄璨;大规模健康管理方案及定量操作知识的网络化转换研究[D];上海交通大学;2016年

7 张钊;知识表示与知识表示学习在服务机器人中的应用研究[D];中国科学技术大学;2019年

8 刘颖;知识表示学习中考虑基数约束的筛选方法[D];吉林大学;2019年

9 罗丹;一种基于表示学习的知识图谱融合算法与系统实现[D];浙江大学;2018年

10 欧阳欣;基于多源信息融合的知识表示学习及应用[D];华东师范大学;2018年

本文编号：2717006