基于深度学习的专家列表排序方法研究
发布时间:2017-05-06 16:07
本文关键词:基于深度学习的专家列表排序方法研究,由笔耕文化传播整理发布。
【摘要】:不论是在研究机构还是在大型企业都需要有丰富的专业知识和技能,代表着领域前沿发展的专家,去领导团队开展工作,提高工作效率,所以如何有效的找到相关领域的专家至关重要。传统的方法通常借助搜索引擎对专家进行检索,存在准确率低和信息不全等弊端,因此面向专家这一特定人群进行垂直信息检索是非常必要的。专家检索是基于表征专家专长的各种资源,识别专家在某给定查询主题下的相关性程度,并按相关程度高低进行排序并显示专家结果列表的过程。专家检索是最有效的获取专家信息的方法,而专家排序是专家检索的核心,专家排序方法的优劣决定了专家检索的精度,因此专家排序具有重要的研究价值。本文围绕专家排序这一问题,主要在以下几个方面展开深入研究与探讨: (1)提出了一种融合特征层次类型信息的专家列表排序方法。 该方法针对专家排序的特点进行深入分析,定义了查询和文档相关性特征,页面内容特征,语言模型特征和专家相关特征四大类特征。不同类型的特征对专家排序的贡献程度不同,因此根据贡献程度的大小定义了特征层次类型值。最后将特征层次类型信息结合专家列表的思想对专家进行排序。 (2)提出了一种基于深度学习的专家排序方法。 该方法针对神经网络由于随机初始化导致的容易陷入局部最小和训练时间过长,并且不能更好的逼近排序函数等缺点,提出通过受限玻尔兹曼机RBM无监督的自训练得到较优的参数来逐层初始化权重,进而构建深度可信网DBN模型对专家进行排序。 (3)提出了一种基于深度学习的专家列表排序方法。 传统的受限玻尔兹曼机RBM在自训练求解参数时是将单个专家文档作为一个训练实例,没有考虑专家列表之间的相关性,因此对受限玻尔兹曼机进行了改进,将查询对应的所有专家文档形成的训练实例输入到受限玻尔兹曼机中并全部训练结束后,整体进行一次更新,并且此处采用余弦值取代矩阵简单相减对更新变量△W进行计算。 (4)利用上述研究成果,设计实现了基于深度学习的专家列表排序原型系统。
【关键词】:专家排序 列表排序 深度学习 深度可信网络 受限玻尔兹曼机
【学位授予单位】:昆明理工大学
【学位级别】:硕士
【学位授予年份】:2014
【分类号】:TP391.3
【目录】:
- 摘要5-6
- Abstract6-11
- 第一章 绪论11-17
- 1.1 研究背景及意义11-12
- 1.2 国内外研究现状12-15
- 1.3 论文的研究内容15-16
- 1.4 论文的组织16-17
- 第二章 排序学习基础理论17-31
- 2.1 排序学习17-21
- 2.1.1 pointwise排序学习方法17-19
- 2.1.2 pairwise排序学习19-20
- 2.1.3 listwise排序学习20-21
- 2.2 专家排序学习模型21-25
- 2.2.1 专家模型21-23
- 2.2.2 文档模型23-24
- 2.2.3 投票模型24
- 2.2.4 链接分析模型24-25
- 2.3 专家排序相关系统25
- 2.4 深度可信网络25-26
- 2.5 排序学习性能评价指标26-29
- 2.5.1 MRR(Mean Reciprocal Ranking)26-27
- 2.5.2 Mean average precision(MAP)27-28
- 2.5.3 Precision at position n (P@n)28
- 2.5.4 Normalized discount cumulative gain(NDCG)28-29
- 2.6 本章小结29-31
- 第三章 融合特征层次类型信息的专家列表排序方法31-43
- 3.1 引言31
- 3.2 特征提取31-35
- 3.2.1 查询和文档相关性特征32
- 3.2.2 页面内容特征32-33
- 3.2.3 语言模型33-35
- 3.2.4 专家相关特征35
- 3.3 特征层次类型35-36
- 3.4 融合特征层次类型的专家列表排序学习模型36-40
- 3.4.1 神经网络模型36-38
- 3.4.2 梯度下降算法38-39
- 3.4.3 专家列表排序模型39-40
- 3.5 实验设置和分析40-42
- 3.5.1 不同特征对排序学习的影响40-41
- 3.5.2 融入特征层次类型对排序学习的影响41-42
- 3.5.3 不同排序方法效果比较42
- 3.6 小结42-43
- 第四章 基于深度学习的专家排序方法43-51
- 4.1 引言43-44
- 4.2 深度学习模型44-47
- 4.2.1 深度可信网络DBN44-45
- 4.2.2 受限玻尔兹曼机RBM自训练过程45-46
- 4.2.3 BP神经网络微调DBN过程46-47
- 4.3 实验设计以及结果分析47-49
- 4.3.1 深度学习的学习层数对排序结果的影响47
- 4.3.2 每层节点个数对排序结果的影响47-48
- 4.3.3 不同排序学习方法的比较48-49
- 4.4 本章小结49-51
- 第五章 基于深度学习的专家列表排序方法51-61
- 5.1 引言51
- 5.2 基于深度学习的专家列表学习排序方法51-57
- 5.2.1 RBM理论研究51-54
- 5.2.2 列表思想54-55
- 5.2.3 改进深度学习模型55-57
- 5.3 实验设计以及结果分析57-59
- 5.3.1 不同RBM层数对专家列表排序性能的影响57-58
- 5.3.2 与传统的排序学习方法的比较58
- 5.3.3 基于深度学习的专家列表排序方法的有效性58-59
- 5.4 本章小结59-61
- 第六章 基于深度学习的专家列表排序原型系统61-65
- 6.1 引言61
- 6.2 实验坏境61
- 6.3 语料收集61-62
- 6.4 专家排序系统的设计与实现62-64
- 6.4.1 系统框架62-63
- 6.4.2 专家排序系统实现效果63-64
- 6.5 本章小结64-65
- 第七章 总结和展望65-67
- 7.1 总结65
- 7.2 工作展望65-67
- 致谢67-69
- 参考文献69-75
- 附录A 攻读硕士期间发表的论文75-76
- 附录B 攻读硕士期间参与项目与申请软件著作权76
【参考文献】
中国期刊全文数据库 前2条
1 奚雪峰;周国栋;;基于Deep Learning的代词指代消解[J];北京大学学报(自然科学版);2014年01期
2 王文钧;李巍;;垂直搜索引擎的现状与发展探究[J];情报科学;2010年03期
本文关键词:基于深度学习的专家列表排序方法研究,,由笔耕文化传播整理发布。
本文编号:348706
本文链接:https://www.wllwen.com/kejilunwen/sousuoyinqinglunwen/348706.html