领域知识指导的模型重用

发布时间：2018-04-30 14:01

  本文选题：机器学习 + 模型重用　； 参考：《中国科学:信息科学》2017年11期

【摘要】：机器学习模型的生命周期通常比较短暂,大量的机器学习模型针对特定任务设计,在完成任务之后即失去使用价值.然而,一个精心设计和训练的模型通常更精炼地概括了训练数据中蕴含的知识.更进一步地,当无法获取原始训练数据时,已有的预训练模型就是仅剩的信息来源.本文提出了一种重用已有的预训练机器学习模型来辅助当前任务学习的框架,尤其适用于当前任务数据量不足的情形.该方法把已有模型视为黑盒,不需要已有模型的结构信息,并使用领域知识对已有模型进行筛选和结合.实验表明,在该框架下,通过对已有模型的重用,多个实际任务上的性能可以得到显著提升.
[Abstract]:The life cycle of machine learning models is usually short. A large number of machine learning models are designed for specific tasks and lose use value after completing tasks. However, a carefully designed and trained model usually more succinctly generalizes the knowledge contained in the training data. Furthermore, when the original training data cannot be obtained, the existing pretraining model is the only source of information. In this paper, a framework for reusing existing pre-training machine learning models to assist current task learning is proposed, which is especially suitable for the situation where the current task data is insufficient. This method treats the existing model as a black box and does not need the structural information of the existing model, and uses domain knowledge to filter and combine the existing model. The experimental results show that the performance of several practical tasks can be significantly improved by reusing the existing models in this framework.
【作者单位】： 南京大学计算机软件新技术国家重点实验室;
【基金】：国家自然科学基金(批准号:61333014)资助项目
【分类号】：TP181

【相似文献】

相关期刊论文 前10条

1 乐承毅;代风;吉祥;潘凯;顾新建;彭本红;;基于流程驱动的领域知识主动推送研究[J];计算机集成制造系统;2010年12期

2 闵罗礼;张铨;;控制领域知识的分类和表达[J];黑龙江自动化技术与应用;1988年04期

3 潘洁珠;吴共庆;胡学钢;张润梅;;基于领域知识的预警规则发现研究[J];计算机技术与发展;2008年07期

4 莫富强;王浩;姚宏亮;俞奎;;基于领域知识的贝叶斯网络结构学习算法[J];计算机工程与应用;2008年16期

5 柴啸龙;;领域知识优化的蚁群规划算法[J];计算机工程与应用;2010年14期

6 刘曙光;曾隽芳;李小兵;;基于概念网络的领域知识组织及应用[J];计算机工程;2006年07期

7 胡文彬;张宏;李千目;;不确定模式集成中领域知识应用模型的研究[J];计算机工程与应用;2010年32期

8 吴强,宋益大;基于本体的领域知识表示和信息检索的方法研究[J];绍兴文理学院学报;2005年02期

9 张丙奇;基于领域知识的个性化推荐算法研究[J];计算机工程;2005年21期

10 边文钰;包振强;周磊;王超;;基于本体的科研领域知识管理建模研究[J];计算机应用研究;2007年08期

相关会议论文 前10条

1 黄安强;张玲玲;陈全;王晓;;用于支撑智能知识发现的领域知识的表示和提取研究[A];第四届（2009）中国管理学年会——管理科学与工程分会场论文集[C];2009年

2 陈战伟;李晋宏;;领域知识在知识发现过程中的使用[A];2007通信理论与技术新发展——第十二届全国青年通信学术会议论文集（上册）[C];2007年

3 缪建明;吴晨;郝惠宁;张全;;一种基于HNC理论的领域知识表示研究[A];第三届学生计算语言学研讨会论文集[C];2006年

4 王珏;;归纳机器学习[A];2001年中国智能自动化会议论文集（上册）[C];2001年

5 吴沧浦;;智能系统与机器学习的新领域[A];西部大开发 科教先行与可持续发展——中国科协2000年学术年会文集[C];2000年

6 周晴杰;徐立鸿;吴启迪;;机器学习串级结构的初步探讨[A];1998年中国控制会议论文集[C];1998年

7 李刚;郭崇慧;林鸿飞;杨志豪;唐焕文;;基于词典法和机器学习法相结合的蛋白质名识别[A];大连理工大学生物医学工程学术论文集（第2卷）[C];2005年

8 蔡健平;林世平;;基于机器学习的词语和句子极性分析[A];第三届全国信息检索与内容安全学术会议论文集[C];2007年

9 黄金铁;李景银;周建常;;对高炉炉况评价模型参数的机器学习——一个三类线性模式分类器的实现[A];1995中国控制与决策学术年会论文集[C];1995年

10 程国建;蔡磊;潘华贤;;核向量机在大规模机器学习中的应用[A];第十一届中国青年信息与管理学者大会论文集[C];2009年

相关重要报纸文章 前3条

1 IBM大数据专家 James Kobielus　范范 编译;机器学习已成为大数据基石[N];网络世界;2014年

2 本报记者 房琳琳;合久必分：分布式“机器学习”应运而生[N];科技日报;2014年

3 雨辰;机器学习类图书为什么火爆[N];中华读书报;2014年

相关博士学位论文 前10条

1 李华;基于本体的应急领域知识表示与复用研究[D];天津大学;2008年

2 李卫;领域知识的获取[D];北京邮电大学;2008年

3 杨立;基于领域知识的知识发现研究[D];中国科学院研究生院（软件研究所）;2005年

4 董春茹;机器学习中的权重学习与差分演化[D];华南理工大学;2015年

5 姚明臣;机器学习和神经网络学习中的若干问题研究[D];大连理工大学;2016年

6 杜宇;基于深度机器学习的体态与手势感知计算关键技术研究[D];浙江大学;2017年

7 钟锦红;群智学习若干问题研究[D];中国科学技术大学;2017年

8 赵东;基于群智能优化的机器学习方法研究及应用[D];吉林大学;2017年

9 赵玉鹏;机器学习的哲学探索[D];大连理工大学;2010年

10 胡巍;面向格结构的机器学习[D];上海交通大学;2009年

相关硕士学位论文 前10条

1 周循;基于领域知识的面向分类的属性泛化研究[D];合肥工业大学;2008年

2 陈战伟;领域知识在辅助知识发现过程中的初始聚焦问题研究[D];北方工业大学;2008年

3 边文钰;基于本体的科研开发领域知识共享和重用研究[D];扬州大学;2007年

4 王晓东;面向事件处理的领域知识管理关键技术研究及实现[D];天津大学;2009年

5 潘晖;基于归纳学习策略的故障诊断知识学习方法[D];长春工业大学;2012年

6 陈召阳;基于机器学习的改性麦槽吸附重金属构效关系模型研究[D];江西理工大学;2014年

7 王成;基于半监督机器学习的文本情感分析技术[D];南京理工大学;2015年

8 孙科;基于Spark的机器学习应用框架研究与实现[D];上海交通大学;2015年

9 刘江龙;基于机器学习的射频指纹定位方法研究[D];电子科技大学;2015年

10 张蕾;基于机器学习的网络舆情采集技术研究与设计[D];电子科技大学;2014年

，

本文编号：1824835