面向张量数据的迁移学习研究与应用

发布时间：2017-04-04 16:15

  本文关键词：面向张量数据的迁移学习研究与应用，由笔耕文化传播整理发布。

【摘要】：随着信息技术的快速发展,信息数据大量出现在日常生活中。如何高效地从这些信息数据中获取到有用的知识,显得日益重要。在传统机器学习研究过程中,往往需要假设测试数据与训练数据服从相同分布,并且需要大量的训练数据才能训练出性能好的分类器。然而在一些新兴的领域中难以获取大规模带标签的样本。若按照传统的人工专家方式重新标记数据样本,会出现成本高、易出错等问题。迁移学习研究的重点就是如何克服传统机器学习这些缺陷。本文基于已有的研究工作,在张量空间中提出了具有迁移学习能力的支持张量机(Transfer Learning-Support Tensor Machine, TL-STM)算法。支持张量机(Support Tensor Machine, STM)是支持向量机(Support Vector Machine, SVM)在高阶空间的扩展。STM通过在张量空间中训练出一个分类超平面,从而完成对数据的分类与识别。STM在缺少训练数据集的领域中,与传统学习一样无法得到可靠的分类模型。TL-STM算法在缺少大规模训练数据的张量空间中,通过迁移相关领域的知识,从而训练得到性能较好的分类器。本文的具体工作如下：(1)探讨了SVM分类超平面与模型参数之间的关系。由SVM算法在处理高阶数据样本时表现出来的缺陷,引出支持张量机算法。通过探索模型参数之间的关系得出STM模型参数是相互关联的,确定采用交替投影的方式进行模型求解。(2)在二阶张量空间对支持张量机进行迁移学习研究。在训练少量带标签的样本时,结合源领域超平面迁移知识,从而得到目标领域的分类模型。求解分类器时,采用交替投影的计算机制将模型转换成求解一系列二次凸规划问题。通过计算设定的收敛条件,判定函数是否收敛,进而完成模型的求解。最后还对算法的可行性进行了分析与验证。(3)将TL-STM从二阶张量空间推广到高阶张量空间。运用张量学习中的m-模积运算将模型转换成求解关于超平面法向量的凸最优化问题。通过求解若干关于法向量的二次规划问题,判别收敛条件,最终获得高阶支持张量机的迁移学习模型。本文在Matlab与Visual Studio软件平台上对算法进行实验分析。通过与STM在分类性能上的对比结果表明：TL-STM在目标领域缺少训练样本的情况下,结合源领域超平面知识,可以获得一个性能更好的分类器。
【关键词】：支持张量机 迁移学习 张量 向量
【学位授予单位】：广东工业大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP181
【目录】：

• 摘要4-6
• Abstract6-14
• 第一章 绪论14-20
• 1.1 研究背景与意义14-16
• 1.2 国内外研究现状16-18
• 1.2.1 迁移学习的研究进展16-17
• 1.2.2 张量学习的研究进展17-18
• 1.3 本文主要研究的内容18-19
• 1.4 论文结构19-20
• 第二章 迁移学习相关理论20-27
• 2.1 迁移学习概述20-22
• 2.2 迁移学习的分类22-24
• 2.3 迁移学习的技术方法24-26
• 2.4 迁移学习的应用26
• 本章小结26-27
• 第三章 张量理论与相关算法27-36
• 3.1 张量学习相关知识27-30
• 3.2 张量学习的应用30
• 3.3 支持向量机30-33
• 3.3.1 二分类支持向量机30-33
• 3.3.2 支持向量机的优缺点分析33
• 3.4 支持张量机33-35
• 本章小结35-36
• 第四章 支持张量机的迁移学习36-48
• 4.1 算法提出背景36
• 4.2 算法的基本思想36-37
• 4.3 二阶支持张量机的迁移学习37-43
• 4.3.1 学习模型构建37-39
• 4.3.2 算法可行性分析39-40
• 4.3.3 算法收敛条件40-41
• 4.3.4 算法基本流程41-42
• 4.3.5 算法求解步骤42-43
• 4.4 高阶支持张量机的迁移学习43-47
• 4.4.1 学习模型构建43-44
• 4.4.2 算法收敛条件44-45
• 4.4.3 算法基本流程45
• 4.4.4 算法求解步骤45-47
• 本章小结47-48
• 第五章 实验及评价48-61
• 5.1 数据集介绍及数据预处理48-51
• 5.1.1 数据集介绍48-50
• 5.1.2 实验数据的预处理50-51
• 5.2 实验方法以及运行环境51-53
• 5.2.1 实验设置51-53
• 5.2.2 参数选择53
• 5.2.3 实验环境53
• 5.3 实验结果分析53-59
• 5.3.1 同类数据源数据库性能分析53-56
• 5.3.2 异类数据源数据库性能分析56-58
• 5.3.3 算法效率分析58-59
• 本章小结59-61
• 总结与展望61-63
• 参考文献63-67
• 攻读学位期间发表论文67-69
• 致谢69

【相似文献】

中国期刊全文数据库 前10条

1 李秀英;;网络环境下学生学习的特点[J];教师;2009年04期

2 夏定海,黄智英;教会学习 学会学习 终身学习[J];发明与革新;2000年06期

3 黄启兵;汪芳;;论网络时代学习与创新的统一[J];教学研究;2002年03期

4 陈相安;把档案部门建成学习型组织[J];中国档案;2003年09期

5 顾新,蔡兵,李久平;学习与学习型社会[J];软科学;2004年02期

6 郑军;试论编辑的学习特征[J];中国编辑;2005年06期

7 邱晓荣,孔一童;试论网络环境中的合作学习[J];当代教育论坛;2005年02期

8 冷平,王仁蓉,刁永锋;网络学习的成功要素探析[J];教育信息化;2005年03期

9 张建光;朱秀娥;张笑双;;网络学习社区的特征和构建[J];中国教育技术装备;2006年03期

10 徐晓涌;;创建学习型企业莫入误区[J];中国邮政;2006年02期

中国重要会议论文全文数据库 前10条

1 韩文;;让合作学习在逆境中重生[A];中华教育理论与实践科研论文成果选编（第2卷）[C];2010年

2 吕启春;;浅谈小学数学中的小组合作学习[A];2014年1月现代教育教学探索学术交流会论文集[C];2014年

3 杜俊娟;;用学习动机培养策略课题的学习对体育教师进行研究性学习培养的实验研究[A];第七届全国体育科学大会论文摘要汇编（一）[C];2004年

4 瞿春波;;浅议合作学习之误区[A];校园文学编辑部写作教学年会论文集[C];2007年

5 时龙;;把握分析学情是改进教学和促进学习的基础[A];2012·学术前沿论丛——科学发展：深化改革与改善民生（下）[C];2012年

6 韦彩红;;如何组织学生共享学习成果[A];中华教育理论与实践科研论文成果选编（第2卷）[C];2010年

7 格保耿;;培养学生学习物理的兴趣[A];2014年5月现代教育教学探索学术交流会论文集[C];2014年

8 钮荣荣;;关于小学数学教学中小组合作学习的几点思考[A];2014年6月现代教育教学探索学术交流会论文集[C];2014年

9 陈妙;;让数学课堂效率得到真正的提高——浅谈新课改下学生学习兴趣的培养[A];中华教育理论与实践科研论文成果选编（第3卷）[C];2010年

10 黄春妙;;浅谈语文课堂合作学习的有效把握[A];中华教育理论与实践科研论文成果选编（第3卷）[C];2010年

中国重要报纸全文数据库 前10条

1 农行浙江东阳支行 吴新国 周龙飞;银行如何创建学习型组织[N];上海金融报;2003年

2 西北师范大学 李瑾瑜;校长：如何引领和促进教师学习[N];中国教育报;2008年

3 永寿县店头中学 刘俊锋;大力提倡合作学习 全面促进有效教学[N];咸阳日报;2009年

4 本报评论员;要在真学习上下功夫[N];酒泉日报;2009年

5 本报记者 李天然;学习应该是一种终身行为[N];大连日报;2010年

6 刘继芳;浅议建设学习型党组织中的“学习”内涵[N];伊犁日报(汉);2010年

7 哈尔滨市第五医院 蒙硕;浅谈医院创建学习型党组织[N];黑龙江日报;2010年

8 翟爱霞;浅谈如何深入推进学习型党组织建设[N];太行日报;2011年

9 李振 上海交通大学国际与公共事务学院;制度变迁中的制度学习[N];中国社会科学报;2012年

10 重庆市教育评估院院长、中国高等教育学会学习科学研究分会常务副会长 龚春燕;实施新学习，，建设学习型社会[N];中国教育报;2013年

中国博士学位论文全文数据库 前10条

1 徐峰;基于社会网络的大学生学习网络结构研究[D];江西财经大学;2014年

2 付亦宁;本科生深层学习过程及其教学策略研究[D];苏州大学;2014年

3 张钰e

本文编号：285837