极限学习机理论与算法研究
发布时间:2023-01-25 19:06
极限学习机(Extreme Learning Machine,ELM)算法是近几年出现的一种新的单隐含层前馈神经网络(SLFNs)学习算法。与传统的BP学习算法相比,具有结构简单,学习速度快以及良好的全局寻优能力,成为机器学习领域研究的一个前沿方向,正受到越来越广泛的关注。核极限学习机是将核函数引入到极限学习机中,大大减小了计算复杂度,可以得到最小平方优化解,具有更稳定的、更好的泛化性能。本文在全面学习极限学习机和核极限学习机知识的基础上,提出了一种新的核极限学习机算法,并将其用在基于视频图像的人体动作识别中。论文完成的研究工作如下:首先,本文从优化角度,分析了支持向量机(SVM)、最小二乘支持向量机(LS-SVM)和极限学习机之间的关系,得出:LS-SVM是基于原始SVM的一种,其实际上是核极限学习机简化的实现结构。核极限学习机将SVM和LS-SVM包含和统一起来,提供了广义的SLFNs的统一解,为后续新算法的提出提供了指导意义。其次,从缩短核参数优化时间角度出发,基于埃尔米特正交多项式,提出了一种三角埃尔米特核极限学习机(TriH-KELM)方法,将三角埃尔米...
【文章页数】:71 页
【学位级别】:硕士
【文章目录】:
摘要
Abstract
第1章 绪论
1.1 极限学习机的研究背景及意义
1.2 极限学习机的国内外研究现状
1.3 核极限学习机的国内外研究现状
1.3.1 内积核函数与平移不变核函数
1.3.2 基于正交多项式的核函数
1.4 本文研究内容及主要工作
第2章 极限学习机理论
2.1 广义单隐含层前馈神经网络(SLFNs)模型
2.1.1 SLFNs的逼近问题
2.1.2 基于梯度的学习算法
2.1.3 SLFNs的最小范数最小二乘解——极限学习机算法
2.2 核极限学习机(Kernel Extreme Learning Machine, KELM)
2.3 核极限学习机统一支持向量机和最小二乘支持向量机
2.3.1 支持向量机
2.3.2 最小二乘支持向量机
2.3.3 核极限学习机和SVM、LS-SVM的关系
2.4 核函数的性质
2.4.1 平移不变核的性质
2.4.2 旋转不变核的性质
2.4.3 卷积核的性质
2.4.4 核函数的其他性质
第3章 三角埃尔米特核极限学习机
3.1 引言
3.2 三角埃尔米特核极限学习机
3.2.1 三角核函数的构建
3.2.2 广义埃尔米特Dirichlet核函数的构建
3.2.3 三角埃尔米特核极限学习机
3.3 建立实验结果与分析
3.3.1 在双螺旋线数据集上的分类
3.3.2 在Banana数据集上的分类对比
3.3.3 在标准UCI数据集上的分类对比
3.3.4 在标准UCI数据集上的回归对比
3.4 本章小结
第4章 基于深度数据和极限学习机的人体动作识别
4.1 引言
4.2 动作特征提取
4.2.1 深度图的Gist特征提取
4.2.2 RGB图的Gist特征提取
4.2.3 混合特征描述符
4.3 基于三角埃尔米特核极限学习机的动作分类
4.4 实验结果分析
4.4.1 数据集介绍
4.4.2 MSR Action 3D数据集实验结果与分析
4.4.3 DHA数据集实验结果与分析
4.5 本章小结
结论
参考文献
致谢
攻读硕士期间发表(含录用)的学术论文和取得的科研成果
【参考文献】:
期刊论文
[1]极限学习机在图像分割中的应用[J]. 李作仁,王佳玉,安雨桐,祁欣. 电脑知识与技术. 2016(03)
[2]核函数的概念、性质及构造[J]. 李传科,许苗村. 电脑知识与技术. 2015(32)
[3]一类改进的埃尔米特核函数[J]. 田萌,王文剑. 计算机科学. 2014(05)
[4]基于正交多项式的核函数性质研究[J]. 田萌,王文剑. 模式识别与人工智能. 2014(05)
[5]一类新的基于拉盖尔正交多项式的核函数[J]. 张瑞,王文剑,王嘉琦,王玉娇. 计算机工程与应用. 2012(36)
[6]基于支持向量机分类问题的勒让德核函数[J]. 张瑞,王文剑,张亚丹,孙芳玲. 计算机科学. 2012(07)
[7]一类新的支持向量机核函数——埃尔米特核函数[J]. 张瑞,高红,张立伟. 山西大学学报(自然科学版). 2012(01)
[8]行为分析算法综述[J]. 谷军霞,丁晓青,王生进. 中国图象图形学报. 2009(03)
[9]视角无关的动作识别[J]. 黄飞跃,徐光祐. 软件学报. 2008(07)
博士论文
[1]核极限学习机的理论与算法及其在图像处理中的应用[D]. 李小冬.浙江大学 2014
硕士论文
[1]基于深度信息的人体动作识别[D]. 赵竞雄.上海交通大学 2015
[2]极限学习机的研究与应用[D]. 甘露.西安电子科技大学 2014
[3]基于极限学习机的图像分类新算法研究[D]. 陈建原.福州大学 2014
[4]支持向量机核函数的研究[D]. 刘琰.西安电子科技大学 2012
[5]BP神经网络的改进研究及应用[D]. 刘天舒.东北农业大学 2011
本文编号:3731690
【文章页数】:71 页
【学位级别】:硕士
【文章目录】:
摘要
Abstract
第1章 绪论
1.1 极限学习机的研究背景及意义
1.2 极限学习机的国内外研究现状
1.3 核极限学习机的国内外研究现状
1.3.1 内积核函数与平移不变核函数
1.3.2 基于正交多项式的核函数
1.4 本文研究内容及主要工作
第2章 极限学习机理论
2.1 广义单隐含层前馈神经网络(SLFNs)模型
2.1.1 SLFNs的逼近问题
2.1.2 基于梯度的学习算法
2.1.3 SLFNs的最小范数最小二乘解——极限学习机算法
2.2 核极限学习机(Kernel Extreme Learning Machine, KELM)
2.3 核极限学习机统一支持向量机和最小二乘支持向量机
2.3.1 支持向量机
2.3.2 最小二乘支持向量机
2.3.3 核极限学习机和SVM、LS-SVM的关系
2.4 核函数的性质
2.4.1 平移不变核的性质
2.4.2 旋转不变核的性质
2.4.3 卷积核的性质
2.4.4 核函数的其他性质
第3章 三角埃尔米特核极限学习机
3.1 引言
3.2 三角埃尔米特核极限学习机
3.2.1 三角核函数的构建
3.2.2 广义埃尔米特Dirichlet核函数的构建
3.2.3 三角埃尔米特核极限学习机
3.3 建立实验结果与分析
3.3.1 在双螺旋线数据集上的分类
3.3.2 在Banana数据集上的分类对比
3.3.3 在标准UCI数据集上的分类对比
3.3.4 在标准UCI数据集上的回归对比
3.4 本章小结
第4章 基于深度数据和极限学习机的人体动作识别
4.1 引言
4.2 动作特征提取
4.2.1 深度图的Gist特征提取
4.2.2 RGB图的Gist特征提取
4.2.3 混合特征描述符
4.3 基于三角埃尔米特核极限学习机的动作分类
4.4 实验结果分析
4.4.1 数据集介绍
4.4.2 MSR Action 3D数据集实验结果与分析
4.4.3 DHA数据集实验结果与分析
4.5 本章小结
结论
参考文献
致谢
攻读硕士期间发表(含录用)的学术论文和取得的科研成果
【参考文献】:
期刊论文
[1]极限学习机在图像分割中的应用[J]. 李作仁,王佳玉,安雨桐,祁欣. 电脑知识与技术. 2016(03)
[2]核函数的概念、性质及构造[J]. 李传科,许苗村. 电脑知识与技术. 2015(32)
[3]一类改进的埃尔米特核函数[J]. 田萌,王文剑. 计算机科学. 2014(05)
[4]基于正交多项式的核函数性质研究[J]. 田萌,王文剑. 模式识别与人工智能. 2014(05)
[5]一类新的基于拉盖尔正交多项式的核函数[J]. 张瑞,王文剑,王嘉琦,王玉娇. 计算机工程与应用. 2012(36)
[6]基于支持向量机分类问题的勒让德核函数[J]. 张瑞,王文剑,张亚丹,孙芳玲. 计算机科学. 2012(07)
[7]一类新的支持向量机核函数——埃尔米特核函数[J]. 张瑞,高红,张立伟. 山西大学学报(自然科学版). 2012(01)
[8]行为分析算法综述[J]. 谷军霞,丁晓青,王生进. 中国图象图形学报. 2009(03)
[9]视角无关的动作识别[J]. 黄飞跃,徐光祐. 软件学报. 2008(07)
博士论文
[1]核极限学习机的理论与算法及其在图像处理中的应用[D]. 李小冬.浙江大学 2014
硕士论文
[1]基于深度信息的人体动作识别[D]. 赵竞雄.上海交通大学 2015
[2]极限学习机的研究与应用[D]. 甘露.西安电子科技大学 2014
[3]基于极限学习机的图像分类新算法研究[D]. 陈建原.福州大学 2014
[4]支持向量机核函数的研究[D]. 刘琰.西安电子科技大学 2012
[5]BP神经网络的改进研究及应用[D]. 刘天舒.东北农业大学 2011
本文编号:3731690
本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3731690.html