基于群智能优化的核极限学习机模型选择方法研究及应用
发布时间:2020-12-31 17:36
单隐层前馈神经网络(SLFN)以其良好的学习能力在诸多领域中得到了广泛的应用,然而SLFN需要权值和阈值的迭代修正,因此SLFN固有的训练速度慢、泛化性能差等一些缺点,成为限制其发展应用的主要瓶颈。极限学习机(ELM)算法是一种较新的SLFN,ELM随机产生输入层与隐含层的连接权值以及隐含层神经元的阈值,该算法具有学习速度快、泛化性能好等优点,核极限学习机(KELM)是将核函数引入极限学习机中,是一种比常规ELM模型鲁棒性更强、泛化性能更好的决策模型。然而KELM在实际应用中,其性能受到模型中的重要参数所影响。本文对KELM的模型选择问题,即核参数优化和特征选择等问题展开研究,提出了基于以群智能优化算法为基础的KELM模型选择方法及其在金融破产预测与疾病智能诊断中的应用。群智能算法是借鉴自然界中的生物的群体猎食行为抽象出的计算方法。灰狼优化算法(GWO)、飞蛾优化算法(MFO)和鲸鱼优化算法(WOA)作为新的智能优化方法,因具有较强的全局搜索能力,受到科学研究者和工程技术人员的广泛关注。为了进一步提升群智能算法在KELM模型选择方面的能力,本文特此提出了基于反向学习的GWO算法、混沌M...
【文章来源】:温州大学浙江省
【文章页数】:111 页
【学位级别】:硕士
【部分图文】:
单层前馈神经网络结构图
梯度下降算法被用于该类型网络的构建学习中[51],但是学习过程缓慢、极易陷入到局部最小值的问题,前馈神经网-2。图 2-1 单层前馈神经网络结构图Fig. 2-1 Single layer feedforward neural network structure diagram
温州大学硕士学位论文与传统的前馈神经网络不同,新加坡南洋理工大学教授黄广斌等人[8]提出限学习机(Extreme Learning Machine, ELM)的 SLFNs,ELM 学习速度较传学习算法,有大幅度的提高,且具有更好的泛化能力,通过证明该算法在隐神经元个数与训练样本数量相等时可以零误差逼近训练样本,且当隐藏神经数小于训练样本数量时 ELM 的训练误差可以逼近一个任意大于 0 的值。EL习算法的隐藏节点类似神经元[52, 53]。ELM 结构形式如图 2-3:
【参考文献】:
期刊论文
[1]Spectral-spatial classification for hyperspectral imagery: a novel combination method based on affinity scoring[J]. Zhao CHEN,Bin WANG. Science China(Information Sciences). 2016(10)
[2]粒子群优化算法求解旅行商问题[J]. 黄岚,王康平,周春光,庞巍,董龙江,彭利. 吉林大学学报(理学版). 2003(04)
本文编号:2950030
【文章来源】:温州大学浙江省
【文章页数】:111 页
【学位级别】:硕士
【部分图文】:
单层前馈神经网络结构图
梯度下降算法被用于该类型网络的构建学习中[51],但是学习过程缓慢、极易陷入到局部最小值的问题,前馈神经网-2。图 2-1 单层前馈神经网络结构图Fig. 2-1 Single layer feedforward neural network structure diagram
温州大学硕士学位论文与传统的前馈神经网络不同,新加坡南洋理工大学教授黄广斌等人[8]提出限学习机(Extreme Learning Machine, ELM)的 SLFNs,ELM 学习速度较传学习算法,有大幅度的提高,且具有更好的泛化能力,通过证明该算法在隐神经元个数与训练样本数量相等时可以零误差逼近训练样本,且当隐藏神经数小于训练样本数量时 ELM 的训练误差可以逼近一个任意大于 0 的值。EL习算法的隐藏节点类似神经元[52, 53]。ELM 结构形式如图 2-3:
【参考文献】:
期刊论文
[1]Spectral-spatial classification for hyperspectral imagery: a novel combination method based on affinity scoring[J]. Zhao CHEN,Bin WANG. Science China(Information Sciences). 2016(10)
[2]粒子群优化算法求解旅行商问题[J]. 黄岚,王康平,周春光,庞巍,董龙江,彭利. 吉林大学学报(理学版). 2003(04)
本文编号:2950030
本文链接:https://www.wllwen.com/kejilunwen/sousuoyinqinglunwen/2950030.html