增量型极限学习机算法的研究

发布时间：2021-07-06 02:14

　　极限学习机的隐含层参数输入权重和偏置值都是随机选取的,需要设置的唯一参数是隐含层节点的数量。通过最小二乘法求得输出权重,避免了多次迭代和局部最小化的问题,具有良好的泛化性能和极高的学习效率。其广泛应用于医学生物、计算机视觉和图像处理等方面。近年来,对寻找最优隐含层节点数和训练样本在线加入模型的研究较多,本文对增量型极限学习机研究如下:无逆矩阵极限学习机通过逐步增加隐含层节点寻找最优隐含层节点数。本文将其改进为无逆矩阵在线序列版本,称为无逆矩阵在线序列极限学习机（IFOS-ELM）。该算法首先通过舒尔补公式寻找到最优隐含层节点数,然后利用Sherman-Morrison-Woodbury公式将新增样本数据逐步添加到模型中,避免对已经分析过的训练样本的输出权重进行重复计算。文中相应的给出了所提IFOS-ELM算法的详细推导。本文通过不同类型和大小数据集上的实验结果表明,所提IFOS-ELM算法非常适合在线学习场景,在快速学习和性能方面都有很好的表现。但是对于类别不平衡数据,IFOS-ELM算法存在着分类准确率差的问题。为此,本文进一步提出了面向类别不平衡的增量在线序列极限学习机（IOS-E... 

【文章来源】：江南大学江苏省 211工程院校 教育部直属院校

【文章页数】：61 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第一章 绪论
    1.1 研究背景
    1.2 研究意义
    1.3 国内外研究动态和趋势
    1.4 本文主要研究内容
第二章 极限学习机及相关变体
    2.1 极限学习机的基本思想
    2.2 极限学习机相关变体
        2.2.1 正则化极限学习机
        2.2.2 增量极限学习机
        2.2.3 在线序列极限学习机
        2.2.4 加权极限学习机算法
        2.2.5 EWOS-ELM算法
        2.2.6 半监督与无监督极限学习机
    2.3 SMOTE
    2.4 本章小结
第三章 无逆矩阵在线序列极限学习机
    3.1 引言
    3.2 相关数学公式
        3.2.1 Moore-Penrose广义逆矩阵
        3.2.2 Sherman-Morrison-Woodbury公式
        3.2.3 舒尔补公式
    3.3 无逆矩阵极限学习机
    3.4 IFOS-ELM算法
        3.4.1 IFOS-ELM算法过程
        3.4.2 IFOS-ELM算法时间复杂度分析
        3.4.3 IFOS-ELM算法总结
    3.5 实验结果与分析
        3.5.1 实验环境
        3.5.2 评估指标
        3.5.3 回归实验结果
        3.5.4 分类实验结果
    3.6 本章小结
第四章 面向类别不平衡的增量在线序列极限学习机
    4.1 引言
    4.2 IOS-ELM算法
        4.2.1 IOS-ELM算法思想
        4.2.2 IOS-ELM算法推导
    4.3 实验结果与分析
        4.3.1 算法评估指标
        4.3.2 实验数据及平台
        4.3.3 二分类实验结果
        4.3.4 多分类实验结果
    4.4 本章小结
第五章 工作总结与展望
    5.1 工作总结
    5.2 研究工作展望
致谢
参考文献
附录 :作者在攻读硕士学位期间发表的论文



本文编号：3267313