在线顺序超限学习机的改进及其应用

发布时间：2022-01-27 16:22

　　近年来,数字化信息爆炸式增长,如何高效快速采集、处理、分析有效信息成为社会关注热点。人工神经网络凭借强大的数据处理能力成为众多学者研究的对象。与此同时,各种机器学习算法纷纷涌现。在线顺序超限学习机是一种快速准确的在线顺序学习算法,属于单隐层前馈神经网络的一种,它可以逐个学习数据,也可以学习具有固定或者大小变化的数据块。其输入权重和偏置都是随机生成的,不需要迭代,并且可以只学习没有接受训练的新数据,因此和基于梯度下降法的算法,例如反向传播算法、支持向量机等相比大大缩短了训练时间,且准确率也有所提高。然而,在线顺序超限学习机在某些方面仍旧存有不足。为了解决单个在线超限学习机处理数据分类的问题效果欠佳、硬件电路实现困难、随机产生的输入权重和偏置分布不均匀、以及对实验对象的特征获取不足等问题。本文对在线顺序超限学习机算法进行了深入研究,首先,提出一种基于交叉验证的集成在线顺序超限学习机,弥补单个在线顺序超限学习机处理分类问题的不足;其次通过推算,提出一种基于忆阻器的新类型的激活函数,并将其应用到在线顺序超限学习机中,为硬件实现提供可能;再次,将原始直接生成学习参数的方式改为分段随机生成,增强了... 

【文章来源】：西南大学重庆市211工程院校教育部直属院校

【文章页数】：66 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第一章 引言
    1.1 论文研究背景及意义
    1.2 在线顺序超限学习机研究现状和发展趋势
    1.3 论文研究内容及创新点
    1.4 论文结构安排
第二章 理论基础
    2.1 在线顺序超限学习机
        2.1.1 超限学习机
        2.1.2 在线顺序超限学习机
    2.2 忆阻器
    2.3 本章小结
第三章 基于交叉验证的集成在线顺序超限学习机
    3.1 引言
    3.2 集成学习原理和交叉验证基础概念
    3.3 基于交叉验证的集成在线顺序超限学习机
    3.4 实验结果和对比
        3.4.1 模型选择
        3.4.2 性能比较
    3.5 本章小结
第四章 基于忆阻激活函数和分段学习参数的在线顺序超限学习机
    4.1 引言
    4.2 忆阻激活函数
    4.3 分段参数
    4.4 基于忆阻激活函数和分段学习参数的在线顺序超限学习机
    4.5 图像的压缩重建实验及其分析
        4.5.1 基于忆阻激活函数和分段参数的在线顺序超限学习机对图像的压缩与重构
        4.5.2 图像的压缩评价标准
        4.5.3 图像压缩实验及分析
    4.6 本章小结
第五章 基于多层感知器的在线顺序超限学习机
    5.1 引言
    5.2 基于多层感知器的在线顺序超限学习机
        5.2.1 MOS-ELM框架
        5.2.2 MOS-ELM稀疏自动编码器
    5.3 MOS-ELM与OS-ELM算法、ENOS-ELM的实验对比
    5.4 MOS-ELM与MLP算法的实验对比
    5.5 本章小结
第六章 总结与展望
    6.1 本文主要工作
    6.2 未来研究工作和展望
参考文献
致谢
攻读硕士期间已发表的论文
攻读硕士期间参加的科研项目


【参考文献】：
期刊论文
[1]一种基于忆阻激活函数的递归神经网络及其联想记忆[J]. 郭腾腾,王丽丹,周梦哲,段书凯.  中国科学:信息科学. 2017(09)
[2]基于极限学习机的图像压缩算法[J]. 刘作志,刘欢,林耀海.  计算机技术与发展. 2015(05)
[3]神经网络在彩色图像压缩中的应用[J]. 张尧,胡骏,宋美荣,王琛珏,曹鸿钧.  计算机技术与发展. 2012(11)
[4]神经网络集成[J]. 周志华,陈世福.  计算机学报. 2002(01)



本文编号：3612741