基于径向基函数的自编码器算法研究

发布时间：2023-02-07 20:53

　　深度学习技术近年来在计算机视觉、自然语言处理、强化学习等方面取得了巨大的进展。在算法性能提升的同时,深度学习在理论支撑上并没有取得相应的进步。到目前为止,深度学习仍然被视为一个“黑箱”。由于缺乏理论指导,想要在各个理论已有基础上取得进一步的提升正在变得越来越困难。本论文从特征工程的角度出发,对现有深度学习中的自编码器模型进行改进,提出径向基自编码器模型,将高斯函数层引入自编码器模型中。该模型具备一定的理论优势,一是高斯函数具有天然的模糊逻辑属性,可以做为联系模糊逻辑理论与深度学习模型的桥梁。二是高斯函数是一种径向基函数,与机器学习中的核方法有着千丝万缕的联系。三是高斯函数作为激活函数,使得网络模型具备一定的局部逼近能力。本文的贡献与创新之处如下:(1)基于核方法,改进了经典自编码器算法,提出径向基自编码器模型,并给出了相应的模型训练算法。(2)新模型引入的高斯函数层可以转化为模糊规则层,引入高斯函数层等价于在网络中结合了基于模糊逻辑的TS模糊推理系统。实验结果也表明,这样的结合是十分有效的。在论文最后,对提出的新模型在两类数据集与三类任务(图像重构,高维数据可视化,高维数据降维分类)上...

【文章页数】：76 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第1章 绪论
    1.1 课题背景及研究的目的与意义
        1.1.1 课题研究背景
        1.1.2 课题研究的目的与意义
    1.2 研究现状及分析
        1.2.1 深度学习研究现状
        1.2.2 自编码器算法研究现状
        1.2.3 国内外文献综述分析
    1.3 论文研究内容
第2章 经典自编码器与核方法分析
    2.1 引言
    2.2 多层感知机
    2.3 经典自编码器
    2.4 核方法
        2.4.1 线性可分问题与高维投影
        2.4.2 核函数
    2.5 径向基神经网络
    2.6 本章小结
第3章 径向基自编码器
    3.1 引言
    3.2 径向基自编码器模型
    3.3 径向基自编码器的参数优化
        3.3.1 径向基函数超参数选择
        3.3.2 网络整体优化
    3.4 径向基自编码器与模糊逻辑
        3.4.1 模糊逻辑
        3.4.2 模糊推理系统
        3.4.3 径向基层与TS模糊推理系统
    3.5 本章小结
第4章 实验结果及分析
    4.1 引言
    4.2 数据集与实验环境介绍
    4.3 径向基自编码器超参数优化实验
    4.4 图像重构实验
    4.5 高维数据可视化实验
    4.6 降维分类实验
    4.7 学习率对网络的影响
    4.8 本章小结
结论
参考文献
致谢
附录



本文编号：3737411