基于对抗自编码器的半监督分类模型研究

发布时间：2021-04-15 08:02

　　监督学习的精度极大依赖于标签样本数量,人工标记样本的成本很高,利用大量无标签样本及有限数量标签样本的半监督学习成为提升算法精度的有效方法。深度学习的生成模型仅利用输入样本本身作监督,在半监督学习中可以帮助学习器利用大量无标签样本数据学习样本的分布情况,成为半监督学习领域的新方法。本文在详细研究了对抗自编码器（AAE）模型结构及训练过程后发现:在半监督分类任务中,模型具有两个不同的判别器,两种约束在训练过程中会削弱彼此的正则化能力;同时在半监督分类任务中,并不关心解码器生成样本的样式问题,并且实验证明,对标签变量进行约束的同时也能够使得隐变量分布向高斯分布靠拢。因此,本文对AAE模型进行优化,提出了半监督对抗自编码器SSAAE（Semi-Supervised Adversarial Auto-Encoder）模型。SSAAE模型仅通过对标签变量进行正则化约束,消除了AAE模型中隐变量判别器和标签变量判别器两个判别器对正则化的影响问题。在MNIST数据集、SVHN数据集以及医学图像上实验,分类结果优于AAE模型,且优化后的模型更易训练,收敛速度更快。AAE模型以多层感知机作为网络的基础结构... 

【文章来源】：青岛大学山东省

【文章页数】：56 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
第一章 绪论
    1.1 研究背景及意义
    1.2 半监督学习研究现状
    1.3 本文组织结构
第二章 相关基础知识
    2.1 神经网络
        2.1.1 感知机模型
        2.1.2 前向和反向传播
    2.2 自编码器
        2.2.1 传统自编码器
        2.2.2 变分自编码器
    2.3 生成式对抗网络
        2.3.1 GAN的基本原理
        2.3.2 条件生成式对抗网络
    2.4 对抗自编码器
        2.4.1 对抗自编码器模型
        2.4.2 编码器的选择
        2.4.3 训练过程
    2.5 本章小结
第三章 基于对抗自编码器的半监督分类模型研究
    3.1 对抗自编码器与半监督的结合
    3.2 半监督对抗自编码器的研究
        3.2.1 问题分析
        3.2.2 半监督对抗自编码器
    3.3 半监督深度卷积对抗自编码器的研究
        3.3.1 问题分析
        3.3.2 深度卷积生成式对抗网络
        3.3.3 半监督深度卷积对抗自编码器
    3.4 本章小结
第四章 基于对抗自编码器的半监督分类模型实验分析
    4.1 实验环境及数据集
        4.1.1 实验环境
        4.1.2 实验数据集
    4.2 模型设计及参数设置
    4.3 实验结果与分析
        4.3.1 半监督分类准确率
        4.3.2 编码器输出分布比较
        4.3.3 重构输出比较
    4.4 医学图像上的分类
        4.4.1 实验数据及预处理
        4.4.2 模型设计
        4.4.3 实验结果分析
    4.5 本章小结
第五章 总结与展望
参考文献
攻读学位期间的研究成果
致谢


【参考文献】：
期刊论文
[1]半监督学习理论及其研究进展概述[J]. 屠恩美,杨杰.  上海交通大学学报. 2018(10)
[2]基于半监督学习生成对抗网络的人脸还原算法研究[J]. 曹志义,牛少彰,张继威.  电子与信息学报. 2018(02)
[3]基于深度学习的语音识别技术现状与展望[J]. 戴礼荣,张仕良,黄智颖.  数据采集与处理. 2017(02)
[4]面向自然语言处理的深度学习研究[J]. 奚雪峰,周国栋.  自动化学报. 2016(10)
[5]人工神经网络的发展及应用[J]. 梁烨妮.  硅谷. 2014(12)
[6]具有噪声过滤功能的协同训练半监督主动学习算法[J]. 詹永照,陈亚必.  模式识别与人工智能. 2009(05)



本文编号：3138951