基于改进半监督生成对抗网络的图像分类方法研究
发布时间：2021-07-27 13:00
半监督学习是当前深度学习领域研究的热点和难点之一,它是一种基于大量无标签样本以及少量无标签样本进行图像分类的方法。传统的半监督学习的主要方法有协同训练、半监督支持向量机和图论半监督学习等。随着深度学习的发展,越来越多的专家学者开始采用深度学习的方法解决半监督学习问题,其中最具代表性的就是半监督生成对抗网络。作为一种新兴的深度学习方法,生成对抗网络在图形生成、图形修复及图像分类等问题上表现出了良好的性能,然而,其在半监督分类问题上仍存在模式崩塌、分类精度不足等问题。针对半监督生成对抗网络存在的不足,本文提出两种基于改进的半监督生成对抗网络图像分类方法,具体研究内容如下:第一,针对半监督生成对抗网络分布匹配能力较弱,在数据复杂度增加的情况下不可避免地会在流形外产生样本的问题,采用一种基于流形正则化的方法。流形正则化鼓励分类器对生成器参数的局部扰动保持不变,即对数据流形中距离较近的点赋予相似的标签,提高模型泛化能力。同时针对有标签样本,采用可伸缩SVM损失函数代替Softmax,提高对有标签样本的分类准确率。第二,全局流形正则化对局部数据流形的扰动不敏感的问题,采用局部流形正则化方法,通过在...
【文章来源】：重庆邮电大学重庆市
【文章页数】：66 页
【学位级别】：硕士
【图文】：
DCGAN的生成器结构
重庆邮电大学硕士学位论文第2章生成对抗网络与半监督生成对抗网络模型13DCGAN对GAN的网络结构进行了改进，除了使用卷积神经网络外，还加入了一些训练的技巧，从而提高了GAN的生成和判别能力。图2.3普通卷积示意图图2.4微步幅卷积示意图2.3.2Wasserstein生成对抗网络与DCGAN不同的是，WGAN主要是从损失函数的角度对GAN进行了改进。根据2.2.3的目标函数，由于生成器一方面要减小KL散度，另一方面却要增大JS散度，因此训练一个好的生成器是一件非常困难的事。由于KL散度的不对称性，导致两种对生成器的惩罚：一是生成器生成缺乏准确性的图像时惩罚较高，二是生成缺乏多样性的图像时惩罚较低，从而导致生成器更倾向于生成有把握但相似的图像，而不去生成没把握的新图像，即模式崩溃现象。这种情况的出现实际上与GAN在目标函数中使用JS散度相关，由于高维空间中大部分空间是多余的，不是每一个数据点都映射一个样本，真实数据实际上是高维空间上的低维流形，导致生成器模型的训练异常。
重庆邮电大学硕士学位论文第2章生成对抗网络与半监督生成对抗网络模型13DCGAN对GAN的网络结构进行了改进，除了使用卷积神经网络外，还加入了一些训练的技巧，从而提高了GAN的生成和判别能力。图2.3普通卷积示意图图2.4微步幅卷积示意图2.3.2Wasserstein生成对抗网络与DCGAN不同的是，WGAN主要是从损失函数的角度对GAN进行了改进。根据2.2.3的目标函数，由于生成器一方面要减小KL散度，另一方面却要增大JS散度，因此训练一个好的生成器是一件非常困难的事。由于KL散度的不对称性，导致两种对生成器的惩罚：一是生成器生成缺乏准确性的图像时惩罚较高，二是生成缺乏多样性的图像时惩罚较低，从而导致生成器更倾向于生成有把握但相似的图像，而不去生成没把握的新图像，即模式崩溃现象。这种情况的出现实际上与GAN在目标函数中使用JS散度相关，由于高维空间中大部分空间是多余的，不是每一个数据点都映射一个样本，真实数据实际上是高维空间上的低维流形，导致生成器模型的训练异常。
【参考文献】：
期刊论文
[1]深度学习理论综述与研究展望[J]. 张沛阳. 网络安全技术与应用. 2020(04)
[2]深度学习技术及其应用[J]. 方芸,马林梓. 电脑知识与技术. 2020(05)
[3]半监督学习理论及其研究进展概述[J]. 屠恩美,杨杰. 上海交通大学学报. 2018(10)
[4]卷积神经网络研究综述[J]. 周飞燕,金林鹏,董军. 计算机学报. 2017(06)
[5]Where Does AlphaGo Go: From Church-Turing Thesis to AlphaGo Thesis and Beyond[J]. Fei-Yue Wang,Jun Jason Zhang,Xinhu Zheng,Xiao Wang,Yong Yuan,Xiaoxiao Dai,Jie Zhang,Liuqing Yang. IEEE/CAA Journal of Automatica Sinica. 2016(02)
本文编号：3305831
【文章来源】：重庆邮电大学重庆市
【文章页数】：66 页
【学位级别】：硕士
【图文】：
DCGAN的生成器结构
重庆邮电大学硕士学位论文第2章生成对抗网络与半监督生成对抗网络模型13DCGAN对GAN的网络结构进行了改进，除了使用卷积神经网络外，还加入了一些训练的技巧，从而提高了GAN的生成和判别能力。图2.3普通卷积示意图图2.4微步幅卷积示意图2.3.2Wasserstein生成对抗网络与DCGAN不同的是，WGAN主要是从损失函数的角度对GAN进行了改进。根据2.2.3的目标函数，由于生成器一方面要减小KL散度，另一方面却要增大JS散度，因此训练一个好的生成器是一件非常困难的事。由于KL散度的不对称性，导致两种对生成器的惩罚：一是生成器生成缺乏准确性的图像时惩罚较高，二是生成缺乏多样性的图像时惩罚较低，从而导致生成器更倾向于生成有把握但相似的图像，而不去生成没把握的新图像，即模式崩溃现象。这种情况的出现实际上与GAN在目标函数中使用JS散度相关，由于高维空间中大部分空间是多余的，不是每一个数据点都映射一个样本，真实数据实际上是高维空间上的低维流形，导致生成器模型的训练异常。
重庆邮电大学硕士学位论文第2章生成对抗网络与半监督生成对抗网络模型13DCGAN对GAN的网络结构进行了改进，除了使用卷积神经网络外，还加入了一些训练的技巧，从而提高了GAN的生成和判别能力。图2.3普通卷积示意图图2.4微步幅卷积示意图2.3.2Wasserstein生成对抗网络与DCGAN不同的是，WGAN主要是从损失函数的角度对GAN进行了改进。根据2.2.3的目标函数，由于生成器一方面要减小KL散度，另一方面却要增大JS散度，因此训练一个好的生成器是一件非常困难的事。由于KL散度的不对称性，导致两种对生成器的惩罚：一是生成器生成缺乏准确性的图像时惩罚较高，二是生成缺乏多样性的图像时惩罚较低，从而导致生成器更倾向于生成有把握但相似的图像，而不去生成没把握的新图像，即模式崩溃现象。这种情况的出现实际上与GAN在目标函数中使用JS散度相关，由于高维空间中大部分空间是多余的，不是每一个数据点都映射一个样本，真实数据实际上是高维空间上的低维流形，导致生成器模型的训练异常。
【参考文献】：
期刊论文
[1]深度学习理论综述与研究展望[J]. 张沛阳. 网络安全技术与应用. 2020(04)
[2]深度学习技术及其应用[J]. 方芸,马林梓. 电脑知识与技术. 2020(05)
[3]半监督学习理论及其研究进展概述[J]. 屠恩美,杨杰. 上海交通大学学报. 2018(10)
[4]卷积神经网络研究综述[J]. 周飞燕,金林鹏,董军. 计算机学报. 2017(06)
[5]Where Does AlphaGo Go: From Church-Turing Thesis to AlphaGo Thesis and Beyond[J]. Fei-Yue Wang,Jun Jason Zhang,Xinhu Zheng,Xiao Wang,Yong Yuan,Xiaoxiao Dai,Jie Zhang,Liuqing Yang. IEEE/CAA Journal of Automatica Sinica. 2016(02)
本文编号：3305831
本文链接：https://www.wllwen.com/kejilunwen/shengwushengchang/3305831.html
最近更新
教材专著
