生成对抗网络（GAN）模型优化方法研究

发布时间：2022-12-23 04:32

　　虽然生成对抗网络（Generative Adversarial Network,简称GAN）已经被广泛应用于很多实际领域,但是GAN仍然存在缺陷导致无法生成高质量的模拟数据。虽然当前GAN的变体尝试解决这个问题,但是他们在实际运用中仍然存在不少问题。现存的GAN的变体或存在梯度负数（如WGAN）或者生成的数据仍然存在相同图片或者图片模糊等问题（如MGAN）。本文研究的对象主要是在三个方面,即如何解决GAN小样本生成及评估问题,如何解决GAN存在的模型崩溃和梯度消失问题。（1）本文提出了一个新的规范化惩罚函数来迫使生成器生成带有极小异常点的负样本,以及将Droupout函数和生成器融合以此生成高维稀疏数据。另外,针对不同领域数据特点,本文设计了不同的生成数据评估模型。首先,本文研究了如何把GAN应用在小样本数据（包括工业领域的布匹和气缸缸体数据以及医疗领域的癌症基因数据）。这两个数据的共同点是可用数据搜集十分昂贵,这就导致很难在实际工作中训练一个机器人去替代人的工作。不同点是,工业领域中的数据属于imbalanced dataset,即不平衡数据。其意味着次品数量非常少而正品数量非常多。... 

【文章页数】：107 页

【学位级别】：博士

【文章目录】：
摘要
Abstract
1.绪论
    1.1 引言
    1.2 相关方法
        1.2.1 修改损失函数
        1.2.2 修改网络结构
        1.2.3 修改隐空间Z
    1.3 待研究问题
    1.4 本文工作
2.GAN模型及其问题介绍
    2.1 生成对抗网络
    2.2 GAN的模型崩溃问题
    2.3 GAN的梯度消失问题
3.小样本数据生成
    3.1 极不平衡数据(Extremely Imbalanced Data)增强及评价
        3.1.1 极不平衡数据定义及描述
        3.1.2 IDA-GAN—极不平衡数据增强方法
        3.1.3 IDA-GAN的评估
        3.1.4 实验验证
        3.1.5 讨论
    3.2 稀疏矩阵(Sparse Matrix)的生成和评估
        3.2.1 稀疏矩阵的定义及描述
        3.2.2 稀疏矩阵模拟数据的生成
        3.2.3 基于领域知识的稀疏数据模拟数据的评估
        3.2.4 实验验证
        3.2.5 讨论
4.GAN模型梯度消失问题解决
    4.1 如何构造Sketch
    4.2 生成器设计
    4.3 SEGAN算法和数学基础
        4.3.1 SEGAN的函数及其算法流程
        4.3.2 SEGAN的数学基础
    4.4 实验验证
        4.4.1 生成数据质量比较
        4.4.2 实验验证梯度消失问题的解决
        4.4.3 r值对SEGAN模型的影响
        4.4.4 SEGAN效率分析
    4.5 SEGAN讨论
5.GAN模型崩溃问题解决
    5.1 MIM-GAN
    5.2 MIM-GAN学习数据流形
    5.3 实验验证
        5.3.1 MNIST数据集
        5.3.2 CIFAR10
        5.3.3 Celeba数据集
    5.4 讨论
6.结论与展望
参考文献
攻读博士期间的科研成果
致谢



本文编号：3724720