基于无梯度进化的神经架构搜索算法研究综述

发布时间：2021-05-15 01:14

　　自动化深度学习是目前深度学习领域的研究热点,神经架构搜索算法是实现自动化深度学习的主要方法之一,该类算法可以通过对搜索空间、搜索策略或优化策略进行不同定义来自动设计神经网络结构。阐述进化算法和进化神经网络的发展历程,分类介绍以进化算法为搜索策略实现神经架构搜索的方法和过程,并比较基于进化算法的不同神经架构搜索算法的特点和现状,在此基础上,对神经架构搜索算法的搜索空间、搜索策略以及算法的未来发展方向进行探讨和展望。 

【文章来源】：计算机工程. 2020,46(09)北大核心CSCD

【文章页数】：11 页

【文章目录】：
0 概述
1 神经网络架构搜索
2 进化算法和进化神经网络
    2.1 进化算法的发展
    2.2 进化神经网络
3 基于无梯度进化的神经架构搜索算法
    3.1 基于神经元的神经架构搜索算法
        3.1.1 神经网络拓扑结构固定的方式
        3.1.2 权重及其形态改变的方式
            1)NEAT的基因编码方式
            2)NEAT的神经网络变异方式
            3)NEAT的神经网络交叉方式
    3.2 基于DNN的神经架构搜索算法
        3.2.1 DeepNEAT算法
        3.2.2 CoDeepNEAT算法
    3.3基于CNN的神经架构搜索算法
        3.3.1 Genetic CNN算法
            1)Genetic CNN的编码方式
            2)Genetic CNN的进化方式
        3.3.2 CGP-CNN算法
            1)CGP-CNN算法的节点类型
            2)CGP-CNN的编码方式
            3)CGP-CNN算法的进化过程
    3.4 基于进化算法的NAS改进
    3.5 算法对比与分析
4 算法存在的问题及其解决方案
5 结束语


【参考文献】：
期刊论文
[1]图像分割算法研究综述[J]. 何俊,葛红,王玉峰.  计算机工程与科学. 2009(12)



本文编号：3186663