基于种群演化的超参数搜索及其在机械手抓取模仿学习上的应用

发布时间：2021-04-14 11:44

　　随着硬件计算能力特别是大规模分布式并行计算的飞速发展,机器学习领域得到了长足的发展。在训练数据足够充分的前提下,机器学习算法的超参数配置问题是其取得较好效果的关键。超参数是在某个机器学习算法运行之前,首先需要选取的参数,例如深度学习算法中的,控制神经网络学习速度的学习率。超参数搜索的目的是为某个应用的算法选择一组好的超参数,使此算法性能达到最佳。在以往机器学习超参数选择问题中,领域内研究者一般都是基于个人经验对超参数进行人工选择。随着数据规模指数级上升,虽然大规模计算加速设备的飞速进展使得深度学习特别是深度强化学习算法在处理海量的图片等数据方面显示出强大的优势,但是在超参数选择问题上仍然是一个未解决的难题。近年来随着深度学习模型的不断增大,其训练成本即超参数的搜索空间也在不断变大,然而传统超参数搜索算法大部分是基于顺序执行训练,往往需要等待数周甚至数月才有可能找到较优的超参数配置。为解决深度学习超参数搜索时间长和难以找到较优超参数配置问题,本文提出一种新的超参数搜索算法——基于种群演化的超参数异步并行搜索（PEHS）。算法结合演化算法思想,利用固定资源预算异步并行搜索种群模型及其超参数... 

【文章来源】：浙江师范大学浙江省

【文章页数】：64 页

【学位级别】：硕士

【部分图文】：

逆强化学习示例图

3基于种群演化的超参数异步并行搜索算法24图3.1算法结构流程图数。在利用和探索之后，停止性能差的成员，重新生成一个新的成员，其余成员迭代训练像以前一样继续进行演化。通过局部迭代训练和运用种群进行利用和探索的循环，直到模型收敛。算法1是基于种群演化的超参数异步并行搜索算法的伪代码形式，图3.1是其算法流程图。具体流程如下：step1：通过随机采样的方法随机选择超参数配置，初始化种群P中的成员

3基于种群演化的超参数异步并行搜索算法29动性较大，Hyperband的训练时间最长，但其波动性高于Random；说明PEHS优化算法训练收敛速度最快。由（3）四种算法达到最大精确度的平均迭代次数图3.2PEHS，Hyperband，AsyHyperband，Random四种超参数搜索算法最优实验精确度折线图。图3.3PEHS，Hyperband，AsyHyperband，Random四种超参数搜索算法达到最大训练精度的平均迭代次数折线图。柱状图（图3.3）可知，PEHS的平均迭代次数最小，性能最优，AsyHyperband次之，Random最差。表3.4深度学习实验结果分析通过数字的形式展示了PEHS算法最先找到最优的超参数模型，且找到超参数模型的平均迭代时间也是最短。综合以上图表的分析可知，PEHS算法在深度学习超参数搜索上相对于

【参考文献】：
期刊论文
[1]基于交叉熵优化的高斯混合模型运动编码[J]. 张会文,张伟,周维佳.  机器人. 2018(04)
[2]马尔科夫决策过程在多路径冗余传输调度算法中的应用[J]. 于波,于东,孙建伟.  小型微型计算机系统. 2012(04)



本文编号：3137256