一种成本有效的面向超参数优化的工作流执行优化方法

发布时间：2021-10-04 22:39

　　随着云计算技术的成熟,越来越多的数据分析任务被放在云计算平台中处理。而面向数据分析应用的机器学习算法的超参数优化是一个非常耗时且耗费资源的过程。超参数优化执行的成本开销是用户关注的一个重要因素之一。目前,针对超参数优化的研究大部分以学习模型性能为目标,考虑成本开销的研究工作较少。由此研究了基于当前的超参数优化方法,在不改变学习模型性能（如准确率、查准率、召回率等）的基础上,使得超参数优化执行尽可能快的同时成本开销尽可能低。首先,生成一个包含多个并行分支的超参数优化工作流,每个分支上的所有任务都运行在同一台服务器上。然后通过有色装箱算法来决策这些分支所包含的任务。实验结果表明所提算法可以在保证执行时间的前提下减少成本开销。 

【文章来源】：计算机集成制造系统. 2020,26(06)北大核心EICSCD

【文章页数】：8 页

【文章目录】：
0 引言
1 相关工作
    1.1 超参数优化方法
    1.2 程序运行时间估计
    1.3 装箱问题
2 考虑成本开销的超参数优化问题
    2.1 资源模型
    2.2 问题形式化
    2.3 超参数优化工作流
3 超参数优化工作流的任务运行时间估计
4 超参数优化工作流模型构建算法
    4.1 时间的上下界
    4.2双染色装箱算法DCBP
        (1)有色装箱问题
        (2)算法复杂度分析
5 实验及结果分析
    5.1 实验设置
    5.2 结果分析
6 结束语



本文编号：3418471