基于改进粒子群算法的超参数优化问题的研究

发布时间：2021-11-26 00:45

　　随着云计算、移动互联网的快速发展,大数据时代正在来临,数据对任何行业都至关重要。在数据决定研究问题上限的基础上,如何高效地利用算法去逼近这个上限是所有科研人员关注的问题。机器学习方法可以快速、有效地从海量数据中获取潜在信息,在这方面表现较为突出的是深度学习方法,它在海量数据面前表现出了强大的运算能力。在使用机器学习算法前,需要事先配置好模型的超参数,在同一问题上,不同超参数配置的模型的表现能力往往差别较大。在大型机器学习算法兴起之前,人们大多依靠经验手动的对模型的超参数进行调整,但随着模型日益复杂,这种方法显然已不能满足需求。基于此,本文围绕超参数优化问题展开研究,提出了基于改进粒子群算法的超参数优化方法。本文主要工作如下:（1）提出了一种基于离散二进制粒子群算法的超参数优化方法,简称BPSO。该方法模拟自然界中鸟群觅食的行为,并采用启发式的搜索思想来寻找最优解。经典的粒子群算法多适用于连续空间的优化问题,而常用的机器学习模型的超参数多为离散变量,本文结合超参数属性特点,提出了BPSO算法。在BPSO算法中,采用二进制编码方式对粒子位置进行编码,并结合粒子速度信息搜索超参数。实验证明,... 

【文章来源】：西安电子科技大学陕西省 211工程院校 教育部直属院校

【文章页数】：78 页

【学位级别】：硕士

【部分图文】：

不同卷积核得到的特征图

【参考文献】：
期刊论文
[1]从科技政策到科技与创新政策——创新驱动发展战略下的政策范式转型与思考[J]. 梁正.  科学学研究. 2017(02)
[2]铁路突发事件应急资源调配的优化与决策[J]. 汤兆平,耿彪,刘卫卫,孙剑萍.  科学技术与工程. 2017(04)
[3]建筑工程造价效益分配优化控制仿真[J]. 陈永霞.  计算机仿真. 2016(11)
[4]基于改进网格搜索法的支持向量机在气体定量分析中的应用[J]. 曲健,陈红岩,刘文贞,李志彬,张兵,应亚宏.  传感技术学报. 2015(05)
[5]一种改进的粒子群优化算法[J]. 侯振华.  计算机与现代化. 2010(02)
[6]文化基因算法（Memetic Algorithm）研究进展[J]. 刘漫丹.  自动化技术与应用. 2007(11)

博士论文
[1]大规模地质灾害救援队伍调配优化决策研究[D]. 张淑文.中国地质大学 2018



本文编号：3519097