基于差分进化生物地理学优化的多层感知器训练方法

发布时间：2019-09-17 18:20

【摘要】：针对生物地理学优化训练多层感知器存在的早熟收敛以及初始化灵敏等问题,提出一种基于差分进化生物地理学优化的多层感知器训练方法。将生物地理学优化(biogeography-based optimization,BBO)与差分进化(differential evolution,DE)算法相结合,形成改进的混合DE_BBO算法;采用改进的DE_BBO来训练多层感知器(multi-layer perceptron,MLP),并应用于虹膜、乳腺癌、输血、钞票验证四类数据分类。与BBO、PSO、GA、ACO、ES、PBIL六种主流启发式算法的实验结果进行比较表明,DE_BBO_MLP算法在分类精度和收敛速度等方面优于已有方法。
【图文】：

物种分布,生物地理学,迁移率模型,种群

，增强算法的全局搜索能力，并利用DE_BBO优化MLPs输入数据中的特征向量，进一步提高了数据分类的速度和准确性。1生物地理学优化算法1．1迁移模型自然界中，各生物种群分布的地方不同，称之为栖息地。每个栖息地的环境均不一样，并且各物种对每个栖息地的适应程度也不同，这造就了物种分布的多样性、迁移和灭绝等现象。每个栖息地具有不同的适宜度指数(habitatsuitabilityindex，HSI)。若某栖息地HSI较高，表明该栖息地适宜物种生存，其物种较多;HIS较低，表明该栖息地不适合物种生存，，其物种较少。生物地理学中常用图1(a)所示的线性迁移率数学模型来描述生物种群的迁移规律［19］。每个栖息地迁入率λk、迁出率μk由式(1)决定:λk=I(1－kn)μk=Ekn(1)其中:k=物种数;n=Smax;I和E分别为迁入率、迁出率的最大值。栖息地种群数量达到平衡点S0时，该点处迁入率与迁出率相等。现实中，当栖息地的生物种群数量为零，迁入率取最大值λ=I，迁出率μ=0。随着迁入该栖息地的生物种群增加，栖息地越来越拥挤，越来越少的迁入种群能够存活下来，越来越多的生物种群选择离开该栖息地，迁入率呈现递减趋势，迁出率呈现递增趋势。当种群数量达到饱和时，λ=0，μ=E。所以，利用图1(b)所示的二次迁移率模型描述生物种群的迁移规律更加符合实际情况，迁入率λk、迁出率μk由式(2)决定:λk=I(1－kn)2μk=E(kn)2(2)图1生物地理学种群迁移率模型1．2BBO算法流程2008年，Simon在对生物物种迁移数学模型研究的基础上，提出了生物地理学优化算法，其算法流程如下:a)生成初始栖息地。设定栖息地数量、栖息地内移民的最大容量、最大迁入率I

多层感知器

g)对P2进行变异得到下一代群体P，评估适应值，转步骤b)。3DE_BBO优化MLPs3．1多层感知器如图2所示，给出了三层MLPs的结构，其中的输入节点的数目是n，隐藏节点的数目是h，输出节点的数目是m。图2n-h-m结构的多层感知器从图2中可以看出，由于MLP属于FNN簇，所以结构中节点间单向连接。首先，计算得到输入的加权和:sj=∑ni=1(Wij．Xi)－θjj=1，2，…，h(6)其中:n是输入节点的数目;Wij是从输入层第i节点到隐藏层第j节点的连接权重;θj是第j个隐含节点的偏置;Xi表示第i个输入。每一隐藏节点输出可由式(7)计算:Sj=sigmoid(sj)=11+exp(－sj)j=1，2，…，h(7)利用式(8)和(9)分别计算隐节点加权和以及MLP的最终输出:ok=∑hj=1(wjk．Sj)－θ'kk=1，2，…，m(8)Ok=sigmoid(ok)=11+exp(－ok)k=1，2，…，m(9)其中:wjk是从第j个隐藏节点到第k个输出节点的连接权重，θ'k是第k个输出节点的偏置。3．2DE_BBO训练MLPs多层感知器最重要的是连接权重和偏置。从上述方程可看出，权重和偏置影响最终输出值。为了使实际输出更接近期望输出，需寻找最佳的连接权重和偏置来训练多层感知器［17，24］。这需要通过训练集完成多层感知器的学习过程。所有训练样本的均方误差(MSE)为E=∑qk=1∑mi=1(oki－dki)2q(10)其中:q是训练样本的数量;m为输出的数量;dki是在k个训练样本下的第i个输入单元的期望输出;oki是k个训练样本下的第i个输入单元的实际输出。第i个栖息地的HSI通过式(11)计算:HSI(Habitati)=E(Habitati)(11)算法的流程如图3所示。首先，生成一组随机MLP集作为栖息地，每个
【作者单位】：西安翻译学院工程技术学院;西安电子科技大学空间科学与技术学院ICIE研究所;
【基金】：国家自然科学基金资助项目(61105066) 中央高校基本科研业务费专项资金资助项目(JB141305)
【分类号】：TP18

【相似文献】