多个体网络分布式无梯度优化算法研究

发布时间：2017-05-13 20:08

  本文关键词：多个体网络分布式无梯度优化算法研究，，由笔耕文化传播整理发布。

【摘要】：多个体网络是由多个具有自主工作能力的个体通过局部信息耦合而形成的大规模网络化系统,其鲁棒性较强,网络中任何一个个体出现故障并不影响整个网络的正常运行,并具有节约成本等优点。所以多个体网络在研究人工智能、生物学、自动化、大数据等方面具有广泛的应用。以往的多个体网络分布式优化算法是在目标函数是凸函数的情况下利用次梯度方法解决该类问题的,但是对于目标函数非凸的时候,也就是次梯度不存在或其次梯度计算比较复杂繁琐的情形下,次梯度算法将不再适用。本文主要研究目标函数非凸时,或其次梯度不存在时通过应用无梯度算法来计算多个体网络分布式优化问题。此外,随着通信技术的发展,数字通信已慢慢取代模拟通信而被广泛应用到各个领域,例如多个体网络的一致性、分布式估计等。由于网络带宽有限,数字通信技术一般通过量化编码将模拟信息转化为数字信息,然后经由数字信号通道进行通讯。因此,信息量化这一现实问题是不可忽略的。通常情况下,人们将信息量化分为概率量化和确定性量化,而概率量化相对于确定性量化具有量化误差期望为零的优点。但随机因素的引入,使网络中个体仅能达到概率意义下的收敛。本文正是在目标函数非凸次梯度不存在或次梯度计算过程过于复杂时,以及信息传递过程中存在限制问题进行研究讨论。现将本文主要内容分为以下几个部分：一、在个体状态具有约束集限制的前提下,针对目标函数非凸或者其次梯度计算过于繁琐时,提出分布式随机投影无梯度优化算法来求解这类问题的最优解。首先,假定整个网络的优化目标函数可分解成所有个体的目标函数之和,并且网络中的每个个体仅知道其自身目标函数及其自身的状态约束集。然后,通过运用无梯度优化算法解决因个体目标函数非凸而引起的次梯度无法计算或者次梯度计算比较复杂繁琐的问题,并结合随机投影算法解决了约束集未知或约束集投影运算受限的问题。最后,证明了在有约束集的情形下,在提出算法的作用下,所有个体状态几乎必然收敛到优化集内,且网络目标函数能够达到最优。二、在网络拓扑固定条件下,考虑概率量化对多个体网络分布式优化算法收敛性的影响。由于现实生活中的数字信道通常具有有限的带宽,这样必定限制了数据信息的传递与交流。而数字信道已逐步取代模拟信道进行通信。因此,有学者提出了量化的概念：通过量化编码的方法将模拟信道转化为数字信道。本文在假定个体间的量化方式是概率量化的前提下,网络中每个个体仅知道其自身的目标函数,而且仅与其邻居个体进行信息量化通讯的情况下,通过应用概率量化分布式无梯度优化算法使得所有个体几乎一致收敛且整个网络目标函数达到最优。并进一步探究概率量化后对网络优化性能的影响。证明了当步长一定时,每个个体状态收敛到网络最优解的邻域内。研究表明：对于目标函数是非凸的多个体网络优化问题,通过运用随机投影无梯度优化算法可以使其目标函数的和函数达到最小值且具有最优解。同时在概率量化下通过控制步长可使得个体状态渐进收敛到最优解的邻域内。
【关键词】：多个体网络 无梯度优化 概率量化 分布式优化
【学位授予单位】：安徽理工大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：O224
【目录】：

• 摘要5-7
• Abstract7-13
• 符号说明13-14
• 引言14-15
• 1 绪论15-22
• 1.1 研究背景15-19
• 1.2 国内外研究现状19-20
• 1.3 本文主要研究内容20-22
• 2 预备知识22-31
• 2.1 代数图论22-25
• 2.1.1 图论的基本概念22-25
• 2.2 凸优化25-26
• 2.3 高斯近似函数26
• 2.4 随机投影26-27
• 2.5 高斯随机无梯度预测27
• 2.6 随机投影次梯度分布式优化算法27-29
• 2.7 量化29-31
• 3 随机投影无梯度优化算法31-40
• 3.1 引言31-32
• 3.2 多个体网络分布式优化32
• 3.3 DRPGF算法32-33
• 3.4 相关假设算法33-34
• 3.5 相关引理34
• 3.6 收敛性分析34-38
• 3.7 结束语38-40
• 4 概率量化下的分布式无梯度优化算法40-44
• 4.1 引言40
• 4.2 量化算法40-41
• 4.3 相关性质41
• 4.4 主要结果41-43
• 4.5 结束语43-44
• 结束语与展望44-46
• 参考文献46-50
• 后记50-51
• 作者简介及读研期间主要科研成果51

【相似文献】

中国期刊全文数据库 前2条

1 陈军勇;邬依林;祁恬;;无线传感器网络分布式量化卡尔曼滤波[J];控制理论与应用;2011年12期

2 ;[J];;年期

中国重要会议论文全文数据库 前3条

1 王雅宁;;无线传感器网络分布式定位算法的仿真与分析[A];2011年全国电子信息技术与应用学术会议论文集[C];2011年

2 乔群;李建中;李贵林;石胜飞;;一种均衡能量的无线传感器网络分布式数据存储方法[A];第二十三届中国数据库学术会议论文集（研究报告篇）[C];2006年

3 郭宝龙;;神经网络分布式推理及其应用[A];西部大开发 科教先行与可持续发展——中国科协2000年学术年会文集[C];2000年

中国博士学位论文全文数据库 前2条

1 朱善迎;基于协同策略的工业无线网络分布式估计问题研究[D];上海交通大学;2013年

2 陈军勇;无线传感器网络分布式量化估计[D];华南理工大学;2011年

中国硕士学位论文全文数据库 前2条

1 陈平;多个体网络分布式无梯度优化算法研究[D];安徽理工大学;2016年

2 万辉;分簇Ad Hoc网络分布式认证方案设计与分析[D];南昌大学;2008年

  本文关键词：多个体网络分布式无梯度优化算法研究，由笔耕文化传播整理发布。

本文编号：363492