基于多智能体一致性理论的分布式聚类和推断算法研究

发布时间：2025-03-14 21:44

　　得益于计算机技术和无线通信技术的发展,机器人网络、无线传感器网络、智能电网、计算机网络以及车联网等的应用越来越广泛,多智能体网络作为这些网络的一个抽象,受到了越来越多的重视。关于多智能体网络的一个重要的研究课题是如何高效地对存储于其上的海量数据进行聚类和密度估计。可选的方式主要包括集中式的处理方式和分布式的处理方式,分布式的处理方式又可分为有中心和无中心两种。无中心的分布式处理方式相比于其他两种方式具有更高的系统鲁棒性,更可靠的数据安全性和更平衡的节点通信和计算负载,因此近年来获得越来越多的研究者的关注。以往许多无中心的分布式聚类算法都是基于K-means和EM算法的,这使得它们容易遭受聚类数选择问题或奇点问题,以及非高斯数据聚类问题。本文主要针对这些问题展开研究工作,在判别式聚类和生成式聚类的框架下分别基于最小归一化信息距离的方法和基于随机变分推断(SVI)开发了多种分布式聚类和推断算法。具体地,本文包括以下主要内容:1.在判别式聚类的框架下,通过最小化聚类数据和聚类标签之间的归一化信息距离(NID),提出了基于最小归一化信息距离(MNID)的聚类算法,然后借用多智能体一致性算法将其扩...

【文章页数】：108 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
第1章 绪论
    1.1 研究背景和意义
    1.2 国内外研究现状
        1.2.1 无中心的分布式一致优化算法研究现状
        1.2.2 分布式聚类算法研究现状
        1.2.3 VB方法及其分布式扩展研究现状
    1.3 研究内容和贡献
        1.3.1 主要内容和章节安排
        1.3.2 主要贡献
第2章 预备知识
    2.1 图论基础
    2.2 一致性算法和一致优化算法
        2.2.1 一致性算法
        2.2.2 一致优化算法
    2.3 信息理论度量
    2.4 集中式优化算法
        2.4.1 自然梯度法
        2.4.2 信赖域算法
    2.5 本章小结
第3章 基于归一化信息度量的分布式聚类算法
    3.1 动机与原理
    3.2 集中式MNID算法
        3.2.1 问题表述
        3.2.2 算法设计
        3.2.3 算法分析与讨论
    3.3 分布式MNID算法
        3.3.1 问题表述
        3.3.2 分布式MLR算法
        3.3.3 算法设计
        3.3.4 算法分析与讨论
    3.4 实验结果
        3.4.1 合成数据
        3.4.2 真实数据
    3.5 本章小节
    3.6 附录
        3.6.1 命题3.1的证明
第4章 基于一致性优化算法的分布式随机变分推断算法
    4.1 变分贝叶斯方法
        4.1.1 共轭指数模型
        4.1.2 平均场变分推断
    4.2 随机变分推断
        4.2.1 自然梯度
        4.2.2 随机优化
        4.2.3 算法设计
    4.3 分布式SVI算法
        4.3.1 问题表述
        4.3.2 基于分布式梯度法的SVI算法
        4.3.3 基于diffusion方法的分布式SVI算法
    4.4 本章小结
第5章 分布式SVI算法应用和实验结果
    5.1 伯努利混合模型
        5.1.1 模型介绍
        5.1.2 实验设置和结果
    5.2 高斯混合模型
        5.2.1 模型介绍
        5.2.2 实验设置和结果
    5.3 隐含狄利克雷分布模型
        5.3.1 模型介绍
        5.3.2 实验设置和结果
    5.4 本章小节
第6章 总结与展望
    6.1 研究内容总结
    6.2 未来研究展望
参考文献
致谢
在读期间发表的学术论文与取得的研究成果



本文编号：4034653