基于增量高斯混合模型的在线密度估计研究

发布时间：2017-11-13 03:23

  本文关键词：基于增量高斯混合模型的在线密度估计研究

  更多相关文章： 密度估计 高斯混合模型 增量学习 自组织增量学习神经网络

【摘要】：密度估计是统计推断中的经典问题,一组数据背后的概率密度函数反映了其在特征空间上的分布情况,能够为数据驱动的决策过程提供非常重要的信息。在聚类、异常检测以及可视化领域中,密度估计算法有着非常广泛的应用。随着移动互联网、社交媒体等新兴模式的快速发展,流式大数据正普遍成为数据挖掘与分析的对象,其实时性、易失性、突发性、无序性、无限性的特点使得在线密度估计成为了必要。传统的密度估计算法,无论是参数式还是非参数式方法都无法在这样的情形下直接应用。参数式的算法适合进行在线化任务,但是表达能力有限；非参数式算法具有更加广泛的表达能力,但是往往时间和空间复杂度较高,而且需要保存所有历史数据,无法处理大规模的数据流。因此,需要能够把两者的优点结合起来的新方法以达到在线密度估计的需求。本文从自组织增量学习神经网络(SOINN)的增量学习框架出发,通过分析其学习算法,指出其与高斯混合模型之间的密切关系。基于此观察提出了一种对流式大数据进行在线密度估计的增量高斯混合模型LAIM,同现有的在线式和离线式密度估计算法分别进行了对比实验和分析讨论。本文的主要工作有以下三点：1.对密度估计这一问题和常用的算法进行了分类总结,并梳理了参数式方法和非参数式方法各自的优缺点；2.介绍了自组织增量学习神经网络(SOINN),通过对其学习算法的分析指出其本质上是一种高斯混合模型的增量化实现,这使得它能够进行在线密度估计,而且以较低的模型复杂度取得非参数式方法的灵活性；3.为学习局部复杂的密度分布的同时加速算法收敛的速度,在SOINN增量学习的结构上提出了基于局部参数更新策略的在线密度估计算法LAIM(Local Adaptive and Inremental gaussian Mixture),该模型通过将每次迭代的过程限制在一个局部区域,能够增量式地学习数据流中变化的密度分布,同时不破坏先前已经学习到的有效信息。实验表明,无论是在人造数据还是真实数据集上,LAIM都比同类型的在线密度估计算法取得了更好的密度估计结果,在许多情况下能够取得与复杂度更高的批处理算法相当的结果。
【学位授予单位】：南京大学
【学位级别】：硕士
【学位授予年份】：2016
【分类号】：TP181

【相似文献】

中国期刊全文数据库 前10条

1 夏威;单洪明;;采用密度估计进行物体计数[J];计算机科学与探索;2013年11期

2 杨华;苏航;郑世宝;;大规模群体密度估计算法[J];电视技术;2010年05期

3 衷路生;宋执环;;基于自适应密度估计的系统参数辨识[J];控制理论与应用;2007年05期

4 洪英汉;陈平华;刘竹松;熊建斌;;基于物联网人流图像匹配的密度估计方法[J];计算机仿真;2013年06期

5 陈斌;李斌;冯爱民;潘志松;;基于支撑域的单分类器和密度估计的本质关系(英文)[J];Transactions of Nanjing University of Aeronautics & Astronautics;2008年04期

6 魏云华;;计算数据流上的小波密度估计[J];计算机应用与软件;2006年12期

7 徐庆,孙济洲,段忠毅;面向撞击点的密度估计全局光照算法[J];天津大学学报;2000年06期

8 赵平,刘贵忠,赵春;基于Riesz基的含噪声密度估计[J];电子学报;2004年10期

9 赵峰;张军英;刘敬;梁军利;;基于Gamma-SLC混合密度估计的雷达目标识别[J];系统工程与电子技术;2008年03期

10 赵春晖;李晓慧;田明华;;采用主成分量化和密度估计期望最大聚类的高光谱异常目标检测[J];光子学报;2013年10期

中国博士学位论文全文数据库 前1条

1 牛君;基于非参数密度估计点样本分析建模的应用研究[D];山东大学;2007年

中国硕士学位论文全文数据库 前9条

1 邱天宇;基于增量高斯混合模型的在线密度估计研究[D];南京大学;2016年

2 王媛媛;大型广场视频的人流密度估计技术研究[D];南京邮电大学;2011年

3 石磊;两种密度估计方法的比较[D];东北师范大学;2010年

4 王天启;强混合样本下边缘频率插值密度估计的渐近性质[D];广西师范大学;2014年

5 宫贺;视频中物体密度估计技术研究[D];北方工业大学;2015年

6 黄守勇;基于多小波的密度估计及其应用研究[D];北京化工大学;2015年

7 辛勇;基于快速拥阻密度估计的布局优化[D];上海交通大学;2006年

8 梁丹;相依序列下频率插值密度估计的渐近性质[D];广西师范大学;2012年

9 朱干江;非参数密度估计在判别分析中的应用[D];南京信息工程大学;2007年

，

本文编号：1178890