动态集成学习算法研究

发布时间：2023-12-02 11:48

　　集成学习能显著提高分类的精度因而一直是机器学习领域的研究热点。传统的集成学习算法未能考虑基分类器的局部有效性,没有考虑到大数据集的复杂性,对参与集成的分类器未能进行评估选择,结构不够灵活,导致面对大数据集时的分类准确度不高并且效率低下,因此如选择性集成和动态多分类器整合技术等更有效的集成学习算法被提出。本文主要针对动态多分类器整合技术,研究了两种动态集成算法:一种重点针对分类器的构建方法,在不同子集训练生成基分类器,用决策树的方式进行整合的集成学习算法;另一种是一个动态融合方法——基于相关度分析的动态集成算法。本文的主要研究内容分两部分:在第一部分,我们基于梯度优化的思想,提出一种决策树结构的集成学习系统。采用一种动态集成技术是将整个数据集分成若干个子集,在每个子集上训练基分类器,测试时,根据不同被测样本所属子集的不同动态地选择部分而非全部的基分类器进行集成或动态调整基分类器的权重,从而提高分类准确度。有很多划分子集的方法被用于动态集成。本文提出的集成算法使用分类器分类类别为下层分类器划分出更小的子集,利用这些更小的子集训练样本构建具有更好局部分类精度的基分类器,并将多个基分类器组成决...

【文章页数】：61 页

【学位级别】：硕士

【文章目录】：
摘要
abstract
第一章 绪论
    1.1 课题的研究背景和意义
    1.2 国内外研究现状
    1.3 本文主要研究内容
    1.4 论文结构安排
第二章 集成学习算法概述
    2.1 集成学习的相关概念
    2.2 集成学习算法的理论基础
        2.2.1 集成有效的原因
        2.2.2 误差—分歧分解
        2.2.3 基分类器多样性
    2.3 Bagging和 Boosting算法
        2.3.1 Bagging算法
        2.3.2 Boosting算法
    2.4 选择性集成和动态集成
    2.5 本章小结
第三章 梯度优化决策树的集成学习及其应用
    3.1 问题的提出和相关研究
    3.2 集成学习算法
        3.2.1 多分类集成分类算法
        3.2.2 算法设计
        3.2.3 评价指标
        3.2.4 用于对比的几种分类算法
        3.2.5 ESHC算法的时间复杂度
    3.3 实验结果及分析
    3.4 本章小结
第四章 基于相关度分析的动态集成学习
    4.1 问题的提出和相关研究
    4.2 基于相关度分析的动态集成学习算法
        4.2.1 候选分类器排序
        4.2.2 动态集成算法
        4.2.3 DEBC算法的时间复杂度
    4.3 实验结果及分析
    4.4 本章小结
第五章 总结与展望
    5.1 工作总结
    5.2 工作展望
参考文献
攻读学位期间所取得的相关科研成果
致谢



本文编号：3869605