基于k近邻分类器ROC分析方法

发布时间：2020-11-09 20:42

　　 接收机工作特性(Receiver Operating Characteristic,ROC)曲线以及曲线下面积(Area Under the ROC Curve,AUC)是评估二元决策模型必不可少的参考指标之一。它能反映命中率与虚警率之间的折中关系。类似地,对于三分类任务,学者提出三分类ROC分析,用接收机工作特性曲面以及曲面下体积(Volume Under the Surface,VUS)描述一个三元决策模型的性能。由于ROC分析具有对样本分布和分类错误成本不敏感的特性,现已被广泛用于医学决策,生物信号,信号处理,机器学习等领域。尽管ROC分析应用十分广泛,且具有一系列的优点,但在现实应用中却存在一系列的限制。首先,对于直接输出决策结果的离散型分类器,在进行ROC分析时只能得到ROC空间中的一个点,而不是一条曲线。这样实际上使得离散型分类器的ROC分析毫无意义。针对这一问题,本文介绍了对离散型分类器进行ROC分析的基本思路与方法。文章以K近邻分类器为例子,介绍离散型分类器的ROC分析方法。其次,ROC分析在实际的应用中更多的是以AUC及其方差作为评估分类器性能的指标。相对地,三分类任务则是计算VUS及其方差。传统的计算AUC和VUS的算法具有指数量级的算法复杂度。这样使得ROC分析在大数据任务中难以有效开展。本文针对这一问题,利用K近邻分类器的离散特性,提出使用Bootstrap方法从几何学的角度计算AUC、VUS以及它们的方差值。在保证算法精度的前提下,该算法的算法复杂度为常数量级。仿真结果表明,该算法执行效率明显优于传统无偏算法。ROC的应用大部分集中在评估分类器性能上。为了探索更多的ROC分析应用场景,文章以K近邻分类器参数选择以及故障诊断中的变点检测为例,尝试将ROC分析应用到这两个领域中。实验结果表明,ROC分析在以上两个应用场景中均有十分出色的表现。
【学位单位】：广东工业大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：TN850;O225
【部分图文】：

图 2-1 K 近邻分类器分类情况Fig. 2-1 K nearest neighbor classifier法∈ {( , ),( , ),...( , )}。其中 是特征先根据给定的距离度量找出 个与实例 最近的 )。在集合 ( )中，根据决策规则判定实例类决策规则为统计 ( )中各个类别的数量。 = argmax ( = ) ∈ ( ) 为类别。当指示函数输入为正时，输出为 1也可为邻域 ( )中的每一个点设置权重，决策

图 3-1 二维空间下的决策区域Fig. 3-1 Decision area in two-dimensional space判别规则，还可进一步化简。定义似然比为LR = ( | ) ( | ) ( )( ), ∈ (0, +∞)。决策规则化简为：类别 1，当LR > ；类别 2，当LR ≤ 。一维空间，该一维空间即为决策空间，LR = 为

图 3-1 二维空间下的决策区域Fig. 3-1 Decision area in two-dimensional space判别规则，还可进一步化简。定义似然比为LR = ( | ) ( | ) ( )( ), ∈ (0, +∞)。决策规则化简为：为类别 1，当LR > ；为类别 2，当LR ≤ 。一维空间，该一维空间即为决策空间，LR = 为
【相似文献】

相关期刊论文 前10条

1 李敏;李华;程茂华;;一种自适应子融合集成多分类器方法[J];计算机测量与控制;2019年04期

2 张林;韩美林;杨琳;王洋;;基于多分类器融合的近红外光谱技术鉴别蜂蜜品种[J];化学分析计量;2019年03期

3 黎平;刘萍;张巡;范郁锋;;基于分类器的身份证号码识别研究[J];贵州科学;2018年01期

4 王忠民;王科;贺炎;;一种基于多分类器融合的人体运动行为识别模型[J];计算机科学;2016年12期

5 邹洪侠;陶硕;;一种代价敏感的三类分类器评估方法的研究与应用[J];通化师范学院学报;2017年08期

6 牛明昂;王强;崔希民;赵康年;柴鹏辉;;多分类器融合与单分类器影像分类比较研究[J];矿山测量;2016年04期

7 赵艺淞;王保云;黎晓路;王婷;;基于多分类器组合的城市不透水面提取研究[J];城市地理;2017年04期

8 何舒炜;;《垃圾分类器》[J];辅导员;2016年11期

9 李健苹;游中胜;;一种新的多分类器融合方法[J];西南师范大学学报(自然科学版);2014年01期

10 兰远东;曾树洪;;动态加权投票的多分类器聚合[J];现代计算机(专业版);2014年05期

相关博士学位论文 前10条

1 孙宸;PolSAR图像大间隔学习分类器设计及应用[D];西安电子科技大学;2017年

2 于爱华;基于压缩感知人脸识别技术的研究[D];浙江工业大学;2017年

3 雷浩川;多分类器集成的遥感影像分类研究[D];中国地质大学(北京);2018年

4 冯晓东;基于软概率的分类器动态集成方法研究[D];重庆大学;2018年

5 陈木生;基于欠采样和不平衡集成分类的垃圾网页检测研究[D];南昌大学;2018年

6 陈海霞;面向数据挖掘的分类器集成研究[D];吉林大学;2006年

7 王卫东;高维小样本数据的特征提取及分类器算法研究[D];南京理工大学;2007年

8 刘杰;乘员类型的自动识别及其在智能乘员约束系统中的应用[D];吉林大学;2007年

9 吴尉林;可移植的稳健口语理解方法研究[D];上海交通大学;2007年

10 章军;小生境粒子群优化算法及其在多分类器集成中的应用研究[D];中国科学技术大学;2007年

相关硕士学位论文 前10条

1 杨阳;基于标签空间相关性的改进分类器链算法[D];重庆邮电大学;2019年

2 王江月;基于不均衡样本的脉象信号分类方法研究[D];哈尔滨工业大学;2018年

3 陈俊航;基于对抗性样本检测与还原的安全图像分类器的研究与实现[D];广东技术师范大学;2019年

4 杨俊杰;基于k近邻分类器ROC分析方法[D];广东工业大学;2019年

5 方晔玮;基于组分特征的tracrRNA识别和预测[D];电子科技大学;2019年

6 李蓉;基于SVM矿井环境无线多模信号的检测识别[D];西安科技大学;2019年

7 胡燕;基于分类器融合的SAR图像目标识别[D];上海交通大学;2016年

8 文金;基于电子产品领域商品评论的情感分析方法研究和实现[D];北京交通大学;2019年

9 李存存;面向多标记分类的主动学习算法研究[D];北京交通大学;2019年

10 刘林;分类器评价指标MCC、CEN和ACC的比较研究[D];天津师范大学;2019年

本文编号：2876944