基于K-近邻准则的若干模式分类方法研究
发布时间:2021-02-20 08:58
由于K-近邻(K-NearestNeighbor,KNN)分类直观、简单、有效、易实现等优点,广泛应用于模式识别、机器学习、数据挖掘等领域中,更在2005年的ECDM国际会议上被选为十大最有影响力的数据挖掘算法。目前,在K-近邻方面的研究主要集中在对待测样本的分类正确性、减小分类搜索算法的复杂度、以及近邻k值的选择等方面。本文主要围绕K-近邻分类展开研究。首先,通过查找待测样本的近质心近邻,提出了伪近质心近邻分类算法(Pseudo Nearest Centroid Neighbor,PNCN),来解决在小样本数据集上的分类易受到局外点影响这一问题;其次,通过计算待测样本的多个调和平均距离,提出了基于调和平均距离的k近邻分类算法(Harmonic Mean Distance-based K-Nearest Neighbor,HMDKNN),来解决分类算法对近邻 k值的敏感性;最后,通过训练样本的稀疏表示系数来选择k个代表性最近邻,提出了系数加权 K 最近邻分类算法(Coefficient-Weighted K-Nearest Neighbor,CWKNN)和残差加权K最近邻分类算法(Re...
【文章来源】:陕西师范大学陕西省 211工程院校 教育部直属院校
【文章页数】:118 页
【学位级别】:博士
【文章目录】:
摘要
Abstract
第1章 绪论
1.1 研究背景与意义
1.2 国内外研究现状
1.3 本文主要研究工作及章节安排
第2章 基础理论
2.1 最近邻分类
2.2 K-近邻分类
2.3 距离度量
2.4 实验数据
2.5 评价方法
2.5.1 分类正确率
2.5.2 置信区间
2.5.3 交叉验证
第3章 伪近质心近邻分类
3.1 研究背景
3.2 相关分类方法
3.2.1 局部均值K-近邻分类
3.2.2 伪近邻分类
3.2.3 近质心近邻分类
3.2.4 K-近质心近邻分类
3.2.5 局部均值K-近质心近邻分类
3.3 伪近质心近邻分类
3.3.1 分类思想
3.3.2 伪代码
3.4 各分类方法比较
3.5 算法复杂度
3.6 实验结果
3.6.1 真实数据集实验结果
3.6.2 人工数据集实验结果
3.6.3 噪声数据集实验结果
3.6.4 实验小结
3.7 本章小结
第4章 基于调和平均距离的K-近邻分类
4.1 研究背景
4.2 相关分类方法
4.2.1 局部均值K-近邻分类
4.2.2 局部均值伪最近邻分类
4.2.3 多局部均值的k次谐波最近邻分类
4.3 基于调和平均距离的K-近邻分类
4.3.1 分类思想
4.3.2 距离分析
4.3.3 伪代码
4.4 各分类方法比较
4.5 算法复杂度
4.6 实验结果
4.6.1 真实数据集实验结果
4.6.2 人工数据集实验结果
4.6.3 噪声数据集实验结果
4.6.4 时间序列数据集实验结果
4.6.5 实验小结
4.7 本章小结
第5章 基于稀疏表示的K-近邻分类
5.1 研究背景
5.2 相关分类方法
5.2.1 距离加权K-近邻分类
5.2.2 基于稀疏表示的近邻分类
5.2.3 线性重构度量近邻分类
5.2.4 基于协作表示的近邻分类
5.3 基于稀疏系数加权的K-最近邻分类
5.3.1 分类思想
5.3.2 伪代码
5.4 基于残差加权的K-最近邻分类
5.4.1 分类思想
5.4.2 伪代码
5.5 理论及实验依据
5.5.1 理论依据
5.5.2 实验依据
5.6 算法复杂度
5.7 实验结果
5.7.1 数据集
5.7.2 真实数据集实验结果
5.7.3 噪声数据集实验结果
5.7.4 实验小结
5.8 本章小结
第6章 总结和展望
致谢
参考文献
攻读博士期间的研究成果
【参考文献】:
期刊论文
[1]粗糙集近似集的KNN文本分类算法研究[J]. 杨帅华,张清华. 小型微型计算机系统. 2017(10)
[2]一种融合Kmeans和KNN的网络入侵检测算法[J]. 华辉有,陈启买,刘海,张阳,袁沛权. 计算机科学. 2016(03)
[3]增量KNN模型的修剪策略研究[J]. 黄杰,郭躬德,陈黎飞. 小型微型计算机系统. 2011(05)
[4]基于KNN模型的增量学习算法[J]. 郭躬德,黄杰,陈黎飞. 模式识别与人工智能. 2010(05)
[5]基于内容图像检索的乳腺肿块诊断技术研究[J]. 王庆岩,宋立新,王立. 生物医学工程学杂志. 2010(05)
[6]基于并行遗传算法的KNN分类方法[J]. 王小青. 西南师范大学学报(自然科学版). 2010(02)
[7]简化的粒子群优化快速KNN分类算法[J]. 李欢,焦建民. 计算机工程与应用. 2008(32)
[8]散乱数据点的k近邻搜索算法[J]. 刘晓东,刘国荣,王颖,席延军. 微电子学与计算机. 2006(04)
[9]一种自适应k-最近邻算法的研究[J]. 余小鹏,周德翼. 计算机应用研究. 2006(02)
[10]K-最近邻分类技术的改进算法[J]. 王晓晔,王正欧. 电子与信息学报. 2005(03)
博士论文
[1]模式分类的K-近邻方法[D]. 苟建平.电子科技大学 2013
[2]广义近邻模式分类研究[D]. 曾勇.上海交通大学 2009
硕士论文
[1]基于KNN算法的空间手势识别研究与应用[D]. 张硕.吉林大学 2017
本文编号:3042540
【文章来源】:陕西师范大学陕西省 211工程院校 教育部直属院校
【文章页数】:118 页
【学位级别】:博士
【文章目录】:
摘要
Abstract
第1章 绪论
1.1 研究背景与意义
1.2 国内外研究现状
1.3 本文主要研究工作及章节安排
第2章 基础理论
2.1 最近邻分类
2.2 K-近邻分类
2.3 距离度量
2.4 实验数据
2.5 评价方法
2.5.1 分类正确率
2.5.2 置信区间
2.5.3 交叉验证
第3章 伪近质心近邻分类
3.1 研究背景
3.2 相关分类方法
3.2.1 局部均值K-近邻分类
3.2.2 伪近邻分类
3.2.3 近质心近邻分类
3.2.4 K-近质心近邻分类
3.2.5 局部均值K-近质心近邻分类
3.3 伪近质心近邻分类
3.3.1 分类思想
3.3.2 伪代码
3.4 各分类方法比较
3.5 算法复杂度
3.6 实验结果
3.6.1 真实数据集实验结果
3.6.2 人工数据集实验结果
3.6.3 噪声数据集实验结果
3.6.4 实验小结
3.7 本章小结
第4章 基于调和平均距离的K-近邻分类
4.1 研究背景
4.2 相关分类方法
4.2.1 局部均值K-近邻分类
4.2.2 局部均值伪最近邻分类
4.2.3 多局部均值的k次谐波最近邻分类
4.3 基于调和平均距离的K-近邻分类
4.3.1 分类思想
4.3.2 距离分析
4.3.3 伪代码
4.4 各分类方法比较
4.5 算法复杂度
4.6 实验结果
4.6.1 真实数据集实验结果
4.6.2 人工数据集实验结果
4.6.3 噪声数据集实验结果
4.6.4 时间序列数据集实验结果
4.6.5 实验小结
4.7 本章小结
第5章 基于稀疏表示的K-近邻分类
5.1 研究背景
5.2 相关分类方法
5.2.1 距离加权K-近邻分类
5.2.2 基于稀疏表示的近邻分类
5.2.3 线性重构度量近邻分类
5.2.4 基于协作表示的近邻分类
5.3 基于稀疏系数加权的K-最近邻分类
5.3.1 分类思想
5.3.2 伪代码
5.4 基于残差加权的K-最近邻分类
5.4.1 分类思想
5.4.2 伪代码
5.5 理论及实验依据
5.5.1 理论依据
5.5.2 实验依据
5.6 算法复杂度
5.7 实验结果
5.7.1 数据集
5.7.2 真实数据集实验结果
5.7.3 噪声数据集实验结果
5.7.4 实验小结
5.8 本章小结
第6章 总结和展望
致谢
参考文献
攻读博士期间的研究成果
【参考文献】:
期刊论文
[1]粗糙集近似集的KNN文本分类算法研究[J]. 杨帅华,张清华. 小型微型计算机系统. 2017(10)
[2]一种融合Kmeans和KNN的网络入侵检测算法[J]. 华辉有,陈启买,刘海,张阳,袁沛权. 计算机科学. 2016(03)
[3]增量KNN模型的修剪策略研究[J]. 黄杰,郭躬德,陈黎飞. 小型微型计算机系统. 2011(05)
[4]基于KNN模型的增量学习算法[J]. 郭躬德,黄杰,陈黎飞. 模式识别与人工智能. 2010(05)
[5]基于内容图像检索的乳腺肿块诊断技术研究[J]. 王庆岩,宋立新,王立. 生物医学工程学杂志. 2010(05)
[6]基于并行遗传算法的KNN分类方法[J]. 王小青. 西南师范大学学报(自然科学版). 2010(02)
[7]简化的粒子群优化快速KNN分类算法[J]. 李欢,焦建民. 计算机工程与应用. 2008(32)
[8]散乱数据点的k近邻搜索算法[J]. 刘晓东,刘国荣,王颖,席延军. 微电子学与计算机. 2006(04)
[9]一种自适应k-最近邻算法的研究[J]. 余小鹏,周德翼. 计算机应用研究. 2006(02)
[10]K-最近邻分类技术的改进算法[J]. 王晓晔,王正欧. 电子与信息学报. 2005(03)
博士论文
[1]模式分类的K-近邻方法[D]. 苟建平.电子科技大学 2013
[2]广义近邻模式分类研究[D]. 曾勇.上海交通大学 2009
硕士论文
[1]基于KNN算法的空间手势识别研究与应用[D]. 张硕.吉林大学 2017
本文编号:3042540
本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3042540.html