基于深度随机森林和知识蒸馏的高光谱图像分类
发布时间：2022-01-08 01:43
高光谱图像一般由数百个高分辨率波段组成,与多光谱图像相比具备更丰富的信息内容和更强大的特征表达能力,这使得对高光谱图像进行地物分类处理时可以得到更精确的结果。近年来,深度学习作为一种新兴的计算方法已经被应用于各个领域,在高光谱图像分类方面也取得了很好的效果。本论文主要在使用深度卷积神经网络对高光谱图像进行分类的基础上,运用知识蒸馏的思想,以一个具有很少的参数量的网络取得令人满意的精度。通常深度神经网络在取得较高的准确率的同时,往往需要较大的网络规格。但是在实际应用中,由于各种条件的限制并不允许过大的网络规模。然而如果直接采用精简的小型网络,由于标签包含的信息过于单一和网络表达能力的限制,难以得到很好的分类效果。所以,我们采用知识蒸馏的基本思想,利用规模较大的网络产生具有一定信息的预测概率,将其作为训练标签去指导另一个规模较小的网络,使得小网络一样可以取得很好的效果。因为直接使用知识蒸馏的方法取得的效果并不理想,所以本文通过不同的方式来对大网络的知识进行学习。我们使用了大量的虚拟样本来传递大网络的知识,并针对虚拟样本产生的方式或数量的不同对实际效果的影响进行一定的探究,为本文所提出方法的...
【文章来源】：西安电子科技大学陕西省 211工程院校 教育部直属院校
【文章页数】：71 页
【学位级别】：硕士
【部分图文】：
IndianPines数据集（a）Thegroundtruth（b）1层分类准确率:94.45%（c）2层分类准确率:97.69%（d）3层分类准确率:98.02%（e）4层分类准确率:98.12%（f）5层分类准确率:(d)(e)(f)
(a) (b) (c)(d) (e) (f)图4.3 Pavia University数据集（a）The ground truth（b）1层分类准确率: 95.58%（c）2层分类准确率: 97.80%（d）3层分类准确率: 98.06%（e）4层分类准确率: 98.32%（f）5层分类准确率:98.41%4.3.4随机森林中包含的决策树数目参数n分析模型中其实是集成了许许多多的随机森林，而每个随机森林中包含的决策树数目将会对模型性能产生一定的影响。我们同样在这两个数据集上进行实验。图4.4和图4.5分别给出了两个数据集包含不同数目的决策树时的准确度曲线。以Indian Pines为例，我们可以看到当仅有5棵决策树的时候，其实验的结果明显低于其他情况，因为过少的决策树将会影响到模型的表达能力。但是当10棵以上的时候所取得的精度增加也是比较轻微的，甚至在25棵时，其精度是不如20棵的。同时更多的决策树也就意味着更高的计算复杂度。因此我们将Indian Pines数据集的参数设置为20棵，同样可以看到在University of Pavia数据集上也是存在着一个峰值，只不过在这个数据集上
DMFF分类准确率图4.5 University of Pavia数据集不同决策树数目下DMFF分类准确率4.3.5邻域大小σ的参数分析在高光谱图像分类中，将空间信息考虑到其中是非常有效的手段。因此这个邻域的选择也会在很大程度上影响着结果。增大邻域的范围将能有效地降低一些噪声的干扰和类内的数据特征复杂度。在表4.5中，我们给出了在不同的邻域下的实验结果。从表格中我们可以看出随着邻域的扩大，准确率是会得到提升的，但是我们并没有选择更大的比如7×7或9×9，因为在准确度的提升上收益并不是很高，但是却是43
【参考文献】：
期刊论文
[1]基于边缘保持滤波的高光谱影像光谱-空间联合分类[J]. 张成坤,韩敏. 自动化学报. 2018(02)
[2]基于类别平均距离的加权KNN分类算法[J]. 严晓明. 计算机系统应用. 2014(02)
[3]基于灰度共生矩阵的纹理特征提取[J]. 高程程,惠晓威. 计算机系统应用. 2010(06)
[4]当前遥感技术发展及产业化分析[J]. 景贵飞. 地理信息世界. 2007(03)
[5]中国高光谱成像遥感应用研究进展[J]. 钱乐祥,泮学芹,赵芊. 国土资源遥感. 2004(02)
硕士论文
[1]基于机器学习的高光谱图像地物分类研究[D]. 马小丽.厦门大学 2014
[2]基于差异图像的遥感图像变化检测新方法研究[D]. 刘博伟.西安电子科技大学 2013
[3]基于面向对象的高分辨率遥感影像道路提取研究[D]. 申真.江西理工大学 2012
[4]基于支持向量机的高光谱图像分类研究[D]. 乔蕾.哈尔滨工程大学 2008
[5]高光谱遥感图像分类方法研究[D]. 杨希明.哈尔滨工程大学 2007
本文编号：3575656
【文章来源】：西安电子科技大学陕西省 211工程院校 教育部直属院校
【文章页数】：71 页
【学位级别】：硕士
【部分图文】：
IndianPines数据集（a）Thegroundtruth（b）1层分类准确率:94.45%（c）2层分类准确率:97.69%（d）3层分类准确率:98.02%（e）4层分类准确率:98.12%（f）5层分类准确率:(d)(e)(f)
(a) (b) (c)(d) (e) (f)图4.3 Pavia University数据集（a）The ground truth（b）1层分类准确率: 95.58%（c）2层分类准确率: 97.80%（d）3层分类准确率: 98.06%（e）4层分类准确率: 98.32%（f）5层分类准确率:98.41%4.3.4随机森林中包含的决策树数目参数n分析模型中其实是集成了许许多多的随机森林，而每个随机森林中包含的决策树数目将会对模型性能产生一定的影响。我们同样在这两个数据集上进行实验。图4.4和图4.5分别给出了两个数据集包含不同数目的决策树时的准确度曲线。以Indian Pines为例，我们可以看到当仅有5棵决策树的时候，其实验的结果明显低于其他情况，因为过少的决策树将会影响到模型的表达能力。但是当10棵以上的时候所取得的精度增加也是比较轻微的，甚至在25棵时，其精度是不如20棵的。同时更多的决策树也就意味着更高的计算复杂度。因此我们将Indian Pines数据集的参数设置为20棵，同样可以看到在University of Pavia数据集上也是存在着一个峰值，只不过在这个数据集上
DMFF分类准确率图4.5 University of Pavia数据集不同决策树数目下DMFF分类准确率4.3.5邻域大小σ的参数分析在高光谱图像分类中，将空间信息考虑到其中是非常有效的手段。因此这个邻域的选择也会在很大程度上影响着结果。增大邻域的范围将能有效地降低一些噪声的干扰和类内的数据特征复杂度。在表4.5中，我们给出了在不同的邻域下的实验结果。从表格中我们可以看出随着邻域的扩大，准确率是会得到提升的，但是我们并没有选择更大的比如7×7或9×9，因为在准确度的提升上收益并不是很高，但是却是43
【参考文献】：
期刊论文
[1]基于边缘保持滤波的高光谱影像光谱-空间联合分类[J]. 张成坤,韩敏. 自动化学报. 2018(02)
[2]基于类别平均距离的加权KNN分类算法[J]. 严晓明. 计算机系统应用. 2014(02)
[3]基于灰度共生矩阵的纹理特征提取[J]. 高程程,惠晓威. 计算机系统应用. 2010(06)
[4]当前遥感技术发展及产业化分析[J]. 景贵飞. 地理信息世界. 2007(03)
[5]中国高光谱成像遥感应用研究进展[J]. 钱乐祥,泮学芹,赵芊. 国土资源遥感. 2004(02)
硕士论文
[1]基于机器学习的高光谱图像地物分类研究[D]. 马小丽.厦门大学 2014
[2]基于差异图像的遥感图像变化检测新方法研究[D]. 刘博伟.西安电子科技大学 2013
[3]基于面向对象的高分辨率遥感影像道路提取研究[D]. 申真.江西理工大学 2012
[4]基于支持向量机的高光谱图像分类研究[D]. 乔蕾.哈尔滨工程大学 2008
[5]高光谱遥感图像分类方法研究[D]. 杨希明.哈尔滨工程大学 2007
本文编号：3575656
本文链接：https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3575656.html
