基于度量的小样本图像分类
发布时间:2022-11-11 23:12
小样本学习的目的在于学习一个具有良好泛化性能的分类模型,当只有一个或者几个样本时,该模型也能快速泛化到新的类别上。这在现实中具有很重要的应用价值,因为一方面很多时候一些新的类别的样本是很难获取的,另一方面有些应用中的样本标注往往是非常困难的。由于每个类别中极其有限的样本个数很难有效地表达类别分布,使得小样本学习问题非常具有挑战性。小样本学习目前主要有三类方法,即基于数据扩充的方法,基于元学习的方法和基于度量的方法。本文主要从基于度量这类方法着手,分析目前小样本学习中主要存在五个挑战,即知识的迁移、图像表征、概念表征、关系度量和模型鲁棒性,并提出相应的解决方案。具体地,本文主要提出以下四个创新方法:(1)提出一种协方差度量网络框架(Covariance Metric Network,简称为Co-vaMNet)。针对目前小样本学习中主要采用一阶统计信息进行概念表征的问题,提出了一种二阶统计信息的概念表征方法。因为二阶统计信息往往比一阶统计信息包含更多的信息量,更利于小样本场景下的概念分布表征。具体地,我们采用包含二阶信息的协方差矩阵对概念类别进行表征。为了有效计算协方差矩阵表示,我们首次将...
【文章页数】:114 页
【学位级别】:博士
【文章目录】:
中文摘要
英文摘要
1 绪论
1.1 引言
1.2 基于数据扩充的小样本学习
1.3 基于元学习的小样本学习
1.4 基于度量的小样本学习
1.5 小样本分类问题的定义和描述
1.5.1 问题形式化
1.5.2 插曲训练机制
1.6 待研究问题与本文工作
2 基于协方差度量的小样本学习
2.1 引言
2.2 CovaMNet:协方差度量网络
2.2.1 局部协方差表征
2.2.2 协方差度量
2.2.3 模型结构
2.3 实验
2.3.1 miniImageNet上的小样本分类
2.3.2 tieredImageNet上的小样本分类
2.3.3 细粒度小样本分类
2.4 本章小结
本章的主要工作已发表论文
3 基于对比分布度量的小样本学习
3.1 引言
3.2 CDM:对比分布度量网络
3.2.1 特征嵌入与局部描述子分布
3.2.2 基于Wasserstein距离的分布度量
3.2.3 对比分布度量
3.2.4 模型结构
3.3 实验
3.3.1 数据集
3.3.2 实验设置
3.3.3 对比方法
3.3.4 miniImageNet上的小样本分类
3.3.5 tieredImageNet上的小样本分类
3.3.6 消融实验
3.4 本章小结
本章的主要工作已投稿论文
4 基于图像到类别度量的小样本学习
4.1 引言
4.2 DN4:深度最近邻神经网络
4.2.1 受NBNN启发的动机
4.2.2 模型框架
4.2.3 网络结构
4.3 实验
4.3.1 数据集
4.3.2 实验设置
4.3.3 对比方法
4.3.4 miniImageNet上的小样本分类
4.3.5 tieredImageNet上的小样本分类
4.3.6 细粒度小样本分类
4.3.7 讨论
4.4 本章小结
本章的主要工作已发表论文
5 基于对抗训练的防御型小样本学习
5.1 引言
5.1.1 四个问题
5.2 预备知识
5.2.1 防御型小样本学习
5.2.2 相关符号
5.2.3 攻击方法
5.3 MDAT:基于多层次分布的对抗训练
5.3.1 任务层分布
5.3.2 样本层分布
5.3.3 统一的评价标准
5.4 实验
5.4.1 对抗防御迁移
5.4.2 miniImageNet上的对抗性防御
5.4.3 CFAR-100上的对抗性防御
5.4.4 消融实验
5.4.5 定性比较:F_β分数曲线
5.5 相关工作的讨论
5.6 本章小结
本章的主要工作已投稿论文
6 总结与展望
6.1 总结
6.2 展望
致谢
参考文献
简历与科研成果
本文编号:3705926
【文章页数】:114 页
【学位级别】:博士
【文章目录】:
中文摘要
英文摘要
1 绪论
1.1 引言
1.2 基于数据扩充的小样本学习
1.3 基于元学习的小样本学习
1.4 基于度量的小样本学习
1.5 小样本分类问题的定义和描述
1.5.1 问题形式化
1.5.2 插曲训练机制
1.6 待研究问题与本文工作
2 基于协方差度量的小样本学习
2.1 引言
2.2 CovaMNet:协方差度量网络
2.2.1 局部协方差表征
2.2.2 协方差度量
2.2.3 模型结构
2.3 实验
2.3.1 miniImageNet上的小样本分类
2.3.2 tieredImageNet上的小样本分类
2.3.3 细粒度小样本分类
2.4 本章小结
本章的主要工作已发表论文
3 基于对比分布度量的小样本学习
3.1 引言
3.2 CDM:对比分布度量网络
3.2.1 特征嵌入与局部描述子分布
3.2.2 基于Wasserstein距离的分布度量
3.2.3 对比分布度量
3.2.4 模型结构
3.3 实验
3.3.1 数据集
3.3.2 实验设置
3.3.3 对比方法
3.3.4 miniImageNet上的小样本分类
3.3.5 tieredImageNet上的小样本分类
3.3.6 消融实验
3.4 本章小结
本章的主要工作已投稿论文
4 基于图像到类别度量的小样本学习
4.1 引言
4.2 DN4:深度最近邻神经网络
4.2.1 受NBNN启发的动机
4.2.2 模型框架
4.2.3 网络结构
4.3 实验
4.3.1 数据集
4.3.2 实验设置
4.3.3 对比方法
4.3.4 miniImageNet上的小样本分类
4.3.5 tieredImageNet上的小样本分类
4.3.6 细粒度小样本分类
4.3.7 讨论
4.4 本章小结
本章的主要工作已发表论文
5 基于对抗训练的防御型小样本学习
5.1 引言
5.1.1 四个问题
5.2 预备知识
5.2.1 防御型小样本学习
5.2.2 相关符号
5.2.3 攻击方法
5.3 MDAT:基于多层次分布的对抗训练
5.3.1 任务层分布
5.3.2 样本层分布
5.3.3 统一的评价标准
5.4 实验
5.4.1 对抗防御迁移
5.4.2 miniImageNet上的对抗性防御
5.4.3 CFAR-100上的对抗性防御
5.4.4 消融实验
5.4.5 定性比较:F_β分数曲线
5.5 相关工作的讨论
5.6 本章小结
本章的主要工作已投稿论文
6 总结与展望
6.1 总结
6.2 展望
致谢
参考文献
简历与科研成果
本文编号:3705926
本文链接:https://www.wllwen.com/kejilunwen/shengwushengchang/3705926.html
最近更新
教材专著