基于卷积神经网络的景物标记
本文关键词:基于卷积神经网络的景物标记
【摘要】:本文研究卷积神经网络在入脸-背景二分类识别、手写数字识别、多类图像分类识别和景物标记中的应用。本文采用具有不同特征抽取过滤层的卷积神经网络与其他优化模型相结合的方法,获得相同图像在不同尺度卷积核的图像信息。探究了基于多尺度卷积神经网络模型的多景物图像标记问题,同时将改进后的多尺度卷积神经网络应用于Stanford Background数据集与SIFT Flow数据集的景物标记实验中,提高了景物标记的正确率。本文的主要工作如下:(1)采用具有不同特征抽取过滤层的卷积神经网络方法分别进行了人脸-背景二分类实验、手写数字识别实验和多类图像分类实验,同时和其他训练模型的结果作对比,还探究了一下卷积神经网络的结构特征。其中,人脸-背景二分类实验所得的平均分类正确率达到了99.785%:手写数字识别实验中,在各种结构下的训练模型中卷积神经网络与随机梯度下降法的组合平均分类正确率最高达到了96.7%,比平均正确率次高的双层神经网络与随机梯度下降法的组合提升了8.1%;多类图像分类实验中,在各结构下的训练模型中卷积神经网络与随机梯度下降法的组合平均分类正确率最高达到了66.7%,比平均正确率次高的双层神经网络与随机梯度下降法的组合提升了52.3%。同时在此实验中还探究了线性校对单元与池化方式分别对卷积神经网络提取图像特征的影响。(2)针对图像的景物标记问题,本文探究了一种多尺度卷积神经网络,即使用不同尺度的卷积核来提取图像特征,以获得相同图像在不同尺度卷积核下的图像信息并将这些图像特征用于对测试集图像的景物标记。在Stanford Background数据集的景物标记实验中,运用多尺度预处理图像与卷积神经网络相结合的方法将景物标记的正确率提高了33.5%。后将改进后的多尺度卷积神经网络应用于SIFT Flow数据集的景物标记实验中,将景物标记的正确率提高了36.3%。实验验证了卷积神经网络在解决图像标记问题时可以通过提取图像特征的不同尺度来达到提高训练正确率的效果。实验还验证了线性校正单元与Dropout对卷积神经网络训练的泛化作用。
【关键词】:深度学习 卷积神经网络 景物标记 多尺度
【学位授予单位】:北京交通大学
【学位级别】:硕士
【学位授予年份】:2016
【分类号】:TP391.41;TP183
【目录】:
- 致谢5-6
- 摘要6-7
- ABSTRACT7-11
- 1 引言11-21
- 1.1 人工神经网络的发展11-13
- 1.2 深度学习技术的发展13-17
- 1.3 卷积神经网络的发展17-18
- 1.4 图像标记技术的发展18-19
- 1.5 论文主要工作与章节安排19-20
- 1.6 本章小节20-21
- 2 卷积神经网络的结构与算法21-36
- 2.1 卷积神经网络21-31
- 2.1.1 神经元与人工神经网络结构21-23
- 2.1.2 前向传导23
- 2.1.3 反向传导23-25
- 2.1.4 卷积神经网络的网络结构25-26
- 2.1.5 卷积神经网络的训练过程26-28
- 2.1.6 卷积神经网络的核心思想28-31
- 2.2 神经网络的优化方法31-35
- 2.2.1 损失函数31-32
- 2.2.2 线性校对单元与Dropout32-34
- 2.2.3 CUDA编程34-35
- 2.3 本章小节35-36
- 3 卷积神经网络在图像分类上的实验36-51
- 3.1 Torch框架简介36-37
- 3.2 人脸-背景二分类实验37-39
- 3.2.1 face-detector人脸数据集37-38
- 3.2.2 训练模型38-39
- 3.2.3 实验结果及分析39
- 3.3 手写数字识别实验39-44
- 3.3.1 MNIST手写数字集39-40
- 3.3.2 训练模型40-44
- 3.3.3 实验结果及分析44
- 3.4 图像分类实验44-50
- 3.4.1 CIFAR-10图像分类数据集44-45
- 3.4.2 训练模型45-47
- 3.4.3 实验结果及分析47-50
- 3.5 本章小节50-51
- 4 多尺度卷积神经网络在景物标记上的实验51-61
- 4.1 Stanford Background实验51-56
- 4.1.1 Stanford Background数据集51-52
- 4.1.2 实验设计52-54
- 4.1.3 实验结果54-55
- 4.1.4 结果分析55-56
- 4.2 SIFT Flow实验56-59
- 4.2.1 SIFT Flow数据集56-57
- 4.2.2 实验设计57-58
- 4.2.3 实验结果58
- 4.2.4 结果分析58-59
- 4.3 本章小节59-61
- 5 总结与展望61-63
- 5.1 总结61-62
- 5.2 展望62-63
- 参考文献63-67
- 作者简历及攻读硕士学位期间取得的研究成果67-69
- 学位论文数据集69
【相似文献】
中国期刊全文数据库 前10条
1 云中客;新的神经网络来自于仿生学[J];物理;2001年10期
2 唐春明,高协平;进化神经网络的研究进展[J];系统工程与电子技术;2001年10期
3 李智;一种基于神经网络的煤炭调运优化方法[J];长沙铁道学院学报;2003年02期
4 程科,王士同,杨静宇;新型模糊形态神经网络及其应用研究[J];计算机工程与应用;2004年21期
5 王凡,孟立凡;关于使用神经网络推定操作者疲劳的研究[J];人类工效学;2004年03期
6 周丽晖;从统计角度看神经网络[J];统计教育;2005年06期
7 赵奇 ,刘开第 ,庞彦军;灰色补偿神经网络及其应用研究[J];微计算机信息;2005年14期
8 袁婷;;神经网络在股票市场预测中的应用[J];软件导刊;2006年05期
9 尚晋;杨有;;从神经网络的过去谈科学发展观[J];重庆三峡学院学报;2006年03期
10 杨钟瑾;;神经网络的过去、现在和将来[J];青年探索;2006年04期
中国重要会议论文全文数据库 前10条
1 徐春玉;;基于泛集的神经网络的混沌性[A];1996中国控制与决策学术年会论文集[C];1996年
2 周树德;王岩;孙增圻;孙富春;;量子神经网络[A];2003年中国智能自动化会议论文集(上册)[C];2003年
3 罗山;张琳;范文新;;基于神经网络和简单规划的识别融合算法[A];2009系统仿真技术及其应用学术会议论文集[C];2009年
4 郭爱克;马尽文;丁康;;序言(二)[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
5 钟义信;;知识论:神经网络的新机遇——纪念中国神经网络10周年[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
6 许进;保铮;;神经网络与图论[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
7 金龙;朱诗武;赵成志;陈宁;;数值预报产品的神经网络释用预报应用[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
8 田金亭;;神经网络在中学生创造力评估中的应用[A];第十二届全国心理学学术大会论文摘要集[C];2009年
9 唐墨;王科俊;;自发展神经网络的混沌特性研究[A];2009年中国智能自动化会议论文集(第七分册)[南京理工大学学报(增刊)][C];2009年
10 张广远;万强;曹海源;田方涛;;基于遗传算法优化神经网络的故障诊断方法研究[A];第十二届全国设备故障诊断学术会议论文集[C];2010年
中国重要报纸全文数据库 前10条
1 美国明尼苏达大学社会学博士 密西西比州立大学国家战略规划与分析研究中心资深助理研究员 陈心想;维护好创新的“神经网络硬件”[N];中国教师报;2014年
2 卢业忠;脑控电脑 惊世骇俗[N];计算机世界;2001年
3 葛一鸣 路边文;人工神经网络将大显身手[N];中国纺织报;2003年
4 中国科技大学计算机系 邢方亮;神经网络挑战人类大脑[N];计算机世界;2003年
5 记者 孙刚;“神经网络”:打开复杂工艺“黑箱”[N];解放日报;2007年
6 本报记者 刘霞;美用DNA制造出首个人造神经网络[N];科技日报;2011年
7 健康时报特约记者 张献怀;干细胞移植:修复受损的神经网络[N];健康时报;2006年
8 刘力;我半导体神经网络技术及应用研究达国际先进水平[N];中国电子报;2001年
9 ;神经网络和模糊逻辑[N];世界金属导报;2002年
10 邹丽梅 陈耀群;江苏科大神经网络应用研究通过鉴定[N];中国船舶报;2006年
中国博士学位论文全文数据库 前10条
1 杨旭华;神经网络及其在控制中的应用研究[D];浙江大学;2004年
2 李素芳;基于神经网络的无线通信算法研究[D];山东大学;2015年
3 石艳超;忆阻神经网络的混沌性及几类时滞神经网络的同步研究[D];电子科技大学;2014年
4 王新迎;基于随机映射神经网络的多元时间序列预测方法研究[D];大连理工大学;2015年
5 付爱民;极速学习机的训练残差、稳定性及泛化能力研究[D];中国农业大学;2015年
6 李辉;基于粒计算的神经网络及集成方法研究[D];中国矿业大学;2015年
7 王卫苹;复杂网络几类同步控制策略研究及稳定性分析[D];北京邮电大学;2015年
8 张海军;基于云计算的神经网络并行实现及其学习方法研究[D];华南理工大学;2015年
9 李艳晴;风速时间序列预测算法研究[D];北京科技大学;2016年
10 陈辉;多维超精密定位系统建模与控制关键技术研究[D];东南大学;2015年
中国硕士学位论文全文数据库 前10条
1 陈少吉;基于神经网络血压预测研究与系统实现[D];华南理工大学;2015年
2 张韬;几类时滞神经网络稳定性分析[D];渤海大学;2015年
3 邵雪莹;几类时滞不确定神经网络的稳定性分析[D];渤海大学;2015年
4 胡婷;改进QGA-BP模型及其在弥苴河总氮量预测中的应用[D];昆明理工大学;2015年
5 刘俊辉;基于数据清洗方法的河道水位预测研究[D];昆明理工大学;2015年
6 刘波;短期风电功率预测方法研究[D];南京信息工程大学;2015年
7 蔡邦宇;人脸识别中单次ERP时空特征分析及其快速检索的应用[D];浙江大学;2015年
8 郑川;垃圾评论检测算法的研究[D];西南交通大学;2015年
9 李菊;BP神经网络在房地产批量评估中的应用研究[D];昆明理工大学;2015年
10 马亮;降水点分类预测方法研究[D];中国地质大学(北京);2015年
,本文编号:1094837
本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/1094837.html