基于深度学习的陆空通话差错分类方法研究
【学位授予单位】:中国民航大学
【学位级别】:硕士
【学位授予年份】:2019
【分类号】:V35;V328
【图文】:
中国民航大学硕士学位论文者开始将 CNN 应用到自然语言处理领域。2014 年,Kim 通过改进传统 CNN 得到单层CNN,并且经过大量的实验证明单层 CNN 更加适合于文本语义建模。本小节介绍传统CNN 和单层 CNN 的基本原理。2.3.1 传统卷积神经网络基本原理传统 CNN 包含:输入层、卷积层、池化层和输出层,其框架示意图如图 2-1 所示。传统 CNN 作为一种层次化的结构,其在计算过程中最重要的两点是组合性和局部不变性。组合性通过多个卷积层的堆叠实现,前层的卷积层提取一些边缘特征和简单的形状特征,后层的卷积层提取图片的深层特征。局部不变性指的是 CNN 可以克服图像简单的平移、旋转和尺度缩放带来的问题,这种局部不变性通过池化层实现。
最大池化方式不仅保留了显著的特征,而且去除了冗余特征和减少了参数。图 2-2 最大池化方式示意图2.3.2 单层卷积神经网络基本原理处理文本与处理图像的不同在于:当 CNN 处理文本时,它的输入是文本经过转化后的文本矩阵。文本矩阵中的每个元素无物理意义,但其每一行所有的元素联系在一起存在一定的物理意义,并表示对应词语的语义向量。单层卷积神经网络与传统卷积神经网络的整体思路一致,单层卷积神经网络同样利用卷积-池化操作获得文本的语义特征,但它是一个浅层的神经网络,仅包括一层卷积和一层池化,如图 2-3 所示。单层卷积神经网络的输入是文本矩阵n mS ,其中 n 表示文本分词之后词语的个数,m 表示词向量的维度。为了保持所有文本构成的输入矩阵维度一致,本文对词语个数小于 n 的文本进行补零操作。单层卷积神经网络利用尺寸为“h×m”的卷积核对输入的文本矩阵进行卷积。此类卷积核将一个词向量视为一个“像素点”,并通过对卷积区域中的 h 个词语进行表示得到一个语义特征ic,该过程可由式(2.5)表示:: 1( ) 1,2,..., 1i i i hc i n h W S b (2.5)在公式(2.5)中
FlattenConvolution3×5 kernel4×5 kernelMax pooling4×1 kernel5×1 kernel图 2-3 单层卷积神经网络基本框架图.6)表示: 1 2 1, ,...,n h c c 中,( n h 1) 1C 代表卷积之后得到的特征图。一般通过加丰富的特征。此外,我们还可以将卷积核的尺度设置取文本矩阵中不同组合的语义特征,进而得到不同短语积层输出的特征图输入到池化层进行特征抽取和降维。得到一个定长的向量,称之为语义向量。最后,将语义成文本分类工作。建模中,单层卷积神经网络常用的池化方式为:全局最大池化。全局最大池化方式保留特征图中最大的特征值
【相似文献】
相关期刊论文 前10条
1 张佩云;黄波;孙亚民;;面向服务组合的服务语义匹配机制[J];电子科技大学学报;2008年06期
2 郝玫;马建峰;;基于特征观点对语义匹配的产品评论可信度研究[J];现代情报;2019年06期
3 贾君枝;毛海飞;;基于法律框架网络本体的语义匹配技术研究[J];情报理论与实践;2008年01期
4 糜德吉;周良;丁秋林;;一种基于命名空间过滤的服务语义匹配算法[J];中国制造业信息化;2009年23期
5 邢华桥;武昊;侯妙乐;侯东阳;;顾及语义匹配类别的遥感处理服务组合方法[J];地理与地理信息科学;2015年05期
6 罗安;王艳东;龚健雅;;顾及上下文的空间信息服务组合语义匹配方法[J];武汉大学学报(信息科学版);2011年03期
7 吴少洪;彭敦陆;苑威威;陈章;刘丛;;MGSC:一种多粒度语义交叉的短文本语义匹配模型[J];小型微型计算机系统;2019年06期
8 姚俊良;乐小虬;;科技查新查新点语义匹配方法研究[J];数据分析与知识发现;2019年06期
9 梁汝鹏;邓克波;毛泽湘;徐沛;;基于军事知识图谱的作战预案语义匹配方法研究[J];指挥与控制学报;2019年02期
10 张燕;王锋;张睿;;基于本体的网格服务语义匹配方法[J];计算机工程;2007年07期
相关会议论文 前6条
1 李耀春;徐羽琼;李石坚;潘纲;;面向任务迁移的组件语义匹配机制[A];第六届和谐人机环境联合学术会议(HHME2010)、第19届全国多媒体学术会议(NCMT2010)、第6届全国人机交互学术会议(CHCI2010)、第5届全国普适计算学术会议(PCC2010)论文集[C];2010年
2 李贵;张兆鑫;李征宇;韩子洋;;WEB环境下基于领域本体的语义匹配技术研究[A];科学发展与社会责任(A卷)——第五届沈阳科学学术年会文集[C];2008年
3 臧立丽;王卓;冯晓宁;;一种基于语义的软构件检索方法[A];黑龙江省计算机学会2007年学术交流年会论文集[C];2007年
4 吴桂芳;刘俊;张倩倩;谷雨;;基于本体的语义匹配技术研究[A];2014第二届中国指挥控制大会论文集(上)[C];2014年
5 林小青;李毕琴;;刺激属性的不一致对工作记忆内容捕获注意的影响[A];第二十一届全国心理学学术会议摘要集[C];2018年
6 白东伟;彭泳;陈俊亮;;一种语义支持的综合业务发现框架[A];2006年全国通信软件学术会议论文集[C];2006年
相关博士学位论文 前8条
1 黄涛;知识服务的语义匹配机制研究[D];华中师范大学;2007年
2 许楠;基于本体的上下文感知计算关键技术研究[D];大连海事大学;2015年
3 钱剑锋;分布式语义发布/订阅系统的若干关键技术研究[D];浙江大学;2011年
4 蔺旭东;基于语义的XML查询及规范化研究[D];北京交通大学;2010年
5 高建波;本体模型及其在信息安全评估领域的应用研究[D];上海交通大学;2015年
6 杨柳;模糊本体建模方法及语义信息处理策略研究[D];中南大学;2011年
7 陈科;语义支持的空间信息服务组合关键技术研究[D];解放军信息工程大学;2012年
8 江志雄;基于动态语义的Web服务描述[D];复旦大学;2008年
相关硕士学位论文 前10条
1 李东方;结合多种策略的文本语义匹配方法[D];哈尔滨工业大学;2018年
2 程方圆;基于深度学习的陆空通话差错分类方法研究[D];中国民航大学;2019年
3 刘兴昱;基于勘探开发知识图谱的深度问答系统关键技术研究[D];中国石油大学(北京);2018年
4 王坤;面向中文医疗问题检索的语义匹配技术研究[D];华东师范大学;2019年
5 金丽娇;基于深度学习的答案选择方法研究[D];华东师范大学;2019年
6 吴承泽;面向社区论坛多轮对话线索的连贯性评估方法研究[D];哈尔滨工业大学;2018年
7 胡宇;面向数据融合的文本语义匹配的研究与实现[D];东北大学;2015年
8 张杰;基于地理语义匹配的信息一体化检索[D];中南大学;2013年
9 邢昆明;基于语义匹配的Web服务发现和选择问题的研究[D];中国石油大学(华东);2013年
10 李玲;工作记忆内容的语义匹配对注意捕获效应的影响[D];江西师范大学;2017年
本文编号:2754771
本文链接:https://www.wllwen.com/kejilunwen/anquangongcheng/2754771.html