基于深度学习的人机对话中短文本意图识别

发布时间：2024-04-28 02:05

　　自然语言理解是人机对话系统的核心组成部分,意图识别是实现自然语言理解的关键技术之一。随着人机对话系统的不断发展,越来越多的对话机器人产品走进人们的生活中,但是人机对话时人类多使用短句和省略词。这些短文本存在内容短、数据量大、表达不规范等特点,这些特点导致在意图识别时常面临文本噪声多、特征稀疏、一词多义、前后对话信息不独立等问题。为解决上述问题,本文首先针对人机对话中短文本向量化表示时不能表征一词多义以及语义缺失的问题,分别介绍了BERT模型和word2vec模型,以及两个模型向量的融合方法,提出了基于BERT和word2vec的联合模型的短文本向量化表示方法,实验表明融合后的向量化表示可以较大程度的提升分类模型的分类性能。其次针对人机对话的短文本包含多种意图且特征稀疏的问题,描述了CNN、LSTM意图识别模型,重点阐述了多头注意力机制对短文本序列进行权重分配的过程,提出了基于多头注意力机制和特征融合的多意图识别方法,实验结果对比表明该方法的识别效果更好。最后针对前后文对话信息不独立的问题,基于BLSTM模型,通过分析经常出现的两种不同的多轮对话情况分别描述了两个历史存储方法,并阐述了利...

【文章页数】：63 页

【学位级别】：硕士

【部分图文】：

图1-1人机对话系统框架

哈尔滨理工大学工学硕士学位论文-1-第1章绪论1.1课题研究的背景和意义随着互联网与无线网络的发展，人与智能设备之间的信息交互模式发生了变化。人机对话旨在为计算机搭载人类和计算机语言之间沟通的桥梁，使人机交互更加直观，从而减轻人们的负担并创建直观的交互模型。许多专家认为未来它可能....

图2-1意图识别数学模型

哈尔滨理工大学工学硕士学位论文-7-第2章意图识别相关理论与介绍2.1意图识别概述近年来，意图识别成为学术界和工业界新的研究热点，为了正确理解人机对话系统中的用户意图，可以把意图识别视作短文本分类问题来解决，即根据预先定义的主题类别，按照某些特定的规则对不知类别的文本自动确定一个....

图2-2意图识别流程图

哈尔滨理工大学工学硕士学位论文-8-图2-2意图识别流程图Fig.2-2Intentrecognitionflowchart2.2文本预处理文本预处理处于整个意图识别流程的开始部分，很多文本数据中的异常数据或数值会直接或间接对下游任务的结果造成影响，因此对于常规的异常数据或数值来....

图3-2BERT模型结构图

哈尔滨理工大学工学硕士学位论文-14-图3-1BERT_word2vec模型结构图Fig.3-1StructurediagramoftheBERT_word2vecmodel3.2.1BERT模型BERT(BidirectionalEncoderRepresentationsfr....

本文编号：3966014