口语理解中意图识别和语义槽填充联合建模研究

发布时间：2023-01-07 09:00

　　口语理解是对话系统重要的功能模块,口语理解的性能直接影响后续的对话管理,意图识别和语义槽填充是口语理解的两个关键子任务。本研究主要针对对话系统中的口语理解进行研究。传统方法中,意图识别和语义槽填充独立解决,独立建模没有考虑两个任务的相关性,但是这两个任务相互关联,因此现阶段大多数研究者将意图识别和语义槽填充任务使用同一个模型联合解决,这样既可以将模型学习到的特征被两个任务共享,同时将意图识别和语义槽填充的结果使用一个模型输出,对于后续的对话管理可以减少误差累积。本文在联合建模的基础上进行改进。本文的工作包含两个任务的独立建模研究和融合多种方法的联合建模研究。本文的具体工作如下:（1）两个任务的独立建模研究。由于支持向量机（Support Vector Machine,SVM）在意图识别任务中效果比较好,因此本文采用SVM对意图识别进行独立建模研究,并采用深度学习模型卷积神经网络（Convolutional Neural Network,CNN）、双向门控循环单元（Bidirectional Gated Recurrent Unit,BiGRU）以及CNN-BiGRU模型对意图识别进行研... 

【文章页数】：60 页

【学位级别】：硕士

【文章目录】：
中文摘要
abstract
第1章 绪论
    1.1 研究背景
    1.2 研究意义
    1.3 研究内容
    1.4 本文组织结构
第2章 相关工作及理论介绍
    2.1 意图识别研究
    2.2 语义槽填充研究
    2.3 联合建模研究
        2.3.1 基于三角链条件随机场的联合识别
        2.3.2 基于CNN-TriCRF的联合识别
        2.3.3 基于递归神经网络和Viterbi算法的联合识别
        2.3.4 基于BiGRU-CNN的联合识别
        2.3.5 基于BiLSTM和注意力机制的联合识别
    2.4 相关理论介绍
        2.4.1 词向量
        2.4.2 双向长短时记忆网络
        2.4.3 注意力机制
        2.4.4 门控机制
        2.4.5 条件随机场
    2.5 本章小结
第3章 口语理解独立建模研究
    3.1 意图识别独立建模
        3.1.1 基本思想
        3.1.2 实验设置
    3.2 语义槽填充独立建模
        3.2.1 基本思想
        3.2.2 实验设置
    3.3 实验数据
    3.4 评价指标
    3.5 实验结果及分析
    3.6 本章小结
第4章 基于门控机制和CRF的联合建模
    4.1 基本思想
    4.2 对比实验介绍
    4.3 实验数据
        4.3.1 数据格式
        4.3.2 数据预处理
        4.3.3 实验设置
        4.3.4 实验过程
    4.4 实验结果及分析
    4.5 本章小结
第5章 总结与展望
    5.1 总结
    5.2 展望
参考文献
致谢
攻读硕士学位期间发表的论文


【参考文献】：
期刊论文
[1]基于上下文词向量和主题模型的实体消歧方法[J]. 王瑞,李弼程,杜文倩.  中文信息学报. 2019(11)
[2]基于深度学习的开放领域对话系统研究综述[J]. 陈晨,朱晴晴,严睿,柳军飞.  计算机学报. 2019(07)
[3]面向任务口语理解研究现状综述[J]. 侯丽仙,李艳玲,李成城.  计算机工程与应用. 2019(11)
[4]特定领域的命名实体识别方法的研究[J]. 张磊.  计算机与现代化. 2018(03)
[5]From Eliza to XiaoIce:challenges and opportunities with social chatbots[J]. Heung-yeung SHUM,Xiao-dong HE,Di LI.  Frontiers of Information Technology ＆ Electronic Engineering. 2018(01)
[6]问答中的问句意图识别和约束条件分析[J]. 孙鑫,王厚峰.  中文信息学报. 2017(06)
[7]聊天机器人中用户出行消费意图识别方法[J]. 钱岳,丁效,刘挺,陈毅恒.  中国科学:信息科学. 2017(08)
[8]AI时代的门票——智能语音交互[J]. 张继勇.  计算机与网络. 2017(15)
[9]基于深度神经网络的中文命名实体识别[J]. 张海楠,伍大勇,刘悦,程学旗.  中文信息学报. 2017(04)
[10]基于BLSTM的命名实体识别方法[J]. 冯艳红,于红,孙庚,孙娟娟.  计算机科学. 2018(02)

硕士论文
[1]基于深度学习的任务型对话系统的设计与实现[D]. 赵明星.北京邮电大学 2019
[2]可控闲聊对话系统的研究[D]. 顾秀森.北京邮电大学 2019
[3]面向出行领域的任务型对话系统研究[D]. 林先辉.哈尔滨工业大学 2018
[4]人机对话系统中用户意图分类方法研究[D]. 黄佳伟.华中师范大学 2018
[5]基于深度学习的短文本分类研究[D]. 胡可奇.电子科技大学 2018
[6]基于词向量的中文短文本分类问题研究[D]. 汪静.中南民族大学 2018
[7]基于Attention-Based LSTM模型的文本分类技术的研究[D]. 张冲.南京大学 2016
[8]词典和机器学习相结合的生物命名实体识别[D]. 王琦.大连理工大学 2009



本文编号：3728353