基于LSTM与槽填充的对话管理模型研究与应用

发布时间：2022-07-02 15:36

　　随着机器学习的发展,人机对话领域相关的技术取得极大的突破,近年来,许多成熟的人机对话系统已经实现了产品落地并在人们生活中逐渐普及,如微软小冰、siri以及小度机器人等。任务型人机对话系统主要由语音识别,自然语言处理,对话管理、自然语言生成以及语音合成五个模块组成,对话管理控制着整个对话过程的逻辑,相当于对话系统的大脑,主要负责对话状态追踪、槽位填充、上下文建模、指代消减和省略补充等任务。本文在槽位填充和对话状态追踪任务上开展了研究工作。在槽位填充任务中,本文提出了一种基于改进BILSTM（Bidirectional Long Short-Term Memory,双向长短时记忆网络）+CRF（Conditional Random Field,条件随机场）的槽模型来完成槽值填充任务,新模型在BILSTM+CRF模型的输入层加入了依存句法分析模块,通过学习句子中的词性、语法等特征,提升槽位填充的准确率,实验表明,新模型在训练数据较少的情况下对槽位填充效果提升更明显。在对话状态追踪任务中,本文提出了一种基于LSTM（Long Short-Term Memory,长短时记忆网络）的状态追踪模型,... 

【文章页数】：68 页

【学位级别】：硕士

【文章目录】：
摘要
Abstract
第1章 绪论
    1.1 课题研究的目的和意义
    1.2 国内外研究现状分析
        1.2.1 人机对话系统技术的发展
        1.2.2 对话管理技术的研究现状
    1.3 本论文的主要研究内容
第2章 基础知识
    2.1 文本表示
        2.1.1 One-Hot编码
        2.1.2 压缩编码
        2.1.3 基于词嵌入
    2.2 循环神经网络
    2.3 长短时记忆网络
    2.4 条件随机场模型
    2.5 本章小结
第3章 基于改进BILSTM+CRF的槽填充模型
    3.1 槽位填充
    3.2 BILSTM模型
    3.3 依存句法分析
        3.3.1 基于决策的依存句法分析
        3.3.2 基于深度学习的依存句法分析
    3.4 改进的BILSTM+CRF模型
        3.4.1 模型整体结构
        3.4.2 依存句法分析模块
        3.4.3 BILSTM+CRF模型
    3.5 实验与分析
        3.5.1 数据准备
        3.5.2 评价指标
        3.5.3 实验环境
        3.5.4 实验结果及分析
    3.6 本章小结
第4章 基于LSTM的状态追踪模型
    4.1 任务形式化定义及模型框架
        4.1.1 状态追踪任务定义
        4.1.2 模型框架
        4.1.3 ASR特征向量表示
    4.2 注意力模型
        4.2.1 基于LSTM的注意力模型
        4.2.2 余弦相似度计算
    4.3 实验与分析
        4.3.1 数据准备
        4.3.2 实验评估标准
        4.3.3 实验设置
        4.3.4 实验结果及分析
    4.4 本章小结
第5章 餐厅预订系统的设计与实现
    5.1 系统框架
    5.2 系统搭建环境
    5.3 模块介绍
    5.4 控制终端效果展示
    5.5 搭建系统微信公众号
        5.5.1 整体框架
        5.5.2 服务器搭建和通信
        5.5.3 效果展示
    5.6 本章小结
结论
参考文献
攻读学位期间取得的学术成果
致谢



本文编号：3654622