基于检索与生成模型相结合的聊天机器人关键技术研究
发布时间:2023-05-30 20:32
随着智能音箱、在线客服走进日常生活的多个领域,人们与机器对话的频率明显升高,面向开放领域的聊天机器人的重要性也就日益凸显出来。聊天机器人以模仿人类进行对话为目标,不仅可以降低企业在客服方面的成本,还能满足用户日常聊天的需求。因此,聊天机器人成为计算机领域的一个研究热点。目前面向开放领域的聊天机器人以数据驱动的模型为主,能够从规则驱动发展到数据驱动,主要得益于社交媒体的普及和计算机硬件的发展,社交媒体的普及产生了大规模的对话语料,计算机硬件的发展则加速了大吞吐量的计算。从实现方式看,数据驱动的聊天机器人可以分为检索式和生成式两类,前者通过上下文相似度匹配回复,后者则根据上下文生成回复。以上两种方式各有利弊,检索式的回复信息量丰富但是缺乏相关性,生成式的回复相关度高但信息量匮乏。因此,本文着眼于取检索之长补生成之短,将检索式模型融入生成模型中,构建联合模型进行对话生成。本文主要研究内容包括:(1)提出了基于多视角对抗学习的开放领域对话生成模型(Response Generation by Binary Discriminator,RGBD)。该模型主要由两部分组成,以生成逼真回复为目的的生...
【文章页数】:74 页
【学位级别】:硕士
【文章目录】:
中文摘要
ABSTRACT
1 绪论
1.1 研究背景与意义
1.2 国内外研究现状
1.2.1 检索式聊天机器人
1.2.2 生成式聊天机器人
1.2.3 检索与生成结合的聊天机器人
1.2.4 国内外研究现状简析
1.3 本文主要研究工作
1.4 本文组织结构
2 相关知识与技术研究
2.1 Seq2Seq模型
2.1.1 Seq2Seq基本原理
2.1.2 Seq2Seq+Attention模型
2.2 生成对抗网络
2.2.1 生成器
2.2.2 判别器
2.2.3 对抗训练
2.3 Transformer模型
2.3.1 Transformer总体框架
2.3.2 自注意力机制
2.3.3 多头注意力机制
2.3.4 位置编码
2.3.5 编码器
2.3.6 解码器
2.4 本章小结
3 基于多视角对抗学习的开放领域对话生成模型
3.1 引言
3.2 RGBD模型描述
3.2.1 任务定义
3.2.2 模型概述
3.2.3 生成器G
3.2.4 二元判别器D
3.2.5 多视角对抗训练
3.3 实验
3.3.1 数据集与模型参数
3.3.2 对比模型
3.3.3 评价指标
3.3.4 实验结果及分析
3.4 本章小结
4 检索与生成结合的对话生成再润色模型
4.1 引言
4.2 模型实现
4.2.1 任务定义
4.2.2 模型概述
4.2.3 原型检索器
4.2.4 基于生成模型的润色器
4.2.5 回复过滤器
4.3 实验
4.3.1 数据集与模型参数
4.3.2 对比模型
4.3.3 评价指标
4.3.4 实验结果及分析
4.4 本章小结
5 基于生成再润色模型的微信公众号聊天机器人实现
5.1 引言
5.2 系统总体设计
5.2.1 系统功能分析
5.2.2 系统工作流程
5.3 开发环境搭建
5.3.1 系统运行环境
5.3.2 微信公众号开发者模式
5.4 聊天功能实现
5.4.1 接收用户消息
5.4.2 回复用户消息
5.4.3 聊天界面展示
5.5 本章小结
6 总结与展望
6.1 工作总结
6.2 研究展望
参考文献
攻读学位期间发表的学术论文以及科研成果
致谢
本文编号:3824987
【文章页数】:74 页
【学位级别】:硕士
【文章目录】:
中文摘要
ABSTRACT
1 绪论
1.1 研究背景与意义
1.2 国内外研究现状
1.2.1 检索式聊天机器人
1.2.2 生成式聊天机器人
1.2.3 检索与生成结合的聊天机器人
1.2.4 国内外研究现状简析
1.3 本文主要研究工作
1.4 本文组织结构
2 相关知识与技术研究
2.1 Seq2Seq模型
2.1.1 Seq2Seq基本原理
2.1.2 Seq2Seq+Attention模型
2.2 生成对抗网络
2.2.1 生成器
2.2.2 判别器
2.2.3 对抗训练
2.3 Transformer模型
2.3.1 Transformer总体框架
2.3.2 自注意力机制
2.3.3 多头注意力机制
2.3.4 位置编码
2.3.5 编码器
2.3.6 解码器
2.4 本章小结
3 基于多视角对抗学习的开放领域对话生成模型
3.1 引言
3.2 RGBD模型描述
3.2.1 任务定义
3.2.2 模型概述
3.2.3 生成器G
3.2.4 二元判别器D
3.2.5 多视角对抗训练
3.3 实验
3.3.1 数据集与模型参数
3.3.2 对比模型
3.3.3 评价指标
3.3.4 实验结果及分析
3.4 本章小结
4 检索与生成结合的对话生成再润色模型
4.1 引言
4.2 模型实现
4.2.1 任务定义
4.2.2 模型概述
4.2.3 原型检索器
4.2.4 基于生成模型的润色器
4.2.5 回复过滤器
4.3 实验
4.3.1 数据集与模型参数
4.3.2 对比模型
4.3.3 评价指标
4.3.4 实验结果及分析
4.4 本章小结
5 基于生成再润色模型的微信公众号聊天机器人实现
5.1 引言
5.2 系统总体设计
5.2.1 系统功能分析
5.2.2 系统工作流程
5.3 开发环境搭建
5.3.1 系统运行环境
5.3.2 微信公众号开发者模式
5.4 聊天功能实现
5.4.1 接收用户消息
5.4.2 回复用户消息
5.4.3 聊天界面展示
5.5 本章小结
6 总结与展望
6.1 工作总结
6.2 研究展望
参考文献
攻读学位期间发表的学术论文以及科研成果
致谢
本文编号:3824987
本文链接:https://www.wllwen.com/shoufeilunwen/xixikjs/3824987.html