记忆型对话系统技术研究

发布时间：2021-02-17 03:44

　　随着智能手机、智能音箱等智慧终端在生活中的不断普及,人们对这些设备的依赖逐步增加,智慧终端也发挥了越来越重要的作用。与此同时,人们也面临着数据爆炸的问题。据估计,到2025年,人类每天将产生4630亿字节的数据。数据的快速增长导致现有的检索信息的方式显得繁琐且低效。用户借助智慧终端和互联网实现机票预订、外卖预订等各项任务,并使用备忘录等记下各类事务,但各个应用和软件的信息存储与查询方式各不相同,不同的交互界面令人眼花缭乱,许多条数据罗列在一起让人找不到头绪。想要在短时间内找到自己想要的记录甚至想要的结果显得十分困难。本课题研究一种简单、便捷、高效的方法,能以自然语言的形式对结构化和非结构化文本进行记忆和查询交互。可以应用于智慧终端的智能语音助手,提高用户体验。记忆型对话包含两项任务:被动记忆任务和主动记忆任务。被动记忆任务的核心是自然语言理解,需要对查询中意图和语义槽等信息进行有效地抽取,我们设计了意图识别和槽位抽取联合模型来解决。主动记忆的核心任务是文档检索和阅读理解。我们提出并构建了主动记忆和被动记忆的知识库和语料库,来训练和调整系统模型参数,并验证系统的可行性。其中知识库是数据库... 

【文章来源】：哈尔滨工业大学黑龙江省 211工程院校 985工程院校

【文章页数】：61 页

【学位级别】：硕士

【部分图文】：

基于流水线的面向任务的对话系统

哈尔滨工业大学工程硕士学位论文-10-图2-1任务型对话中的对话状态被动记忆任务定义如下：（1）对自然语言查询，识别其所在领域和意图，识别所包含的非提问槽={1,2,…,}和提问槽，令p′=(,,)。其中=:，表示语义槽，表示对应值。（2）对于给定的对话状态集合={1,2,…,}，找到符合条件p′的对话状态p。如果没有则为，用户修改查询条件，返回（1）。如果有多条符合，则用户修改查询条件，直到找到唯一的对话状态继续。（3）对（1）的，找到（2）中相应的，作为最终结果。2.1.2主动记忆任务定义主动记忆任务的目的是处理非结构化文本的查询，并不设定特定领域和任务，故是定义在通用领域上的。主动记忆任务定义如下：（1）对自然语言查询，给定文档集合={1,2,…,}，找到与之最相关的文档。（2）对于具有相关性的和，在中找到一个连续文本片段，S={,+1,…,}使之能回答的问题，其中∈。如果找不到则拒识，回复为空。

胗衷丛床欢系乇患尤氪佣?靡越?！Ｒ虼薘NN呈现一定的时间相关性。问题随即出现，随着时间的推移，之前的信息在不断的更新中被稀释。直观上感受，当前时刻与头时刻距离越远，其保留之前的信息量越少。但是在输入序列中，可能恰好这两者之间存在很强的相关性，RNN这处理这种相关性和长距离依赖上，表现不佳。从公式上去理解，当计算梯度回传时，由于其在时间维度上的展开特性，和其计算偏导时激活函数和矩阵的重复性，很容易导致矩阵的高次幂相乘和激活函数偏导连乘。这样会导致不论误差是大于还是小于1，都会因为相同的连图3-1单层基础RNN随时间展开图

【参考文献】：
期刊论文
[1]深度文本匹配综述[J]. 庞亮,兰艳艳,徐君,郭嘉丰,万圣贤,程学旗.  计算机学报. 2017(04)



本文编号：3037376