基于中国移动客服语料的意图分析辅助决策系统的设计与实现
发布时间:2021-11-27 20:28
随着移动互联网的发展,每天各行各业都有大量的交互数据产生。通过对这些数据的利用,不断涌现出以便利人们生活为宗旨的智能辅助决策系统,如百度地图的智能导航系统、苹果公司的siri等。然而在电信行业中这种智能辅助决策的功能还在起步阶段,在此背景下,中国移动期望通过对客户的来电意图进行分析以合理的制定业务,改善业务体系,建设智能语音客服系统以便更好的服务客户。因此,本人设计并实现了一种通过对客服语料进行意图分析进而辅助中国移动进行业务决策的系统。本系统的核心任务是意图分析,分为两个部分。一部分对人人对话的来电原因进行分类,该数据是一种结构化的数据。通过对数据的分析,针对这种类型的数据,本文提出以具有层级结构的神经网络模型为基础,增加多元化的词表示,并使用模型融合的方式进行分类。另一部分是对人机对话进行意图识别,包括两个子任务,分别是意图分类和槽值对的提取。针对短文本的意图分类,本文使用多个简单的分类模型从不同维度进行建模,并使用模型融合的方式得到最终的意图分类结果。对于槽值对的提取,根据中国移动的业务规定所设定的语义槽,本文采用对大规模语料进行话术总结,最终使用规则的方式进行提取。本文在对于对...
【文章来源】:北京交通大学北京市 211工程院校 教育部直属院校
【文章页数】:121 页
【学位级别】:硕士
【部分图文】:
cBOW模型结构
(1)取消了神经网络语言模型(Neural?Net?Language?Model,NNLM)中的隐??层,直接将输入层和输出层相连。??(2)求语境上下文向量的时候,语境内的词序己经被丢弃。??(3)最终的目标函数仍然是语言模型的目标函数,所以需要顺序遍历语料中??每一个词。??这三个特点保证了?word2veC词矢量训练的快捷性和有效性。??.3?CNN算法描述??卷积神经网络最早是应用在图像识别领域中的。其广泛的应用来自于对人识??图像的机制的拟合,从局部感知野到权值共享到采样结构,都是拟合人在识别??像时的某种生理机制。与图像处理不同,对于自然语言处理任务来说,卷积神??网络的应用更多的是对输入句子或文本的词与词之间特征的表示行为。以Kim[12]??文本分类使用的卷积网络为例,简单描述CNN如何处理NLP任务。??
?北京交通大学硕士专业学位论文???2.4?LSTM算法描述??LSTM是一种特殊的RNN,它能够学习长期依赖关系,对于长文本分类或者??具有结构化的数据能够较好的学习词与词之间的关系,目前被广泛应用于NLP问??题中。LSTM之所以能够解决长时依赖问题,与其内部所含的三个门结构密切相关,??使用三个门来控制LSTM中细胞的状态,来控制信息的通过或遗忘,下面将详细??描述LSTM的内部构造。??如图2-5所示,该图分别包括四个子图,分别代表LSTM的遗忘门,输入门,??状态更新以及最终的输出门。对于每一个门其中所涉及的计算单元都加粗表示了,??表示上一时刻的输出,;c,表示当前时刻的输入,是上一时刻LSTM的细胞??状态。而C,和/z,则分别表示当前的细胞状态和当前细胞的输出。??
【参考文献】:
期刊论文
[1]试谈前后端分离及基于前端MVC框架的开发[J]. 林嘉婷. 电脑编程技巧与维护. 2016(23)
[2]基于Docker容器的Web集群设计与实现[J]. 刘熙,胡志勇. 电子设计工程. 2016(08)
[3]企业IT基础架构设计原则研究[J]. 刘晨鑫. 黑龙江科技信息. 2016(10)
[4]基于Django和Python的Web开发[J]. 王冉阳. 电脑编程技巧与维护. 2009(02)
[5]英文文语转换系统中基于决策树的词性标注的非监督学习[J]. 王永生,柴佩琪. 计算机应用. 2006(03)
[6]使用最大熵模型进行中文文本分类[J]. 李荣陆,王建会,陈晓云,陶晓鹏,胡运发. 计算机研究与发展. 2005(01)
[7]MVC模式研究的综述[J]. 任中方,张华,闫明松,陈世福. 计算机应用研究. 2004(10)
[8]数据仓库与数据发掘的应用[J]. 许向东,张全寿. 计算机系统应用. 1998(04)
本文编号:3522991
【文章来源】:北京交通大学北京市 211工程院校 教育部直属院校
【文章页数】:121 页
【学位级别】:硕士
【部分图文】:
cBOW模型结构
(1)取消了神经网络语言模型(Neural?Net?Language?Model,NNLM)中的隐??层,直接将输入层和输出层相连。??(2)求语境上下文向量的时候,语境内的词序己经被丢弃。??(3)最终的目标函数仍然是语言模型的目标函数,所以需要顺序遍历语料中??每一个词。??这三个特点保证了?word2veC词矢量训练的快捷性和有效性。??.3?CNN算法描述??卷积神经网络最早是应用在图像识别领域中的。其广泛的应用来自于对人识??图像的机制的拟合,从局部感知野到权值共享到采样结构,都是拟合人在识别??像时的某种生理机制。与图像处理不同,对于自然语言处理任务来说,卷积神??网络的应用更多的是对输入句子或文本的词与词之间特征的表示行为。以Kim[12]??文本分类使用的卷积网络为例,简单描述CNN如何处理NLP任务。??
?北京交通大学硕士专业学位论文???2.4?LSTM算法描述??LSTM是一种特殊的RNN,它能够学习长期依赖关系,对于长文本分类或者??具有结构化的数据能够较好的学习词与词之间的关系,目前被广泛应用于NLP问??题中。LSTM之所以能够解决长时依赖问题,与其内部所含的三个门结构密切相关,??使用三个门来控制LSTM中细胞的状态,来控制信息的通过或遗忘,下面将详细??描述LSTM的内部构造。??如图2-5所示,该图分别包括四个子图,分别代表LSTM的遗忘门,输入门,??状态更新以及最终的输出门。对于每一个门其中所涉及的计算单元都加粗表示了,??表示上一时刻的输出,;c,表示当前时刻的输入,是上一时刻LSTM的细胞??状态。而C,和/z,则分别表示当前的细胞状态和当前细胞的输出。??
【参考文献】:
期刊论文
[1]试谈前后端分离及基于前端MVC框架的开发[J]. 林嘉婷. 电脑编程技巧与维护. 2016(23)
[2]基于Docker容器的Web集群设计与实现[J]. 刘熙,胡志勇. 电子设计工程. 2016(08)
[3]企业IT基础架构设计原则研究[J]. 刘晨鑫. 黑龙江科技信息. 2016(10)
[4]基于Django和Python的Web开发[J]. 王冉阳. 电脑编程技巧与维护. 2009(02)
[5]英文文语转换系统中基于决策树的词性标注的非监督学习[J]. 王永生,柴佩琪. 计算机应用. 2006(03)
[6]使用最大熵模型进行中文文本分类[J]. 李荣陆,王建会,陈晓云,陶晓鹏,胡运发. 计算机研究与发展. 2005(01)
[7]MVC模式研究的综述[J]. 任中方,张华,闫明松,陈世福. 计算机应用研究. 2004(10)
[8]数据仓库与数据发掘的应用[J]. 许向东,张全寿. 计算机系统应用. 1998(04)
本文编号:3522991
本文链接:https://www.wllwen.com/guanlilunwen/yingxiaoguanlilunwen/3522991.html