基于情感与内容特征的对话生成研究
发布时间:2021-12-17 21:10
人机对话系统具有方便、快捷、高效等众多优点,被视为未来重要的人机交互形式之一,其发展得到了学术界和工业界的高度重视。作为对话系统重要组成部分的对话生成,它的目标是根据用户的对话消息生成回复,其质量的好坏直接影响着用户的使用体验。随着深度学习技术的不断进步,为对话生成研究的发展提供了新动力。然而在面向开放领域的对话生成研究中,基础对话生成模型存在倾向于生成如“不知道”等一类缺乏内容回复和生成的回复趣味性与可持续性低的问题。语言的表达需要情感与内容的支撑,情感与内容可以使语言更加生动自然、充实、富有感染力。在对话生成中考虑上下文中的情感和内容,不但可以为对话提供情感的润色和内容上的填充,缓解系统易于生成缺乏内容回复的问题,同时提升回复的情感与内容的多样性,可以增加对话的趣味性、可持续性。本文将研究基于情感与内容特征的对话生成,即在对话生成的过程中,根据用户消息中所蕴含情感与内容特征,采用心理学“情感共情”机制和情感与内容特征在真实对话中的转换关系,引导深度学习模型生成满足用户情感需求且内容相关的回复。本文主要研究工作如下:(1)提出融合情感与内容特征的对话生成模型(CECF-DG)。为了获...
【文章来源】:华中师范大学湖北省 211工程院校 教育部直属院校
【文章页数】:62 页
【学位级别】:硕士
【部分图文】:
图2.1卷积神经网络结构图??(1)特征提取??特征提取就是利用卷积层中的卷积核(Kemal)以一定的步长(Filter)与输??
丨硕士学位论文??MASTER'S?THESIS??广\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??图2.2卷积神经元结构图。??在卷积层中,一个卷积核也就是一个神经元,神经元将各个接收到的输入??(^,X2^3进行求和计算,并加上偏置项得到结果输入激活函数,最终??得到最终的输出项&。计算过程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/为激活函数,&表示第m个卷积核经过卷积计算得到的特征图??(Feature?Map),W^n为卷积核,*为卷积运算符。??目前比较常见的激活函数[37][53]有13他函数、sigmoid函数、ReLU函数。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,?!??41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如图2.3?sigmoid激活函和导数的几何图像??sigmoid激活函数的计算如公式2.3所示,其中,z为激活函数输入的数值,??函数可以将输入的数值映射到[〇,1]区间范围内,其函数和导
丨硕士学位论文??MASTER'S?THESIS??广\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??图2.2卷积神经元结构图。??在卷积层中,一个卷积核也就是一个神经元,神经元将各个接收到的输入??(^,X2^3进行求和计算,并加上偏置项得到结果输入激活函数,最终??得到最终的输出项&。计算过程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/为激活函数,&表示第m个卷积核经过卷积计算得到的特征图??(Feature?Map),W^n为卷积核,*为卷积运算符。??目前比较常见的激活函数[37][53]有13他函数、sigmoid函数、ReLU函数。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,?!??41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如图2.3?sigmoid激活函和导数的几何图像??sigmoid激活函数的计算如公式2.3所示,其中,z为激活函数输入的数值,??函数可以将输入的数值映射到[〇,1]区间范围内,其函数和导
本文编号:3540948
【文章来源】:华中师范大学湖北省 211工程院校 教育部直属院校
【文章页数】:62 页
【学位级别】:硕士
【部分图文】:
图2.1卷积神经网络结构图??(1)特征提取??特征提取就是利用卷积层中的卷积核(Kemal)以一定的步长(Filter)与输??
丨硕士学位论文??MASTER'S?THESIS??广\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??图2.2卷积神经元结构图。??在卷积层中,一个卷积核也就是一个神经元,神经元将各个接收到的输入??(^,X2^3进行求和计算,并加上偏置项得到结果输入激活函数,最终??得到最终的输出项&。计算过程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/为激活函数,&表示第m个卷积核经过卷积计算得到的特征图??(Feature?Map),W^n为卷积核,*为卷积运算符。??目前比较常见的激活函数[37][53]有13他函数、sigmoid函数、ReLU函数。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,?!??41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如图2.3?sigmoid激活函和导数的几何图像??sigmoid激活函数的计算如公式2.3所示,其中,z为激活函数输入的数值,??函数可以将输入的数值映射到[〇,1]区间范围内,其函数和导
丨硕士学位论文??MASTER'S?THESIS??广\、??Xl???(?wml?\?bm??vA??.t.^?\??v??xn???(?W.W,?r??v_y??图2.2卷积神经元结构图。??在卷积层中,一个卷积核也就是一个神经元,神经元将各个接收到的输入??(^,X2^3进行求和计算,并加上偏置项得到结果输入激活函数,最终??得到最终的输出项&。计算过程如公式2.1、2.2所示。??Fm=?Wrnl*X1?+?Wm2*X2?+?-?+?Wmn*Xn?+?bm?(公式?2.1)??Ym?=?fdFm)?(公式?2.2)??其中,/为激活函数,&表示第m个卷积核经过卷积计算得到的特征图??(Feature?Map),W^n为卷积核,*为卷积运算符。??目前比较常见的激活函数[37][53]有13他函数、sigmoid函数、ReLU函数。??sigmoid(z)?=—^?(公式?2.3)??l+e_z??dvenw>?J<*l;a???t.O?.????〇,?!??41-??7\??e?ti?!?,/?OKJ?.?\??^?-j?/?ais?\??t?J?m?\????■?y?〇〇fi?.???,???j?i???,?,?,?,?,?.???■?■>??.10?-s?0?5?10?-4?-3?-2?-1?0'?1?3?3?4??如图2.3?sigmoid激活函和导数的几何图像??sigmoid激活函数的计算如公式2.3所示,其中,z为激活函数输入的数值,??函数可以将输入的数值映射到[〇,1]区间范围内,其函数和导
本文编号:3540948
本文链接:https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3540948.html