基于循环神经网络的深度推荐模型研究

发布时间：2021-01-23 12:53

　　随着在线信息量的快速增加,个性化推荐已逐渐成为克服信息过载的有效策略。尽管现有的推荐系统已经非常成功并且产生了不错的推荐,但是它们仍然面临诸如稀疏性问题,可解释性差以及在用户刚刚访问的几个项目中捕获短期用户兴趣困难的挑战。近几年,深度神经网络已经在学术界和工业界引起了极大的关注,并且广泛的应用在自然语言处理、计算机视觉等领域。同时,已经有研究表明将深度学习应用到推荐中可以提高推荐质量。在众多的基于深度学习的推荐中,很少有文献利用循环神经网络来建模序列数据,从而提高推荐质量。因此本文对基于循环神经网络的推荐系统进行分析和研究,并提出了新的模型,具体如下:一、许多电子商务网站中存在用户编写的大量评论信息,大部分推荐系统虽然利用了评论信息,但仅从单词级别而不是评论级别来评估评论的重要性。如果只考虑评论中的重要单词,而忽略了真正有用的评论,则会降低推荐模型的性能。基于此,文中提出了一种基于双层注意力机制的联合深度推荐模型（DLALSTM）。该模型首先利用双向长短期记忆网络（BiLSTM）分别对用户和项目评论进行词以及评论级别联合建模,并通过两层注意力机制聚合为评论表示和用户/项目表示,然后把从... 

【文章来源】：安徽大学安徽省 211工程院校

【文章页数】：73 页

【学位级别】：硕士

【部分图文】：

CF过程概述

安徽大学硕士学位论文9加权式：通过组合不同推荐方法的结果来生成推荐。切换式：根据当前的情况，选择不同的推荐算法以生成推荐。混杂式：同时采用多种推荐方法给出多种推荐结果供用户参考。级联式：一种推荐方法产生的输入依赖于其他推荐方法的输出。特征组合式：将不同推荐方法的特征组合在一起，并在单个算法中加以利用。特征补充式：一种推荐方法的特征输入混合了另一种推荐方法产生的特征输出。2.2循环神经网络RNN是一类利用序列信息来建模的人工神经网络，RNN内部的循环结构决定了在每个时间步的隐藏状态取决于当前输入和前一个时间步的隐藏状态，使得RNN可以有效的处理可变长度的序列信息,RNN的结构如图2.2所示。图2.2RNN结构图Figure2.2ThemodelofRNN具体来说，给定序列()12Tx=x,x,,x，RNN更新循环隐藏状态th通过以下公式：tt-1tthh,xt0,0(),0(2.1)式中是一个非线性函数，例如tanh、sigmoid函数等。具体来说公式2.1中RNN的隐藏状态更新通常由以下公式实现：()ttt-1h=gWx+Uh(2.2)

安徽大学硕士学位论文13图2.4基于AE的模型Figure2.4AE-basedmodel而协同去噪自动编码器（CDAE）[43]主要用于排名预测。CDAE的输入是用户的隐式反溃也可以将其视为反映用户对项目兴趣的偏好。例如，如果用户喜欢这个商品，则值为1，否则为0。CDAE在所有训练数据中使用SGD更新其参数。但是在现实应用中将所有评分都考虑进去是不切实际的，因此提出了一种负采样技术来采样一部分负数据（用户没有交互过的），从而降低了时间复杂度，同时也不会降低排名质量。2.4.2基于受限玻尔兹曼机的推荐模型受限玻尔兹曼机（RBM）结构由可见层和隐藏层组成。它是较早的人工神经网络之一，能够通过学习数据内在的固有属性来解决复杂的学习问题。RBM同层之间相互没有连接，因而模型的学习效率得到了很大的改善。Mnih等[44]提出了一种基于受限玻尔兹曼机的推荐模型。后来研究人员又进一步探索使用RBM合并隐式反馈信息。由于RBM的可见单元的特殊限制，因此评分将使用one-hot的形式来对应此要求。该模型的结构如图2.5所示。

【参考文献】：
期刊论文
[1]引入漂移特性的用户兴趣模型优化研究[J]. 南智敏,钱松荣.  微型电脑应用. 2012(03)

硕士论文
[1]基于Web使用挖掘的个性化推荐系统[D]. 张海玉.西北大学 2006



本文编号：2995246