基于深度学习的智能推荐技术研究

发布时间：2020-10-09 07:01

　　目前,推荐系统已经得到了广泛地运用,推荐系统不仅可以改善用户检索信息的体验,还可以为企业带来巨大的商业价值。在各种各样的推荐系统中基于协同过滤的方法是最为主流的方法,它本质上是通过用户的历史交互进行推荐。近年来,基于机器学习方法的模型被广泛使用。尽管传统的机器学习方法已经在推荐系统中取得了巨大的成功,但是依然存在以下问题,模型的表述能力;预测的解释性;冷启动问题以及模型的静态性。与传统的机器学习方法相比,最近涌现的深度学习技术具有以下优点:处理更复杂的非线性关系;从原始数据中自动地逐层提取特征;很好的通用性以及适用于大规模的数据。深度学习具有种种优点,并在不同领域取得了巨大成果。因此,本文的研究将聚焦于推荐系统中基于深度学习协同过滤模型的研究,并针对以上深度学习下推荐系统研究中依然存在问题提出一系列有效的解决方案。具体来说,本文的主要研究内容和创新成果包括:(1)针对评分预测问题,提出一种基于深度神经网络的协同过滤。现有的基于CF的方法只能掌握单一类型的关系,例如,它明显地抓住了用户-用户或项目-项目关系的相关性。另一方面,矩阵分解明确地捕获它们之间的相互作用。为了克服传统的基于CF的方法中的这些缺陷,提出了一种新的深度学习方法,其通过预先理解用户和产品来进行有效的智能推荐。在初始阶段,分别学习用户和项目的相应的低维嵌入向量,其捕获反映用户-用户和项目-项目相关性的语义信息。在预测阶段期间,采用前馈神经网络来模拟用户和物品之间的相互作用,其中相应的预训练的代表性矢量被作为神经网络的输入。基于两个基准数据集进行了几次实验,以验证所提方法的有效性,结果表明我们的模型优于以前使用前馈神经网络的方法,并且跟之前最先进的方法在预测精度上具有很大的可比性。(2)针对评分预测,提出一种基于注意力的协同过滤模型。基于邻域的协同过滤是推荐系统中具有高度重要性的方法,其具有简单性和合理性的优点。然而,与基于模型的协同过滤系统相比,最近由于其低预测精度而受到较少的普及,但是基于模型的方法也存在值得关注的缺点,即它们不能有效地解释其估计背后的原因。为了研究一种同时具有高精度和合理性的系统,本文提出了一种基于邻域的协同过滤方法,该方法受到注意机制的启发,可以自适应地找到用户历史中的预测的邻域项,然后基于这些关系进行估计。且该方法不需要事先给出关于产品相关性的任何预定义的函数。通过进行几个基准测试的实验以验证所提出的方法的性能,并且结果表明该方法除了能够证明所获得的预测精度可以击败所有先前的方法,并且可以保持一定的预测解释性。(3)针对Top-N推荐问题,提出一种基于深度强化学习的协同过滤模型。推荐的本质是一个连续的决策过程。然而,大多数现有的推荐系统采用静态视角,因此,它们存在用户冷启动和对用户兴趣的改变无法适应性的问题。为克服这些问题,本文提出了一种基于深度强化学习的新型Top-N交互式推荐系统。在该模型中,推荐过程被视为马尔可夫决策过程,其中由于其时序的性质,使用递归神经网络来模拟推荐智能体和环境之间的交互。此外,为了最大化长期推荐准确性,采用强化学习来优化这些模型。实验结果表明,该模型在准确性方面明显优于基准方法,并能够有效解决了用户冷启动和用户的兴趣变迁问题。
【学位单位】：电子科技大学
【学位级别】：博士
【学位年份】：2019
【中图分类】：TP391.3;TP18
【部分图文】：

产品特征,可视化,向量,类别

(a) (b)图 3-6 t-SNE的RIM产品特征向量可视化。(a)3 类情况下的结果;(b)5 类情况下的结果.5.2.1 特征的可视化为了清晰地展示学习得到的特征，通过 t-SNE[137]技术将原始的 RIM 产品向量映射到二维空间上。这里，RIM 特征向量是在 MovieLen 1M 数据集上学到的结果。分别展示了两种分类下的可视化结果如图 3-6(a) 和图 3-6(b)所示。在图 3-6(a) 中，具有评分的产品被分为 3 类，包括负类别（评分1 到 2），类别（评分 3）和正类别（评分 4 到 5）。其中负类别在图中用红色表示，用蓝色表示，正类别用绿色表示。从图 3-6(a) 可以看出，特征向量可以被很聚类，相同类别的样本基本聚集在一起。各个类别之间还有较好的层次关系为这里负类别，中性类别和正类别的样本分布集中分布在图的底部，中间和。

曲线,正则化,注意力,正则

第四章基于产品间注意力关系的推荐模型300F20 40 60 80 100 120 140 160l(b)0.90.910.920.930.940.950.960.970.980.99MSERSVDSVD++ACFAttention based CF图 4-2 不同模型在不同嵌入向量大小下的 RMSE 结果只使用 L2 正则，只使用注意力丢弃，同时使用 L2 正则和注意力丢弃，以及使用 L2 正则和注意力丢弃。

曲线,正则化,优化方法,曲线

电子科技大学博士学位论文4.3.5.3 优化方法的影响由于在模型中存在着大量的参数需要学习，为了得到更高的预测精度，学习优化方法的选择同样是一个关键点。因此在这一节中，比较了两种不同的优化方法对模型性能的影响。优化方法分别是最为常用的 SGD 和模型中使用的 Ada-Grad。

【相似文献】