基于流和生成网络的推荐系统研究

发布时间：2021-08-15 03:16

　　协同过滤是推荐系统中使用最广泛且最成功的技术。但是,现有的基于协同过滤的方法在对用户项目非线性交互进行建模时仍然存在一定的局限性。而近年来,基于协同过滤的推荐系统引入了深度生成模型,例如变分自动编码器和生成对抗性网络,从而在提高排序性能和模型鲁棒性的同时,产生了具有高推荐性能的模型。但是,这些模型本质上是确定的,不能很好地评估推荐的不确定性。此外,这些方法通常缺乏显式密度的特征,因此难以直接对用户项目交互进行建模。本文通过建模和估计用户项目交互的隐式反馈来解决上述问题。为了实现这一目标,本文通过随机和摊销推断的能力扩展了变分自动编码器,从而实现更好的变分近似和更好的推荐性能。具体来说,本文做出了以下贡献。针对典型在线应用程序中的项目推荐服务,本文提出了协同自回归流模型（CAF）,这是一种新颖的类似协同过滤的模型,利用贝叶斯推理和自回归流进行项目推荐。CAF是一种非线性概率方法,可以在项目推荐中提供不确定性表示和潜在变量推断的准确表示。与现有深度生成推荐模型中使用的先验近似法相比,CAF在估计概率后验方面更为有效,并且可以通过自回归流改进和解释潜在因子的表示学习。所提出的模型利用流来近似... 

【文章来源】：电子科技大学四川省 211工程院校 985工程院校 教育部直属院校

【文章页数】：96 页

【学位级别】：硕士

【图文】：

推荐系统算法框架图

第二章相关研究技术及理论码器来克服这一限制，该模型可以很好地泛化RNN网络，使得RNN具有鲁棒性。基于健壮的递归网络，Wang等人又提出了CRAE模型。该模型采用分层贝叶斯推断理论，模型中的前馈神经网络用RNN替代，从而能够有效的捕捉项目内容信息中的顺序特征。此外，CRAE模型使用了通配符进行去噪，并且还整合了beta合并技术，以防止模型过度拟合。而最近，wang等人[50]结合了强化学习和RNN，利用监督学习进行药物治疗推荐。该框架可以从指示信号和评估信号中学习处方策略。实验表明，该系统可以自动推断并发现最佳治疗方法。这是一个有价值的研究话题，并有益于社会的发展进步。2.4相关技术简介2.4.1多层感知机多层感知机也叫人工神经网络，除了输入层，输出层，它的中间还可以有一个或者多个隐藏层，最简单的MLP只含有一个隐藏层。MLP中的每一层都是由多个神经元组成。在输入域很密集的情况下，MLP能够作为一个万能逼近函数去拟合任意连续函数。因此，MLP被应用于很多研究领域，比如自然语言处理，计算机视觉等。图2-2两层MLP模型图2-2为含有两个隐藏层的MLP网络，通常将第一层称之为输入层，最后一层称之有输出层，中间的层称之为隐藏层。左边的节点代表模型输入数据，层与层之间的连线代表权重矩阵，最后一层为输出层，y是各层加权求和的结果。从图2-2中18

第三章基于协同自回归流的项目推荐模型助信息就是与项目相关联的信息。例如，相关研究中考虑POI的时空信息[80]，科学论文的词频信息[14]以及电影体裁和收视率[6]。图3-1CAF项目推荐模型本章提出的CAF项目推荐模型受Chen等人的最新研究结果[21]启发，还结合了用户方面的信息，例如商品的访问频率或商品推荐的用户评分（即评分矩阵的转置），参见图3-1。更进一步地，所提出的CAF模型构造用于辅助信息的生成潜变量模型，并将潜变量ziu和zjv分别分配给每个用户和项目。与每个用户ui和每个项目vj相关的内容信息是通过θ参数化的生成神经网络从其各自的潜在变量生成的：ui～pθ(ui|ziu),vj～pθ(vj|zjv),(3-1)其中分布中ui和vj是实值数据（例如，时空信息，评分，人口统计学或词频等）。这些数据是由生成网络参数化的协同自回归流的后验分布生成。此外，CAF结合了与用户和项目相关的协同信息uc和vc，这些信息均来自高斯分布：uc～N(0,I),vc～N(0,I)(3-2)以上协同信息表示与潜在变量表示结合起来代表用户和项目表示：ui=zKu+uc,vj=zKv+vc.(3-3)以上的假设与以前基于VAE的推荐模型[6,14,15,21,81]相似。但是，这些工作在辅助信息的选择上彼此不同。例如，Li等人[14]仅考虑用户评分信息，而Lee等人提出的模型[6]包括与项目相关的辅助信息。最近提出的其他模型[15,21]则基于CVAE的主要体系结构考虑了用户端信息。根据图3-1中的模型，CAF的联合概率32


本文编号：3343738