基于深度隐特征分析的推荐算法研究
发布时间：2021-11-17 08:41
随着互联网行业的飞速发展,互联网上的信息量呈指数型增长。在纷繁复杂的互联网信息中,如何筛选出用户想要的信息成为推荐系统的主要任务。推荐系统通过有效分析用户的历史行为数据,达到预测用户下一步行为的目的,成为目前解决信息过载的主要手段之一。然而,传统的基于协同过滤的推荐算法对用户-物品评分数据进行建模分析时,一般采用线性模型,导致推荐算法的精度提升有限。深度学习技术凭着强大的表征能力在图像识别、自然语言处理方面取得了巨大的成功,基于深度学习的推荐算法近年被广泛研究。本文针对传统协同过滤算法的数据表征能力弱等问题,通过结合深度学习的相关理论和方法,对基于深度隐特征分析的推荐算法进行了研究,从而达到提升推荐算法精准率的目的。具体工作如下:（1）对深度学习和推荐算法的研究现状进行了广泛的调研,发现基于深度学习的推荐算法在处理多源数据、数据表征方面具有优势。在实际的推荐系统中,用户和物品的信息数据是多种多样的,例如物品的图片信息。基于深度学习的推荐算法针对这些数据可以使用多种网络模型进行处理,相较于传统的协同过滤算法而言,能够提取出更具代表性的特征。除此之外,基于深度学习的推荐算法能够对用户和物品...
【文章来源】：中国科学院大学(中国科学院重庆绿色智能技术研究院)重庆市
【文章页数】：80 页
【学位级别】：硕士
【部分图文】：
图２．１使用矩阵分解进行评分预测??
?基于深度隐特征分析的推荐算法研宄???０?１?０?０?．．．?０?０?０?１?０?．．．?０??Ｉ?＊?＊?Ｉ??ｒ￣??，??，??１?，?ｎ??—?ｉ??ｉ?＾?ｉ??Ｐｒｅｄｉｃｔｅｄ??ｒａｔｉｎｇ??图２．２?ＭＬＰ模型??多层感知机模型拥有众多衍生模型，目前在图像处理上最为流行的卷积神??经网络（Ｃｏｎｖｏｌｕｔｉｏｎａｌ?Ｎｅｕｒａｌ?Ｎｅｔｗｏｒｋｓ，ＣＮＮ），在自然语言处理上最为常用的??循环神经网络（Ｒｅｃｕｒｒｅｎｔ?Ｎｅｕｒａｌ?Ｎｅｔｗｏｒｋｓ，ＲＮＮ）等等。??自编码器被证明能够在推荐系统中学习到有效的特征表示，使得推荐精度??明显提高［５７］，是推荐系统中最为常用的网络模型之－。自编码器??（Ａｕｔｏｅｎｃｏｄｅｒｓ，ＡＥ）是深度学习中一种对输入数据的大量特征进行压缩的方??法，属于无监督学习方法［６８］。自编码器首先也是一种神经网络模型，有输入??层、隐含层、输出层，其中输入层和输出层是相同的，中间层作为输入数据的??低维特征表示，如图２．３所示。将自编码器作为一种模型应用于推荐算法中，??是目前相关论文中常见的方法。自编码器的结构可以描述如下：??输入层＾中间隐含层：可视为编码的过程，通过对输入数据进行压缩，??类似于ＰＣＡ，提取主要的隐特征，同时需要非线性的激活函数，进行特征的非??线性表达；??中间隐含层＝＞?输出层，可视为解码的过程，主要是将隐特征还原为输入??数据，也需要非线性激活函数对数据进行特征变换，是还原度尽可能高，整个??过程也可称之为某种意义上的重构（ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ）。??１６??
?第２章相关理论和技术???编码?解码??＿??输入）２?隐含Ｗ?输出．丨３??图２．３自编码器模型??自编码器拥有多种衍生模型，拥有不同的特点，适用于不同的特征提取场??景，主要分别有以下几类：正则自编码器（Ｒｅｇｕｌａｒｉｚｅｄ?Ａｕｔｏｅｎｃｏｄｅｒｓ）、稀疏自??编码器（ＳｐａｒｓｉｔｙＡｕｔｏｅｎｃｏｄｅｒｓ），去噪闩编码器（ＤｅｎｏｉｓｉｎｇＡｕｔｏｅｎｃｏｄｅｒｓ，ＤＡＥ）??（２００８），桟式去噪自编码器（Ｓｔａｃｋｅｄ?ＤｅｎｏｉｓｉｎｇＡｕｔｏｅｎｃｏｄｅｒｓ，ＳＤＡＥ）?（２０１０）、??收缩自编码器（Ｃｏｎｔｒａｃｔｉｖｅ?Ａｕｔｏｅｎｃｏｄｅｒｓ，ＣＡＥ?）（?２０１１?），变分自编码器??（Ｖａｒｉａｔｉｏｎａｌ?Ａｕｔｏｅｎｃｏｄｅｒｓ，ＶＡＥ?）?（２０１３），以及衍生的边缘去噪自编码器??（Ｍａｒｇｉｎａｌｉｚｅ?Ｄｅｎｏｉｓｅ?Ａｕｔｏｅｎｃｏｄｅｒｓ）?［４４］。其中，用于推荐系统的模型有??ＳＤＡＥ［１７，３６］、ＶＡＥ［２６］、ＤＡＥ［３１］、ＣＡＥ［３３］和?ＭＤＡＥ［４９］。??２．４深度隐特征的优化方法??深度隐特征，指的是Ｍ过深度神经网络分别提取出的用户隐特征和物品隐??特征，用于提升推荐模型的预测精度。然而，在深层祌经网络模型的训练过程??中，存在着“梯度消失＇？的问题［６６］，导致网络难以学习到数据中的隐特征．．除此??之外，本就计算复杂的神经网络，随着神经网络的加深，其参数量陡增，计算??量也变得更大。然而深层祌经网络被提出的当吋，计算机硬件资源丨斑乏、〖丨？算??成本较高，导致当时的深层神经网络很难被学术界和工业界所接受。??如今，随着计算机硬件的
【参考文献】：
期刊论文
[1]基于深度学习的推荐系统研究综述[J]. 黄立威,江碧涛,吕守业,刘艳博,李德毅. 计算机学报. 2018(07)
[2]个性化推荐系统的研究进展[J]. 刘建国,周涛,汪秉宏. 自然科学进展. 2009(01)
本文编号：3500555
【文章来源】：中国科学院大学(中国科学院重庆绿色智能技术研究院)重庆市
【文章页数】：80 页
【学位级别】：硕士
【部分图文】：
图２．１使用矩阵分解进行评分预测??
?基于深度隐特征分析的推荐算法研宄???０?１?０?０?．．．?０?０?０?１?０?．．．?０??Ｉ?＊?＊?Ｉ??ｒ￣??，??，??１?，?ｎ??—?ｉ??ｉ?＾?ｉ??Ｐｒｅｄｉｃｔｅｄ??ｒａｔｉｎｇ??图２．２?ＭＬＰ模型??多层感知机模型拥有众多衍生模型，目前在图像处理上最为流行的卷积神??经网络（Ｃｏｎｖｏｌｕｔｉｏｎａｌ?Ｎｅｕｒａｌ?Ｎｅｔｗｏｒｋｓ，ＣＮＮ），在自然语言处理上最为常用的??循环神经网络（Ｒｅｃｕｒｒｅｎｔ?Ｎｅｕｒａｌ?Ｎｅｔｗｏｒｋｓ，ＲＮＮ）等等。??自编码器被证明能够在推荐系统中学习到有效的特征表示，使得推荐精度??明显提高［５７］，是推荐系统中最为常用的网络模型之－。自编码器??（Ａｕｔｏｅｎｃｏｄｅｒｓ，ＡＥ）是深度学习中一种对输入数据的大量特征进行压缩的方??法，属于无监督学习方法［６８］。自编码器首先也是一种神经网络模型，有输入??层、隐含层、输出层，其中输入层和输出层是相同的，中间层作为输入数据的??低维特征表示，如图２．３所示。将自编码器作为一种模型应用于推荐算法中，??是目前相关论文中常见的方法。自编码器的结构可以描述如下：??输入层＾中间隐含层：可视为编码的过程，通过对输入数据进行压缩，??类似于ＰＣＡ，提取主要的隐特征，同时需要非线性的激活函数，进行特征的非??线性表达；??中间隐含层＝＞?输出层，可视为解码的过程，主要是将隐特征还原为输入??数据，也需要非线性激活函数对数据进行特征变换，是还原度尽可能高，整个??过程也可称之为某种意义上的重构（ｒｅｃｏｎｓｔｒｕｃｔｉｏｎ）。??１６??
?第２章相关理论和技术???编码?解码??＿??输入）２?隐含Ｗ?输出．丨３??图２．３自编码器模型??自编码器拥有多种衍生模型，拥有不同的特点，适用于不同的特征提取场??景，主要分别有以下几类：正则自编码器（Ｒｅｇｕｌａｒｉｚｅｄ?Ａｕｔｏｅｎｃｏｄｅｒｓ）、稀疏自??编码器（ＳｐａｒｓｉｔｙＡｕｔｏｅｎｃｏｄｅｒｓ），去噪闩编码器（ＤｅｎｏｉｓｉｎｇＡｕｔｏｅｎｃｏｄｅｒｓ，ＤＡＥ）??（２００８），桟式去噪自编码器（Ｓｔａｃｋｅｄ?ＤｅｎｏｉｓｉｎｇＡｕｔｏｅｎｃｏｄｅｒｓ，ＳＤＡＥ）?（２０１０）、??收缩自编码器（Ｃｏｎｔｒａｃｔｉｖｅ?Ａｕｔｏｅｎｃｏｄｅｒｓ，ＣＡＥ?）（?２０１１?），变分自编码器??（Ｖａｒｉａｔｉｏｎａｌ?Ａｕｔｏｅｎｃｏｄｅｒｓ，ＶＡＥ?）?（２０１３），以及衍生的边缘去噪自编码器??（Ｍａｒｇｉｎａｌｉｚｅ?Ｄｅｎｏｉｓｅ?Ａｕｔｏｅｎｃｏｄｅｒｓ）?［４４］。其中，用于推荐系统的模型有??ＳＤＡＥ［１７，３６］、ＶＡＥ［２６］、ＤＡＥ［３１］、ＣＡＥ［３３］和?ＭＤＡＥ［４９］。??２．４深度隐特征的优化方法??深度隐特征，指的是Ｍ过深度神经网络分别提取出的用户隐特征和物品隐??特征，用于提升推荐模型的预测精度。然而，在深层祌经网络模型的训练过程??中，存在着“梯度消失＇？的问题［６６］，导致网络难以学习到数据中的隐特征．．除此??之外，本就计算复杂的神经网络，随着神经网络的加深，其参数量陡增，计算??量也变得更大。然而深层祌经网络被提出的当吋，计算机硬件资源丨斑乏、〖丨？算??成本较高，导致当时的深层神经网络很难被学术界和工业界所接受。??如今，随着计算机硬件的
【参考文献】：
期刊论文
[1]基于深度学习的推荐系统研究综述[J]. 黄立威,江碧涛,吕守业,刘艳博,李德毅. 计算机学报. 2018(07)
[2]个性化推荐系统的研究进展[J]. 刘建国,周涛,汪秉宏. 自然科学进展. 2009(01)
本文编号：3500555
本文链接：https://www.wllwen.com/kejilunwen/ruanjiangongchenglunwen/3500555.html
