基于深度学习和Stacking集成策略的混合推荐算法研究
发布时间：2021-11-17 09:51
推荐技术能够在用户缺乏确切的需求时,通过对用户以往的选购行为进行分析,创建用户喜好模型,挖掘物品的长尾,更好地给用户选出那些他们有兴趣但很难发现的物品,提高选购效率。由于深度学习和移动互联网计算技术的快速发展,网络中所存储的信息和数据已经呈指数性的增长。尽管用户产生的数据能够有助于推荐技术得到更有价值的信息,从而大大提升推荐算法的预测效果,但过多用户随意创建的标签数据会使推荐技术面临着数据的稀疏性、可扩展、冷启动、准确性、有效特征抽取困难等问题,导致用户的体验较差,推荐准确度也较低。本文分析了基于内容的推荐算法,概率矩阵分解和基于用户的推荐算法。在传统的推荐算法中,用户在项目上的评分矩阵越来越稀疏。协同过滤方法是应用范围最为广泛的推荐技术,采用简单的内积交互模型,只考虑单一的评分信息,存在冷启动问题并且无法学习到用户和项目之间错综复杂的非线性关系。然而基于内容的推荐算法具有个性化的优势,只能推荐出与用户过去浏览相似的物品,并遭遇有效特征提取的困难。而深度学习模型的特性可以学习到更复杂的结构,因此将深度学习技术与推荐算法融合解决上述问题成为了新的发展趋势。针对这一问题,提出一种基于深度学...
【文章来源】：桂林理工大学广西壮族自治区
【文章页数】：62 页
【学位级别】：硕士
【部分图文】：
ReLU激活函数
愦?胍?夭悖?谘?敬?涞墓?讨?模型的权重是不发生变化的，偏置值的个数和神经元的个数是相同的，任意一层神经元行为的改变只会影响到其后一层的神经元。在隐藏层中，计算出各个神经元的输出并进行存储，利用非线性激活函数将前一层的输出作为其后一层的输入，学习用户和项目之间的非线性交互特性。通过求解损失代价函数得出反馈来对模型中的权重进行不断更新调整，从而让模型的预测值更接近期望输出值。MLP网络结构主要包括输入、隐藏以及输出三个层级，其中隐藏层能够拥有一到多个层级，每一层由一到多个神经元组成，如图4.5所示[53]。图4.5多层感知机的神经网络模型MLP网络结构中的信息是一个前向传播的过程，上一层的输出作为下一层的输入，MLP神经网络模型的隐层计算方式如下所示：1111ZFWx公式(4.5)
桂林理工大学硕士学位论文36用户、项目的隐因子向量。（3）在隐藏层上，分别表示用户和项目的隐因子向量当作HRBSD模型隐藏层的输入，HRBSD模型分别利用并排的HRBS模型和多层感知机深度学习模型一起进行训练，得到用户和项目的隐表示[65]。多层感知机模型的隐藏层为一个多层的神经网络结构，每一层都学习用户和项目之间更抽象、更深层次的非线性交互特征。（4）隐藏层到输出层能够被看作是一个预测多类型所属的回归问题，即SoftMax逻辑回归，所以输出层的预测评分uiy计算方式如下：1argmaxmerge,HRBSuiiiiyGWZb公式(4.9)merge操作：对隐藏层的HRBS和MLP两个模型进行合并模式，将不同的输入合并起来。函数G是SoftMax。argmax返回概率最大值的项目下标，即推荐给用户的项目。图4.6HRBSD推荐模型4.4.2模型的训练流程在HRBSD模型中，采用二分类交叉熵损失函数[66]构建目标优化函数，利用随机梯度下降算法对损失代价函数进行最小化求解，从而实现对HRBSD模型的参数进行优化，最后利用学习到的隐表示进行项目推荐。在模型训练过程中，为了避免模型过拟合效应的发生，提升模型的泛化能力，在二分类交叉熵损失函数后加上L2正则化惩处项[67]，
【参考文献】：
期刊论文
[1]基于Stacking策略的稳定性分类器组合模型研究[J]. 吴挡平,张忠林,曹婷婷. 小型微型计算机系统. 2019(05)
[2]基于深度学习的多交互混合推荐模型[J]. 李同欢,唐雁,刘冰. 计算机工程与应用. 2019(01)
[3]基于深度学习加强的混合推荐方法[J]. 张敏,丁弼原,马为之,谭云志,刘奕群,马少平. 清华大学学报(自然科学版). 2017(10)
[4]一种适用于卷积神经网络的Stacking算法[J]. 张笑铭,王志君,梁利平. 计算机工程. 2018(04)
[5]深度卷积神经网络在计算机视觉中的应用研究综述[J]. 卢宏涛,张秦川. 数据采集与处理. 2016(01)
[6]稀疏约束下非负矩阵分解的增量学习算法[J]. 王万良,蔡竞. 计算机科学. 2014(08)
[7]BP-AdaBoost模型在光纤陀螺零偏温度补偿中的应用[J]. 刘元元,杨功流,李思宜. 北京航空航天大学学报. 2014(02)
[8]张量分解的标签推荐及新用户标签推荐算法[J]. 廖志芳,王超群,李小庆,张苗. 小型微型计算机系统. 2013(11)
博士论文
[1]基于深度学习的多源信息融合推荐算法研究[D]. 邢淑凝.山东师范大学 2019
[2]基于多目标优化的个性化推荐算法研究[D]. 耿冰蕊.西安电子科技大学 2018
[3]个性化推荐的可解释性研究[D]. 张永锋.清华大学 2016
硕士论文
[1]基于多因素的矩阵分解推荐算法研究与实现[D]. 张文博.北京邮电大学 2019
[2]基于深度学习的混合推荐算法研究[D]. 张立超.哈尔滨理工大学 2019
[3]基于深度学习的推荐系统算法研究[D]. 张杰.太原理工大学 2019
[4]基于注意力机制及深度学习的文本情感分析研究[D]. 梁宁.华北电力大学 2019
[5]一种新型混合推荐模型的设计与实现[D]. 郭正凯.北京邮电大学 2019
[6]基于深度学习的混合协同过滤推荐算法的研究与应用[D]. 胡杨.江苏大学 2019
[7]基于深度学习考虑深层特征的个性化推荐算法研究[D]. 刘辉.电子科技大学 2019
[8]基于张量分解的个性化推荐算法研究[D]. 胡强.华东交通大学 2018
[9]面向个性化推荐的矩阵分解算法研究[D]. 王欢.河南大学 2018
[10]基于深度学习的电影推荐系统研究与实现[D]. 王建洋.西南交通大学 2018
本文编号：3500666
【文章来源】：桂林理工大学广西壮族自治区
【文章页数】：62 页
【学位级别】：硕士
【部分图文】：
ReLU激活函数
愦?胍?夭悖?谘?敬?涞墓?讨?模型的权重是不发生变化的，偏置值的个数和神经元的个数是相同的，任意一层神经元行为的改变只会影响到其后一层的神经元。在隐藏层中，计算出各个神经元的输出并进行存储，利用非线性激活函数将前一层的输出作为其后一层的输入，学习用户和项目之间的非线性交互特性。通过求解损失代价函数得出反馈来对模型中的权重进行不断更新调整，从而让模型的预测值更接近期望输出值。MLP网络结构主要包括输入、隐藏以及输出三个层级，其中隐藏层能够拥有一到多个层级，每一层由一到多个神经元组成，如图4.5所示[53]。图4.5多层感知机的神经网络模型MLP网络结构中的信息是一个前向传播的过程，上一层的输出作为下一层的输入，MLP神经网络模型的隐层计算方式如下所示：1111ZFWx公式(4.5)
桂林理工大学硕士学位论文36用户、项目的隐因子向量。（3）在隐藏层上，分别表示用户和项目的隐因子向量当作HRBSD模型隐藏层的输入，HRBSD模型分别利用并排的HRBS模型和多层感知机深度学习模型一起进行训练，得到用户和项目的隐表示[65]。多层感知机模型的隐藏层为一个多层的神经网络结构，每一层都学习用户和项目之间更抽象、更深层次的非线性交互特征。（4）隐藏层到输出层能够被看作是一个预测多类型所属的回归问题，即SoftMax逻辑回归，所以输出层的预测评分uiy计算方式如下：1argmaxmerge,HRBSuiiiiyGWZb公式(4.9)merge操作：对隐藏层的HRBS和MLP两个模型进行合并模式，将不同的输入合并起来。函数G是SoftMax。argmax返回概率最大值的项目下标，即推荐给用户的项目。图4.6HRBSD推荐模型4.4.2模型的训练流程在HRBSD模型中，采用二分类交叉熵损失函数[66]构建目标优化函数，利用随机梯度下降算法对损失代价函数进行最小化求解，从而实现对HRBSD模型的参数进行优化，最后利用学习到的隐表示进行项目推荐。在模型训练过程中，为了避免模型过拟合效应的发生，提升模型的泛化能力，在二分类交叉熵损失函数后加上L2正则化惩处项[67]，
【参考文献】：
期刊论文
[1]基于Stacking策略的稳定性分类器组合模型研究[J]. 吴挡平,张忠林,曹婷婷. 小型微型计算机系统. 2019(05)
[2]基于深度学习的多交互混合推荐模型[J]. 李同欢,唐雁,刘冰. 计算机工程与应用. 2019(01)
[3]基于深度学习加强的混合推荐方法[J]. 张敏,丁弼原,马为之,谭云志,刘奕群,马少平. 清华大学学报(自然科学版). 2017(10)
[4]一种适用于卷积神经网络的Stacking算法[J]. 张笑铭,王志君,梁利平. 计算机工程. 2018(04)
[5]深度卷积神经网络在计算机视觉中的应用研究综述[J]. 卢宏涛,张秦川. 数据采集与处理. 2016(01)
[6]稀疏约束下非负矩阵分解的增量学习算法[J]. 王万良,蔡竞. 计算机科学. 2014(08)
[7]BP-AdaBoost模型在光纤陀螺零偏温度补偿中的应用[J]. 刘元元,杨功流,李思宜. 北京航空航天大学学报. 2014(02)
[8]张量分解的标签推荐及新用户标签推荐算法[J]. 廖志芳,王超群,李小庆,张苗. 小型微型计算机系统. 2013(11)
博士论文
[1]基于深度学习的多源信息融合推荐算法研究[D]. 邢淑凝.山东师范大学 2019
[2]基于多目标优化的个性化推荐算法研究[D]. 耿冰蕊.西安电子科技大学 2018
[3]个性化推荐的可解释性研究[D]. 张永锋.清华大学 2016
硕士论文
[1]基于多因素的矩阵分解推荐算法研究与实现[D]. 张文博.北京邮电大学 2019
[2]基于深度学习的混合推荐算法研究[D]. 张立超.哈尔滨理工大学 2019
[3]基于深度学习的推荐系统算法研究[D]. 张杰.太原理工大学 2019
[4]基于注意力机制及深度学习的文本情感分析研究[D]. 梁宁.华北电力大学 2019
[5]一种新型混合推荐模型的设计与实现[D]. 郭正凯.北京邮电大学 2019
[6]基于深度学习的混合协同过滤推荐算法的研究与应用[D]. 胡杨.江苏大学 2019
[7]基于深度学习考虑深层特征的个性化推荐算法研究[D]. 刘辉.电子科技大学 2019
[8]基于张量分解的个性化推荐算法研究[D]. 胡强.华东交通大学 2018
[9]面向个性化推荐的矩阵分解算法研究[D]. 王欢.河南大学 2018
[10]基于深度学习的电影推荐系统研究与实现[D]. 王建洋.西南交通大学 2018
本文编号：3500666
本文链接：https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/3500666.html
