深度学习在推荐系统中的研究与应用
发布时间：2020-12-11 03:57
现如今,随着大数据时代的到来,信息量呈现出指数级爆炸性增长的趋势,与此同时,用户的个性化需求也越来越多,面对海量的数据,如何帮助用户迅速精准地获取所需要的信息,是当前面临的主要挑战。因此,推荐系统受到了越来越广泛的关注和重视,同时也逐渐变成了数据服务公司乃至整个互联网行业的核心技术研究模块。目前,推荐系统已经得到广泛应用,而且取得了一定的效果,但在应用中仍存在一些问题和不足,如系统数据量过少导致的冷启动、数据稀疏性等问题亟待研究和解决,所以更好地研究和发展推荐系统技术具有重要意义。近些年来,基于人工神经网络的深度学习方法取得了重大的突破,相比传统的机器学习方法,深度学习在计算机图像与视频、自然语言处理这些领域都得到了应用并取得了更好的效果。因此,人们尝试将深度学习的方法应用于推荐系统领域,进行相关的研究,并取得了一些成果。相比于传统推荐算法,深度学习方法在对目标特征的提取中具有更强的表现能力,对噪声数据具有更好的抗噪能力,并且通过神经网络的建模可以更加精确的学习目标特征,取得更好的效果,有着更加广泛的适用场景。结合当前研究已有基础和发展方向,本文分别研究了推荐算法和深度学习方法,并在传...
【文章来源】：中国地质大学(北京)北京市 211工程院校 教育部直属院校
【文章页数】：59 页
【学位级别】：硕士
【部分图文】：
经典的卷积神经网络LeNet-5
第2章理论与相关技术24全连接层（FullyConnectedLayer）一般位于卷积神经网络最后，全连接层将一层神经元分别输出到不同的区域空间，并且全连接层的输出是一个结果向量。全连接层的特别之处在于每一层上的全部神经元都与其上一层中的全部神经元连接，这样可以一步一步提取上一层中每个神经元的特征，并把全部特征整合。循环神经网络基础序列数据在很多领域都很常见，如自然语言处理、语音识别、股市预测、天气预测这些常见的预测模型中均存在不同的序列数据。一般最基本的序列模型仅仅对上一项和下一项进行预测，不需要隐式信息。例如在时间序列的自回归模型里，该模型只对序列数据中的不同项采取加权平均，并预测下一项，同时也没有采用隐式信息。但在真实状况下，隐式信息非常必要并且往往包含非常重要的信息，同时在序列模型中，节点之间常常通过隐藏层来进行数据传输。一般情况下，序列模型常常都会包含隐式信息，这些信息会记录序列模型在不同时间的状态，这时就可以根据时间以及记录的信息实时预测下一项的变化。1986年Williams等人提出循环神经网络（RecurrentNeuralNetwork,RNN）的概念。循环神经网络的实质是由序列模型发展演化而来。在过去的神经网络模型中，需要将数据输入到模型中并得到输出结果，但它们之间并没有直接的关联，且相互独立，例如在天气预测领域中，希望根据今天的天气预测明后两天的天气，这对于过去的神经网络模型显然是难以解决的问题。此外，RNN有循环性，这是因为序列无时不刻都在执行相同的任务，并且每次都要根据当前的输入和上一次的隐藏状态来进行输出。图2-8显示的是RNN的模型结构，其中包括输入、输出和隐藏单元。图2-8RNN模型结构
中国地质大学（北京）工程硕士学位论文35第4章基于深度学习的特征聚合推荐模型经过上一章的研究可以反映出传统推荐方式都存在各自的优劣，且适用于不同的应用场景，但推荐精度普遍较低，对特征信息的利用方式也十分单一，并且在数据量较大的情况下运算效率较低，所以需要寻找一种适用性更强并能最大限度地解决上述问题的推荐算法。结合深度学习在特征提取和大规模数据分析方面的优势，本章尝试将深度学习引入推荐系统中，评估其推荐效果。模型介绍文本卷积神经网络卷积神经网络一般用于处理网状拓扑结构类型的数据，比如图片类型的数据可看作由×个整齐排列的像素点组成，自然语言可以看作由词组成的一维序列结构。卷积神经网络可以通过灵活组合卷积（convolution）和池化（pooling）操作形成不同的网络结构，并用于不同的场景中。CNN的优点是可以对网状拓扑结构类型的数据的局部进行计算，提取出多种不同的局部特征，得到的结果组合抽象出更高维度的数据，从而得到更高级别的数据特征。通过前期大量的研究发现，CNN能够对图像类和自然语言等文本类数据通过建模进行特征提取和数据分析。图4-1文本卷积神经网络分类原理示意CNN对文本类数据进行分类的原理如图4-1所示，一般分为以下几个步骤：
【参考文献】：
期刊论文
[1]基于内容和协同过滤的科技文献个性化推荐[J]. 杨凯,王利,周志平,赵卫东. 信息技术. 2019(12)
[2]浅析基于卷积神经网络的推荐系统[J]. 高晖春,郭金源,陈东玲,陈鹏飞,刘畅. 信息系统工程. 2019(10)
[3]基于多特征融合的电影推荐系统[J]. 黎丹雨. 计算机与现代化. 2019(08)
[4]协同过滤技术在电影推荐中的应用[J]. 陈俊然. 电脑编程技巧与维护. 2019(01)
[5]基于深度学习的推荐算法研究综述[J]. 王俊淑,张国明,胡斌. 南京师范大学学报(工程技术版). 2018(04)
[6]A Novel Deep Hybrid Recommender System Based on Auto-encoder with Neural Collaborative Filtering[J]. Yu Liu,Shuai Wang,M.Shahrukh Khan,Jieyu He. Big Data Mining and Analytics. 2018(03)
[7]基于深度学习的多交互混合推荐模型[J]. 李同欢,唐雁,刘冰. 计算机工程与应用. 2019(01)
[8]基于标签卷积神经网络的文本推荐算法[J]. 马骁烊,张谧. 计算机系统应用. 2018(08)
[9]一种基于云模型的社交网络推荐系统评分预测方法[J]. 肖云鹏,孙华超,戴天骥,李茜,李暾. 电子学报. 2018(07)
[10]基于深度学习的推荐系统研究综述[J]. 黄立威,江碧涛,吕守业,刘艳博,李德毅. 计算机学报. 2018(07)
硕士论文
[1]基于深度学习的推荐系统算法研究[D]. 张杰.太原理工大学 2019
[2]基于音乐内容语义的推荐算法的研究与实现[D]. 刘奕.北京邮电大学 2018
[3]基于机器学习的推荐技术研究[D]. 孟晓龙.吉林大学 2016
[4]基于混合模式的个性化音乐推荐系统的研究与实现[D]. 孔云.华中师范大学 2016
[5]基于循环神经网络模型的文本分类[D]. 龚千健.华中科技大学 2016
[6]基于卷积神经网络的推荐算法[D]. 吴浠.华南理工大学 2016
[7]混合推荐算法的研究[D]. 宋瑞平.兰州大学 2014
[8]基于深度学习的推荐系统研究[D]. 陈达.北京邮电大学 2014
[9]个性化混合推荐算法的研究[D]. 张腾季.浙江大学 2013
[10]基于混合模式的个性化推荐系统的研究与应用[D]. 梁洁.武汉理工大学 2011
本文编号：2909868
【文章来源】：中国地质大学(北京)北京市 211工程院校 教育部直属院校
【文章页数】：59 页
【学位级别】：硕士
【部分图文】：
经典的卷积神经网络LeNet-5
第2章理论与相关技术24全连接层（FullyConnectedLayer）一般位于卷积神经网络最后，全连接层将一层神经元分别输出到不同的区域空间，并且全连接层的输出是一个结果向量。全连接层的特别之处在于每一层上的全部神经元都与其上一层中的全部神经元连接，这样可以一步一步提取上一层中每个神经元的特征，并把全部特征整合。循环神经网络基础序列数据在很多领域都很常见，如自然语言处理、语音识别、股市预测、天气预测这些常见的预测模型中均存在不同的序列数据。一般最基本的序列模型仅仅对上一项和下一项进行预测，不需要隐式信息。例如在时间序列的自回归模型里，该模型只对序列数据中的不同项采取加权平均，并预测下一项，同时也没有采用隐式信息。但在真实状况下，隐式信息非常必要并且往往包含非常重要的信息，同时在序列模型中，节点之间常常通过隐藏层来进行数据传输。一般情况下，序列模型常常都会包含隐式信息，这些信息会记录序列模型在不同时间的状态，这时就可以根据时间以及记录的信息实时预测下一项的变化。1986年Williams等人提出循环神经网络（RecurrentNeuralNetwork,RNN）的概念。循环神经网络的实质是由序列模型发展演化而来。在过去的神经网络模型中，需要将数据输入到模型中并得到输出结果，但它们之间并没有直接的关联，且相互独立，例如在天气预测领域中，希望根据今天的天气预测明后两天的天气，这对于过去的神经网络模型显然是难以解决的问题。此外，RNN有循环性，这是因为序列无时不刻都在执行相同的任务，并且每次都要根据当前的输入和上一次的隐藏状态来进行输出。图2-8显示的是RNN的模型结构，其中包括输入、输出和隐藏单元。图2-8RNN模型结构
中国地质大学（北京）工程硕士学位论文35第4章基于深度学习的特征聚合推荐模型经过上一章的研究可以反映出传统推荐方式都存在各自的优劣，且适用于不同的应用场景，但推荐精度普遍较低，对特征信息的利用方式也十分单一，并且在数据量较大的情况下运算效率较低，所以需要寻找一种适用性更强并能最大限度地解决上述问题的推荐算法。结合深度学习在特征提取和大规模数据分析方面的优势，本章尝试将深度学习引入推荐系统中，评估其推荐效果。模型介绍文本卷积神经网络卷积神经网络一般用于处理网状拓扑结构类型的数据，比如图片类型的数据可看作由×个整齐排列的像素点组成，自然语言可以看作由词组成的一维序列结构。卷积神经网络可以通过灵活组合卷积（convolution）和池化（pooling）操作形成不同的网络结构，并用于不同的场景中。CNN的优点是可以对网状拓扑结构类型的数据的局部进行计算，提取出多种不同的局部特征，得到的结果组合抽象出更高维度的数据，从而得到更高级别的数据特征。通过前期大量的研究发现，CNN能够对图像类和自然语言等文本类数据通过建模进行特征提取和数据分析。图4-1文本卷积神经网络分类原理示意CNN对文本类数据进行分类的原理如图4-1所示，一般分为以下几个步骤：
【参考文献】：
期刊论文
[1]基于内容和协同过滤的科技文献个性化推荐[J]. 杨凯,王利,周志平,赵卫东. 信息技术. 2019(12)
[2]浅析基于卷积神经网络的推荐系统[J]. 高晖春,郭金源,陈东玲,陈鹏飞,刘畅. 信息系统工程. 2019(10)
[3]基于多特征融合的电影推荐系统[J]. 黎丹雨. 计算机与现代化. 2019(08)
[4]协同过滤技术在电影推荐中的应用[J]. 陈俊然. 电脑编程技巧与维护. 2019(01)
[5]基于深度学习的推荐算法研究综述[J]. 王俊淑,张国明,胡斌. 南京师范大学学报(工程技术版). 2018(04)
[6]A Novel Deep Hybrid Recommender System Based on Auto-encoder with Neural Collaborative Filtering[J]. Yu Liu,Shuai Wang,M.Shahrukh Khan,Jieyu He. Big Data Mining and Analytics. 2018(03)
[7]基于深度学习的多交互混合推荐模型[J]. 李同欢,唐雁,刘冰. 计算机工程与应用. 2019(01)
[8]基于标签卷积神经网络的文本推荐算法[J]. 马骁烊,张谧. 计算机系统应用. 2018(08)
[9]一种基于云模型的社交网络推荐系统评分预测方法[J]. 肖云鹏,孙华超,戴天骥,李茜,李暾. 电子学报. 2018(07)
[10]基于深度学习的推荐系统研究综述[J]. 黄立威,江碧涛,吕守业,刘艳博,李德毅. 计算机学报. 2018(07)
硕士论文
[1]基于深度学习的推荐系统算法研究[D]. 张杰.太原理工大学 2019
[2]基于音乐内容语义的推荐算法的研究与实现[D]. 刘奕.北京邮电大学 2018
[3]基于机器学习的推荐技术研究[D]. 孟晓龙.吉林大学 2016
[4]基于混合模式的个性化音乐推荐系统的研究与实现[D]. 孔云.华中师范大学 2016
[5]基于循环神经网络模型的文本分类[D]. 龚千健.华中科技大学 2016
[6]基于卷积神经网络的推荐算法[D]. 吴浠.华南理工大学 2016
[7]混合推荐算法的研究[D]. 宋瑞平.兰州大学 2014
[8]基于深度学习的推荐系统研究[D]. 陈达.北京邮电大学 2014
[9]个性化混合推荐算法的研究[D]. 张腾季.浙江大学 2013
[10]基于混合模式的个性化推荐系统的研究与应用[D]. 梁洁.武汉理工大学 2011
本文编号：2909868
本文链接：https://www.wllwen.com/kejilunwen/zidonghuakongzhilunwen/2909868.html
