基于深度神经网络的点击率预估模型
发布时间：2022-01-15 01:02
大数据时代,我们生活中的方方面面都出现了信息过载的问题。用户从大量的信息中寻找对自己感兴趣的信息也随之变得困难;而对于信息生产者而言,让自己生产的信息在众多信息中脱颖而出也变得越来越难。推荐系统就是在这样的前提下产生的。推荐系统的主要目的是把合适的信息推荐给合适的人。对于用户而言,推荐系统能将用户感兴趣的内容推送给用户。对于商家而言,推荐系统可以给用户提供个性化服务,提高收入。在推荐系统中,点击率预估是非常重要的一个环节,判断一个商品是否进行推荐需要根据点击率预估的点击率来进行。论文主要研究基于深度神经网络的点击率预估模型的问题,聚焦当前火热和前沿的深度学习技术。论文针对当前存在的深度点击率预估模型,从低维特征的表达和组合特征的表达为切入点,对当前存在的深度点击率预估模型在低维特征表达与组合特征表达这两个层面做了改进工作,主要进行了将FFM中“域”思想引入深度点击率预估模型和将注意力机制引入深度点击率预估模型的两方面工作。本文的主要工作和创新点包括:1.提出了一种基于FFM深度神经网络的点击率预估模型。该方法的主要思想是通过将FFM模型中“域”的思想引入到深度点击率预估模型中,通过“域...
【文章来源】：华南理工大学广东省 211工程院校 985工程院校 教育部直属院校
【文章页数】：73 页
【学位级别】：硕士
【部分图文】：
“DisplayAdvertisingChallenge”比赛数据集预处理流程图
图 3-2 “Click-Through Rate Prediction”比赛数据集预处理流程图3.3 基于 FFM 深度神经网络的点击率预估模型3.3.1 深度点击率预估模型简介近几年来随着深度学习在图像领域，自然语言处理领域和语音识别领域取得了非常重大的进展。众多研究者也把在这些领域成熟的方法引入到点击率预估领域，并且取得了不错的效果。下面本文就针对几个效果比较突出，特点比较鲜明的深度点击率预估模型做一个详细的介绍（1） Deep&Cross Network 模型Deep&Cross Network 模型又被称为 DCN 模型， 一个完整的 DCN 模型由嵌入和堆积层、交叉网络层、深度网络层、组合层四部分组成，其中嵌入和堆积层的功能是输入连续和离散的数据，并把它们拼接成一个向量，提供给后续的网络使用，交叉网络层和
图 3-3 Deep&Cross Network 模型结构图[21]嵌入与堆叠层由嵌入与堆叠两部分组成，其中嵌入部分就是我们通常所说的embedding 层，使用 embedding 层的原因主要是在实际的应用中，点击率模型输入的特征向量通常是维度很大的，比如在电商购物中，商品 ID 这个特征的维度就是很大的，有多少个商品，特征的维度就是多少维。但是如果直接把这么高维度的特征直接输入到点击率模型中，不仅会大大增加模型的复杂度，还会造成过拟合的情况，所以为了减少输入模型的维度，就会采用在自然语言处理领域应用很广的 embedding 的方法，embedding 的转化过程如下所示：embed , i embed ,i iX W X（3-先来看下什么是全连接层，顾名思义，全连接层与前一层的神经元进行全连接操作，将前一层的输出特征都综合起来，从全局角度对提取到的特征进行加权组合。全连接层一般出现在 CNN 的最后几层，其所需要训练的参数也是最多的。由于其参数过多可能造
【参考文献】：
期刊论文
[1]基于注意力机制的答案选择方法研究[J]. 熊雪,刘秉权,吴翔虎. 智能计算机与应用. 2018(06)
[2]基于注意力LSTM和多任务学习的远场语音识别[J]. 张宇,张鹏远,颜永红. 清华大学学报(自然科学版). 2018(03)
[3]基于多注意力卷积神经网络的特定目标情感分析[J]. 梁斌,刘全,徐进,周倩,章鹏. 计算机研究与发展. 2017(08)
[4]AdaBoost算法研究进展与展望[J]. 曹莹,苗启广,刘家辰,高琳. 自动化学报. 2013(06)
[5]计算广告:以数据为核心的Web综合应用[J]. 周傲英,周敏奇,宫学庆. 计算机学报. 2011(10)
[6]基于视觉显著性特征的快速场景配准方法[J]. 陈硕,吴成东,陈东岳. 中国图象图形学报. 2011(07)
[7]基于视觉注意力机制的图像检索研究[J]. 梁晔,刘宏哲. 北京联合大学学报(自然科学版). 2010(01)
硕士论文
[1]基于混合模型的推荐系统的研究[D]. 石宁.华北电力大学 2015
[2]基于注意力机制的图像显著区域提取算法分析与比较[D]. 李敏学.北京交通大学 2011
本文编号：3589576
【文章来源】：华南理工大学广东省 211工程院校 985工程院校 教育部直属院校
【文章页数】：73 页
【学位级别】：硕士
【部分图文】：
“DisplayAdvertisingChallenge”比赛数据集预处理流程图
图 3-2 “Click-Through Rate Prediction”比赛数据集预处理流程图3.3 基于 FFM 深度神经网络的点击率预估模型3.3.1 深度点击率预估模型简介近几年来随着深度学习在图像领域，自然语言处理领域和语音识别领域取得了非常重大的进展。众多研究者也把在这些领域成熟的方法引入到点击率预估领域，并且取得了不错的效果。下面本文就针对几个效果比较突出，特点比较鲜明的深度点击率预估模型做一个详细的介绍（1） Deep&Cross Network 模型Deep&Cross Network 模型又被称为 DCN 模型， 一个完整的 DCN 模型由嵌入和堆积层、交叉网络层、深度网络层、组合层四部分组成，其中嵌入和堆积层的功能是输入连续和离散的数据，并把它们拼接成一个向量，提供给后续的网络使用，交叉网络层和
图 3-3 Deep&Cross Network 模型结构图[21]嵌入与堆叠层由嵌入与堆叠两部分组成，其中嵌入部分就是我们通常所说的embedding 层，使用 embedding 层的原因主要是在实际的应用中，点击率模型输入的特征向量通常是维度很大的，比如在电商购物中，商品 ID 这个特征的维度就是很大的，有多少个商品，特征的维度就是多少维。但是如果直接把这么高维度的特征直接输入到点击率模型中，不仅会大大增加模型的复杂度，还会造成过拟合的情况，所以为了减少输入模型的维度，就会采用在自然语言处理领域应用很广的 embedding 的方法，embedding 的转化过程如下所示：embed , i embed ,i iX W X（3-先来看下什么是全连接层，顾名思义，全连接层与前一层的神经元进行全连接操作，将前一层的输出特征都综合起来，从全局角度对提取到的特征进行加权组合。全连接层一般出现在 CNN 的最后几层，其所需要训练的参数也是最多的。由于其参数过多可能造
【参考文献】：
期刊论文
[1]基于注意力机制的答案选择方法研究[J]. 熊雪,刘秉权,吴翔虎. 智能计算机与应用. 2018(06)
[2]基于注意力LSTM和多任务学习的远场语音识别[J]. 张宇,张鹏远,颜永红. 清华大学学报(自然科学版). 2018(03)
[3]基于多注意力卷积神经网络的特定目标情感分析[J]. 梁斌,刘全,徐进,周倩,章鹏. 计算机研究与发展. 2017(08)
[4]AdaBoost算法研究进展与展望[J]. 曹莹,苗启广,刘家辰,高琳. 自动化学报. 2013(06)
[5]计算广告:以数据为核心的Web综合应用[J]. 周傲英,周敏奇,宫学庆. 计算机学报. 2011(10)
[6]基于视觉显著性特征的快速场景配准方法[J]. 陈硕,吴成东,陈东岳. 中国图象图形学报. 2011(07)
[7]基于视觉注意力机制的图像检索研究[J]. 梁晔,刘宏哲. 北京联合大学学报(自然科学版). 2010(01)
硕士论文
[1]基于混合模型的推荐系统的研究[D]. 石宁.华北电力大学 2015
[2]基于注意力机制的图像显著区域提取算法分析与比较[D]. 李敏学.北京交通大学 2011
本文编号：3589576
本文链接：https://www.wllwen.com/kejilunwen/shengwushengchang/3589576.html
最近更新
教材专著
