基于循环神经网络的广告点击率预估研究

发布时间：2020-11-14 04:48

　　 随着互联网广告十余年持续爆炸式的发展,计算广告学也随之应运而生。作为计算广告流量变现的最重要方式之一,广告点击率预估不论从搜索广告到程序化交易,还是移动互联网下的原生广告,都扮演着关键的角色。广告点击率预估主要是基于海量用户历史数据,在复杂的定向规则下,借助大数据技术和机器学习模型,对候选广告进行排序预测,使得在特定的场景下,将合适的广告展示给合适的受众用户。如何解决线性模型学习能力有限、充分挖掘广告特征之间非线性关系的问题,一直是相关领域研究的重点。在充分调研各种广告点击率预估问题常用的机器学习模型的前提下,提出采用一种基于门控循环单元神经网络(the Gated Recurrent Unit Neural Networks,GRU)模型应用于广告点击率预估的问题上。进一步,通过优化改进门控循环单元神经网络的步长控制方法,使得模型在更少的迭代轮次下,更好更快地到达最优点,从而提高模型的预估能力。本文的主要工作和取得的成果具体如下:(1)针对浅层和深层模型作特征工程,包括实验数据的分析、预处理、特征选择和特征设计等。采用一种改进的循环神经网络—门控循环单元神经网络,将一般循环神经网络的隐藏层替换成门单元结构,利用门单元特殊的门控机制来控制梯度传播,从而提升广告数据特征的学习能力。(2)在门控循环单元神经网络的基础上,设计了一种优化步长控制方法。先设置一个较大的步长快速寻找全局近似最优点,再利用较小的步长通过指数迭代衰减找到局部最优,在迭代速度和准确性上提升模型的预估效果。最终得到的AUC值比基于循环神经网络模型高出0.053932,比基于未做步长优化的模型高出0.003855。(3)本文比较了逻辑斯特回归、朴素贝叶斯、随机森林、循环神经网络、门控循环单元神经网络及其步长优化版6种模型的效果,实验结果表明,基于门控循环单元神经网络及其步长优化的模型在广告点击率预估上的效果最好。
【学位单位】：浙江理工大学
【学位级别】：硕士
【学位年份】：2018
【中图分类】：TP18;TP311.13
【部分图文】：

也称在线广告、网络广告，指的是通过各种媒体、app 等途径投放的广与传统意义上的广告不同的是，互联网广告在最近十余年的时间里始终保持着爆炸式展，逐渐形成了以受众人群为投放目标、以产品为导向的技术性投放模式[1]。而在近互联网的快速持续发展，更为互联网广告提供了一个契机和平台，通过这个影响力巨遍及全球的载体，互联网广告也随之迅猛发展，身处于各行各业，尤其是在电子商务、传媒以及社交媒体上的服务日渐成熟，为企业创造了巨大的利润，支撑着 Google、ebook、百度、阿里等千亿级的互联网公司。在大数据浪潮席卷全球以及持续不断的技新下，互联网广告占据的市场份额和价值也越来越大。互联网广告，即网络广告作为一个方兴未艾且迅猛发展的新兴产业，中国在全球广告的贡献与地位也正在迅速提升。在 2017 年 Q2 季度[2]，中国网络广告的第二季度市场达到 861.6 亿元，环比增长率为 23.3%，与去年同期相比增长 28.5%，较大体量下稳定 25%以上的增长水平。如图 1.1 所示。

图 1.2 广告点击率预估整体方案设计1.4 本文内容安排本文内容共分成六章，各章节及其主要内容安排如下：第一章：绪论。首先介绍了广告点击率预估课题的研究背景与意义；再从基于特征、基于模型等方面分析探讨了国内外相关研究现状；然后是广告点击率预估问题的难点和本文的研究思路，最后是本论文的组织结构和内容安排。第二章：广告点击率预估的相关知识。主要介绍了计算广告学相关的背景，以及本文课题涉及广告在机器学习领域的一些技术，包括特征的预处理、特征选择、特征降维技术和机器学习模型。第三章：基于循环神经网络的广告点击率预估模型。本章主要介绍了循环神经网络、门控循环单元神经网络网络结构和算法公式，以及在练深度学习模型时发生过拟合采取的

大学硕士学位论文 基于循环神经网络的广告点击率预估成正比。广告主出的展示单价 ( )CPMbid a 是广告实时交易平台期望收益。在广告，点击率 ( , , )i i ir a u c 、点击价值 ( , )i iv a u 以及成本 ( , , )i i iq a u c 涉及到三个平台的优因此是计算广告的挑战之一。广告优化问题一样具有挑战性还有广告的系统架构。在一个完整的广告系统个模块之间相互协作，保证数据的记录、交易、流转、建模和使用，最后实现辑。一般的广告架构如图 2.1 所示。
【相似文献】

相关期刊论文 前10条

1 杨晓帅 ,付玫;神经网络技术让管理更轻松[J];软件世界;2000年11期

2 云中客;新的神经网络来自于仿生学[J];物理;2001年10期

3 唐春明,高协平;进化神经网络的研究进展[J];系统工程与电子技术;2001年10期

4 李智;一种基于神经网络的煤炭调运优化方法[J];长沙铁道学院学报;2003年02期

5 程科,王士同,杨静宇;新型模糊形态神经网络及其应用研究[J];计算机工程与应用;2004年21期

6 王凡,孟立凡;关于使用神经网络推定操作者疲劳的研究[J];人类工效学;2004年03期

7 周丽晖;从统计角度看神经网络[J];统计教育;2005年06期

8 赵奇 ,刘开第 ,庞彦军;灰色补偿神经网络及其应用研究[J];微计算机信息;2005年14期

9 袁婷;;神经网络在股票市场预测中的应用[J];软件导刊;2006年05期

10 尚晋;杨有;;从神经网络的过去谈科学发展观[J];重庆三峡学院学报;2006年03期

相关博士学位论文 前10条

1 杨旭华;神经网络及其在控制中的应用研究[D];浙江大学;2004年

2 李素芳;基于神经网络的无线通信算法研究[D];山东大学;2015年

3 石艳超;忆阻神经网络的混沌性及几类时滞神经网络的同步研究[D];电子科技大学;2014年

4 王新迎;基于随机映射神经网络的多元时间序列预测方法研究[D];大连理工大学;2015年

5 付爱民;极速学习机的训练残差、稳定性及泛化能力研究[D];中国农业大学;2015年

6 李辉;基于粒计算的神经网络及集成方法研究[D];中国矿业大学;2015年

7 王卫苹;复杂网络几类同步控制策略研究及稳定性分析[D];北京邮电大学;2015年

8 张海军;基于云计算的神经网络并行实现及其学习方法研究[D];华南理工大学;2015年

9 李艳晴;风速时间序列预测算法研究[D];北京科技大学;2016年

10 陈辉;多维超精密定位系统建模与控制关键技术研究[D];东南大学;2015年

相关硕士学位论文 前10条

1 郭子萱;基于循环神经网络的广告点击率预估研究[D];浙江理工大学;2018年

2 章颖;混合不确定性模块化神经网络与高校效益预测的研究[D];华南理工大学;2015年

3 贾文静;基于改进型神经网络的风力发电系统预测及控制研究[D];燕山大学;2015年

4 李慧芳;基于忆阻器的涡卷混沌系统及其电路仿真[D];西南大学;2015年

5 陈彦至;神经网络降维算法研究与应用[D];华南理工大学;2015年

6 董哲康;基于忆阻器的组合电路及神经网络研究[D];西南大学;2015年

7 武创举;基于神经网络的遥感图像分类研究[D];昆明理工大学;2015年

8 李志杰;基于神经网络的上证指数预测研究[D];华南理工大学;2015年

9 陈少吉;基于神经网络血压预测研究与系统实现[D];华南理工大学;2015年

10 张韬;几类时滞神经网络稳定性分析[D];渤海大学;2015年

本文编号：2883098