搜索广告点击率预测算法研究与实现

发布时间：2020-09-08 15:50

　　互联网广告主要分为搜索广告、展示广告等形式,而在这其中,搜索广告是规模最大,增长最快的广告投放方式。搜索广告是依据用户提供的查询关键字对广告进行投放,是最了解用户搜索意图的广告投放形式。搜索广告最关键的技术是广告点击率的预测,广告点击率预测就是预测分析用户行为对投放的广告的点击率,广告点击率关系着广告投放的排序和广告点击收费等因素,因此研究广告点击率对整个搜索广告收入提高有着至关重要的意义。搜索广告利用搜索引擎的技术,分析用户输入的查询意图,提取相应的关键词,根据提取到的关键词,进行语义相关度计算,从广告库中进行索引,给出相应符合用户需求的广告检索结果。当搜索引擎等平台提供的检索排序候选结果中的广告,与用户输入的关键词等相关性越高,用户越感兴趣,点击的行为可能性越高,相应的广告点击率越高,广告收入越高。本文的主要研究和实现内容安排如下:(1)首先对数据集进行清洗和预处理,统计数据信息,提取浅层的特征,并采用常见的机器学习方法进行特征工程。逻辑斯蒂回归模型作为基线方法,将预测的点击率问题作为分类问题,在采用传统机器学习方法中,使用GBDT模型与逻辑斯蒂回归模型融合的方案,对特征组合,进一步深入挖掘影响点击率的因素,提高模型的非线性学习能力。对于数据集中出现的数据稀疏和缺失问题,采用近几年在各种比赛中效果比较好的因子分解机FM算法,与基线方法比较优化结果。(2)搜索广告中的用户查询请求与广告标题之间的相似度对点击率有至关重要的作用,本文首先采用卷积神经网络模型来提取深层次的相似度特征,并将其与人工挖掘到的特征相结合,共同输入到点击率的预测模型中,得到实验结果,实现效果提升。(3)循环神经网络更适合处理序列数据,因此本文也研究了基于循环神经网络的相似度的特征提取。实验分析对比不同类型循环神经网络模型的实验结果,如长短期记忆单元网络,门控循环单元网络,及相应的双向网络形式等,并结合静态注意力和动态注意力机制比较实验结果,提取最好的相似度特征,从而优化最终的点击率预测结果。
【学位单位】：哈尔滨工业大学
【学位级别】：硕士
【学位年份】：2018
【中图分类】：TP391.3
【部分图文】：

广告,关键词,用户输入,广告主

的广告的链接，最终被用户发现，消费和分散了用户如今互联网中，最稀缺的资源就是用户的注意力，就给广告主等需求方提供一种购买用户注意力(流量)的告抵达用户。在搜索引擎中，用户输入关键词来进了一定比例的流量。广告主买断一些关键词，当用有购买该关键词的广告主进行实时竞价，从而获得的核心关键技术之一就是广告点击率预测，广告点TR)的定义是用户点击该广告的次数 num_click 与用impression 的比值。公式如 2-1 下：影响着投放广告的顺序，同时也影响着广告的出价策词“手机”时，广告主通过竞价买断了关键词“手机”，主投放的有关“手机”的广告，平台就会按照一定的广告，如图 2-1 所示：

函数曲线图,凸函数,极大似然估计方法,边际分布

图 3- 1 Sigmoid 函数曲线图数的输出结果是介于(0,1)之间，中间值 c 是 0.5，则出 h(x)代表数据属于某一类别的概率，对于输入 x 率分别为 ( ) ( )， ( ) 中的极大似然估计方法去求损失函数，概率函数如 ( ) ( ( ) ( ( ) 据独立分布，联合分布可表示为各个边际分布的乘积 ( ) ∏ ( ( )| ( ) ( ) ∏ ( ( ) ( ) ( ( ) ( )凸函数，由于凸函数的局部最小值等同于全局最小得到 3-6 式:

点击率,长尾分布,广告,特征提取

哈尔滨工业大学工程硕士学位论文Fm 1(x) 为当前的模型，模型通过经验风险极小化来确定下一个弱分类器参数。具体到损失函数本身的选择也就是 L 的选择，有平方损失函数，0-1 损函数，对数损失函数等等。当选择平方损失函数时，这个差值就是残差。GBDT 几乎适用于所有线性和非线性的回归问题，同时也可以设置阈值解二分类问题，应用范围比较广。GBDT 可以给逻辑斯蒂回归模型训练，提高告点击率。如图 3-2 所示，输入样本 x，GBDT 模型得到两颗树 tree1 和 tree2，两棵树个叶子节点都是 LR 模型的一个维度特征，在求和每个叶子权重及时 LR 模型分类结果。

【相似文献】