移动广告点击率预测方法的研究与实现

作     者：胡平伍 

作者单位：东南大学 

学位级别：硕士

导师姓名：何洁月;王宏宇

授予年度：2017年

学科分类：050302[文学-传播学] 1305[艺术学-设计学（可授艺术学、工学学位）] 12[管理学] 13[艺术学] 05[文学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0503[文学-新闻传播学] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主      题：点击率预测 移动广告 神经网络 强化学习 

摘      要：点击率预测是在线广告中的核心问题之一,其预测结果直接影响着搜索引擎、社交平台等中间平台以及广告商的收益。传统基于PC端广告的点击率预测模型已经较为成熟,但随着无线互联网时代的到来,移动广告点击率预测模型仍沿用传统PC端模型。因为移动终端使用环境、广告展示形式等与PC端有诸多不同,所以移动广告和PC端广告在数据特征和预测模型的应用上也存在差异。因此,本文针对移动广告的点击率预测进行了研究,主要工作如下:1、在分析移动广告与PC端广告的差异性和移动广告特征的基础上,选取具有代表性的特征并提取了以时间为基础的移动端用户偏好特征。2、研究实现了基于梯度提升决策树与Field-aware因式分解机融合的点击率预测模型(Field-aware Factorization Machine Based on Gradient Boosting Decision Tree,FFM++)。FFM++模型首先利用梯度提升决策树发现多种有区分性的特征以及特征组合,然后利用Field-aware因式分解机模型在处理稀疏数据和多值分类特征间的潜在关系方面的优势对移动广告点击率进行预测。在Avazu数据集和Criteo数据集上的实验结果表明,与利用梯度提升决策树和其他基本模型融合的模型相比,所提出的FFM++模型在预测效果上表现突出。3、研究实现了基于神经网络和强化学习的点击率预测模型(Reinforcement Learning Backpropagation Neural Networks,RBP)。神经网络具有良好的非线性拟合能力,但不善于处理经one-hot编码后的多值分类特征;强化学习通过实际系统学习经验来调整策略,是一个逐渐逼近最优策略的过程。因此本文提出了将基于Field-aware因式分解机改进的神经网络与强化学习结合的RBP模型,该模型首先利用学习好的神经网络对输入进行映射,然后经神经网络修改后的Q-learning算法对网络的输出结果给出一个合理的评价,最后将评价结果提交给网络用以调整神经网络权重。在Avazu数据集和Criteo数据集上的实验结果表明,RBP模型的预测效果要优于单独采用神经网络模型的效果,同时也要优于上述组合模型FFM++的效果。