基于深度学习的电信客户流失预测研究
发布时间：2022-01-14 23:31
随着网络的普及,通信市场的用户已经趋于饱和,开发一个新客户的成本相对于挽留一个老客户要高得多,企业正在从用产品吸引新客户到挽留老客户的转变。与此同时,数据挖掘技术、深度学习的发展,企业越来越重视利用技术来进行客户的流失预测。本文的根据真实的企业数据,建立基于深度置信网络的电信宽带客户流失预测模型。结合了机器学习以及深度学习的优点,使用极限梯度树创造特征,深度置信网络进行建模。深度置信网络相比于反向传播神经网络,有着更好的全局搜索能力,使得模型能够更快,更好的收敛到全局最优解。本文首先分析了国内外对于客户流失预测使用的方法,其次,阐述了本文建立电信客户流失预测模型所涉及到算法、知识点。受限玻尔兹曼机、BP神经网络、极限梯度提升树。接着从XX省电信公司的系统中提取了XX市的客户基本信息表、客户活跃度信息表、客户投诉表、光猫功率表。对这些表进行数据集成、数据清洗、数据规约、数据转换。使用极限梯度提升树创造新特征,接着使用深度置信网络建立了电信客户流失预测模型。使用八月份的电信数据进行测试,得到模型在测试集面的精确率达到了90.45%,召回率达到了88.11%,F1分数达到了89.27%。同时...
【文章来源】：云南财经大学云南省
【文章页数】：68 页
【学位级别】：硕士
【图文】：
RBM网络结构示意图
第二章相关知识介绍12(,)1()(,)EvhvvPhPvheZ==.（2-10）要知道P(h)或者P(v)的分布，都需要计算,但是根据的定义,v,h中包含2vhn+n个项，由此可知，若直接进行计算，它的计算复杂度太大。训练RBM的目的是为了获得输入样本，也就是训练数据的分布。训练RBM的过程就是不断调整学习参数的过程。假设输入样本为S={v(1),v2,...,v(T)}，T为训练样本总数，对于任意一个(t)v，()12(,,,),1,2,...,vttttTnv=vvvt=T，我们知道RBM的可见层是独立同分布的，因此(t)v里的数据也一样。图2.3表示的是含有多个训练数据的RBM模型，我们的目标就是使得训练数据的概率乘积最大化：(),1()TtstLPv==.（2-11）可以看到，连乘式1(v)snttP=比较难处理，由lnx的函数性质可知，求,sL的最大值与求,lnsL的最大值是等价的，因此训练RBM的目标就变成了如下的式子。()(),11loglog()log()TTttsttLPvPv====.（2-12）为了方便，下文推导中我们省略下标，将,sL简记为()sL。图2.2含有多个训练样本的RBM模型
第二章相关知识介绍23BP神经网络的进程首要分为两个阶段，第一阶段是数据的前向传播，从输入层输入数据，通过隐藏层的线性、非线性变换，最后到达输出层；第二阶段是有监督学习的反向传播。图2.3BP神经网络下面分别介绍这两个过程的原理和推导。一、BP神经网络的正向传播设两个节点之间的连接权值为i,jw，节点的偏置为jb，每一个节点的输出值为jx，节点的输出值是由上一层所有的节点和当前层的偏置项计算的出来的。计算公式如下1,0mjijijiSwxb==+（2-43）()jjx=fS（2-44）其中f为激活函数，如果是二分类的话可以是sigmoid函数，也可以是softmax函数。正向传播比较简单，初始化权值的方法有很多，一般是正态分布初始化，偏置项一般初始化为0。二、误差反向传播BP神经网络作为有监督学习，目的就是不断优化损失函数，基于减小损失函数来对参数进行更新。定义jy为BP神经网络的预测结果，当损失函数为均方误差时，有：
【参考文献】：
期刊论文
[1]基于改进GA-BP的移动通信用户流失预测算法[J]. 于瑞云,薛林,安轩邈,夏兴有. 东北大学学报(自然科学版). 2019(02)
[2]基于特征降维和DBN的广告点击率预测[J]. 杨长春,梅佳俊,吴云,顾寰. 计算机工程与设计. 2018(12)
[3]基于深度置信网络的总有机碳含量预测方法[J]. 叶绍泽,曹俊兴,吴施楷,谭峰. 地球物理学进展. 2018(06)
[4]基于C5.0算法的航空客户流失分析[J]. 崔亚奇. 西安航空学院学报. 2018(01)
[5]基于logistic模型的证券公司客户流失预警分析[J]. 郑宇晨,吕王勇. 郑州航空工业管理学院学报. 2016(05)
[6]基于深度置信网络的语义相关度计算模型[J]. 翟继友. 科学技术与工程. 2014(32)
[7]基于深度学习的作曲家分类问题[J]. 胡振,傅昆,张长水. 计算机研究与发展. 2014(09)
[8]深度置信网络在垃圾邮件过滤中的应用[J]. 孙劲光,蒋金叶,孟祥福,李秀娟. 计算机应用. 2014(04)
[9]基于AdaBoost的电信客户流失预测模型[J]. 王纯麟,何建敏. 价值工程. 2007(02)
[10]神经网络在客户流失模型中的应用研究[J]. 梁礼明,翁发禄,丁元春. 商业研究. 2007(02)
博士论文
[1]基于MMOI方法的电信客户流失预测与挽留研究[D]. 罗彬.电子科技大学 2010
硕士论文
[1]基于随机森林的电信客户流失预测应用研究[D]. 邱伟.华南理工大学 2018
[2]电商企业客户流失预警模型研究[D]. 董航.东华大学 2017
[3]基于数据挖掘技术的电信流失客户预测系统研究[D]. 黄胜男.南昌大学 2016
[4]基于BP神经网络的移动用户流失预测算法的研究[D]. 安轩邈.东北大学 2016
[5]FM公司客户流失分析及对策研究[D]. 王善勇.电子科技大学 2016
[6]基于BP神经网络对保险公司客户流失进行分析和预测研究[D]. 邵帅锋.兰州大学 2016
[7]基于受限玻尔兹曼机的深度学习模型及其应用[D]. 张艳霞.电子科技大学 2016
[8]基于深度学习的癌症分类模型研究[D]. 叶永盛.华中科技大学 2015
本文编号：3589433
【文章来源】：云南财经大学云南省
【文章页数】：68 页
【学位级别】：硕士
【图文】：
RBM网络结构示意图
第二章相关知识介绍12(,)1()(,)EvhvvPhPvheZ==.（2-10）要知道P(h)或者P(v)的分布，都需要计算,但是根据的定义,v,h中包含2vhn+n个项，由此可知，若直接进行计算，它的计算复杂度太大。训练RBM的目的是为了获得输入样本，也就是训练数据的分布。训练RBM的过程就是不断调整学习参数的过程。假设输入样本为S={v(1),v2,...,v(T)}，T为训练样本总数，对于任意一个(t)v，()12(,,,),1,2,...,vttttTnv=vvvt=T，我们知道RBM的可见层是独立同分布的，因此(t)v里的数据也一样。图2.3表示的是含有多个训练数据的RBM模型，我们的目标就是使得训练数据的概率乘积最大化：(),1()TtstLPv==.（2-11）可以看到，连乘式1(v)snttP=比较难处理，由lnx的函数性质可知，求,sL的最大值与求,lnsL的最大值是等价的，因此训练RBM的目标就变成了如下的式子。()(),11loglog()log()TTttsttLPvPv====.（2-12）为了方便，下文推导中我们省略下标，将,sL简记为()sL。图2.2含有多个训练样本的RBM模型
第二章相关知识介绍23BP神经网络的进程首要分为两个阶段，第一阶段是数据的前向传播，从输入层输入数据，通过隐藏层的线性、非线性变换，最后到达输出层；第二阶段是有监督学习的反向传播。图2.3BP神经网络下面分别介绍这两个过程的原理和推导。一、BP神经网络的正向传播设两个节点之间的连接权值为i,jw，节点的偏置为jb，每一个节点的输出值为jx，节点的输出值是由上一层所有的节点和当前层的偏置项计算的出来的。计算公式如下1,0mjijijiSwxb==+（2-43）()jjx=fS（2-44）其中f为激活函数，如果是二分类的话可以是sigmoid函数，也可以是softmax函数。正向传播比较简单，初始化权值的方法有很多，一般是正态分布初始化，偏置项一般初始化为0。二、误差反向传播BP神经网络作为有监督学习，目的就是不断优化损失函数，基于减小损失函数来对参数进行更新。定义jy为BP神经网络的预测结果，当损失函数为均方误差时，有：
【参考文献】：
期刊论文
[1]基于改进GA-BP的移动通信用户流失预测算法[J]. 于瑞云,薛林,安轩邈,夏兴有. 东北大学学报(自然科学版). 2019(02)
[2]基于特征降维和DBN的广告点击率预测[J]. 杨长春,梅佳俊,吴云,顾寰. 计算机工程与设计. 2018(12)
[3]基于深度置信网络的总有机碳含量预测方法[J]. 叶绍泽,曹俊兴,吴施楷,谭峰. 地球物理学进展. 2018(06)
[4]基于C5.0算法的航空客户流失分析[J]. 崔亚奇. 西安航空学院学报. 2018(01)
[5]基于logistic模型的证券公司客户流失预警分析[J]. 郑宇晨,吕王勇. 郑州航空工业管理学院学报. 2016(05)
[6]基于深度置信网络的语义相关度计算模型[J]. 翟继友. 科学技术与工程. 2014(32)
[7]基于深度学习的作曲家分类问题[J]. 胡振,傅昆,张长水. 计算机研究与发展. 2014(09)
[8]深度置信网络在垃圾邮件过滤中的应用[J]. 孙劲光,蒋金叶,孟祥福,李秀娟. 计算机应用. 2014(04)
[9]基于AdaBoost的电信客户流失预测模型[J]. 王纯麟,何建敏. 价值工程. 2007(02)
[10]神经网络在客户流失模型中的应用研究[J]. 梁礼明,翁发禄,丁元春. 商业研究. 2007(02)
博士论文
[1]基于MMOI方法的电信客户流失预测与挽留研究[D]. 罗彬.电子科技大学 2010
硕士论文
[1]基于随机森林的电信客户流失预测应用研究[D]. 邱伟.华南理工大学 2018
[2]电商企业客户流失预警模型研究[D]. 董航.东华大学 2017
[3]基于数据挖掘技术的电信流失客户预测系统研究[D]. 黄胜男.南昌大学 2016
[4]基于BP神经网络的移动用户流失预测算法的研究[D]. 安轩邈.东北大学 2016
[5]FM公司客户流失分析及对策研究[D]. 王善勇.电子科技大学 2016
[6]基于BP神经网络对保险公司客户流失进行分析和预测研究[D]. 邵帅锋.兰州大学 2016
[7]基于受限玻尔兹曼机的深度学习模型及其应用[D]. 张艳霞.电子科技大学 2016
[8]基于深度学习的癌症分类模型研究[D]. 叶永盛.华中科技大学 2015
本文编号：3589433
本文链接：https://www.wllwen.com/jingjilunwen/xmjj/3589433.html
