移动流量中基于用户访问序列的表示学习及其应用

发布时间：2020-03-31 08:42

【摘要】：近年来,随着移动设备和4G网络的普及,移动互联网深刻的影响着人们的生活方式。理解和分析移动应用服务、挖掘用户行为特点对提供更好的移动网络服务有着重要的意义。本文基于真实的移动互联网流量提出一套通用的知识挖掘方法,利用基于神经网络的表示学习技术,自动的学习域名和用户的表示向量,并将其应用到多个不同的机器学习任务场景中。本文的主要工作如下:(1)基于大规模移动DPI流量,利用分布式处理技术抽取用户的访问序列。基于用户访问序列数据,利用三层的神经网络,以预测周围域名的目标来学习出域名和用户的表示向量,并将其应用到聚类、分类等各种机器学习系统中。(2)对于从DPI数据中学习到的域名向量,我们将其应用到域名分类的任务中。实验表明,利用域名表示向量对不同公司的域名分类正确率能够达到93%,对不同业务类别的域名分类正确率能够达到85%;此外我们还通过度量域名的余弦距离进行域名的关系挖掘。(3)对于从DPI数据中学习到的用户向量,我们将其应用到用户聚类中,并借助于人工标注的知识规则对聚类结果进行了详细的商业兴趣分析;此外,我们基于用户表示向量进行特征转化,再利用孤立森林算法来进行用户异常检测。实验验证了我们的方法的有效性。
【图文】：

神经,矩阵分解

爱好逦１０００逦０逦１逡逑深度学习逦０逦］逦０逦０逦０逦０逡逑自然语言处理逦０１００逦０逦０逡逑运动逦０逦０逦１逦０逦０逦０逡逑基于共现矩阵的办法能够解决向量体现语意的问题，但是没有解决维度太高逡逑的问题，每个向量的维度仍然等于语料库的不同词的个数，并且向量仍然非常稀逡逑疏。我们可以通过降维的方法来将这高维度且系数的向量降低至低维度空间。常逡逑用的方法有矩阵奇异值分解集和非负矩阵分解。虽然矩阵分解能够降低维度，但逡逑是矩阵分解也会有它的问题，首先矩阵分解对计算要求比较高，其次它很难去学逡逑习新的词，因为他在分解前需要构建全局的共现矩阵。逡逑２．２．３基于神经网络的分布式表示模型逡逑２．２．３．１神经网络语言模型逡逑基于神经网络去学习词的分布式表示最初是由Ｂｅｎｇｉ0［１２Ｉ提出，该模型是基逡逑yL经网络建立的统计语言模型，简称力ＮＮＬＭ，其神经网络结构如图２－１所示。逡逑Ｓｏｆｔｍａｘ逡逑＇逡逑

网络结构图,网络结构,超参数,语料

逦．依赖逡逑图２－２邋ＣＢＯＷyL经网络结构逡逑具体的网络结构如图２－２所示。对于输入的语料数据，依据输入的超参数窗逡逑口大小ｍ，将每句话切分为若干个滑动窗口，，对每个窗口内其算法过程如下：逡逑１．
【学位授予单位】：北京邮电大学
【学位级别】：硕士
【学位授予年份】：2018
【分类号】：TN929.5;TP393.06

【参考文献】