分布式流数据分析与实时机器学习理论与应用研究

发布时间：2021-10-30 03:42

　　新的时代正在兴起,复杂机器学习算法的发展以及硬件性能的指数级增长将加速新一代人工智能系统的发展,改变人们对周围世界的感知和互动方式,使人工智能可以在持续和意外变化的对抗环境中工作,并支持保障人类的安全和福祉。除了智能之外,新一代人工智能系统还需要解决至少三个挑战。首先,它们必须实时地做出反应,以支持自动驾驶和智能信息检索等新兴应用。其次,这些系统需要不断地从流数据中学习,以应对其环境的时变性。第三,当这些系统代表人类做出决策时,它们的决定需要具备可解释性。这些挑战涉及数据、模型、算法和硬件等许多层面,需要把系统、统计和优化等知识在机器学习的过程中有机地结合起来。为此,这项研究工作开展了分布式流数据分析与实时机器学习理论与应用研究。研究的策略可以概括为“一个根本,两个面向,三个层次”:“一个根本”就是在线最优化求解。流数据以在线方式提供,这意味着整个数据集不能立即获得,而是单个数据实例按顺序到达。许多传统优化方法不能继续在流数据环境下发挥作用。这项工作通过探索近似算法、自适应学习和基于自然梯度下降的二阶优化方法,来应对流数据环境中产生的三种约束（即对计算成本、查询成本的约束和复杂不等式约... 

【文章来源】：广东工业大学广东省

【文章页数】：142 页

【学位级别】：博士

【部分图文】：

图３．１流计算中的资源调度示意图??Ｆｉｇｕｒｅ?３．１?Ｉｌｌｕｓｔｒａｔｉｏｎ?ｏｆ?ｔｈｅ?ｒｅｓｏｕｒｃｅ?ａｌｌｏｃａｔｉｏｎ?ｉｎ?ｄａｔａ?ｓｔｒｅａｍ?ａｎａｌｙｔｉｃ?ｓｙｓｔｅｍ．??

＞！？？ａＳｉｆｔＴｉＭｊｒＴ？ｔ？Ｓｉ８ｆ？？＼ｉｔ＾ｒＴｉ？１?＞Ｔｔｉｌｔ％！ＵＩ；ｔｉｔ？Ｔｉ＊??Ｈ＾ＳｇＢＳｉＢＢＳａ＾？—??驗戀?Ｉ??｜?＂＂＂；??＾?ｉ??Ｔｉａｎｈｅ－２?Ｋｙｌｉｎ?Ｃｌｏｕｄ（ｃｕｓｔｏｎ?ＯｐｅｎＳｔａｃｋ）?Ｓｔｒｅａｍ?ｐｒｏｃｅｓｓｉｎｇ??□□□＿＿＿?界办０１５??隱ａ＾－ｎ?；Ｒｎ?Ｅ＾Ｑ－＾??ＩＰＳｂ?！?Ｗｍ?ｍｍｉ?ｍｍ??ｇ＊?ｉ?＾；１Ｂ＾ｉ???｜ｆ?——?＾?Ｉ??ｖ??图３．３基于天河二号ＨＰＣ２的资源感知实时机器学习系统架构??Ｆｉｇｕｒｅ?３．３?Ｔｈｅ?ｅｘｅｃｕｔｉｏｎ?ｍｏｄｅｌ?ｏｆ?ｔｈｅ?ｏｐｔｉｍｉｚｅｄ?ＨＰＣ２－ＡＲＳ?ｆｒａｍｅｗｏｒｋ．??与ＨＰＣ２平台的连接。系统时延估计模型中各种基础参数的收集和统计、根据??ＨＰＣ２－ＡＲＳ算法框架所做出的弹性资源调度决策都需要设计专门的系统模块来??高效地执行。这些独立的系统模块黏合了?ＨＰＣ２－ＡＲＳ算法框架和天河二号ＨＰＣ２??平台．使流处理引擎和优化模型无缝连接，进而弥合了物理基础架构和抽象数学??模型之间的鸿沟。如图（３．３）所示．ＨＰＣ２－ＡＲＳ算法框架首先复用Ａｐａｃｈｅ?Ｓｔｏｒｍ??的测量组件（ＭＥＡＳＵＲＥＲ）和配置读取组件（ＣＯＮＦＩＧＵＲＥＲＥＡＤＥＲ）从ＨＰＣ２??平台获取数据流和控制流的各项基础信息，例如．数据流速率Ａ和计算速率＾??用户自定义时延阈值７＾＾资源数量约束Ａｍａｘ，当前资源配置．数据流元组在??算子拓扑图中的时延ＥＣＯ１等等，并将统计结果发送给优化组件（ＯＰＴＩＭＩＺＥＲ）：??优化组件实时地执行ＨＰＣ２

ｆ均时延Ｍ论｛ＴＵｍｓ）?平均ｉｈ！延辉论ｆｉ?｛ｍｓ｝??（ｃ）点ｆｌ？分析?（ｄｌ情感分析??Ｕ５０?ｒｃ－ｉ－＊?它?５??｜？?Ｖ－?Ｉ－?ｒｏＭ??爱?４０?爱?４?／■〇，＋？??友?２？??Ｊ３５?５?３．５??。?ｒｃ＊??、０—＾??＾?３???２０?２５?３０?３５?４０?４５?２?２．５?３?３．５?４??ｔ：均时延砰论ｍ（ｍｓ｝?ｆ？均时延０论｛ｌＵｍｓ｝??（ｅ）邮件过滤?（Ｄ智能屯网??图３．６不冋的资源配置下各个流处理用例的平均时延测Ｍ值及其理论值对比??Ｆｉｇｕｒｅ?３．６?Ｔｈｅ?ｃｏｍｐａｒｉｓｏｎ?ｂｅｔｗｅｅｎ?ｔｈｅ?ｍｅａｓｕｒｅｄ?ａｖｅｒａｇｅ?ｔｕｐｌｅ?ｓｏｊｏｕｒｎ?ｔｉｍｅ?ａｎｄ?ｔｈｅ??ｅｓｔｉｍａｔｅｄ?ｏｎｅｓ．??第二组实验分析时延估计模型的有效性，实验结果如图（３．６）所示．其中??比较了各个用例的平均时延的测量值及其理论值。图中的横坐标表示平均时延??的理论值．纵坐标表示平均时延的测量值：图中的菱形点表示在相应的资源最优??５５??


本文编号：3465980