移动云中基于计算迁移的应用性能优化研究

发布时间：2020-07-30 02:39

【摘要】：随着近年来移动互联网技术的快速发展,移动设备及其上运行的应用已成为人们日常生活中不可或缺的一部分。同时,由于移动应用的开发框架及流程的逐渐成熟,且移动设备上传感器的大量集成,一批对计算资源需求极大的应用便应运而生。这些应用推动了移动设备频繁地更新换代,然而其有限的资源仍然成为了限制应用提供更好服务体验的瓶颈。随着移动无线网络的快速升级和云计算技术的日趋成熟,研究人员提出将移动应用中一些计算密集型的模块迁移至资源充裕的云端执行,该方法不仅能够提升应用性能,而且可以减小移动设备的功耗。随着该研究领域成果的逐渐积累,人们将这一领域称为移动云计算。为了契合灵活多变的移动环境,目前移动云计算的相关研究都将计算迁移作为其计算模式的核心之一。虽然计算迁移能够灵活地借助丰富的云端资源来提升移动用户的服务体验,但也带来了新的挑战和研究问题。本文在深入分析了移动云计算领域的相关研究成果之后,以性能优化为目标,基于计算迁移设计了一系列优化方案,主要在多用户场景下的资源调度、可模块化并行应用的传输调度以及针对新型CNN移动应用的任务调度等三个方面展开了研究工作。首先,本文探讨资源有限的微云在多用户接入时的在线资源分配策略和计算迁移方案。我们分析多用户陆续接入时,在线资源分配方案呈现出的是一个序列决策过程。基于以上分析,我们采用强化学习来设定计算和网络资源的在线分配策略。而后,我们采用搜索剪枝方法,通过深度优先遍历来寻找多条线性链接,并基于一次迁移来确定每条线性链接上各模块的执行位置,进而确定整个应用拓扑中各模块的计算迁移方案。模拟实验表明与在线贪心策略相比,基于强化学习的在线资源分配策略具有明显的优越性。同时,搜索剪枝得出的计算迁移方案能达到最佳迁移方案性能的90%。其次,本文分析了可模型化并行应用在进行计算迁移后,结合移动端和云端进行分布式执行时的传输调度问题。结合应用中各模块的计算迁移决策方案,我们设计了一个两层的启发式决策算法。其中外层采用上述的搜索剪枝方法,确定各模块的计算迁移方案。而在内层首先挑选需要同时跨网络传输的边,综合考虑每条边的最晚开始时间及数据传输量,采用贪心算法设计跨网络的数据传输策略。实验证明,结合搜索剪枝及贪心设计的启发式决策算法,在满足实时性的前提下显著降低了可模块并行应用的响应时间。最后,为进一步提升基于CNN(卷积神经网络)模型的图像识别类应用的推理性能,本文围绕计算迁移提出了图片感知的分布式推理框架——IF-CNN。首先,为减小CNN模型的平均复杂度,我们从多个复杂度不同的CNN模型组成的模型池中选择高效的模型来处理不同的输入图片。具体的,我们采用多任务学习方法来预测待选模型针对输入图片的top-1标签概率,并以此来衡量待选模型处理此图片的置信度。并基于此置信度,来选择某阈值以上的最简单的CNN模型进行处理。在挑选高效的处理模型之后,我们根据移动端和云端的网络状况来实现CNN模型的分布式推理。在此过程中,我们分别采用半精度推理和特征压缩来实现了本地推理和中间结果传输两个阶段的优化。实验表明,IF-CNN能在基本不影响最终识别率的前提下,显著提升CNN模型的推理性能。同时,IF-CNN中的模型选择过程能与其它模型压缩的相关工作互补,进一步提升该类模型的推理性能。本文以优化移动应用的性能为目标,围绕计算迁移提出了一系列的优化方案来进一步减小应用的响应时间。首先,本文考虑到微云资源的有限性,采用了强化学习来设定多用户接入时在线的资源分配方案及计算迁移策略。随后,本文分析了可模块并行应用的特点,设计了其在计算迁移之后的传输调度策略。最后,为进一步提升CNN的推理性能,提出基于计算迁移提出图片感知的分布式推理框架。我们希望本论文中的研究工作可以对移动云领域的发展及技术推广提供一些参考和帮助。
【学位授予单位】：中国科学技术大学
【学位级别】：博士
【学位授予年份】：2019
【分类号】：TP183;TP393.09
【图文】：

计算示例,计算迁移,移动设备,自组

，。线网络质量较差时，减小移动端与云端之间的数据交互，保障应用的性能。基于逡逑以上分析，计算迁移模式能够更好地适用变化多端的移动云环境。然而，对于移逡逑动云计算中“云”的概念，不同研宄人员有着不同的见解。（１）最常见的观点认逡逑为，为移动设备提供计算迁移服务的云即公有云（亚马逊、微软、阿里巴巴等构逡逑建的面向企业或个人的云服务）的服务器。一般情况下，云数据中心计算资源丰逡逑富，但与移动端间的网络距离较远，网络延迟和网络带宽不够稳定。（２）除常见逡逑的云数据中心观点之外，来自卡内基梅隆大学的Ｓａｔｙａｎａｒａｙａｎａｎ［１提出利用移动逡逑设备周围的空闲服务器（简称微云，ｃｌｏｕｄｌｅｔ）来提供计算迁移服务，利用其与逡逑移动设备间高带宽、低延迟的网络连接为延迟敏感类应用提供更优越的用户体逡逑验。（３）另有一些研宄人员认为，可利用周围其他空闲可信的移动设备组成自组逡逑织的“云”，同样提供计算迁移服务。这类研宄者认为由大量智能移动设备自组逡逑织而成的对等网络能够互相提供富余的计算，从而共同解决一些问题，如大型灾逡逑难后网络基础设施被破坏后的应用场景。如图Ｌ１所示，本论文将着眼于上述第逡逑一类和第二类所定义的移动云计算场景。逡逑

组织结构图,计算迁移,论文,组织结构

主要介绍基于计算迁移的移动云这一研宄领域的产生及特点，并对逡逑论文的研宄问题及内容进行了详细阐述，随后介绍了全文的组织结构。逡逑第二章，概括了移动云计算领域的相关研宄工作，主要从移动云计算的系统逡逑架构、应用场景、优化目标等方面对现有工作进行了分类和总结。逡逑第三章，在微云场景下，站在移动云服务提供商的角度，最大化接入同一微逡逑云的多个用户的用户体验。为解决该问题，我们首先设计了基于强化学习的在线逡逑资源分配策略，为陆续接入的多个应用分配相应的计算和网络资源。而后，我们逡逑采用搜索剪枝，基于一次迁移的理论找到应用中各模块的计算迁移方案。实验表逡逑明，相较于在线贪心，我们提出的解决方案表现出明显的优越性，且搜索剪枝方逡逑法得出的计算迁移方案能达到最佳迁移方案性能的９０％。逡逑第四章，针对可模块并行的应用，将模块间跨网络的数据传输策略集成到只逡逑包含各模块执行地点的计算迁移方案中，形成最终的扩展后的计算迁移方案。具逡逑体地，我们设计一个两层的启发式决策算法，其中外层通过搜索剪枝来枚举出可逡逑行的模型执行地点。而内层在设计跨网络传输策略时，采用贪心算法以满足实时逡逑性需求。综上，我们结合了搜索剪枝及贪心两类算法，在满足实时性需求的前提逡逑

架构图,架构,移动设备,自组织

．２．３自组织移动设备组成资源云的移动云架构逡逑解决移动设备和云数据中心之间网络传输质量较低的问题，除了利用附近的微云这个想法外，还有其他研宄人员提出“资源云”，即将相邻备组织连接起来，互相共享资源［１７］。然而，由于资源云是移动设备自建，这样原本由云端或微云实现的管理功能（如资源监控和管理、任务）自然落在了移动设备之上。因此，基于这一架构的移动云将不可避免移动设备的能耗。同时，由于移动设备可能会频繁加入或退出、参与计认证也比较复杂，这种架构在真实场景下难以实现。自组织移动设备组的移动云架构如图２．３所示。逡逑

【相似文献】