基于日志的微服务化系统监测与故障预测的研究与实现

发布时间：2020-05-08 12:13

【摘要】：互联网架构从单主机、分层架构,再到后来的集群架构,经历了数次改变。架构始终随着不断变化的业务应用需求等因素而变化,在这个变化的过程中出现了微服务架。微服务架构突破传统以虚拟机为基础的集群架构模式,按照一定的策略将传统单体应用拆分为多个微服务,以容器为载体,容器之间通过轻量级通信机制交互,有效地解决了应用与日俱增的系统性能需求,提高了研发效率。然而实际应用场景中的微服务粒度比传统虚拟机更小,调度也更加复杂,同时随着业务的发展,微服务的规模不断扩大,微服务之间的关联关系也愈加繁杂,使得无论是运维人员还是应用开发人员,对系统进行监测管理的难度和成本都大大增加。本文正是基于以上特点和背景,研究基于日志的微服务监测与故障预测关键技术问题。本文设计实现了一个基于日志的微服务监测和故障预测系统,主要由微服务日志采集、微服务监测、微服务故障预测三个部分组成。首先基于Fluentd实现高可用、低延时的日志收集功能,并将收集得到的日志数据作为输入,对其进行分析处理,实现对微服务的监测和故障预测。微服务的监测主要分为三个方面:(1)微服务概览与性能指标信息。用于获得微服务运行状况信息,如微服务API(Application Programming Interface)功能集、微服务处理耗时等信息。(2)微服务调用链路跟踪。利用Storm对微服务日志进行实时分析计算,根据计算结果集绘制出用户调用所经过的链路。该链路包含该次请求所经历的各个容器完整的路径、请求网络耗时、处理耗时、上下级调用异常与否等信息。(3)微服务故障追踪与定位。通过本文所提出的基于加权的频繁项关联分析算法,对具体时间范围内的日志进行分析,有效帮助用户进行故障定位和排查。微服务故障预测。对日志数据基于时间间隔单位进行划分,从中提取特征并进行特征筛选,然后将筛选后的结果集输入到分类预测算法并进行训练学习,从而对微服务进行故障预测。通过该方法实现对未来一定时间段的故障进行预测。最后,从微服务监测和微服务故障预测两个方面对系统进行测试,测试结果表明本文中所实现的基于日志的微服务监控与预测系统满足设计要求,能够实现低时延、宿主资源占用率低、高性能等监控需求;能基于对日志数据的分析,进行微服务监控和系统故障的预测,为运维工作人员提供宝贵信息,将业务故障损失降到最小。
【图文】：

框架图,日志,故障预测,系统整体

图 2-1 基于日志的微服务监测与故障预测系统整体框架基于日志的微服务监测与故障预测系统以各容器产生的日志数据为基础，其实系统架构如图 2-1 所示，图中展示了从容器产生日志信息开始到页面展示所经历有处理流程。首先通过 Fluentd 的代理 td-Agent 对容器产生的日志信息进行收集，传输到 Kafka 消息队列中，写入 Kafka 消息队列中，进行消息缓冲，然后日志分块和存储检索模块从消息队列中消费信息。前者主要对日志数据进行处理，实现服务监测，有三个功能：（1）微服务的概览与性能指标信息，如微服务请求耗时提供的 API 集等信息。（2）通过 Storm 实时数据分析构造出调用链路信息并将结入 ElasticSearch 中供页面调用。（3）故障追踪，根据前端用户传入的参数lasticSearch 中获取日志数据构建故障树，并返回给页面，帮助用户故障定位；后者用户存储日志分析结果、容器实时产生的日志数据，并提供对所存储数据的检索。各模块之间交互，，共同实现系统功能。.4 系统功能模块设计

日志,实现方案,模块

踪与定位模块、存储检索模块、UI 模块，其中微服务调用链路跟踪模块、故障追踪与定位模块是系统实现的重点。3.1 日志收集模块详细设计与实现用户发起一次请求，由容器之间相互调用处理共同完成。随着容器数量规模的增大，容器故障的定位变得愈加复杂，为了掌握系统的运行情况，从日志处理的角度对系统进行监测，实现故障定位并对其进行处理。首要任务便是将分散在各处的日志数据收集一起，以便进行处理分析，从而进行故障定位。当前有许多主流且开源的日志采集框架：Apache Flume、Fluentd、Logstash。它们因各自的运行环境、支持平台、可支持数据源、性能消耗等特点应用于不同的日志收集场景。通过比较各框架的优缺点和适用场景，在保证日志获取效率以及日志信息完整性的基础上，本节基于 Fluentd 实现日志收集模块，为后续日志分析提供数据支持。3.1.1 日志收集实现方案微服务容器日志收集实现方案图如 3-1 所示。
【学位授予单位】：西南交通大学
【学位级别】：硕士
【学位授予年份】：2019
【分类号】：TP393.09

【相似文献】