蚂蚁金服消息队列运维平台的设计与实现
发布时间：2020-08-05 20:47
【摘要】：消息队列利用其高效稳定丰富的信息传递机制进行平台无关的数据交流,它基于消息的形式进行分布式系统的集成。随着业务数量和复杂度的增长,消息队列作为分布式系统之间通信的桥梁,其用户数量和自身部署规模也在快速增长:用户遇到的问题需要依靠用户支持来解决,因而用户数量的增长带来了用户支持总耗时的增长;另一方面消息队列部署规模的增加给服务状态监控和服务的容量规划等服务治理带来很大的压力,同时随着部署规模到达一定阈值,人工的服务治理已经难以满足需求。本文基于消息队列用户数量和部署规模不断增长的背景,对比当前消息队列运维相关产品的现状,针对它们的缺点并结合蚂蚁金服消息队列运维的需求,从设计和实现两方面提出了蚂蚁金服消息队列运维平台这一解决方案。本文的主要工作如下:(1)针对平台的扩展性和维护性问题,本文提出了仿照函数式编程的无状态系统架构,将后端的状态抽离到共有的持久化存储,解决了平台集群的扩展、实例迁移和实例重启状态恢复的复杂性问题,实现了实例的低成本添加及销毁,使运维人员无需关心平台的正确性问题,从而给平台的运维带来了很大的便利。(2)针对消息队列用户数量增长导致用户支持力不从心的问题,本文提出了将以往用户支持经验通过程序的形式固化成以提供解决方案为核心的用户自助支持的方案,解决了用户支持并发度低和耗时长的问题。更重要的是,由于改进后的用户自助支持不再只进行问题的反馈,而是直接提供了帮助用户解决问题的引导,省去了用户依据问题反馈进行人工分析的过程。(3)针对平台业务逻辑中建立SSH连接耗时过长导致用户请求整体耗时过长的问题,本文创造性地提出了可复用、可重入和缓存隔离的SSH连接池方案,方案的三种特性分别解决了 SSH连接重复创建、线程重复获取SSH连接和SSH连接缓存隔离的问题。本方案对SSH连接池的引入,总体上取得了同时减少业务操作耗时和资源占用的效果。(4)针对消息队列部署规模增长导致服务治理困难的问题,本文提出服务状态监控和容量规划的方案。其中服务状态监控解决了无法把控服务高维度状态和感知异常不及时的问题;容量规划解决了集群容量不足和集群资源浪费的问题。以上两方面的改进,使消息队列更好地满足了其服务等级协议。(5)针对分布式环境下执行任务的健壮性问题,本文提出了更为轻量级的分布式任务调度的方案,解决了分布式执行任务的负载均衡、任务丢失和任务同时重复执行的问题。这一改进帮助开发人员将关注点集中于任务的业务逻辑,而不再需要考虑分布式任务调度和容错的问题。自上线以来,蚂蚁金服消息队列运维平台运行状态良好。消息队列用户可从平台获得用户自助支持服务;消息队列运维人员可通过平台使用服务监控和容量规划等服务治理功能。据统计,本平台以平均每月9000的有效页面访问量和400的用户数量对企业内部提供服务,大大提高了消息队列用户支持和服务治理的效率,达到了企业对该平台的基本需求。
【学位授予单位】：南京大学
【学位级别】：硕士
【学位授予年份】：2018
【分类号】：TP311.52
【图文】：
最终选择了邋ＯｐｅｎＴＳＤＢ作为指标的时序数据存储。逡逑ＯｐｅｎＴＳＤＢ由时序后台程序（Ｔｉｍｅ邋Ｓｅｒｉｅｓ邋Ｄａｅｍｏｎ，ＴＳＤ）和命令行工具逡逑两部分组成。ＯｐｅｎＴＳＤＢ的部署关系图如图２．１所示。时序后台程序没有主从逡逑概念，它们之间互相独立，且没有共享的状态。因此可以部署任意多个时序后台逡逑程序来处理相应的负载。时序后台程序使用ＨＢａｓｅ集群或者是Ｇｏｏｇｌｅ的逡逑ＢｉｇＴａｂｌｅ服务来存取时序数据。数据的存储格式为了快速聚合和减少存储空间高逡逑度优化。ＯｐｅｎＴＳＤＢ的用户可以通过简单的类ｔｅｌｎｅｔ协议、ＨＴＴＰ邋ＡＰ丨或者内置逡逑的Ｗｅｂ邋ＧＵＩ与时序后台程序通信，而不需要直接访问底层的存储。这种架构使逡逑得ＯｐｅｎＴＳＤＢ将存储的可靠性和可扩展性转嫁到ＨＢａｓｅ中，再加上时序后台逡逑程序是无状态的，可以随时扩展［Ｓｔｏｉｃａ，邋２０００］，因此整体上ＯｐｅｎＴＳＤＢ的水平逡逑扩容很方便。逡逑Ｓｅｒｖｅｒ逦Ｓｅｒｖｅｒ逦Ｓｅｒｖｅｒ逡逑＾￣逦＼逦￣１邋￣逡逑Ｔ５Ｄ＾ＰＣ逦ｒＳＤ邋ＲＰＣ邋ＴＳＤ邋ＲＦＣ逡逑１逦ｊ逡逑逦邋ＪＴ逡逑ＨＴＴＰ逡逑Ｗｅｂ邋ＵＩ邋，逦ｌ逡逑／ｄａｓｈｂｏａｒｄｓ逦ｆ邋ＴＳＯ邋Ｈ＾Ｒｐｃ逦ＨＢａｓｅ邋ＲＰＣ逡逑逦邋ＨＴＴＰ逦Ｈ‘；＃逦ＴＳ0逡逑ｏｒ逡逑ＲＰＣ逡逑ｌ逦ＨＢａｓｅ集群丨；逡逑Ｓｃｒｉｐｔｓ逡逑图２．１邋ＯｐｅｎＴＳＤＢ部署图逡逑在ＯｐｅｎＴＳＤＢ中，时序数据由４部分组成：指标的名字、时间戳、指标值逡逑和描述该时序数据归属的一组标记。指标的名字用来区别指标的类别
３．２．１系统用例分析逡逑根据的背景和目标分析，蚂蚁金服消息队列运维平台面向消息队列用户和消逡逑息队列运维两类用户。如系统用例图３．１所示，消息队列用户是消息队列客户端逡逑诊断、消息状态g湍Ｄ庀⒎⑺偷牟斡胝摺Ｏ⒍恿锌突Ф苏锒虾拖⒆刺义喜檠庸δ芑稚侠纯词粲谟没ё灾С帧Ｆ渲锌突Ф说恼锒戏治⒉级撕投┰腻义隙肆嚼嗫突Ф说恼锒稀Ｏ⒌淖刺檠哺莶煌挠没Ы巧筒煌膅儒义献隽擞美南阜帧６杂谙⒍恿性宋嗽保裰卫碇械姆褡刺嗫睾头皴义先萘抗婊蚴侵饕墓刈⒉糠帧Ｖ副晔莸某槿。釉兀牛裕淌欠褡刺嗫劐义虾头袢萘抗婊氖莼。虼酥副晔菔占椭副晔菰ご沓晌秸吖插义系淖酉低秤美７褡刺嗫氐暮诵氖墙莩氏指宋嗽薄Ｆ渲凶钔ǔ５囊诲义现质峭ü副晔菘墒踊男问秸故靖没В又悄艿氖腔诘背鱿值闹副暌戾义铣Ｔ偻ü嗫乇ň姆绞酵ㄖ没Аｅ义希保村义
本文编号：2781856
【学位授予单位】：南京大学
【学位级别】：硕士
【学位授予年份】：2018
【分类号】：TP311.52
【图文】：
最终选择了邋ＯｐｅｎＴＳＤＢ作为指标的时序数据存储。逡逑ＯｐｅｎＴＳＤＢ由时序后台程序（Ｔｉｍｅ邋Ｓｅｒｉｅｓ邋Ｄａｅｍｏｎ，ＴＳＤ）和命令行工具逡逑两部分组成。ＯｐｅｎＴＳＤＢ的部署关系图如图２．１所示。时序后台程序没有主从逡逑概念，它们之间互相独立，且没有共享的状态。因此可以部署任意多个时序后台逡逑程序来处理相应的负载。时序后台程序使用ＨＢａｓｅ集群或者是Ｇｏｏｇｌｅ的逡逑ＢｉｇＴａｂｌｅ服务来存取时序数据。数据的存储格式为了快速聚合和减少存储空间高逡逑度优化。ＯｐｅｎＴＳＤＢ的用户可以通过简单的类ｔｅｌｎｅｔ协议、ＨＴＴＰ邋ＡＰ丨或者内置逡逑的Ｗｅｂ邋ＧＵＩ与时序后台程序通信，而不需要直接访问底层的存储。这种架构使逡逑得ＯｐｅｎＴＳＤＢ将存储的可靠性和可扩展性转嫁到ＨＢａｓｅ中，再加上时序后台逡逑程序是无状态的，可以随时扩展［Ｓｔｏｉｃａ，邋２０００］，因此整体上ＯｐｅｎＴＳＤＢ的水平逡逑扩容很方便。逡逑Ｓｅｒｖｅｒ逦Ｓｅｒｖｅｒ逦Ｓｅｒｖｅｒ逡逑＾￣逦＼逦￣１邋￣逡逑Ｔ５Ｄ＾ＰＣ逦ｒＳＤ邋ＲＰＣ邋ＴＳＤ邋ＲＦＣ逡逑１逦ｊ逡逑逦邋ＪＴ逡逑ＨＴＴＰ逡逑Ｗｅｂ邋ＵＩ邋，逦ｌ逡逑／ｄａｓｈｂｏａｒｄｓ逦ｆ邋ＴＳＯ邋Ｈ＾Ｒｐｃ逦ＨＢａｓｅ邋ＲＰＣ逡逑逦邋ＨＴＴＰ逦Ｈ‘；＃逦ＴＳ0逡逑ｏｒ逡逑ＲＰＣ逡逑ｌ逦ＨＢａｓｅ集群丨；逡逑Ｓｃｒｉｐｔｓ逡逑图２．１邋ＯｐｅｎＴＳＤＢ部署图逡逑在ＯｐｅｎＴＳＤＢ中，时序数据由４部分组成：指标的名字、时间戳、指标值逡逑和描述该时序数据归属的一组标记。指标的名字用来区别指标的类别
３．２．１系统用例分析逡逑根据的背景和目标分析，蚂蚁金服消息队列运维平台面向消息队列用户和消逡逑息队列运维两类用户。如系统用例图３．１所示，消息队列用户是消息队列客户端逡逑诊断、消息状态g湍Ｄ庀⒎⑺偷牟斡胝摺Ｏ⒍恿锌突Ф苏锒虾拖⒆刺义喜檠庸δ芑稚侠纯词粲谟没ё灾С帧Ｆ渲锌突Ф说恼锒戏治⒉级撕投┰腻义隙肆嚼嗫突Ф说恼锒稀Ｏ⒌淖刺檠哺莶煌挠没Ы巧筒煌膅儒义献隽擞美南阜帧６杂谙⒍恿性宋嗽保裰卫碇械姆褡刺嗫睾头皴义先萘抗婊蚴侵饕墓刈⒉糠帧Ｖ副晔莸某槿。釉兀牛裕淌欠褡刺嗫劐义虾头袢萘抗婊氖莼。虼酥副晔菔占椭副晔菰ご沓晌秸吖插义系淖酉低秤美７褡刺嗫氐暮诵氖墙莩氏指宋嗽薄Ｆ渲凶钔ǔ５囊诲义现质峭ü副晔菘墒踊男问秸故靖没В又悄艿氖腔诘背鱿值闹副暌戾义铣Ｔ偻ü嗫乇ň姆绞酵ㄖ没Аｅ义希保村义
本文编号：2781856
本文链接：https://www.wllwen.com/kejilunwen/ruanjiangongchenglunwen/2781856.html
