卫星群分布式系统设计与图像处理算法实现
发布时间:2020-07-20 15:16
【摘要】:随着信息技术的发展,人们已进入了大数据时代,构建集群对海量数据进行分布式计算与存储已成为一种共识,航天卫星领域也同样如此。构建卫星群分布式架构很有意义,在国家层面上,面对纷乱复杂的周边形势,譬如美韩部署的萨德系统,若能实现卫星组网进行分布式计算与存储,便可大幅提高卫星能力,扩展卫星功能,对国防侦查、态势感知、地图监测、通信指挥等起到更大作用。在公众层面上,人们可通过移动设备随时接入卫星网络,从而享受卫星群系统提供的更加精确的实时定位、物流追踪和遥感信息服务。近年来,互联网大数据应用的兴起使分布式技术广泛应用到工程实践中,它主要包括分布式存储、计算、数据库与监控。分布式存储技术为数据的存储提供了基础,保证了数据的冗余和一致性;分布式计算提升了计算速度,为挖掘海量数据的价值提供了可能;分布式数据库可存储多类型的非结构化数据,提供了大数据事务处理的SQL接口;分布式资源监控系统时刻监控集群各项指标,保证集群的安全高效运转。与地面环境不同,卫星受到体积、功耗、空间辐射等条件的限制,在卫星群建立分布式系统需掌握架构设计、操作系统、资源管理等关键技术。针对以上问题,本文先研究目前主流分布式计算存储架构、其次研究分布式资源监控的实现过程,最后将分布式技术移植到卫星平台上,搭建卫星群演示系统,在星上图像处理算法上运用分布式技术,证明其可行性与优越性。本课题为十三五天基网络化计算平台项目的一部分,搭建卫星群网络计算平台演示系统,通过卫星图像处理的开发部署,对分布式计算、存储、监控等关键技术进行研究和验证。通过本项目的研制,可以为十三五预研项目提供工作基础,为相关产品规划研制提供技术基础,为未来天地一体化电子系统提供软件技术支持。本文以单机图像处理算法为基础,在对矩阵处理时采用了分布式计算的技术,将对矩阵行的傅里叶变换操作分布到多个节点上去计算,从而缩短图像处理时间,提升成像速度。
【学位授予单位】:中国电子科技集团公司电子科学研究院
【学位级别】:硕士
【学位授予年份】:2018
【分类号】:TP311.13;TN957.52
【图文】:
主节点发送提议消息给其他从节点,从节点可选择接收此提议或拒绝此提议。只逡逑有当超过半数的从节点接收此提议,主节点才可以执行提议,否则该提议失败。逡逑Paxos协议的执行流程如图2.邋3所示。逡逑逦Prepare逦逦\逦逡逑w逦w逡逑1.邋K逦Accept逦K逦(邋j<逦(、邋j逡逑Proposer逦|邋Acceptor邋|邋Acceptor邋I邋Acceptor逡逑—逦逦逦邋^逦^逦i逡逑逦More邋than邋half逦逡逑Acknowledge逡逑图2.邋3邋Paxos执行流程图逡逑两阶段提交协议用于保证分布式事务操作的原子性,该协议包括协调者和多逡逑个参与者节点。协调者发出事务请求给其他参与者节点,参与者节点可以选择同逡逑意或拒绝,只有当所有参与者节点返回同意,协调者才能执行此事务,否则该事逡逑务不许执行。逡逑2.邋1.4分布式数据容错逡逑为保证集群的稳定性,故障检测是必要的。心跳检测和租约协议用于保证分逡逑布式数据的容错性。逡逑心跳监测是主节点判断从节点是否发生故障的一种机制,实现过程如下:逡逑首先主节点向周围的从节点发送HeartBeat信息,从节点收到信息后,如果逡逑自身运行正常,发送Reply信
邋W1邋)逦;邋W2邋)逦,W3邋)逡逑图2.邋2副本徖移流程图逡逑2.邋1.3分布式数据一致逡逑Paxos协议用于解决分布式数据的一致性,该协议包括主节点和多个从节点。逡逑主节点发送提议消息给其他从节点,从节点可选择接收此提议或拒绝此提议。只逡逑有当超过半数的从节点接收此提议,主节点才可以执行提议,否则该提议失败。逡逑Paxos协议的执行流程如图2.邋3所示。逡逑逦Prepare逦逦\逦逡逑w逦w逡逑1.邋K逦Accept逦K逦(邋j<逦(、邋j逡逑Proposer逦|邋Acceptor邋|邋Acceptor邋I邋Acceptor逡逑—逦逦逦邋^逦^逦i逡逑逦More邋than邋half逦逡逑Acknowledge逡逑图2.邋3邋Paxos执行流程图逡逑两阶段提交协议用于保证分布式事务操作的原子性,该协议包括协调者和多逡逑个参与者节点。协调者发出事务请求给其他参与者节点,参与者节点可以选择同逡逑意或拒绝,只有当所有参与者节点返回同意,协调者才能执行此事务,否则该事逡逑务不许执行。逡逑2.邋1.4分布式数据容错逡逑为保证集群的稳定性,故障检测是必要的。心跳检测和租约协议用于保证分逡逑布式数据的容错性。逡逑心跳监测是主节点判断从节点是否发生故障的一种机制
逡逑图3.邋3邋Spark调度流程逡逑RDD转换流图框架如图3.邋4所示。图中每一个方框为一个RDD,即partition。逡逑Cl到D1到F1为一个pipeline,对应一个task,用一个线程去执行。一个stage逡逑包括多个pipeline,用一个进程去执行。Stage的划分以是否是宽依赖为标准,逡逑有宽依赖操作之前的所有操作在同一个stage中。多个stage组成一个job,分逡逑发给一个worknode去执行。多个jpb组成一个application,分给一个Master逡逑去调度。_]逡逑21逡逑
本文编号:2763614
【学位授予单位】:中国电子科技集团公司电子科学研究院
【学位级别】:硕士
【学位授予年份】:2018
【分类号】:TP311.13;TN957.52
【图文】:
主节点发送提议消息给其他从节点,从节点可选择接收此提议或拒绝此提议。只逡逑有当超过半数的从节点接收此提议,主节点才可以执行提议,否则该提议失败。逡逑Paxos协议的执行流程如图2.邋3所示。逡逑逦Prepare逦逦\逦逡逑w逦w逡逑1.邋K逦Accept逦K逦(邋j<逦(、邋j逡逑Proposer逦|邋Acceptor邋|邋Acceptor邋I邋Acceptor逡逑—逦逦逦邋^逦^逦i逡逑逦More邋than邋half逦逡逑Acknowledge逡逑图2.邋3邋Paxos执行流程图逡逑两阶段提交协议用于保证分布式事务操作的原子性,该协议包括协调者和多逡逑个参与者节点。协调者发出事务请求给其他参与者节点,参与者节点可以选择同逡逑意或拒绝,只有当所有参与者节点返回同意,协调者才能执行此事务,否则该事逡逑务不许执行。逡逑2.邋1.4分布式数据容错逡逑为保证集群的稳定性,故障检测是必要的。心跳检测和租约协议用于保证分逡逑布式数据的容错性。逡逑心跳监测是主节点判断从节点是否发生故障的一种机制,实现过程如下:逡逑首先主节点向周围的从节点发送HeartBeat信息,从节点收到信息后,如果逡逑自身运行正常,发送Reply信
邋W1邋)逦;邋W2邋)逦,W3邋)逡逑图2.邋2副本徖移流程图逡逑2.邋1.3分布式数据一致逡逑Paxos协议用于解决分布式数据的一致性,该协议包括主节点和多个从节点。逡逑主节点发送提议消息给其他从节点,从节点可选择接收此提议或拒绝此提议。只逡逑有当超过半数的从节点接收此提议,主节点才可以执行提议,否则该提议失败。逡逑Paxos协议的执行流程如图2.邋3所示。逡逑逦Prepare逦逦\逦逡逑w逦w逡逑1.邋K逦Accept逦K逦(邋j<逦(、邋j逡逑Proposer逦|邋Acceptor邋|邋Acceptor邋I邋Acceptor逡逑—逦逦逦邋^逦^逦i逡逑逦More邋than邋half逦逡逑Acknowledge逡逑图2.邋3邋Paxos执行流程图逡逑两阶段提交协议用于保证分布式事务操作的原子性,该协议包括协调者和多逡逑个参与者节点。协调者发出事务请求给其他参与者节点,参与者节点可以选择同逡逑意或拒绝,只有当所有参与者节点返回同意,协调者才能执行此事务,否则该事逡逑务不许执行。逡逑2.邋1.4分布式数据容错逡逑为保证集群的稳定性,故障检测是必要的。心跳检测和租约协议用于保证分逡逑布式数据的容错性。逡逑心跳监测是主节点判断从节点是否发生故障的一种机制
逡逑图3.邋3邋Spark调度流程逡逑RDD转换流图框架如图3.邋4所示。图中每一个方框为一个RDD,即partition。逡逑Cl到D1到F1为一个pipeline,对应一个task,用一个线程去执行。一个stage逡逑包括多个pipeline,用一个进程去执行。Stage的划分以是否是宽依赖为标准,逡逑有宽依赖操作之前的所有操作在同一个stage中。多个stage组成一个job,分逡逑发给一个worknode去执行。多个jpb组成一个application,分给一个Master逡逑去调度。_]逡逑21逡逑
【参考文献】
相关期刊论文 前3条
1 李聪;刘阳;;云计算在航天物流中的应用研究[J];物流科技;2015年04期
2 苏丽;张博为;谌明;卢满宏;;大数据技术在航天领域发展与应用[J];遥测遥控;2015年02期
3 刘杰;丁向峰;柴旭东;贺红卫;庄杨;;云计算在航天信息化工程中的应用与探讨[J];军民两用技术与产品;2011年10期
相关博士学位论文 前2条
1 李浩林;机载SAR快速后向投影成像算法研究[D];西安电子科技大学;2015年
2 韩晶;大数据服务若干关键技术研究[D];北京邮电大学;2013年
相关硕士学位论文 前6条
1 曹东航;基于Ganglia的云平台监控的研究与实现[D];电子科技大学;2016年
2 王雪;SAR成像的GPU并行计算技术研究[D];南京航空航天大学;2016年
3 李虎;大数据技术在卫星运控中应用探索[D];中国科学院研究生院(空间科学与应用研究中心);2015年
4 王怡丰;面向非结构化分布式存储系统的性能分析系统研究[D];复旦大学;2012年
5 袁红峰;机载SAR成像技术研究[D];西安电子科技大学;2009年
6 朱珠;基于Hadoop的海量数据处理模型研究和应用[D];北京邮电大学;2008年
本文编号:2763614
本文链接:https://www.wllwen.com/kejilunwen/wltx/2763614.html