消防信息化数据治理体系设计的几点思考
发布时间:2021-02-22 15:34
针对消防工作对逐年积累的大量数据综合应用的业务需求,从数据治理体系整体设计、数据调度服务和数据兼容对接等方面入手,通过数据处理Spark引擎、Web Service、REST、标准JDBC等技术手段,打破原各消防业务系统之间的信息壁垒,快速共享接入外部数据资源,建立面向实战应用的基础库、主题库和专题库等一系列主题分析域,使消防信息资源更有效地实现供需对接,实现对消防业务活动各种需求做出快速响应的信息平台开发目标。
【文章来源】:电信快报. 2020,(11)
【文章页数】:5 页
【部分图文】:
数据治理体系架构图
数据调度服务,关键在于服务引擎。引擎作为专业级数据采集与智能挖掘分析中心的核心组件,能够集数据交换处理、深度融合数据治理、ETL(抽取/转换/加载)加工、算子库、自定义配置算子、分布式计算处理引擎等于一体,实现对大数据的高度复杂处理操作以及利用可视化拖拽分析与向导式便捷操作能力,帮助用户降低数据处理技术门槛,快速高效地完成相关数据操作。当前的数据量下,传统的数据处理工具已经无法满足需要。在技术路线上,选择目前流行的分布式计算处理引擎Spark和Flink。通过调度系统,可以灵活方便地配置和调度数据ETL任务。通过配置任务之间的依赖关系,可以灵活地组织任务流,支持任务流的定期调度、历史回溯调度、历史任务重跑等多种调度方式,支持任务依赖和任务的细粒度分配,并且所有服务节点都实现了高可用机制。
【参考文献】:
期刊论文
[1]大数据时代下消防信息化建设的研究[J]. 高震. 中国新通信. 2019(15)
[2]浅议消防信息化的发展[J]. 王菁川. 消防界(电子版). 2015(01)
[3]浅谈消防信息化建设水平的提高[J]. 罗俊. 信息系统工程. 2015(05)
本文编号:3046200
【文章来源】:电信快报. 2020,(11)
【文章页数】:5 页
【部分图文】:
数据治理体系架构图
数据调度服务,关键在于服务引擎。引擎作为专业级数据采集与智能挖掘分析中心的核心组件,能够集数据交换处理、深度融合数据治理、ETL(抽取/转换/加载)加工、算子库、自定义配置算子、分布式计算处理引擎等于一体,实现对大数据的高度复杂处理操作以及利用可视化拖拽分析与向导式便捷操作能力,帮助用户降低数据处理技术门槛,快速高效地完成相关数据操作。当前的数据量下,传统的数据处理工具已经无法满足需要。在技术路线上,选择目前流行的分布式计算处理引擎Spark和Flink。通过调度系统,可以灵活方便地配置和调度数据ETL任务。通过配置任务之间的依赖关系,可以灵活地组织任务流,支持任务流的定期调度、历史回溯调度、历史任务重跑等多种调度方式,支持任务依赖和任务的细粒度分配,并且所有服务节点都实现了高可用机制。
【参考文献】:
期刊论文
[1]大数据时代下消防信息化建设的研究[J]. 高震. 中国新通信. 2019(15)
[2]浅议消防信息化的发展[J]. 王菁川. 消防界(电子版). 2015(01)
[3]浅谈消防信息化建设水平的提高[J]. 罗俊. 信息系统工程. 2015(05)
本文编号:3046200
本文链接:https://www.wllwen.com/kejilunwen/anquangongcheng/3046200.html