产品介绍
将FusionInsight、CDH、CDP等大数据平台的HIVE、SPARK、KAFKA、FLINK等各种大数据计算框架使用进行封装,通过统一规范化的开发模式,使数据开发人员可以快速实现数据加载、数据加工、数据分发等流程化开发,实现统一的数据管理和规范的实施过程。
产品优势与服务
1
2
3
4
产品文档
数据开发平台采用微服务架构,将整体服务进行解耦,设计成前端服务、后台服务、作业分发、作业执行、注册服务五个开发模块,支持服务的横向扩展。整体功能设计分为数据开发模块和任务运行模块,两个模块相互解耦,降低开发模块故障对生产运行稳定性的影响。
01
大数据管理
多租户的管理模式,实现数据的集约、共享,打破数据壁垒
02
一规范化的开发模式
组件化的开发,将各种功能封装成各个组件,如加密、清洗、标准化、检核等
03
高效的运行模式
程序内可并行运行组件,提高效率
04
持续集成
预发布支持程序持续迭代
开发、测试、生产等环境的线上部署,保障程序包一致性
05
数据治理管控
生命周期管理
元数据管理
数据质量管理
06
实时数据处理分析
Flink数据加工
实时接口管理
实时元数据管理
技术方案
数据资产
元数据信息 指标信息 标准码值 数据权限
数据加工
数据抽取 数据整合 离线加工 实时加工 指标加工
数据同步
元数据同步 数据下发 数据同步
数据治理
管理规范 数据检核 治理报表
数据探索
数据动态 资源目录 预发布加工 综合查询
数据应用
机器学习 数据查询 全文检索
运维调度
批次调度 批次监控 系统监控
系统管理
基础信息 加工服务 系统配置 日志管理