DBus - 实时数据总线


Apache-2.0
跨平台
Java

软件简介

DBus
专注于数据的收集及实时数据流计算,通过简单灵活的配置,以无侵入的方式对源端数据进行采集,采用高可用的流式计算框架,对在业务流程中产生的数据进行汇聚,经过转换处理后成为统一
JSON 的数据格式(UMS),提供给不同数据使用方订阅和消费,充当数仓平台、大数据分析平台、实时报表和实时营销等业务的数据源。

DBus 将 UAV
采集的全维监控数据以无侵入方式进行实时收集,为下游大数据处理平台
Wormhole 运行统计模型和机器学习提供数据源。

此外,DBus 还提供以下特性:

  • 多种数据源支持,海量数据实时传输

  • 感知源端 schema 变更,数据实时脱敏

  • 初始加载和独立加载

  • 统一标准化消息传输协议,可靠多路消息订阅分发

  • 支持分表数据汇集

DBus 技术架构

DBus 支持 Oracle,MySQL,Log, RocketMQ 等数据源,这次开源版本支持 MySQL 数据源(支持版本 v5.6,
v5.7),DBus的主要潜在客户包括:

  • 数仓平台和数据分析平台

  • 实时营销决策

  • 实时报表展示

  • 异构数据实时同步

  • 其他实时性要求高的系统