DataMaid 整体架构

excalidraw 链接 https://excalidraw.com/#json=eZev9Wx8WmdBIcSK6PX1n,Pko4c96VRgkH2G0YjHeQ-A excalidraw 源文件 datamaid.excalidraw ...

Architecture

Datamaid 统一输出服务的查询 API 设计

Datamaid 是一个实体数据管理平台。前期我介绍了它的数据落库能力。可以通过配置化把数据落到对应的存储。 那么,既然我们同时拥有了数据源信息、实体各字段信息、实体各字段的存储信息。 是否可以做一个统一的服务,直接完成数据的查询呢? 当然是可以...

Architecture

Datamaid 如何实现实时源接入

技术项目和业务产品一样,如果一开始就设计得完美无暇,那实现起来也是艰难无比。倒不如先实现 MVP (Minimum Viable Product) 版本 ,再初步迭代完成升华。 下面就说说我在设计 Datamid 实时数据源接入的思考过程。 背景Da...

Architecture

Datamaid 的双ES索引设计

背景Datamaid 是我们设计的一套统一数据治理系统。通过在系统上进行配置,不需要开发就可以把上游数据灌入到你自己的业务表或其他存储引擎。 因为我们的业务上需要使用大量的字段筛选,所以底层存储是用了 ES。 至此,我们有了一个系统,每天灌入数据到存...

Architecture