保利元数据管理平台
描述:由于保利采用微服务架构,每个微服务系统都由不同团队负责(多达23个微服务),每个微服务数据库之间都是独立的,由于开发团队也是独立的,这导致每个数据库,相同意义的字段的名字会有所不同,这会造成rpc接口在进行字段穿透时,需要编写大量转换代码,间接导致,臃肿难以维护,很容易造成字段穿透丢失值的问题,为了解决这一问题,决定打造元数据平台,对数据库元数据进行统一的管理,清晰体现数据库之间的血缘关系,让每个团队间的元数据都能共享,统一标准
技术组成:spring boot + Spring MVC + mybatis +nacos + redisson + clickHouse + mysql
个人职责:调研市面上的开源元数据产品,对其功能、技术栈进行分析,与客户沟通其愿景,最后决定采用与datahub相同的技术栈,对照datahub的功能进行表设计和功能化简,元数据的同步模块的代码编写,及其他边缘功能的梳理与工时估算,和组员的任务安排
项目总结:该项目积累了,落地元数据平台的经验(掌握了mysql的INFORMATION_SCHEMA表、clickHouse的databases、tables、columns表的使用),对元数据的管理需要多少必备功能有了深刻的认知(表描述信息、血缘关系,字段标签、数据字典等),掌握了元数据平台的库表及项目结构设计,在定制元数据平台方向有了深厚的基础