ID:336458

⁽⁽ଘ一颗小西柚ଓ⁾⁾

大数据开发工程师

  • 公司信息:
  • 腾讯
  • 工作经验:
  • 6年
  • 兼职日薪:
  • 1000元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 可工作日远程
  • 所在区域:
  • 深圳
  • 宝安

技术能力

文档和自动化部署工具:Svn/Git,报表组件:FIneBI/QuickBI,大数据云产品:MaxCompute/EMR/MRS/DLF/Databricks/DLI/DLC,后端框架:Spring/Springmvc/Springboot/MyBatis/MQ/Springcloud/Dubbo/Zookeeper,数据分析:Hive/Spark/Flink数据库相关:Oracle/MySQL/Mongo/PgSQL/Hbase/Phoenix/Redis/Elasticsearch版本管理,消息队列:Kafka/RabbitMQ,数据采集:Flume/Sqoop/Python,ETL框架:Kettle/DataX/Canal/Maxwell/Otter

项目经验

项目描述:随着业务的快速迭代,青龙数仓的库表越来越繁多,初期搭建时确定的数据标准、模型设计规范略显粗糙,且缺少一套完整数据的生命周期管理体系,使得数仓内沉积了大量没有下游引用的数据表,另外因为开发不规范导致分层混乱,层级反向依赖,ODS 层穿透现象增多。需求紧张也产生了大量烟囱数据表和重复开发指标等。为释放集群资源,减少数据质量问题,急需对数仓进行规范化治理,更好地发挥数据价值。
1. 下线各层无用/临时数据表总计2300+,释放存储资源3500T
2. 完成20+个应用层烟囱数据模型整合,10+个公共层模型改造
3. 数仓 ODS 穿透率由原来16%下降至3%
数仓算力资源使用降低了17%,数仓月度 DQC 告警降低了26%
4. 内部培训数仓的开发管理规范,文档的落地,以及后续稽核,奖惩措施的闭环

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服