熟练使用数据开发平台,使用数据平台进行同步导入,数据开发,指标加工,数据运维,以及对平
台问题排查和定位。
熟练掌握 Hadoop 及底层框架,了解 Hadoop 底层机制如 Yarn,MapReduce.了解 Yarn 的资源
申请流程和 MapReduce 的任务执行流程。
熟悉 Hive 架构,能够使用 Hql 语句进行 Hive 的数据分析,熟悉 Hive 的调优方案。
熟练掌握 Kimball 建模理论,对维度建模有一定的了解,有数据建模建设经验,有数据模型
分层设计思路和实践。
熟练掌握 Flume 日志收集系统以及拦截器操作,了解 Sqoop,能够使用 Sqoop 实现数据在多
框架之间的迁移。
熟练使用 FineBI,对数据进行可视化展示。
熟悉 Spark 架构与提交流程。
掌握 Linux 操作系统命令。
项目名称:沃尔玛 O2O 控制塔
该项目为沃尔玛 O2O 订单数据统计分析项目,本项目主要通过分析订单数据,统计全国
不同渠道的订单量、拒签量、商品销量、单均出库时长、单均配送时长、拣货人效排名等指
标,同时根据渠道场景、地区、门店等维度去分析订单情况,将分析处理的落地到自研 BI
中制作仪表盘,运营人员根据告警和归因适度调整策略,保证订单作业高效运作。
技术架构:
Hdfs+DolphinScheduler +doris +自研 BI(数据开发平台)
责任描述:
1. 参与需求评审会,结合需求文档,梳理技术口径,进行数仓模型层设计和开发。
2. doris 表结构设计,设计事物事实表、维表、指标表等。
3. 编写 dorisSql 脚本,进行脚本调优并自测,最后提交测试。
4. 确保上线任务能顺利、按时进行,对失败或者未触发的任务进行分析及处理。
5. 将分析处理的数据落地到 BI 中,接入业务使用 。
项
角色 | 职位 |
负责人 | 大数据开发 |
队员 | 后端工程师 |
标,同时根据渠道场景、地区、门店等维度去分析订单情况,将分析处理的落地到自研 BI 中制作仪表盘,运营人员根据告警和归因适度调整策略,保证订单作业高效运作。 技术架构: Hdfs+DolphinScheduler +doris +自研 BI(数据开发平台) 责任描述:
项目名称会员中心业务 项目描述: 该项目为手机会员中心数据统计分析项目,本项目主要通过分析打点上报的用户数据, 统计会员中心社区、福利、权益、体验官等模块的活跃用户数、沉默用户数、留存用户数, 回流用户数,活跃设备数等指标,同时根据会员等级、设备品牌,设备品类,注册渠