熟悉 scala,java,python 等编程语言;
熟悉 spark,flink,hbase,hive,sqoop 等大数据组件及原理,熟悉 spark,flink 机制及使用,熟悉 sql 性能优化;
熟悉数据仓库设计,熟悉数据仓库模型及建模思想;
熟悉 aliyun 平台 quickBI,emr,oss 等组件开发及数据可视化
视频海外视频播放及直播数据统计分析项目。
本项目通过对该平台用户海量播放数据的获取,统计网站日点击量、注册用户数、各年龄层比率、播放时间、播放时长等来分析网站运营情况,根据指标分析结果适度调整营销策略提供准确的数据支撑,促进网站长远的发展。
架构:SLS+CDM+OBS+SPARK+CDM+QUICKBI
1.与需求方对接,梳理、评估需求,确认需求可行性;
2.DW 多模块数据模型的各层级设计、开发,同时 SQPRK SQL 开发;
3.QUICKBI 可视化设计与开发,形成报表;
4. 参与数据治理,提高数据易用性及质量。
技术问题:WITH CUBE 性能优化,极大降低执行时间及内存消耗;
角色 | 职位 |
负责人 | 大数据开发 |
队员 | 后端工程师 |