熟悉使用hadoop、kafka、flume、spark、hive等大数据生态圈。熟练使用java、熟悉使用SSM和springboot框架、数据库mysql和oralce。缓存框架使用过redis。前端框架使用boostrap,简单的页面可以做。开发工具使用的是idea。
项目电商数仓
根据业务需求对日志数据进行采集以及数仓的维度建模。
使用技术:hadoop、hive、kafka、flume、sparkstream、zookeeper、sqoop、mysql。
项目职责:①、主要负责协助数据采集系统的搭建。
②、负责采集日志数据的清洗处理
③、负责在ods及dwd层进行数仓的维度建模。
④、将统计好的指标数据导入到mysql中,方便指标数据展示。
角色 | 职位 |
负责人 | 大数据开发 |
队员 | 后端工程师 |