ID:205522

勇敢的俍心 有团队

大数据研发

  • 公司信息:
  • 历任百度、滴滴大数据工程师
  • 工作经验:
  • 5年
  • 兼职日薪:
  • 1300元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 可工作日远程
  • 所在区域:
  • 北京
  • 东城

技术能力

掌握Scala、Python、Java语言及其技术栈;
掌握大数据平台设计与架构实践;
熟悉Spark、Hadoop、Hive、Kafka、Flink等常用大数据生态系统、原理及优化、核心源码;
熟悉数据仓库建模,离线、实时大数据系统开发;
熟悉Web后端架构与开发,了解Web前端;
快速Troubleshooting能力,英语CET4:568,CET6:472。

项目经验

项目一:某大型央企大数据解决方案。项目设计: 基于CDH搭建大数据平台,平台组件包括数据采集,传输,存储,分析,查询等。根据业务需要进行数据ETL,分析,最终到应用成支持BI系统。 基础架构研发: 集群搭建,组件兼容性。 业务研发: 业务数据接入,ETL,业务指标研发等。 运维: 大数据平台运维,业务代码相关运维,不含机器基础运维。 交接: 基础文档,系统架构讲解,组件功能,应用等。

项目二:滴滴运营数据项目,包括天机(司机收入分析与诊断)、POPE(司乘活动效果评估)、Insight(城市运力数据)等,旨在为公司运营决策提供科学的数据支持,为乘客与司机提供向导。各数据产品涉及订单、司机、乘客、城市、运营活动等多个主题,支持多维度筛选、人群圈定、即席查询等,给用户展示可视化图表、漏斗数据。经过产品需求分析、按时完成了离线与实时数据开发、数仓及其表结构设计、查询引擎(Presto、ES、Druid等)选型与API、前端联调等研发工作,保障了数据产品的迭代开发效率、可用性与稳定性。使得前端页面对大数据即席查询的响应时间不超过3s。对大数据量的任务(TB、数亿级别)进行存储结构与性能优化,缩短任务执行时间,提高了自集群资源利用率。

项目三:基于百度云提供的基础服务建立百度视频大数据平台,实现公司业务数据计算与分析。项目内容包括:网站数据采集与传输、ETL设计与开发(适配各类非结构化数据)、数据仓库设计、任务调度系统开发(基于Azkaban)、数据报表以及元数据管理与监控等。项目已上线,稳定运行,实现了结构化与非结构化数据统一接入数据仓库,其中非结构化数据源ETL准确性高达十万分之二。为上层的数据分析提供精准稳定的数据服务,使产品、运营、编辑等基于数据做出正常决策。

团队情况

  • 整包服务: 其他开发   
角色 职位
负责人 大数据研发
队员 后端工程师

案例展示

  • 企业大数据解决方案

    企业大数据解决方案

    方案设计: 拟基于CDH搭建大数据平台,平台组件包括数据采集,传输,存储,分析,查询等。根据业务需要进行数据ETL,分析,最终到应用成支持BI系统。 基础架构研发: 集群搭建,组件兼容性。 业务研发: 业务数据接入,ETL,业务指标研发等。 运维: 大数据平台运维,业务代

  • 百度某事业部大数据平台

    百度某事业部大数据平台

    基于百度云提供的基础服务建立百度视频大数据平台,实现公司业务数据计算与分析。项目内容包括:网站数据采集与传输、ETL设计与开发(适配各类非结构化数据)、数据仓库设计、任务调度系统开发(基于Azkaban)、数据报表以及元数据管理与监控等。项目已上线,稳定运行,实现了结构化与非结构

查看案例列表(含更多 0 个案例)

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服