1、掌握Jvm的性能优化、对象的内存布局和常见的垃圾回收器。
2、精通Hadoop生态体系,包括HDFS、MapReduce、Hive、HBase、Spark,Flink等组件,能够构建高效稳定的大数据数
仓。
3、擅长数据建模与数仓设计,能够根据不同业务需求设计合理的数仓架构和模型。
4、熟练掌握数据仓库分层设计,包括ODS、DWD、DWS、ADS等层次,实现数据的分层存储和高效查询。
5、具备大数据性能调优经验,能够优化查询性能、提升数据处理效率。
6、熟悉使用阿里云DataWorks,MaxCompute,datahub,Flink,Hologress等流计算平台。
7、精通Mysql的体系架构,存储引擎,事务隔离级别,锁,索引,mvcc工作原理和sql优化。
8、精通Redis的底层的数据结构、应用的业务场景、数据持久化机制、多类型缓存的应用、高可用机制及集群的实现。
9、精通RocketMQ和Kafka的整体架构设计,深入研究过核心源码设计。
10、精通网络协议、Nio原理、Epoll多路复用和rpc协议,序列化和反序列化机制和Netty框架。
11、熟练掌握面向对象设计、io、集合和锁,掌握常用的数据结构和算法及线程及高性能的设计与编码及性能调优。
12、熟悉常用的架构设计原则、分布式架构的设计理论和中间件选型。
13、具备全面的产品思维,具备良好的沟通能力,有跨行业的快速学习能力。
14、有过近三年的团队管理经验,深度参与业务规划,协调跨部门协作,解决开发过程的技术难题。
网约车平台是一个基于移动互联网技术的出行服务平台,包括乘客端应用、司机端应用和后台管理系统三个部分。乘客通过乘客端应用发布出行需求,平台根据算法匹配最近的司机并派遣订单;司机通过司机端应用接收订单,提供接送服务;后台管理系统则负责整个平台的运营、数据分析、用户管理和安全监控等工作。
1、负责系统架构的设计和优化,确保系统的安全性和可维护性。
2、参与需求分析、技术选型和系统设计,提供技术解决方案和建议。
3、引领团队成员,参与核心代码功能开发,提供技术支持。
4、项目核心功能优化,包括代码优化、数据库优化、缓存的使用、安全性优化、网络请求优化和日志优化。
实时特征综合应用平台是以各行业应用系统数据以及相关社会部门数据作为基础数据源,依照大数据建设规范中的数据采集,
数据处理、数据组织、数据服务的技术体系,确保数据的高效存储与处理,支撑各行业应用系统,促进数据驱动决策的实施,提高
数据检索与应用的效率,支持实时特征分析,建设的符合新一代大数据规范的实施特征综合应用。
1、负责项目的数仓设计,包括数据模型设计、ETL流程设计等。
2、根据数据的探查和定义结果通过数据抽取工具flume,sqoop,datax等将多源异构的数据接入到大数据中心,并基于
MD5数据指纹对账 的方式保障源头与目标数据的完整性、一致性、正确性。目前已完成2000余类资源、百亿级数据总量的汇总工
作。
3、针对接入数据的规模巨大、类型多样、质量参差不齐、价值密度高低不一的数据特性,通过存储过程、函数等数据分析技
术结合数据清洗、关联、比对、标识等处理手段对所有接入的数据进行规范化处理,目前根据数据处理要求共开发了以格式转换、
内容校验类型为代表的30余种数据清洗、转换规则。
项目经历
4、根据数据应用需求,按照数据定义的标准统一,流程规范的组织方案,综合各类数据资源结合mysql,hive,hbase,es
等数据存储框架进行分类建库,为数据的统一分析,统一服务提供数据基础,目前已完成了基于公民身份号码、法院、保司、 手
机号、车牌号、车架号、车型等关键要素的关联库、关系库、要素重点行为库建设,以及围绕人、地、案、事件、物,组织等对象
的主题库建设。
5、负责数据治理中主题模块,工作内容,梳理数据源,梳理了二十多个系统,三千多个表,对资源层进行主题建模,逻辑建
模,物理建模,对模型进行资源层中mapping查找,对主体层进行开发并测试并配置调度,对开发的主题进行质量检验,输出主
题结果报告。
角色 | 职位 |
负责人 | 高级java开发 |
队员 | 前端工程师 |
队员 | 后端工程师 |
网约车平台是一个基于移动互联网技术的出行服务平台,网约车平台通常包括乘客端应用、司机端应用和后台管理系统三个部分。乘客通过乘客端应用发布出行需求,平台根据算法匹配最近的司机并派遣订单;司机通过司机端应用接收订单,提供接送服务;后台管理系统则负责整个平台的运营、数据分析、用户管理和
实时特征综合应用平台是以各行业应用系统数据以及相关社会部门数据作为基础数据源 ,依照大数据建设规范中的数据采集 , 数据处理 、数据组织 、数据服务的技术体系 ,确保数据的高效存储与处理 ,支撑各行业应用系统 ,促进数据驱动决策的实施 ,提高 数据检索与应用的效率 ,支持实时特征