熟练 java 、javaee 编程。了解 scala、golang、Python 等;
熟练Mysql、Redis、Hbase 。了解 Hive,Spark 等大数据相关数据分析技术;
熟悉Linux环境下的开发,部署,配置,了解shell,了解 TeamCity/Jenkins/GitLab等持续集成工具;
熟练分布式搜索引擎ElasticSearch , ELK日志分析;
熟悉Flink 实时计算, 批流一体,阅读过部分源码,了解App应用部署与监控,具有相关项目经验;
熟练开发框架:SpringBoot/SpringCloud、Vue.js、Three.js。熟练使用Maven/git等版本管理工具;
项目名称: 元方智能风控平台
开发时间:2019.01~至今 系统环境:Linux / Mac 开发工具:IDEA
项目描述: 为业务方提供数据支撑、智能决策、数据分析等功能;
主要工作:
[1]. 国内大数据集群(CDH5)运维,主要组件 hdfs/yarn/hbase/hive/impala/hue ... 等;
[2]. 实时计算 Flink 任务开发与维护,主要为模型/策略提供实时特征与数据清洗;
[3]. 数仓数据输出相关 API 项目开发与维护;
[4]. 平台日志系统(ELK)部署与维护,Logstash、Filebeat 收集日志;
[5]. 离线数仓(离线任务)调度系统开发;
[6]. 海外(3 个国家)数仓部分各个数仓服务开发与维护,基于Spring-boot2 开发服务,基于 Jenkins 编译,容器化部署Docker(docker-compose) / K8s(阿里云) , 大数据相关服务主要使用阿里云 Datawords;
项目名称:生活家5D 智能整装设计平台
开发时间:2018.01~至今 系统环境:Linux/Windows 开发工具:IDEA
项目描述:前端基于UE4实现家装设计,主要包含方案设计、实时渲染、本地出图网页分享、导出CAD设计图等功能,后端主要支持前端完成数据存储管理以及数据分析等功能。
主要工作:负责服务器端程序架构设计与核心代码研发,以及WEB前端以及服务部署等工作;
服务端主要技术:
[1]. Nginx 作为负载均衡与反向代理实现根据域名分发不同域名的请求,同时部署基于Vue + ElementUI 前端项目(包含设计师个人中心渲染图分享/数据管理系统);
[2]. Spring-cloud/SpringBoot 实现服务端程序开发简化研发快速迭代;
[3]. GitLab + TeamCity 实现代码管理与自动部署,通过shell 脚本控制服务部署;
[4]. 使用Python 实现部分数据批量处理以及零时数据处理脚本;
[5]. ELK 实现日志收集存储与分析,主要收集Nginx访问日志以及各服务错误日志;
[6]. ES + MySQL 作为系统主要数据存储,Hbase 作为用户产品使用记录存储以及方案数据存储;
项目描述:前端基于UE4实现家装设计,主要包含方案设计、实时渲染、本地出图网页分享、导出CAD设计图等功能,后端主要支持前端完成数据存储管理以及数据分析等功能。 主要工作:负责服务器端程序架构设计与核心代码研发,以及WEB前端以及服务部署和数据分析等工作; 服务端主要技术:
技术: 基于Spring-boot + ES 搭建商品管理系统(开发完成后拉取关键字达500W+, 商品信息达千万级别); 功能描述 1. 可通过关键字创建爬虫任务 ,提交关键字后后台生产相关爬虫任务, 后台多线程并行爬取关键字相关商品信息; 2. 将爬取下来的商品信