大数据Java开发工程师,先后在华为,携程,蚂蚁金服工作过,数熟悉Java 大数据 vue开发,本人热爱技术,开发效率很高,面向结果变编程,18年毕业以来一直从事编码相关工作,动手能力强强,抗压能力强。在大数据处理上,熟悉spark flume hbase clickhous等组件的使用,熟悉hive spark sql,后端开发熟悉springboot,mybatis plus,等框架,前端vue熟悉iview,element,ant-desgin等框架
1. 数据仓库取数工具产品开发
基于数据仓库星型雪花模型进行取数工具开发,支持hive spark clickhouse三种查询引擎,通过在web界面自动拼接sql的方式进行取数,开发采用scala java混合语言开发,使用 springboot mybatis plus mysql,前端使用vue开发框架
2. 基于大数据日志清洗分析系统
负责日志的自动采集,清洗,可视化等全链路的数据流程开发。首先通过flume组件进行原始日志的清洗,清洗出具体的key value数据格式,存储到Hdfs分布式文件系统中,然后使用spark进行清洗后的数据统计和结构开发,将清洗后的数据写入oracle数据库中,然后使用前端vue进行数据可视化
使用 spring boot + springcloud 实现网盘系统,前端采用vue+element-ui, 数据库使用mysql,选用eureka作为服务注册中心,使用zuul作为网关,fegin作为服务间调用,ribbon做负载均衡搭建微服务框架
负责日志的自动采集,清洗,可视化等全链路的数据流程开发。首先通过flume组件进行原始日志的清洗,清洗出具体的key value数据格式,存储到Hdfs分布式文件系统中,然后使用spark进行清洗后的数据统计和结构开发,将清洗后的数据写入oracle数据库中,然后使用前端vue进