熟练掌握Java语言,熟悉多线程编程、网络编程。
熟练使用Ecilpse、MyEclipse,IDEA等开发工具,熟悉Maven模块管理等工具。
熟练WEB开发技术如JSP、Servlet、JS、Ajax等,熟练使用Tomcat应用服务器,熟悉高并发Web应用架构设计,有相关经验。
熟悉使用当前主流的开发框架如Struts、SpringMVC、Spring、Hibernate和mybatis等。
熟悉REST、WebService,能够使用SpringBoot快速构建微服务。
熟悉通用的开发方法和架构IOC,AOP,SOA等。
熟练掌握Hadoop,了解HDFS分布式存储,MR分布式处理框架,了解YARN资源调度框架,能够熟练的利用Hadoop平台进行数据处理,熟悉HIVE数据仓库工具。
了解HBase分布式列式数据库、Zookeeper应用协调服务、Spark计算框架、Storm流式计算、Kafka消息中间件,ElasticSearch。
熟悉Mysql数据库,了解PostgreSQL、SQLServer、Oracle,熟练使用数据库开发工具,熟练掌握SQL,有数据库调优经验,有OLAP、OLTP数据库设计经验,熟练使用Redis缓存技术,mongodbNOSQL存储。
熟悉高并发应用架构设计,有相关经验。掌握常见的数据结构,算法,代码能力较强,熟悉熟悉TCP/IP、HTTP、MQTT等协议。
.熟悉linux操作系统,熟练掌握linux常用命令,熟悉Windows/Linux下开发,熟悉Docker技术,实现项目的快速部署。
熟悉阿里云QuickBI数据展现工具,DataV大屏展示开发,ADS分析型数据库,DataWorks数据工作台,熟练掌握MaxCompute大数据计算服务,有打通业务数据到分析型数据全数据链路经验,有阿里云大数据专业认证ACP。
有数据仓库,数据中台建立经验,熟悉数据仓库理论,熟悉Kettle ETL工具,熟练掌握各种ETL技能。
熟悉Python脚本,熟悉Scrapy爬虫的编写。熟悉golang开发,能够编写高性能WebAPI组件。
项目1:亿滋数据中台项目
项目介绍:
将亿滋现有庞杂、各自独立的业务系统统一数据规范,进入到阿里云MaxCompute系统,建立的数据中台,基于数据中台进行上层应用的建设,避免烟囱式设计。
将业务系统各部门中的数据经过统一数据标准、建立同步规范、数据血缘梳理,ETL过程抽取出各部门主题事实表和一致性DW层面的纬度表,数据在MaxCompute中存储并经过ETL过程转化为数据集和高度综合的报表展示数据,用于展现和查询的数据会同步至ADS用于QuickBI、DataV展示。
责任描述:
数据入库前的检测,ETL脚本的编写,数据维护。
MaxCompute SQL编写,建立多维度的事实表维度表,根据业务报表的需求将数仓各个部门主题表通过SQL实现多维度分析展现。
建立DataWorks数据工作流和调度,根据数据流程的需求建立数据工作流,并进行日常运维
项目2:亿滋第三方业务系统数据展现
项目介绍:
从亿滋第三方服务商出提取数据,汇入到数据库中进行数据的分析和展现。
从VMware Airwatch,联通设备信息平台通过调用API或爬虫抽取数据,用MaxCompute的SDK将数据上传至MaxCompute中,再根据业务逻辑编写TEL过程,然后根据业务场景将数据发布至RDS或者ADS中,用于BI和DataV展示,最后根据客户需求,将BI和DataV集成至Web应用中,并使用Docker技术敏捷部署。
解析AC尼尔森给出的数据报表,进入数据库,进行数据再分析后并展现。
责任描述:
对Airwatch和联通设备信息平台进行数据的爬取,对爬取的数据进行清洗,ETL
QuickBI报表制作与数据接入。
AC尼尔森报表解析脚本编写
数据库中SQL的编写
项目3:富士康纳诺污水处理物联网
项目介绍:
将纳诺现有污水处理系统实现数据上云,实现云上的数据存储与展现,并实现远程控制,实时报警。
将PLC将污水处理的各个参数通过MQTT协议将数据上传到服务端,将物联网数据存储到TSDB中,并在服务器端实现控制逻辑和报警规则的制定,前端调用接口即可实现物联网设备的监控,以及控制。
责任描述:
服务器端MQTT协议数据的收发
报警逻辑以及控制逻辑的编写
数据展现、报警接口、控制接口的开发