1. 熟悉java,C++,了解python
2. 熟练应用DB2,ORACEL等关系型数据库,熟悉数据库的优化、具有扎实的SQL编写基础 ;
3. 有Linux下开发、部署和调试能力。熟练掌握常用Linux命令,具备shell编程能力。
4. 熟悉大数据相关技术,熟悉HADOOP/hive/hbase/flume/spark等大数据组件及原理
反洗钱235号文改造
职能角色:开发工程师
任务安排:负责工商数据的穿透逻辑编写,后台业务数据加工整合
光大银行数据迁移
职能角色:大数据工程师
任务安排:负责审计大数据平台的数据对接及审计系统平台内的数据架构规划及数据组织,数据迁移以及同步并对比分析不同hadoop组件效率。
受益人识别
职能角色:大数据工程师
职务安排:受益人识别以及穿透服务的实现,数据查询、统计及开发后台数据服务,分布式数据存储同步功能研发
成都兴业银行hds升级改造
职能角色:大数据工程师
任务安排:大数据平台的数据接入及数据处理和整合,数据平台相关业务的设计和大数据平台集群开发,hadoop生态系统相关开源技术的使用、封装、和优化等研发工作。
现在做大数据开发研发工作,主要组件为flume kafka spark hbase es
房地产爬虫demo。可根据用户需求进行改进。 当前页面的详细情况均可爬到 1. 可选择地区 2. 可选择数据量 3. 数据获取后可根据需求清洗数据 4. 过滤后的数据存储
图片仅展示部分设计内容。详细说明以及调研、模块划分等未展示 1. 可针对当前需求进行调研分析,推荐使用合适的组件-组合-架构 2. 数据获取-数据传输-数据处理-数据清洗-数据存储入库流程设计 3. 功能模块设计