java技术
精通Java基础,熟练掌握Java多线程编程,熟悉JVM模型及原理
熟练掌握常见的Java设计模式,搭建程序结构,优化程序性能
理解JVM模型,常见的垃圾回收器和算法,能够通过调整JVM优化程序性能。
精通Java WEB,Servlet、JSP、FreeMarker等技术。
精通Mysql,Oracle,Redis,Es等数据库技术,有数据库调优经验
精通JDBC、Mybatis、Hibernate、Spring Data Jpa 等持久层框架,对Mybatis源码有深入研究
精通SpringMVC、Struts 2 等web层框架,理解SpringMVC源码,能够对复杂问题进行精准定位及解决
精通Spring,熟练掌握Spring整合Mybatis、SpringMVC
精通SpringBoot、Maven 等技术
精通Shiro、SpringSecurity等安全和权限管理框架
精通SpringCloud微服务架构
精通Cas或自己实现的单点登录
精通Tomcat、Nginx等服务器
精通Spring+Dubbo+ZooKeeper分布式架构
熟悉Docker虚拟化技术,能熟练搭建Docker,使用Docker独立部署SpringBoot应用、Mysql、Reids、Nginx等应用
熟悉Activiti工作流的使用
精通Svn、Git等版本管理工具
精通Kafka等常用消息中间件
精通Linux系统,熟悉Shell脚本,能够熟练地搭建生产环境、部署项目
大数据技术
精通掌握Java、SQL语言
熟练掌握Scala编程,能运用Scala进行Flink、Spark RDD,Spark Sql,Spark Streaming编程
熟悉Hadoop大数据生态体系,能够搭建高可用的Hadoop生态集群。
熟悉HDFS组成架构、存储原理、数据的读写流程,及优化HDFS工作性能。
熟悉数据仓库的设计、搭建、表关系的模型构建,使用Hive 实现海量结构化日志的分层管理与查询分析。
熟悉MapReduce工作机制与运行原理,用Tez替换计算引擎,提升Hive计算查询速度。
熟悉使用 Spark Core、SparkSql、SparkStreaming、SparkML处理离线数据、实时数据,理解Spark 任
苏宁多维度实时智能告警
开发环境:IntelliJ IDEA+Jdk1.8+Scala+Java+Maven+Git
运行环境:Flink+Flume+Kafka+Hadoop+ClickHouse+Mysql+Redis+SpringBoot+Antlr4+Vue
项目描述:收集苏宁易购各个系统和场景的日志数据,针对各个系统和场景制定规则,根据日志数据以及规则进行实时监控、告警等功能,并将告警数据存储,根据历史告警数据构建Deepar算法模型,根据模型进行动态实时告警。实时监控各个系统的情况,及时发现各个系统和场景的问题及缺陷,为公司提供一套自有的异常检测平台,大幅度降低异常检测告警配置成本,包含了运维人员成本和短信下行成本。另外,可以减少运维压力,消除告警疲劳,提升运维人员工作效率。
工作职责:
*参与讨论需求分析、设计、开发。
*实时ETL服务:使用Flink基于EventTime根据规则将各个系统和场景的日志数据进行匹配、过滤发送给Kafka或存入ClickHouse。
*实时告警计算:使用Flink将ETL发送过来的数据根据规则(规则使用Antlr4定义和解析) 进行告警计算
*定时告警计算:使用Quartz定时调度规则,用规则的Sql语句查询ClickHouse,将数据打上标签并且存储,为构建Deepar算法模型使用
*规则定义:前期使用Antlr4定义一套类似Sql的dsl语句,针对不同的告警类型,后期使用Clickhouse语法。
*告警统计:使用SpringBoot+Vue+Echarts将各种统计信息以图表方式展示。
*告警发送:根据规则配置将告警信息以短信、邮件等方式发送给通知人。
主要功能
*系统、场景数据接入:数据接入管理主要是根据配置的数据源信息,将数据接入至异常检测平台,为后续生成监控指标提供数据基础。
*监控指标管理:主要是利用接入的数据,根据监控指标的定义生成对应的指标,然后将这部分指标作为深度学习算法建模的输入,构建对应指标的异常检测模型。 在监控指标管理页面中可以看到监控指标的基本信息、异常配置信息和指标信息。基本信息包含了产品、场景、指标名称和关联模型;异常配置信息包含了异常定义方式;指标信息包含了指标类型、聚合粒度、分析维度和指标计算方法。
*模型管理:模型模块的主要作用是利用先前定义的监控指标,根据深度学习算法构建异常检测模型,并对模型进行部署、下线等管理。
*规则管理:规则配置主要是为已经上线的这部分模型中的场景配置告警策略,包括了为场景、指标配置异常的定义方式、通知人员及通知方式。策略配置包括了策略的添加、编辑和删除。
*告警控制台:主要展示已经触发告警条件的告警详细信息,包含了产品、监控场景、指标、统计范围、指标值、触发条件、影响因素、置信度、通知人员、告警标记、标记人员和时间。
*实时告警通知:触发告警的告警信息将会实时发送给通知人
*告警统计可视化:各种统计信息以可视化的方式展示在页面
苏宁易购推荐系统
开发环境:IntelliJ IDEA+Jdk1.8+Scala+Java+Maven+Git
运行环境:Flume+Kafka+Hadoop+Hive+Spark+Hbase+Sqoop+Azkaban
项目描述:根据用户的行为数据,例如浏览、停留时长、购买、收藏、加入购物车、打分等等,为用户推荐可能喜欢的商品及店铺,提升用户对产品的好感度,增加用户购买商品的可能性,提升公司的营业额。
工作职责:
*参与讨论需求分析、设计。
*离线统计服务:批处理统计性业务采用 Spark Core + Spark SQL 进行实现,实现对指标类数据的统计任务。
*离线推荐服务:离线推荐业务采用 Spark Core + Spark MLlib 进行实现,采用ALS 算法进行实现
*实时推荐服务:项目采用 Spark Streaming 作为实时推荐系统,通过接收 Kafka中缓存的数据,通过设计的推荐算法实现对实时推荐的数据处理,并将结构合并更新到 Hbase。
主要功能
*历史热门商品、店铺
*近期热门商品、店铺
*商品、店铺评分统计
*各类别商品、店铺Top10统计
*基于商品、店铺评分统计
*商品、店铺评分统计
*商品、店铺评分统计
*用ALS算法训练隐语义模型
*计算用户相似度矩阵
*计算商品、电影相似度矩阵
聚衣商城 (b2c电商系统)
使用技术:
SpringCloud+SpringData+Mysql+Mycat+Redis+ElasticSearch+Vue+ElementUI+Hadoop+Hdfs+Flume+Kafka+Spark+Hive
项目描述
苏宁易购推荐系统 开发环境:IntelliJ IDEA+Jdk1.8+Scala+Java+Maven+Git 运行环境:Flume+Kafka+Hadoop+Hive+Spark+Hbase+Sqoop+Azkaban 项目描述:根据用户的行为数据,例如浏览、
聚衣商城 (b2c电商系统) 使用技术: SpringCloud+SpringData+Mysql+Mycat+Redis+ElasticSearch+Vue+ElementUI+Hadoop+Hdfs+Flume+Kafka+Spark+Hive 项目描述 项目分为平