精通java编程,微服务,丰富的python,shell脚本,开发经验,安卓程序开发,大数据中间件搭建开发使用经验
精通多种爬虫技术与反爬突破,逆向破解技术
精通掌握Java,Jsp,Spring,Mybatis,SpringMvc,SpringBoot,微服务开发。
精通Linux,Python,Hive,Kylin,Hadoop,Kafka,Zookeeper,Sparkstreaming,Redis,RabbitMq
1. 掌握 Java,Spring,SpringMvc,Mybatis,SpringBoot,微服务开发,Feign,Nacos,Redis,Shiro,了解 Hibernate、SpringDataJpa,POI 开发
2. 掌握 Kafka,Hive,Hdfs,SparkStreaming,Kylin,Zookeeper,Azkaban 了解 Sqoop,Phoneix,Quartz
3. 熟悉 Tomcat,Git,Svn,Maven,Swagger,Postman,Idea,熟练 Sqlite,Mysql,SqlServer,Oracle 数据库安装配置使用
4. 熟悉 WebService 接口生成与使用。熟练使用 sql 语句,sql 优化。C#,WinForm 开发
5. 掌握前端 HTML,CSS,JavaScript,Jquery,Json,Ajax,Jsp,EasyUI,LayUI,Echarts 技术
6. 熟练使用 Python,精通 Selenium,PhantomJs,WebDriver,Python 的 Requests,PyQuery,xlwing,pymysql
7. 熟练使用 Fiddler,Charles 对网页和 android app 抓包,HTTP 协议,Xpath,正则表达式
8. 熟悉使用 Linux 命令,shell 脚本,VPS 搭建 Debian\Centos 服务器,私人 SVN 仓库,了解 docker 基本使用
9. 掌握 Android 开发的 Hello Chart,PageView,Smart Table,自定义扩展 Tree View 满足复杂的业务需求, RecycleView
主要开发项目
智能问答平台
主要是为问答机器人需要的实体,问答对,属性值进行管理维护,包含,kbqa,faq管理,实体管理,机器人管理等
xx大数据平台,主要功能实时推荐,用户标签,用户画像,热点检索,热词分析,全文检索,数据清洗
即刻 BI-大屏管理
大屏管理是对报告大屏的单页创建,编辑,分享,预览,导出等功能的在线处理软件 使用 springboot,springMvc,mybatis 框架,nacos 做为注册中心,权限使用 springsecurity,导出使用 puppeteer 导 出 pdf
智慧干部项目
智慧干部是xx部门内部,用于管理干部个人履历信息的软件系统,包含干部 360,数据维护,配置管理,附件导入管
理,系统管理 主要负责系统管理模块的用户管理,菜单管理,权限管理,操作日志管理,数据维护模块的新增,修改,批量修改,导出模板 和个人信息的各种信息校验,联动校验,前后端的功能设计和代码逻辑实现
技术栈: spring springmvc mybatis swagger jsp layui redis oracle shiro poi Tomcat
数巢平台-实时抽取
实时抽取是将数据从 kafka 消息队列中,经处理后,实时写入到 hive,hbase 中,采用异常监控机制,实时更新任 务状态 Redis 分布式锁,处理批量启动和关闭实时抽取任务,处理大量任务时,使用 sparkstreaming 处理 kafka 消息写入 hive, 防止单机压力过大,导致内存溢出或资源耗尽
技 术 栈 :kafka hive hdfs redis sparkstreaming Phoenix springboot springmvc mybatis redis zookeeper springcloud nginx
即刻 BI-报表管理
报表管理是支持多种数据源(mysql,hive,kylin,Oracle)的用于数据可视化分析的在线报表软件 支持配置文件选择数据源类型,根据选择的数据源类型,根据前端拖拽创建的工作,生成对于的 sql 语法,查询数据,并可 视化展示出来,支持纬度和度量的转换,与度量的聚合函数,求和,平均值,最大值,最小值,计数;支持根据拖拽字段进行数 据筛选,分组;处理大数据时采用 kylin,做为数据源,加速聚合函数的计算
技术栈:springboot nacos springmvc mybatis redis nginx kylin feign hive mysql Oracle 正则表达式
License 管理工具
1.负责 JavaWeb 项目服务的 license 证书生产工具开发,用于对部署时服务的有效期进行控制
2. 采用 Aes+Rsa 加密算法,对用户服务器信息加密然后,通过授权 license,然后解密验证,返回相应状态信息
1.负责 电力节能调度统一平台的界面开发,根据用户需求,编写前端页面,与后台功能逻辑实现,对用户登录权限 校验,角色与资源分配,展示实时数据,使用EChart展示数据变化情况.
2.负责 BPA辅助软件,参数管理模块的开发,用于对潮流文件数据进行管理,计算,修改,校验.
3.个人负责节能调度app(安卓客户端开发),对接web端数据,包含登录,注册,界面总览,统调信息,非统调信息,新能源,供热机组信息表格和曲线的查询展示
爬虫项目
1. 完成zf宝登录,多线程对批量账号校验是否注册,账号余额(特殊解码),实名信息的查询(Python+Selenium)
2. 对贴吧 自定义吧名的帖子,进行队列多线程爬取,并提取微信号,手机号码(python+requests+re)
3. 对大众点评网站的商品评论信息批量抓取(python+requests+正则表达式)
4. 解决透明售房网访问限制抓取数据(Java+IP 代理+Selenium+vpn)
5. 多线程爬取深圳安居房、公租房信息爬取,导出到 mysql 数据库和 excel 文件(python+IP 代理+requests)
6. 解析今日头条 js 加密算法,爬取数据(python+requests+正则表达式)
7. 多线程处理,搜狗输入法,词库数据采集,并将 scel 文件,解码转换成 txt 格式.(Python+requests+转码工具类)
8. j东模拟登陆,采集备件库信息,方便查看竞拍信息(C# Selenium+验证码图片拼图)
9. 1688 H5 页面公司信息采集和 pc 端网页公司信息多线程同步采集, 保存到数据库和 excel 文件,