熟悉java编程,常用的工具Eclipse,Hbuilder,idea,xshell,vmvare,navicate,kettle等
熟悉 Spring, Mybatis,SpringMVC,
了解常用的设计模式,了解并能使用简单的前端技术:HTML,CSS,JavaScript,JQuery,Jsp,Ajax等
了解kafka,hadoop,hive,
一.员工违规法院信息获取
1.利用jsoup对员工进行是否有法院违规信息的获取,并且使用tesst4j进行图片验证码的识别
2.利用kettle获取员工信息库中入职员工的姓名和身份证,调用写好的java代码获取法院信息和将获取的法院信息存储到数据库中,避免了在代码中进行数据库连接。
二:爬虫
1.对数据进行爬取,类似楼盘栋阁房号的会进行深度优先的爬取规则,并将数据存储到mongodb中,并且将该项目跟新为spring boot+dubbo的项目。
2.对数据进行清洗以及使用kettle抽取数据,将数据落地到业务库,形成公司自己的楼盘字典
3.对每天定时爬取的数据进行监控,以便出现异常时能及时反馈到人并能及时去处理形成闭环
三:自助分析平台
将用户在手机小程序上点击的消息通过kafka实时的反馈到页面供用时进行图片上传,圈选功能。以及在报表界面选择不同的指标与维度形成图形化样式提供给用户参考作为数据分析