hadoop框架
sparkstreaming,sparksql
mongodb,mysql,redis,es,hive
springcloud微服务,springboot
drools规则引擎
flume,kafka
通过flume采集服务端业务日志,将消息写入中间件kafka。通过新的flume服务将日志数据写入hive数据库,hive按天分区方便查询。同时spark treaming 实时消费kafka消息,实时统计分析数据。
实时统计任务根据经验模型,分析窗口时间内的业务日志,发现异常操作,并分析得到异常用户,异常设备,异常ip。将分析的结果存入redis以及es。