实时计算某电影网站相关数据点击量

基本信息

案例ID:141155

技术顾问:Haxp - 2年经验 - 上海

联系沟通

微信扫码,建群沟通

项目名称:实时计算某电影网站相关数据点击量

所属行业:企业服务 - 数据服务

->查看更多案例

案例介绍

此项目是一个实时统计计算某电影网站相关数据点击量的spark项目, 采用flume实时监听log文件, 发送到kafka消息队列进行消费, kafka集群使用zookeeper进行管理, spark进行拉去kafka消息, 进行数据处理, 将处理后的结果保存在redis非关系型数据库中。
此项目我主要负责数据的计算, 如何使计算更快, 有很多优化的地方, 比如将处理后的数据保存在数据库, 需要跟数据库建立一个连接, 发送完成关闭连接, 再发送再打开连接, 非常耗资源, 可以采用一个分区一个连接, 进行优化

相似案例推荐

其他人才的相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服