ID:132953

lyons 有团队

高级数据工程师

  • 公司信息:
  • 载信软件(帮我买)
  • 工作经验:
  • 10年
  • 兼职日薪:
  • 800元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 所在区域:
  • 上海
  • 浦东

技术能力

掌握Java、python平台技术,熟悉分布式框架springcloud、dubbo等
掌握http协议以及前端js框架jQuery、react等
掌握开源框架Selenium、webmagic、Scrapy等
掌握数据库mysql、mongodb、hbase等
掌握Elastic Search 技术
熟悉爬虫相关技术细节以及反爬手段

项目经验

爬取过国内外很多的电商网站,国内top10电商,如淘宝、天猫、京东、苏宁、国美、唯品等,主要采集商品信息、订单信息
国外如亚马逊全球网站,欧美大量电商网站,主要采集商品信息做海淘使用,实时下订单,后台订单、物流信息的采集等。

爬取过国内知名的网站:
1)如携程,途牛,采集票务以及酒店信息
2)美团、饿了么,采集店铺等其他信息

开发过完整的分布式爬虫框架,有自己专门的爬虫团队来做兼职,并且目前有人能够全职处理

团队情况

  • 整包服务: PC网站开发   H5网站开发   App开发   运维类开发   DBA开发   其他开发   
角色 职位
负责人 高级数据工程师
队员 后端工程师

案例展示

  • 网络爬虫系统

    网络爬虫系统

    系统采用java平台编写,以postgresql为存储源,采用多线程协调控制,主从结构模式; 主节点集中式存储metadata,调度、显示整个系统的运行状况,主要包括爬虫监控、周期性任务调度作业启动、DB维护、资源清理等Daemon线程; 爬虫节点执行具体的爬虫任务,主要包括心跳

  • 分布式采集系统

    分布式采集系统

    主要负责数据采集系统和比价系统开发与设计,系统主要采用springboot+dubbo+mysql+mongo架构,主要采集国内top电商平台商品价格数据、优惠券数据、图片数据,为文本比价和图片比价提供数据支撑。

查看案例列表(含更多 0 个案例)

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服