ID:196265

fight for my love

爬虫工程师

  • 公司信息:
  • idataapi
  • 工作经验:
  • 1年
  • 兼职日薪:
  • 500元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 所在区域:
  • 深圳
  • 南山

技术能力

1.熟练使用python语言,linux开发环境;
2.熟悉数据库MongoDB、redis、SQL等的使用;
3.熟悉Docker技术的应用;
4.熟悉开发基于flask的爬虫接口;
5.掌握pythonWeb前端开发,个人网站:taojinmin.com;
6.熟悉抓包软件fiddler、chales的使用;
7.掌握selenium自动化工具的使用;
8.熟悉scrapy及其分布式系统设计的原理。

项目经验

1.YY的合作项目,开发脚本,定时获取大淘客上商品榜单的信息;
2.某咨询公司的亿级数据处理;
3.开发接口,获取微博的搜索内容;

案例展示

  • 分布式crawlab平台的应用

    分布式crawlab平台的应用

    将分布式平台crawlab集成到个人网站的8080端口,并且配置好redis、mongo以及主从服务器的节点,高效、直观地提高爬虫效率

  • 基于flask的爬虫接口的开发

    基于flask的爬虫接口的开发

    基于python的flask框架,开发爬虫接口,返回列表数据的详情;将爬取端的规则、逻辑等部分跟数据处理、储存分离。

查看案例列表(含更多 0 个案例)

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服