ID:174975

岳八岁 

高级python研发工程师

  • 公司信息:
  • 美团
  • 工作经验:
  • 4年
  • 兼职日薪:
  • 500元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 所在区域:
  • 其他
  • 全区

技术能力

前端技术:Vue.js、JQuery.js、Bootstrap、Element UI
后端技术:Django、Tornato、Flask
爬 虫:Requests、Scrapy、Scrapy-Redis 、pyppeteer
数 据 库:MySQL、MongoDB、Redis、Memcache
工 具:Git、Docker、SuperVisor、zabbix、celeyr、Siege
网 络:TCP/IP、HTTP、Websocket
项目部署:Nginx、Uwsgi 、Saltstack
机器学习:Numpy、Pandas、Matplotlib、SkLearn

项目经验

分布式爬虫爬取视频
框架搭建:MVP+ Retrofit+RxJava
详情:由于前期视频资源非常少,所以从各大商城爬取视频图片,以及数据,用来在灰度环境测试以及
责任描述:负责设计和开发基于 Scrapy 的分布式视频抓取系统 优化爬虫策略和防屏蔽规则。
利用 Redis 维护 ip 代理池,提升视频抓取的效率和质量。
主要技术:
⚫ 使用 Jenkins 自动化部署服务,提高系统可用性
⚫ 使用 Go lang 对抓取框架进行重构,提高了 200%的爬虫效率
⚫ 利用 Docker 对项目进行重新拆分和架构,减少项目模块之间的资源耦合度,实现 了持续集成
⚫ 使用 MarkDown 编写公司技术文档以及维护,定期维护团队的代码,与团队成员 共同进步
⚫ 使用 Selenium 针对反爬虫进行反复测试和改进抓取方案

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    0
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服