ID:198682

arsMarvin

资深开发工程师(Python)

  • 公司信息:
  • 深圳世联行集团股份有限公司
  • 工作经验:
  • 5年
  • 兼职日薪:
  • 800元/8小时
  • 兼职时间:
  • 下班后
  • 周六
  • 周日
  • 所在区域:
  • 深圳
  • 南山

技术能力

主要工作经验为Python爬虫,也写过Python后台服务,写过一段时间Java Web.

· 熟悉HTTP、HTTPS等网络协议及数据抓包、分析
· 熟悉使用MySQL、Redis、MongoDB、Couchbase、PostgreSQL等常见数据库
· 熟悉反爬虫机制,处理账号限制、复杂验证码、模拟登陆等疑难问题的处理
· 熟悉基于正则表达式、xpath、CSS等的网页内容抽取
· 熟悉多线程、分布式爬虫


使用过的技术及工具:

Scrapy、Requests+Gevent、Flask、Message Queue、Xpath、Beautiful Soup、xml、RegExp、PyV8、Redis、PostgreSQL、Couchbase、Selenium + phantomjs、BloomFilter等。

项目经验

【企业数据采集】

· 采集企查查、天眼查企业数据(包括工商信息、法律诉讼、企业图谱、知识产权等)
· 使用Selenium+webdriver处理登陆,模拟滑块验证码拖动
· 使用MongoDB存储
· 最多200台虚拟机同时采集


突破以下主要反爬措施:
封IP、账号频次限制、普通selenium+webdriver被拦截问题、滑块验证码。

主要使用工具和软件:
Python、Selenium、Redis、Tornado、MongoDB、Requests、OpenCV、Beautifulsoup

信用行为

  • 接单
    0
  • 评价
    0
  • 收藏
    1
微信扫码,建群沟通

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在1小时内与您联系,1小时内精准确定人才

微信接收人才推送

关注猿急送微信平台,接收实时人才推送

接收人才推送
联系需求方端客服
联系需求方端客服