·熟练使用Python及其标准库,各项社会工程技能,具备良好的编码能力
· 熟悉隐刀、uipat等主流RPA产品,能够熟练使用并快速构建RPA流程框架编写代码,拥有良好的项目经验和独立解决问
题的能力,构建完整的RPA框架层
· 了解基础的前端知识,熟悉网页抓取原理及技术,能够使用requests、selenium及Scrapy爬虫框架进行网页数据抓
取,pandas、numpy、matplotlib、pyecharts、openpyxl、xlwings等库进行数据处理及报表图例生成。
· 拥有 JS 逆向分析能力( hook 技术、 rpc 技术、过无限 debugger 、 webpack 打包、 jsdom 补环境、混淆分析、瑞
数、加速乐等安全产品处理与逆向)
· 熟悉MongoDB、Mysql等数据库的使用及Mysql语言的编写
商数据采集 爬虫工程师
采集 1688,京东,亚马逊等电商平台的数据
1.根据关键字搜索到所需要的数据
3.破解各种反爬措施(ip风控,请求参数逆向破解,验证码破解)
2.分布式规模采集数据(能日抓30万张页面,重构为异步爬虫,并优化网络性能与重新设计抓取策略,让单台低配置机器定
向抓取200万张页面,后负责维护该爬虫)
4.将数据清洗入库使用 MongoDB、MySQL 存储
角色 | 职位 |
负责人 | python数据采集,数据爬虫 |
队员 | 前端工程师 |