有良好的代码编写风格;
基于scrapy框架进行开发, 有生意参谋, 淘宝, 天猫网站分析, 抓取数据的经验;
独立负责过整个简单的系统爬虫网站的开发, 包括前端代码编写, 后端接口实现, 数据抓取并存储等, 基于
flask框架, requests模块, celery模块, redis数据库等, 熟练使用requests-html模块提取详情页中的相关信息;
参与过后台管理平台的开发, 有用户登录注册模块开发经验, 基于django框架, 异步邮件发送验证, MySQL数
据库的使用等;
参与过移动端项目开发, 有异步任务开发经验, 基于flask框架, 短信验证以及图片验证码的实现;
全栈开发,根据需求,自己设计前端和后台实现,使用django+html5+css+jQuery
熟悉Linux开发环境, 有自己的GitHub, 使用git进行代码管理.
熟悉matplotlib, numpy, pandas模块
熟练selenium+无头chrome or 无头Firefox
自建有IP代理池
1,基于flask的异步电商数据抓取系统---根据公司内部需求,抓取生意参谋部分品牌和品类的数据使用flask+celery+requests+redis作为后端实现异步执行爬虫,html5+jQuery+css作为前端入口页面的实现,并将入库的数据进行清洗,生成页面表格以及excel文档,并尝试进行了pyqt5实现桌面版应用
2,FRI分析系统---根据甲方公司要求,通过网络爬虫爬取各大美食团购网站的评论信息,分析目前大众舌尖上的美味使用scrapy框架,通过xpath提取数据少部分使用selenium配合无头浏览器进行抓取使用scrapy+redis组件实现分布式爬虫将数据简单处理存入mongodb
3,测试管理网站---根据公司内部需求,为测试人员自动生成测试报告,测试数据查询和缺陷录入,以及人员报工,自动发送风险邮件给指定人员,使用django+html5+css+jQuery