Python 开发工程师/2017年6月-至今
广
作为组长负责设计和开发分布式网络爬虫系统,优化爬虫策略和防屏蔽规则,提升网页抓取的效率和质量。根据行业需求分析设计方案可行性,对项目代码进行测试优化,协助持续集成与自动化部署,提高系统可用性负责公司技术文档的编写以及维护,定期review团队的代码,与团队共同学习以及成长。
。 EngineGo 爬虫系统2春底痨秋阅鳞称魂膊迦习汰拿喘钙斩庄交哽摇臻嶂四喋椅仲镰跤音丑-至今与产品经理保持沟通,使用 Scrapy 框架 对爬虫模块进行重构,提高 200% 爬虫速度并减少服务器 20%CPU 负载。改进爬虫策略,降低 40% 被屏蔽的请求数。
。作为主要工程师设计以及开发物业模块,活动模块,实现报名,即时通知等 10 个功能。
使用 Docker 对项目进行拆分重新架构,减少业务模块之间的资源耦合实现持续集成与自动化部署。
OABC 客户管理系统2017年6月-2018年6月。基于海量数据,挖掘信息,建立模型,并将机器学习算法应用于业务环节,提升公司各环节效率。调研新技术在大数据领域的应用价值。
主导技术难题攻关,解决各类潜在系统技术风险,保证系统的可靠性以及稳定性。