爬虫工程师经历
采集过的网站:
应用信息,历史版本,评论,下载量:App Store, 百度、360、应用宝、小米、豌豆荚、华为、联想、Oppo、魅族应用市场数据,
视频图片数据:抖音,YY直播,美拍,快手,火山,映客,
资讯类:网易新闻,今日头条,微信公众号文章,instagram, 微博,百度贴吧等;以及香港台湾美妆类网站,网站太多不列了,不下10个。
爬虫技术能力:
1、精通网页抓取的原理和技术,精通正则表达式,熟悉各种网络协议及数据交换标准,能够快速解析各类结构化及非结构化数据
2、能实现大规模文本、图片、视频数据抓取、清洗、存储等工作
3、对数据质量负责,提供数据分析报告,优化数据应用架构,支持产品研发。
4、精通常用的爬虫技术及架构,并能快速实现;熟悉爬虫核心技术研究以及爬虫策略优化
5、熟练使用selenium、phantomjs、scrapy-splash等爬虫工具
全栈开发工程师
开发平台经历:
运维平台,工单系统,CMDB系统,监控系统,DB自动化平台,配置中心,日志平台,移动端网站开发,钉钉内部服务开发。
技术能力:
1、需求分析,方案调研,架构设计,独立平台开发能力和项目主导能力
2、熟练使用的技术:vue,webpack, python, golang,
3、技术关键字:iview, vux, django, flask, gin,kafka,elasticsearch,filebeat,redis, rds
爬虫工程师经历
采集过的网站:
应用信息,历史版本,评论,下载量:App Store, 百度、360、应用宝、小米、豌豆荚、华为、联想、Oppo、魅族应用市场数据,
视频图片数据:抖音,YY直播,美拍,快手,火山,映客,
资讯类:网易新闻,今日头条,微信公众号文章,instagram, 微博,百度贴吧等;以及香港台湾美妆类网站,网站太多不列了,不下10个。
全栈开发工程师
开发平台经历:
运维平台,工单系统,CMDB系统,监控系统,DB自动化平台,配置中心,日志平台,移动端网站开发,钉钉内部服务开发。
应用信息,历史版本,评论,下载量:App Store, 百度、360、应用宝、小米、豌豆荚、华为、联想、Oppo、魅族应用市场数据, 视频图片数据:抖音,YY直播,美拍,快手,火山,映客, 资讯类:网易新闻,今日头条,微信公众号文章,instagram, 微博,百度贴吧等;以
全栈开发工程师 开发平台经历: 运维平台,工单系统,CMDB系统,监控系统,DB自动化平台,配置中心,日志平台,移动端网站开发,钉钉内部服务开发。