熟悉Python语言的动态执行机制,熟悉Django框架的主要特性的设计和实现机制,uwsgi/gunicon生产部署、Linux系统原理及基本操作、基本的Web安全、Web性能等方面的知识点、HTTP原理机制
项目名称:通过异步爬虫爬取HGMD,构建mysql数据库
项目描述:
对高通量测序数据进行数据分析时,需要对snp数据进行相关性筛选,为此需要构建基于mysql的基因突变数据库,对HGMD网站相关基因突变信息进行爬取,爬取内容包括基因名,染色体坐标,突变信息,致病信息等。爬取结果存储于mysql。
我的职责
1,采用asyncio+aiohttp以达成高并发,异步请求。
2,通过timeout设置超时重发机制,因为HGMD为国外网站,防止因为网络卡顿导致页面抓取不到产生数据不全的现象。
3,通过继承aiohttp.ClientSession类来保存cookie对象,以应对基于cookie的反扒策略
4,使用xpath进行页面解析,解析出的数据通过PyMysql模块存储于mysql数据库中