目前紧急需求,商品数据采集,
针对大数据检索及数据库优化-有solr,用的php
1.数据接口及验证:
我们有两个数据库,一个有千万级的原始数据,一个是几十万的商品出售数据,针对两个数据库写调用接口,token等安全配置,solr的配置优化(已有基础配置但很弱),根据solr对数据进行各条件的快速检索与显示(接口内容)
2.数据的清洗及上传商品数据的对比处理存储
将千万级的原始数据分表存储并关联
表格上传商品根据条件判断从数据接口中获取数据并对数据进行加工然后存传到商品出售数据库(多对多关系)(已开发一半,程序员离职)
3.商品的编辑(数据库的商品属性编辑),如价格,描述=