互联网+网上稽核查对企业生产,经营,贸易进行智能监管的一套辅助系统
项目一期上线后有两个突出的问题:
● ETL工具不稳定,时常会发生数据不一致情况
● 应用层在使用数据时,经常发生响应超时
以上两个问题,已经损害到公司的品牌形象,需要在系统编码架构向灵活、高可用方向调整,进行彻底的改造:
A、调整原有gbase数据库为 gbase(数据仓库)+ oracle(应用)结合,将应用连接到oracle上,解决gbase连接池(64个连接)不够,导致响应超时
B、利用gbase的OLAP特性做数据装载,清晰,加工,结合开源框架XXL-JOB 来做任务调度
C、从企业ERP系统采集数据,进行加密、压缩、分片传输,防止数据篡改,解决网络传输数据超时
D、使用IBM-MQ在海关跨网络之间进行传输数据,在消息接收方控制数据文件均匀装载,重试机制保证数据的最终一致性,大大提升了数据采集,入库的稳定性。项目一期能支撑50家企业,优化后压测的结果能支持到200家企业
E、对原有的SQL语句优化,提升数据库的执行效率
F、原有设计每家企业对应一套表,改为所有企业共享一套表,简化每家企业的配置,由原来对接一家企业需要2小时,优化到只需10分钟