分析nvidia Megatron-LM分布式训练代码
详情...
分析https://github.com/NVIDIA/Megatron-LM代码(论文:https://arxiv.org/abs/1909.08053),讲解其数据并行和模型并行的实现方式,用tensorflow实现。 开发者可能需要理解pytorch代码,理解神经网络分布1000元/8小时
20天
20000元
2021-01-23
分析讲解deepspeed pipeline代码
详情...
一、需求描述: 微软的deepspeed(https://www.deepspeed.ai/)是一个高性能分布式神经网络训练系统。其实现了数据并行,模型并行,pipeline三种并行训练算法(https://www.deepspeed.ai/tutorials/pipeli1000元/8小时
10天
10000元
2021-01-23
建立神经网络,对比特币给出买入和卖出信号
详情...
建立神经网络,对比特币给出买入和卖出信号。 收集真实数据进行测试,收益率大于10%。 建立神经网络,对比特币给出买入和卖出信号。 收集真实数据进行测试,收益率大于10%。1000元/8小时
20天
20000元
2021-02-28