1. 计算机/互联网知识扎实、代码能力扎实、逻辑清晰、有技术追求;
2.熟悉linux下网络编程及多线程/进程开发模式;
3.掌握C/C++编程语言,对python语言有一定了解;
4.有一定的分布式系统设计的相关实战经验,对高并发请求下的系统的稳定性和可用性保障有一定实战经验;
5.对RPC系统、推荐系统、TensorFlow 推理系统有很深了解;
从实验到真实生产环境,对机器学习模型的部署是至关重要的,需要考虑到很多因素,例如服务速度和质量。目前看来,TensorflowServing是一个很好的选择。Tensorflow Serving是Google开源的一个服务系统,可以直接将训练好的模型上线并提供服务,网络上也有很多尝试在上面部署NMT之类的服务。TFServing具有如下明显的优势:
(1) 支持docker部署:(2) 支持多种通信方式:(3) 挂载模型简单:
负责:客户端开发,服务端开发
C++高性能 框架开发
RPC(Remote Procedure Call)—远程过程调用,它是一种通过网络从远程计算机程序上请求服务,而不需要了解底层网络技术的协议。比如两个不同的服务 A、B 部署在两台不同的机器上,那么服务 A 如果想要调用服务 B 中的某个方法该怎么办呢?使用 HTTP请求 当然
从实验到真实生产环境,对机器学习模型的部署是至关重要的,需要考虑到很多因素,例如服务速度和质量。目前看来,TensorflowServing是一个很好的选择。Tensorflow Serving是Google开源的一个服务系统,可以直接将训练好的模型上线并提供服务,网络上也有很多