Horovod in Docker Horovod官方镜像安装,参考https://horovod.readthedocs.io/en/stable/docker_include.html。 但由于官方镜像没有显示CUDA等版本,因此很可能会出现版本不兼容的情况,需要根据自己的GPU来build镜像。参考,https://github.com/determined-ai/horovod/blob/master/docs/docker 2022-06-19 uncategorized
Triton Server——Model Serving Triton Server官方文档可以参考,https://github.com/triton-inference-server/server/blob/main/docs/quickstart.md 其支持的模型种类,参考,https://github.com/triton-inference-server/server/blob/main/docs/model_repository.md#mo 2022-06-19 uncategorized