使用docker搭建deepspeed多机多卡分布式微调大模型环境

前置环境：两台可以互通的centos服务器（服务器1、服务器2），docker，NVIDIA驱动 一、docker创建overlay共享网络 1）选用服务器1作为manage节点进行初始化，执行docker swarm init Swarm initialized: current node (ly
posted @ 2024-01-08 14:39  sunshine丶23  阅读(1106)  评论(0)  编辑  收藏  举报