nvidia-smi

看看使用情况

如:

设置环境变量指定使用的 GPU_CUDA

export CUDA_VISIBLE_DEVICES=0,1,2

指定使用的 GPU