简介
pytorch多卡相应内容学习总结,本着勤能补拙的态度,希望能够更好地提升自我能力。
1. 服务器信息查询
CPU
查询
# 查看CPU信息cat /proc/cpuinfo | grep "physical id" | uniq | wc -l #查看CPU个数cat /proc/cpuinfo | grep "cpu cores" | uniq #查看CPU核数cat /proc/cpuinfo | grep 'model name' |uniq #查看CPU型号
GPU
查询
# 查看GPU信息sudo dpkg --list | grep nvidia-* # 查看驱动版本lshw -c video #查看显卡型号$ lspci | grep -i nvidia # 可以查询所有nvidia显卡$ lspci -v -s [显卡编号] # 可以查看显卡具体属性$ nvidia-smi # 可以查看显卡的显存利用率$ cat /etc/issue # 查看Linux发布版本号$ lsb_release -a # 查看Linux发布版本号$ uname -sr # 查看内核版本号$ uname -a # 查看内核版本号
lspci
是一种实用程序,用于在系统中显示有关pci总线的信息以及连接到它们的设备。
CUDA
版本
nvidia-smi # 右上角CUDA Version,但可能不准确,推荐使用下面命令nvcc -V
以nvcc -V
查询为主
- 实时查看
nvidia-smi
nvidia-smi -l 1 # 以每秒刷新一次进行信息,结果为1s一次输出nvidia-smi,不流畅,建议使用吓一条命令watch -n 1 nvidia-smi # 会在同一位置处1s更新窗口信息
2. torch.cuda
- 显卡信息查看
torch.cuda.is_available() # 查看是否有可用GPUtorch.cuda.device_count() # 查看GPU数量torch.cuda.get_device_capability(device) # 查看指定GPU容量torch.cuda.get_device_name(device) # 查看指定GPU名称torch.cuda.empty_cache() # 清空程序占用的GPU资源torch.cuda.manual_seed(seed) # 设置随机种子torch.cuda.manual_seed_all(seed) # 设置随机种子torch.cuda.get_device_properties(i) # i为第几张卡,显示该卡的详细信息
平时在模型中可以增肌信息输出
s = f'MODELtorch {torch.__version__} 'n = torch.cuda.device_count()space = ' ' * (len(s)+1)for d in range(n):p = torch.cuda.get_device_properties(d)s += f"{'' if d == 0 else space}CUDA:{d} ({p.name}, {p.total_memory / 1024 ** 2}MB)\n"# bytes to MBprint(s)
效果
- 指定使用显卡
通过os.environ["CUDA_VISIBLE_DEVICES"]
指定所要使用的显卡:
import osos.environ['CUDA_VISIBLE_DEVICES'] = "2,1,3,4"print("torch.cuda.device_count() {}".format(torch.cuda.device_count()))
这种设置方式,2
号卡就变成了主卡。CUDA_VISIBLE_DEVICES
表示当前可以被python环境程序检测到的显卡。os.environ["CUDA_VISIBLE_DEVICES"] = "2,1,3,4"
进行指定使用设备,这样会修改pytorch
感受的设备编号,pytorch
感知的编号还是从device:0
开始。如上会把2
号显卡改为device:0
,1
号显卡改为device:1
。
如果有多个显卡,设置了os.environ["CUDA_VISIBLE_DEVICES"]
后,其他没有设置的显卡将不会在本次代码中显示。os.environ["CUDA_VISIBLE_DEVICES"]
需要设置在代码开头。
另外,使用终端也可以直接选择选择显卡,输入CUDA_VISIBLE_DEVICES=0 python train.py
也可以
一些冷门知识补充(自取)
http://t.csdn.cn/mQH9y